Tornado Documentation
› http://www.v2ex.com/tornado/
Tornado on GitHub
› https://github.com/facebook/tornado/
Tornado Gists
› http://tornadogists.org/
foomorrow
V2EX  ›  Tornado

Tornado中有个handler执行一条时间很长的sql,导致其他正访问网站的连接也会一起等待

  •  
  •   foomorrow · Oct 16, 2013 · 10681 views
    This topic created in 4766 days ago, the information mentioned may be changed or developed.
    我的/a 这个handler中,有个要查询很长时间的sql,大概5秒。在这5秒期间 有其他用户访问tornado网站 也会跟着一起等待,这个有没有办法解决呢。
    21 replies  •  1970-01-01 08:00:00 +08:00
    Livid
    Livid
    MOD
    PRO
    Oct 16, 2013 via iPhone
    1
    启动多个 Tornado,然后通过 Nginx 做负载均衡。
    shiny
    shiny
    PRO
    Oct 16, 2013❤️1
    2
    用异步的数据库驱动。。。
    foomorrow
    foomorrow
    OP
    Oct 16, 2013
    3
    @Livid 目前是这么做的 由于服务器是双核 所以就用supervisor开了2个实例
    foomorrow
    foomorrow
    OP
    Oct 16, 2013
    4
    @shiny 我现在用的是sqlalchemy。尝试写成
    jsonmap = yield gen.Task(self.get_data)
    这个样子 是否可行?
    ipconfiger
    ipconfiger
    Oct 16, 2013
    5
    @foomorrow 没用的,可以试试我的这个项目 https://github.com/ipconfiger/TorCast 将长时间执行的任务用redis分发到后端的worker进程,然后异步等待返回
    Livid
    Livid
    MOD
    PRO
    Oct 16, 2013 via iPhone
    6
    @foomorrow 如果不会经常锁表的话,多开几个进程吧。
    est
    est
    Oct 16, 2013
    7
    @foomorrow @shiny 我觉得 @ipconfiger 说的是对的。如果你db卡了。前端在怎么异步都没用。因为无论你多少个tornado实例,最终heavylifting还是一个mysqld 进程来执行所有查询操作。
    shiny
    shiny
    PRO
    Oct 16, 2013
    8
    @est 但是 mysql 有多线程啊亲!起码不会影响其他用户的访问。
    est
    est
    Oct 16, 2013
    9
    @shiny 你猜猜mysqld默认线程上限是多少个?
    shiny
    shiny
    PRO
    Oct 16, 2013
    10
    @est 明白了,不过用队列代码会越来越复杂…… 还是优化 SQL、拆分数据库、加缓存方便?
    est
    est
    Oct 16, 2013❤️2
    11
    @shiny 数据库是瓶颈就应该调教数据库。

    比如我这里

    show variables like 'max_connections';
    +-----------------+-------+
    | Variable_name | Value |
    +-----------------+-------+
    | max_connections | 151 |
    +-----------------+-------+
    1 row in set (0.00 sec)


    如果 show variables like 'thread_handling'; 返回 one-thread-per-connection

    再假设一个用户一个连接,每个连接查询5秒,你可以很容易算出来自己的服务器每秒钟能最多接待多少用户。
    ipconfiger
    ipconfiger
    Oct 16, 2013
    12
    @shiny 如果要执行5秒的数据库操作,你打算优化的目标是多少? 用我的异步队列方案的话你可以和网站复用相同的业务逻辑代码,我自己的项目就是复用同一份逻辑代码,所以不会增加代码复杂度,不过这个要看你的设计功力了。
    wwqgtxx
    wwqgtxx
    Oct 16, 2013 via Android
    13
    感觉需要优化一下sql性能,看看有没有办法优化mysql,或者可能的话把数据库服务器和网站服务器分离,可能会好一些
    zenliver
    zenliver
    Oct 16, 2013
    14
    1. 优化mysqli性能, 2. 用future.executor
    VYSE
    VYSE
    Oct 16, 2013 via Android
    15
    以前碰到这种情况就两个选择,换pg或换FLASK+GEVENT。你也可以试试一些改的ASYNC MYSQLDB
    superisaac
    superisaac
    Oct 17, 2013
    16
    haha, 用这种异步框架又非原生异步的典型问题之一。
    foomorrow
    foomorrow
    OP
    Oct 17, 2013
    18
    那如果是这样的话 那tornado比nodejs的优势在哪呢
    zenliver
    zenliver
    Oct 17, 2013
    19
    @foomorrow 差不多的东西, 唯一的区别是nodejs中你能用到的基本都异步实现的, tornado就少了
    unionx
    unionx
    Oct 18, 2013
    20
    @VYSE pg就不需要异步读取数据库或者缓存了么?
    VYSE
    VYSE
    Oct 28, 2013
    21
    @unionx pg主要有原生的异步库,mysql搞gevent+umysql倒是可以,tornado框架下就少有好的方案了
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3726 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 57ms · UTC 05:23 · PVG 13:23 · LAX 21:23 · JFK 00:23
    ♥ Do have faith in what you're doing.