美文网首页Python
[PySpider]任务阻塞Active状态解决

[PySpider]任务阻塞Active状态解决

作者: _小老虎_ | 来源:发表于2018-11-28 11:38 被阅读22次
    • 1.查看 fetcher 日志,看看它在干嘛
    • 2.一般是fetcher在堆积了很多任务后开始出错,timeout,程序调试时出错的网址可以正常运行的,最后发现多开几个fetcher和processor就没问题了
    如果机器没问题,多开一些 fetcher和processor
    for i in `seq 1 5`; do
        supervise -p "var/run/status/pyspider_pr_${i}/" -f "bin/pyspider -c boot_conf/config.json processor"
    done
    
    for i in `seq 1 50`; do
        supervise -p "var/run/status/pyspider_fetch_${i}/" -f "bin/pyspider -c boot_conf/config.json fetcher"
    done
    

    参考:https://segmentfault.com/q/1010000009088512

    相关文章

      网友评论

        本文标题:[PySpider]任务阻塞Active状态解决

        本文链接:https://www.haomeiwen.com/subject/lujaqqtx.html