美文网首页
scrapy 爬网站 显示 Filtered offsite r

scrapy 爬网站 显示 Filtered offsite r

作者: 暴雨梨花 | 来源:发表于2016-07-23 13:29 被阅读0次

    2015-11-07 14:43:43+0800 [meizitu] DEBUG: Filtered offsite request to 'bbs.zol.com.cn':

    这条日志记录有点奇怪 果断上网百度 ,找到答案

    官方对这个的解释,是你要request的地址和allow_domain里面的冲突,从而被过滤掉。可以停用过滤功能。

    yield Request(url, callback=self.parse_item, dont_filter=True)

    相关文章

      网友评论

          本文标题:scrapy 爬网站 显示 Filtered offsite r

          本文链接:https://www.haomeiwen.com/subject/yvbjtttx.html