美文网首页
no more duplicates will be shown

no more duplicates will be shown

作者: 不能没有音乐 | 来源:发表于2021-03-04 17:57 被阅读0次
2021-03-04 17:53:32 [scrapy.dupefilters] DEBUG: Filtered duplicate request: <GET http://wangzhezixun.com/php/queryVx.php?hero=%E5%A4%8F%E6%B4%9B%E7%89%B9&code=0> - no more duplicates will be shown (see DUPEFILTER_
DEBUG to show all duplicates)

因为scrapy会去掉重复的链接,所以当请求一次没有获取数据时,想要换个代理ip继续请求要加上dont_filter=True

yield scrapy.Request(url=response.url, headers=self.headers, dont_filter=True ,callback=self.parse)

相关文章

网友评论

      本文标题:no more duplicates will be shown

      本文链接:https://www.haomeiwen.com/subject/lmbkqltx.html