美文网首页
scrapy1.5 代理设置

scrapy1.5 代理设置

作者: 魔童转世 | 来源:发表于2018-08-15 20:50 被阅读0次

1、下载设置代理ip
2、正常访问设置代理ip

下载设置代理ip

1、设置setting

DOWNLOADER_MIDDLEWARES = {
   'enduction.middlewares.EnductionDownloaderMiddleware': 543,
}

2、编写代码

    def process_request(self, request, spider):
           request.meta["proxy"]=http:// +地址+端口号

正常访问设置代理ip

重写spider

    def start_requests(self):
        for url in self.start_urls:
                yield scrapy.Request(url,meta={'proxy':http:// +地址+端口号},callback=self.parse)

相关文章

网友评论

      本文标题:scrapy1.5 代理设置

      本文链接:https://www.haomeiwen.com/subject/thkgbftx.html