美文网首页
17.scrapy-redis多页抓取之远程连接redis服务器

17.scrapy-redis多页抓取之远程连接redis服务器

作者: starrymusic | 来源:发表于2019-04-01 17:11 被阅读0次

    本章只需在第15篇文章的基础上在settings.py文件中加上远程redis的信息即可。

    REDIS_HOST = "192.168.1.4"  # 这是我虚拟机的ip地址
    REDIS_PORT = 6379
    REDIS_PARAMS = { 
    'password':'111111' ,   
    }
    

    第一个是主机名,如果是使用的虚拟机,一般为虚拟机网络的ipv4地址。



    第二个是端口号,第三个是通过redis客户端设置的密码,也可以不设置。
    这时就可以像第16篇文章一样在cmd.exe里执行拉勾的爬虫操作

    scrapy runspider lagou.py
    

    当显示等待输入网址时,在linux主机上输入lpush的信息即可。
    上面这些代码可以换成:

    REDIS_URL = 'redis://:111111@192.168.1.4:6379'
    

    相关文章

      网友评论

          本文标题:17.scrapy-redis多页抓取之远程连接redis服务器

          本文链接:https://www.haomeiwen.com/subject/yozvbqtx.html