Scrapy安装

作者: 秦子帅 | 来源:发表于2018-06-08 09:21 被阅读33次

Scrapy简介

Scrapy,Python开发的一个快速、高层次的屏幕抓取和web抓取框架,用于抓取web站点并从页面中提取结构化的数据。Scrapy用途广泛,可以用于数据挖掘、监测和自动化测试。

Windows下安装Scrapy

直接通过pip安装

pip install scrapy

当然不是这么简单的了,会出现错误,例如下面两个错误:


错误1 错误2

经常看我文章的朋友对这个错误非常熟悉,没错,和我们安装wordcloud是一样的。

解决方法
直接访问下面的网址,根据你的电脑和py版本下载对应的whl文件
https://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted

下载完成后,把whl文件放在pip路径下,输入下面的代码,记住代码的whl文件名一定是适合你的文件名,我只是举例:


pip install Twisted-18.4.0-cp36-cp36m-win32.whl

运行后会显示安装成功


然后我们查一下scrapy的版本

scrapy version -v

大家可以关注我的微信公众号:「秦子帅」一个有质量、有态度的公众号!

相关文章

网友评论

  • 知识学者:dflx@dflx:~$ scrapy version -v
    Scrapy : 1.5.0
    lxml : 4.1.1.0
    libxml2 : 2.9.7
    cssselect : 1.0.3
    parsel : 1.4.0
    w3lib : 1.19.0
    Twisted : 18.4.0
    Python : 3.6.4 |Anaconda custom (64-bit)| (default, Jan 16 2018, 18:10:19) - [GCC 7.2.0]
    pyOpenSSL : 18.0.0 (OpenSSL 1.1.0h 27 Mar 2018)
    cryptography : 2.2.2
    :joy:

本文标题:Scrapy安装

本文链接:https://www.haomeiwen.com/subject/tjbwsftx.html