Scrapy

作者: 錦魚 | 来源:发表于2019-01-08 14:19 被阅读0次

pip3 install Scrapy

1.创建项目

  • scrapy startproject chinaz

2.进入到spiders文件夹下,创建爬虫文件

  • scrapy genspider 爬虫文件名称 网站的域

3.使用pycharm打开文件

scrapy项目的架构
外层有
chinaz:项目文件夹

spiders:爬虫文件(存放所有的爬虫文件)

zzw.py:爬虫文件(解析Response响应,提取目标数据与url)

items.py:编写要趴取得字段
middlewares.py:中间件(爬虫中间件,下载中间件)
pipelines.py:数据管道(在这里做数据持有化)
settings.py:预制文件(设置请求头,设置下载延时,设置是否遵守roboot协议,激活管道文件....)

scrapy.cfg:配置文件(部署项目的时候会用到)

相关文章

  • 简单 Scrapy 使用小结

    Scrapy 安装Scrapy pip install scrapy Scrapy Doc 查看Scrapy的文档...

  • scrapy框架

    一、scrapy简介 二、scrapy原理 三、scrapy工作流程 四、scrapy框架的创建 五、scrapy...

  • Scrapy笔记

    Scrapy笔记 安装scrapy框架: 安装scrapy:通过pip install scrapy即可安装。 如...

  • scrapy笔记

    1 scrapy的运行原理 参考:Learning Scrapy笔记(三)- Scrapy基础Scrapy爬虫入门...

  • Scrapy基础(一): 安装和使用

    安装 新建scrapy项目 目录 scrapy模板 使用pycharm调试scrapy执行流程 scrapy 终端...

  • python爬虫13:scrapy

    scrapy的结构 scrapy的工作原理 scrapy的用法

  • Scrapy笔记

    Scrapy笔记 pip 指定源安装模块 创建Scrapy项目 创建Scrapy爬虫程序 启动Scrapy爬虫 在...

  • PyCharm运行和调试Scrapy

    前言: PyCharm运行和调试Scrapy,首先需要安装Scrapy,安装Scrapy请点链接Scrapy的安装...

  • 11- Scrapy-Redis分布式

    Scrapy和Scrapy-Redis的区别 安装Scrapy-Redis Scrapy-Redis介绍 提供了下...

  • scrapy框架基本使用

    scrapy基本介绍 scrapy VS requests Mac安装 conda install scrapy ...

网友评论

      本文标题:Scrapy

      本文链接:https://www.haomeiwen.com/subject/gehhcqtx.html