美文网首页
scrapy第一课

scrapy第一课

作者: 光光的杂货铺 | 来源:发表于2016-10-13 16:00 被阅读0次

准备环境:
一、pip list :查看python2.7当前安装哪些包

         二、安装必须的包,如存在此步骤略过
              lxml:pip install lxml==3.4.2
              setuptools
              OpenSSL
          三、安装scrapy
                pip install scrapy 

           四、pip list:查看需要的包是否安装

注:
windows端安装遇到的问题

![Paste_Image.png](https://img.haomeiwen.com/i3276802/ 28c4b4ace2830ed1.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)
图上是由于缺少VCForPython27导致,下载安装即可
2.cmd程序最好以管理员身份运行,以免出现不必要的麻烦

scrapy使用步骤
1.生成项目
scrapy startproject project_name
cd project_name
2.生成代码框架
scrapy genspider example example.com
3编写数据收集方面的代码
4.执行代码
scrapy crwal example

-- coding: utf-8 --import scrapy

class AmoebaSpider(scrapy.Spider):
#name:用于区别不同的Spider,要求唯一 ,也是scrapy genspider Spider1 example.com命令中的 Spider1
name = "amoeba"
allowed_domains = ["amoeba.com"]
#start_urls包含Spider在启动时进行爬取的url列表
start_urls = ( 'http://www.amoeba.com/', )
#spider的一个方法,url下载完成后的Response对象作为唯一参数传给该函数,
# parse方法的功用:
# 1.负责解析返回的数据:
# 2.提取数据(生成Item);
# 3.生成需要进一步处理的Request对象
def parse(self, response):
pass

Paste_Image.png

相关文章

  • 简单 Scrapy 使用小结

    Scrapy 安装Scrapy pip install scrapy Scrapy Doc 查看Scrapy的文档...

  • scrapy第一课

    准备环境:一、pip list :查看python2.7当前安装哪些包 注:windows端安装遇到的问题 ![P...

  • scrapy框架

    一、scrapy简介 二、scrapy原理 三、scrapy工作流程 四、scrapy框架的创建 五、scrapy...

  • Scrapy笔记

    Scrapy笔记 安装scrapy框架: 安装scrapy:通过pip install scrapy即可安装。 如...

  • scrapy笔记

    1 scrapy的运行原理 参考:Learning Scrapy笔记(三)- Scrapy基础Scrapy爬虫入门...

  • Scrapy基础(一): 安装和使用

    安装 新建scrapy项目 目录 scrapy模板 使用pycharm调试scrapy执行流程 scrapy 终端...

  • python爬虫13:scrapy

    scrapy的结构 scrapy的工作原理 scrapy的用法

  • Scrapy笔记

    Scrapy笔记 pip 指定源安装模块 创建Scrapy项目 创建Scrapy爬虫程序 启动Scrapy爬虫 在...

  • PyCharm运行和调试Scrapy

    前言: PyCharm运行和调试Scrapy,首先需要安装Scrapy,安装Scrapy请点链接Scrapy的安装...

  • 11- Scrapy-Redis分布式

    Scrapy和Scrapy-Redis的区别 安装Scrapy-Redis Scrapy-Redis介绍 提供了下...

网友评论

      本文标题:scrapy第一课

      本文链接:https://www.haomeiwen.com/subject/fgrwyttx.html