美文网首页
无标题文章

无标题文章

作者: sidian | 来源:发表于2016-02-23 18:10 被阅读0次

    获取给定的URL并使用相应的spider分析处理。

    --spider=SPIDER: 跳过自动检测spider并强制使用特定的spider

    --a NAME=VALUE: 设置spider的参数(可能被重复)

    --callback or -c: spider中用于解析返回(response)的回调函数

    --pipelines: 在pipeline中处理item

    --rules or -r: 使用 CrawlSpider 规则来发现用来解析返回(response)的回调函数

    --noitems: 不显示爬取到的item

    --nolinks: 不显示提取到的链接

    --nocolour: 避免使用pygments对输出着色

    --depth or -d: 指定跟进链接请求的层次数(默认: 1)

    --verbose or -v: 显示每个请求的详细信息

    相关文章

      网友评论

          本文标题:无标题文章

          本文链接:https://www.haomeiwen.com/subject/ywobkttx.html