美文网首页
前嗅ForeSpider脚本教程-链接抽取:自定义链接写脚本

前嗅ForeSpider脚本教程-链接抽取:自定义链接写脚本

作者: 前嗅大数据 | 来源:发表于2019-04-12 10:46 被阅读0次

今天,小编给大家带来的教程为:前嗅ForeSpider脚本教程-链接抽取中,自定义链接写脚本的实战教程。具体内容如下:

场景:当采集的链接不存在于任何位置,或者想要采集自定义的链接。 示例:天猫商品评论的链接。

商品评论的链接不在源码中,只能自己拼接评论链接。点击评论翻页,观察翻页规律。

取其中某一链接地址在网页中查看请求返回信息。删除个别不一致的请求参数,观察结果是否变化。可得到最简链接地址。

https://rate.tmall.com/list_detail_rate.htm?itemId=566879444630&spuId=950725258&sellerId=134363478&order=3¤tPage=2&append=0&content=1&tagId=&posi=&picture=&groupId=&ua=&callback=

脚本实例:

for(int i=0;i<10;i++){//取10页评论

url u;

u.title = "第+i+”页评论";

u.urlname = "https://rate.tmall.com/list_detail_rate.htm?itemId=566879444630&spuId=950725258&sellerId=134363478&order=3¤tPage=”+i+”&append=0&content=1&tagId=&posi=&picture=&groupId=&ua=&callback="; //第i页的评论链接地址

u.entryid = CHANN.id;

u.tmplid = 2;

RESULT.AddLink(u);

}

相关文章

网友评论

      本文标题:前嗅ForeSpider脚本教程-链接抽取:自定义链接写脚本

      本文链接:https://www.haomeiwen.com/subject/iybqwqtx.html