美文网首页大数据程序员
爬下几万条数据,聊聊淘宝上的飞机杯

爬下几万条数据,聊聊淘宝上的飞机杯

作者: 造数科技 | 来源:发表于2017-09-03 11:25 被阅读0次

温馨提示,本文某些内容可能会引起不适

目标:爬取淘宝上关键词为“飞机杯”的商品数据,和销量前十的所有评论。

工具:Python Scrapy 爬数据,Excel + World Cloud 分析数据

数据抓取


简单找出翻页方法,数据都藏在这里

https://s.taobao.com/search?data-key=s&data-value=44&ajax=true&_ksTS=1504329067199_977&callback=jsonp978&q=%E9%A3%9E%E6%9C%BA%E6%9D%AF&imgfile=&commend=all&ssid=s5-e&search_type=item&sourceId=tb.index&spm=a21bo.50862.201856-taobao-item.1&ie=utf8&initiative_id=tbindexz_20170902&bcoffset=4&p4ppushleft=%2C48

https://s.taobao.com/search?data-key=s&data-value=88&ajax=true&_ksTS=1504329110124_1174&callback=jsonp1175&q=%E9%A3%9E%E6%9C%BA%E6%9D%AF&imgfile=&commend=all&ssid=s5-e&search_type=item&sourceId=tb.index&spm=a21bo.50862.201856-taobao-item.1&ie=utf8&initiative_id=tbindexz_20170902&bcoffset=4&p4ppushleft=%2C48&s=44

https://s.taobao.com/search?data-key=s&data-value=132&ajax=true&_ksTS=1504329292131_1421&callback=jsonp1422&q=%E9%A3%9E%E6%9C%BA%E6%9D%AF&imgfile=&commend=all&ssid=s5-e&search_type=item&sourceId=tb.index&spm=a21bo.50862.201856-taobao-item.1&ie=utf8&initiative_id=tbindexz_20170902&bcoffset=4&p4ppushleft=%2C48&s=88

做好相应的应对措施就好了,不会的可以看看之前的 爬虫三步走(一)获取源码

数据解读

在进行简单数据处理后,看看发现了什么?

竟然在10-20元有这么多商品,哇,难以想象。

你平时买多少的?

我们看看销量


看来大多数飞机杯销量都不大好,在40下,我们来研究下销量大于10K的,有这些:

价格是亮点

最后我们来研究下评论。



使用评论做成的图云


商品种类的词云

太污了,我还只是个孩纸

商品名称词云

最后来试试情感分析, 参考了@王树义 老师写的 如何用Python做情感分析?

主要用到了snownlpTextBlob

Sentiment(polarity=0.9578947368421052, subjectivity=0.6252631578947367)

0.96,看来人们的评价还是极高的。

如果你想购买某件商品,可以先把评论抓了,然后做个分析什么的。这可能就是学Python的应用吧~

最后

其实数据采集不算难,最难的是分析清理,因为本人能力不够,对数据挖掘尚浅。就飞机杯数据来说,还有很深的信息可以挖掘,如果你感兴趣,可以来公众号获取。

公众号:萌新的学习日记 爬下几万条数据,聊聊淘宝上的飞机杯

相关文章

网友评论

    本文标题:爬下几万条数据,聊聊淘宝上的飞机杯

    本文链接:https://www.haomeiwen.com/subject/nmgdjxtx.html