美文网首页
微信公众号及服务号文章爬取

微信公众号及服务号文章爬取

作者: YoriZ | 来源:发表于2021-06-14 14:27 被阅读0次

    使用Python爬取公众号文章主要两种方法:

    1. 通过爬取第三方公众号聚合网站
    2. 通过微信公众平台引用文章接口

    通过爬取第三方公众号聚合网站

    微信传送门已被封杀,现存可用的是搜狗微信搜索,2013年腾讯以39.2%的持股和52.3%的投票权,成为搜狗第一大股东,2020年腾讯全资147亿收购搜狗,可以说搜狗已是腾讯的样子,而自2013年开始搜狗搜索就接入了微信公众号数据,因此实际上也能看做第一方的搜索接口。

    域名:https://weixin.sogou.com/

    搜狗微信首页

    可以直接搜索公众号或文章关键字获取数据,但是此方法有个比较大的问题,只能搜索公众号内容,而很多公众号其实是服务号,服务号使用此方法是搜索不到任何数据的,因此需要另一种方式进行爬取。

    通过微信公众平台引用文章接口

    这个接口无法匿名访问,因此需要注册一个公众号进行操作
    具体操作步骤:登录微信公众号,首页选择创作图文消息,在编辑工具栏找到超链接,在公众号一栏选择其他公众号,之后输入需要获取的公众号名字进行搜索就会出现相匹配的公众号列表,最后点击所需公众号,就会以时间倒序方式显示具体文章列表,如下图:

    公众号文章列表获取操作流程
    之后通过chrome进行分析
    网络请求获取到所需接口,如下图 接口请求方法

    返回数据格式,如下图:


    接口返回数据

    爬取原理基本就结束了,具体接口分析过程较为简单就不列了。

    由于微信公众平台登录验证较为严格,登陆时还需要进行收集扫码确认,因此确认最终使用selenium自动化进行登录获取cookiestoken的工作,访问接口则使用requests,而因为详细文章数据是js动态加载出来,因此在这里依然选择通过selenium自动化获取页面,之后就可以通过xpath等方法获得文章内容。

    资料查询中有网友称,此接口有访问频次限制,最少的出现过爬200篇文章就被封的现象,因此频率最好尽可能设置一个较大范围的随机数,且控制频率不要过多,代理无用,因为你是需要登录进行操作的。[手动狗头]

    源码我想着放上来太长了,如需请留言。

    相关文章

      网友评论

          本文标题:微信公众号及服务号文章爬取

          本文链接:https://www.haomeiwen.com/subject/gntoeltx.html