美文网首页
python爬取QQ音乐歌单歌曲保存到本地,json解析

python爬取QQ音乐歌单歌曲保存到本地,json解析

作者: 我大声_你温柔 | 来源:发表于2017-08-26 23:33 被阅读0次

    序:python强大的功能,可以爬取网上的某些信息,本次主要是通过爬歌单信息熟悉下python基础。

    用到知识点:

    1、python3、urllib.request.openurl

    2、json (json字符串解析为python对象)

    3、python 文件操作,爬取到的信息写入txt文本。

    4、list、dict相关操作、遍历,str字符截取。

    5、字符编码相关utf-8

    首先,我们要先分析要爬取的内容,我们要获取到的是歌单的歌曲和歌手信息,那么我们就是要想办法知道歌单下的歌曲信息在网页的那部分。

    于是我们按F12切换浏览器到开发者模式,定位到歌曲名称:

    歌曲名称在<span>标签下的<a>标签中,那我们获取到网页内容,用正则或者bs4解析出这部分就可以了。于是我们开始写代码。

    歌单地址:https://y.qq.com/n/yqq/playlist/2069407274.html#&dirid=8

    可是高兴得太早了,我们用python获取到的歌单网址的内容中,并没有找到歌曲的相关信息,也就是歌单网址返回的html代码并没有歌曲信息,那我们猜测就是通过js获取的了,于是,我们还是要分析请求网页的过程,浏览器F12,切换到网络模式,刷新网页

    于是我们就是要一个个寻找有没有哪个链接是返回歌曲信息数据,看到下面的图没有,响应的信息就是歌单的信息,并且有歌曲信息,返回的是json格式的数据,那这样我们就是通过下面找到的链接,请求链接得到响应的json字符串,然后用python去解析。

    我们先定义个url:

    url='https://c.y.qq.com/qzone/fcg-bin/fcg_ucc_getcdinfo_byids_cp.fcg?type=1&json=1&utf8=1&onlysong=0&disstid=2069407274&format=jsonp&g_tk=1919827772&jsonpCallback=playlistinfoCallback&loginUin=0&hostUin=0&format=jsonp&inCharset=utf8&outCharset=utf-8¬ice=0&platform=yqq&needNewCode=0'

    htmlreq=urllib.request.urlopen(url)

    htmldoc=htmlreq.read().decode('utf-8')

    #print(htmldoc)#获取网页内容

    以上代码获取到url链接返回的数据,注意,read的时候要加字符编码.decode('utf-8')不然中文会出现乱码。

    获取到的json字符串如下,是的,这个并不是严格的json字符串,前面包含了playlistinfoCallback()

    要得到规范的json字符串,我们需要把playlistinfoCallback()去掉

    #把playlistinfoCallback(......)去掉,只留...的json数据

    mydata=htmldoc[21:len(htmldoc)-1]

    我们把得到的json字符串复制到网上的json在线解析的网站上格式化下,得到如下json数据;

    分析json数据,歌曲信息是在songlist下面,是一个list,每首歌是一个json字典对象。

    #解析json字符串,转换为python对象

    jsondata=json.loads(mydata)

    #print(type(jsondata)) 解析json后得到的是python dict字典对象

    cdlist=jsondata.get('cdlist')

    cdlistDict=cdlist[0]

    #print(cdlistDict)

    songlist=cdlistDict.get('songlist')

    上面代码是python解析json字符串后,得到的python对象,是dict 字典,字典下面又包含有list,list下面又包含有dict对象,于是,我们就需要访问这些对象,得到我们的歌曲和歌手信息。

    我们需要遍历里面的list对象,跟进键值对找到相应信息。

    songlist=cdlistDict.get('songlist')

    #这段是打印的

    for i in songlist:

    print('歌曲名:'+i.get('songname') )

    #+ '  歌手:'+i.get('singer')[0].get('name')+'&'+i.get('singer')[1].get('name'))

    for j in i.get('singer'):

    print('歌手:'+j.get('name'))

    print('\n')

    歌手信息是list[]类型,有些有一个,有些有两个歌手,于是我们不管,直接for循环遍历把歌手信息都遍历出来。

    我们打印出的就是我们想要的歌单的歌曲信息。下面我们要考虑如何保存到txt文本文件里。

    #打开文件,注意编码:utf-8,不然写到txt里的中文会乱码。

    f=open('song.txt', 'w',encoding='utf8')

    for i in songlist:

         f.writelines('歌曲名:'+i.get('songname')+'\t'+'\t'+'\t'+'歌手:')

         for j in i.get('singer'):

              f.writelines(j.get('name')+'\t')

             f.writelines('\n')

    for循环遍历,写入txt文件中。

    最后,记得f.close()关闭。

    下面就是我们得到的txt文本文件,里面包含了歌单的歌曲和歌手信息。

    相关文章

      网友评论

          本文标题:python爬取QQ音乐歌单歌曲保存到本地,json解析

          本文链接:https://www.haomeiwen.com/subject/evivdxtx.html