美文网首页
記第一次JS動態的小小爬蟲

記第一次JS動態的小小爬蟲

作者: 杨昊_6c65 | 来源:发表于2019-12-10 12:02 被阅读0次

https://yunhai.ctrip.com/Games/6
無聊打算嘗試爬下裏面的數據列表,發現網頁源代碼裏面找不到想要的數據= =。。
后發現是JS動態加持,也不知道怎麽提取domain
看了一下https://www.jianshu.com/p/9de3be54abc1
這裏的介紹
然後到這

image.png
copy domain (https://yunhai.ctrip.com/api/games/data/6

剩下就是一頓提取啦

import requests
import json
from bs4 import BeautifulSoup
import bs4
import pandas as pd

#提取到的網站
url = 'https://yunhai.ctrip.com/api/games/data/6'

#經典二連
r = requests.get(url)
html = r.text

#我也不知道我在幹嘛 花里胡哨的轉格式
data=json.loads(html)
k = data['DataDesc']
soup = BeautifulSoup(k,'html.parser')

#創兩個list,一個放中文,一個放英文
a = []
b = []

for tr in soup.find('tbody').children:
        if isinstance(tr,bs4.element.Tag):
            tds = tr('td')
            a.append(tds[0].string)
            b.append(tds[1].string)

#轉dataframe
data = pd.DataFrame(a,columns = ['label'])
data['chinese'] = b
data
完成

相关文章

  • 記第一次JS動態的小小爬蟲

    https://yunhai.ctrip.com/Games/6無聊打算嘗試爬下裏面的數據列表,發現網頁源代碼裏面...

  • 日语语法必会

    动词的四种语态 能動態/受動態(受け身態)/可能・自発態/使役態 能動態:一般形态 受動態(受け身態): 被动态 ...

  • 成人的世界便是不動聲色

    當你高興時,要記得保持儀態。 當你悲傷時,要記得保持客觀。 當你感動時,要記得保持淡定。 當你憤怒時,要記得保持寬...

  • 亢達尼里動態靜心分享

    【亢達尼里動態靜心分享】 黃老師讓我們認識了亢達尼里動態靜心,還記得剛開始做亢達尼里時,每個階段我都會希望快結束,...

  • 風的斷層

    風的斷層 風字裡有蟲子,蟲曾是動物的總稱。太古人 認為風一動就蟲生。總之,風是一切生物的母胎。 我出生那天,吹著藍...

  • 《易經》三劍客(續八)

    《易經》三劍客(續八) 《蠱》亦有男女相動之象。《春秋左傳》中有記述:何謂蠱?對曰:淫溺惑亂之所生也。於文,皿蟲為...

  • 草蟲記……

  • 昆蟲記

    他們在自己那小小的世界中就如同長說此行大惡的猛烈和長著有教的眉毛的吸引你在他們那高級世界中的情況一樣。 你剛才...

  • 2021-07-21

    隨著忘憂島故事的結尾。一時沒了日更的動力。訴說變成了真空狀態……還記得幾年前在筆記本上的寫字,只是胡亂的紀錄些感想...

  • 動態視野

    看房的時候,以我的腦子?,只看戶型圖根本看不出採光情況。只有結合樓層平面圖,還得有人指點,纔能看出一點門道。要是以...

网友评论

      本文标题:記第一次JS動態的小小爬蟲

      本文链接:https://www.haomeiwen.com/subject/wuawgctx.html