问题
selenium爬取数据时出现如下错误:
selenium.common.exceptions.StaleElementReferenceException: Message: stale element reference: element is not attached to the page document (Session info: chrome=102.0.5005.63)
分析
这是网页没有加载完毕,就开始爬取。
解决方法
方法1 :使用 sleep(1)
, 但效果不好。
方法2: 最终使用等待网页的最后一个元素加载完毕,再爬取数据。
代码
假设最后一个元素的class 是 layui-layer-move
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.support.wait import WebDriverWait
from selenium.webdriver.common.by import By
wd = webdriver.Chrome(service=Service(r'd:\webdrivers\chromedriver.exe'))
wait = WebDriverWait(wd, 10)
wait.until(EC.presence_of_all_elements_located((By.CLASS_NAME, 'layui-layer-move')))
网友评论