美文网首页
python+selenium使用笔记

python+selenium使用笔记

作者: 離塵真心 | 来源:发表于2020-10-27 19:01 被阅读0次

本文删繁就简，单刀直入，立刻上手selenium。

其他的可以参考[Selenium with Python](Selenium with Python — Selenium Python Bindings 2 documentation (selenium-python.readthedocs.io)
)

一、安装

建议使用Anaconda3。安装后，在Anaconda Prompt里敲：

pip install selenium

等待运行完毕。

下载Chrome的Driver，将其中的exe文件解压至C:\ProgramData\Anaconda3下。

安装Chrome。请注意Chrome的Driver要与Chrome保持一致。

二、在python中使用selenium

大致解释一下什么是Driver。python的selenium的包是要通过Driver来操作Chrome浏览器的页面。

from selenium import webdriver #加载selenium的包

driver = webdriver.chrome() # 打开浏览器，这个浏览器专门用来被Driver操纵。当然，也可以正常点击使用。
driver.get("https://www.sogou.com/") # 访问网址

selenium的主要功能是模拟网页使用者进行操作，可以理解为网页版的按键精灵。

selenium运行的基本思路是，找到某个对象（比如输入框、按钮、下拉菜单、上传文件的按钮……），然后对它进行操作（点击按钮、复制表格、在输入框中输入文字……），然后周而复始。

所以，selenium的运行是可以理解为一个个动作组成的，这动作是：找对象+操作对象。

1 找对象（Locating Elements）

搜狗的主页，打开网页后按F12即可打开右侧的栏

比如，想在搜索框里打上“天津”二字，那就得告诉selenium哪个是。这个定位的方式有很多，比如可以这样：

在搜索框上右键，选择“检查”：

然后就会弹出右侧的栏，里面定位于此：

<input type="text" class="sec-input" name="query" id="query"
maxlength="100" len="80" autocomplete="off">

先大概解释一下这段讲的是什么。开头的input是代表的这个输入框的类型，然后剩下的type、class都是在描述它的特征。具体如何不管，但是只要这个搜索框它有这些“特征”，那我们就可以利用这些来定位，比如：

from selenium import webdriver #加载selenium的包

driver = webdriver.chrome() # 打开浏览器，这个浏览器专门用来被Driver操纵。当然，也可以正常点击使用。
driver.get("https://www.sogou.com/") # 访问网址

element1=driver.find_element_by_id('query') # element1定位好了
element1.send_keys('天津') # 打上“天津”二字
element1.clear()

当然，还可以用以下方式进行

find_element_by_id
find_element_by_name
find_element_by_xpath
find_element_by_link_text
find_element_by_partial_link_text
find_element_by_tag_name
find_element_by_class_name
find_element_by_css_selector

删掉的是我没用过的。其中xpath需要讲一讲。

比如搜狗首页，这个搜索框的xpath就是：

/html/body/div/div[2]/div[4]/form/span[1]/input

需要解释一下，[2]代表第2个的意思。比如/html/body/div/div[2]，就是：

这种从根上一直写到需要找的位置的，叫绝对路径。当然，还有更简短的写法，就是相对路径，比如：

//form[@id='sf']/span[1]/input

将上面的那些方法(Method)对应到xpath的写法上，是：

方法(Method) xpath写法
find_element_by_id [@id=]
find_element_by_name [@name=]
find_element_by_xpath -
find_element_by_link_text ？
find_element_by_partial_link_text ？
find_element_by_tag_name [@tag=]
find_element_by_class_name [@tag=]
find_element_by_css_selector ？

2 操作

一般常用的即是以下这些功能：

a 输入框

填入内容：.sendkeys('要填的内容')
清空：.clear()
获取里面的内容：.get_attribute('value')

b 普通文字

获取内容：.text

一般普通文字是被<span>和<\span>包围着。在其他的对象上也可以有这个属性。

c 其他

那就是看见什么写什么。比如：

<input type="text" class="sec-input" name="query" id="query"
maxlength="100" len="80" autocomplete="off">

就可以写：

element2=driver.find_element_by_id('query')

print(element2.get_attribute('type'))
print(element2.get_attribute('class'))
print(element2.get_attribute('name'))
print(element2.get_attribute('maxlength'))
print(element2.get_attribute('id'))
print(element2.get_attribute('len'))
print(element2.get_attribute('autocomplete'))

d 下拉菜单

现在还没有遇到，等遇到再说。

3、对象需要等网页加载怎么办

等分为“明等”（Explicit wait）和“暗等”（Implicit wait）。明等是当满足一定条件时，如何如何，比如等按钮加载出来时，就按一下。暗等就是事先规定好等多长时间（以秒计），不受任何外部条件的控制。

a 暗等

from selenium import webdriver

driver = webdriver.chrome()
driver.implicitly_wait(10) # 10秒
driver.get("https://www.sogou.com/")
element1=driver.find_element_by_id('query')

b 明等

这就需要在前面多加载一些包了。不必理会它是什么意思，照抄能用就行。

from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC

driver = webdriver.chrome()
driver.get("https://www.sogou.com/")
element3=WebDriverWait(driver, 10).until(
      EC.presence_of_element_located((By.ID, 'query'))
) # 等它加载出现后再填上字，其中的10代表10秒
element3.send_keys('天津') # 打上“天津”二字

其他的等的方式有：

title_is
title_contains
presence_of_element_located
visibility_of_element_located
visibility_of
presence_of_all_elements_located
text_to_be_present_in_element
text_to_be_present_in_element_value
frame_to_be_available_and_switch_to_it
invisibility_of_element_located
element_to_be_clickable
staleness_of
element_to_be_selected
element_located_to_be_selected
element_selection_state_to_be
element_located_selection_state_to_be
alert_is_present

4、有框架(frame)怎么办

所谓框架就是网页中套网页。但是selenium搞不定套娃，所以必须指定好是哪一层框架（frame）。

比如，想定位到这个框架里面的那个body，就得：

#前面的省略
element1=driver.find_element_by_xpath('/html/body/div/iframe') #先定位到这个框架
driver.switch_to.frame(element1) #再切换到这个框架内
#do something
driver.switch_to.default_content() #最后切换回一开始的框架内

如果想等框架出来再进入，则可以用wait：

# 前面的省略

element4=WebDriverWait(drive,30).until(
  EC.frame_to_be_available_and_switch_to_it(
      (By.XPATH,'/html/body/div/iframe')
   )
)
# 运行完后，就进入了这个框架。其中的30代表最多等30秒。

相关文章