python爬虫Selenium模块及测试案例详解

什么是selenium？

（1）Selenium是一个用于Web应用程序测试的工具。
（2）Selenium 测试直接运行在浏览器中，就像真正的用户在操作一样。
（3）支持通过各种driver（FirfoxDriver，IternetExplorerDriver，OperaDriver，ChromeDriver）
（4）selenium也是支持无界面浏览器操作的。

为什么使用selenium？

模拟浏览器功能，自动执行网页中的js代码，实现动态加载

selenium的基本使用

由于selenium是进行浏览器模型，所以需要浏览器驱动。
浏览器设置里面查看版本号，下载对应的版本(版本号必须一致否则报错)
该Exception明确指出需要将指定的driver（我这里是edgedriver）放到PATH中。对于driver下载链接如下：

Chrome: http://chromedriver.storage.googleapis.com/index.html

Edge：https://developer.microsoft.com/en-us/microsoft-edge/tools/webdriver/

Firefox：https://github.com/mozilla/geckodriver/releases/

版本驱动要和python文件在同一目录

# （1）导入selenium
from selenium import webdriver

# (2) 创建浏览器操作对象
path ='msedgedriver.exe'

browser = webdriver.Edge(path)# （3）访问网站# url = 'https://www.baidu.com'## browser.get(url)

url ='https://www.jd.com/'

browser.get(url)# page_source获取网页源码
content = browser.page_source
print(content)

元素定位

from selenium import webdriver

path ='msedgedriver.exe'# todo 调用浏览器引擎，对应的浏览器使用对应的方法调用
browser = webdriver.Edge(path)

url ='https://www.baidu.com'
browser.get(url)# 元素定位# 根据id来找到对象
button = browser.find_element_by_id('su')
print(button.tag_name)# 根据标签属性的属性值来获取对象的
button = browser.find_element_by_name('wd')
print(button.tag_name)# 根据xpath语句来获取对象
button = browser.find_elements_by_xpath('//input[@id="su"]')
print(button)# 根据标签的名字来获取对象
button = browser.find_elements_by_tag_name('input')
print(button)# 使用的bs4的语法来获取对象
button = browser.find_elements_by_css_selector('#su')
print(button)

button = browser.find_element_by_id(‘su’)

button = browser.find_element_by_name(‘wd’)

button = browser.find_elements_by_xpath(‘//input[@id=“su”]’)

元素信息

from selenium import webdriver

path ='msedgedriver.exe'# todo 调用浏览器引擎，对应的浏览器使用对应的方法调用
browser = webdriver.Edge(path)

url ='http://www.baidu.com'
browser.get(url)

input = browser.find_element_by_id('su')# 获取标签的属性
print(input.get_attribute('class'))# 获取标签的名字
print(input.tag_name)# value标签的内容
print(input.get_attribute("value"))

# 获取元素文本
a = browser.find_element_by_link_text('新闻')
print(a.text)

交互

交互就是模拟人去点击网页进行请求

from selenium import webdriver

path ='msedgedriver.exe'# todo 调用浏览器引擎，对应的浏览器使用对应的方法调用
browser = webdriver.Edge(path)# url
url ='https://www.baidu.com'
browser.get(url)importtime
time.sleep(2)# 获取文本框的对象
input = browser.find_element_by_id('kw')# 在文本框中输入周杰伦
input.send_keys('周杰伦')

time.sleep(2)# 获取百度一下的按钮
button = browser.find_element_by_id('su')# 点击按钮
button.click()

time.sleep(2)# 滑到底部
js_bottom ='document.documentElement.scrollTop=100000'
browser.execute_script(js_bottom)

time.sleep(2)# 获取下一页的按钮
next = browser.find_element_by_xpath('//a[@class="n"]')# 点击下一页
next.click()

time.sleep(2)# 回到上一页
browser.back()

time.sleep(2)# 回去
browser.forward()

time.sleep(3)# 退出
browser.quit()

案例(登录百度页面搜索昆凌并且保存页面图片）

from selenium import webdriver
importtime

path ='msedgedriver.exe'# todo 调用浏览器引擎，对应的浏览器使用对应的方法调用
browser = webdriver.Edge(path)

url ='https://www.baidu.com'
browser.get(url)

browser.save_screenshot('baidu.png')

time.sleep(2)

input = browser.find_element_by_id('kw')
input.send_keys('昆凌')

time.sleep(3)

browser.save_screenshot('kunling.png')

案例(查询歌曲)

from selenium import webdriver

path ='msedgedriver.exe'# todo 调用浏览器引擎，对应的浏览器使用对应的方法调用
browser = webdriver.Edge(path)# todo 对网站发起请求
url ='https://www.1nzb.com/'
browser.get(url)# todo 定位到歌曲输入框
input = browser.find_element_by_id('ac')# todo 输入歌名若是月亮还没来
input.send_keys('若是月亮还没来')# todo 提交输入框内容
input.submit()