声明:本文档或演示材料仅供教育和教学目的使用,任何个人或组织使用本文档中的信息进行非法活动,均与本文档的作者或发布者无关。
文章目录
Selenium库
Selenium
库是一个强大的Web自动化工具,允许开发者通过编写脚本来控制浏览器,实现网页的自动测试和数据抓取。它提供了
WebDriver
接口,支持多种浏览器,如Chrome、Firefox等。使用Selenium,可以模拟用户行为,如点击、输入、导航等,适用于自动化测试、爬虫开发等多种场景。
功能介绍
Selenium库提供了丰富的方法来模拟用户与浏览器的交互。以下是一些常用的Selenium WebDriver方法的介绍:
- 初始化WebDriver:-
webdriver.BrowserName()
: 创建一个特定浏览器的WebDriver实例。 - 导航:-
get(url)
: 加载指定的URL。-back()
: 后退到浏览器历史记录中的上一个页面。-forward()
: 前进到浏览器历史记录中的下一个页面。-refresh()
: 刷新当前页面。 - 元素定位:-
find_element(By.定位方式, 值)
: 查找页面上第一个匹配的元素。-find_elements(By.定位方式, 值)
: 查找页面上所有匹配的元素。 - 元素交互:-
click()
: 点击元素。-clear()
: 清除输入字段的内容。-send_keys(*value)
: 向输入字段发送键序列。-submit()
: 提交表单。 - 获取元素信息:-
get_attribute(name)
: 获取元素的属性值。-text
: 获取元素的文本内容。-tag_name
: 获取元素的标签名。-is_displayed()
: 检查元素是否可见。-is_enabled()
: 检查元素是否启用。 - 等待:-
implicitly_wait(seconds)
: 设置隐式等待时间,用于等待页面元素加载。-WebDriverWait(driver, timeout).until(condition)
: 显式等待,直到某个条件成立。 - 窗口和框架:-
switch_to.window(name)
: 切换到指定名称的窗口。-switch_to.frame(element)
: 切换到指定的iframe。 - 执行JavaScript:-
execute_script(script)
: 在当前页面执行JavaScript代码。 - 浏览器操作:-
close()
: 关闭当前窗口。-quit()
: 关闭所有窗口并结束WebDriver会话。 - 截图:-
get_screenshot_as_file(filename)
: 将当前页面截图保存为文件。-get_screenshot_as_png()
: 获取当前页面的截图数据。 - Cookies操作:-
add_cookie(cookie_dict)
: 添加一个cookie。-delete_cookie(name)
: 删除指定名称的cookie。-delete_all_cookies()
: 删除所有cookies。 - 浏览器设置:-
set_page_load_timeout(time_to_wait)
: 设置页面加载超时时间。-set_script_timeout(time_to_wait)
: 设置脚本执行超时时间。
这些方法覆盖了从浏览器启动、页面导航、元素交互到浏览器关闭的整个流程,为自动化测试和网页自动化提供了强大的支持。
环境准备
- 安装Python。
- 安装Selenium库:
pip install selenium
。 - 下载对应浏览器的WebDriver。 查看浏览器版本:
edge://version/
如图,我的版本为:126.0.2592.87 (正式版本) (64 位) 驱动下载地址:https://developer.microsoft.com/zh-cn/microsoft-edge/tools/webdriver/![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/5d3325bad6dc48e5a332e242c526f93d.png) 将其解压到python解释器目录并重命名为MicrosoftWebDriver.exe
输入cmd命令:py -0p
示例代码
抓取并展示指定网页上的所有链接信息
from selenium import webdriver
from selenium.webdriver.common.by import By
driver = webdriver.Edge()# 打开目标网页
driver.get('https://movie.douban.com/top250')# 获取网页上所有的链接元素
links = driver.find_elements(By.TAG_NAME,'a')# 遍历链接,打印链接的文本和href属性for link in links:print(f"链接文本: {link.text}")print(f"链接地址: {link.get_attribute('href')}\n")# 关闭浏览器
driver.quit()
- 导入了selenium模块的webdriver和By子模块。
- 创建了一个Edge浏览器实例。
- 通过driver.get方法打开了豆瓣电影Top250的网页。
- 使用find_elements方法查找网页上所有的链接元素,并将其存储在links列表中。
- 通过遍历links列表,打印出每个链接的文本和href属性。
- 通过driver.quit方法关闭了浏览器。
抓取到了全部链接。
浮萍漂泊本无根,天涯游子君莫问。
版权归原作者 Long._.L 所有, 如有侵权,请联系我们删除。