网络爬虫之DrissionPage工具

DrissionPage 是一个基于 python 的网页自动化工具。

它既能控制浏览器，也能收发数据包，还能把两者合而为一。

可兼顾浏览器自动化的便利性和 requests 的高效率。

它功能强大，内置无数人性化设计和便捷功能。

它的语法简洁而优雅，代码量少，对新手友好。

DrissionPage的优点：

无 webdriver 特征，不会被网站识别 无需为不同版本的浏览器下载不同的驱动 运行速度更快 可以跨 iframe 查找元素，无需切入切出 把 iframe 看作普通元素，获取后可直接在其中查找元素，逻辑更清晰 可以同时操作浏览器中的多个标签页，即使标签页为非激活状态，无需切换 可以直接读取浏览器缓存来保存图片，无需用 GUI 点击另存 可以对整个网页截图，包括视口外的部分（90以上版本浏览器支持） 可处理非open状态的 shadow-root

语法：

WebPage是功能最全面的页面类，既可控制浏览器，也可收发数据包：

from DrissionPage import WebPage

如果只要控制浏览器，导入

ChromiumPage

：

from DrissionPage import ChromiumPage

如果只要收发数据包，导入

SessionPage

：

from DrissionPage import SessionPage

• 配置ChromiumOptions类用于设置浏览器启动参数：from DrissionPage import ChromiumOptionsSessionOptions类用于设置Session对象启动参数：from DrissionPage import SessionOptions动作链，用于模拟一系列键盘和鼠标的操作：from DrissionPage import ActionChains键盘按键类，用于键入 ctrl、alt 等按键：from DrissionPage import Keyseasy_set里保存了一些便捷的 ini 文件设置方法，可选择使用：from DrissionPage.easy_set import *

• 定位元素from DrissionPage import ChromiumPage # 创建页面对象，并启动或接管浏览器page = ChromiumPage()# 跳转到登录页面page.get('https://gitee.com/login') # get()方法用于访问参数中的网址。它会等待页面完全加载，再继续执行后面的代码。 # 定位到账号文本框，获取文本框元素ele = page.ele('#user_login') # ele()方法用于查找元素，它返回一个ChromiumElement对象，用于操作元素。'#user_login'是定位符文本，#意思是按id属性查找元素。ele()内置了等待，如果元素未加载，它会执行等待，直到元素出现或到达时限。默认超时时间 10 秒。 # 输入对文本框输入账号ele.input('您的账号')# 定位到密码文本框并输入密码page.ele('#user_password').input('您的密码')# 点击登录按钮page.ele('@value=登 录').click() # @表示按属性名查找

• 爬取网页from DrissionPage import SessionPage # 创建页面对象page = SessionPage() # 爬取3页for i in range(1, 4): # 访问某一页的网页 page.get(f'https://gitee.com/explore/all?page={i}') # 获取所有开源库<a>元素列表 links = page.eles('.title project-namespace-path') # 页面对象的eles()获取页面中所有class属性为'title project-namespace-path'的元素对象，eles()方法用于查找多个符合条件的元素，返回由它们组成的list # 遍历所有<a>元素 for link in links: # 打印链接信息 print(link.text, link.link) # .text获取元素的文本，.link获取元素的href或src属性

• 下载网页from DrissionPage import SessionPage url = 'https://www.baidu.com/img/flexible/logo/pc/result.png'save_path = r'C:\download' # 保存的路径 page = SessionPage()page.download(url, save_path, 'img') # 支持重命名，处理文件名冲突

• 元素查找# 根据属性查找，@ 后面可跟任意属性page.ele('@id:ele_id', timeout=2) # 查找 id 为 ele_id 的元素，设置等待时间2秒 page.eles('@class') # 查找所有拥有 class 属性的元素page.eles('@class:class_name') # 查找所有 class 含有 ele_class 的元素 page.eles('@class=class_name') # 查找所有 class 等于 ele_class 的元素 # 根据 class 或 id 查找page.ele('#ele_id') # 等价于 page.ele('@id=ele_id')page.ele('#:ele_id') # 等价于 page.ele('@id:ele_id')page.ele('.ele_class') # 等价于 page.ele('@class=ele_class')page.ele('.:ele_class') # 等价于 page.ele('@class:ele_class') # 根据 tag name 查找page.ele('tag:li') # 查找第一个 li 元素 page.eles('tag:li') # 查找所有 li 元素 # 根据 tag name 及属性查找page.ele('tag:div@class=div_class') # 查找 class 为 div_class 的 div 元素page.ele('tag:div@class:ele_class') # 查找 class 含有 ele_class 的 div 元素page.ele('tag:div@class=ele_class') # 查找 class 等于 ele_class 的 div 元素page.ele('tag:div@text():search_text') # 查找文本含有 search_text 的 div 元素page.ele('tag:div@text()=search_text') # 查找文本等于 search_text 的 div 元素 # 根据文本内容查找page.ele('search text') # 查找包含传入文本的元素 page.eles('text:search text') # 如文本以 @、tag:、css:、xpath:、text: 开头，则应在前加上 text: 避免冲突 page.eles('text=search text') # 文本等于 search_text 的元素 # 根据 xpath 或 css selector 查找page.eles('xpath://div[@class="ele_class"]') page.eles('css:div.ele_class') # 根据 loc 查找loc1 = By.ID, 'ele_id'loc2 = By.XPATH, '//div[@class="ele_class"]'page.ele(loc1)page.ele(loc2) # 查找下级元素element = page.ele('@id:ele_id')element.ele('@class:class_name') # 在 element 下级查找第一个 class 为 ele_class 的元素element.eles('tag:li') # 在 ele_id 下级查找所有li元素 # 根据位置查找element.parent # 父元素 element.next # 下一个兄弟元素 element.prev # 上一个兄弟元素 # 获取 shadow-root，把它作为元素对待。只支持 open 的 shadow-rootele1 = element.shadow_root.ele('tag:div') # 串连查找page.ele('@id:ele_id').ele('tag:div').next.ele('some text').eles('tag:a') # 简化写法eles = page('@id:ele_id')('tag:div').next('some text').eles('tag:a')ele2 = ele1('tag:li').next('some text')

• 元素操作element.click(by_js) # 点击元素，可选择是否用 js 方式点击element.input(value) # 输入文本element.run_script(js) # 对元素运行 JavaScript 脚本element.submit() # 提交element.clear() # 清空元素element.screenshot(path, filename) # 对元素截图element.select(text) # 根据文本选择下拉列表element.set_attr(attr, value) # 设置元素属性值element.remove_attr(attr) # 删除属性element.drag(x, y, speed, shake) # 拖动元素相对距离，可设置速度和是否随机抖动element.drag_to(ele_or_loc, speed, shake) # 拖动元素到另一个元素或某个坐标，可设置速度和是否随机抖动element.hover() # 在元素上悬停鼠标+

• 元素属性element.html # 返回元素 outerHTMLelement.inner_html # 返回元素 innerHTMLelement.tag # 返回元素 tag nameelement.text # 返回元素 innerText 值element.comments # 返回元素内注释列表element.link # 返回元素 href 或 src 绝对 urlelement.texts() # 返回元素内所有直接子节点的文本，包括元素和文本节点，可指定只返回文本节点element.attrs # 返回元素所有属性的字典element.attr(attr) # 返回元素指定属性的值element.css_path # 返回元素绝对 css 路径element.xpath # 返回元素绝对 xpath 路径element.parent # 返回元素父元素element.next # 返回元素后一个兄弟元素element.prev # 返回元素前一个兄弟元素element.parents(num) # 返回第 num 级父元素element.nexts(num, mode) # 返回后面第几个元素或节点element.prevs(num, mode) # 返回前面第几个元素或节点element.ele(loc_or_str, timeout) # 返回当前元素下级第一个符合条件的子元素、属性或节点文本element.eles(loc_or_str, timeout) # 返回当前元素下级所有符合条件的子元素、属性或节点文本

• 浏览器和数据包模式切换from DrissionPage import WebPage​# 创建页面对象page = WebPage()# 访问网址page.get('https://www.baidu.com')# 查找文本框元素并输入关键词page('#kw').input('DrissionPage')# 点击搜索按钮page('#su').click(wait_loading=True)# 切换到收发数据包模式page.change_mode()# 获取所有<h3>元素links = page.eles('tag:h3')# 遍历获取到的元素for link in links: # 打印元素文本 print(link.text)​