Python实现自动化网页操作

liftword1个月前 (03-26)技术文章13

1 准备

推荐使用Chrome浏览器

1.1 安装selenium程序包

激活虚拟环境,打开新的Terminal,输入以下代码:

python -m pip install selenium


如下图所示,表示安装成功,版本为4.7.2


安装成功

关闭虚拟环境,打开新的Terminal

1.2 引入函数模块

#引入time模块,实现延时
import time
#引入selenium库中的webdriver模块,实现对网页的操作
from selenium import webdriver
#引入By Class,辅助元素定位
from selenium.webdriver.common.by import By
#引入ActionChains Class,辅助鼠标移动
from selenium.webdriver.common.action_chains import ActionChains


2 实现

2.1 打开网页

#打开谷歌浏览器
driver = webdriver.Chrome()
#打开网页
driver.get('URL') #将URL替换为需要操作的网址


2.2 元素定位

要想实现对网页的控制,需要首先定位网页上的元素,一般为搜索框、选项、按钮等。

selenium 4.0以上的版本更新了元素定位方式,要用到find_element函数,用法举例如下:

el = driver.find_element(By.NAME, "*")


首先要获取元素的信息:

打开网页后,按F12,打开元素审查窗口



点击窗口中红框标出的图标,即可在页面上选择需要定位的元素,查看其代码。

一般需要定位的元素代码都以input开头,下图为搜索框的代码,从代码中可以提取定位元素所需要的信息:



根据下列信息均可以定位元素,但要保证根据该信息可以唯一定位到该元素:



如果根据其他信息无法唯一定位该元素,可以采取XPath定位,XPath的获取方式比较特殊,需要右键单击该代码行,在下拉列表中选择Copy full XPath,如下图所示:



2.3 元素控制

定位到元素后,可以进行下列操作,实现对元素的控制:


以输入文字为例,代码如下(*为需要输入的文字):

el.send_keys('*')


如果打开网页时,需要控制的元素不在可视范围内,需要滑动鼠标定位,则要借助于ActionChains,否则可能会报错:找不到该元素。

ActionChains(driver).move_to_element(el).click().perform()
el.click()


上述示例为点击操作,其中第二行最好加上,确保点到该元素

另外一种找不到元素的原因可能是网页还没有加载完毕,此时就可以借助于延时功能:

time.sleep(1)


2.4 弹出框的处理

如果点击按钮后,不是打开一个新的页面,而是弹出了一个窗口,需要在新的窗口中操作,则需要通过如下代码转到新的frame下,否则可能会报错:找不到该元素。

driver.switch_to.frame(0)

随后继续按2.2定位元素即可。

相关文章

五种Python 打开网页的几种方式,助你快速上手!

在 Python 中,有多种方法可以打开网页。以下是五种常用的方法,每种方法都附有简单的示例代码,帮助你快速上手。方法一:使用 webbrowser 模块特点:webbrowser 模块是 Pytho...

Python抓网页,代码比猫还调皮

程序员小张最近想用Python抓新闻,结果代码比家里主子还难伺候。先用requests库"拆快递"(发送请求),再用BeautifulSoup"找钥匙"(解析HTML),好不容易定位到标题和正文——结...

python wxpython 能不能嵌入网页进行浏览展示

是的,Python的wxPython库通过wx.html2模块支持嵌入网页。它提供了WebKit扩展的Web控件,可以用于在应用程序中展示HTML内容。下面是一个简单的示例程序,演示如何在wxPyth...

python爬虫Selenium库详细教程

在我们爬取网页过程中,经常发现我们想要获得的数据并不能简单的通过解析HTML代码获取1. 使用示例2. 详细介绍2.1 声明浏览器对象2.2 访问页面2.3 查找元素2.3.1 单个元素下面是详细的元...

「Python爬虫进阶」不用了解网页架构,也能从网站上爬取新闻文章

前几天,公司给我安排了一个新项目,要求在网上爬取新闻文章。为了用最简单、最快的方法来完成此任务,特意做了一些准备。我们都知道,有一些Python插件可以帮我们完成爬虫的工作,其中一个叫 Beautif...