!你不知道的 --- Selenium加载网页 & 获取渲染后的网页代码

目录

两种常用的加载网页的方法

1、get()方法

2、execute_script方法

获取渲染后的网页代码


使用类webdriver.Chrome创建的驱动浏览器对象中包含大量操作浏览器的方法,类webdriver.Chrome继承于基础类WebDriver,该类位于selenium库的webdriver\remote\webdriver.py文件中.

两种常用的加载网页的方法

  • 1、get()方法

用于打开指定的网页。

使用形式:get(url)

功能:在当前浏览器会话中加载url指定的网页

示例代码:(加载人民邮电出版社的图书页)

from selenium import webdriver
from selenium.webdriver.chrome.options import Options
chrome_options=Options()
chrome_options.binary_location=r"C:\Users\72550\AppData\Roaming\360se6\Application\360se.exe"#浏览器所在地址
driver=webdriver.Chrome(options=chrome_options)
driver.get('https://www.ptpress.com.cn/shopping/index')#人民邮电出版社图书页的url

执行结果:

  • 2、execute_script方法

用于打开多个标签页,即在同一个浏览器中打开多个网页。

使用形式:execute_script(script,*argv)

功能:打开标签页,同步执行当前页面中的JavaScript脚本

参数script:表示将要执行的脚本内容。数据类型为字符串类型,使用JavaScript语言实现打开一个新标签页的使用形式为:“window.open('网站url','_blank');"

示例代码:(打开多个标签页)

from selenium import webdriver
from selenium.webdriver.chrome.options import Options
chrome_options=Options()
chrome_options.binary_location=r"C:\Users\72550\AppData\Roaming\360se6\Application\360se.exe"#浏览器所在地址
driver=webdriver.Chrome(options=chrome_options)
driver.get('https://www.ptpress.com.cn/')#人民邮电出版社官网的url
driver.execute_script("window.open('https://www.ptpress.com.cn/login','_blank');")#人民邮电出版社的登录界面
driver.execute_script("window.open('https://www.meitu.com/zh/','_blank');")#美图的首页
driver.execute_script("window.open('https://geek.csdn.net/courselist','_blank');")#CSDN精品课程的界面

执行结果:(打开了三个标签页)

获取渲染后的网页代码

通过get()方法获取浏览器的网页资源后,浏览器将自动渲染网页源代码内容,并生成渲染后的内容。这时使用page_source()方法即可获取渲染后的网页代码。

示例代码:(获取人民邮电出版社官网url渲染后的网页代码)

from selenium import webdriver
from selenium.webdriver.chrome.options import Options
chrome_options=Options()
chrome_options.binary_location=r"C:\Users\72550\AppData\Roaming\360se6\Application\360se.exe"#浏览器所在地址
driver=webdriver.Chrome(options=chrome_options)
driver.get('https://www.ptpress.com.cn/')#人民邮电出版社官网的url
print(driver.page_source)#获取被get()方法获取到的渲染后的网页源代码

执行结果:(浏览器自动跳转到人民邮电出版社的官网地址,并且在pycharm运行界面中返回渲染后的网页源代码)

......介绍完毕!

xue

  • 3
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
当使用 Selenium 获取网页源代码时,有时会出现与在浏览器中看到的源代码不同的情况。这是因为 Selenium 默认获取的是页面加载完成后的初始源代码,而不包括通过 JavaScript 动态生成或修改的内容。 如果您希望获取浏览器中实际渲染后的源代码,可以使用 `driver.page_source` 来获取。但是,有时仍然可能会存在异步加载的内容或动态生成的内容未被完全加载的情况。 为了确保获取到浏览器中看到的完整源代码,您可以使用隐式等待或显式等待等技术来等待网页加载完全。这样,Selenium 将等待页面加载完成后再获取源代码。 以下是一个示例代码,演示如何使用显式等待来获取浏览器中实际渲染后的源代码: ```python from selenium import webdriver from selenium.webdriver.support.ui import WebDriverWait from selenium.webdriver.support import expected_conditions as EC # 启动浏览器 driver = webdriver.Chrome() # 设置显式等待时间 wait = WebDriverWait(driver, 10) # 打开目标网页 driver.get("https://www.example.com") # 等待页面加载完成 wait.until(EC.presence_of_element_located((By.TAG_NAME, "body"))) # 获取网页源代码 page_source = driver.page_source # 打印网页源代码 print(page_source) # 关闭浏览器 driver.quit() ``` 在上述示例中,我们使用显式等待等待页面加载完成,然后再获取网页的源代码。这样,我们可以获取到浏览器中实际渲染后的源代码。 请注意,即使使用等待技术,某些动态生成的内容仍可能无法完全捕获。如果您需要处理特定的动态内容,可能需要使用其他技术,例如模拟用户滚动页面或点击按钮来触发内容加载

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值