【Python爬虫】selenium处理iframe作用域问题

最新推荐文章于 2024-08-19 14:49:23 发布

Master先生

最新推荐文章于 2024-08-19 14:49:23 发布

阅读量4.1w

点赞数 2

分类专栏： Python之道文章标签： selenium python 爬虫

本文链接：https://blog.csdn.net/weixin_45745344/article/details/112881984

版权

Python之道专栏收录该内容

3 篇文章 0 订阅

订阅专栏

本文通过一个菜鸟教程的实例，展示了在使用Selenium爬虫时如何处理iframe内容的抓取问题。当网页中的目标内容位于iframe框架内，常规的定位方式无法获取正确数据。解决方法是利用`switch_to.frame()`方法切换到iframe上下文，然后进行元素定位。重新编写的代码成功从iframe中获取到'Hello,World!'文本，实现了有效抓取。

摘要由CSDN通过智能技术生成

项目场景：

在使用selenium模块进行数据爬取时，通常会遇到爬取iframe中的内容。会因为定位的作用域问题爬取不到数据。

问题描述：

我们以菜鸟教程的运行实例为案例。
按照正常的定位
在这里插入图片描述
会以文本块生成xpath为/html/body/text()。这样的话根据xpath进行如下代码编写。

#!/user/bin/
# -*- coding:UTF-8 -*-
# Author:Master

from selenium import webdriver
import time

driver = webdriver.Chrome(executable_path="./chromedriver")
driver.get('https://www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3')
time.sleep(2)
text = driver.find_element_by_xpath('/html/body').text
print(text)
time.sleep(5)
driver.quit()

执行结果：
在这里插入图片描述
很明显这并不是想要的结果。

原因分析：

当我们打开抓包工具定位到Hello, World!文本的时候会发现，该文本是在一个iframe中。这样的话我们xpath所定位到的内容则是大的html中的路径。我们需要的内容则是在iframe中的小的html中。

解决方案：

通过分析发现，想要解决问题的实质就是改变作用域。通过switch_to.frame(‘id’)方法来改变作用域就可以了。

重新编写代码：

#!/user/bin/
# -*- coding:UTF-8 -*-
# Author:Master

from selenium import webdriver
import time

driver = webdriver.Chrome(executable_path="./chromedriver")
driver.get('https://www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3')
time.sleep(2)
driver.switch_to.frame('iframeResult')
text = driver.find_element_by_xpath('/html/body').text
print(text)
time.sleep(5)
driver.quit()