python爬虫页面按钮未加载报错selenium.common.exceptions.NoSuchElementException问题解决

python爬虫页面按钮未加载报错selenium.common.exceptions.NoSuchElementException问题解决
  • 前言

在爬取公司内部网站数据时,是通过先生成下载任务,再切换至下载界面,点击下载按钮下载数据,简单来说,只是模拟人对浏览器的点击动作,进而将重复性工作自动化

  • 道路坎坷,bug出现

昨天终于成功将爬取的数据插入数据库,并且在今天早上刚上班之际,发现昨天下班前还在执行的爬虫脚本完美的运行完毕,瞬间沾沾自喜,心想:“不错不错,总算可以稳定爬取数据了”,可当我喜滋滋的运行今天的爬虫后没多久,就被泼了盆冷水,没错,程序报错了,报的就是标题提到的错误:

selenium.common.exceptions.NoSuchElementException

打开浏览器,瞬间发现是由于下载数据的【下载】按钮不可按导致的,之前考虑到过导出任务生成,到任务加载完毕,需要时间缓冲,就简单粗暴的time.sleep(60)等待60秒后再切换到下载界面,结果系统卡着的时候60秒任务仍未生成完毕,切换到下载界面时下载按钮仍然为灰色,不可点击,所以报错。
在这里插入图片描述
下载按钮未灰色不可点击

  • 解决思路及过程
    前期在编写整体爬虫时曾遇到过此类问题,当时百度到用的是显示等待
element = WebDriverWait(self.driver, 10).until(
                EC.element
  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
这个报错通常是由于滑块元素无法与Selenium进行交互引起的。有几种可能的原因和解决方法: 1. 等待滑块元素可见:在尝试与滑块元素交互之前,等待滑块元素完全加载和可见。可以使用`WebDriverWait`类来实现等待,例如: ```python from selenium.webdriver.support.ui import WebDriverWait from selenium.webdriver.support import expected_conditions as EC from selenium.webdriver.common.by import By # 等待滑块元素可见 wait = WebDriverWait(driver, 10) slider = wait.until(EC.visibility_of_element_located((By.XPATH, "滑块元素的XPath"))) # 进行滑动操作 # ... ``` 2. 模拟人工操作:有些网站的滑块使用了一些反爬虫机制,可以尝试通过模拟人工操作的方式来解决。具体步骤包括点击并按住滑块,拖动到指定位置,然后释放鼠标。可以使用`ActionChains`类来实现这些操作,例如: ```python from selenium.webdriver.common.action_chains import ActionChains # 模拟人工操作滑动滑块 action = ActionChains(driver) action.click_and_hold(slider).move_by_offset(200, 0).release().perform() # 继续其他操作 # ... ``` 3. 使用其他库或工具:如果以上方法仍然无法解决问题,可以尝试使用其他库或工具来处理滑块验证,例如`pyppeteer`、`puppeteer`等。这些库可以直接与浏览器进行交互,并提供了更强大的操作能力。 希望以上方法能帮助到你解决问题!如果还有其他疑问,请随时提问。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值