解决selenium报错导致程序异常终止

报错信息:

selenium.common.exceptions.TimeoutException: Message: timeout

报错原因:

超时

比如我们有大量ip,去访问某个页面,但我们并不知道ip的稳定性,如果一个ip异常不能使用,可能会导致整个代码停掉,后面无法测试。

这时候就要用selenium自带的异常来解决:

代码:

# -*-encoding: utf-8-*-

from selenium import webdriver
from selenium.common.exceptions import TimeoutException

driver_path = r'E:\Tools\cd\chromedriver.exe'
import time
import pymysql

db = pymysql.connect(host="localhost",
                     user="root", password="123456", database="ip",
                     port=3306)
cursor = db.cursor()


def get_request(p):
    count = 0
    d = 0
    for i in p:
        i = i.strip()
        chrome_options = webdriver.ChromeOptions()
        chrome_options.add_argument('--no-sandbox')
        chrome_options.add_argument("--disable-extensions")
        chrome_options.add_argument('--proxy-server=http://' + i)
        chrome_options.add_argument('--headless')
        driver = webdriver.Chrome(options=chrome_options, executable_path=driver_path)
        driver.set_page_load_timeout(20)
        try:
            driver.get("https://blog.csdn.net/s_kangkang_A/article/details/102911301")
            s = driver.get_cookies()
            if s:
                save_to_sql(i)
                count += 1
                print(count, '成功', i)

            else:
                d += 1
                print(d, "失败", i)
                driver.close()
        except TimeoutException:
            driver.execute_script('window.stop()')
            print('timeout')
    print(count / 100)


def save_to_sql(i):
    sql = """
       insert into ips(id,ip) value(null,%s)
       """
    cursor.execute(sql, (i))
    db.commit()

if __name__ == '__main__':
    # 把ip放到s里,类似下面
    s = """
    178.72.74.40:61901
    5.59.145.129:8080
    185.42.192.69:8080
    116.0.6.97:46604
    36.37.112.254:35900
    186.159.2.241:43459
    1.186.40.2:54754
    170.246.152.106:56838
    141.223.132.163:80
    182.74.40.146:30909
    83.164.140.13:8080
    """
    s = s.split("\n")[1:-2]

    get_request(s)

这样,就会打印timeout,而不是直接停代码了。

可以用的放入数据库,以便后续使用。

判断成功的方法是获取当前页面的cookies,实测可行。

相对稳定的ip来源,分别为:小幻代理,89ip,别抓,直接提取,小幻都崩了。实测可用率在50以上。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
引用提供了关于安装python和selenium的步骤和错误信息。在安装selenium时,您遇到了pip的错误。要解决这个问题,您可以尝试以下方法: 1. 确保您使用的是最新版本的pip。您可以使用以下命令升级pip: `pip install --upgrade pip` 2. 检查您的网络连接是否正常,并尝试使用以下命令安装selenium: `pip install selenium` 3. 如果您的网络连接存在问题,您可以尝试使用本地安装包进行安装。您可以在selenium官方网站上下载适用于您的操作系统的安装包,并使用以下命令进行安装: `pip install /path/to/selenium-3.12.0.tar.gz` 引用提供了关于Selenium元素定位和点击报错的信息。您遇到了ElementClickInterceptedException错误。为了解决这个问题,您可以尝试以下两种方式: 1. 使用execute_script方法执行JavaScript代码来点击元素: ```python element = driver.find_element_by_xpath("表达式") driver.execute_script("arguments[0].click();", element) ``` 2. 使用ActionChains类来模拟鼠标操作来点击元素: ```python from selenium.webdriver.common.action_chains import ActionChains element = driver.find_element_by_xpath("表达式") ActionChains(driver).move_to_element(element).click(element).perform() ``` 引用提供了关于chromedriver路径问题的解决方案。您遇到了'chromedriver' executable needs to be in PATH错误。为了解决这个问题,您可以按照以下步骤进行操作: 1. 访问http://chromedriver.storage.googleapis.com/index.html,找到与您的Chrome浏览器版本相对应的chromedriver.exe下载链接,并下载对应版本的chromedriver.exe。 2. 解压下载的文件,并将chromedriver.exe文件放置在Chrome浏览器的安装目录下。 3. 将chromedriver所在目录添加到系统的PATH环境变量中。 以下是示例代码,展示了如何使用已安装的chromedriver: ```python from selenium import webdriver url = "http://www.baidu.com" browser = webdriver.Chrome(executable_path="C:\Users\12717\AppData\Local\Google\Chrome\Application\chromedriver.exe") browser.get(url) ```

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值