‘远程主机强迫关闭了一个现有的连接‘?说说这些年爬虫遇到的坑!

想要写出好的爬虫就得经历各种风雨!
  • ConnectionResetError(10054, ‘远程主机强迫关闭了一个现有的连接。’
    出现以上这种现象,无非访问频次过多,导致服务器识破了爬虫。
  • 分为以下几个步骤走:
    1.先检查header头,它可以伪装成浏览器,以防止识破
headers = {
            'User-agent':'XXXXXXXXXXXXXXX',
            'Cookie':'XXXXXXXXXXXXXXXXXX'
        }
只用添加这两条就可!
  1. 访问频繁,可以适当加点缓冲剂,在request中加一条:
import time
time.sleep(1)
  1. 以上两种还是解决不了,那就需要做异常处理了。
while 1:
	    try:
            c = requests.get(address, headers=headers).content
        except requests.exceptions.RequestException as e:
            print(e)
            continue
		return c
做完异常处理这样就不会中断程序了,爬取成功为止!
  • 问题解决了,泡杯茶缓和一下,哈哈哈哈哈哈哈哈哈!
  • 5
    点赞
  • 30
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
引用提供了关于安装python和selenium的步骤和错误信息。在安装selenium时,您遇到了pip的错误。要解决这个问题,您可以尝试以下方法: 1. 确保您使用的是最新版本的pip。您可以使用以下命令升级pip: `pip install --upgrade pip` 2. 检查您的网络连接是否正常,并尝试使用以下命令安装selenium: `pip install selenium` 3. 如果您的网络连接存在问题,您可以尝试使用本地安装包进行安装。您可以在selenium官方网站上下载适用于您的操作系统的安装包,并使用以下命令进行安装: `pip install /path/to/selenium-3.12.0.tar.gz` 引用提供了关于Selenium元素定位和点击报错的信息。您遇到了ElementClickInterceptedException错误。为了解决这个问题,您可以尝试以下两种方式: 1. 使用execute_script方法执行JavaScript代码来点击元素: ```python element = driver.find_element_by_xpath("表达式") driver.execute_script("arguments[0].click();", element) ``` 2. 使用ActionChains类来模拟鼠标操作来点击元素: ```python from selenium.webdriver.common.action_chains import ActionChains element = driver.find_element_by_xpath("表达式") ActionChains(driver).move_to_element(element).click(element).perform() ``` 引用提供了关于chromedriver路径问题的解决方案。您遇到了'chromedriver' executable needs to be in PATH错误。为了解决这个问题,您可以按照以下步骤进行操作: 1. 访问http://chromedriver.storage.googleapis.com/index.html,找到与您的Chrome浏览器版本相对应的chromedriver.exe下载链接,并下载对应版本的chromedriver.exe。 2. 解压下载的文件,并将chromedriver.exe文件放置在Chrome浏览器的安装目录下。 3. 将chromedriver所在目录添加到系统的PATH环境变量中。 以下是示例代码,展示了如何使用已安装的chromedriver: ```python from selenium import webdriver url = "http://www.baidu.com" browser = webdriver.Chrome(executable_path="C:\Users\12717\AppData\Local\Google\Chrome\Application\chromedriver.exe") browser.get(url) ```

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值