Python爬虫代理ip异常和超时解决方案

Python爬虫中的代理ip异常和超时如何解决？程序员在敲代码的过程中，一定会出现一定的错误，特别是像Python爬虫这种程序，并不能肯定每次请求都能保障稳定的返回同样的结果，例如反爬虫机制的强化，代理IP超时等，这类状况得到及时的解决，才可以保障爬虫工作良好的进行下去。借助万变ip代理来突破ip限制。

Python爬虫中的代理ip异常和超时如何解决

一、反爬虫机制。相信大多数的爬虫工作者都比较了解，这里就不详细的介绍了

二、超时设置。网络的稳定性不会和平时一样，原因可能是代理IP在某一个时间段内不能保持平时一样的稳定性，但是也有可能是对方的原因，对方的服务器是不稳定的，还有自身机器的网络也可能不稳定，如果不设置好超时，程序也不好跑下去。

selenium+chrome的超时设置：

显式等待：、等待某个条件发生，然后再继续进行代码。

driver = webdriver.Firefox()

driver.get(“http://somedomain/url_that_delays_loading”)

try:

element = WebDriverWait(driver, 10).until( #这里修改时间

EC.presence_of_element_located((By.ID, “myDynamicElement”))

)

finally:

driver.quit()

隐式等待：是告诉WebDriver在尝试查找一个或多个元素（如果它们不是立即可用的）时轮询DOM一定时间。默认设置为0，一旦设置，将为WebDriver对象实例的生命期设置隐式等待。