解决pyppeteer导航超时问题: pyppeteer.errors.TimeoutError: Navigation Timeout Exceeded: 30000 ms exceeded

使用pyppeteer的时候,有时候会遇到pyppeteer.errors.TimeoutError: Navigation Timeout Exceeded: 30000 ms exceeded这样的报错信息,目前发现有三个原因容易导致该错误

一 由于网速慢,或者访问国外的网站等原因,网页在30秒内没有加载完成,就会报导航超时错误

二 协程中乱用time.sleep(), 或者await async.sleep(),比如说睡的时间比较长,很容易导致导航超时错误,后者有时候会报pyppeteer.errors.NetworkError: Protocol Error (Runtime.evaluate): Session closed. Most likely the page has been closed.这样的错误,参考https://github.com/miyakogi/pyppeteer/pull/181/files修改pyppeteer的collection模块代码解决

三 错误使用了 await page.waitForNavigation导致的, 举例说明:
在这里插入图片描述
由于点击事件执行很快已跳转到新的页面,导致程序运行到导航等待的时候,一直处于新的页面等待触发,直到30秒超时报错,所以,正确的做法应该是把点击和导航等待视为一个整体进行操作,以下为两种正确的写法,了解协程并发的朋友应该知道,在此不做详细说明
写法一:
await asyncio.gather(
page.waitForNavigation(),
page.click(’…’),
)
写法二:
await asyncio.wait([
page.waitForNavigation(),
page.click(’…’),
])
在这里插入图片描述
爬虫逆向学习,请关注公众号:逆向小白在这里插入图片描述

  • 2
    点赞
  • 20
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
`org.apache.kafka.common.errors.TimeoutException: Timeout expired`是一个错误消息,该消息是由Apache Kafka客户端库引发的。它表示生产者或消费者在与Kafka集群通信时发生了超时。 当一个Kafka客户端发送请求(例如发送消息或拉取消息)到Kafka集群时,超时异常可能会发生。这通常是由于以下原因之一引起的: 1. 网络连接问题:客户端无法与Kafka集群建立连接或断开了现有连接。这可能是由于网络中断、Kafka集群故障或配置错误引起的。 2. Kafka集群请求繁忙:当Kafka集群负载过重或持续处理大量请求时,可能会导致客户端请求超时。这可能是由于消息堆积、消费者速度不足或集群资源不足等原因引起的。 3. 客户端配置问题:客户端的配置可能未正确设置,例如请求超时时间设置得太短,导致请求超时。确保客户端配置与Kafka集群的要求相匹配。 解决此错误的方法包括: 1. 检查网络连接:确保客户端能够与Kafka集群建立稳定的网络连接。如果存在网络问题解决网络故障或咨询网络管理员。 2. 调整请求超时时间:增加请求超时时间设置,以允许更长的等待时间。这样可以应对Kafka集群负载高峰期或处理大量请求的情况。 3. 调整Kafka集群配置:增加Kafka集群的资源,例如增加分区、增加代理节点或增加硬件配置等,以应对负载过重的场景。 4. 检查客户端配置:确保客户端的配置正确,并与Kafka集群的配置相匹配。 总之,`org.apache.kafka.common.errors.TimeoutException: Timeout expired`错误表示客户端请求与Kafka集群之间发生了超时。通过检查网络连接、调整请求超时时间、增加Kafka集群资源以及验证客户端配置,可以解决此错误并保持良好的Kafka通信。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值