java.net.SocketException: Connection reset 异常之爬虫场景排查解决

场景:爬虫微服务爬取某一网站内容,经测试,已通过,并在多家客户部署,但是其中一家出现了该问题。

排查过程:

首先,因为在本地和其它客户那里,都是正常使用,首先排除掉了代码问题。

然后,ping 域名,telnet端口测试,因为是https的请求,所以telnet 域名 443,测试发现,ping域名能通,443端口不通,

于是打开443端口,再次测试,还是同样的异常,这个时候就陷入沉思了。。。

最后,尝试在用户电脑浏览器直接访问爬虫爬取网站,发现,居然是访问不通,直接提示访问被拒绝,让联系XXX。

这样初步认定是客户公司内部防火墙策略屏蔽了该网站,导致无法与爬虫网站建立连接导致。

解决办法:开放对该网站的屏蔽策略。

总结:遇到此类异常,可以先ping和telnet端口,看看出入站规则有没有打开,然后,除了出入站规则,还有防火墙安全策略需要检查。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值