公司是做外贸的,所以需要爬取一些外国网站的商品竞品数据,但是在爬取某个网站的时候,遇到了五秒盾的阻拦。
说实话,一开始自己并不了解五秒盾,毕竟在之前爬国内网站的时候,并没有遇到过这种防护措施,但是在爬取这个外国邮件网站的时候,返回的文本中,总是有如下的信息:
一直让 “Just a moment...”,一开始自己以为是加载缓慢,但是每次都有,这就不得不引起警觉。
在vscode中显示了一下html代码,并在浏览器上看了一下界面,发现是这样的
这个. "DDoS protection by Cloudflare" 是个啥子鬼?
但是看到DDoS protection by这种字样,感觉应该是防止DDoS攻击的,但是这个“Cloudflare”又是个啥?
在网上查询了一下,原来是所谓“五秒盾”的东东,而且网上有针对这小盾盾现成的p