爬知网验证码图片踩坑记录

最近刚开始学习爬虫,就想着去爬一些网站的验证码,练习一下。在成功爬取了七万多张学校网站的验证码之后,又想着去爬知网下载验证码,但是由于没有学过网站知识,遇到了知网的验证码图片链接,长这样:

https://worldwide.espacenet.com/captchaChallengeGenerator?rnd=1

我当时想都没想,直接开了50个进程开始下载,没想到,瞬间就结束了,去看文件,一个都没有。。。。。

然后去Google查了一下才发现,这种链接里面没有有效的图片后缀,然后又看了一下自己的请求头的Accept是默认的*/*,所以可以将headers写成这样就行:

head = {"user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36",
        "accept": "image/webp,image/apng,image/*,*/*;q=0.8",
        "accept-encoding": "gzip, deflate, br",
        "accept-language": "zh-CN,zh;q=0.9,en-US;q=0.8,en;q=0.7,ja;q=0.6",
        "cookie": ""}

然后就能愉快地爬取验证码了

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值