爬虫学习笔记5-常见的反爬虫手段和解决思路

一、常见基于身份识别进行反爬

1、 通过headers字段来反爬

服务器通过 headers字段进行判断是否为爬虫

1.1 通过headers中的User-Agent字段来反爬

• 反爬原理：爬虫默认情况下没有User-Agent，而是使用模块默认设置
• 解决方法：请求之前添加User-Agent即可；更好的方式是使用User-Agent池来解决（收集一堆User-Agent的方式，或者是随机生成User-Agent）

1.2 通过referer字段或者是其他字段来反爬

• 反爬原理：爬虫默认情况下不会带上referer字段，服务器端通过判断请求发起的源头，以此判断请求是否合法
• 解决方法：添加referer字段

1.3 通过cookie来反爬

• 反爬原因：通过检查cookies来查看发起请求的用户是否具备相应权限，以此来进行反爬
• 解决方案：进行模拟登陆，成功获取cookies之后在进行数据爬取

2 通过请求参数来反爬

请求参数的获取方法有很多，向服务器发送请求，很多时候需要携带请求参数，服务器端可以通过检查请求参数是否正确来判断是否为爬虫

2.1 通过从html静态文件中获取请求数据(github登录数据)

• 反爬原理：通过增加获取请求参数的难度进行反爬
• 解决方案：仔细分析抓包得到的每一个包