反爬虫的应对措施

网络爬虫对于互联网的贡献非常大，其中有超过一半的流量都是网络爬虫的贡献，如果一个网站不设置防爬机制，那么网站的信息就会被透明化，所以几乎大部分的网站都会设置防爬机制，一下是一些常见的反网络爬虫以及应对反网络爬虫的突破方法。

1、动态页面的限制

爬虫工作者可能会遇到一种情况，当抓取下目标页面之后，发现关键信息处一片空白，只有一片的框架代码，这是因为该网站的信息是通过用户Post的XHR动态返回内容信息。解决此类问题是要通过开发者工具网站流进行分析，对内容信息进行抓取，获取所需要的内容。

2、用户行为检测

一些网站会通过检测和分析一些用户的行为，比如通过检查cookies来判断用户是不是可以利用和保存的有效客户，层次更深一点的还有信息