python爬虫防屏蔽_python爬虫程序如何预防被限制

有一些网站不喜欢被爬虫程序访问，所以会检测连接对象，如果是爬虫程序，也就是非人点击访问，它就会不让你继续访问，所以为了要让程序可以正常运行，需要隐藏自己的爬虫程序的身份。此时，我们就可以通过设置UserAgent的来达到隐藏身份的目的，UserAgent的中文名为用户代理，简称UA。UA存放于Headers中，服务器就是通过查看Headers中的UserAgent来判断是谁在访问。在python中，如果不设置UserAgent，程序将使用默认的参数，那么这个UserAgent就会有Python的字样，如果服务器检查UserAgent，那么没有设置UserAgent的Python程序将无法正常访问网站。

UserAgent已经设置好了，但是还应该考虑一个问题，程序的运行速度是很快的，如果我们利用一个爬虫程序在网站爬取东西，一个固定IP的访问频率就会很高，这不符合人为操作的标准，因为人操作不可能在几ms内，进行如此频繁的访问。所以一些网站会设置一个IP访问频率的阈值，如果一个IP访问频率超过这个阈值，说明这个不是人在访问，而是一个爬虫程序。

一个很简单的解决办法就是设置延时，但是这显然不符合爬虫快速爬取信息的目的，所以另一种更好的方法就是使用IP代理。使用代理的步骤：

(1)调用urlib.request.ProxyHandler()，proxies参数为一个字典。

(2)创建Opener(类似于urlopen，这个代开方式是我们自己定制的)

(3)安装Opener

使用install_opener方法之后，会将程序默认的urlopen方法替换掉。也就是说，