爬虫（二）代理

一、为什么要使用代理

        反反爬，为什么要反爬？----------很多公司做高并发、分布式都是为了提升用户体验，你搞个爬虫高频访问给人搞崩或者让真正的用户体验极差都是别人不愿意看到的，所以很多网站都会对单个用户的访问频次有所限制。

代理主要有以下两个目的：

1. 让服务器以为不是同一个客户端在请求

2. 防止我们的真实地址被泄露，防止被追究（嗯，还是不要太高调，闷声爬就好了）

 正向代理与反向代理

• 正向代理：对于浏览器知道服务器的真实地址，例如VPN
• 反向代理：浏览器不知道服务器的真实地址，例如nginx

 

代理的使用

• 用法：

    requests.get("http://www.baidu.com",  proxies = proxies)
  

• proxies的形式：字典

• 例如：

    proxies = { 
        "http": "http://12.34.56.79:9527", 
        "https": "https://12.34.56.79:9527", 
        }
  

 

 

二、代理IP的分类

根据代理ip的匿名程度，代理IP可以分为下面几类：

• 透明代理(Transparent Proxy)：透明代理虽然可以直接“隐藏”你的IP地址，但是还是可以查到你是谁。
• 匿名代理(Anonymous Proxy)：使用匿名代理，别人只能知道你用了代理，无法知道你是谁。
• 高匿代理(Elite proxy或High Anonymity Proxy)：高匿代理让别人根本无法发现你是在用代理，所以是最好的选择。

在实际的使用中，毫无疑问使用高匿代理效果最好。

 

从请求使用的协议可以分为：

• http代理
• https代理
• socket代理等

不同分类的代理，在使用的时候需要根据抓取网站的协议来选择。

 

 

三、代理IP使用的注意点

• 反反爬

  使用代理ip是非常必要的一种反反爬的方式

  但是即使使用了代理ip，对方服务器任然会有很多的方式来检测我们是否是一个爬虫，比如：

  • 一段时间内，检测IP访问的频率，访问太多频繁会屏蔽

  • 检查Cookie，User-Agent，Referer等header参数，若没有则屏蔽

  • 服务方购买所有代理提供商，加入到反爬虫数据库里，若检测是代理则屏蔽

    所以更好的方式在使用代理ip的时候使用随机的方式进行选择使用，不要每次都用一个代理ip

 

• 代理ip池的更新

  购买的代理ip很多时候大部分(超过60%)可能都没办法使用，这个时候就需要通过程序去检测哪些可用，把不能用的删除掉。