免费代理IP池

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/ganzheyu/article/details/56503018

免费代理IP池

高频抓取某个网站的数据,很有可能就被网站管理员封掉IP,导致抓取数据失败,解决这个问题最直接,简单的方法就是使用代理IP。目前网上有不少提供付费代理IP的平台,但是如需长期使用,该方案是笔不少的开销。本项目通过抓取IP代理网站提供免费代理IP,并不间断的验证IP的有效性,根据代理IP验证的历史记录对IP进行评估,输出高质量代理IP。
源码:https://github.com/clelandgt/ip_proxy

功能

  • 100+ 支持https, 匿名或高匿名的免费代理IP;
  • 外部提供API调用。

原理

第一步:爬取多个免费IP代理网站获得代理IP;
第二步:访问https://www.baidu.com/验证代理IP的有效性和响应时间,由于每次都能爬取10000+个代理,需要使用并发(多进程+协程)方式快速完成验证;
第三步:将验证通过的代理IP存入mongodb中;
第四步:睡眠一定时间;
第五步:开始验证数据库中的IP,根据每个IP的历史失败数和失败率淘汰掉一些低质量或失效的代理IP;
第六步:验证完数据库中的IP,如果数据库中的IP小于一个预设值(比如100),执行第一步,否则执行第四步。
这里写图片描述

部署

  • os:Centos7
  • redis 2.8.19
  • mongodb 3.4.1
  • nginx 1.10.2

完成以上系统和软件的安装,其中操作系统可以选择其他linux版本,软件版本没有特殊要求。

克隆代码到本地

$ git clone https://github.com/clelandgt/ip_proxy

创建虚拟环境

$ mkvirtualenv proxy_env #创建名为proxy_env的虚拟环境
$ workon proxy_env #加载proxy_env虚拟环境
$ pip install -r requirements.txt #导入并安装需要安装的第三方库

关于虚拟环境的详细介绍和使用详见:http://blog.csdn.net/ganzheyu/article/details/53014726

supervisord

使用supervisord进行进程管理,当进程出现异常退出时,supervisord会重新启动该进程。

$ pip install supervisor #安装supervisord
$ mv supervisord.conf /etc/supervisord.conf #默认配置文件在/etc下,所以将项目配置好的deploy目录下的supervisord.conf拷贝到/etc下。

本项目需要监控的进程主要有两个,一个是IP代理核心流程”python ip_proxy.py”,另一个是提供外部API访问的”uwsgi uwsgi.ini”

[program:proxy_crawler]
command=python ip_proxy.py
directory=/root/webapp/ip_proxy/src/ip_proxy
autostart=true
autorestart=true
stdout_logfile=/tmp/proxy_crawler.log

[program:uwsgi]
command=uwsgi uwsgi.ini
directory=/root/webapp/ip_proxy/src
autostart=true
autorestart=true 

nginx + uwsgi 配置后台服务

...

设置开机自启

$ systemctl enabled supervisord.service #设置supervisord开机自启
$ systemctl enabled redis.service #设置redis开机自启
$ systemctl enabled mongod.service #设置mongodb开机自启
$ systemctl enabled nginx.service #设置nginx开机自启

关于systemctl详细使用见:http://blog.csdn.net/ganzheyu/article/details/56335419

- 虚拟环境的加载
阅读更多 登录后自动展开
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页