python做动态数据采集仪代理_【SEO】有了这个工具，数据采集抓取如此简单，动态代理IP原来是这么回事...

对于SEO和很多网络营销推广工作来说，采集抓取和模拟访问都是必备的工作。

这时候就会面临一些问题：

1、对于网站平台方来说，采集抓取会造成服务器压力过大，对正常用户的访问产生干扰。而且内容被竞争对手或高权重网站采集走，对自己流量是一种威胁。

所以很多网站都不欢迎采集行为，除了百度这些能带来流量的蜘蛛，基本上能屏蔽都会屏蔽。

可对于站长和一些做数据分析工作的人来说，不让采集也得想办法。

2、还有一些做百度知道推广的朋友，自问自答是很常见的事，这也需要更换不同地区的IP。

3、再比如百度搜索结果在不同地区的排名也是不一样的，想知道某个关键词在对应地区的排名？也需要对应地区的IP资源。

还有很多使用场景，比如投票、注册等等，都需要大量的不同IP资源。

那怎么解决呢？

市面上有一种产品叫做IP代理，可以完美解决这个问题，我们也做了一个类似产品叫谢邀云服务。

目前客户案例：

A、某朋友APP每天都增量采集500万大众点评网上的餐饮优惠信息。

B、某知名B2B网站帮客户商铺查关键词的百度排名获取、变更情况。

这种产品的原理是什么？

这种产品最重要的资源是大量支持ADSL拨号的VPS服务器。

据说最初始这种线路商都是坐火车跑全国买ADSL线路。

然后把这些不断拨号获得的IP地址放到公共IP池里，需要用的时候拿出来使用。

也有一些平台会扫描大量代理IP混合在一起，提升自己总的可用IP量。

产品如何使用？

我们设计了两种代理模式：

一种叫动态代理模式(爬虫模式)，每次请求网页都会换一个IP，非常适合于采集数据资料。

另外一种叫经典代理模式(自主切换IP模式)，每隔5分钟会切换IP，但你也可以通过命令请求自己切换。

支持各种编程语言都可以接入使用，比如php、java、python等等。

先购买对应模式的隧道账号

Python3 爬虫模式接入代码如下

# 导入request库，用于做http请求

import requests

# 要访问的目标页面

targetUrl = "http://ip.3322.org/"

# 动态代理服务器

proxyHost = "dongtai.xieyaoyun.com"

proxyPort = "33002"

# 代理隧道验证信息

proxyUser = "你的隧道用户名"

proxyPass = "你的隧道密码"

proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {

"host" : proxyHost,

"port" : proxyPort,

"user" : proxyUser,

"pass" : proxyPass,

}

proxies = {

"http" : proxyMeta,

"https" : proxyMeta,

}

resp = requests.get(targetUrl, proxies=proxies)

print(resp.status_code)

print(resp.text)

做百度知道问答需要更换浏览器的IP地址，那如何操作呢？

如果你用的Windows系统，打开浏览器的Internet属性设置，点击连接->局域网设置->代理服务器

把购买的经典版代理的服务器地址填进去： http://jingdian.xieyaoyun.com，端口使用33001

当你设置好这些后，再次刷新浏览器(Chrome、IE、Firefox基本相同)会提示你输入用户名和密码，这里填写你购买的经典版隧道用户名和密码即可。

这时你就可以打开百度知道登录提问了。

当你想切换IP时候，浏览器输入如下地址：

http://proxy.xieyaoyun.com:804/?name=你的隧道用户名&pass=你的隧道密码

或者等5分钟IP切换后，清除浏览器cookie信息，重启浏览器登录其他百度账号回答问题。

总结

利益相关，以上是自己公司提供的代理IP服务介绍和说明。

如果你或者朋友有对应的需求，欢迎加我微信交流购买：vista8

目前仅需100元/月。(同行都在200以上，甚至高达400元/月)

与此同时，希望结识更多做数据采集相关的小伙伴，一起交流学习技术。