Python爬取代理IP

这个代码实现的功能是爬取代理ip将之存放到proxy.txt文件中,用到了BeautifulSoup库,还有自带的urllib2库和itertools。

代码如下:
`
# -- coding:utf-8 --
from bs4 import BeautifulSoup
import itertools
import urllib2
from itertools import izip

f = open(“proxy.txt”,”w”)
def download(url):
url = urllib2.urlopen(url)
soup = BeautifulSoup(url, “html.parser”)
iplist = soup.findAll(“td”,{“data-title”:”IP”})
portlist = soup.findAll(“td”,{“data-title”:”PORT”})
for ip,port in izip(iplist,portlist):
f.write(ip.get_text()+”\t”+port.get_text()+”\n”)
for page in itertools.count(1):
url = ‘http://www.kuaidaili.com/free/inha/%d/’ % page
print page
html = download(url)

`

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值