python 网页爬虫nike_Python爬虫基础 - xiaotaomi7的个人空间 - OSCHINA - 中文开源技术交流社区...

1. 一般网页的爬取

抓取大多数情况属于get请求，即直接从对方服务器上获取数据。

首先，Python中自带urllib及urllib2这两个模块，可以满足基本的数据采集功能要求，requests也是非常有用的包，因此简单的采集如下即可。

import requests

url = http://current.ip.16yun.cn:802

response = requests.get(url)

content = requests.get(url).content

print("response headers:", response.headers)

print("content:", content)

此外，对于带有查询字段的url，get请求一般会将来请求的数据附在url之后，以?分割url和传输数据，多个参数用&连接。

import requests

data = {'wd':'nike', 'ie':'utf-8'}

url='https://www.baidu.com'

response = requests.get(url=url, params=data)

2.访问限制网站的爬取

大部分网站均限制了IP的访问量，需要使用代理IP进行采集。对于“频繁点击”的情况，我们还可以通过限制爬虫访问网站的频率来避免被网站禁掉。

#! -- encoding:utf-8 --

import requests

import random