python2.7爬虫学习笔记（一）---Urllib库的使用

扒一个网页：

[python]  view plain  copy

 print ?

1. import urllib2  
2.    
3. response = urllib2.urlopen("http://www.baidu.com")  
4. print response.read()  

第一行：调用了urllib2库里边的urlopen方法，传入一个url，这个方法一般接收三个参数，如下：

[python]  view plain  copy

 print ?

1. urlopen(url, data, timeout)  

第一个不用解释，data是访问url时要传送的数据，timeout是设置超时时间，后两个为选填，data默认为None，

第二行：返回的response对象有一个read方法，可返回获取到的网页内容。

构造Request：

[python]  view plain  copy

 print ?

1. import urllib2  
2.    
3. request = urllib2.Request("http://www.baidu.com")  
4. response = urllib2.urlopen(request)  
5. print response.read()  

与上面效果相同，但这样写更符合逻辑规范

post和get数据传送：

post方式：

[python]  view plain  copy

 print ?

1. import urllib  
2. import urllib2  
3.    
4. values = {"username":"1016903103@qq.com","password":"XXXX"}  
5. data = urllib.urlencode(values)   
6. url = "https://passport.csdn.net/account/login?from=http://my.csdn.net/my/mycsdn"  
7. request = urllib2.Request(url,data)  
8. response = urllib2.urlopen(request)  
9. print response.read()  

在此引入了urllib库，模拟登陆CSDN，当然是登不上去的，因为一些参数还没有设置，这个只是原理，

get方式：

[python]  view plain  copy

 print ?

1. import urllib  
2. import urllib2  
3.    
4. values={}  
5. values['username'] = "1016903103@qq.com"  
6. values['password']="XXXX"  
7. data = urllib.urlencode(values)   
8. url = "http://passport.csdn.net/account/login"  
9. geturl = url + "?"+data  
10. request = urllib2.Request(geturl)  
11. response = urllib2.urlopen(request)  
12. print response.read()  

设置headers：

[python]  view plain  copy

 print ?

1. import urllib    
2. import urllib2    
3.   
4. url = 'http://www.server.com/login'  
5. user_agent = 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'    
6. values = {'username' : 'cqc',  'password' : 'XXXX' }    
7. headers = { 'User-Agent' : user_agent }    
8. data = urllib.urlencode(values)    
9. request = urllib2.Request(url, data, headers)    
10. response = urllib2.urlopen(request)    
11. page = response.read()   

这样在构建Request时传入headers请求，服务器就会识别为时浏览器发来的请求，并作出响应。

另外，我们还有对付”反盗链”的方式，对付防盗链，服务器会识别headers中的referer是不是它自己，如果不是，有的服务器不会响应，所以我们还可以在headers中加入referer，如下：

[python]  view plain  copy

 print ?

1. headers = { 'User-Agent' : 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'  ,  
2.                         'Referer':'http://www.zhihu.com/articles' }    

另外headers的一些属性，下面的需要特别注意一下：

User-Agent : 有些服务器或 Proxy 会通过该值来判断是否是浏览器发出的请求
Content-Type : 在使用 REST 接口时，服务器会检查该值，用来确定 HTTP Body 中的内容该怎样解析。
application/xml ： 在 XML RPC，如 RESTful/SOAP 调用时使用
application/json ： 在 JSON RPC 调用时使用
application/x-www-form-urlencoded ： 浏览器提交 Web 表单时使用
在使用服务器提供的 RESTful 或 SOAP 服务时， Content-Type 设置错误会导致服务器拒绝服务

其他的有必要的可以审查浏览器的headers内容，在构建时写入同样的数据即可。

Proxy（代理）的设置：urllib2 默认会使用环境变量 http_proxy 来设置 HTTP Proxy。假如一个网站它会检测某一段时间某个IP 的访问次数，如果访问次数过多，它会禁止你的访问。所以你可以设置一些代理服务器来帮助你做工作，每隔一段时间换一个代理。下面一段代码说明了代理的设置用法

[python]  view plain  copy

 print ?

1. import urllib2  
2. enable_proxy = True  
3. proxy_handler = urllib2.ProxyHandler({"http" : 'http://some-proxy.com:8080'})  
4. null_proxy_handler = urllib2.ProxyHandler({})  
5. if enable_proxy:  
6.     opener = urllib2.build_opener(proxy_handler)  
7. else:  
8.     opener = urllib2.build_opener(null_proxy_handler)  
9. urllib2.install_opener(opener)  

Timeout设置：可以设置等待多久超时，为了解决一些网站实在响应过慢而造成的影响。例如下面的代码,如果第二个参数data为空那么要特别指定是timeout是多少，写明形参，如果data已经传入，则不必声明。

[python]  view plain  copy

 print ?

1. import urllib2  
2. response = urllib2.urlopen('http://www.baidu.com', timeout=10)  

[python]  view plain  copy

 print ?

1. import urllib2  
2. response = urllib2.urlopen('http://www.baidu.com',data, 10)  

URLError异常处理：

URLError捕获相应异常：

[python]  view plain  copy

 print ?

1. import urllib2  
2.   
3. requset = urllib2.Request('http://www.xxxxx.com')  
4. try:  
5.     urllib2.urlopen(requset)  
6. except urllib2.URLError, e:  
7.     print e.reason  

访问了不存在的网址，返回结果：

[python]  view plain  copy

 print ?

1. [Errno 11004] getaddrinfo failed  

HTTPError： HTTPError是URLError的子类，在你利用urlopen方法发出一个请求时，服务器上都会对应一个应答对象response，其中它包含一个数字”状态码”。举个例子，假如response是一个”重定向”，需定位到别的地址获取文档，urllib2将对此进行处理。 其他不能处理的，urlopen会产生一个HTTPError，对应相应的状态吗，HTTP状态码表示HTTP协议所返回的响应的状态。下面将状态码归结如下：

100：继续  客户端应当继续发送请求。客户端应当继续发送请求的剩余部分，或者如果请求已经完成，忽略这个响应。

101： 转换协议  在发送完这个响应最后的空行后，服务器将会切换到在Upgrade 消息头中定义的那些协议。只有在切换新的协议更有好处的时候才应该采取类似措施。

102：继续处理   由WebDAV（RFC 2518）扩展的状态码，代表处理将被继续执行。

200：请求成功      处理方式：获得响应的内容，进行处理

201：请求完成，结果是创建了新资源。新创建资源的URI可在响应的实体中得到    处理方式：爬虫中不会遇到

202：请求被接受，但处理尚未完成    处理方式：阻塞等待

204：服务器端已经实现了请求，但是没有返回新的信 息。如果客户是用户代理，则无须为此更新自身的文档视图。    处理方式：丢弃

300：该状态码不被HTTP/1.0的应用程序直接使用， 只是作为3XX类型回应的默认解释。存在多个可用的被请求资源。    处理方式：若程序中能够处理，则进行进一步处理，如果程序中不能处理，则丢弃
301：请求到的资源都会分配一个永久的URL，这样就可以在将来通过该URL来访问此资源    处理方式：重定向到分配的URL

302：请求到的资源在一个不同的URL处临时保存     处理方式：重定向到临时的URL

304：请求的资源未更新     处理方式：丢弃

400：非法请求     处理方式：丢弃

401：未授权     处理方式：丢弃

403：禁止     处理方式：丢弃

404：没有找到     处理方式：丢弃

500：服务器内部错误  服务器遇到了一个未曾预料的状况，导致了它无法完成对请求的处理。一般来说，这个问题都会在服务器端的源代码出现错误时出现。

501：服务器无法识别  服务器不支持当前请求所需要的某个功能。当服务器无法识别请求的方法，并且无法支持其对任何资源的请求。

502：错误网关  作为网关或者代理工作的服务器尝试执行请求时，从上游服务器接收到无效的响应。

503：服务出错   由于临时的服务器维护或者过载，服务器当前无法处理请求。这个状况是临时的，并且将在一段时间以后恢复。

HTTPError实例产生后会有一个code属性，这就是是服务器发送的相关错误号。
因为urllib2可以为你处理重定向，也就是3开头的代号可以被处理，并且100-299范围的号码指示成功，所以你只能看到400-599的错误号码。

下面我们写一个例子来感受一下，捕获的异常是HTTPError，它会带有一个code属性，就是错误代号，另外我们又打印了reason属性，这是它的父类URLError的属性。

[python]  view plain  copy

 print ?

1. import urllib2  
2.   
3. req = urllib2.Request('http://blog.csdn.net/cqcre')  
4. try:  
5.     urllib2.urlopen(req)  
6. except urllib2.HTTPError, e:  
7.     print e.code  
8.     print e.reason  

运行结果：

[python]  view plain  copy

 print ?

1. 403  
2. Forbidden  

错误代号是403，错误原因是Forbidden，说明服务器禁止访问。

HTTPError的父类是URLError，根据编程经验，父类的异常应当写到子类异常的后面，如果子类捕获不到，那么可以捕获父类的异常，所以上述的代码可以这么改写

[python]  view plain  copy

 print ?

1. import urllib2  
2.   
3. req = urllib2.Request('http://blog.csdn.net/cqcre')  
4. try:  
5.     urllib2.urlopen(req)  
6. except urllib2.HTTPError, e:  
7.     print e.code  
8. except urllib2.URLError, e:  
9.     print e.reason  
10. else:  
11.     print "OK"  

如果捕获到了HTTPError，则输出code，不会再处理URLError异常。如果发生的不是HTTPError，则会去捕获URLError异常，输出错误原因。

另外还可以加入 hasattr属性提前对属性进行判断，代码改写如下

[python]  view plain  copy

 print ?

1. import urllib2  
2.   
3. req = urllib2.Request('http://blog.csdn.net/cqcre')  
4. try:  
5.     urllib2.urlopen(req)  
6. except urllib2.URLError, e:  
7.     if hasattr(e,"code"):  
8.         print e.code  
9.     if hasattr(e,"reason"):  
10.         print e.reason  
11. else:  
12.     print "OK"</span>  

首先对异常的属性进行判断，以免出现属性输出报错的现象。

cookie的使用：

opener：

当你获取一个URL你使用一个opener(一个urllib2.OpenerDirector的实例)。在前面，我们都是使用的默认的opener，也就是urlopen。它是一个特殊的opener，可以理解成opener的一个特殊实例，传入的参数仅仅是url，data，timeout。

如果我们需要用到Cookie，只用这个opener是不能达到目的的，所以我们需要创建更一般的opener来实现对Cookie的设置。

cookielib：

cookielib模块的主要作用是提供可存储cookie的对象，以便于与urllib2模块配合使用来访问Internet资源。Cookielib模块非常强大，我们可以利用本模块的CookieJar类的对象来捕获cookie并在后续连接请求时重新发送，比如可以实现模拟登录功能。该模块主要的对象有CookieJar、FileCookieJar、MozillaCookieJar、LWPCookieJar。

它们的关系：CookieJar —-派生—->FileCookieJar  —-派生—–>MozillaCookieJar和LWPCookieJar

1，获取cookie保存到变量：

[python]  view plain  copy

 print ?

1. import urllib2  
2. import cookielib  
3. #声明一个CookieJar对象实例来保存cookie  
4. cookie = cookielib.CookieJar()  
5. #利用urllib2库的HTTPCookieProcessor对象来创建cookie处理器  
6. handler=urllib2.HTTPCookieProcessor(cookie)  
7. #通过handler来构建opener  
8. opener = urllib2.build_opener(handler)  
9. #此处的open方法同urllib2的urlopen方法，也可以传入request  
10. response = opener.open('http://www.baidu.com')  
11. for item in cookie:  
12.     print 'Name = '+item.name  
13.     print 'Value = '+item.value</span>  

我们使用以上方法将cookie保存到变量中，然后打印出了cookie中的值，运行结果如下

[python]  view plain  copy

 print ?

1. Name = BAIDUID  
2. Value = B07B663B645729F11F659C02AAE65B4C:FG=1  
3. Name = BAIDUPSID  
4. Value = B07B663B645729F11F659C02AAE65B4C  
5. Name = H_PS_PSSID  
6. Value = 12527_11076_1438_10633  
7. Name = BDSVRTM  
8. Value = 0  
9. Name = BD_HOME  
10. Value = 0</span>  

2，保存cookie到变量：就要用到FileCookieJar这个对象了，在这里我们使用它的子类MozillaCookieJar来实现Cookie的保存

[python]  view plain  copy

 print ?

1. import cookielib  
2. import urllib2  
3.   
4. #设置保存cookie的文件，同级目录下的cookie.txt  
5. filename = 'cookie.txt'  
6. #声明一个MozillaCookieJar对象实例来保存cookie，之后写入文件  
7. cookie = cookielib.MozillaCookieJar(filename)  
8. #利用urllib2库的HTTPCookieProcessor对象来创建cookie处理器  
9. handler = urllib2.HTTPCookieProcessor(cookie)  
10. #通过handler来构建opener  
11. opener = urllib2.build_opener(handler)  
12. #创建一个请求，原理同urllib2的urlopen  
13. response = opener.open("http://www.baidu.com")  
14. #保存cookie到文件  
15. cookie.save(ignore_discard=True, ignore_expires=True)  

ignore_discard的意思是即使cookies将被丢弃也将它保存下来，ignore_expires的意思是如果在该文件中cookies已经存在，则覆盖原文件写入，在这里，我们将这两个全部设置为True

3，从文件中获取cookie并访问：

[python]  view plain  copy

 print ?

1. import cookielib  
2. import urllib2  
3.   
4. #创建MozillaCookieJar实例对象  
5. cookie = cookielib.MozillaCookieJar()  
6. #从文件中读取cookie内容到变量  
7. cookie.load('cookie.txt', ignore_discard=True, ignore_expires=True)  
8. #创建请求的request  
9. req = urllib2.Request("http://www.baidu.com")  
10. #利用urllib2的build_opener方法创建一个opener  
11. opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cookie))  
12. response = opener.open(req)  
13. print response.read()  

4，利用cookie模拟网站登录：

[python]  view plain  copy

 print ?

1. import urllib  
2. import urllib2  
3. import cookielib  
4.   
5. filename = 'cookie.txt'  
6. #声明一个MozillaCookieJar对象实例来保存cookie，之后写入文件  
7. cookie = cookielib.MozillaCookieJar(filename)  
8. opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cookie))  
9. postdata = urllib.urlencode({  
10.             'stuid':'2012xxxxx',  
11.             'pwd':'xxxxxx'  
12.         })  
13. #登录教务系统的URL  
14. loginUrl = 'http://jwxt.sdu.edu.cn:7890/pls/wwwbks/bks_login2.login'  
15. #模拟登录，并把cookie保存到变量  
16. result = opener.open(loginUrl,postdata)  
17. #保存cookie到cookie.txt中  
18. cookie.save(ignore_discard=True, ignore_expires=True)  
19. #利用cookie请求访问另一个网址，此网址是成绩查询网址  
20. gradeUrl = 'http://jwxt.sdu.edu.cn:7890/pls/wwwbks/bkscjcx.curscopre'  
21. #请求访问成绩查询网址  
22. result = opener.open(gradeUrl)  
23. print result.read()  

以上程序的原理如下：

创建一个带有cookie的opener，在访问登录的URL时，将登录后的cookie保存下来，然后利用这个cookie来访问其他网址。