Python爬虫基础-3

urllib2内容扩充

urlopen返回的应答对象response(或者HTTPError实例)有两个很有用的方法info()和geturl()

geturl()

很有用！返回获取的真实的URL，因为urlopen(或者opener对象使用的)或许会有重定向，获取的URL或许跟请求URL不同。
以一个超级链接为例，来比较一下原始URL和重定向的链接：

from urllib2 import Request, urlopen, URLError, HTTPError

old_url = 'http://rrurl.cn/b1UZuP'
req = Request(old_url)
response = urlopen(req)

print 'Old url :' + old_url
print 'Real url :' + response.geturl()

info()

返回对象的字典对象，该字典描述了获取的页面情况。通常是服务器发送的特定头headers。是httplib.HTTPMessage 实例。
经典的headers包含”Content-length”，”Content-type”，和其他内容。

from urllib2 import Request, urlopen, URLError, HTTPError

url = 'http://www.baidu.com'
req = Request(url)
response = urlopen(req)
print response.info()

下面来说一说urllib2中的两个重要概念：Openers和Handlers。

Openers

当获取一个URL使用一个opener(一个urllib2.OpenerDirector的实例),正常情况下，我们使用默认opener：通过urlopen，但能够创建个性的openers。

Handles

Openers使用处理器handlers，所有的“繁重”工作由handlers处理。每个handlers知道如何通过特定协议打开URLs，或者如何处理URL打开时的各个方面。例如HTTP重定向或者HTTP cookies。

使用方法

综上所述，如果希望用特定处理器获取URLs需要创建一个个性化的openers，例如获取一个能处理cookie的opener，或者获取一个不重定向的opener。

要创建一个 opener，可以实例化一个OpenerDirector，然后调用.add_handler(some_handler_instance)。
同样，可以使用build_opener，这是一个更加方便的函数，用来创建opener对象，只需要一次函数调用。build_opener默认添加几个处理器，但提供快捷的方法来添加或更新默认处理器。其他的处理器handlers你或许会希望处理代理，验证，和其他常用但有点特殊的情况。

install_opener 用来创建（全局）默认opener。这个表示调用urlopen将使用你安装的opener。Opener对象有一个open方法，该方法可以像urlopen函数那样直接用来获取urls：通常不必调用install_opener。

Basic Authentication 基本验证

我们将使用HTTPBasicAuthHandler展示如何创建和安装一个handler。

当需要基础验证时，服务器发送一个header(401错误码) 请求验证。这个header指定了scheme 和’realm’，看起来像这样：Www-authenticate: SCHEME realm=”REALM”。例如：Www-authenticate: Basic realm=”cPanel Users”

客户端必须使用新的请求，并在请求头里包含正确的姓名和密码。这就是是“基础验证”，为了简化这个过程，我们可以创建一个HTTPBasicAuthHandler的实例，并让opener使用这个handler就可以。

HTTPBasicAuthHandler使用一个密码管理的对象来处理URLs和realms来映射用户名和密码。如果你知道realm(从服务器发送来的头里)是什么，你就能使用HTTPPasswordMgr。

通常人们不关心realm是什么，因此使用HTTPPasswordMgrWithDefaultRealm。这个将在你为URL指定一个默认的用户名和密码。这将在你为特定realm提供一个其他组合时得到提供。我们通过给realm参数指定None提供给add_password来指示这种情况。最高层次的URL是第一个要求验证的URL。传给.add_password()更深层次的URLs将同样合适。

# -*- coding: utf-8 -*-
import urllib2

# 创建一个密码管理者
password_mgr = urllib2.HTTPPasswordMgrWithDefaultRealm()

# 添加用户名和密码
top_level_url = "http://example.com/foo/"
password_mgr.add_password(None, top_level_url, 'why', '1223')

# 创建一个新的handler
handler = urllib2.HTTPBasicAuthHandler(password_mgr)

# 创建 "opener" (OpenerDirector 实例)
opener = urllib2.build_opener(handler)

a_url = 'http://www.baidu.com/'
# 使用 opener 获取一个URL
opener.open(a_url)

# 安装 opener.
# 现在所有调用 urllib2.urlopen 将用我们的 opener.
urllib2.install_opener(opener)

以上的例子我们仅仅提供我们的HHTPBasicAuthHandler给build_opener。默认的openers有正常状况的handlers：

ProxyHandler
UnknownHandler
HTTPHandler
HTTPDefaultErrorHandler
HTTPRedirectHandler
FTPHandler
FileHandler
HTTPErrorProcessor

代码中的top_level_url 实际上可以是完整URL(包含”http:”，以及主机名及可选的端口号)(例如：http://example.com/)，也可以是一个“authority”(即主机名和可选的包含端口号)(例如：“example.com” or “example.com:8080”)。