python 爬虫（3） Opener与Handler的介绍和实例应用

最新推荐文章于 2022-10-22 18:42:34 发布

power0405hf

最新推荐文章于 2022-10-22 18:42:34 发布

阅读量644

点赞数

分类专栏： python 文章标签： python

本文链接：https://blog.csdn.net/power0405hf/article/details/45073653

版权

python 专栏收录该内容

58 篇文章 1 订阅

订阅专栏

本文介绍了Python urllib2库中Opener和Handler的概念及其使用，包括geturl()和info()方法，OpenerDirector的创建与自定义处理器。还详细讲解了HTTPBasicAuthHandler在基础验证中的作用，以及示例代码演示。

摘要由CSDN通过智能技术生成

urllib2的两个方法：

info和geturl
urlopen返回的应答对象（或者HTTP实例）有两个很有用的方法：info()和geturl()

1.geturl():

返回获取的真实的URL，因为urlopen（或者opener对象使用的）或许会有重定向，获取的URL或许跟请求URL不同。
以人人网中一个超链接为例，比较一下原始URL和重定向的链接：

from urllib2 import Request,urlopen,URLError,HTTPError

old_url='http://rrurl.cn/b1UZup'
req=Request(old_url)
response=urlopen(req)
print 'Old url:'+old_url
print 'Real url:'+response.geturl()

info():

这个返回对象的字典对象，该字典描述了获取的页面情况。通常是服务器发送的特定头Headers。目前是httplib.HTTPMessage实例。
一般headers包含“Content-length”，“Content-type”等内容。

form urllib2 import Request,urlopen,URLError,HTTPError
old_url='http://www.baidu.com'
req=Request(old_url)
response=urlopen(req)
print 'Info():',response.info()

urllib2中的两个重要概念：Openers和Handlers

1.Openers：

当你获取一个URL，你使用一个opener（一个urllib2.OpenerDirector的实例）。
正常情况下，我们使用默认opener：通过urlopen，但能够创建个性的openers

2.Handles：

Openers使用处理器handlers，所有“繁重”的工作由handlers处理。，每个handlers知道如何通过特定协议打开URLs，或者如何处理URL打开时的各个方面。例如HTTP重定向或者HTTP cookies
如果你希望用特定处理器获取URLs你会想创建一个openers，例如获取一个能处理cookie的opener，或者获取一个不重定向的opener
要创建一个opener，可以实例化一个Opener Director，然后调用.add_handler(some_handler_instance).
同样，可以使用build_opener,这是一个更加方便的函数，用来创建opener对象，他只需要一次函数调用。
build_opener默认添加几个处理器，但提供快捷的方法来添加或更新默认处理器。
其他的处理器handlers你或许会希望处理代理，验证，和其他常用但有点特殊的情况。
install_opener用来创建（全局）默认opener。这个表示调用urlopen将使用你安装的opener。
Opener对象有一个open方法。
该方法可以像urlopen函数那样直接用来获取urls：通常不必调用install_opener,除了为了方便。

Basic Authentication基础验证

为了展示创建和安装一个handler，我们将使用HTTPBasicAuthHandler。
当需要基础验证时，服务器发送一个header（401错误码）请求验证。这个指定了scheme和一个’realm‘，看起来像是这样：www-authenticate:SCHEME realm=”REALM”
例如：www-authenticate:Basic realm=”cPanel Users”
客户端必须使用新的请求，并在请求头里包含正确的姓名和密码。

完全不知道在说什么

看看例子

__author__ = 'Administrator'
# -*- coding:utf-8 -*-
import urllib2

#创建一个密码管理者
password_mgr=urllib2.HTTPPasswordMgrWithDefaultRealm()

#添加用户名和密码
top_level_url="http://example.com/foo/"

#如果知道realm，我们可以使用他代替 None
#password_mgr.add_password(None,top_level_url,username,password)
password_mgr.add_password(None,top_level_url,'why','1223')

#创建一个新的handler
handler=urllib2.HTTPBasicAuthHandler(password_mgr)

#创建"opener"(OpenerDirector实例)
opener=urllib2.build_opener(handler)

a_url-"http://www.baidu.com/"

#使用opener获取一个URL
opener.open(a_url)

#安装opener
#现在所有调用urllib2.urlopen 将用我们的opener
urllib2.install_opener(opener)

上面的例子仅仅提供我们的HTTPBasicAuthHandler给build_opener.
默认的openers有正常状况的handlers：ProxyHandler，UnknownHandler，HTTPHandler，HTTPDefaultErrorHandler，HTTPRedirectHandler，FTPHandler，FileHandler，HTTPErrorProcessor。
代码中的top_level_url实际上可以是完整URL（包含“http:”，以及主机名及可选的端口号）
例如：http://example.com/
也可以是一个”authority“（即主机名和可选的包含端口号）
例如：”example.com“or “example.com:8080”
后者包含了端口号。