四、从HTML文档中提取Cookies 很多时候,我们都需要处理Cookie,幸运的是Python语言的cookielib模块为我们提供了许多自动处理在HTML中的HTTP Cookie的类。当处理要求为客户端设置Cookie的HTML文档的时候,这些类对我们非常有用。
import
urllib2
import cookielib from urllib2 import urlopen, Request cJar = cookielib.LWPCookieJar() opener = urllib2.build_opener( \ urllib2.HTTPCookieProcessor(cJar)) urllib2.install_opener(opener) r = Request(testURL) h = urlopen(r) for ind, cookie in enumerate(cJar): print " %d - %s " % (ind, cookie) cJar.save(cookieFile) 为了从HTML文档提取cookies,首先得使用cookielib模块的LWPCookieJar()函数创建一个cookie jar的实例。LWPCookieJar()函数将返回一个对象,该对象可以从硬盘加载Cookie,同时还能向硬盘存放Cookie。 接下来,使用urllib2模块的build_opener([handler, . . .])函数创建一个opener对象,当HTML文件打开时该对象将处理cookies。函数build_opener可以接收零个或多个处理程序(这些程序将按照它们被指定的顺序连接在一起)作为参数并返回一个。 注意,如果想让urlopen()使用opener对象来打开HTML文件的话,可以调用install_opener(opener)函数,并将opener对象传给它。否则,请使用opener对象的open(url)函数来打开HTML文件。 一旦已经创建并安装了opener对象,就可以使用urllib2模块中的Request(url)函数来创建一个Request对象,然后就能使用urlopen(Request)函数来打开HTML文件了。 打开HTML页面后,该页面的所有Cookie将被存放到LWPCookieJar对象中,之后,您可以使用LWPCookieJar对象的save(filename)函数了。
import
os
import urllib2 import cookielib from urllib2 import urlopen, Request cookieFile = " cookies.dat " testURL = ' http://maps.google.com/ ' # 为cookie jar 创建实例 cJar = cookielib.LWPCookieJar() # 创建HTTPCookieProcessor的opener对象 opener = urllib2.build_opener( \ urllib2.HTTPCookieProcessor(cJar)) # 安装HTTPCookieProcessor的opener urllib2.install_opener(opener) # 创建一个Request对象 r = Request(testURL) # 打开HTML文件 h = urlopen(r) print " 页面的头部\n====================== " print h.info() print " 页面的Cookies\n====================== " for ind, cookie in enumerate(cJar): print " %d - %s " % (ind, cookie) # 保存cookies cJar.save(cookieFile) 上述代码的运行结果如下所示:
页面的头部
====================== Cache - Control: private Content - Type: text / html; charset = ISO - 8859 - 1 Set - Cookie: PREF = ID = 5d9692b55f029733:NW = 1 :TM = 1246015608 :LM = 1246015608 :S = frfx -- b3xt73TaEA; expires = Sun, 26 - Jun - 2011 11 : 26 : 48 GMT; path =/ ; domain = .google.com Date: Fri, 26 Jun 2009 11 : 26 : 48 GMT Server: mfe Expires: Fri, 26 Jun 2009 11 : 26 : 48 GMT Transfer - Encoding: chunked Connection: close 页面的Cookies ====================== 0 - |
利用Python抓取和解析网页(4)
最新推荐文章于 2024-09-21 17:56:48 发布
中国互联网络资讯网提示: 对搜索引擎、文件索引、文档转换、数据检索、站点备份或迁移等应用程序来说,经常用到对网页(即HTML文件)的解析处理。事