上篇文章 使用 XPath 提取网页信息 之后,将链接中的内容下载至本地,需要使用到 urllib2 。更多见:iii.run
urllib2 简介
urllib2提供一个基础函数urlopen,通过向指定的URL发出请求来获取数据。最简单的形式就是:
import urllib2
response = urllib2.urlopen('http://www.mmmxcc.cn/')
html = response.read()
可以将上述代码看作两个步骤,我们指定一个域名并发送请求
request=urllib2.request('http://www.mmmxcc.cn/')
接着服务端响应来自客户端的请求
response=urllib2.urlopen(request)
运行结果
我们可以发现title这个地方本来应该是中文的,但因为编码的原因,导致出现乱码。通过将html页面重新用"utf-8"编码,可以解决这个问题。
将获得的response保存至本地
使用Xpath表达式提取图片链接
这里需要导入lxml,代码格式如下。
import requests
from lxml import etree
html = requests.get("http://jandan.net/ooxx")
html.encoding = 'utf-8'
selector = etree.HTML(html