《精通Scrapy网络爬虫》第三章

Selector对象


从页面中提取数据的核心技术是HTTP文本解析,在Python中常用Beautiful和lxml模块处理此类问题。Scrapy综合上述两者优点实现了Selector类,它是基于lxml库构建的。Selector类的实现位于scrapy.selector模块。
Selector的使用

创建对象

创建Selector对象时,有两种方法,一是可将页面的HTML文档字符串传递给Selector构造方法的text参数,,例如:
selector = Selector(text=text)
二是使用一个Response对象构造Selector对象,将其传递给Selector构造器方法的response参数,例如:

response = HtmlRespone(url='http://www.example.com',body=body,encoding='utf-8')
selector = Selector(response=response)
选中数据

调用Selector对象的xpath方法或css方法会返回SelectorList对象,SelectorList支持列表接口,可用for语句迭代访问其中的每一个Selector对象。

selector_list = selector.xpath('//h1')
for sel in selector_list:
	print(sel.xpath('./t
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值