爬虫之pyquery

转载 2017年03月15日 09:28:44

pyquery库是jQueryPython实现,可以用于解析HTML网页内容,我个人写过的一些抓取网页数据的脚本就是用它来解析html获取数据的。他的官方文档地址是:http://packages.python.org/pyquery/。今天重新看了一遍整个文档,把它的一些使用方法整理了一下,做个记录。

使用方法
from pyquery import PyQuery as pq

1.可加载一段HTML字符串,或一个HTML文件,或是一个url地址,

例:

d=pq("<html><title>hello</title></html>")

d=pq(filename=path_to_html_file)

d=pq(url='http://www.baidu.com')注意:此处url似乎必须写全


2.html()和text() ——获取相应的HTML块或文本块,

例:
p=pq("<head><title>hello</title></head>")
p('head').html()#返回<title>hello</title>
p('head').text()#返回hello


3.根据HTML标签来获取元素,

例:

d=pq('<div><p>test 1</p><p>test 2</p></div>')

d('p')#返回[<p>,<p>]

print d('p')#返回<p>test 1</p><p>test 2</p>

print d('p').html()#返回test 1

注意:当获取到的元素不只一个时,html()、text()方法只返回首个元素的相应内容块


4.eq(index) ——根据给定的索引号得到指定元素
接上例,若想得到第二个p标签内的内容,则可以:
print d('p').eq(1).html() #返回test 2


5.filter() ——根据类名、id名得到指定元素,例:
d=pq("<div><p id='1'>test 1</p><p class='2'>test 2</p></div>")
d('p').filter('#1') #返回[<p#1>]
d('p').filter('.2') #返回[<p.2>]


6.find() ——查找嵌套元素,例:
d=pq("<div><p id='1'>test 1</p><p class='2'>test 2</p></div>")
d('div').find('p')#返回[<p#1>, <p.2>]
d('div').find('p').eq(0)#返回[<p#1>]


7.直接根据类名、id名获取元素,例:
d=pq("<div><p id='1'>test 1</p><p class='2'>test 2</p></div>")
d('#1').html()#返回test 1
d('.2').html()#返回test 2


8.获取属性值,例:
d=pq("<p id='my_id'><a href='http://hello.com'>hello</a></p>")
d('a').attr('href')#返回http://hello.com
d('p').attr('id')#返回my_id


9.修改属性值,例:
d('a').attr('href', 'http://baidu.com')把href属性修改为了baidu


10.addClass(value) ——为元素添加类,例:
d=pq('<div></div>')
d.addClass('my_class')#返回[<div.my_class>]


11.hasClass(name) #返回判断元素是否包含给定的类,例:
d=pq("<div class='my_class'></div>")
d.hasClass('my_class')#返回True


12.children(selector=None) ——获取子元素,例:
d=pq("<span><p id='1'>hello</p><p id='2'>world</p></span>")
d.children()#返回[<p#1>, <p#2>]
d.children('#2')#返回[<p#2>]


13.parents(selector=None)——获取父元素,例:
d=pq("<span><p id='1'>hello</p><p id='2'>world</p></span>")
d('p').parents()#返回[<span>]
d('#1').parents('span')#返回[<span>]
d('#1').parents('p')#返回[]


14.clone() ——返回一个节点的拷贝

15.empty() ——移除节点内容

16.nextAll(selector=None) ——返回后面全部的元素块,例:
d=pq("<p id='1'>hello</p><p id='2'>world</p><img scr='' />")
d('p:first').nextAll()#返回[<p#2>, <img>]
d('p:last').nextAll()#返回[<img>]


17.not_(selector) ——返回不匹配选择器的元素,例:
d=pq("<p id='1'>test 1</p><p id='2'>test 2</p>")
d('p').not_('#2')#返回[<p#1>]

pyquery还有其他一些用法,这里没有一一整理出来,更多更全的方法可以直接去看它的文档。

基于Python、PyQuery实现的一个网络爬虫实例

一、前言 由于项目需要,写了一个爬虫程序。用它解析唯品会中连衣裙的搜索结果页面(结果不止一页,需要循环解析),获取连衣裙的图片url(唯品会搜索结果页上的图片会有正反两张),然后把图片下载下来。因为...
  • fly1183989782
  • fly1183989782
  • 2015年01月03日 15:32
  • 1941

Python爬虫入门之Beautiful Soup的用法

1. Beautiful Soup的简介 简单来说,Beautiful Soup是python的一个库,最主要的功能是从网页抓取数据。官方解释如下: Beautiful Soup提供一些简单的、...
  • walter_chan
  • walter_chan
  • 2015年09月12日 15:05
  • 604

Python使用pyquery抓取数据实例

最近由于公司业务上的需求,要网络采集一些数据,并格式化以供应用的调取,前期想到用正则表达式来对网页格式串进行过滤和抓取,在进行了一系列尝试之后放弃, 原因是太繁琐了,而且对于每种网页都需要写特定的表...
  • baidu_21833433
  • baidu_21833433
  • 2017年04月21日 13:27
  • 2034

爬虫之pyquery 解析html

PyQuery库也是一个非常强大又灵活的网页解析库,如果你有前端开发经验的,都应该接触过jQuery,那么PyQuery就是你非常绝佳的选择,PyQuery 是 Python 仿照 jQuery 的严...
  • qq_37634812
  • qq_37634812
  • 2017年12月14日 11:35
  • 60

爬虫解析2:pyquery总结

使用 pyQuery 解析HTML内容 https://segmentfault.com/a/1190000005182997 http://blog.csdn.net/cnmilan/artic...
  • cbjcry
  • cbjcry
  • 2017年04月13日 11:20
  • 482

python3实现爬取淘宝页面的商品的数据信息(selenium+pyquery+mongodb)

1.环境须知 做这个爬取的时候需要安装好python3.6和selenium、pyquery等等一些比较常用的爬取和解析库,还需要安装MongoDB这个分布式数据库。 2.直接上代码 sp...
  • DH_SIR
  • DH_SIR
  • 2017年11月11日 00:40
  • 258

五. PyQuery

PyQuery初始化字符串初始化html = ''' first item second item ...
  • niandanzhi9501
  • niandanzhi9501
  • 2017年10月09日 00:46
  • 420

python之pyQuery使用总结

什么是pyQuery     当我们使用爬虫抓取网页后,还需要对抓取的HTML内容进行处理以获得需要的信息.pyQuery是jQuery的python实现,可以用来解析HTML内容. 安装  我...
  • shuaijiasanshao
  • shuaijiasanshao
  • 2016年05月09日 09:34
  • 4857

pyquery ----用法

pyquery库是jQuery的Python实现,可以用于解析HTML网页内容,我个人写过的一些抓取网页数据的脚本就是用它来解析html获取数据的。他的官方文档地址是:http://packages....
  • u012850192
  • u012850192
  • 2016年07月07日 10:43
  • 486

pyquery: 基于python和jquery语法操作XML

内容 属性 (Attributes)转换 (Traversing)AJAX使用不同的解析器更多的文档pyquery.pyquery – PyQuery 完全 API 手册用法Attributes样...
  • xiecj_2006
  • xiecj_2006
  • 2014年12月21日 15:35
  • 833
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:爬虫之pyquery
举报原因:
原因补充:

(最多只允许输入30个字)