针对python爬虫lxml库的基础问题

lxml库的基本使用

 

1.导入模块

from lxml import etree

2.解析网页

lxml是使用XPath技术查询和处理HTML/XML文档的库，相比于BeautifulSoup只会局部遍历。

并且，lxml可以自动修正html代码、

url_str = getHTMLText(url)
html = etree.HTML(url_str) # 读取字符串格式
result = etree.tostring(html)

3.基本使用方法

使用XPath语法抽取出其中所有的URL

通常可以在网页上对你想爬取的部分通过以下操作得到它的xpath :

右键点击 >> '查看元素' >> 对此链接右键 >> 'copy' >> 'XPath'

def getXPath(url,xpath):
    url_str = getHTMLText(url)
    selector = etree.HTML(url_str)
    links = selector.xpath(xpath)
    return links

url  ='https://bbs.pku.edu.cn/v2/thread.php?bid=690&mode=topic'
xpath_num = '''/html/body/div[2]/div[3]/div[3]/div[2]/div[2]/div['*']/a'''
links_num = getXPath(url,xpath_num) # 不能直接打开
"""
[<Element a at 0x1ef8930b088>, <Element a at 0x1ef8930b688>, <Element a at 0x1ef8930bac8>, <Element a at 0x1ef8930ba88>, <Element a at 0x1ef8930ba48>, <Element a at 0x1ef8930bdc8>, <Element a at 0x1ef8930bd88>, <Element a at 0x1ef8930be08>, <Element a at 0x1ef8930be88>, <Element a at 0x1ef8930b988>, <Element a at 0x1ef8930bb48>, <Element a at 0x1ef8930bf08>, <Element a at 0x1ef8930be48>, <Element a at 0x1ef8930bec8>, <Element a at 0x1ef8930bf88>, <Element a at 0x1ef8930bfc8>, <Element a at 0x1ef8930b248>, <Element a at 0x1ef89324948>, <Element a at 0x1ef89324908>, <Element a at 0x1ef89324048>]
"""
for i in range(len(links_num)):
    title_num += 1
    url = 'https://bbs.pku.edu.cn/v2/' + links_num[i].attrib['href']  
    # 获取<a>标签的属性href和class

4.XPath基本语法

以下转载自 : https://blog.csdn.net/gongbing798930123/article/details/78955597

一．选取节点

Xpath使用路径表达式在XML文档中选取节点。节点是通过沿着路径来选取的，通过路径可以找到我们想要的节点或者节点范围。

 

表达式	描述	用法	说明
nodename	选取此节点的所有子节点。	xpath(‘span’)	选取span元素的所有子节点
/	从根节点选取	xpath(‘/div’)	从根节点上选取div节点
//	从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。	xpath(‘//div’)	从当前节点选取含有div节点的标签
.	选取当前节点	xpath(‘./div’)	选取当前节点下的div标签
..	选取当前节点的父节点	xpath(‘../’)	回到上一级节点
@	选取属性	xpath(“//div[@id=’1001’]”)	获取div标签中，含有ID属性且值为1001的标签

 

 

二.谓语（Predicates）

谓语用来查找某个特定的节点或者包含某个指定的值的节点。

谓语被嵌在方括号中。

表达式描述

用法说明

/bookstore/book[1]	选取属于 bookstore 子元素的第一个 book 元素。
/bookstore/book[last()]	选取属于 bookstore 子元素的最后一个 book 元素。
/bookstore/book[last()-1]	选取属于 bookstore 子元素的倒数第二个 book 元素。
/bookstore/book[position()<3]	选取最前面的两个属于 bookstore 元素的子元素的 book 元素。
//title[@lang]	选取所有拥有名为 lang 的属性的 title 元素。
//title[@lang='eng']	选取所有 title 元素，且这些元素拥有值为 eng 的 lang 属性。
/bookstore/book[price>35.00]	选取 bookstore 元素的所有 book 元素，且其中的 price 元素的值须大于 35.00。
/bookstore/book[price>35.00]/title	选取 bookstore 元素中的 book 元素的所有 title 元素，且其中的 price 元素的值须大于 35.00。

 

三. 通配符

XPath 通配符可用来选取未知的 XML 元素,通配指定节点。

 

表达式	描述	用法	说明
*	匹配任何元素节点	xpath（/div/*）	选取div下的所有子节点
@*	匹配任何属性节点	xpath(/div[@*])	选取所有带属性的div节点
node()	匹配任何类型的节点	xpath(//div[@class=’tb_cls’]).node()	选择标签为div且类属性为tb_cls的所有标签

 

 

四．多路径选择

通过在路径表达式中使用“|”运算符，您可以选取若干个路径。

用法	说明
xpath（//book/title |//book/price）	选取 book 元素的所有 title 和 price 元素。
xpath（//title| //price）	选取文档中的所有 title 和 price 元素

 

五．XPath 轴

轴可定义相对于当前节点的节点集。

表达式	描述	用法	说明
ancestor	选取当前节点的所有先辈（父、祖父等）	xpath(//div[@id=’123’]/ancestor::*)	选择标签为div且ID号为123的所有先辈标签
ancestor-or-self	选取当前节点的所有先辈（父、祖父等）以及当前节点本身	xpath(//div[@id=’123’]/ancestor-or-self::*)	选择标签为div且ID号为123的所有先辈标签且包含自己
attribute	选取当前节点的所有属性	xpath(//div[@id=’123’]/attribute::class)	选择标签为div且ID号为123的类属性名称
child	选取当前节点的所有子元素	xpath(//div[@id=’123’]/child::book)	选择标签为div且ID号为123的所有子元素的为book 节点
descendant	选取当前节点的所有后代元素（子、孙等）	xpath(./descendant::*)	返回当前节点的所有后代节点（子节点、孙节点）
following	选取文档中当前节点结束标签后的所有节点	xpath(./following::*)	选取文档中当前节点结束标签后的所有节点
parent	选取当前节点的父节点	xpath(./parent::*)	选取当前节点的父节点
preceding	选取文档中当前节点的开始标签之前的所有节点	xpath(//div[@id=’123’]/preceding::*)	选择标签为div且ID号为123的开始标签之前的所有节点
preceding-sibling	选取当前节点之前的所有同级节点	xpath(//div[@id=’123’]/preceding-sibling::*)	选择标签为div且ID号为123的之前的所有同级节点
self	选取当前节点	xpath(./self::*)	选取当前节点

 

 

六．XPath 运算符

表达式	描述	用法	说明
+	加法	6 + 4	10
-	减法	6 - 4	2
*	乘法	6 * 4	24
div	除法	8 div 4	2
=	等于	price=9.80	如果 price 是 9.80，则返回 true。 如果 price 是 9.90，则返回 false。
!=	不等于	price!=9.80	如果 price 是 9.90，则返回 true。 如果 price 是 9.80，则返回 false。
<	小于	price<9.80	如果 price 是 9.00，则返回 true。 如果 price 是 9.90，则返回 false。
<=	小于或等于	price<=9.80	如果 price 是 9.00，则返回 true。 如果 price 是 9.90，则返回 false。
>	大于	price>9.80	如果 price 是 9.90，则返回 true。 如果 price 是 9.80，则返回 false。
>=	大于或等于	price>=9.80	如果 price 是 9.90，则返回 true。 如果 price 是 9.70，则返回 false。
or	或	price=9.80 or price=9.70	如果 price 是 9.80，则返回 true。 如果 price 是 9.50，则返回 false。
and	与	price>9.00 and price<9.90	如果 price 是 9.80，则返回 true。 如果 price 是 8.50，则返回 false。
mod	计算除法的余数	5 mod 2	1

 

七．常用的功能函数

使用功能函数能够更好的进行模糊搜索

表达式	描述	用法	说明
starts-with	选取id值以ma开头的div节点	xpath(‘//div[starts-with(@id,”ma”)]‘)	选取id值以ma开头的div节点
contains	选取id值包含ma的div节点	xpath(‘//div[contains(@id,”ma”)]‘)	选取id值包含ma的div节点
and	选取id值包含ma和in的div节点	xpath(‘//div[contains(@id,”ma”) and contains(@id,”in”)]‘)	选取id值包含ma和in的div节点
text()	选取节点文本包含ma的div节点	xpath(‘//div[contains(text(),”ma”)]‘)	选取节点文本包含ma的div节点