xpath与bs4
两种解析HTML的方法,xpath与bs4。xpath常在lxml或scrapy shell中使用,bs4需要导入beautifulsoup包。
XPath
XPath概述
全称 XML Path Language,即 XML 路径语言,可用于 XML 文档中查找信息。 XPath 中,有七种类型的节点:元素、属性、文本、命名空间、处理指令、注释以及文档(根)节点。
xml文档格式如下:
<?xml version="1.0" encoding="ISO-8859-1"?>
<bookstore>
<book>
<title lang="eng">Harry Potter</title>
<price>29.99</price>
</book>
<book>
<title lang="eng">Learning XML</title>
<price>39.95</price>
</book>
</bookstore>
基本规则
表达式 | 描述 |
---|---|
nodename | 选取此节点的所有子节点 |
/ |
从当前节点选区直接子节点 |
// |
从当前节点选取子孙节点 |
. |
选取当前节点 |
.. |
选取当前节点的父节点 |
@ |
选取属性 |
示例:
xml.xpath(“bookstore”)
表示选取 bookstore 元素的所有子节点
xml.xpath(“/bookstore”)
表示选取根元素 bookstore。
xml.xpath(“bookstore/book”)
选取属于 bookstore 的子元素的所有 book 元素。
xml.xpath(“//book”)
选取所有 book 子元素,而不管它们在文档中的位置。
xml.xpath(“bookstore//book”)
选择属于 bookstore 元素的后代的所有 book 元素,而不管它们位于 bookstore 之下的什么位置。
xml.xpath(“//@lang”)
选取名为 lang 的所有属性。
常用用法
路径表达式 | 结果 |
---|---|
/bookstore/book[1] |
选取属于 bookstore 子元素的第一个 book 元素。 |
/bookstore/book[last()] |
选取属于 bookstore 子元素的最后一个 book 元素。 |
/bookstore/book[last()-1] |
选取属于 bookstore 子元素的倒数第二个 book 元素。 |
/bookstore/book[position()<3] |
选取最前面的两个属于 bookstore 元素的子元素的 book 元素。 |
//title[@lang] |
选取所有拥有名为 lang 的属性的 title 元素。 |
//title[@lang=’eng’] |
选取所有 title 元素,且这些元素拥有值为 eng 的 lang 属性。 |
/bookstore/book[price>35.00] |
选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。 |
< |