xpath与bs4

xpath与bs4

两种解析HTML的方法，xpath与bs4。xpath常在lxml或scrapy shell中使用，bs4需要导入beautifulsoup包。

XPath

XPath概述

全称 XML Path Language，即 XML 路径语言，可用于 XML 文档中查找信息。 XPath 中，有七种类型的节点：元素、属性、文本、命名空间、处理指令、注释以及文档（根）节点。
xml文档格式如下：

<?xml version="1.0" encoding="ISO-8859-1"?>

<bookstore>

<book>
  <title lang="eng">Harry Potter</title>
  <price>29.99</price>
</book>

<book>
  <title lang="eng">Learning XML</title>
  <price>39.95</price>
</book>

</bookstore>

基本规则

表达式	描述
nodename	选取此节点的所有子节点
/	从当前节点选区直接子节点
//	从当前节点选取子孙节点
.	选取当前节点
..	选取当前节点的父节点
@	选取属性

示例：
xml.xpath(“bookstore”)表示选取 bookstore 元素的所有子节点
xml.xpath(“/bookstore”)表示选取根元素 bookstore。
xml.xpath(“bookstore/book”)选取属于 bookstore 的子元素的所有 book 元素。
xml.xpath(“//book”)选取所有 book 子元素，而不管它们在文档中的位置。
xml.xpath(“bookstore//book”)选择属于 bookstore 元素的后代的所有 book 元素，而不管它们位于 bookstore 之下的什么位置。
xml.xpath(“//@lang”)选取名为 lang 的所有属性。

常用用法

路径表达式	结果
/bookstore/book[1]	选取属于 bookstore 子元素的第一个 book 元素。
/bookstore/book[last()]	选取属于 bookstore 子元素的最后一个 book 元素。
/bookstore/book[last()-1]	选取属于 bookstore 子元素的倒数第二个 book 元素。
/bookstore/book[position()<3]	选取最前面的两个属于 bookstore 元素的子元素的 book 元素。
//title[@lang]	选取所有拥有名为 lang 的属性的 title 元素。
//title[@lang=’eng’]	选取所有 title 元素，且这些元素拥有值为 eng 的 lang 属性。
/bookstore/book[price>35.00]	选取 bookstore 元素的所有 book 元素，且其中的 price 元素的值须大于 35.00。
<