Python数据解析的三种方式_python 解析

child xpath(‘./child:😗’) # 返回当前节点的所有子节点
descendant xpath(‘./descendant:😗’) # 返回当前节点的所有后代节点（子节点、孙节点）
following xpath(‘./following:😗’) # 选取文档中当前节点结束标签后的所有节点
following-sibing xpath(‘./following-sibing:😗’) # 选取当前节点之后的兄弟节点
parent xpath(‘./parent:😗’) # 选取当前节点的父节点
preceding xpath(‘./preceding:😗’) # 选取文档中当前节点开始标签前的所有节点
preceding-sibling xpath(‘./preceding-sibling:😗’) # 选取当前节点之前的兄弟节点
self xpath(‘./self:😗’) # 选取当前节点

6，功能函数  
 使用功能函数能够更好的进行模糊搜索

函数 用法 解释
starts-with xpath(‘//div[starts-with(@id,”ma”)]‘) # 选取id值以ma开头的div节点
contains xpath(‘//div[contains(@id,”ma”)]‘) # 选取id值包含ma的div节点
and xpath(‘//div[contains(@id,”ma”) and contains(@id,”in”)]‘) # 选取id值包含ma和in的div节点
text() xpath(‘//div[contains(text(),”ma”)]‘) # 选取节点文本包含ma的div节点

**Element对象**

from lxml.etree import _Element
for obj in ret:
print(obj)
print(type(obj)) # from lxml.etree import _Element

‘’’
遇到问题没人解答？小编创建了一个Python学习交流QQ群：579817333
寻找有志同道合的小伙伴，互帮互助,群里还有不错的视频学习教程和PDF电子书！

Element对象

class xml.etree.ElementTree.Element(tag, attrib={}, **extra)

tag：string，元素代表的数据种类。
　　text：string，元素的内容。
　　tail：string，元素的尾形。
　　attrib：dictionary，元素的属性字典。
　　
　　＃针对属性的操作
　　clear()：清空元素的后代、属性、text和tail也设置为None。
　　get(key, default=None)：获取key对应的属性值，如该属性不存在则返回default值。
　　items()：根据属性字典返回一个列表，列表元素为(key, value）。
　　keys()：返回包含所有元素属性键的列表。
　　set(key, value)：设置新的属性键与值。

＃针对后代的操作
　　append(subelement)：添加直系子元素。
　　extend(subelements)：增加一串元素对象作为子元素。＃python2.7新特性
　　find(match)：寻找第一个匹配子元素，匹配对象可以为tag或path。
　　findall(match)：寻找所有匹配子元素，匹配对象可以为tag或path。
　　findtext(match)：寻找第一个匹配子元素，返回其text值。匹配对象可以为tag或path。
　　insert(index, element)：在指定位置插入子元素。
　　iter(tag=None)：生成遍历当前元素所有后代或者给定tag的后代的迭代器。＃python2.7新特性
　　iterfind(match)：根据tag或path查找所有的后代。
　　itertext()：遍历所有后代并返回text值。
　　remove(subelement)：删除子元素。
‘’’

##### 三，BeautifulSoup


**简介及安装**


简介：


Beautiful Soup提供一些简单的、python式的函数用来处理导航、搜索、修改分析树等功能。  
 它是一个工具箱，通过解析文档为用户提供需要抓取的数据，因为简单，所以不需要多少代码就可以写出一个完整的应用程序。


安装：pip3 install beautifulsoup4


解析器：


Beautiful Soup支持Python标准库中的HTML解析器,还支持一些第三方的解析器，如果我们不安装它，则 Python 会使用 Python默认的解析器，lxml 解析器更加强大，速度更快。


**简单使用**  
 使用方式：可以将一个html文档，转化为BeautifulSoup对象，然后通过对象的方法或者属性去查找指定的节点内容

‘’’
遇到问题没人解答？小编创建了一个Python学习交流QQ群：579817333
寻找有志同道合的小伙伴，互帮互助,群里还有不错的视频学习教程和PDF电子书！
‘’’
from bs4 import BeautifulSoup

转化本地文件

soup = BeautifulSoup(open(‘本地文件’), ‘lxml’)

转化网络文件

soup = BeautifulSoup(‘字符串类型或者字节类型’, ‘lxml’)

从文档中获取所有文字内容:

print(soup.get_text())

**语法简介**

1.根据标签名查找

- soup.a   只能找到第一个符合要求的标签

2.获取属性

- soup.a.attrs  获取a所有的属性和属性值，返回一个字典
- soup.a.attrs['href']   获取href属性
- soup.a['href']   也可简写为这种形式

3.获取内容

- soup.a.string
- soup.a.text
- soup.a.get_text()

注意:如果标签还有标签，那么string获取到的结果为None，而其它两个，可以获取文本内容

4.find：找到第一个符合要求的标签

- soup.find('a')  找到第一个符合要求的
- soup.find('a', title="xxx")
- soup.find('a', alt="xxx")
- soup.find('a', class_="xxx")
- soup.find('a', id="xxx")

5.find_all：找到所有符合要求的标签

- soup.find_all('a')
- soup.find_all(['a','b']) 找到所有的a和b标签
- soup.find_all('a', limit=2)  限制前两个

6.根据选择器选择指定的内容

       select:soup.select('#feng')
- 常见的选择器：标签选择器(a)、类选择器(.)、id选择器(#)、层级选择器
    - 层级选择器：
        div .dudu #lala .meme .xixi 下面好多级
        div > p > a > .lala          只能是下面一级
注意:select选择器返回永远是列表，需要通过下标提取指定的对象

**find\_all()**  
 先准备一个HTML格式的字符串

html_doc = “”"

The Dormouse's story

Once upon a time there were three little sisters; and their names were Elsie, Lacie and Tillie; and they lived at the bottom of a well.

...

"""

1，五种过滤器


字符串、正则表达式、列表、True、方法

from bs4 import BeautifulSoup
soup=BeautifulSoup(html_doc,‘lxml’)

#1、字符串：即标签名
print(soup.find_all(‘b’))

#2、正则表达式
import re
print(soup.find_all(re.compile(‘^b’))) #找出b开头的标签，结果有body和b标签

#3、列表：如果传入列表参数,Beautiful Soup会将与列表中任一元素匹配的内容返回.下面代码找到文档中所有标签和标签:
print(soup.find_all([‘a’,‘b’]))

#4、True：可以匹配任何值,下面代码查找到所有的tag,但是不会返回字符串节点
print(soup.find_all(True))
for tag in soup.find_all(True):
print(tag.name)

#5、方法:如果没有合适过滤器,那么还可以定义一个方法,方法只接受一个元素参数 ,如果这个方法返回 True 表示当前元素匹配并且被找到,如果不是则反回 False
def has_class_but_no_id(tag):
return tag.has_attr(‘class’) and not tag.has_attr(‘id’)
print(soup.find_all(has_class_but_no_id))

2、按照类名查找


注意：关键字是class\_，class\_=value,value可以是五种选择器之一

print(soup.find_all(‘a’,class_=‘sister’)) # 查找类为sister的a标签
print(soup.find_all(‘a’,class_=‘sister ssss’)) # 查找类为sister和sss的a标签，顺序错误也匹配不成功
print(soup.find_all(class_=re.compile(‘^sis’))) # 查找类为sister的所有标签

3、attrs

print(soup.find_all(‘p’,attrs={‘class’:‘story’}))

4、text


值可以是：字符，列表，True，正则

print(soup.find_all(text=‘Elsie’))
print(soup.find_all(‘a’,text=‘Elsie’))

5、limit参数


如果文档树很大那么搜索会很慢.如果我们不需要全部结果,可以使用 limit 参数限制返回结果的数量.效果与SQL中的limit关键字类似,当搜索到的结果数量达到 limit 的限制时,就停止搜索返回结果

print(soup.find_all(‘a’,limit=2))

6、recursive


调用tag的 find\_all() 方法时,Beautiful Soup会检索当前tag的所有子孙节点,如果只想搜索tag的直接子节点,可以使用参数 recursive=False .

print(soup.html.find_all(‘a’))
print(soup.html.find_all(‘a’,recursive=False))

tag


像调用 find\_all() 一样调用tag find\_all() 几乎是Beautiful Soup中最常用的搜索方法,所以我们定义了它的简写方法. BeautifulSoup 对象和 tag 对象可以被当作一个方法来使用~


这个方法的执行结果与调用这个对象的 find\_all() 方法相同~


**find**


find( name , attrs , recursive , text , \*\*kwargs )


find\_all() 方法将返回文档中符合条件的所有tag,尽管有时候我们只想得到一个结果.比如文档中只有一个 < body > 标签,那么使用 find\_all() 方法来查找< body>标签就不太合适, 使用 find\_all 方法并设置 limit=1 参数不如直接使用 find() 方法


### 最后

> **🍅 硬核资料**：关注即可领取PPT模板、简历模板、行业经典书籍PDF。  
> **🍅 技术互助**：技术群大佬指点迷津，你的问题可能不是问题，求资源在群里喊一声。  
> **🍅 面试题库**：由技术群里的小伙伴们共同投稿，热乎的大厂面试真题，持续更新中。  
> **🍅 知识体系**：含编程语言、算法、大数据生态圈组件（Mysql、Hive、Spark、Flink）、数据仓库、Python、前端等等。




**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**[需要这份系统化学习资料的朋友，可以戳这里无偿获取](https://bbs.csdn.net/topics/618317507)**

**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**