python爬虫学习第四章 BeautifulSoup

4.1 BeautifulSoup的基本使用

from bs4 import BeautifulSoup

# 通过解析本地文件 来将bs4的基础语法进行讲解
# 默认打卡的文件的编码格式是gbk 所以在解析的时候需要指定编码格式
soup = BeautifulSoup(open('01_bs4的基本学习.html', 'r', encoding='utf-8'))

# 根据标签名查找节点
# 找到的是第一个符合条件的数据
# print(soup.a)
# 获取标签的属性和属性值
# print(soup.a.attrs)

# bs4的一些函数
# (1)find() 查询且只返回第一个符合条件的元素
# # 返回的是第一个符合条件的数据
# print(soup.find('a'))

# 根据title的值来找到对应的标签对象
# print(soup.find('a',title="a2"))

# 根据class的值来找到对应的标签对象
# 由于class是python关键字 所以在python中需要使用class_来代替
# print(soup.find('a',class_="a1"))

# (2)find_all() 查询且返回所有符合条件的元素，返回列表
# 如果想获取的是多个标签的数据，那么需要在find_all的参数中添加的是列表的数据
# print(soup.find_all(['a','span']))

# limit的作用是查找前几个数据
# print(soup.find_all('li',limit=2))

# (3)select()：推荐
# select方法返回的是一个列表 并且会返回多个数据
# print(soup.select('a'))

# 可以通过点代表class 我们把这种操作叫做类选择器
# print(soup.select('.a1'))

# 属性选择器--通过属性来寻找对应的标签
# 查找到li标签中有id的标签
# print(soup.select('li[id]'))

# print(soup.select('#l1'))

#查找li标签中id为l2的标签
# print(soup.select('li[id="l2"]'))

# 层级选择器
# 后代选择器
# 要找到的是div下面的li
# print(soup.select('div li'))

# 子代选择器
# print(soup.select('div > ul > li'))

# 找到a标签和li标签的所有对象
# print(soup.select('a,li'))

# 节点信息
#   获取节点内容
# obj = soup.select('#d1')[0]
# 如果标签中 只有内容 那么string和get_text()方法都可以使用
# 如果标签对象中 除了内容还有标签 那么string就获取不到数据 而get_text()是可以获取到内容的
# print(obj.string)
# print(obj.get_text())

# 节点的属性
# obj = soup.select('#p1')[0]
# # 将属性值作为一个字典返回
# print(obj.attrs)
#
# # 获取节点的属性
obj = soup.select('#p1')[0]

print(obj.attrs.get('class'))
print(obj.get('class'))
print(obj['class'])