Beautifulsoup常见用法

序号 解析库使用方法优势劣势
1Python标准库BeautifulSoup(html,’html.parser’) Python内置标准库;执行速度快容错能力较差
2lxml HTML解析库BeautifulSoup(html,’lxml’)速度快;容错能力强需要安装,需要C语言库
3lxml XML解析库BeautifulSoup(html,[‘lxml’,’xml’]) 速度快;容错能力强;支持XML格式 需要C语言库
4 htm5lib解析库BeautifulSoup(html,’htm5llib’)以浏览器方式解析,最好的容错性速度慢

创建对象

import requests as re
from bs4 import BeautifulSoup as bs

web=re.get("http://www.xbiquge.la/13/13959/")
web.encoding="utf8"
soup=bs(web.text,"lxml")

搜索文档树

常使用两种方法find()和find_all(),过滤器包括:纯字符串、正则表达式、列表、True、方法这几种。

find_all(name,attrs,recursive,text,limit,keywords)

该方法搜索当前节点的所有tag子节点。

name参数:
指的是tag的name属性,字符串对象自动忽略。
过滤器可以使用全部种类。

keywords参数:
如果一个入参指定了名字,但是并不是上述提到的入参名字,搜索时会把该入参当做是tag的属性来搜索。例如:

soup.find_all(id='link2')

会返回tag中存在属性id,并且id对应的值是link2的tag。
以上方法可使用除方法之外的所有过滤器。

某些特殊属性不能这样直接使用,则使用如下方法:

soup.find_all(attrs={"key":"value"})

例如要使用class属性进行搜索,由于class是python中的保留字,不能直接写成入参,目前有两种方法:

soup.find_all('tag.name',class_='class_value')
soup.find_all('tag.name',attrs={'class':'class_value'})

class_方法可以使用全部过滤器。
另外,因为class是一个多值属性,所以只需要匹配一个值,就可以得到结果,所谓的不完全匹配。
使用完全匹配时,过滤器中的字符顺序需要和实际相符合才能得到对应结果。

find(name,attrs,recursive,text,keywords)

find()方法等价于find_all(limit=1),返回符合条件的第一个对象。
区别在于,前者直接返回结果,后者返回只有一个元素的列表。若没有对象符合条件,前者返回None,后者返回空列表。

它也有简化版:

soup.find('head').find('title')
soup.head.title

CSS选择器

可以采用CSS的语法格式来筛选元素:

#标签选择器
print soup.select('a')
#类名选择器
print soup.select('.css')
#id选择器
print soup.select('#css')
#属性选择器
print soup.select('img[width="160"]')

 

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
PythonBeautifulSoup是一个用于解析HTML和XML文档的Python库。它可以帮助我们从网页中提取出需要的信息。 使用BeautifulSoup的第一步是导入该库。可以使用以下代码导入BeautifulSoup: ``` from bs4 import BeautifulSoup ``` 接下来,我们需要将要解析的HTML或XML文档传递给BeautifulSoup的构造函数,以创建一个BeautifulSoup对象。例如,可以使用以下代码创建一个BeautifulSoup对象: ``` soup = BeautifulSoup(html_doc, 'html.parser') ``` 在这里,`html_doc`是要解析的HTML或XML文档的字符串。 一旦我们创建了BeautifulSoup对象,我们就可以使用它来查找和提取我们需要的信息。以下是一些常见用法: 1. 查找标签:使用`find()`或`find_all()`方法来查找具有特定标签的元素。例如,可以使用以下代码查找所有的`<a>`标签: ``` soup.find_all('a') ``` 2. 获取属性:可以使用`get()`方法来获取元素的属性值。例如,可以使用以下代码获取第一个`<a>`标签的`href`属性值: ``` soup.find('a').get('href') ``` 3. 获取文本:可以使用`text`属性来获取元素的文本内容。例如,可以使用以下代码获取第一个`<h1>`标签的文本内容: ``` soup.find('h1').text ``` 这只是BeautifulSoup的一些用法示例,还有更多的功能和方法可以帮助我们处理和分析网页信息。如果你想深入了解BeautifulSoup用法,可以参考官方文档,文档中提供了详细的教程和示例。 总结一下,通过导入BeautifulSoup库、创建BeautifulSoup对象,并使用其提供的方法和属性,我们可以方便地解析和提取网页中的信息。希望这些信息对你有所帮助!<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [python使用BeautifulSoup分析网页信息的方法](https://download.csdn.net/download/weixin_38669729/12878332)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* *3* [[Python从零到壹] 五.网络爬虫之BeautifulSoup基础语法万字详解](https://blog.csdn.net/Eastmount/article/details/109497225)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值