BeautifulSoup应用笔记(1)- 解析器及对象类型

原创 2015年11月20日 10:23:28

解析器

BeautifulSoup支持Python标准库中的HTML解析器(html.parser),还支持一些第三方的解析器,如:lxml、html5lib,官方推荐使用lxml(优势:速度快、支持xml)作为解析器。如果没有配置解析器,BeautifulSoup会根据系统安装的库自动选择解析器,因此最好注明使用哪种解析器,避免不同环境执行结果不一致。

经过实践,html5lib的兼容性最佳,html.parser和lxml无法正确解析的复杂的html文档(包含多个iframe框架,应用find_all("iframe")获取的结果数量少于实际的数量),换为html5lib后可以正确解析。

解析器的使用方法:

BeautifulSoup(markup, "lxml")

对象类型

BeautifulSoup对象类型包括BeautifulSoup,Tag,NavigableString,Comment。

示例如下:

from bs4 import BeautifulSoup

html_doc = """
<html>
<head><title>The Dormouse's story</title></head>
<body>
<b><!--Hey, buddy. Want to buy a used parser?--></b>
<p class="title"><b>The Dormouse's story</b></p>

<p class="story">Once upon a time there were three little sisters; and their names were
<a href="http://example.com/elsie" class="sister" id="link1">Elsie</a>,
<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and
<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;
and they lived at the bottom of a well.</p>

<p class="story">...</p>
"""

soup=BeautifulSoup(html_doc)
tag=soup.title
string=tag.string
comment=soup.b.string

print type(soup)    # <class 'bs4.BeautifulSoup'>
print type(tag) 	# <class 'bs4.element.Tag'>
print type(string)  # <class 'bs4.element.NavigableString'>
print type(comment) # <class 'bs4.element.Comment'>


 备注:

详细文档可参考官方文档:http://www.crummy.com/software/BeautifulSoup/bs4/doc/

版权声明:本文为博主的原创文章,欢迎转载,但请注明出处,谢谢!

Python爬虫利器二之Beautiful Soup的用法

http://cuiqingcai.com/1319.html  Python  崔庆才  1年前 (2015-03-10)  155003浏览  46评论 上一节我...
  • oMingZi12345678
  • oMingZi12345678
  • 2016年07月26日 13:48
  • 748

使用Beautifulsoup去除特定标签

试用了Beautifulsoup,的确是个神器。 在抓取到网页时,会出现很多不想要的内容,例如标签,利用beautifulsoup可以很容易去掉。 -> soup = BeautifulSoup...
  • felcon
  • felcon
  • 2015年08月25日 15:48
  • 6631

python自动化:iframe跳转完成后,依然无法抓取到数据的问题

python自动化:iframe跳转完成后,依然无法抓取到数据的问题 正在使用python进行自动化开发。今天上午【2017年12月8日】遇到一个奇怪的问题。 用户使用场景是这样,点击一个按钮之后...
  • Bierante
  • Bierante
  • 2017年12月08日 13:53
  • 47

BeautifulSoup中各种html解析器的比较及使用

Beautiful Soup支持各种html解析器,包括python自带的标准库,还有其他的许多第三方库模块。其中一个就是lxml parser,另外一种纯python解析器为html5lib解析器,...
  • Winterto1990
  • Winterto1990
  • 2015年08月20日 13:25
  • 5848

使用 Beautiful Soup 解析网页内容

安装Beautiful SoupBeautiful Soup是一个Python的HTML解析框架,我们可以利用它方便的处理HTML和XML文档。Beautiful Soup有3和4两个版本,目前3已经...
  • u011054333
  • u011054333
  • 2017年04月03日 21:34
  • 1366

Python爬虫利器二之Beautiful Soup的用法

http://cuiqingcai.com/1319.html  Python  崔庆才  1年前 (2015-03-10)  155003浏览  46评论 上一节我...
  • oMingZi12345678
  • oMingZi12345678
  • 2016年07月26日 13:48
  • 748

Python 网页解析器BeautifulSoup示例使用

Beautiful Soup 是一个可以从HTML或XML文件中提取数据的Python库.它能够通过你喜欢的转换器实现惯用的文档导航,查找,修改文档的方式.Beautiful Soup会帮你节省数...
  • DoJintian
  • DoJintian
  • 2016年05月12日 11:24
  • 1418

Python3 爬虫(八) -- BeautifulSoup之再次爬取CSDN博文

序 我的Python3爬虫(五)博文使用utllib基本函数以及正则表达式技术实现了爬取csdn全部博文信息的任务。 链接:Python3 爬虫(五) -- 单线程爬取我的CSDN全部博文 上一...
  • fly_yr
  • fly_yr
  • 2016年06月01日 17:48
  • 10794

基于BeautifulSoup的网页文本提取(1)

一.先安装python 二.Windows平台安装Beautiful Soup Beautiful Soup是一个Python的一个库,主要为一些短周期项目比如屏幕抓取而设计。有三个特性使得它非常...
  • connie_py
  • connie_py
  • 2015年06月10日 22:29
  • 2513

python3实现网络爬虫(4)--BeautifulSoup使用(3)

这一次我们继续来讲一下BeautifulSoup的相关知识,说一下BeautifulSoup导航树的相关内容。 在上一次的博客中我们了解到findAll函数通过标签的名称和属性来查找标签,但有的时候在...
  • qq_29883591
  • qq_29883591
  • 2016年11月18日 16:23
  • 7436
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:BeautifulSoup应用笔记(1)- 解析器及对象类型
举报原因:
原因补充:

(最多只允许输入30个字)