Python的requests库可以帮助我们获取到大量的信息,而如果想对这些信息进行提取与分析,则经常使用beautifulsoup这个用来解析HTML和XML格式的功能库。
beautifulsoup库的安装和requests的流方法一样,可直接在cmd中输入pip install beautifulsoup4来安装,安装完成后可直接在IDLE中输入import bs4来验证是否安装成功。
接下来我们以python123.io中一个专为bs4库设计的网页为例来体验下bs4库的基础操作。
其中prettify()方法可以在各节点之间加入换行符已使打印出来的解析文本可读性更高:
可以看到,想使用bs4来解析网页信息时,我们需要将待解析的网页的html信息传入BeautifulSoup这个类中,再将我们想使用的解析器作为第二个参数传入类中,然后我们可以通过prettify这个方法来将解析后的网页打印出来。
bs4中除了可以使用html.parser这个解析器之外,还可以使用lxml的HTML与XML解析器以及html5lib的解析器,使用之前只需安装对应的解析器的库即可。
由此可见BeautifulSoup的主要用途是对HTML和XML的“标签树”进行解析、遍历和维护,只要给它提供的文本为标签类型,它都能对其进行解析,可以简单的将BeautifulS