环境说明:由于BeautifulSoup
不是Python标准库,需要在终端输入一行代码运行:pip install BeautifulSoup4
BeautifulSoup是如何解析和提取数据
一 解析数据
在括号中,要输入两个参数,第0个参数是要被解析的文本,注意了,它必须必须必须是字符串。括号中的第1个参数用来标识解析器,我们要用的是一个Python内置库:html.parser
。(它不是唯一的解析器,但是比较简单的)
以网站这个书苑不太冷为例(url:https://localprod.pandateacher.com/python-manuscript/crawler-html/spider-men5.0.html),假设我们想爬取网页中的书籍类型、书名、链接、和书籍介绍。点击右键-显示网页源代码
根据之前所学的requests.get()
,我们可以先获取到一个Response对象,并确认自己获取成功:
import requests #调用requests库
res = requests.get('