代码下载
前言
网络爬虫(又被称为网页蜘蛛,网络机器人,在FOAF社区中间,更经常的称为网页追逐者),是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。
提示:
快捷键
Ctrl+/ 批量注释,选中后按
主函数
库
requests请求库
发送请求获取响应数据
Beautiful Soup库
Beautiful Soup是一个可以从html或xml文件中提取数据的python库
BeautifulSoup对象的find方法
用来搜索文档树
例:
正则表达式
一种字符串匹配的模式
作用:
- 检查一个字符串是否含有某种子串
- 替换匹配的字符串
- 提取某个字符串中匹配的子串
findall方法
扫描整个string字符串,返回所有与pattern匹配的列表
- pattern:正则表达式
- string:从哪个字符串中查找
- flags:匹配模式
- 返回:返回string中与pattern匹配的结果列表
r原串的使用
正则中使用r原始字符串,能够忽略转义字符带来的影响
待匹配的字符串中有多少个\,r原串正则中就添加多少个\即可
json模块
json模块是python自带的模块,用于json和python数据之间的相互转换
对应关系
json转换为python
python转换为json
例:
综合案例–解析最新的疫情数据的json字符串
综合案例
采集近一日世界各国疫情数据