基于python爬虫的几种方法

本文介绍了使用Python进行网络爬虫的四种方法:利用requests获取并解析json格式数据,结合user-agent-switcher模拟手机模式;使用selenium进行动态内容抓取,包括xml解析和页面交互;探讨pyppeteer库的运用;以及如何利用Python与MongoDB进行数据交互,实现数据存储。
摘要由CSDN通过智能技术生成

一  requests,json格式数据

#1.获取链接

url =

#2.获取响应

response = requests.get(url)

response = response.content.decode()

#3.提取数据

response = json.loads(response)         # json字符串→python字典

#4.保存数据

f.write(json.dumps(content))            # python字典→json字符串,字典不能写入文件

注:

1.可用user-agent-switcher将浏览器切换到手机模式,获取json格式数据

2.dict、str和json之间的转换:https://blog.csdn.net/li532331251/article/details/78203438

二  selenium

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值