机器学习笔记-python爬虫(1)——爬取简单界面

这篇机器学习笔记介绍了如何使用Python的requests包抓取搜狗搜索初始页面的数据,讲解了URL获取、requests.get请求及页面源代码解析,最后展示了存储网页数据到HTML文件的步骤。
摘要由CSDN通过智能技术生成

用途:通过本案例学习可以了解到简单单一网页界面的爬取,但对于动态网页或网页页采集等功能需要借助下一节的UA伪装来实现

案例:通过爬虫爬出搜狗搜索的初始页面数据,并将其页面数据持久化储存

工具:python requests包(requests能够让你轻易地发送HTTP请求,这可库使用简单,功能完善。)

前提知识:网页的url及其获取方法、requests请求方式、页面源代码形式

一、网页的url及其获取方法

url:URL是统一资源定位符,对可以从互联网上得到的资源的位置和访问方法的一种简洁的表示,是互联网上标准资源的地址。它不仅可用来定位网络上信息资源的地址,也可用来定位本地系统要访问的文件。

网页url获取方法:

1、找到想要读取的网站,右键选择检查打开开发者界面。

2、选择网络,刷新一次网页,找到url。

二、requests请求方式

通过开发者界面找到该网页的请求方式,选择合适的请求方式,因为这里采用get请求,所以我们使用requests.get()命令。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值