用途:通过本案例学习可以了解到简单单一网页界面的爬取,但对于动态网页或网页页采集等功能需要借助下一节的UA伪装来实现
案例:通过爬虫爬出搜狗搜索的初始页面数据,并将其页面数据持久化储存
工具:python requests包(requests能够让你轻易地发送HTTP请求,这可库使用简单,功能完善。)
前提知识:网页的url及其获取方法、requests请求方式、页面源代码形式
一、网页的url及其获取方法
url:URL是统一资源定位符,对可以从互联网上得到的资源的位置和访问方法的一种简洁的表示,是互联网上标准资源的地址。它不仅可用来定位网络上信息资源的地址,也可用来定位本地系统要访问的文件。
网页url获取方法:
1、找到想要读取的网站,右键选择检查打开开发者界面。
2、选择网络,刷新一次网页,找到url。
二、requests请求方式
通过开发者界面找到该网页的请求方式,选择合适的请求方式,因为这里采用get请求,所以我们使用requests.get()命令。