网络爬虫(又被称为网页蜘蛛,网络机器人,在FOAF社区中间,更经常的称为网页追逐者),是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。(来自百度百科)
网络爬虫按照系统结构和实现技术,大致可以分为以下几种类型:通用网络爬虫(General Purpose Web Crawler)、聚焦网络爬虫(Focused Web Crawler)、增量式网络爬虫(Incremental Web Crawler)、深层网络爬虫(Deep Web Crawler)。 实际的网络爬虫系统通常是几种爬虫技术相结合实现的。
下面我们的实例是根据聚焦网络爬虫技术:
前段时间,有人给我推荐一本书有关时间管理的,听的时候,我也顺手把他爬下来。
1、使用的python编程语言:python3.6
所使用的库:requests,json,os
其中requests为第三方库,需要下载安装(安装步骤略)pip install requests
2、确定搜索的网址和内容
2.1 打开浏览器,在喜马拉雅音频官网找到时间管理100讲
2.2 打开开发者工具或按F12,打开network