爬虫,即网络爬虫,也叫做网络机器人,可以代替人们自动地在互联网中进行数据信息的采集与整理。
可以把它理解为在网络上爬行的一只蜘蛛,互联网就比作一张大网,而爬虫便是在这张网上爬来爬去的蜘蛛,如果它遇到自己的猎物(所需要的资源),那么它就会将其抓取下来
所以我们经常说,爬虫能通过网址获得网络中的数据、然后根据目标解析数据、存储目标信息,可以节省大量的人力物力。
简单地说,网络爬虫就是获取互联网公开数据的自动化工具。
像百度、google本质上就是超级爬虫
百度搜索引擎的爬虫叫作百度蜘蛛。
百度蜘蛛每天会在海量的互联网信息中进行爬取,爬取优质信息并收录,
当用户在百度搜索引擎上检索对应关键词时,百度将对关键词进行分析处理,从收录的网页中找出相关网页,按照一定的排名规则进行排序并将结果展现给用户。
大数据时代也离不开爬虫。
比如在进行大数据分析或数据挖掘时,我们可以去一些比较大型的官方站点下载数据源。
但这些数据源比较有限,那怎样才可以获取更多更高质量的数据源呢?
这个时候,我们就可以编写自己的爬虫程序,从互联网中进行数据信息的获取。所以在未来&#