搜索引擎
Shldreamfly
这个作者很懒,什么都没留下…
展开
-
网络爬虫基本原理(二)
网络爬虫基本原理(二) 四、更新策略 互联网是实时变化的,具有很强的动态性。网页更新策略主要是决定何时更新之前已经下载过的页面。常见的更新策略又以下三种: 1.历史参考策略 顾名思义,根据页面以往的历史更新数据,预测该页面未来何时会发生变化。一般来说,是通过泊松过程进行建模进行预测。 2.用户体验策略 尽管搜索引擎针对于某个查转载 2015-01-28 23:20:59 · 474 阅读 · 0 评论 -
网络爬虫基本原理(一)
此文转载自:http://www.cnblogs.com/wawlian/archive/2012/06/18/2553061.html 网络爬虫是捜索引擎抓取系统的重要组成部分。爬虫的主要目的是将互联网上的网页下载到本地形成一个或联网内容的镜像备份。这篇博客主要对爬虫以及抓取系统进行一个简单的概述。 一、网络爬虫的基本结构及工作流程 一个通用的网络爬虫的框架如图所示:转载 2015-01-28 23:16:08 · 579 阅读 · 0 评论