搜索引擎与网络爬虫简述

本文介绍了搜索引擎的基本概念,包括垂直搜索引擎的工作方式,以及搜索引擎的四个主要构件:搜索器、分析器、索引器和检索器。同时,详细阐述了网络爬虫的角色,如Heritrix等爬虫框架的爬取流程,以及主题网络爬虫与通用网络爬虫的区别。主题网络爬虫的关键过程包括定义主题、筛选相关链接、确定抓取顺序以及相关度判断。
摘要由CSDN通过智能技术生成

一、搜索引擎

         搜索引擎是指根据一定的策略、运用特定的计算机程序搜集互联网上的信息,在对信息进行组织和处理后,将处理后的信息展示给用户。

垂直搜索引擎则是针对某一行业的专业所搜引擎,是普通搜索引擎的细化和延伸。主要通过对网页库的某类信息进行整合,定向分字段抽取出需要的数据进行处理、返回给用户。

 二、搜索引擎的流程

1、搜索引擎将网页大量抓取下来,通过分析器解析,将有价值的数据入库,检索器(索引器)对有效的内数据建立检索

2、客户搜索界面——>提交查询——>检索器返回结果呈现给用户

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值