你或许无法再造一个百度或谷歌,但显而易见,即便是百度或谷歌,也有鞭长莫及的地方。垂直细分领域的精准搜索从来都是巨头们的软肋。也是很多技术开发者实现财务自由的良好开端。
今天给大家推荐的这个教程,将帮助你实现一个技术博客领域的垂直搜索引擎。
知识点概览:
爬虫基础,了解爬虫的工作原理以及异步爬虫程序的编写流程
Sanic 使用,如何编写一个网站服务
一个基础的搜索引擎是怎样实现的
本教程会首先会讲解爬虫基础并利用 Python 异步特性实现异步爬虫系统,而后会一步一步地将构建索引、索引压缩、排名算法等步骤讲解清楚并编码实现,最后利用异步 web 框架 sanic 构建后端实现一个完整的垂直搜索引擎站点。
整体构架:
如何构建一个搜索引擎,从专业名称来看,叫做信息检索,在《信息检索导论》一书中,这个概念定义如下:
信息检索是从大规模非结构化数据(通常是文本)的集合(通常保存在计算机上)中找出满足用户信息需求的资料(通常是文档)的过程。
由于我们的目标文档全是技术博客,所以我们构建的搜索引擎是针对技术博客领域的垂直搜索引擎:
爬虫:
整个教程的学习和实现,需要你有一定的Python,爬虫基础,如果是对搜索引擎原理已经有一些认识,那将能够理解的更加透彻。
教程的作者是howie.hu,他是一名具有多年Python经验的开发者,同时也是异步爬虫框架Ruia作者&Sanic框架贡献者 。完整的教程请大家戳我学习。