1.搜索引擎工作原理
1.倒排索引
搜索引擎中储存的是倒排索引,就是分好的词,和词语文章的关联
- 事先把文章使用分词打散,以词为依据,标记清楚对应的文章的编号
- 查询时,把查询的语句也进行分词,然后根据分词,找到哪些文章中包含了这些词
2.django创建全文索引的过程
- django中提供的是结构化数据
- haystack把结构化转非结构化
- 搜索引擎把非结构化转分词
3.课程全文检索接口
3.1 安装
pip install django-haystack
pip install whoosh
pip install jieba
3.2 什么是haystack
- haystack是django的开源搜索框架,该框架支持Solr,Elasticsearch,Whoosh, Xapian搜索引擎,不用更改代码,直接切换引擎,减少代码量。
- 搜索引擎使用Whoosh,这是一个由纯Python实现的全文搜索引擎,没有二进制文件等,比较小巧,配置比较简单,当然性能自然略低。
- 中文分词Jieba,由于Whoosh自带的是英文分词,对中文的分词支持不是太好,故用jieba替换whoosh的分词组件。
3.3 配置 + views函数
3.3.1. syl/settings.py
全文检索配置
'''注册app'''
INSTALLED_APPS = [
'haystack',
]
'''模板路径'''
TEMPLATES = [
{
'DIRS': [os.path.join(BASE_DIR, 'templates')],
},
]
'''全文检索配置'''
HAYSTACK_SEARCH_RESULTS_PER_PAGE = 15
HAYSTACK_CONNECTIONS = {
'default':{
'ENGINE': 'course.whoosh_cn_backend.MyWhooshEngine',
'PATH': os.path.join(BASE_DIR, 'whoosh_index')
},
}
HAYSTACK_SIGNAL_PROCESSOR = 'haystack.signals.RealtimeSignalProcessor'
3.3.2 在子应用下创建索引文件
apps/course/search_indexes.py/
from haystack import indexes
from .models import Course
class CourseIndex(indexes.SearchIndex,indexes.Indexable):
"""
Course索引类
"""
text = indexes.CharField(document=True,use_template=True)
def get_model(self):
'''返回建立索引的模型类'''
return Course
def index_queryset(self, using=None):
'''返回要建立索引的数据查询集'''
return self.get_model().objects.all()
3.3.3 指定索引模板文件
templates/search/indexes/course/course_text.txt
创建文件路径命名必须这个规范:templates/search/indexes/应用名称/模型类名称 _text.txt
{{object.id}}
{{object.title}}
{{object.desc}}
3.3.4 修改为jieba分词中的中文分析器
apps/course/whoosh_cn_backend.py
from haystack.backends.whoosh_backend import WhooshEngine, WhooshSearchBackend
from whoosh.fields import TEXT
from jieba.analyse import ChineseAnalyzer
class MyWhooshSearchBackend(WhooshSearchBackend):
def build_schema(self, fields):
(content_field_name, schema) = super().build_schema(fields)
schema._fields['text'] = TEXT(stored=True,
analyzer=ChineseAnalyzer(),
field_boost=fields.get('text').boost,
sortable=True)
return (content_field_name, schema)
class MyWhooshEngine(WhooshEngine):
backend = MyWhooshSearchBackend
3.3.5 课程全文检索接口视图函数
from syl import settings
from django.core.paginator import InvalidPage, Paginator
from haystack.forms import ModelSearchForm
from django.http import JsonResponse
RESULTS_PER_PAGE = getattr(settings, 'HAYSTACK_SEARCH_RESULTS_PER_PAGE', 15)
def course_index_search(request):
query = request.GET.get('q', None)
page = int(request.GET.get('page', 1))
page_size = int(request.GET.get('page_size', RESULTS_PER_PAGE))
if query:
form = ModelSearchForm(request.GET, load_all=True)
if form.is_valid():
results = form.search()
else:
results = []
else:
return JsonResponse({'code': 404, 'msg': 'No file found!!!', 'data': []})
paginator = Paginator(results, page_size)
try:
page = paginator.page(page)
except InvalidPage:
return JsonResponse({'code': 404, 'msg': 'No file found!!!', 'data': []})
jsondata = []
for result in page.object_list:
data = {
'id': result.object.id,
'title': result.object.title,
'desc': result.object.desc,
'img': request.scheme + '://' + request.META['HTTP_HOST'] + result.object.img.url,
'learner': result.object.learner,
'status': result.object.status,
'course_type': result.object.course_type.id,
}
jsondata.append(data)
result = {
"code": 200,
"msg": 'Search successfully!',
"data": {"count": page.paginator.count,"results": jsondata}
}
return JsonResponse(result)
3.3.6 syl/urls.py
配置路由
urlpatterns = [
path('search/', course_index_search),
]
3.3.7 命令构建倒排索引
python manage.py rebuild_index
3.3.8 测试课程全文检索
http://192.168.56.100:8888/search/?q=入门&page=1&page_size=1
{
"code": 200,
"msg": "Search successfully!",
"data": {
"count": 3,
"results": [
{
"id": 4,
"title": "Linux 基础入门",
"desc": "本课程教你如何熟练地使用 Linux,本实验中通过在线动手实验的方式学习 Linux 常用命令,用户与权限管理,目录结构与文件操作,环境变量,计划任务,管道与数据流重定向等基本知识点。",
"img": "http://192.168.56.100:8888/media/course/ncn1.jpg",
"learner": 304693,
"status": "1",
"course_type": 1
}
]
}
}