一、背景
这几个月以来,随着大模型问答应用的落地,我们使用越来越深入,发现了现在大模型的几个问题:
-
不能输入长篇内容,大都只能输入一两千字的文本
-
大多数情况会编造回答,牛头不对马嘴
-
回答的知识范围不可控
大模型在专有知识问答上表现不佳,原因是模型没有见过或学习过这些知识,自然也给不出我们想要的结果。
二、常用解决方案
解决思路就是让模型看见或学习这些知识。常用有两种方式:
-
模型训练:根据专有知识做一个训练数据集,然后用大模型在数据集上进行微调,让模型去学习这些知识
-
外挂知识库:在问模型问题的时候,额外给他一些专有知识中的相关信息,让它从中找到正确的答案
第一种方式成本很高,所以我们基于第二种方式实现了基于外挂知识库的大模型专属AI问答助手 —— 智库(zhiku.space)。
三、智库(zhiku.space)解决方案
智库(zhiku.s