茴香豆助手是基于RAG技术的知识增强型聊天机器人,可以提供准确的回答和知识服务。其优势在于无需训练模型,可以直接将新知识库与基础模型结合,生成新的回答。该助手采用了多种模型,包括词向量模型、重排序模型和本地大模型,以及远端模型,可以灵活地根据不同需求进行配置。此外,茴香豆助手支持网络搜索,可以结合本地知识库和网络搜索结果生成回答,增强了其知识服务的广度和深度。同时,用户可以通过配置文件灵活调整茴香豆的各种参数,使其更好地适应不同的业务需求。此外,用户可以通过Gradio搭建网页版聊天demo,从而方便地进行测试和体验。总之,茴香豆助手提供了丰富的功能,可以快速便捷地构建自己的知识问答系统。
茴香豆助手整合网络搜索结果的方式如下:
-
配置网络搜索API密钥:在茴香豆的配置文件中,用户需要配置网络搜索功能所使用的API密钥。茴香豆默认支持使用Serper提供的网络搜索API。
-
网络搜索范围设置:在配置文件中,用户可以设置网络搜索的范围,即指定搜索引擎检索的网站域名,以确保搜索结果的相关性。
-
启动网络搜索功能:在配置文件中,用户需要将enable_web_search设置为1,以启动网络搜索功能。
-
网络搜索结果获取:在茴香豆的检索流程中,会利用配置好的网络搜索API,根据用户的问题提取关键词,发送网络搜索请求,并获取相关搜索结果。
-
整合网络搜索结果:茴香豆会整合网络搜索结果和本地知识库中的相关内容,形成综合的检索结果。
-
生成回答:利用本地大模型,结合检索到的网络搜索结果和本地知识库相关内容,生成完整的回答。
-
结果返回:最终生成的回答会返回给用户。
茴香豆助手将网络搜索结果与本地知识库结合的方式如下:
-
提取网络搜索结果:茴香豆会从网络搜索API获取相关结果,并将其中的相关内容提取出来。
-
内容向量化:提取出的网络搜索结果内容会经过向量化处理,生成对应的向量表示。
-
与本地知识库结合:将网络搜索结果的向量表示与本地知识库中的内容向量进行相似性比较和排序。
-
排序结果:根据相似性排序,选择与用户问题最相关的网络搜索结果内容。
-
整合信息:将排序后的网络搜索结果与本地知识库中的相关内容进行整合,形成全面的检索结果。
-
回答生成:利用本地大模型,结合检索到的网络搜索结果和本地知识库相关内容,生成完整的回答。
-
返回结果:最终生成的回答将返回给用户。
茴香豆助手整合网络搜索结果的流程如下:
-
网络搜索结果获取:通过调用配置的网络搜索API,获取与用户问题相关的搜索结果页面。
-
搜索结果解析:解析搜索结果页面,提取出相关段落或句子。
-
段落或句子向量化:使用词向量模型,将提取的段落或句子转换为向量表示。
-
相似性计算:计算提取的段落或句子向量与本地知识库中的内容向量的相似性。
-
相似性排序:根据相似性得分,对提取的段落或句子进行排序。
-
选择相关段落或句子:选择与用户问题最相关的段落或句子作为参考材料。
-
回答生成:利用本地大模型,结合用户问题、本地知识库相关内容,以及选择的相关段落或句子,生成完整的回答。
-
结果返回:将生成的回答返回给用户。
要实现茴香豆助手零编程接入飞书,通常需要以下步骤:
-
注册飞书开放平台:首先,您需要在飞书开放平台上注册一个开发者账号,并创建一个应用。
-
获取API凭证:在飞书开放平台创建应用后,您将获得API凭证,包括App ID和App Secret,这些凭证用于调用飞书API。
-
配置飞书应用:在飞书开放平台中配置您的应用,包括设置应用名称、图标、描述等信息,并配置权限和事件订阅。
-
设置机器人:在飞书应用中设置机器人,用于接收和发送消息。您需要配置机器人的Webhook URL,以便接收来自飞书的消息。
-
接入茴香豆助手:将茴香豆助手的API集成到飞书机器人中。您需要编写一个简单的服务器端脚本,用于接收飞书的消息,调用茴香豆助手的API获取回答,并将回答发送回飞书。
-
测试和部署:在飞书开放平台上测试您的应用和机器人,确保一切正常工作。测试无误后,您可以将应用部署到实际工作环境中。
-
用户使用:用户可以直接在飞书聊天中与茴香豆助手交互,获取知识和帮助
接入茴香豆助手需要完成以下技术步骤:
-
环境准备:首先,需要准备茴香豆运行所需的基础环境,包括Python、必要的依赖库以及模型文件。
-
下载和安装茴香豆:从茴香豆的官方GitHub仓库下载最新代码,并按照说明进行安装。
-
配置模型文件路径:将模型文件路径配置到茴香豆的配置文件中,确保茴香豆能够找到对应的模型文件。
-
创建知识库:选择合适的语料,并使用茴香豆提供的工具将其向量化,并存储为向量数据库。
-
配置网络搜索(可选):如果需要接入网络搜索,需要配置网络搜索的API密钥,并设置网络搜索的范围。
-
配置远程模型(可选):如果需要使用远程模型,需要配置对应的API密钥等信息。
-
运行茴香豆助手:运行茴香豆的入口脚本来启动服务,并指定工作目录为之前创建的向量数据库所在目录。
-
测试茴香豆助手:通过命令行或Web接口发送问题,测试茴香豆助手的响应是否正确。
-
接入聊天软件:将茴香豆助手的接口接入到聊天软件中,需要编写服务器端脚本,用于接收聊天软件的消息,调用茴香豆助手的API获取回答,并将回答发送回聊天软件。
-
部署上线:在确保茴香豆助手在本地运行无误后,可以将其部署到服务器上,并配置好域名、证书等,以便用户通过Web接口进行访问。