1. 在茴香豆 Web 版中创建自己领域的知识问答助手
step1. 首先登陆茴香豆 Web 版
step2. 输入知识库名称并设置一个密码,点击前往。
step3. 点击查看或上传文件(支持 pdf/word/markdown/excel/ppt/html/txt 格式)。
step4. 设置正反例,让茴香豆积极回答或者拒绝回答。
step5. 聊天测试
(茴香豆会智能归纳你上传的文档的内容,但是有时候还是识别不了你的问题,这时候茴香豆就会拒答,告诉你 LLM API 没给回复。可以通过调整阈值从而调整茴香豆的拒答率,并且可以更换模型,或混合使用模型。)
2.在 InternLM Studio 上部署茴香豆技术助手
在这里我使用 Gradio 搭建网页 Demo
首先,进入虚拟环境,并安装 Gradio 依赖组件:
conda activate InternLM2_Huixiangdou
pip install gradio==4.25.0 redis==5.0.3 flask==3.0.2 lark_oapi==1.2.4
运行脚本,启动茴香豆对话 Demo 服务:
cd /root/huixiangdou
python3 -m tests.test_query_gradio