第三讲:茴香豆:搭建你的RAG智能助理(作业)

本文详细描述了如何在茴香豆Web版中创建知识问答助手,包括设置知识库、上传文件、设置正反例,以及在InternLMStudio上使用Gradio部署对话Demo。还提到如何调整拒答率和模型选择。
摘要由CSDN通过智能技术生成

1. 在茴香豆 Web 版中创建自己领域的知识问答助手
step1. 首先登陆茴香豆 Web 版

step2. 输入知识库名称并设置一个密码,点击前往。

step3. 点击查看或上传文件(支持 pdf/word/markdown/excel/ppt/html/txt 格式)。

step4. 设置正反例,让茴香豆积极回答或者拒绝回答。

step5. 聊天测试

(茴香豆会智能归纳你上传的文档的内容,但是有时候还是识别不了你的问题,这时候茴香豆就会拒答,告诉你 LLM API 没给回复。可以通过调整阈值从而调整茴香豆的拒答率,并且可以更换模型,或混合使用模型。)

2.在 InternLM Studio 上部署茴香豆技术助手

在这里我使用 Gradio 搭建网页 Demo

首先,进入虚拟环境,并安装 Gradio 依赖组件:

conda activate InternLM2_Huixiangdou
pip install gradio==4.25.0 redis==5.0.3 flask==3.0.2 lark_oapi==1.2.4

运行脚本,启动茴香豆对话 Demo 服务:

cd /root/huixiangdou
python3 -m tests.test_query_gradio 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值