茴香豆:企业级知识问答工具实践

任务:

在 InternStudio 中利用 Internlm2-7b 搭建标准版茴香豆知识助手,并使用 Gradio 界面完成 2 轮问答。知识库可根据根据自己工作、学习或感兴趣的内容调整,如金融、医疗、法律、音乐、动漫等

复现过程

1、根据教材部署。注意BCEmbedding版本不是0.15,是BCEmbedding==0.1.5。
https://github.com/InternLM/Tutorial/blob/camp3/docs/L2/Huixiangdou/readme.md

知识库创建成功后会有一系列小测试,检验问题拒答和响应效果
在这里插入图片描述
2、启动前后端

conda activate huixiangdou
cd /root/huixiangdou
python3 -m huixiangdou.main --standalone

新开一个终端执行:

conda activate huixiangdou
cd /root/huixiangdou
python3 -m huixiangdou.gradio

在本地执行:

ssh -CNg -L 7860:127.0.0.1:7860 root@ssh.intern-ai.org.cn -p <你的ssh端口号>

在这里插入图片描述
在这里插入图片描述
3、使用 Gradio 界面完成 2 轮问答
在这里插入图片描述

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值