任务:
在 InternStudio 中利用 Internlm2-7b 搭建标准版茴香豆知识助手,并使用 Gradio 界面完成 2 轮问答。知识库可根据根据自己工作、学习或感兴趣的内容调整,如金融、医疗、法律、音乐、动漫等
复现过程
1、根据教材部署。注意BCEmbedding版本不是0.15,是BCEmbedding==0.1.5。
https://github.com/InternLM/Tutorial/blob/camp3/docs/L2/Huixiangdou/readme.md
知识库创建成功后会有一系列小测试,检验问题拒答和响应效果
2、启动前后端
conda activate huixiangdou
cd /root/huixiangdou
python3 -m huixiangdou.main --standalone
新开一个终端执行:
conda activate huixiangdou
cd /root/huixiangdou
python3 -m huixiangdou.gradio
在本地执行:
ssh -CNg -L 7860:127.0.0.1:7860 root@ssh.intern-ai.org.cn -p <你的ssh端口号>
3、使用 Gradio 界面完成 2 轮问答