主要内容概览
- 创建茴香豆Web版知识问答助手
- 部署茴香豆技术助手于InternLM Studio
1. 创建茴香豆Web版知识问答助手
准备工作
- 硬件需求: Android手机,无特殊性能和系统版本要求
- 软件需求: 微信版本8.0.47/8.0.48/8.0.49
- 账号需求: 测试用的微信号
创建知识库
- 访问OpenXLab浦源 - 应用中心
- 使用账号密码测试: 账号: 20240327版本测试, 密码: 123
- 获取回调地址: http://139.224.198.162:18443/api/v1/message/v1/wechat/M24N
运行应用
- 从GitHub Release下载APK文件并安装
- 填写微信回调地址
- 应用中选择“茴香豆 LLM RAG 回复”开启或关闭功能
- 应用限制: 5秒内无法发送第二条消息,同一用户问题不重复解答
2. 在InternLM Studio部署茴香豆技术助手
配置基础环境
- 环境激活后显示InternLM2_Huixiangdou环境名称
下载基础文件
- 复制茴香豆所需模型文件
- 创建模型文件夹:
cd /root && mkdir models
- 复制BCE模型和大模型参数
安装茴香豆
- 安装python依赖:
pip install -r requirements.txt
- 安装特定依赖,注意Intern Studio不支持对系统文件的永久修改
从茴香豆官方仓库下载
- 克隆代码仓库:
git clone https://github.com/internlm/huixiangdou && cd huixiangdou
- 切换到特定分支:
git checkout b9bc427
修改配置文件
- 替换
/root/huixiangdou/config.ini
中的模型地址
创建知识库
- 下载HuiXiangDou语料
- 增加问题到接受问题示例中
- 创建测试用的问询列表
运行茴香豆知识助手
- 提取知识库特征,创建向量数据库
个人总结
- 通过本课程学习了如何在Web版和InternLM Studio上创建和部署茴香豆知识问答助手。
- 理解了硬件和软件需求,以及账号设置的重要性。
- 掌握了茴香豆的安装、配置和运行流程。
- 认识到了应用的限制条件,以及如何通过测试来确保功能的实现。
待办事项
- 实践创建知识库和运行茴香豆助手的步骤。
- 测试应用功能,确保无误。
- 根据教程进一步探索茴香豆的高级功能和自定义设置。