2024.1 书生·浦语大模型实战营 第 3 节 课后作业

 项目地址：GitHub - InternLM/tutoriald

第三节课视频地址：(3)基于 InternLM 和 LangChain 搭建你的知识库_哔哩哔哩_bilibili

本节课作业为基于 InternLM 和 LangChain 搭建知识库。

教程文档链接：https://github.com/InternLM/tutorial/blob/main/langchain/readme.md

1. 环境配置（略，找文档依次执行即可）

2. 知识库搭建

在/data目录下新建demo文件夹，并创建create_vector_db.py，将2.4整合脚本中的代码复制，保存，终端执行python create_vector_db.py，执行成功后可以看到新增了data_base文件夹。

3. InternLM接入LangChain

在demo文件夹内创建LLM.py，将教程代码复制粘贴过来，代码主要构建了一个自定义LLM类，其中__init__函数读取本地InternLM的model和tokenizer，_call函数则定义了prompt的结构和模型的调用规则。

4&5. 构建检索问答链并部署Web Demo

在demo文件夹内创建run_gradio.py，将教程文档中第5步的三段代码都复制到该文件内，保存执行。

执行结果如下：

按教程配置好本地ssh连接，然后打开浏览器输入面红框内的地址即可使用，使用了LangChain后大模型可以精准的回答垂直领域的问题，例如“InternLM是什么？”。