LlamaIndex RAG 实践

书生大模型实战营(第三期)-InternLM + LlamaIndex RAG 实践

RAG教程：Tutorial/docs/L1/LlamaIndex at camp3 · InternLM/Tutorial · GitHub

使用 LlamaIndex 来部署 InternLM2 1.8B（以 InternStudio 的环境为例）

**RAG ( Retrieval Augmented Generation )**是一种结合了检索( Retrieval) 和生成(Generation )的技术，旨在通过利用外部知识库来增强大型语言模型(LLMs )的性能。它通过检索与用户输入相关的信息片段，并结合这些信息来生成更准确、更丰富的回答。

使用RAG前大模型的回答

在使用RAG前询问大模型“2DEG是什么？”，模型回答错误，并不是我们想要的答案。

使用RAG

知识库：**2DEG(二维电子气)**的相关知识，写入 data.txt 中

借助外部知识库和RAG，模型给出了正确的答案

借助RAG技术后，可以更好地结合资料获得我们想要的答案了。

Tips

如果在8月22日之后完成RAG时，安装 llama-index-embeddings-huggingface、llama-index-embeddings-instructor 时需指定版本号

pip install llama-index-embeddings-huggingface==0.2.2 llama-index-embeddings-instructor==0.1.3

由于这两个安装包进行了升级，默认安装会安装最新版本，与前面安装的 llama-index-core 会发生冲突。