书生大模型第三期InternLM + LlamaIndex RAG 实践

这里对原教程进行补充：

可能遇到的问题

1环境问题

重新安装环境

pip install llama-index==0.10.38 llama-index-llms-huggingface==0.2.0 "transformers[torch]==4.41.1" "huggingface_hub[inference]==0.23.1" huggingface_hub==0.23.1 sentence-transformers==2.7.0 sentencepiece==0.2.0

pip install llama-index-embeddings-huggingface==0.2.3 llama-index-embeddings-instructor==0.1.3

2连接问题

将后端端口和开发机的端口修改

ssh -p 36204 root@ssh.intern-ai.org.cn -CNg -L 8501:27.0.0.1:8501 -o StrictHostKeyChecking=no

3知识库补充

知识库路径如下

加完知识库记得重启

重新执行

streamlit run app.py

成果展示

添加知识库前

添加知识库后