weixin_46515328的博客

Indexer抓取事实数据放到Pinecone知识库中，来让用户进行查询。这里为了简单，使用第二种方案。

所以说，想基于LLM api快速构建出一个类似于聊天机器人等应用已经变得非常简单，但这毕竟是玩具应用，并不能支撑正式的消费级的应用场景。所以说，这篇文章并不是告诉你怎么构建简单的LLM应用，而是如何构建出正式场景中的LLM应用。

将本地embedding数据存储到Chroma，然后使用LangChain调用openai api完成本地知识库问答。

默认情况下，Chroma使用all-MiniLM-L6-v2模型进行嵌入。

当使用query_texts时，Chroma会使用embedding_function对query_texts进行嵌入，然后使用嵌入后的数据进行查询。该数据库对环境要求较高，推荐python3.10版本进行安装，由于使用了一些新技术，该数据库的部署可能会出现一些版本兼容性问题。Chroma还支持upsert操作，可以更新现有的项目或者添加不存在的项目。特点：开源，本地部署，基于sqlite，因此无需配置数据库连接信息。collection中的任何内容都可以通过update方法进行更新。