datawhale动手学大模型应用开发-第六章-LLM 应用精选案例

一、个人知识库助手

1.1 项目背景

本项目旨在创建一个基于Langchain的个人知识库助手，以应对现代社会数据量激增带来的信息管理和检索挑战。

该助手利用大型语言模型（LLMs）处理自然语言查询，并针对用户需求进行定制化开发，以实现对复杂信息的智能理解和精确回应。

为提高回答的准确性和可靠性，项目特别集成了RAG技术，该技术通过在生成回答前检索大量数据中的相关信息，有效提升了信息检索的精度并减少了误导性信息的产生。这一结合了检索和生成的方法确保了智能助手在信息提供上的准确性和权威性，使其成为用户处理海量数据时的有力工具。

1.2 目的和意义

• 快速检索：利用Langchain框架，实现对广泛数据集的高效信息定位和提取。
• 知识管理：支持个性化知识库建设，促进知识的结构化存储、分类和管理。
• 决策辅助：提供精确信息，增强用户在复杂情境下的决策能力。
• 个性化服务：允许定制知识库，确保用户获得最相关和有价值的信息。
• 技术创新：展示RAG技术在提升信息准确性和可靠性方面的应用，为智能信息管理领域提供新思路。
• 应用推广：通过用户友好的设计和便捷部署，推动智能助理技术的普及。 总体而言，项目通过技术创新，为用户提供了一个高效、智能的个人知识管理平台，以应对信息过载的挑战，同时推动智能助理技术的发展和应用。

1.3 项目架构

本项目构建了一个分层的智能个人知识库系统，具体分为以下层次：

1. LLM层：封装了四种主流的大型语言模型（LLM）API，允许用户通过统一接口访问不同模型，并能灵活切换。

2. 数据层：包含个人知识库的原始数据和Embedding API，将数据转换为向量形式，以便向量数据库的检索使用。

3. 数据库层：使用Chroma作为向量数据库，存储经过Embedding处理的知识库数据，支持高效的信息检索。

4. 应用层：基于LangChain框架，进一步封装了检索问答链，简化了模型切换和数据库检索问答的实现。

5. 服务层：提供了两种服务访问方式，通过Gradio构建的Demo界面和FastAPI搭建的API，方便用户交互和系统集成。

1.4 个人知识库流程

通过以下三个主要阶段来回应用户的查询（Query）：

1. 索引（Indexing）：涉及加载知识库文档，将文档分割，并将其向量化后存入向量数据库以建立索引。

2. 检索（Retrieval）：将用户的查询向量化，并在知识库文档的向量索引中检索与查询最相似的top k个文档。

3. 生成（Generation）：利用检索到的文档作为上下文（Context），结合问题，生成一个prompt提交给大型语言模型（LLM），由其生成回答（Answer）。