PDF对话RAG应用开发实战

最新推荐文章于 2024-10-29 22:42:56 发布
最新推荐文章于 2024-10-29 22:42:56 发布
阅读量937 收藏 10
点赞数 25
文章标签： pdf
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/shebao3333/article/details/142611618
版权

与大型 PDF 对话很酷。你可以与笔记、书籍和文档等聊天。这篇博文将帮助你构建一个基于 Multi RAG Streamlit 的 Web 应用程序，以通过对话式 AI 聊天机器人读取、处理和与 PDF 数据交互。以下是此应用程序工作原理的分步分解，使用简单的语言易于理解。

NSDT工具推荐： Three.js AI纹理开发包 - YOLO合成数据生成器 - GLTF/GLB在线编辑 - 3D模型格式在线转换 - 可编程3D场景编辑器 - REVIT导出3D模型插件 - 3D模型语义搜索引擎 - AI模型在线查看 - Three.js虚拟轴心开发包 - 3D模型在线减面 - STL模型在线切割 

1、使用必要的工具设置舞台

该应用程序首先导入各种强大的库：

  • Streamlit：用于创建 Web 界面。
  • PyPDF2：用于读取 PDF 文件的工具。
  • Langchain：一套用于自然语言处理和创建对话式 AI 的工具。
  • FAISS：用于高效搜索向量相似性的库，可用于在大型数据集中快速查找信息。
import streamlit as st
from PyPDF2 import PdfReader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_core.prompts import ChatPromptTemplate
from langchain_community.embeddings.spacy_embeddings import SpacyEmbeddings
from langchain_community.vectorstores import FAISS
from langchain.tools.retriever import create_retriever_tool
from dotenv import load_dotenv
from langchain_anthropic import ChatAnthropic
from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain.agents import AgentExecutor, create_tool_calling_agent

import os
os.environ["KMP_DUPLICATE_LIB_OK"]="TRUE"

2、读取和处理 PDF 文件

我们应用程序中的第一个主要功能旨在读取 PDF 文件：

PDF 阅读器：当用户上传一个或多个 PDF 文件时，应用程序会读取这些文档的每一页并提取文本，将其合并为单个连续字符串。

提取文本后，将其拆分为可管理的块：

文本拆分器：使用 Langchain 库，将文本分成每 1000 个字符的块。这种分割有助于更有效地处理和分析文本。

def pdf_read(pdf_doc):
    text = ""
    for pdf in pdf_doc:
        pdf_reader = PdfReader(pdf)
        for page in pdf_reader.pages:
            text += page.extract_text()
    return text

def get_chunks(text):
    text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
    chunks = text_splitter.split_text(text)
    return chunks

2、创建可搜索的文本数据库并进行嵌入

为了使文本可搜索，应用程序将文本块转换为矢量表示：

矢量存储：应用程序使用 FAISS 库将文本块转换为矢量，并在本地保存这些矢量。这种转换至关重要，因为它允许系统在文本中执行快速有效的搜索。

embeddings = SpacyEmbeddings(model_name="en_core_web_sm")

def vector_store(text_chunks):
    vector_store = FAISS.from_texts(text_chunks, embedding=embeddings)
    vector_store.save_local("faiss_db")

3、设置对话式 AI

此应用程序的核心是对话式 AI，它使用 OpenAI 的强大模型：

  • AI 配置：该应用程序使用 OpenAI 的 GPT 模型设置对话式 AI。此 AI 旨在根据其处理的 PDF 内容回答问题。
  • 对话链：AI 使用一组提示来理解上下文并为用户查询提供准确的响应。如果文本中没有问题的答案，AI 将被编程为以“上下文中没有答案”来响应，以确保用户不会收到错误的信息。
def get_conversational_chain(tools, ques):
    llm = ChatOpenAI(model_name="gpt-3.5-turbo", temperature=0, api_key="")
    prompt = ChatPromptTemplate.from_messages([...])
    tool=[tools]
    agent = create_tool_calling_agent(llm, tool, prompt)
    agent_executor = AgentExecutor(agent=agent, tools=tool, verbose=True)
    response=agent_executor.invoke({"input": ques})
    print(response)
    st.write("Reply: ", response['output'])

def user_input(user_question):
    new_db = FAISS.load_local("faiss_db", embeddings,allow_dangerous_deserialization=True)
    retriever=new_db.as_retriever()
    retrieval_chain= create_retriever_tool(retriever,"pdf_extractor","This tool is to give answer to queries from the pdf")
    get_conversational_chain(retrieval_chain,user_question)

4、用户交互

后端准备就绪后，应用程序使用 Streamlit 创建用户友好的界面：

  • 用户界面：用户可以看到一个简单的文本输入框，他们可以在其中输入与 PDF 内容相关的问题。然后，应用程序会直接在网页上显示 AI 的响应。
  • 文件上传和处理：用户可以随时上传新的 PDF 文件。应用程序会实时处理这些文件，并使用新文本更新数据库，以供 AI 搜索。
def main():
    st.set_page_config("Chat PDF")
    st.header("RAG based Chat with PDF")
    user_question = st.text_input("Ask a Question from the PDF Files")
    if user_question:
        user_input(user_question)
    with st.sidebar:
        pdf_doc = st.file_uploader("Upload your PDF Files and Click on the Submit & Process Button", accept_multiple_files=True)
        if st.button("Submit & Process"):
            with st.spinner("Processing..."):
                raw_text = pdf_read(pdf_doc)
                text_chunks = get_chunks(raw_text)
                vector_store(text_chunks)
                st.success("Done")

5、流程图与完整代码

import streamlit as st
from PyPDF2 import PdfReader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_core.prompts import ChatPromptTemplate
from langchain_community.embeddings.spacy_embeddings import SpacyEmbeddings
from langchain_community.vectorstores import FAISS
from langchain.tools.retriever import create_retriever_tool
from dotenv import load_dotenv
from langchain_anthropic import ChatAnthropic
from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain.agents import AgentExecutor, create_tool_calling_agent

import os
os.environ["KMP_DUPLICATE_LIB_OK"]="TRUE"

embeddings = SpacyEmbeddings(model_name="en_core_web_sm")
def pdf_read(pdf_doc):
    text = ""
    for pdf in pdf_doc:
        pdf_reader = PdfReader(pdf)
        for page in pdf_reader.pages:
            text += page.extract_text()
    return text



def get_chunks(text):
    text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
    chunks = text_splitter.split_text(text)
    return chunks


def vector_store(text_chunks):
    
    vector_store = FAISS.from_texts(text_chunks, embedding=embeddings)
    vector_store.save_local("faiss_db")


def get_conversational_chain(tools,ques):
    #os.environ["ANTHROPIC_API_KEY"]=os.getenv["ANTHROPIC_API_KEY"]
    #llm = ChatAnthropic(model="claude-3-sonnet-20240229", temperature=0, api_key=os.getenv("ANTHROPIC_API_KEY"),verbose=True)
    llm = ChatOpenAI(model_name="gpt-3.5-turbo", temperature=0, api_key="")
    prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            """You are a helpful assistant. Answer the question as detailed as possible from the provided context, make sure to provide all the details, if the answer is not in
    provided context just say, "answer is not available in the context", don't provide the wrong answer""",
        ),
        ("placeholder", "{chat_history}"),
        ("human", "{input}"),
        ("placeholder", "{agent_scratchpad}"),
    ]
)
    tool=[tools]
    agent = create_tool_calling_agent(llm, tool, prompt)

    agent_executor = AgentExecutor(agent=agent, tools=tool, verbose=True)
    response=agent_executor.invoke({"input": ques})
    print(response)
    st.write("Reply: ", response['output'])



def user_input(user_question):
    
    
    
    new_db = FAISS.load_local("faiss_db", embeddings,allow_dangerous_deserialization=True)
    
    retriever=new_db.as_retriever()
    retrieval_chain= create_retriever_tool(retriever,"pdf_extractor","This tool is to give answer to queries from the pdf")
    get_conversational_chain(retrieval_chain,user_question)





def main():
    st.set_page_config("Chat PDF")
    st.header("RAG based Chat with PDF")

    user_question = st.text_input("Ask a Question from the PDF Files")

    if user_question:
        user_input(user_question)

    with st.sidebar:
        st.title("Menu:")
        pdf_doc = st.file_uploader("Upload your PDF Files and Click on the Submit & Process Button", accept_multiple_files=True)
        if st.button("Submit & Process"):
            with st.spinner("Processing..."):
                raw_text = pdf_read(pdf_doc)
                text_chunks = get_chunks(raw_text)
                vector_store(text_chunks)
                st.success("Done")

if __name__ == "__main__":
    main()

通过将应用程序另存为 app.py 然后使用来运行该应用程序

streamlit run app.py

输出：

原文链接：PDF RAG应用开发实战 - BimAnt

新缸中之脑
关注
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[5]-高阶实战微调
丨汀、的博客
06-19 445
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[5]-高阶实战微调
基于langchain RAG问答应用实战
2401_83239642的博客
08-08 1095
大模型的时代已经到来，而RAG技术的应用，为我们打开了一扇通往更深层次AI应用的大门。• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；
【AI大模型应用开发】3.2 RAG实战 - RAG应用+UI实现加载本地文件并对话
2401_86518761的博客
09-12 838
前面我们实现了RAG基本流程，今天我们在此基础上给它加个UI界面，在浏览器打开，实现上传本地文件、解析，并用大模型实现与该文档的对话。也就是一个阉割版demo版的ChatPDF或知识库对话系统。界面采用Python的gradio库，这个库在机器学习和大模型界很火，它运行后会启动一个Web服务器，并在默认浏览器中打开一个新页面，显示Gradio界面。别问为啥用这个，就是看大模型的界面好多都是这个库搭的，所以也就用一下。不会gradio没关系，就几行代码，很容易理解。
爆火！基于检索构建RAG应用大模型实战
2401_84204207的博客
09-22 731
随着大模型被使用的频率越来越多，人们对于它的强大问题回答能力感到震惊，但是在这一过程中，人们也发现大语言模型并不是十全十美的，本身有局限性，主要表现在两个方面。首先，它的知识不是实时的，因为它的训练数据源来自于互联网，而某些知识在模型训练时可能在互联网上没有曝光。其次，大模型可能无法涵盖私有领域和企业内部的资料。为了解决这个问题，可以想到能否动态地将知识补充给大模型，使其能够回答更多问题呢？这就要提到检索增强的生成模型（RAG），顾名思义就是通过检索的方式来增强生成式模型的能力。
LlamIndex二 RAG应用开发
2401_85324918的博客
06-07 1049
本篇内容以RAG应用为例，解释清楚了LlamaIndex 构建知识库（Knowledge Base）和基于知识库的推理两个阶段的底层工作。那么，我们该如何学习大模型？作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。至于能学习到多少就看你的学习毅力和能力了。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
探索大模型应用：构建基于检索的RAG实战指南
kaka0722ww的博客
08-01 804
探索大模型应用：构建基于检索的RAG实战指南
Dify 零代码 AI 应用开发：快速入门与实战
FrenzyTechAI的博客
07-27 2639
Dify 支持 OpenAI 的 GPT 系列和 Anthropic 的 Claude 系列等主要模型提供商。每个模型的功能和参数各不相同，请选择适合您应用程序需求的模型提供商。您需要在使用模型提供商的 API 密钥之前，从模型提供商的官方网站获取。以下以 OpenAI 的 API 密钥为例进行说明。使用 API 密钥可以使用更多模型。如果您需要集成开源模型，Dify 也支持。例如，您可以通过 Hugging Face 或 Ollama 集成开源模型。
RAG：如何从0到1搭建一个RAG应用
python12222_的博客
08-06 1268
检索增强生成）是一种强大的工具，整合了从庞大知识库中检索到的相关信息，并以此为基础，指导大型语言模型生成更为精准的答案，从而显著提升了回答的准确性与深度。2020 年，Meta AI 研究人员提出了RAG的方法，用于提高 LLM 在特定任务上的性能。信息滞后：LLM 的知识是静态的，来源于当时训练时的数据，也就是 LLM 无法直接提供最新的信息。模型幻觉：实践表明，当前的生成式 AI 技术存在一定的幻觉，而在一些常见的业务应用中，我们是希望保证事实性的。私有数据匮乏。
大模型应用开发技术：LlamaIndex 案例实战（三）LlamaIndex RAG Chat
段智华的博客
06-24 1539
LlamaIndex RAG Chat 是一个使用 Colab 笔记本进行检索增强生成（Retrieval-Augmented Generation, RAG）的系统，它利用 PDF 文件来生成内容。
大模型RAG应用优化实战
python12345_的博客
06-21 847
影响RAG应用性能的因素中，大模型本身的能力相对不是最关键的。当然更快更好更强的大模型肯定会带来更好的RAG性能，只是很多时候我们没的选择，又没有能力自己搞出一个吊打一切的大模型来，所以提升RAG应用性能的主要工作都是在想办法提升知识库的质量和检索质量。著名AI大模型博主Greg Kamradt说“All you need is retrieval”这句话，甚得我心。想要RAG性能好，关键在于如何从具有大量内容的知识库中找到跟用户提问最相关最准确的那部分内容，而且没有其它不相干的内容。
【AI大模型应用开发】【RAG评估】0. 综述：一文了解RAG评估方法、工具与指标
同学小张的博客
02-24 5238
本文主要总结了当前比较流行的RAG评估方法和指标。当前AI技术的快速发展，RAG和RAG评估是当前比较有前景的发展方向，不断有新的评估工具和理论被提出，让我们持续跟进，了解这些工具和理论，从而在使用时知道如何选择。
【 书生·浦语大模型实战营】学习笔记（三）：“茴香豆” 搭建你的RAG 智能助理
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-12 1133
本篇笔记内容主要分为RAG理论介绍和“茴香豆” RAG 智能助理实战。前半部分对RAG流程、向量数据库、优化等展开介绍，后半部分实战任务分为以web页面及Internlm框架进行茴香豆实战，欢迎大家交流学习！
Langchain核心模块与实战[9]：RAG检索增强生成[文本向量化、实战ChatDoc智能文档助手]
丨汀、的博客
07-25 715
Langchain核心模块与实战[9]：RAG检索增强生成[文本向量化、实战ChatDoc智能文档助手]
JAVA导出pdf模版
m0_47760827的博客
10-24 549
java生成pdf模版
推荐一款开源的免费PDF编辑工具：CubePDF Utility
10-29 872
是一款功能强大的开源免费PDF编辑器，它采用了基于缩略图的界面设计，为用户提供了直观且高效的PDF编辑体验。该软件特别针对那些希望以简单直观方式编辑 PDF 文件的用户而设计，支持多种操作，如合并、提取、拆分、更改页面顺序、设置密码等。更重要的是，CubePDF Utility 作为一款开源软件(OSS)，用户可以完全免费使用。CubePDF Utility 允许用户直观地执行各种编辑任务。
《模拟电子技术基础》第六版PDF课后题答案详解
zhentiya的博客
10-27 538
《模拟电子技术基础（第六版）学习辅导与习题解答》是为配合清华大学电子学教研组编，童诗白、华成英原著，华成英主编的《模拟电子技术基础(第六版)》的使用而编写的，对教材中的每一章均按“内容概要”“难点释疑”“例题精解”“习题解答”四个部分编写，提炼重点，解决难点，示范性地分析和解决问题。
预览 PDF 文档
最新发布
a123456234的博客
10-29 562
在现代Web应用中，文件预览功能是非常常见的需求之一。特别是在企业级应用中，用户经常需要查看各种类型的文件，如 PDF、Word、Excel 等。本文将详细介绍如何在Vue项目中实现 PDF 文档的预览功能。 前端通过调用后端 API 获取文件的二进制数据，并将其转换为 Blob 对象。然后使用window.URL.createObjectURL 方法生成一个临时的 URL，最后通过 window.open 方法在新窗口中打开这个 URL，从而实现文件预览。
用python将pdf转成图片转换成对应的word文件
caoyongsheng的博客
10-27 509
要将PDF中的页面以图片的形式存储到Word文档中，你需要完成以下几个步骤：从PDF中提取每一页的图像。将这些图像插入到Word文档中。这里提供一个使用Python实现的示例流程，其中使用PyMuPDF（也称为fitz）来读取PDF并提取图像，使用python-docx来创建Word文档并插入图像。
AI大模型技术实现RAG对话接口：Spring AI与PGvector应用示例
Spring是一个开源的Java平台，最初用于企业级应用开发，提供了全面的编程和配置模型。通过整合Spring框架与AI相关技术，可以更好地将AI功能集成到基于Spring的应用中，提高开发效率和可维护性。 **知识点四：...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值