RAG与LLM原理及实践(15)---RAG Python 前端构建技术Flask

已于 2024-09-09 19:42:43 修改
阅读量743 收藏
点赞数 5
分类专栏： RAG Milvus Chroma 源码及实践 文章标签： python 前端 flask
于 2024-09-06 20:46:47 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/talentyiyy/article/details/141968666
版权

目录

背景

Flask 简介

         Flask 的特点

与RAG 结合点

后端服务构建

API接口设计

RAG模块集成

数据处理与传输

Flask 安装

Flask python server 端处理

app

资源映射

router概念

Flask 客户端处理

Jinja2 

概述

具体语法

实例

python 后端 代码

前端相关代码

代码解释

运行

check 启动日志

背景

本专栏之前的文章都在描述RAG后台的搭建，无论是采用Milvus，Chroma 或是其他向量数据库存储你的RAG数据，或是加上 Ollama 等  service 进行 AI 处理，总归都是后端RAG的构建。我们也不得不承认，RAG的构建重心确实在后端，但这并不意味着可以不管前端怎么做，毕竟作为产品或者其他应用，你总归需要一个前端进行交互。今天主要讲下使用 python 如何搭建前端页面并与后端进行交互。之前基本就是 uve， react，angular 的前端软件框架，结合tomcat之类的 container 跑前端，但如果你看了 python 的 flask 组件，你也许会渐渐喜欢上他，因为他小巧，好用，非常方便。诸如easy diffusuion 的前端应该就是使用了这种框架。我们今天聚焦他的原理和怎么使用。

Flask 简介

Flask 是一个使用 Python 编写的轻量

了解本专栏 订阅专栏 解锁全文 超级会员免费看
PhoenixAI8
关注
专栏目录
订阅专栏
RAG与LLM原理及实践(16)---RAG 前端技术Flask-socketIO
talentyiyy的专栏
09-09 436
今天主要说的是与Flask 粘和度较高的另一个处理组件 Flask-socketIO。下面会说到他与RAG结合的地方，其实蛮有用的。用户在使用基于 RAG 系统的应用时，可能会产生实时的交互反馈（如点击、评论、评分等）。Flask-SocketIO 可以实时捕获这些反馈，并将其传递给后端进行处理，进而调整 RAG 系统的生成策略或优化生成结果。好了，通过上面的介绍，你对flask-socketIO的使用，应该有了比较全面的认识和理解。还是那句话，看完不顶用，只是第一步，要自己尝试下才是你的。
RAG与LLM原理及实践（3）--- RAG结合LLM的local实现并附完整代码
talentyiyy的专栏
06-22 1098
其实LLM结合RAG的方式可以有很多种，但是原理都是上一节介绍的，其实本质上就是要LLM知道，哪一类问题‘我’的回答是满足提问者要求的，哪一类问题‘我’可能回答的没有RAG好，‘我’可以借助‘RAG’，并将答案修饰形成提问者需要的风格进行予以转述，并回答。下面直接上 python 代码完整实现本地的RAG+LLM，并解释其实现。
RAG与LLM原理及实践(17)---Docker Redis & Python Usage
talentyiyy的专栏
09-10 517
在实际应用中，Redis 用户可以根据具体的需求和场景选择适合的持久化方式，或者同时使用 RDB 和 AOF 两种方式来确保数据的安全性和可靠性。例如，可以使用 RDB 作为数据恢复的备份手段，同时开启 AOF 来保证数据的实时性和可靠性。
【LLM大模型】使用RAG-GPT和Ollama搭建智能客服
AAI666666的博客
07-09 1268
Indexing（索引）：将文档分割成chunk，编码成向量，并存储在向量数据库中。Retrieval（检索）：根据用户输入query和向量数据库中chunks语义相似度检索与问题最相关的前k个chunk，形成本次问答的上下文。Generation（生成）：将原始问题和检索到的chunks整合形成合适的prompt一起输入到LLM中，让LLM输出与上下文有关的回答。用户发起query结合Bot实际应用场景，评估是否对query进行rewrite。
RAG(Retrieval-Augmented Generation)检索增强生成技术基础了解学习与实践
Together_CZ的博客
09-25 808
RAG(Retrieval-Augmented Generation)检索增强生成技术基础了解学习与实践
llm-universe学习小记录4--构建RAG应用
Adela0546的博客
04-23 1201
介绍了如何将LLM接入Langchain、如何构建检索问答链、如何部署知识库助手。
讲解如何使用RAG（检索增强生成）和LLM（大语言模型）来构建一个法律咨询网站。
Winfredzhang的博客
06-02 1022
文档预处理：将法律文档转化为向量，存储在Faiss向量数据库中。文档检索：根据用户问题检索相关文档。提取重要段落：从相关文档中提取与用户问题相关的重要段落。生成答案：使用OpenAI的GPT-4生成详细回答。前后端构建：使用Flask构建后端API，用HTML和JavaScript构建简单的前端页面。通过这些步骤，即使是初学者也能逐步理解和实现一个利用RAG+LLM技术的法律咨询网站。
【全网首创】大模型LLM-RAG知识库问答项目实战课
陈华编程学院
09-08 1085
本章为整个课程的开篇，通过项目演示和快速部署流程，让学员对LLM-RAG项目有初步了解，并详细介绍了项目架构和课程内容。LLM-RAG项目 P1 大模型LLM-RAG知识库项目演示免费LLM-RAG项目 P2 项目快速部署流程演示免费LLM-RAG项目 P3 项目架构和课程内容简介免费通过这门课程的系统学习，学员将全面掌握LLM-RAG项目的各个模块开发，从基础的项目介绍、用户认证，到复杂的文档管理、片段管理、向量化处理，再到大模型对话与历史对话管理。
GraphRAG如何使用ollama提供的llm model 和Embedding model服务构建本地知识库
vivisol的博客
08-02 3105
GraphRAG + ollama + Nomic embeding + Qwen2构建本地知识库
python利用向量数据库chroma实现RAG检索增强生成
Cachel Wood的博客
04-27 1291
向量数据库chroma教程RAG的全称是，中文翻译为检索增强生成。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。知识更新问题最先进的LLM会接受大量的训练数据，将广泛的常识知识存储在神经网络的权重中。然而，当我们在提示大模型生成训练数据之外的知识时，例如最新知识、特定领域知识等，LLM的输出可能会导致事实不准确，这就是我们常说的模型幻觉。即LLM的知识不可能实时更新。简单来说，RAG对于LLM来说就像学生的开卷考试一样。
Python3 解释器
Java_fenxiang的博客
10-05 551
Linux/Unix的系统上，一般默认的 python 版本为 2.x，我们可以将 python3.x 安装在/usr/local/python3目录中。安装完成后，我们可以将路径/usr/local/python3/bin添加到您的 Linux/Unix 操作系统的环境变量中，这样您就可以通过 shell 终端输...
task【XTuner微调个人小助手认知】
m0_53291740的博客
10-07 773
下面我们将根据项目的需求一步步的进行修改和调整吧！在 PART 1 的部分，由于我们不再需要在 HuggingFace 上自动下载模型，因此我们先要更换模型的路径以及数据集的路径为我们本地的路径。为了训练过程中能够实时观察到模型的变化情况，XTuner 贴心的推出了一个。
（笔记）第三期书生·浦语大模型实战营（十一卷王场）--书生入门岛通关第2关Python 基础知识
haidizym的博客
10-02 548
学员闯关手册：https://aicarrier.feishu.cn/wiki/ZcgkwqteZi9s4ZkYr0Gcayg1n1g?课程视频：https://www.bilibili.com/video/BV1mS421X7h4/课程文档：https://github.com/InternLM/Tutorial/tree/camp3/docs/L0/Python。
文本区域分割系统源码＆数据集分享
最新发布
lzmlzm89的博客
10-08 1059
数据集信息展示在现代计算机视觉领域，文本区域分割的研究日益受到重视，尤其是在处理文档图像和名片等场景时。为此，我们构建了一个名为“more2”的数据集，旨在为改进YOLOv8-seg模型提供丰富的训练素材，以提升其在文本区域分割任务中的表现。该数据集包含五个类别，具体包括“0”、“2”、“business-name-card”、“doc”和“wendang”，每个类别均具有独特的特征和应用场景，能够为模型的训练提供多样化的样本。
Python编写的贪吃蛇小游戏
WwLK123的博客
10-03 601
Python编写贪吃蛇小游戏。
pytorch版本和cuda版本不匹配问题
分享计算机视觉，C++，网络摄像头研发，音视频开发，嵌入式等知识。
10-06 407
发现cuda11.8支持pytorch2.0.0。
micropython中断处理程序设计-临界区
sjh2100的博客
10-08 247
代码的临界区的示例是访问多个变量，这些变量受ISR影响。若中断在对单个变量的访问间发生，则其值将会不一致。这是一种叫作”竞态条件”的问题的实例：ISR和主程序循环争相修改变量。如上所述，若在主代码中修改了Python内置类型的实例或在ISR中访问实例，则应多加注意。执行更改的代码应被视为临界区，以确保ISR运行时实例处于有效状态。这样的IRQ对IRQ（例如，堆可能被锁定）中运行的代码进行了限制，并预定一个稍后会回调的函数能够接触这些限制。在实时系统中，这可能会导致极少的、难以预测的故障。
Python并发编程(1)——Python并发编程的几种实现方式
一点
10-03 1069
Python 并发编程是指在 Python 中编写能够同时执行多个任务的程序。并发编程在任何一门语言当中都是比较难的，因为会涉及各种各样的问题，在Python当中也不例外。Python 提供了多种方式来实现并发，包括多线程（threading）、多进程（multiprocessing）、异步编程（asyncio），以及一些高级用法concurrent.futures和第三方库如gevent。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

PhoenixAI8

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值