FastAPI+Uvicorn：构建以langchain为框架的AI应用后端

原创 已于 2024-05-06 09:32:09 修改
· 1.6k 阅读 · 32 ·
版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#fastapi #langchain

于 2024-05-06 09:15:43 首次发布
本文介绍了使用VUE、FastAPI、Langchain和Uvicorn构建的项目架构，重点关注FastAPI的特性、Uvicorn的异步Web服务器角色，以及如何处理跨域问题和实现带有历史记录的聊天服务。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

介绍

目前项目的架构为前端为VUE框架，后端应用为langchain框架，服务部署对外支持为FastAPI框架，后端服务运行在Uvicorn。

FastAPI

FastAPI是一个用于构建API的现代、快速（高性能）的web框架，使用Python 3.8+并基于标准的Python类型提示。

关键特性:

  • 快速：可与 NodeJS 和 Go 并肩的极高性能（归功于 Starlette 和 Pydantic）。最快的 Python web 框架之一。
  • 高效编码：提高功能开发速度约 200％ 至 300％。
  • 更少 bug：减少约 40％ 的人为（开发者）导致错误。
  • 智能：极佳的编辑器支持。处处皆可自动补全，减少调试时间。
  • 简单：设计的易于使用和学习，阅读文档的时间更短。
  • 简短：使代码重复最小化。通过不同的参数声明实现丰富功能。bug 更少。
  • 健壮：生产可用级别的代码。还有自动生成的交互式文档。
  • 标准化：基于（并完全兼容）API 的相关开放标准：OpenAPI (以前被称为 Swagger) 和 JSON Schema。
  • 官方文档:https://fa
最低0.47元/天 解锁文章
fastapi和uvicorn用法
zhengzaifeidelushang的博客
09-30 7945
fastapi入门 from fastapi import FastAPI,APIRouter import uvicorn router= APIRouter(prefix="/school") @router.get("/stuinfo/",tags=["users"]) def get_stuinfo(): return {"stuname":"刘备"} @router.get("/subject/grade/",tags=["stugrade"]) def get_stugrade()
LLMs之LangChain：LangChain(开发和构建)、LangSmith(生产化/跟踪)、LangServe(部署为API)的基础使用案例教程—利用LangChain开发和构建LLM的应用程
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
04-11 2540
​ LLMs之LangChain：LangChain(开发和构建)、LangSmith(生产化/跟踪)、LangServe(部署为API)的基础使用案例教程—利用LangChain开发和构建LLM的应用程序(构建LLM链/检索链/对话检索链/构建Agent)代码实现教程之详细攻略 目录 LangChain(开发和构建)、LangSmith(生产化/跟踪)、LangServe(部署为API)的基础使用案例教程—利用LangChain开发和构建LLM的应用程序(构建LLM链/检索链/对话检索链/构建Agen
使用 FastAPI 快速开发 AI 服务的接口
AI360labs_atyun的博客
03-24 1045
这篇文章从环境搭建到模型集成，再到性能优化、安全性、部署和监控，全面展示了如何使用 FastAPI 快速构建一个高效、可靠的 AI 服务接口。在浏览器中访问 http://127.0.0.1:8000，你将看到 JSON 响应 {"Hello": "World"}。FastAPI 是一个现代化的。FastAPI 的核心优势在于其对类型提示的充分利用，这不仅提高了代码的可读性，还能自动生成 API 文档。框架，凭借其对异步编程的原生支持、高性能以及自动生成的交互式文档，成为构建 AI 服务接口的热门工具。
FastAPI与Uvicorn快速入门指南
全世界的博客
05-17 3222
通过这个快速入门指南，你已经了解了如何使用FastAPI创建一个基本的API，并使用Uvicorn运行它。FastAPI的强大之处在于其简洁的API定义方式、强大的数据验证和序列化支持，以及自动产生的高质量文档。Uvicorn作为高性能的ASGI服务器，为FastAPI提供了稳定、高效的运行环境。继续学习FastAPI的其他功能，如依赖注入、安全认证、GraphQL和测试，以构建更复杂的应用。
【大模型系列】使用fastapi为langchain应用快速对外提供restful api
最新发布
万物皆字节
05-07 264
浏览器访问：http://localhost:8000/llm_chain/playground/ 可进入api调试界面。点击start,调用接口调试。以下是一个简单的例子。执行main方法启动。
Python入门第06篇（FastApi、uvicorn）
龙井茶的Sky
12-12 2146
FastApi用来开发webapi，可以定义路由、定义get、post方法等但是要让浏览器可以访问webapi，还需要用到uvicorn，即web服务器，类似Tomcat、iis这种的。
FastAPI携手Uvicorn：打造高性能异步Web应用的快速启动方案
2401_89383634的博客
01-11 1020
FastAPI与Uvicorn的组合是启动异步Web应用的强大工具。
【Python的FastAPI 与 Uvicorn】快速启动你StableDiffusion模型Web 应用
weixin_42430947的博客
02-14 1713
本文讲解StableDiffusion模型工程化示例，使用Python FastAPI 、Uvicorn 容器化部署，实现模型对外提供API服务
MemFire教程｜FastAPI+MemFire Cloud+LangChain开发ChatGPT应用
NimbleX_的博客
07-27 403
FastAPI 是一个用于构建 API 的现代、快速（高性能）的 web 框架，使用 Python 3.6+ 开发。「快速」：可与 「NodeJS」 和 「Go」 并肩的极高性能（归功于 Starlette 和 Pydantic）。最快的 Python web 框架之一。「高效编码」：提高功能开发速度约 200％ 至 300％。「更少 bug」：减少约 40％ 的人为（开发者）导致错误。「智能」：极佳的编辑器支持。处处皆可自动补全，减少调试时间。
【代码实践】使用FastAPI+Supabase+LangChain开发AI应用
Lcisware的专栏
08-18 5442
使用FastAPI、Supabase和LangChain开发的AI应用程序能够快速构建并提供强大的数据库支持和AI能力，使开发人员能够创建智能、高效和功能丰富的应用程序。
【AI提升】如何使用大模型：本机离线和FastAPI服务调用
旭日跑马踏云飞的专栏
07-02 1854
大模型本身提供的功能，类似于windows中的一个exe小工具，我们可以本级离线调用然后完成具体的功能，但是别的机器需要访问这个exe是不可行的。常见的做法就是用一个web容器封装起来，提供一个http接口，然后在后端调用这个exe来实现需求。同理我们需要一个web容器把大模型封装起来，然后通过API来提供AI服务。这里通过FastAPI来实现AI的API服务化。
一个常用Python应用框架：FastAPI+Uvicorn 支持 WebSocket 的应用程序
qiy_icbc的博客
09-01 1503
常用Python应用框架：FastAPI+Uvicorn 支持 WebSocket 的应用程序
快速了解FastAPI与Uvicorn是什么？
penriver的博客
04-06 2548
FastAPI is a modern, fast (high-performance), web framework for building APIs with Python 3.8+ based on standard Python type hints. 本文带你快速了解FastAPI与Uvicorn是什么？
FastApi Uvicorn
瓜大师的博客
04-18 630
这将启动一个名为 main 的 ASGI 应用程序，使用 Uvicorn 服务器运行在本地主机的默认端口 8000 上，并监听根路径 / 的 GET 请求。可以使用 --ssl-keyfile 和 --ssl-certfile 参数来指定 SSL 密钥文件和证书文件。使用 Uvicorn 可以轻松构建异步 API 服务，处理大量并发请求，提高系统的性能和吞吐量。在本节中，更深入地探讨 Python Uvicorn 的高级功能，并提供丰富的示例代码。--log-level：指定日志级别，默认为 info。
fastapi + uvicorn 搭建web服务（二）
qq_59006308的博客
06-26 908
但是我们看我们的接口，他是有参数要求的，ur_id他是需要在后面跟上id的，这个id还必须得是int型（当然不是绝对的，只是我设置是int型，你也可以是float，str都可以）现在我们找个浏览器打开输入http://127.0.0.1:8000/ur_id/11,你猜会输出什么？打开终端cd进母驴（我服了，打字也能嘴瓢？再答：（打断施法）不准问了，我们只要秉持不需要的就不学的学习态度，就会学的很快乐（事实上，我自己也在学习中Hhhhh，所以我也解释不清楚）上代码！
【Python随笔】python的web开发——WSGI、ASGI、uvicorn与FastAPI
HiKariのTechLab
08-14 2414
今天这篇文章，聊一下python在web开发上的一些基础实现，阐述下自己理解中的WSGI、ASGI，以及拿uvicorn+FastAPI的组合举个ASGI应用的例子。
python + fastapi + uvicorn快速搭建服务器(新手版本)
weixin_50387563的博客
10-16 1757
1.导包# 调用webapi框架包# 2.用变量调用# 3.接受客服端返回的请求,响应返回的对应对象# /代表只接受根目录的请求with open('../代码/my_heima.html', mode='rb') as sf:# 接收照片路径请求,并返回对应图片对象# 4启动服务器(必须传入上述创建的对象,注意:ip地址和端口号有默认,当然也可以自己指定)#run 参数有:服务器,IP地址,端口号。
fastapi + uvicorn + gunicorn部署时run命令（20210308在用）
hkpearlcity的博客
03-06 4540
fastapi + uvicorn + gunicorn部署时run命令（20210308在用） run docker docker run -d \ --name mqsub \ --restart=always \ --network php-net \ -p 8000:80 \ -v /root/mqsub:/app \ -e KEEP_ALIVE="20" \ -e GRACEFUL_TIMEOUT="20" \ -e TIMEOUT="20" \ mqsub /start-reload.sh f
python 使用fastapi和uvicorn搭建一个服务
足迹
03-11 4404
我们在detector.py 文件下，启动uvicorn，使用如下命令。detector是文件名 ，app是应用程序实例名字，这样。就会正确地加载应用程序并启动服务器。的问题，实际上是调用方式改变了。unvicorn新版本后，出现。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值