使用FastAPI与进行SSE相应

最新推荐文章于 2024-07-17 16:07:38 发布

HELLOWORLD2424

最新推荐文章于 2024-07-17 16:07:38 发布

阅读量1k

点赞数

文章标签： fastapi

本文链接：https://blog.csdn.net/helloworld2424/article/details/134165270

版权

本文介绍了如何在Python中使用FastAPI结合SSE（Server-SentEvents）实现实时数据推送，包括创建简单接口、事件生成器以及通过requests和aiohttp接收流式数据的示例。

摘要由CSDN通过智能技术生成

使用FastAPI与进行SSE相应

前言：最近使用大模型的API时候都会用到SSE响应，目的是模型生成一点东西，返回一点东西。下面记录一下Python的使用方法。

1. 回顾一下用FastAPI写一个最简单的接口

from fastapi import FastAPI, Request
import uvicorn


app = FastAPI()


@app.get("/")
async def root():
    return {"message": "Hello World"}


if __name__ == "__main__":
    uvicorn.run(app, host='0.0.0.0', port=6006)

2. 加上一个SSE的相应

from fastapi import FastAPI, Request
from sse_starlette.sse import EventSourceResponse
import asyncio
import uvicorn


app = FastAPI()

async def event_generator(request: Request):
    res_str = '七夕情人节即将来临，我们为您准备了精美的鲜花和美味的蛋糕'
    for i in res_str:
        if await request.is_disconnected():
            print("连接已中断")
            break
        yield{
            'event': 'message',
            'retry': 15000,
            'data': i
        }
        await asyncio.sleep(0.2)


@app.get("/")
async def root(request: Request):
    g = event_generator(request)
    return EventSourceResponse(g)


if __name__ == "__main__":
    uvicorn.run(app, host='0.0.0.0', port=6006)

3. 使用requests接受流式数据

import requests


# 使用requests 接收流式信息
def test():
    url = r"http://localhost:6006/"
    response = requests.get(url, stream=True, verify=False)

    for chunk in response.iter_content(chunk_size=1024, decode_unicode=True):
        print(chunk)


if __name__ == '__main__':
    test()

4. 使用aiohttp 接收流式数据

import aiohttp
import asyncio


# 使用aiohttp 接收流式信息
async def test():
    sseresp = aiohttp.request("GET", r'http://localhost:6006/')
    async with sseresp as r:
        async for chunk in r.content.iter_any():
            print(chunk.decode())


if __name__ == '__main__':
    loop = asyncio.get_event_loop()
    loop.run_until_complete(test())