fastapi制作http接口,多线程

from fastapi import FastAPI, Request
import uvicorn, json, datetime
import requests

app = FastAPI()
@app.post("/smart_companion") 

async def smart_companion_api(request: Request):
	
	start_time = time.time()
	json_post_raw = await request.json()
	json_post = json.dumps(json_post_raw)
	json_post_list = json.loads(json_post)
	# 获取参数
	question = json_post_list.get('cus_q')
	session_id = json_post_list.get('session_id')
	# answer = chat_chain.invoke({'query':question}).content
	result = sbert.main_sbert(question, session_id)
	end_time = time.time()
	print("total_time:",end_time - start_time)
	
	return result

if __name__ == "__main__":
    uvicorn.run(app='main:app', host='0.0.0.0', port=1998, workers=10, log_level="info")在这里插入代码片

worker开启后有用,直接运行就行,接口:“http://ip地址:1998/smart_companion”

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值