flask多线程

from fastapi import FastAPI, Request
import uvicorn, json, datetime
import requests
import sbert
import sbert_max_picture
import time
from flask import Flask, request, jsonify


app = Flask(__name__)
@app.route('/smart_companion', methods=['POST'])
def smart_companion_api():
    # print('my_api')
    # 获取 POST 请求的 JSON 数据
    data = request.get_json()
    cus_q = data["cus_q"]
    session = data["session"]

    # if session[-1] in ('a','b'): #灰度10%
    result = sbert.main_sbert(cus_q, session)
    # answer = chat_chain.invoke({'query':question}).content
    # else:
    #     result = sbert_max_picture.main(cus_q, session)
    # end_time = time.time()
    # print("total_time:",end_time - start_time)
    # 返回结果
    return jsonify(result)


if __name__ == "__main__":
    # uvicorn.run(app='main:app', host='0.0.0.0', port=5000, workers=1, log_level="info")

    app.run('0.0.0.0', port=5000, threaded=True)#,,threaded=False,processes=20,port=400


threaded=True是开启了多线程,具体线程数量和执行由nohup gunicorn --threads 8 -b 0.0.0.0:5000 main:app &
执行

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值