Fastapi在docekr中进行部署之后，uvicorn占用的CPU非常高

于 2024-07-09 00:11:53 发布
阅读量229 收藏 4
点赞数 4
分类专栏： Fastapi踩坑日记 小袁同学3k5的工作日常 前后端学习日记 文章标签： fastapi
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/obliv/article/details/140281769
版权

前一段接点小活，做点开发，顺便学了学FASTAPI框架，对比flask据说能好那么一些，至少并发什么的不用研究其他的asgi什么的，毕竟不是专业开发，能少研究一个东西就省了很多的事。

但是部署的过程中突然之间在docker中的uvicorn占用直接50%起步，数据量大点的时候直接七八十，所以就一点点找问题的原因了。
没什么技术问题，都是不小心导致，记录一下，万一哪个未来大佬学习的过程中也会有这样的疑惑呢。
在这里插入图片描述

部署环境

centos7 宝塔 docker-compose
后端用到的东西：mysql+redis+fastapi

异常现象

docker中运行开始就50%以上的占用，运行接口量大的时候七八十占用也很正常。
在这里插入图片描述

解决思路

各种查找进程，发现主服务器中的uvicorn占用超高导致在这里插入图片描述

问题解决

一顿查找之后终于发现。
就是这个–reload导致的，我是本机开发方便，在部署的时候compose中这个运行的自动重启没去掉，于是就导致CPU占用超高。
在这里插入图片描述
删掉这个–reload之后，嗯，舒服了
在这里插入图片描述

小袁同学.
关注
  • 4
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
一行命令实现docker一键部署最新模型无限制模型接近GPT4能力的微调ChatGLM3第三代大语言模型单机部署、量化部署、Mac 部署、单GPU部署及多GPU部署指南，附详细代码和步骤
代码讲故事
02-02 640
一行命令实现docker一键部署最新模型无限制模型接近GPT4能力的微调ChatGLM3第三代大语言模型单机部署、量化部署、Mac 部署、单GPU部署及多GPU部署指南，包含代码调用对话、API调用、网页对话、命令行对话、工具调用、代码解释器等模式，附详细代码和步骤。docker高度封装环境都配置好了，在不同的硬件环境中，只需要修改参数即可，例如多个GPU环境中，只需要修改GPU数量即可。也解决了大模型下载慢和无法下载的问题，提供了多种解决方案。如果想用其他的模型，只需要简单修改一下模型名称即可自动进行下载
uvicorn-gunicorn-fastapi-docker：由Gunicorn管理的带有Uvicorn的Docker映像，用于Python 3.6及更高版本中的高性能FastAPI Web应用程序，并具有性能自动调整功能。 可选搭配Alpine Linux
02-02
例如tiangolo/uvicorn-gunicorn-fastapi:python3.7-2019-10-15 。 uvicorn-gunicorn-fastapi 与图像管理由为高性能在Web应用程序 3.6及以上，性能自动调整。 可以选择是苗条版本或基于Alpine Linux。 GitHub存储...
基于consul与FastAPI构建服务记录
星际老男孩
07-15 2285
consul相关
【chatglm2】使用Python在CPU环境中运行 chatglm.cpp 可以实现本地使用CPU运行chatglm2模型，速度也特别的快可以本地部署，把现有项目进行AI的改造。
freewebsys的专栏
08-16 4679
也可以支持英文，但是最后几个字有点问题。最后有点乱码，不知道是不是因为模型裁剪的问题。同时也有可能是原始素材就有这个问题。可以使用docker 在 CPU上面运行 chatglm ，同时安装了 pytorch 的CPU 版本，镜像缩小到 1.5 G了。并且速度也是非常的快了。可以在非GPU的机器上面运行了。可以解决很多问题呢。
Python版ChatGLM2：在CPU环境快速运行与本地部署AI模型
fengbeely的博客
06-28 963
也可以支持英文，但是最后几个字有点问题。最后有点乱码，不知道是不是因为模型裁剪的问题。同时也有可能是原始素材就有这个问题。可以使用docker 在 CPU上面运行 chatglm ，同时安装了 pytorch 的CPU 版本，镜像缩小到 1.5 G了。并且速度也是非常的快了。可以在非GPU的机器上面运行了。可以解决很多问题呢。
Baichuan2大模型官方部署与Fastchat部署方案
T752462536的博客
10-23 2493
Baichuan2大模型官方部署与Fastchat部署方案
推荐高性能的Python Web应用容器：Uvicorn-Gunicorn-Starlette-Docker
gitblog_00063的博客
06-05 344
推荐高性能的Python Web应用容器：Uvicorn-Gunicorn-Starlette-Docker 项目地址:https://gitcode.com/tiangolo/uvicorn-gunicorn-starlette-docker 在构建高效的Python Web应用程序时，选择合适的框架和服务器至关重要。Uvicorn-Gunicorn-Starlette-Docker 是一个强大...
克服资源障碍：大模型量化技术与高效部署策略全解析
2401_82700030的博客
06-27 784
本文综述了大模型量化的方法、适用场景以及最新的研究进展，为读者解决部署使用大模型时遇到的计算资源不足的情景提供了一种视角
【LLM大模型】chatglm2-6b在P40上做LORA微调
2301_81888214的博客
07-04 851
大模型的技术应用已经遍地开花。最快的应用方式无非是利用自有垂直领域的数据进行模型微调。chatglm2-6b在国内开源的大模型上，效果比较突出。本文章分享的内容是用chatglm2-6b模型在集团EA的P40机器上进行垂直领域的LORA微调。
LLMs之ChatGLM-2：ChatGLM2-6B的简介、安装、使用方法之详细攻略
热门推荐
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
06-28 1万+
​ LLMs之ChatGLM2：ChatGLM2-6B的简介、安装、使用方法之详细攻略 目录 ChatGLM2-6B的简介 ChatGLM2-6B的安装 ChatGLM2-6B的使用方法 ChatGLM2-6B的简介 ChatGLM2-6B 是开源中英双语对话模型ChatGLM-6B 的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，ChatGLM2-6B 引入了如下新特性： >> 更强大的性能=混合目标函
docker部署fastapi，docker部署gdal的dockfile文件参考
05-26
docker部署fastapi+gdal项目的dockfile文件参考，具体步骤可参考https://blog.csdn.net/qq_16773699/article/details/124994849
fastapi-tdd-docker:使用FastAPI和Docker进行测试驱动的开发
05-05
使用FastAPI和Docker进行测试驱动的开发
InsightFace-REST:InsightFace REST API 用于在 Docker 中使用 TensorRT 轻松部署人脸识别服务
08-04
准备好使用 Docker 和 nvidia-docker2 在支持 NVIDIA GPU 的系统上进行部署。 启动时自动下载模型（使用 Google Drive）。 借助 TensorRT 优化、FP16 推理和使用 ArcFace 模型对检测到的人脸进行批量推理，性能比...
在Docker中部署Spring Boot项目过程详解
08-25
在Docker中部署Spring Boot项目过程详解 在上面的教程中，我们学习了如何在Docker中部署Spring Boot项目。下面是从该教程中总结的知识点： 一、Docker与微服务的结合 * 微服务现在在互联网公司非常流行，微服务和...
FastAPI入门
m0_70618214的博客
08-13 1228
什么是 FastAPI 呢？ FastAPI 是 Python 的一个框架，如果要类比的话，那就是： Nodejs 和 Nestjs Java 和 Spring Php 和 ThinkPhp
html css js网页设计
07-12
HTML、CSS和JavaScript是构建网页和网站的基本技术，它们共同工作来创建和设计用户界面。下面是关于这三种技术的详细介绍： ### HTML (HyperText Markup Language) - **定义**：HTML是构建网页内容的标准标记语言。 - **作用**：用于创建网页的结构和内容，如段落、链接、图片、表格等。 - **语法**：使用标签（如 `<p>`, `<div>`, `<a>`, `<img>` 等）来定义网页元素。 ### CSS (Cascading Style Sheets) - **定义**：CSS是一种样式表语言，用于描述HTML文档的呈现方式。 - **作用**：用于设置网页的布局、颜色、字体和其他视觉元素。 - **语法**：通过选择器（如 `p`, `.myclass`, `#myid` 等）应用样式规则。 ### JavaScript - **定义**：JavaScript是一种脚本语言，通常用于网页上实现交互功能。 - **作用**：允许网页与用户进行交互，如响应用户操作、动态更新内容、动画效果等。 - **语法**：Java
2023年数字乡村建设解决方案PPT(34页).pptx
最新发布
07-12
数字乡村建设解决方案旨在通过数字化转型促进乡村振兴和农业农村现代化。该方案强调了数字乡村建设的战略机遇，以"1+3+5"工程为总体框架，即一个大数据中心、三大服务平台和五类主题应用。方案着重于乡村治理、产业发展和公共服务三大问题，通过完善治理体系、升级治理能力、强化产业链条和改善资源配置来推动乡村全面振兴。 方案中提出的数字乡村大数据中心是信息资源的集散地，依托大数据、AI、物联网等新技术，实现数据驱动的决策支持。三大服务平台包括产业服务、民生服务和治理服务，旨在提升农业生产智能化、经营网络化，同时优化乡村治理结构和提升服务效能。五类主题应用覆盖生产管理、流通营销、行业监管、公共服务和乡村治理，通过具体业务应用体系，实现农业全产业链的数字化管理和服务。 预期建设效益包括通过信息技术促进乡村优势产业发展，形成城郊融合型数字乡村治理新模式，以及创新服务方式，提升服务能力，保障农民权益。整体而言，该方案以数字化为手段，推动乡村经济、治理、文化等多方面的全面升级和发展。
脉冲强光技术在灭菌烧结固化应用解决方案
07-12
脉冲强光技术在灭菌烧结固化应用解决方案，已经得到厂家授权，可以对外公示。
java docker api 在Docker Swarm上部署Docker Compose服务
05-31
使用Docker Java API在Docker Swarm上部署Docker Compose服务需要以下步骤： 1. 创建一个DockerClient对象，并设置ComposeCmdExecFactory为其DockerCmdExecFactory。 ``` DockerClientConfig config = DefaultDockerClientConfig.createDefaultConfigBuilder().build(); DockerClient dockerClient = DockerClientBuilder.getInstance(config) .withDockerCmdExecFactory(new ComposeCmdExecFactory()) .build(); ``` 2. 加载Docker Compose文件，并启动服务。 ``` File composeFile = new File("docker-compose.yml"); String projectName = "myproject"; Up up = dockerClient.composeUpCmd() .withProjectName(projectName) .withFile(composeFile) .execute(); ``` 在以上代码中，我们使用`composeUpCmd()`方法构建`ComposeUpCmd`对象，通过`withFile(composeFile)`方法设置Compose文件的路径，通过`withProjectName(projectName)`方法设置Compose项目的名称，最后通过`execute()`方法启动服务。 3. 如果需要停止服务，可以使用`ComposeDownCmd`对象执行`execute()`方法来停止服务。 ``` Down down = dockerClient.composeDownCmd() .withProjectName(projectName) .execute(); ``` 在以上代码中，我们使用`composeDownCmd()`方法构建`ComposeDownCmd`对象，通过`withProjectName(projectName)`方法设置Compose项目的名称，最后通过`execute()`方法停止服务。 需要注意的是，Docker Java API需要连接到Docker Swarm集群，所以在执行以上代码之前，需要确保Java应用程序所在的机器上已经正确配置了Docker Swarm集群，并且Docker Java API的配置文件中指定了正确的Docker Swarm地址。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小袁同学.

赏个早餐吃？

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值