![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
模型部署
文章平均质量分 63
研究如何在线上部署模型。
AI浩
2022年博客之星Top8,2021年博客之星Top6,博客专家,华为云云享专家,十佳博主,阿里云专家博主,拥有多项发明专利并参与过国家重大专项,拥有丰富的开发经验。注重理论与实践的结合,让AI学起来不再枯燥。如果大家在看文章的时候,发现了文章的错误,烦请指出,我会及时纠正。
展开
-
基于Flask的高并发部署方案
Flask 是一个轻量级的 Python Web 框架,它非常适合构建小型到中型的应用程序。Flask 的特点:轻量级:相比于 Django,Flask 更轻量级,更适合小型项目或微服务。简单:Flask 的 API 非常简洁,易于学习和使用。灵活:Flask 提供了基础功能,但并不限制开发者如何实现这些功能。扩展性强:有许多针对 Flask 的扩展,可以轻松地添加新功能。基本组件:路由:定义了 URL 和处理它们的函数之间的映射关系。模板引擎:用于渲染 HTML 页面。URL 构建。原创 2024-01-11 21:30:31 · 2445 阅读 · 5 评论 -
Base64与cv2读取的图片,格式互转
本专栏是讲解如何改进Yolov8的专栏。改进方法采用了最新的论文提到的方法。改进的方法包括:增加注意力机制、更换卷积、更换block、更换backbone、更换head、更换优化器等;每篇文章提供了一种到N种改进方法。评测用的数据集是我自己标注的数据集,里面包含32种飞机。每种改进方法我都做了测评,并与官方的模型做对比。代码和PDF版本的文章,我在验证无误后会上传到百度网盘中,方便大家下载使用。这个专栏,求质不求量,争取尽心尽力打造精品专栏!!!!!原创 2023-08-24 09:31:52 · 795 阅读 · 0 评论 -
【第54篇】一种用于视觉识别的快速知识蒸馏框架
知识蒸馏(KD)[16]已被广泛应用于各种视觉领域,如监督识别[29,49,48,23,34,2]和自监督表示学习[32,9,4]。KD的机制是迫使学生模仿教师网络或集体教师的输出,并趋同于基本真理标签。已知迭代(t)时目标学生的参数θ,通过对包含两项的以下目标求最小值,可以得到下一个迭代的参数θ(t+1)θ^{(t+1)}θ(t+1)θstudent(t+1)=argminθ∈Θ1N∑n=1N(1−λ)H(yn,原创 2022-11-07 16:35:39 · 1476 阅读 · 1 评论 -
如何将pytorch模型部署到安卓
如何将pytorch模型部署到安卓上这篇文章演示如何将训练好的pytorch模型部署到安卓设备上。我也是刚开始学安卓,代码写的简单。环境:pytorch版本:1.10.0模型转化pytorch_android支持的模型是.pt模型,我们训练出来的模型是.pth。所以需要转化才可以用。先看官网上给的转化方式:import torchimport torchvisionfrom torch.utils.mobile_optimizer import optimize_for_mobilemo原创 2022-02-10 14:36:32 · 21058 阅读 · 26 评论 -
Pytorch模型转Android端模型
Android端部署pytorch模型,需要将模型转为.pt文件,转换方法如下:import torchimport torch.utils.data.distributed# pytorch环境中model_pth = 'model_31_0.96.pth' # resnet18模型的参数文件mobile_pt ='model.pt' # 将resnet18模型保存为Android可以调用的文件model = torch.load(model_pth)model.eval() # 模型设原创 2022-02-10 10:47:08 · 1690 阅读 · 0 评论 -
yolov5 导出LibTorch模型(CPU和GPU)
官方给出的是CPU:"""Exports a YOLOv5 *.pt model to ONNX and TorchScript formatsUsage: $ export PYTHONPATH="$PWD" && python models/export.py --weights ./weights/yolov5s.pt --img 640 --batch 1"""import argparseimport torchimport torch.nn as .原创 2021-04-25 10:10:51 · 2813 阅读 · 6 评论 -
LibTorch入门——Win10+VS2017配置LibTorch开发环境。
最近想研究一下如何部署pytorch模型,看到别人说LibTorch不错,是最近流行的C++部署框架,我打算试试。首先,去pytorch官网上下载,如下图,上面的连接是release版本,下面是Debug版本,支持C++,但是Window不支持Java。点击连接下载下来。我选择的是release版本的。将解压后的文件复制到C盘,如下图:设置环境变量:右键我的电脑->高级系统设置->高级中的环境变量->点击系统变量中的Path->添加dll路径:. .原创 2021-04-21 12:05:20 · 7559 阅读 · 4 评论