PMML-ONNX-AI Serving等深度学习模型上线-部署实战经验分享

最新推荐文章于 2024-09-13 07:57:14 发布
最新推荐文章于 2024-09-13 07:57:14 发布
阅读量206 收藏
点赞数
分类专栏： 深度学习视频教程及资料下载 迁移学习与多任务学习 文章标签： 人工智能 深度学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lqfarmer/article/details/128993095
版权
文章探讨了AI模型从开发到部署的挑战，特别是数据科学家和开发运维工程师的角色差异。通过引用业界资源，分享了使用PMML、ONNX和AIServing进行模型线上部署的经验，旨在帮助解决模型部署的复杂性问题。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

AI的广泛应用是由AI在开源技术的进步推动的，利用功能强大的开源模型库，数据科学家们可以很容易的训练一个性能不错的模型。但是因为模型生产环境和开发环境的不同，涉及到不同角色人员：模型训练是数据科学家和数据分析师的工作，但是模型部署是开发和运维工程师的事情，导致模型上线部署却不是那么容易。

本资源整理了业界PMML-ONNX-AI Serving等进行深度学习模型线上部署的经验，分享给大家。

资源整理自网络，源地址ÿ

最低0.47元/天 解锁文章
使用开源AI-Serving部署推理PMML和ONNX模型
关注AI/ML模型上线、模型部署
04-28 1835
AI-Serving是一款开源的机器学习和深度学习模型部署推理（inference）系统，支持标准的PMML和ONNX格式，同时提供HTTP和gRPC两种接口，方便在不同的生产环境中使用。
观点 | 观远数据字节：算法工程师技术路线图
AI+BI,大数据分析,数据可视化,商业智能,数据驾驶舱 - 观远数据
08-26 1996
《观点》是由观远数据倾力打造的一档技术类干货分享专栏，所有内容均来源于观远数据内部员工，旨在为数据分析行业输出指导性的知识体系。 本文来源于观远数据联合创始人兼首席数据科学家字节内部分享。该文章通过知乎平台发布一天内就获得了30000+浏览量、2500+收藏和近千条点赞，在算法工程师群体中引起一波热议。 作者简介-周远（花名：字节） • 观远数据联合创始人兼首席数据科学家 • 知乎机器学习领域KOL • 致力于算法前沿技术在泛零售消费领域的应用落地，深度参与主导了多个AI项目在行业头部、世界五百强客户的
使用ONNX部署深度学习和传统机器学习模型
weixin_36670529的博客
05-20 2867
目录 ONNX简介 ONNX标准介绍 ONNX与PMML DaaS简介 使用ONNX部署传统机器学习模型 使用ONNX部署深度神经网络模型 总结 参考 ONNX简介 开放神经网络交换ONNX（Open Neural Network Exchange）是一套表示深度神经网络模型的开放格式，由微软和Facebook于2017推出，然后迅速得到了各大厂商和框架的支持。通过短短几年的发...
探索AI模型部署的终极解决方案：AI-Deployment项目推荐
最新发布
gitblog_00082的博客
09-13 640
探索AI模型部署的终极解决方案：AI-Deployment项目推荐 ai-deployment 项目地址: https://gitcode.com/gh_mirrors/ai/ai-deployment ...
机器学习模型序列化
weixin_39910711的博客
12-29 2490
目录 1 pickle 2joblib 3安全性和可维护性的局限性 4Interoperable formats 可互操作的格式 机器学习过程分为训练过程和预测过程。训练过程得到一个模型，预测过程得到预测结果。为了节省时间，最好能够在每次执行预测时，调用已经构造好的模型，而不是每次预测前都需要重新训练一次模型。以“决策树”为例，最好能够在每次执行分类时调用已经构造好的决策树。 本文将使用两种方法来实现模型的保存和加载：Pickle和joblib。 不跨平台...
分类模型与排序模型在推荐系统中的异同分析
hellozhxy的博客
10-13 668
出品社区：DataFunTalk 前言 推荐系统是驱动内容分发的引擎，而个性化则是推荐系统的核心思想。分类模型和排序模型是业界常用的两种个性化建模方式。本文探讨两种方法的异同点，总结如下： 分类模型回答的是用户喜不喜欢这个物品，而排序模型回答的用户更喜欢哪一个； 在对事件发生的假设上，分类模型认为个样本之间相互独立且服从相同的分布，排序模型认为同组内部的样本是有关联关系和可以相互比较的； 从Bayesian 的观点来看，分类模型刻画的是<user,ite...
独家 | 机器学习模型应用方法综述
数据派THU
10-09 605
作者：Julien Kervizic翻译：陈之炎校对：李海明本文约5700字，建议阅读10+分钟。本文整理比较模型部署到生产中使用的不同部署模型方式、生命周期管理方法及数...
PyTorch学习总结(三)——ONNX
热门推荐
码农王小呆的博客
12-05 5万+
1.什么是ONNXOpen Neural Network Exchange (ONNX)是开放生态系统的第一步，它使人工智能开发人员可以在项目的发展过程中选择合适的工具;ONNX为AI models提供了一种开源格式。它定义了一个可以扩展的计算图模型，同时也定义了内置操作符和标准数据类型。最初我们关注的是推理(评估)所需的能力。Caffe2, PyTorch, Microsoft Cognitive
总结一下使用pytorch搭建神经网路的一般步骤
seriesgerry的博客
11-02 455
总结一下使用pytorch搭建神经网路的一般步骤： （1）第一步：处理输入数据 （2）第二步：搭建网络结构，得到一个model。网络的结构可以是这种最简单的序贯模型，当然还可以是多输入-单输出模型、单输入-多输出模型、多输入-多输出模型、跨层连接的模型等。 （2）第三步：定义损失函数。 loss= torch.nn.MSELoss(reduction='sum') （4）第四步：定义优化方式。构造一个optimizer对象 optimizer = torch.optim.Adam(model..
onnx 使用初体验
learning notes
11-21 1万+
需要使用 pytorch, caffe2, coreml, onnx. 由于 caffe2 只支持 python2, 使用 python2.7.14来作为虚拟环境来编译 pytorch的时候，报错：clang: error: invalid deployment target for -stdlib=libc++ (requires OS X 10.7 or later) clang: error
使用PMML部署机器学习模型
关注AI/ML模型上线、模型部署
09-11 4014
介绍了PMML这种跨平台机器学习模型表示标准，PMML的优缺点，常用的PMML开源类库(Nyoka、JPMML、PMML4S、PyPMML等)，以及演示了如何生成和使用PMML
自动部署PMML模型生成REST API
关注AI/ML模型上线、模型部署
09-12 1756
DaaS（Deployment-as-a-Service）作为AutoDeployAI公司推出的基于Kubernetes的AI模型自动部署系统，提供一键式自动部署AI模型生成REST API，支持PMML，Scikit-learn，XGBoost，LightGBM，Spark以及主流深度学习ONNX，Keras，TensorFlow，Pytorch，MxNet等多种模型的部署
ONNX & ONNX Runtime 调研
清欢
11-16 3313
文章目录0. 前言1. ONNX1.1. 基本情况1.2. 部署工具概述1.3. ONNX文档阅读1.4. 其他小工具2. ONNX Runtime2.1. 基本情况2.2. 各种后端2.3. Python API 的基本使用 0. 前言 最近要做一些模型推理优化的工作，所以要稍微多学习一点。 ONNX其实一直都知道，统一的模型格式，使得模型在各个框架、平台间迁移更方便。 1. ONNX 官方资料：官网，官方Repo，还有各种repo 其他参考资料：ONNX–跨框架的模型中间表达框架 1.1. 基本
传统机器学习模型如何做在线预测
科讯财闻
03-26 2475
摘要 虽然目前深度学习的热度远远高过传统的机器学习，但仍然有很多实际问题更适合用传统机器学习模型解决。如何将这些机器学习模型发布到生产环境做在线预测仍是一个很有意义的问题。常见的机器学习模型包括但不限于： 线性回归，Logistic 回归 决策树 随机森林 SVM Boosting（AdaBoost，XGBoost） 隐式马尔可夫 本文我们用一个实际的例子介绍如何使用 ONNX 生态的解决方案将 scikit-learn 与 hmmlearn 训练的机器学习模型发布为高性能的在线预测服务。我们
结合Apache Kafka生态系统，谈谈2018年机器学习5大趋势
云栖社区
03-04 564
云栖君导读：让我们来研究下Uber和Netflix上的KSQL，ONNX，AutoML和机器学习平台，看看它们之间是如何相互关联的。在2018慕尼黑OOP会议上，我展示了使用Apache Kafka生态系统和深度学习框架（如TensorFlow，DeepLearning4J）构建可扩展关键型（mission- critical）任务微服务的最新版本。本文中，我想分享出最新的幻灯片并讨论最新趋势。本
深度学习模型-13 迁移学习（Transfer Learning）技术概述
lqfarmer的博客
06-13 3万+
前一期介绍了表示学习Representation Learning，指出其中比较有趣的一个方向-共享表示学习。今天介绍共享表示学习最相关的机器学习领域-迁移学习（Transfer Learning）。文章内容主要整理自论文《A survey on transfer Learning》。 1 迁移学习提出的背景及历史 1、迁移学习提出背景 在机器学习、深度学习和数据挖掘的大多数任务中，我们
模型汇总23 - 卷积神经网络中不同类型的卷积方式介绍
lqfarmer的博客
10-13 1万+
之前在文章《牛逼的深度卷积神经网络CNN》详细介绍了卷积神经网络的基本原理，以及常见的基本模型，如LeNet，VGGNet，AlexNet，ReseNet，Inception Net的基本结构和原理。今天主要总结一下，卷积神经网络家族中，不同类型的卷积方式以及它们各自的优点。为了简单起见，我们仅从2维的角度介绍。 文末提供相关资料下载地址 卷积基本概念 首先，我们
模型汇总-14 多任务学习-Multitask Learning概述
lqfarmer的博客
06-16 1万+
1、单任务学习VS多任务学习 单任务学习：一次只学习一个任务（task），大部分的机器学习任务都属于单任务学习。 多任务学习：把多个相关（related）的任务放在一起学习，同时学习多个任务。 多任务学习（multitask learning）产生的原因？ 获取最新消息链接：获取最新消息快速通道 - lqfarmer的博客 - 博客频道 - CSDN.NET
解析PMML模型成为Scikit-learn估计器的sklearn-pmml-model库
资源摘要信息:"sklearn-pmml-model是Python中一个专门用于将PMML（Predictive Model Markup Language）模型解析转换为Scikit-learn估计器接口的库。PMML是一种基于XML的语言，用于描述和交换机器学习模型。它允许...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

lqfarmer

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值