自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

关注AI/ML模型上线、模型部署

建模不易,部署更难。 把开源机器学习(machine learning)、深度学习(deep learning)模型部署到生产环境,是我们关注、讨论、和要解决的问题。

  • 博客(8)
  • 收藏
  • 关注

原创 如何上线部署Pytorch深度学习模型到生产环境中

本文中,我们介绍了在DaaS中如何原生部署Pytorch模型,整个流程非常简单,对于默认部署,只是简单调用几个API就可以完成模型的部署,而对于自定义部署,DaaS提供了方便的测试界面,可以随时程序修改脚本进行测试,调试成功后再创建正式部署。在现实的部署中,为了获取更高的预测性能,用户需要更多的修改自定义预测脚本,比如更优的数据处理,使用GPU等。DaaS提供了简单易用的部署框架允许用户自由的定制和扩展。

2020-07-31 22:21:55 7008

原创 使用开源AI-Serving部署推理PMML和ONNX模型

AI-Serving是一款开源的机器学习和深度学习模型部署推理(inference)系统,支持标准的PMML和ONNX格式,同时提供HTTP和gRPC两种接口,方便在不同的生产环境中使用。

2020-04-28 15:45:47 1745

原创 自动部署深度神经网络模型TensorFlow(Keras)到生产环境中

介绍深度神经网络模型Keras,以及如何自动部署Keras模型到生产环境中

2020-02-16 13:45:40 1921

原创 开源AI模型序列化总结

模型序列化是模型部署的第一步,如何把训练好的模型存储起来,以供后续的模型预测使用,是模型部署的首先要考虑的问题。本文主要罗列当前流行开源模型不同序列化方法,以供查阅参考。

2019-11-23 20:43:50 810

原创 使用ONNX部署深度学习和传统机器学习模型

介绍了ONNX这种跨平台AI模型表示标准,以及与PMML的区别,最后演示了如何在DaaS系统中通过ONNX部署传统机器学习模型和深度神经网络模型

2019-10-16 13:12:22 2313 1

原创 自动部署开源AI模型到生产环境:Sklearn、XGBoost、LightGBM、和PySpark

介绍了如何通过DaaS-Client Python客户端自动部署开源AI模型到生产环境中:Sklearn、XGBoost、LightGBM和PySpark,并且在DaaS网络客户端管理这些模型和部署

2019-09-16 18:59:53 3591 4

原创 自动部署PMML模型生成REST API

DaaS(Deployment-as-a-Service)作为AutoDeployAI公司推出的基于Kubernetes的AI模型自动部署系统,提供一键式自动部署AI模型生成REST API,支持PMML,Scikit-learn,XGBoost,LightGBM,Spark以及主流深度学习ONNX,Keras,TensorFlow,Pytorch,MxNet等多种模型的部署

2019-09-12 13:20:19 1689

原创 使用PMML部署机器学习模型

介绍了PMML这种跨平台机器学习模型表示标准,PMML的优缺点,常用的PMML开源类库(Nyoka、JPMML、PMML4S、PyPMML等),以及演示了如何生成和使用PMML

2019-09-11 12:57:59 3890 1

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除