- 博客(8)
- 收藏
- 关注
原创 如何上线部署Pytorch深度学习模型到生产环境中
本文中,我们介绍了在DaaS中如何原生部署Pytorch模型,整个流程非常简单,对于默认部署,只是简单调用几个API就可以完成模型的部署,而对于自定义部署,DaaS提供了方便的测试界面,可以随时程序修改脚本进行测试,调试成功后再创建正式部署。在现实的部署中,为了获取更高的预测性能,用户需要更多的修改自定义预测脚本,比如更优的数据处理,使用GPU等。DaaS提供了简单易用的部署框架允许用户自由的定制和扩展。
2020-07-31 22:21:55 7022
原创 使用开源AI-Serving部署推理PMML和ONNX模型
AI-Serving是一款开源的机器学习和深度学习模型部署推理(inference)系统,支持标准的PMML和ONNX格式,同时提供HTTP和gRPC两种接口,方便在不同的生产环境中使用。
2020-04-28 15:45:47 1749
原创 自动部署深度神经网络模型TensorFlow(Keras)到生产环境中
介绍深度神经网络模型Keras,以及如何自动部署Keras模型到生产环境中
2020-02-16 13:45:40 1923
原创 开源AI模型序列化总结
模型序列化是模型部署的第一步,如何把训练好的模型存储起来,以供后续的模型预测使用,是模型部署的首先要考虑的问题。本文主要罗列当前流行开源模型不同序列化方法,以供查阅参考。
2019-11-23 20:43:50 811
原创 使用ONNX部署深度学习和传统机器学习模型
介绍了ONNX这种跨平台AI模型表示标准,以及与PMML的区别,最后演示了如何在DaaS系统中通过ONNX部署传统机器学习模型和深度神经网络模型
2019-10-16 13:12:22 2332 1
原创 自动部署开源AI模型到生产环境:Sklearn、XGBoost、LightGBM、和PySpark
介绍了如何通过DaaS-Client Python客户端自动部署开源AI模型到生产环境中:Sklearn、XGBoost、LightGBM和PySpark,并且在DaaS网络客户端管理这些模型和部署
2019-09-16 18:59:53 3599 4
原创 自动部署PMML模型生成REST API
DaaS(Deployment-as-a-Service)作为AutoDeployAI公司推出的基于Kubernetes的AI模型自动部署系统,提供一键式自动部署AI模型生成REST API,支持PMML,Scikit-learn,XGBoost,LightGBM,Spark以及主流深度学习ONNX,Keras,TensorFlow,Pytorch,MxNet等多种模型的部署
2019-09-12 13:20:19 1696
原创 使用PMML部署机器学习模型
介绍了PMML这种跨平台机器学习模型表示标准,PMML的优缺点,常用的PMML开源类库(Nyoka、JPMML、PMML4S、PyPMML等),以及演示了如何生成和使用PMML
2019-09-11 12:57:59 3897 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人