关注
分享
aipredict
关注AI/ML模型上线、模型部署
展开
-
如何上线部署Pytorch深度学习模型到生产环境中
本文中，我们介绍了在DaaS中如何原生部署Pytorch模型，整个流程非常简单，对于默认部署，只是简单调用几个API就可以完成模型的部署，而对于自定义部署，DaaS提供了方便的测试界面，可以随时程序修改脚本进行测试，调试成功后再创建正式部署。在现实的部署中，为了获取更高的预测性能，用户需要更多的修改自定义预测脚本，比如更优的数据处理，使用GPU等。DaaS提供了简单易用的部署框架允许用户自由的定制和扩展。原创 2020-07-31 22:21:55 · 6763 阅读 · 0 评论 -
使用开源AI-Serving部署推理PMML和ONNX模型
AI-Serving是一款开源的机器学习和深度学习模型部署推理（inference）系统，支持标准的PMML和ONNX格式，同时提供HTTP和gRPC两种接口，方便在不同的生产环境中使用。原创 2020-04-28 15:45:47 · 1604 阅读 · 0 评论 -
自动部署深度神经网络模型TensorFlow（Keras）到生产环境中
介绍深度神经网络模型Keras，以及如何自动部署Keras模型到生产环境中原创 2020-02-16 13:45:40 · 1771 阅读 · 0 评论 -
开源AI模型序列化总结
模型序列化是模型部署的第一步，如何把训练好的模型存储起来，以供后续的模型预测使用，是模型部署的首先要考虑的问题。本文主要罗列当前流行开源模型不同序列化方法，以供查阅参考。原创 2019-11-23 20:43:50 · 626 阅读 · 0 评论 -
使用ONNX部署深度学习和传统机器学习模型
介绍了ONNX这种跨平台AI模型表示标准，以及与PMML的区别，最后演示了如何在DaaS系统中通过ONNX部署传统机器学习模型和深度神经网络模型原创 2019-10-16 13:12:22 · 2061 阅读 · 1 评论 -
使用PMML部署机器学习模型
介绍了PMML这种跨平台机器学习模型表示标准，PMML的优缺点，常用的PMML开源类库(Nyoka、JPMML、PMML4S、PyPMML等)，以及演示了如何生成和使用PMML原创 2019-09-11 12:57:59 · 3616 阅读 · 1 评论 -
自动部署PMML模型生成REST API
DaaS（Deployment-as-a-Service）作为AutoDeployAI公司推出的基于Kubernetes的AI模型自动部署系统，提供一键式自动部署AI模型生成REST API，支持PMML，Scikit-learn，XGBoost，LightGBM，Spark以及主流深度学习ONNX，Keras，TensorFlow，Pytorch，MxNet等多种模型的部署原创 2019-09-12 13:20:19 · 1587 阅读 · 0 评论 -
自动部署开源AI模型到生产环境：Sklearn、XGBoost、LightGBM、和PySpark
介绍了如何通过DaaS-Client Python客户端自动部署开源AI模型到生产环境中：Sklearn、XGBoost、LightGBM和PySpark，并且在DaaS网络客户端管理这些模型和部署原创 2019-09-16 18:59:53 · 3294 阅读 · 4 评论