使用开源AI-Serving部署推理PMML和ONNX模型

目录

• AI-Serving介绍
• 部署PMML模型
• 部署ONNX模型
• 总结
• 参考

AI-Serving介绍

AI-Serving是一款开源的机器学习和深度学习模型部署推理（inference）系统，支持标准的PMML和ONNX格式，同时提供HTTP（REST API）和gRPC两种接口，方便在不同的生产环境中使用。

部署PMML模型

预测模型标记语言PMML（Predictive Model Markup Language）是一套成熟的表示经典机器学习模型的标准。AI-Serving通过PMML4S提供对PMML模型的高效预测服务，详情参考《Inferencing Iris XGBoost PMML Model using AI-Serving》。

关于PMML详情，参考文章《