使用开源AI-Serving部署推理PMML和ONNX模型

最新推荐文章于 2025-02-15 10:44:26 发布

aipredict

最新推荐文章于 2025-02-15 10:44:26 发布

阅读量1.8k

点赞数

分类专栏： AI模型部署文章标签： ai 深度学习人工智能机器学习

本文链接：https://blog.csdn.net/weixin_45626901/article/details/105815440

版权

AI-Serving是一款开源推理系统，支持PMML和ONNX格式的机器学习与深度学习模型部署。它提供HTTP和gRPC接口，便于在不同环境集成。本文介绍了如何使用AI-Serving部署PMML和ONNX模型，强调了这两种标准格式在模型部署中的重要性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

AI-Serving介绍

AI-Serving是一款开源的机器学习和深度学习模型部署推理（inference）系统，支持标准的PMML和ONNX格式，同时提供HTTP（REST API）和gRPC两种接口，方便在不同的生产环境中使用。

部署PMML模型

预测模型标记语言PMML（Predictive Model Markup Language）是一套成熟的表示经典机器学习模型的标准。AI-Serving通过PMML4S提供对PMML模型的高效预测服务，详情参考《Inferencing Iris XGBoost PMML Model using AI-Serving》。

关于PMML详情，参考文章《