KServe Documentation Website

KServe Documentation - User Guide 翻译

Concepts概念
Model Serving Runtimes模型服务运行时
、、Supported Model Frameworks/Formats支持的模型框架/格式
、、Multi-Framework Serving Runtimes多框架服务运行时
、、How to write a custom predictor如何编写自定义预测器
Multi Model Serving多模型服务
Transformers转换器
Inference Graph推理图
Model Storage模型存储
Model Explainability模型可解释性
Model Monitoring模型监控
Request Batching请求批处理
Payload Logging有效负载日志
Autoscaling自动缩放
Node Scheduling节点调度
Kafka分布式发布订阅消息系统
Rollout Strategies推出策略
Inference Observability推理可观察性