Rust在AI方面的应用框架

Burn(Burn)

完整的训练、推理框架。支持cpu、gpu、candle等后端。

支持onnx、pytorch模型导入和运行。好处是可以减少对onnx runtime的依赖

Candle

GitHub - huggingface/candle: Minimalist ML framework for Rust

主要面向推理。支持很多大模型，例如SD等。

Onnx runtime for Rust（推荐前期验证使用）

ultralytics/examples/YOLOv8-ONNXRuntime-Rust at main · ultralytics/ultralytics · GitHub

可以很方便实现目标检测、姿势识别等功能。

在RK3588上完美运行yolov8n-pose（官方原版模型），准确度很高。cpu消耗不大(占用200%, 总cpu 800%）。比基于rknn修改的模型的准确度要好些（可能是模型训练不够所致）。该模型请参考：