MLPerf V5.0 测试结果列表

CH_Qing

已于 2025-02-27 09:06:58 修改

阅读量169

点赞数 1

分类专栏：人工智能文章标签： python

于 2025-01-14 18:22:35 首次发布

本文链接：https://blog.csdn.net/changqing1990/article/details/145145020

版权

人工智能专栏收录该内容

4 篇文章

订阅专栏

                    
                    推理框架模型CPUGPU离线 QPS单流延迟 (毫秒)
onnxruntimemobilenet90KVCTO1WW/Intel® Core™ i7-10700 CPU @ 2.90GHzNA3.0811.8
onnxruntimeretinanet-990KVCTO1WW/Intel® Core™ i7-10700 CPU @ 2.90GHzNA3.08102.92
onnxruntimemobilenetITB-18D-AGX-ORIN ARM64Jetson GPU1.894.8

推理框架	模型	CPU	GPU	离线 QPS	单流延迟 (毫秒)
onnxruntime	mobilenet	90KVCTO1WW/Intel® Core™ i7-10700 CPU @ 2.90GHz	NA	3.08	11.8
onnxruntime	retinanet-9	90KVCTO1WW/Intel® Core™ i7-10700 CPU @ 2.90GHz	NA	3.08	102.92
onnxruntime	mobilenet	ITB-18D-AGX-ORIN ARM64	Jetson GPU	1.89	4.8