学习笔记(07):英特尔®OpenVINO™工具套件中级课程-模型参数选择与推理模式设置...

立即学习:https://edu.csdn.net/course/play/28807/427189?utm_source=blogtoedu

模型评估与硬件选择

准确性（Accuary）：不是模型实际部署的关键因素

吞吐量（throughput）：神经网络在一秒钟可以处理的帧数。FPS  每秒吞吐量

延迟（latency）：从数据开始分析到结果可以被读取的时间，以秒为单位。反映从事件发生到实际物体被检测出来之间的时长。

效率（efficiency）：成本考虑

 

影响性能的因素：

1.神经网络本身拓扑或架构

2.目标设备的选择

3.模型精度（优势：为特定设备选择最佳数据类型）

4.批处理

5.异步执行

6.cpu的吞吐量模型