立即学习:https://edu.csdn.net/course/play/28807/427189?utm_source=blogtoedu
模型评估与硬件选择
准确性(Accuary):不是模型实际部署的关键因素
吞吐量(throughput):神经网络在一秒钟可以处理的帧数。FPS 每秒吞吐量
延迟(latency):从数据开始分析到结果可以被读取的时间,以秒为单位。反映从事件发生到实际物体被检测出来之间的时长。
效率(efficiency):成本考虑
影响性能的因素:
1.神经网络本身拓扑或架构
2.目标设备的选择
3.模型精度(优势:为特定设备选择最佳数据类型)
4.批处理
5.异步执行
6.cpu的吞吐量模型