立即学习:https://edu.csdn.net/course/play/27685/385719?utm_source=blogtoedu
当前系统已经是异构系统了,第一步:寻找模型,需要基于深度学习的模型来执行分析任务,比如分割、检测等,这个模型通常在另一个程序中进行训练,比如tensorflow或caffee等训练框架;需要准备这个模型做推理,通常模型在云做训练,模型通常采用浮点格式,有时需要转换数据格式从而在整数或其他格式的地方运行。
性能指标评测:每秒执行多少次推理,可以给多种数据格式做评测
在AI产品落地前,必须经过性能测试,以及实际的设备测试,来保证AI产品满足所需求的性能。因为实际落地情况和理论性能都会存在一定差距,也许是电压问题或者传输的带宽都会影响最终产品的性能,所以建议每一个产品都需要在最后做一个落地测试