视觉感知未来，高德数据采集模型部署实践

1. 导读

作为DAU过亿的国民出行服务平台，高德地图每天为用户提供海量的检索、定位和导航服务，实现这些服务需要有精准的道路信息，比如电子眼位置、路况信息、交通标识位置信息等。读者是否会好奇，高德是如何感知到现实世界的道路信息，并提供这些数据给用户呢？

事实上，我们有很多的方法将现实世界的道路要素采集回收，并更新到高德地图App上。其中一种非常重要的方法是利用计算机视觉的手段，将视觉算法部署到客户端，通过对图片的检测识别，快速将道路的信息回收。

为了低成本，高实时性地实现道路要素回收，我们借助MNN引擎(一个轻量级的深度神经网络推理引擎)，将卷积神经网络模型部署到客户端，在客户端进行端侧的模型推理，从而完成在计算能力低，内存小的客户端进行道路要素采集的任务。

传统的CNN(卷积神经网络)计算量非常大，且业务场景需要部署多个模型。如何在低性能的设备上部署多个模型，并在不影响实时性的情况下保证应用的"小而优"是一个非常大的挑战。本文将分享利用MNN引擎在低性能设备上部署深度学习应用的实战经验。

2. 部署

2.1 背景介绍

如Figure2.1.1所示，业务背景是将道路要素识别相关的CNN模型部署到客户端，在端侧进行模型推理，并提取道路要素的位置和矢量等信息。

由于该业务场景的需要，目前端上需同时部署10+甚至更多的模型，以满足更多的不同道路要素的信息提取需要，对于低性能设备来说是非常大的挑战。

Figure 2.1.1 高德数据采集

为了达到应用的"小而优"，MNN引擎部署模型的过程中遇到了很多问题和挑战。下面就这些问题和挑战分享一些经验和解决办法。

2.2 MNN部署

2.2.1 内存占用

应用运行内存对于开发者来说是始终绕不开的话题，而模型推理产生的内存在应用运行内存中占有很大的比例。因此，为了使模型推理内存尽可能小，在模型部署的过程中，作为开发者必须清楚模型运行产生内存的主要来源。根据我们的部署经验，部署单模型的过程中，内存主要来源于以下四个方面：

Figure 2.2.1 单模型部署内存占用

Model