计算机视觉+人工智能面试笔试总结——模型压缩部署
模型部署首先要涉及到模型的转换,转换的工程随着对应平台的不同而不同,现阶段部署的平台分为云 `GPU` 平台、手机 `ARM` 和其他嵌入式端侧平台(海思 `3519`、安霸 `CV22`、地平线 `X3`、英伟达 `jetson tx2` 等)。对于模型部署/移植工程师来说,虽然模型优化、量化等是更有挑战性和技术性的知识,但是大多数时候我们往往是在做解决模型无法在端侧部署的问题,包括但不限于:实现新 `OP`、修改不兼容的属性、修改不兼容的权重形状等。......
复制链接