深度学习模型部署

1.模型应用场景

我只在PC电脑和嵌入式板卡上部署

2.部署环境

包括原生态darknet，原生态caffe,tensorflow，onnx，opencv，trt等环境

3.选择方式

        之前是在PC电脑上运行程序，经常使用的是darknet和caffe,环境部署简单，前面的文章有提到如何安装环境。

        后来用opencv的dnn模块，发现非常方便，可以加载yolo，caffe，tensorflow部分模型，onnx部分模型，所以碰到一些模型优先会想到opencv来加载调用，甚至不需要做模型转换，非常方便。

        现在在jetson板子上加载模型，加载的tf2.0的模型，opencv没办法直接加载，需要做模型转换，对于基础类网络结果如resnet,ssd,mobilenet,maskrcnn等可以转成tf1.0的模型，然后再用opencv加载，也很方便。但是有些模型没办法转换，比如ssd_efficient等，我是没有转换成功。jetson上直接用tf2.0的环境也可以，但是也有问题，比如加载save_model模型时间比较长，有人说是驱动版本问题，这个我没有去试，有人说重装protobuf，对我来说没有用，所以想到tf2.0=》onnx=>TRT

4.TF2转onnx

        参考官网教程就好https://github.com/onnx/tensorflow-onnx，有一点儿需要注意的是，

<