模型部署
bleedingfight
用最少的资源搬最多的砖!
展开
-
Protobuf Message的读写
Protobuf文件 经常又这样的需求,自定义的protobuf文件,然后需要读取protobuf的二进制文件或者是文本文件以用来解析里面的参数,这样即可以通过protobuf文件,像使用json解析一样解析或者写入数据。例如为了更加方便的进行模型的推理:我在这里定义了模型的存储路径,模型文件的名称,测试图片的存放位置,测试图像的名称。实现这一需求的步骤如下: 创建protobuf消息 syntax = "proto3"; package inference; message DataConfig {原创 2021-03-01 09:48:40 · 1169 阅读 · 12 评论 -
TensorRT安装
安装TensorRT TensorRT安装这里只展示tar包。安装环境: CUDA 10.0,cuDNN 7.5 ubuntu 18.0.4 下载TensorRT-5.1.2.2.Ubuntu-14.04.5.x86_64-gnu.cuda-10.0.cudnn7.5.tar.gz 解压到指定目录sudo tar xzvf TensorRT-5.1.2.2.Ubuntu-14.04...原创 2019-03-29 16:41:18 · 1003 阅读 · 0 评论