TensorRT
我为什么这么菜.
这个作者很懒,什么都没留下…
展开
-
jetson tensorrt codeblocks配置
原创 2020-11-28 17:00:11 · 129 阅读 · 0 评论 -
TensorRT C++ 序列化serialize / 反序列化deserialize
序列化Engine// serialize the engine, then close everything downconst std::string engine_file{ "tensorrt_mnist.trt" };nvinfer1::IHostMemory* gieModelStream = mEngine->serialize(); // GIE modelfprintf(stdout, "allocate memory size: %d bytes\n", gieModelS原创 2020-11-19 23:24:16 · 2319 阅读 · 5 评论 -
Tensor RT C++ 使用流程
Tensor RT C++ 使用总体流程提供包含权重和网络结构的文件,如.onnx,相当于构建生产流水线所需的参数图纸Creating a TensorRT network definition from your model盖一个工厂(builder),放置生产流水线(engine)用来生产,流水线是加速网络,原料是输入,生产出结果Invoking the TensorRT builder to create an optimized runtime engine from the networ原创 2020-11-18 17:28:07 · 1447 阅读 · 1 评论