WhateverYoung的专栏

TensorRT NVidia公司提供的前向框架（API形式提供），主要是C++接口。可以充分发挥GPU的计算能力，提高吞吐和时延。 模型转换： - API自定义模型，要熟悉训练使用框架的格式以及TRT中layer对于权重格式的要求，把训练的权重转化并赋值给TRT layer - CaffeParser，从Caffe模型导出 - UffParser，从uff格式模型导出 - Onnx...

What is TensorRT ? What is performance Gap between Pytorch/tensorflow/caffe and TensorRT ? Why TensorRT fast ? How fast about TensorRT ? How to make use of TRT ? What is TensorRT ? 英伟达为了让用户更好的使用GPU，...