Nvidia TensorRT系列01-基本介绍

Nvidia TensorRT系列01-基本介绍

鉴于Nvidia的在深度学习上已经非常完善，即使有其他的芯片或者是框架，基本思路也都是要借鉴Nvidia的开发的，好比虽然特斯拉网上很多骂声，但是大多数国内的车企还是在发布会上狠狠对比，又好比手机发布会狠狠对比Apple，好的东西总是值得大家去借鉴的，对于小公司而言，使用其他公司的生态框架硬件成本看起来很低，但是由于生态和社区一般，实际上运维起来的成本又很高。所以，希望通过更新这个系列来帮助自己对Nvidia的TensorRT进行一些基础的学习。其中大部分文字借鉴了英文原始的开发文档，也是主要方便对于英文阅读文档有困难的小伙伴能有一些小小的帮助。

NVIDIA TensorRT开发者指南展示了如何使用C++和Python API来实现最常见的深度学习层。它向您展示了如何获取使用深度学习框架构建的现有模型，并使用提供的解析器构建TensorRT引擎。开发者指南还为常见用户任务提供了分步说明，例如创建TensorRT网络定义、调用TensorRT构建器、序列化和反序列化，以及如何使用C++或Python API向引擎提供数据并执行推理；

For previously released TensorRT documentation, refer to the TensorRT Archives.

安装指南： N