【分享NVIDIA GTC 23大会干货】在 GPU 上使用 Video Codec SDK，CV-CUDA 和 TensorRT 加速现代云上视频应用 [SE51229]

2301_77387464

已于 2023-04-02 12:35:31 修改

阅读量498

点赞数 1

文章标签：视频编解码 python 人工智能目标检测

于 2023-04-02 12:29:35 首次发布

本文链接：https://blog.csdn.net/2301_77387464/article/details/129908328

版权

本文探讨了NVIDIA提供的视频处理工具，如Video Codec SDK、CV-CUDA和TensorRT，如何在GPU上加速现代云视频应用。通过全GPU视频加速流水线，减少了CPU负载，提升了处理效率。Decinfer的引入进一步优化了GPU利用率，实现了性能提升。

摘要由CSDN通过智能技术生成

在 GPU 上使用 Video Codec SDK，CV-CUDA 和 TensorRT 加速现代云上视频应用

前言
基于现代ＡＩ的视频流水线架构与运用场景
NVIDIA 视频处理的工具集
全GPU视频加速流水线的最佳实践

本文视频来源为NVIDIA ＧＴＣ大会详细链接如下：https://register.nvidia.cn/flow/nvidia/gtcspring2023/registrationcn/page/sessioncatalog/session/1666233352698001A01c

前言

人工智能技术广泛应用于云和 on-prem 数据中心的短视频和直播应用当中，覆盖了超分辨率，直播视频特效，旧视频修复，自动像素化，视频内容理解等。然而，当部署这些应用程序时，传统视频处理管线混合了 CPU 和 GPU 负载，其性能将受到以下因素的限制: 1) h2d 和 d2h 内存拷贝，2) CPU 上的前处理和后处理，3) CPU 上的视频编解码，4) 未充分优化的 AI 推理框架。

针对以上限制， NVIDIA 提供了丰富的视频处理相关的 SDK，例如用于视频编解码的 Video Codec SDK，用于图像前处理/后处理的 CV-CUDA，以及用于加速 DL 模型推理的 TensorRT。如何在实践中高效地在云上使用这些工具是搭建基于人工智能的新式视频处理管线的关键。