相关参考: 极智AI | TensorRT8 自定义算子 Plugin 实现方法 - 知乎欢迎关注我,获取我的更多笔记分享 O_o >_< o_O O_o ~_~ o_O 大家好,我是极智视界,本文介绍一下 TensorRT8 自定义算子 Plugin 实现方法。 TensorRT8 中对于 Plugin 的开发做了较大变更,这里介绍一下。 在…https://zhuanlan.zhihu.com/p/458994509 TensorRT Plugin 介绍 - 知乎对于 TRT 没有支持的算子,可以:1、使用 plugin。2、使用已有的基础算子拼接。 简单网络可以理解为网络里的算子都是规整算子,如: conv、softmax、relu 等,组成的网络结构也很规整。 复杂网络可以理解为网络的…https://zhuanlan.zhihu.com/p/567244140