TensorRT笔记(10)使用循环

9.使用循环

NVIDIA®TensorRT™支持类似循环的结构，这对于循环网络很有用。 TensorRT循环支持扫描输入张量，张量的递归定义以及“扫描输出”和“最终值”输出。

9.1 定义循环

循环由循环边界层定义。

• ITripLimitLayer指定循环迭代多少次。
• IIteratorLayer使循环可以在张量上迭代。
• IRecurrenceLayer指定一个循环定义。
• ILoopOutputLayer指定循环的输出。

每个边界层都继承自类ILoopBoundaryLayer，该类具有用于获取其关联ILoop的方法getLoop（）。 ILoop对象标识循环。具有相同ILoop的所有循环边界层都属于该循环。

图5描述了边界处的循环和数据流的结构。循环不变张量可以直接在循环内部使用，如FooLayer所示。
图5. TensorRT循环由循环边界层设置。数据流只能通过ILoopOutputLayer离开循环。唯一允许的后端是IRecurrenceLayer的第二个输入。

一个循环可以具有多个IIteratorLayer，IRecurrenceLayer和ILoopOutputLayer，以及最多两个ITripLimitLayers，如后面所述。 没有ILoopOutputLay