Hai2342的博客

原创 NVIDIA实验团队新作:VIT高性能即插即用Encoder-FasterVIT

通过两个步长为2的3*3的连续卷积实现对输入图像的Overlapping patches embedding如图3所示，这些卷积层的作用是将输入图像中的像素映射到一个D维的嵌入空间，然后通过批归一化（提高模型训练稳定性）和ReLU函数（保持非线性特征）的处理。3.随着网络层数的增加，其拥有了更多的通道数量，此时需要引入更具表达力的操作如层归一化和注意力机制等，这些操作可以提升网络的表达能力，并且相对于计算量来说，对计算吞吐量的影响较小（可以通过并行计算来处理多位置或多通道的关系）。