![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Transformer
文章平均质量分 55
apodxxx
深度学习已弃坑,不再更新和解答相关问题,非常抱歉
展开
-
swin-transformer详解及代码复现
1. swin-transformer网络结构实际上,我们在进行代码复现时应该是下图,接下来我们根据下面的图片进行分段实现2. Patch Partition & Patch Embedding首先将图片输入到Patch Partition模块中进行分块,即每4x4相邻的像素为一个Patch,然后在channel方向展平(flatten)。假设输入的是RGB三通道图片,那么每个patch就有4x4=16个像素,然后每个像素有R、G、B三个值所以展平后是16x3=48,所以通过Patc原创 2022-04-03 18:29:58 · 15779 阅读 · 10 评论 -
ReLU等激活函数对tensor的一点小提示
a = torch.tensor([[2,-1],[3,4]])nn.ReLU()(a)#上面的代码等同于m = nn.ReLU()m(a)原创 2021-12-03 20:52:48 · 429 阅读 · 0 评论