![](https://img-blog.csdnimg.cn/20201014180756930.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
pytorch
MiHao_YOUNG
这个作者很懒,什么都没留下…
展开
-
Pytorch学习之VisionTransformer图片位置编码实现
Pytorch学习之图片位置编码前提在VisionTransformer模型中,使用一个二维的卷积核,将图片展开成一个patch序列patch_embed = nn.Conv2d(in_channels=in_chans, out_channels=embed_dim, kernel_size=patch_size, stride=patch_size)通过训练一个位置编码参数来学习记录图片的位置信息num_patches为图片展开的patch数目,加一是包含了cls_token,详细请阅读Vi原创 2021-09-05 16:30:54 · 3496 阅读 · 2 评论 -
Pytorch学习系列之矩阵运算
Pytorch矩阵运算此文章随着博主的学习而持续更新主要是总结在阅读代码时遇到的tensor计算问题对角矩阵获取矩阵对角元素x = torch.randn(3, 3)y = torch.diagonal(x)print(y)"""tensor([[ 0.7220, -1.8137, 0.5217], [ 0.5010, -0.0773, 0.4702], [ 0.3320, 0.0329, 1.1394]]) tensor([ 0原创 2021-09-03 19:35:46 · 567 阅读 · 0 评论