Pytorch：flatten()函数，压缩tensor的维度

最新推荐文章于 2024-06-04 17:56:03 发布
最新推荐文章于 2024-06-04 17:56:03 发布
阅读量5k 收藏 6
点赞数
分类专栏： PyTorch 文章标签： 人工智能 深度学习 算法 python pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_38372240/article/details/107586481
版权

前言

有时候会面对需要把数据进行维度转换的情况，
比如本来512*N*W*H（BNWH)的维度需要转换为512*(N*W*H)的一个output和(N*W*H)*512的一个output，然后将两者进行矩阵乘法。
即（NHW)*512 X 512*(NWH) = (NHW)*(NHW)，
然后再和初始的512*N*W*H进行矩阵乘法，结果仍旧是512*N*W*H，常用在一些non-local conv block中。

代码

import torch
import numpy as np

input = torch.randn(2,3,4,4
最低0.47元/天 解锁文章
全员鳄鱼
关注
  • 0
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
torch.tensor函数常用操作
Ada的信徒
01-11 346
深度学习中常用的torch.tensor函数
Pytorch基础：Tensor的flatten方法
前进，才知道自己的渺小
03-08 1389
在Pytorch中，flatten是Tensor的一个重要方法，同时它也是一个torch模块中的一个函数，它们的语法如下所示。
PyTorch：tensor-张量维度操作（拼接、维度扩展、压缩、转置、重复……）
皮皮blog
10-22 5万+
张量维度操作（拼接、维度扩展、压缩、转置、重复……）-柚子皮- torch.cat(seq, dim=0, out=None) 多个tensor拼接 在指定的维度dim上对序列seq进行连接操作。 参数： seq (sequence of Tensors) - Python序列或相同类型的张量序列 dim (int, optional) - 沿着此维度连接张量 out (Tensor, optional) - 输出参数 例子： x = torch.randn(2, 3) x -0.5866 -0.
PyTorch中的flatten+transpose函数说明
ym62033的博客
03-29 344
a.flatten(m)，这个意思是将a这个tensor，从第m(m取值从0开始)维度开始堆叠，一直堆叠到最后一个维度。flatten函数就是对tensor类型进行扁平化处理，就是在不同维度上进行堆叠操作。
Pytorch常用函数-Flatten
helloworld_Fly的博客
06-02 4253
flatten的中文含义为“扁平化”，具体怎么理解呢？我们可以尝试这么理解，假设你的数据为1维数据，那么这个数据天然就已经扁平化了，如果是2维数据，那么扁平化就是将2维数据变为1维数据，如果是3维数据，那么就要根据你自己所选择的“扁平化程度”来进行操作，假设需要全部扁平化，那么就直接将3维数据变为1维数据，如果只需要部分扁平化，那么有一维的数据不会进行扁平操作。torch.flatten()方法有三个参数，分别: 部分扁平化 总结 torch.flatten(x, start_dim, end_di
Pytorch常用函数用法归纳:Tensor张量之间的计算
最新发布
m0_50460160的博客
06-04 520
【代码】Pytorch常用函数用法归纳:Tensor张量之间的计算。
Pytorch阅读文档之flatten函数
热门推荐
GhostintheCode的博客
10-13 5万+
pytorch中flatten函数 torch.flatten() #展平一个连续范围的维度，输出类型为Tensor torch.flatten(input, start_dim=0, end_dim=-1) → Tensor # Parameters：input (Tensor) – 输入为Tensor #start_dim (int) – 展平的开始维度 #end_dim (int) – 展...
Pytorch中常见调整维度函数总结
WSSZJZ的博客
03-02 803
函数接受一个或多个参数作为新的形状，并返回一个具有新形状的张量，同时保持张量中的数据不变。这意味着，对于一个具有 12 个元素的张量，你可以将其视图调整为一个形状为 (3, 4) 的二维张量，或者是一个形状为 (2, 2, 3) 的三维张量，只要满足新形状的总元素数量等于原始张量的元素数量。是一个用于改变张量形状的函数，它可以用来调整张量的维度和大小，但不会改变张量中元素的数量。方法来将张量（可以是多维的）平铺为一个一维张量。例如，如果有一个形状为 (3, 4) 的张量，使用。方法将其平铺为一个一维张量。
PyTorch中flatten() 函数的用法
m0_62278731的博客
11-07 639
此时x的维度是2×3×4=24，x = flatten(0) 和 x = flatten()的结果相同。被设置为0，表示从第一个维度（通常是批大小）开始展平。如果设置为其他整数值，则会从指定的维度开始展平。1.start_dim（可选参数）：指定从哪个维度开始展平张量。被设置为-1，表示展平直到最后一个维度。如果设置为其他整数值，则会在指定的维度结束展平。此时x是从1维度开始展开，最后的x维度为（2，3×4），也就是（2，12）(1). 首先随机定义一个满足正态分布的（2，3，4）的数据x。
Pytorch 扩展Tensor维度、压缩Tensor维度的方法
09-16
### PyTorch中扩展与压缩Tensor维度的方法 在深度学习领域，特别是在使用PyTorch进行模型训练时，经常需要处理不同维度的Tensor。有时，原始数据的维度可能不符合模型输入的要求，这就需要我们对Tensor的维度进行...
PyTorch中Tensor的维度变换实现
09-18
在PyTorch中，Tensor是核心数据结构，用于表示多维数组...无论是查看、变形、压缩还是解压缩Tensor的维度，这些操作都是PyTorch中处理数据的关键步骤。通过熟练运用这些方法，开发者可以更加流畅地编写模型和优化代码。
深度学习框架PyTorch：入门与实践_高清1
08-04
《深度学习框架PyTorch：入门与实践》是一本针对PyTorch这一深度学习框架的教程，旨在帮助读者快速掌握PyTorch的基础知识并实践应用。PyTorch因其简洁的设计、直观的接口、高效的执行速度和高度的灵活性，自2017年...
pytorch 获取tensor维度信息示例
09-18
本篇文章将深入探讨如何在PyTorch中获取`Tensor`的维度信息，并提供相关的示例。 首先，我们需要导入必要的库： ```python import torch from torch.autograd import Variable ``` 在PyTorch中，`torch.Size`对象...
神经网络调参：loss震荡过于明显/loss剧烈抖动
鳄鱼的博客
09-24 5万+
前言 在训练网络的时候，常常会出现loss出现非常明显的剧烈抖动情况，虽然大多数情况可以继续训练下去，但是实际上还是预示着问题存在。而且，有不同维度的问题，这也需要不同的解决方法，但是具体究竟是哪一种，还得具体情况具体分析。 无过拟合 是否找到合适的loss函数：在深度学习里面，不同的loss针对的任务是有不同的，有些loss函数比较通用例如L1/L2等，而如perceptual loss则比较适合在图像恢复/生成领域的任务上。当loss出现问题的适合，想一想，是不是loss设置的有问题，别人在此领域的任
Pytorch：关于epoch、batch_size和batch_idx（iteration ）的一些理解（深度学习）
鳄鱼的博客
07-15 1万+
前言 在新手搭建神经网络时，常弄不清epoch、batch_size、iteration和batch_idx（iteration ）的区别。 这里以torchvision自带的CIFAR10数据集来举例，通过代码操作来直观地对这几个概念进行理解。 声明，这里batch_idx==iteration。 数据准备 首先加载数据集： import torch import torch.nn as nn import torchvision train_dataset = torchvision.datasets
PyTorch：重写/改写Dataset并载入Dataloader
鳄鱼的博客
07-13 5917
前言 众所周知，Dataset和Dataloder是pytorch中进行数据载入的部件。必须将数据载入后，再进行深度学习模型的训练。在pytorch的一些案例教学中，常使用torchvision.datasets自带的MNIST、CIFAR-10数据集，一般流程为： # 下载并存放数据集 train_dataset = torchvision.datasets.CIFAR10(root="数据集存放位置",download=True) # load数据 train_loader = torch.utils.
Pytorch学习：图像分类入门！使用CIFAR-10数据集，完整地创建深度神经网络进行训练、测试并保存和读取
鳄鱼的博客
07-16 4185
1. 导入Pytorch以及相关包 本文使用pytorch=1.5.1+cuda10.1 import torch import torch.nn as nn import torch.nn.functional as F import torchvision import torchvision.transforms as transforms import torch.optim as optim import time,os torch.nn是 torch.nn.functional中 torchv
Pytorch：能够减少计算量的非对称卷积（asymmetric convolution）的pytorch实现
鳄鱼的博客
07-26 3658
前言 在实际应用中，我们可能会遇到使用非对称卷积的情况，如谷歌的inceptionv3v4中就有使用1x7，7x1的卷积，这和我们平时使用的3x3卷积不同，是不对称的。 计算量 相比直接进行卷积，非对称卷积能够减少计算量。原来是 n×n 次乘法，改了以后，变成了 2×n 次乘法了，n越大，运算量减少的越多。 假设有一个5x5大小的特征图，使用3x3的卷积，不进行padding（即valid），步长默认为1。 计算量： 先进行3x1卷积核的滑动，横向滑动3次，纵向滑动5次，每一次计算量为3，计算量为（3x5)
pytorch flatten函数
04-30
PyTorch中的flatten函数可以将输入张量转换为一个1维张量，即将其所有维度展平为一个维度。该函数的语法如下： ```python output_tensor = torch.flatten(input_tensor, start_dim=0, end_dim=-1) ``` 其中，`input_tensor`为输入张量，`start_dim`和`end_dim`是可选参数，表示从哪个维度开始展平和展平到哪个维度。默认情况下，`start_dim`为0，`end_dim`为-1，即从第0维展平到最后一维。 举个例子，假设有一个形状为(2, 3, 4)的张量，我们可以使用flatten函数将其展平为一个形状为(24,)的1维张量： ```python import torch x = torch.randn(2, 3, 4) y = torch.flatten(x) print(x.shape) # (2, 3, 4) print(y.shape) # (24,) ``` 注意，展平后的张量与输入张量共享数据，即它们对应着相同的内存空间，所以对展平后的张量的修改会影响原始张量。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值