Pytorch学习笔记(2): 一维卷积, RNN, LSTM详解

一维卷积

torch.nn.Conv1d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True, padding_mode=‘zeros’)

这个函数用来对输入张量做一维卷积

• in_channel和out_channel是卷积核个数

• kernel_size是卷积核的大小

• stride是卷积核移动步长, padding是否对输入张量补0

现在我有一个音频的梅尔频谱数据输入,一个batch为十张频谱, 一张频谱大小为129帧, 频率幅度为128,这个张量表示为(10, 128, 129),

import torch.nn as nn
import torch

input = torch.randn(10, 128, 129)
m = nn.Conv1d(128, 128, kernel_size=4, padding=2)
out = m(input)
print(out.size()) #(10, 128, 130)

可以看出来上面这个函数只在频谱的时域上进行一维卷积,卷积核大小为4帧,在频域上没有卷积.为什么输出是130,反而多了一帧呢?

这是因为这个一维卷积函数

• Input(batch_size, Channel_input, length_input)

• Output(batch_size, Channel_output, length_output)

$$L_{out}=\lfloor \frac{L_{in}+2\times padding-dilation\times (kernel\_size-1)-1}{stride}+1\rfloor =\frac{129+2\times 2-1\times (4-1)-1}{1}+1=130$$

RNN

结构

函数

torch.nn.RNN(*args, **kwargs)

这个函数对输入的的sequence施加一个带tanh或者Relu的RNN.对输入的sequence每一个元素,每一层都施加如下计算:

• h t = t a n h ( W h i x t + b h i + W h h h t − 1 + b h h ) ​ h_t=tanh(W_{hi}xt+b_{hi}+W_{hh}h_{t-1}+b_{hh})​ ht​=tanh(Whi​xt+bhi​+Whh​ht−1​+b