MNIST中的每张训练图片分辨率为 28x28, 被存储为 784(28x28) 的一行。我们输出看一下数据,首先需要转换回 28x28的图像
torch.randn和torch.rand有什么区别
torch.rand和torch.randn有什么区别? y = torch.rand(5,3) y=torch.randn(5,3)
一个均匀分布,一个是标准正态分布。
什么是卷积
简单来说,卷积(或内积)就是一种先把对应位置相乘然后再把结果相加的运算。卷积运算一个重要的特点就是,通过卷积运算,可以使原信号特征增强,并且降低噪音.
神经元
对于每一个神经元,都包含以下几部分:
x:表示输入
w:表示权重
θ:表示偏置
∑wx:表示卷积(内积)
f :表示激活函数
o:表示输出
激活函数
RELU层其实是激活层(relu只是激活函数的一种,sigmoid/tanh比较常见于全连接层,relu常见于卷积层)
卷积神经网络
卷积神经网络是一个多层的神经网络,每层由多个二维平面(特征映射)组成,而每个平面由多个独立神经元组成。
卷积神经网络是为识别二维形状而特殊设计的一个多层感知器,这种网络结构对二维形状的平移、比例缩放、倾斜或者共他形式的变形具有高度不变性。
卷积神经网络是前馈型网络。