用Excel理解神经网络

本公众号已经改版,推出了线上线下课程,并且推出免费2个月广告服务业界优质产品。



为了简化卷积神经网络这个概念,本文将试着基于excel针对在开发深度学习模型过程中所做的运算进行解释。

为了简化卷积神经网络这个概念,我将试着针对在开发深度学习模型过程中所做的运算进行解释。要查阅这方面更多的内容,我建议在线搜索,因为网上的信息很多很多(像这样视频)。本文的这个解释来源于fast.ai仓库。

这个简单的神经网络图片基本上代表了本案例中发生的事情。


简单的神经网络

输入层

这个数字7的图像数据来自MNIST数据集,我们假设你正在使用预训练模型进行分类。


你可以在数据集中看到更大的数字7

隐藏层 1

隐藏层用于对输入进行转换,以便从输出层的数据中识别出更复杂的特征,从而做出更好的评估。

两个过滤器将呈现出不同的形状:第一个过滤器用于检测水平边缘,第二个过滤器检测垂直边缘。这个3x3的过滤器被称为卷积核。下图中的filter 1被激活用于检测输入中的水平边缘。Conv1展示了将输入分别乘以两个3x3卷积核之后的激活情况。下面的图片更形象地展示了这个过程。

虽然现在是以二维数组的形式来展示的,但它们其实应该被称为张量堆叠。每个矩阵表示张量中的一个切片。这些基本上都是线性代数中的行操作。

=SUM(F11:H13*$AD$11:$AF$13) 则是进行卷积运算。

该求和运算将根据输入中特定的3×3的部分计算得到激活数字3。


这代表了一个单一的层。

激活函数

接下来,我们将把非线性单元RELU作为激活函数来消除负数。在接下来的图片中,我们可以看到负数消失了。

隐藏层 2

接下来,我们要做另一个卷积。 Conv2将成为下一个隐藏层。我们要用Conv1同时乘以两个矩阵并取乘积之和。这里的卷积核用一个2X3X3的张量来表示。

在使用了RELU之后,我们现在创建了第二层。


第1层和第2层

最大池化

最大池化是通过对Conv2取2x2部分的最大值来得到分辨率为原始矩阵宽度和高度的一半的图像。在Maxpool矩阵中,我们可以看到Conv2的2x2部分的最大值是33。池的计算速度比卷积更快。此外,它具有平移不变性。

输出层

接下来,我们通过给Maxpool中的所有激活函数给予一个权重来建立完全连接层。这是通过矩阵乘法来实现的。在Excel中,我们将使用SUMPRODUCT函数。因此,不像以前那样需要在卷积层中解析每个部分,完全连接层将对由卷积层提取的特征执行分类,并通过最大池化层进行降采样。

文章原标题《Understanding Neural Networks Using Excel》,作者: Jean-Carlos Paredes,译者:夏天,审校:主题曲。

文章为简译,更为详细的内容请查看原文。


可添加本人微信号fpwhljy或扫码一下公众号:可进技术和行业群交流。



  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值