《Grokking Deep Learning》 如何描绘神经网络

如何描绘神经网络

相关概述

这是向更高级的神经网络健康前进的关键。

在 10，000 英尺的高度，这是所有神经网络的功能。假设神经网络实际上只是一系列由层连接的矩阵，让我们稍微放大一下，考虑一下任何特定的权重矩阵都在做什么。

当您只有两个图层(输入和输出)时，权重矩阵知道输出图层应该基于输出数据集。它寻找输入和输出数据集之间的相关性，因为它们是在输入和输出层捕获的。

当全局相关性告诉每一层它应该是什么时，局部相关性可以局部优化权重。当最后一层的一个神经元说，“我需要再高一点，”它接着告诉紧挨着它的前一层的所有神经元，“嘿，前一层，给我发送更高的信号。”然后他们告诉他们前面的神经元，“嘿。给我们发送更高的信号。”这就像一个巨大的电话游戏——在游戏结束时，每一层都知道它的哪一个神经元需要更高和更低，然后本地相关汇总接管，相应地 更新权重。

简化可视化

先前过于复杂的可视化在简化思维的同时，让我们也简化可视化。

之前的比较复杂的网格表示方法

权重矩阵是从一个节点到另一个节点的直线，向量是节点的条带。
对复杂的连接表示法进行简化。
实际上我们这种表示方式的本质是线性代数的方式，每一个圆形代表一个矩阵/向量的值&#