《Grokking Deep Learning》卷积神经网络简介

关于边和角的神经学习:卷积神经网络简介

一、在多个地方重复使用weights

如果需要在多个位置检测相同的特征，请使用相同的权重！

神经网络最大的挑战是过度拟合，当神经网络记忆一个数据集，而不是学习有用的抽象，概括到看不见的数据。换句话说，神经网络学会了根据数据集中的噪声进行预测，而不是依靠基本信号。

过度拟合通常是由于参数过多（相比数据集大小）
过拟合涉及模型中权重的数量和它必须学习这些权重的数据点的数量之间的比率。

结构是当你有选择地选择在神经网络中为多种目的重用权重时，因为我们认为需要在多个地方检测到相同的模式。正如您将看到的，这可以显著减少过度拟合并导致更精确的模型，因为它降低了权重与数据 的比率。

二、卷积层( convolutional layer)

许多非常小的线性层在每个位置重复使用，而不是一个大的。
卷积层背后的核心思想是，不是有一个从每个输入到每个输出的大而密集的线性层，而是有许多非常小的线性层，通常只有不到 25 个输入和一个输出，可以在每个输入位置使用。每个迷你层都被称为卷积内核，但它实际上只不过是一个只有少量输入和单一输出的婴儿线性层。

这里