独家 | 一文读懂人工神经网络学习原理

原文标题： How do Artificial Neural Networks learn?

作者：rubikscode

翻译：和中华

校对：李海明

本文约3000字，建议阅读10分钟。
本文对人工神经网络是如何学习的进行了简单介绍，使读者可以对神经网络的运行机制有更进一步的认识。

在之前的博客中，我们谈到了关于人工神经网络(ANN)的一些非常有趣的主题。其中介绍了人工神经网络的基本结构以及一些最常用的激活函数。然而，我们并未提及人工神经网络最重要的方面 ---- 学习。这种系统最大的威力在于，它们可以像人类一样，一旦在训练过程中熟悉了某种问题，随后便可以解决同类型的问题。在深入这个令人兴奋的主题之前，我们先来快速回顾一下人工神经网络的一些最重要的组件以及其架构。

 

人工神经网络中最小也是最重要的单元叫神经元。与生物神经系统类似，这些神经元也互相连接并具有强大的处理能力。一般而言，ANNs试图复现真实大脑的行为和过程，这也是为什么他们的结构是基于生物学观察而建模的。人造神经元也是一样的，它的结构令人想起真正的神经元结构。

 

每个神经元都有输入连接和输出连接。这些连接模拟了大脑中突触的行为。与大脑中突触传递信号的方式相同——信号从一个神经元传递到另一个神经元，这些连接也在人造神经元之间传递信息。每一个连接都有权重，这意味着发送到每个连接的值要乘以这个因子。再次强调，这种模式是从大脑突触得到的启发，权重实际上模拟了生物神经元之间传递的神经递质的数量。所以，如果某个连接重要，那么它将具有比那些不重要的连接更大的权重值。

 

由于可能有许多值进入一个神经元，每个神经元便有一个所谓的输入函数。通常，连接的输入值都会被加权求和。然后该值被传递给激活函数，激活函数的作用是计算出是否将一些信号发送到该神经元的输出。之前的文章对这方面有更具体的介绍。

 

我们可以（并且通常会）在每个ANN中有多层神经元，就如下图所示：