神经网络 - 前馈神经网络概要简述

神经网络 - 前馈神经网络

人工神经网络是由大量处理单元互联组成的非线性、自适应信息处理系统。它是在现代神经科学研究成果的基础上提出的，试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理。神经网络是个非常大的科目。今天我们就介绍下最简单的模型前馈神经网络。

从神经元细胞说起

人的大脑拥有数以亿计的神经元细胞。他们彼此互相相连，来给大脑传递信息，帮助人类做出决策，分类事物，以及各种运算等。
神经元细胞的结构，由中间一个细胞体，一头长出许多的用来接收其他的神经元传递过来的信号的树突，以及另一头长出的一根长长的用来给别的神经元传递信号的轴突。轴突的末端又分叉处许多树杈，连接到其他的神经元的树突或者轴突上。

当大脑在运作思考的时候，神经元上的各个树突接收到其他的神经元发出的刺激脉冲，这些脉冲会持续的在神经元内叠加，一旦脉冲的强度达到一个临界数值以后，这个神经元就会产生动作电位，沿着轴突发送电信号，并且传递给别的神经元细胞。
而我们所说的神经网络中的最小的神经元单元也是以类似的方法工作。在了解神经网络之前我们先来了解下什么是感知机

感知机

感知机在上世纪50年代末和60年代初由科学家Frank Rosenblatt取得了进展，灵感来自早期又Warren McCulloch与沃尔特·皮兹的神经研究工作。先看下感知机是如何工作的:

感知机的模型非常类似我们大脑的神经元细胞，$x_1$, $x_2$, $x_3$为信号输入，$output$为信号输出，中间的圆形表示神经细胞体。在上图，我们只表示了3个输入信号，也可以用更多的输入信号。
Rosenblatt提出了一个简单的规则来计算输出，他给每一个输入$x$引入了一个权重(weight)。然后将他们累加求和，计算的方法为
$$\sum _j$$