西瓜书复习：神经网络

感知机，仅由两层神经元组成，感知机的学习过程：

感知机只有输出层神经元进行激活函数处理，只有一层功能神经元，学习能力非常有限。

前馈神经网络，与感知机相比多了隐层。输入层仅是接受输入，不进行函数处理，隐层与输出层包含功能神经元。
神经网络的学习过程，就是根据训练数据来调整神经元之间的“连接权”以及每个功能神经元的阈值。

输入d个属性，输出l维实例向量。即输入层d，输出层l，隐层设为q。输入层与隐层之间连接权重为v，隐层与输出层之间连接权重为w，网络为全连接。激活函数均使用sigmoid函数。