简简单单神经网络

1、M-P神经元

M-P神经元即接受n个输入，并给与各个输入赋予权重，然后通过计算加权和，并与自身阈（yu）值进行比较，再经过激活函数后，得到输出。

单个M-P神经元，其激活函数为sgn函数时，也可称为感知机。

多个M-P神经元，为神经网络。

2、感知机

感知机模型是一个分类模型，感知机只能解决线性可分问题。

从几何角度来说，给定一个线性可分的数据集，感知机的学习目标是求得能对数据集中正负样本完全正确划分的超平面。

感知机的学习算法具体采用的是随机梯度下降法，也即是极小化过程中不是一次使整个数据集的误分类点的梯度下降，而是随机选取一个误分类点使其梯度下降。感知机求解的结果通常不唯一。

3、神经网络

多个神经元构成的神经网络可以完成线性不可分数据集的分类任务。且有理论证明，只需一个包含足够多神经元的隐层，多层前馈网络就能以任意精度逼近任意复杂度的连续函数。

因此，神经网络既能做回归，也能做分类，而且不需要复杂的特征工程。

4、多层前馈网络

每层神经元与下一层神经元全互联，神经元之间不存在同层连接，也不存在跨层连接。