深度学习-基于Keras的Python实践（二）多层感知器的相关概念

1、神经元

神经元是构成神经网络的基本模块，神经元模型是一个具有加权输入，并且使用激活功能产生输出信号的基础计算单元，输入可以类比为生物神经元的树突，输出可以类比为生物神经元的轴突，计算则可以类比为细胞核。

1.1 神经元权重

线性回归中输入的权重与回归方程中使用的系数非常相似。

1.2 激活函数

激活函数是加权输入与神经元的简单映射。被称为激活函数，是因为它控制神经激活的阈值和输出信号的强度。
激活函数有以下一些性质：

• 非线性：
• 可微性：
• 单调性：
• 输出值的范围：

2.神经网络

2.1 输入层

从数据集中获取输入的层叫做输入层。

2.2 隐藏层

输入层之后的称为隐含层，可以构建非常深的神经网络，深度学习是指神经网络中有很多隐含层。

2.3 输出层

最后的隐含层称为输出层。负责输出与项目问题所需格式相对应的值或向量。

3 训练神经网络

3.1 准备数据

略

3.2 随机梯度下降算法

略

3.3 权重更新

动量：
学习率衰减:

3.4 预测新数据

略