机器学习:寻找一组最优函数映射
监督学习(supervised learning):模型输入和输出已知,要选择合适的模型模拟输入和输出的函数关系
机器学习的步骤:
1 选择合适网络结构
2 选择训练方法,评估网络性能
3 选择表现最好的参数
DNN(深度学习)
1 神经元(neuron):构成神经网络的节点。接受输入,进行对应函数运算(激活),向后传递输出
2 权重(weight):节点输出对后面神经元影响,权重越大影响越大。影响可能为正为负
模型训练就在于寻找合适权重
3 偏置量(bias):对加权数据的校正值
4 激活函数(activation function):通过特定函数将求解输入得到输出,一般实现非线性变化。激活函数会激活信息量大的输入,抑制信息量不足的输出
常用激活函数:
1 sigmoid
f(z) = 1 / (1 + e^-z)
这一函数定义域为全体实数,值域为(0, 1),关于(0, 0.5)中心对称。由于可以把任意实数映射到(0, 1)区间,可用于二分类