备赛笔记：神经网络

机器学习：寻找一组最优函数映射

监督学习（supervised learning）：模型输入和输出已知，要选择合适的模型模拟输入和输出的函数关系

机器学习的步骤：
1 选择合适网络结构
2 选择训练方法，评估网络性能
3 选择表现最好的参数

DNN（深度学习）
1 神经元（neuron）：构成神经网络的节点。接受输入，进行对应函数运算（激活），向后传递输出

2 权重（weight）：节点输出对后面神经元影响，权重越大影响越大。影响可能为正为负
模型训练就在于寻找合适权重

3 偏置量（bias）：对加权数据的校正值

4 激活函数（activation function）：通过特定函数将求解输入得到输出，一般实现非线性变化。激活函数会激活信息量大的输入，抑制信息量不足的输出

常用激活函数：
1 sigmoid
f(z) = 1 / (1 + e^-z)
这一函数定义域为全体实数，值域为(0, 1)，关于(0, 0.5)中心对称。由于可以把任意实数映射到(0, 1)区间，可用于二分类