神经网络与深度学习结构
上图选自《神经网络与深度学习》一邱锡鹏
下图为本人制作的流程图
知识点检索
- 人工神经网络(Artificial Neural Networks)(ANNs)
- 多层感知器(Multilayer Perceptron)(MLP)
- 深度神经网络/深度前馈网络(Deep Neural Networks)(DNN)
- 激活函数(Activation Function)
深度学习–激活函数 - 决策边界(Decision Boundary)
- 梯度下降(Gradient Descent)(GD)
深度学习–梯度下降算法 - 梯度消失问题(Vanishing Gradient Problem)
- 梯度爆炸问题(Exploding Gradient Problem)
- 梯度裁剪(Gradient Clipping)
- 前向传播(Forward Propagation)(FP)
- 反向传播(Backward Propagation)(BP)
- 目标函数(Objective Function)
- 损失函数(Loss Function)
- 代价函数(Cost Function)
- 前馈神经网络(Feedforward Neural Networks)
- 卷积神经网络(Convolutional Neural Networks)(CNN)
- 循环神经网络(Recurrent Neural Networks)(RNN)
- 长短期记忆神经网络(Long Short-Term Memory)(LSTM)
- 标签(label)
- 特征(feture)
- 样本(example)
- 训练(training)
- 模型(model)
- 回归模型(regression model)
- 分类模型(classification model)
- 过拟合(overfitting)
- 预测(prediction)
- 训练集(training set)
- 验证集(validation set)
- 测试集(test set)
- 类别(class)
- 收敛(convergence)
- 准确度(accuracy)
- 精确度(precision)
- 召回率(recall)
- 批次(batch)
- 权重(weight)
- 偏差(bias)
- 经验风险最小化(Empirical Risk Minimization)(ERM)
- 结构风险最小化(Structural Risk Minimization)(SRM)
- 参数(parameter)
- 超参数(hyperparameter)
深度学习–超参数
以上未完待更新,仅供个人学习,侵权联系删除,如有错误或不足之处可指出,以便改进。