04--线性神经网络

1. 批量大小和学习率的值通常是手动预先指定，而不是通过模型训练得到的。 这些可以调整但不在训练过程中更新的参数称为超参数（hyperparameter）。 调参（hyperparameter tuning）是选择超参数的过程。 超参数通常是我们根据训练迭代结果来调整的， 而训练迭代结果是在独立的验证数据集（validation dataset）上评估得到的。
2. 给定特征估计目标的过程通常称为预测（prediction）或推断（inference）。推断这个词已经成为深度学习的标准术语。