常见的论文专有名词的含义和概念

1. 损失函数：用于衡量’单个样本点’预测值与实际值的偏离程度。
2. 风险函数：用于衡量’样本点平均意义’下的好坏，就是说要除以batch_size。
   风险函数分为经验风险和结构风险
   • 经验风险：指预测结果和实际结果的差别。
   • 结构风险：指经验风险 + 正则项。
     风险函数是训练过程中的模型，对已知训练数据的计算。可以理解为是train过程的loss。
3. 泛化函数：指模型对未知数据的预测能力。
   泛化函数是训练好的模型，对未知数据的计算。可以理解为是test过程的loss