模型与训练模型、参数（parameter）与超参数（hyperparameter）

模型与训练模型

这个概念如果没有搞清楚，后面的一切都是空谈。我们每次使用一个训练集训练出一个“模型”，其实应该叫做训练模型。因为每次更换训练集，训练出的“模型”并不一样，即各个训练模型被训练出来的参数（系数）是不一样的。

举个例子，我们在拟合一个y=ax+b的模型，第一个训练集训练的结果是y=x+0.9，第二个训练集训练的结果是y=x+1……因为我们不可能得到用于训练这个模型的所有数据，也就无法训练出使模型y=ax+b理论上100%正确的参数，所以我们只能得到不同的训练模型。

参数（parameter）与超参数（hyperparameter）

刚刚上面提到了参数，参数是被数据和算法训练出来的。而超参数（比如学习速率$\lambda$）不是被训练出来的，而是人为手工调整的。调整超参数更像是一种艺术，而不是科学。

作者：仙人掌gg
链接：https://www.jianshu.com/p/a585d5506b1e
来源：简书
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。