【机器学习小常识】“parameters（参数）” 与 “hyperparameters（超参数）”的概念及区别详解

目录

1、参数与超参数概念

1.什么是参数

2.什么是超参数

2、二者有什么区别

1.得到方式不同

2.影响因素不同

3.可控程度不同

---

说在前面的话

有些概念其实，很纠结，它到底是属于机器学习呢，还是属于深度学习呢？比如说，分类与回归，这个有些是很难界定的，有人说，它属于深度学习，又有人说，它属于机器学习。

其实争论这些，好像并无太大意义，就像一个男生对一个姑娘宠溺的说：这天下，是你的；而你，是我的。

所以，其实不管这个概念属于谁，深度学习是属于机器学习的。深度学习作为机器学习比较完善的一个分支，即便真正是属于深度学习的概念，那便也是属于机器学习罢。

所以我们就不纠结这个是机器学习小常识，还是深度学习小常识，我一概写作机器学习，因为我们的重点在于这些小常识，我们应该了解掌握它。

如果你有什么问题，希望跟我能够一起交流，除了通过博客交流外，欢迎你加入我的QQ群，一起交流有关于机器学习、深度学习、计算机视觉有关内容。目前我并未确定具体的研究方向，所以现在 处于广泛涉猎阶段，希望我们能够一起沟通。下图是我的群二维码：

今天要给大家分享的是参数与超参数。

敲黑板

重点来啦重点来啦！！！

1、参数与超参数概念

1.什么是参数

参数，也叫参变量，是一个变量。我们在研究当前问题的时候，关心某几个变量的变化以及它们之间的相互关系，其中有一个或一些叫自变量，另一个或另一些叫因变量。如果我们引入一个或一些另外的变量来描述自变量与因变量的变化，引入的变量本来并不是当前问题必须研究的变量，我们把这样的变量叫做参变量或参数。

在统计学中，描述总体特征的概括性数字度量，它是研究者想要了解的总体的某种特征值。总体未知的指标叫做参数。

在机器学习领域，参数还有自己独特的含义，由模型通过学习得到的变量，叫参数，比如权重w和偏置b。

2.什么是超参数

在机器学习的上下文中，超参数是在开始学习过程之前设置值的参数，而不是通过训练得到的参数数据。通常情况下，需要对超参数进行优化，给学习机选择一组最优超参数，以提高学习的性能和效果。

2、二者有什么区别

1.得到方式不同

参数是通过模型训练得到的，超参数是人为设定得到的。

我们要人为设定一些数据，这些数据是超参数，根据我们设定的数据和模型，得到的数据是参数。

以深度学习训练为例，训练图像数据集，我们要提前设定迭代次数，学习速率，这些数据是超参数；我们设定好以后，模型自己训练会得到权重，这个数据是参数。

2.影响因素不同

超参数来源于人的经验，会受到硬件的制约，例如学习速率，如果电脑配置不行，那速率太快电脑带不起来，CPU和GPU处理图像时速率也有差别。

参数主要受模型的影响，不同的模型，训练得到的结果差距很大，例如YOLO是实时监测，速度快，但是准确度有所下降。R-CNN速度没有YOLO快，但是在识别准确度上要更好。那这两个模型训练得到的参数是有很大不同的。

3.可控程度不同

超参数是人为设定，可控性高，参数与模型有关，得到的结果有时候与期望有差距，可控性较差。