初学 机器学习分类与回归问题+ 深度学习各超参数

分类和回归的区别在于输出变量的类型。 定量输出称为回归，或者说是连续变量预测； 定性输出称为分类，或者说是离散变量预测。 举个例子： 预测明天的气温是多少度，这是一个回归任务； 预测明天是阴、晴还是雨，就是一个分类任务。

用自己的话来理解，回归问题的内容是未知的，而分类问题内容已知，是在已知内容中对数据进行采集，建立模型建立模型映射关系，以此预测任务，达到解决问题的目的。回归问题则不同，回归问题是在未知内容中进行处理。但是二者本质都是一致的，并且二者可以相互转化。可以将回归问题和分类问题互相转化，即分类模型可将回归模型的输出离散化，回归模型也可将分类模型的输出连续化。（较晦涩难懂）    或者说，分类问题是一种比较特殊的回归问题。

损失函数是建立模型中用来反映所得模型与实际数据之间的一个数据，（）当找到这个公式的最小值时，就能得到最优的a,b. 而这对(a,b)就是能最好描述数据关系的模型参数。

神经网络中的超参数通常可以分为三类：网络参数、优化参数、正则化参数。

进行参数调优的目的是：1.为了得到全局最优解     2.得到一个拟合效果最好的模型

 参数与超参数的区别在于：模型参数通常是由数据来驱动调整，超参数则不需要数据来驱动，而是在训练前或者训练中人为的进行调整的参数。

超参数中最重要的是学习率。它直接控制着训练中网络梯度更新的量级，直接影响着模型的有效容限能力。其次是批样本数量，这是一次训练过程中使用的样本数量，影响着模型的优化程度和速度，即直接影响到工作时的工作效率，但也影响到工作结果的精确度。

优化器超参数、权重衰减系数、dropout和网络参数。这些参数对硬件受硬件限制较高，一般只需采用推荐值。这些参数能防止模型过拟合并且保证模型的有效性。