AI作业2-监督学习

用自己的语言，解释以下概念
1 结构风险最小化

• 为了防止由数据量、噪声或模型本身造成的过拟合问题，往往需要对模型本身进行限制，使其不要过度地经验风险最小化，因此在经验风险之上再引入正则化项（或惩罚项），以此来平衡经验最小化和模型复杂度。

2 正则化

• 正则化是一种为了防止过拟合和提高模型泛化能力的方法，它通过对模型参数的约束来避免模型复杂度过高，在损失函数中加入一个正则项，如 L1 正则或 L2 正则，来惩罚模型参数的大小。

3 线性回归

• 刻画目标变量与一个或者多个变量之间关系的模型就是回归模型，如果这种关系是线性的，这个模型就称为线性回归模型。对原数据进行一系列数据拟合，并尽可能构造一条可以拟合数据的数学模型，根据这个模型，输入测试数据进而预测数据的结果。

4 逻辑斯蒂回归

         logistic回归是一种广义的线性回归分析模型，常用于数据挖掘，疾病自动诊断，经济预测等领域（概率问题）。logistic 回归分析实质是一种分类，它是研究因变量为二项分类或多项分类结果与某些影响因素之间关系的一种多重回归分析方法。同线性回归一样通过对一系列数据拟合模型，来预测未来某一数据的走向，但是不同的时逻辑斯蒂回归则是建立模型将数据分为不同的类别，然后预测某个数据的类别。

5 Sigmoid 与 SoftMax 函数

         S 型函数（英语：sigmoid function，或称乙状函数）是一种函数，因其函数图像形状像字母S得名。其形状曲线至少有2个焦点，也叫“二焦点