统计学习包括监督学习、非监督学习、半监督学习及强化学习。
监督学习：从给定有限的训练数据出发，假设数据是独立同分布的，而且假设模型属于某个假设空间，应用某一评价准则，从假设空间中选取一个最优的模型，使它对已给训练数据及为知测试数据在给定评价标准意义下有最准确的预测。
输入输出均为离散的为分类问题，输入输出连续的为回归问题，输入与输出均为变量序列的预测问题为标注问题。
统计学习常用的损失函数有：0-1损失、平方损失函数、绝对损失函数、对数损失函数。
常用的经验风险最小化：，一般用极大似然估计经验风险最小化，样本量足够大的时候会比较准。
结构风险定义为，结构风险考虑到模型的过拟合，加入了复杂度函数。随着模型的复杂度越高，训练误差也会越小，但是测试误差是先降后升。结构风险函数一般会引入正则项或者罚项。
交叉验证：进行模型选择的一种简单方法是随机地将数据集切分成三部分，分别为训练集、验证集和测试集。训练集用来训练模型，验证集用于模型的选择，而测试集用于最终对学习方法的评估。
泛化能力：是指由该方法学习到的模型对未知数据的预测能力。
分类模型的评判方法：
TP——将正类预测为正类
FN——将正类预测为负类
FP——将负类预测为正类
TN——将负类预测为负类
准确率：
查准率：
查全率：
F1值是查准率和查全率的调和均值：
624
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
