【机器学习】笔记01

机器学习总体流程图

机器学习 四个阶段

1.数据预处理阶段：
特征提取：将原始数据转化为特征数据，从而能够有效的对原始数据所涵盖的信息进行表达（raw data→feature）；
特征选择：有时会从原始数据提取很多的特征，我们选择出一部分特征来以适应当前的场景，同时简化数据；
降维、幅度缩减：当进行特征选择后数据的维度仍然过高，或者适用当前场景的模型相对简单，为了解决计算成本以及防止过拟合，通常对数据再进行降维操作；主要采用主成分分析法（PCA）；
采样：采集样本集；过采样：；欠采样：；

2.模型学习：
根据经验以及对当前场景的理解选择适合的机器学习模型，并对数据进行训练，从而学习到数据所含的内在规律。由信息论知识可知，对于给定的数据，其所含的信息就已经确定了，我们所做的数据预处理即是尽可能的提取其中所涵盖的有用信息并剔除噪声数据，即是数据是根本，其本身决定了模型效果的上限；而我们选择不同的算法则是使我们的模型效果无线趋近于其上限，简而言之：算法越合适，效果越好；机器学习常用算法如下图所示：

3.模型评估：
什么是好的模型？答：高精度与泛化能力的折中，而我们要想评估我们的模型，则需要训练数据集以外的数据集----验证集
常用的验证集生成方法主要有以下三种：

①hold out （留出法）

• 要尽量保持数据分布的一致性，如分层采样；
• 多次随机重复划分；
• 测试集不能太大，也不能太小：

②k折交叉检验（cross validation）

③自助法（bootstrap）

即当样本数量较多时，我们能够按照自助法把原有数据集随机分割成约7:3的两个子数据集$D_1$和$D_2$，我们用$D_1$来做训练集生成模型，$D_2$来做测试集并选择模型性能的度量来判别模型的好坏。

模型的常用性能度量标准

回归问题(Regression)

以下用$y$代表真实值，$y^{\ast }$代表预测值，$\bar{y}$代表真实值的均值：

• 平均绝对误差MAE（mean absolute error）
  $$MAE=\frac{1}{n}\sum _{i=1}^n\left|\begin{array}{c}{y}_i-y_i^{\ast }\end{array}\right|$$
• 平均平方误差MSE (mean square error)$$MSE=\frac{1}{n}\sum _{i=1}^n(y_i-y_i^{\ast }{)}^2$$
• 方均根误差RMSE（root mean square error）$$RMSE=\sqrt{\frac{1}{n}\sum _{i=1}^n(y_i-y_i^{\ast }{)}^2}$$
• 残差平方和$$S{S}_{residual}=\sum _{i=1}^n(y_i-y_i^{\ast }{)}^2$$
• 回归平方和$$S{S}_{regression}=\sum _{i=1}^n(y_i^{\ast }-\bar{y}{)}^2$$
• 总离差平方和$$S{S}_{total}=\sum _{i=1}^n(y_i-\bar{y}{)}^2$$
• 线性回归决定系数 $R^2$ ：反应了$y$的波动有多少百分比能被$x$的波动所描述，即表征依变数$y$的变异中有多少百分比,可由控制的自变数$x$来解释$$S{S}_{total}=S{S}_{residual}+S{S}_{regression}$$ $$R^2=1-\frac{S{S}_{regression}}{S{S}_{total}}=\frac{S{S}_{residual}}{S{S}_{total}}$$

分类问题(Classification)

• 错误率 $$Err=\frac{1}{m}\sum _{i=1}^m\mathbb{I}(y_i̸=y_i^{\ast })$$
• 精度 $$Acc=\frac{1}{m}\sum _{i=1}^m\mathbb{I}(y_i=y_i^{\ast })$$
• 混淆矩阵(confusin matrix)

	预测结果 (positive)	预测结果(negetive)
真实值(positive)	TP	FN
真实值(negetive)	FP	TN

准确率$$P=\frac{TP}{TP+FP}$$
召回率$$R=\frac{TP}{TP+FN}$$
在不同的场景我们需要选择准确率或者召回率，如在对样本的精度有较高要求的时候应该选择准确率，而在某些特定对样本的准确性（宁可错杀一千也不放过一个）有较高要求的时候应该选择召回率；
$F_1$-Score:是统计学中用来衡量二分类模型精确度的一种指标。它同时兼顾了分类模型的准确率和召回率，可以看做是准确率和召回率的一种加权平均$$\frac{1}{F_1}=\frac{1}{P}+\frac{1}{R}$$
在此基础上可以对其加一个影响因子$\beta$ $$F_{\beta }=\frac{(1+{\beta }^2)\ast P\ast R}{({\beta }^2\ast P)+R}$$
当$\beta >1$时召回率有更大影响，当$\beta <1$时准确率有更大影响

• AUC (Area Under ROC Curve)
  

机器学习常用方法