【笔记|统计学习方法】：一.统计学习及监督学习概论

2021.12.15 李航老师《统计学习方法》
# 新坑

一. 统计学习及监督学习概论

1.1 基础知识

1.1.1 统计学习目的

统计学习用于对数据的预测与分析，也就是对数据的预测与分析是通过构建概率统计模型实现的。

1.1.2 实现统计学习方法的步骤

（1）得到一个有限的训练数据（training data）集合;

（2）确定包含所有可能的模型的假设空间，即学习模型的集合；

假设要学习的模型属于某个函数的集合，成为假设空间（hypothesis space）

（3）确定模型选择的准则，即学习的策略；

（4）实现求解最优模型的算法，即学习的算法；

（5）通过学习方法选择最优模型；

（6）利用学习的最优模型对新数据进行预测或分析；

其中， 模型（model）、策略（strategy）、算法（algorithm） 成为统计学习方法的三要素。

1.2 基本分类

$$x=(x^{(1)},x^{(2)},...,x^{(i)},...,x^{(n)}{)}^T$$

其中，$x^{(i)}$表示$x$的第i个特征；
注意 $x^{(i)}$ 与 $x_i$ 不同， $x_i$ 表示多个输入变量中的第i个变量，即
$$x_i=(x_i^{(1)},x_i^{(2)},...,x_i^{(i)},...,x_i^{(n)}{)}^T$$

统计学习或机器学习一般包括监督学习、无监督学习、强化学习，有时还包括半监督学习，主动学习。

1.2.1 监督学习

监督学习（supervised learning）是指从标注数据中学习预测模型的机器学习问题

标注数据, 也就是训练数据x 都有标记，即y

• 训练集

T = { ( x 1 , y 1 ) , ( x 2 , y 2 ) , . . . , ( x N , y N ) } T=\lbrace(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\rbrace T={(x1​,y1​),(x2​,y2​),...,(xN​,yN​)}

• 模型

  模型属于有输入空间到输出空间的映射的集合，这个集合就是假设空间。

  监督学习的模型可以是概率模型或非概率模型，条件概率分布 $P(Y|X)$ 或决策函数 $Y=f(X)$

  图中模型： $\hat{P}(y|x),y=\hat{f}(x)$ 这种有帽子的是我们训练的模型估算出来的结果

  【老羊理解】

  （1） 概率模型，P(Y|X) 比如数据x=3,属于0类的概率为0.8；属于1类的概率为0.2；

  （2） 决策函数 y=f(x) ,比如数据x=3 输入y=f(3)=1

• 预测系统

  条件概率分布 $\hat{P}(Y|X)$ 或决策函数 $Y=\hat{f}(X)$描述输入与输出随机变量之间的映射关系。

  在预测过程中，预测系统对于给定的测试样本集中的输入 $x_{N+1}$, 由模型 $y_{N+1}=\underset{y}{\mathrm{argmax}}\hat{P}(y|x_{N+1})或y_{N+1}=\hat{f}(x_{N+1})$给出相应的输出$y_{N+1}$。其中， $y_{N+1}=\underset{y}{\mathrm{argmax}}\hat{P}(y|x_{N+1})$ 这个意思就是在$x_{N+1}$输入前提下，输出最大概率的y类别

  数据x=3,属于0类的概率为0.8；属于1类的概率为0.2；所以数据x=3属于y=0类

1.2.2 无监督学习

无标注的数据中学习预测模型的机器学习问题；

• 训练集

无监督学习通常使用大量的无标注数据学习或训练，每一个样本是一个实例。训练数据表示为 U = { x 1 , x 2 , . . . , x N } U=\lbrace x_1,x_2,...,x_N\rbrace U={x1​,x2​,...,xN​}其中$x_i,i=1,2,...N$,是样本

• 模型

  （1）前面讲过，条件概率分布 $P(Z|X)$ 或决策函数 $Y=g(X)$；

  （2）条件概率分布 $P(X|Z)$, 用于聚类或降维，意思就是 在类Z=0,1,2,...类时候X的概率分布；

  【老羊理解】

  N个数据，每个数据有M维特征，所以输入矩阵如下：
  $${\left[\begin{array}{cccccc}{x}_1^{(1)}& x_2^{(1)}& ...& x_i^{(1)}& ...& x_N^{(1)}\\ x_1^{(2)}& x_2^{(2)}& ...& x_i^{(2)}& ...& x_N^{(2)}\\ ...& ...& ...& ...& ...& ...\\ x_1^{(j)}& x_2^{(j)}& ...& x_i^{(j)}& ...& x_N^{(j)}\\ ...& ...& ...& ...& ...& ...\\ x_1^{(M)}& x_2^{(M)}& ...& x_i^{(M)}& ...& x_N^{(M)}\end{array}\right]}_{MN}$$

  (1) 条件概率分布 P(Z|X) 理解:

  我们现在有N个数据，如果每个数据一类，那么可以分N类，但现实中往往只是分Z类，Z << N,即
  

  (1) 条件概率分布 P(X|Z) 理解:

  我们每个数据有M维特征，但有的特征我们没有用，我们把特征减少到Z维,Z < M来降低数据的计算量。

  那么 P(X|Z) 就是降低到Z维后X的概率分布情况。
  

1.2.3 强化学习

是指智能系统在环境的连续互动中学习最优行为策略的机器学习问题。

在每一步t，观察一个状态（state）St与一个奖励（reward）rt,采取一个动作（action）at.

环境根据智能系统选择的动作，决定下一步t+1的状态 $S_{t+1}$,奖励 $r_{t+1}$,动作 $a_{t+1}$

策略就是长期积累的奖励最大化。 强化学习过程中，系统不断地试错，最终达到最优策略的目的。