统计学习的入门

  统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测和分析的一门学科，分为监督学习，无监督学习和强化学习

1 监督学习

本质是学习输入到输出的映射的统计规律。从输入输出的对应关系中学习预测模型的机器学习问题，预测模型对给定的输入产生相应的输出；

2 无监督学习

    本质是学习数据中的统计规律或潜在结构。从自然得到的数据中学习预测模型的机器学习问题，预测模型表示数据的类别、转换或概率表示。

     假设X是输入空间，Z是隐式结构空间。要学习的模型可表示为函数z=g(x)，条件概率分布P(z|x),或者P(x|z)的形式，其中x是输入，位于空间X中，z是输出位于空间Z中。包含所以可能得模型的集合称为假设空间。无监督学习旨在从假设空间中选出给定标准下的最优模型。

3 强化学习

强化学习本质是学习最优的序贯决策，是指智能系统在于环境的连续互动中学习最优行为策略的机器学习问题。假设智能系统与环境的互动基于马尔科夫决策过程，智能系统能观测到的是与环境互动得到的数据序列。