图解机器学习笔记（二）

叫做生成概率，预测的模式识别叫做生成的分类。

叫做后验概率，预测的模式识别叫做识别的分类。

  x 叫做模式，y叫做类别

。

这幅图是解释以下公式：

    等式左边那个叫做y翰特，当 取得最大值时对应的输入参数值。

上面这幅图介绍了两个概率的关系，至于为什么可以这样呢，就不解释了。

  下面讨论近似模型的概念，也就是类似于前面博客所说的回归，我们有什么方法表达这个近似模型呢？需要学习的又是模型里面的哪个参数呢？

（1）线性模型：

    

是我们需要学习的参数，它是横向量。 是基函数列向量，可以是 ，其中T代表转置。

(2)核模型（核函数）：

是我们需要学习的参数，它是横向量， 是满足正态分布的函数列向量，其中 代表某个样本， 它作为正态函数的均值，正态函数的标准差自己设定。这个核模型主要用来估计样本点附近的值，而且不具有维度灾难（维度灾难指：输入变量的维度越大，计数量随着维度递增而指数增长，这里核模型的计算量只和样本数有关系）

核模型的正态函数的表达式，2的范数为欧几里得距离计算公式。