假设现在已经观察到了6个样本点,x为样本点特征(一维的),y为样本输出值。
现在新来了一个样本点,要求是用高斯回归过程来预测新来样本点的输出值。这些样本点显示如下;
其中前面6个点是已知输出值的训练样本,其值为:
第7个点是需要预测的样本,红色的垂直条形线表示观察输出值的误差,绿色的垂直条形线为用高斯过程回归的误差。
用GPR解该问题的流程大概如下(对应前面讲的一些基础知识):
-
选择适当的u(均值函数)和k(核函数),以及噪声变量σ,其中核函数的选择尤其重要,因为它体现了需处理问题的先验知识,应根据不同的应用而选择不同的核。
-
计算出训练样本的核矩阵(6*6),如下:
3. 通过前面m和D的公式,求得m=0.95,D=0.21.
- 画出最终结果如下:
这个例子来源于论文Gaussian Processes for Regression A Quick Introduction中。
它的核函数等参数选择和基础知识部分的不同,但这里主要是对GPR的应用有个简单的宏观上的理解,让大脑对GPR应用有个初步的印象,否则有了那么多的公式推导但不会应用又有什么用呢?
https://mp.weixin.qq.com/s/AsfNxoIk62cMSRymTB1QFA
参考:
http://www.cnblogs.com/tornadomeet/archive/2013/06/14/3135380.htmlhttp://dataunion.org/17089.html
http://www.cnblogs.com/tornadomeet/archive/2013/06/15/3137239.html