【高斯过程的粗浅见解】

  1. 协方差矩阵

    # 协方差矩阵附带了两个信息
    1. 第一个,对角线上的方差,就是每个维度的方差,如确定一个一维高斯分布由均值与方差确定,多维高斯分布就有多个方差,多维度高斯分布的协方差矩阵,对角线上就是记录的每个维度的方差(开个根号才是)。
    
    2. 第二个,非对角线上的值,假如一个多维高斯分布完全独立,我们可以看到对角线上完全为0,这就是意味着,多个多维高斯分布的任何两个维度之间都是没有相关性的,如果这个多维高斯分布不是相互独立的,那么对角线上就有值,值就是两个维度之间的关系。表示两个维度之间的相关性或线性关系。协方差的正负值表示了两个维度的变化是如何相互关联的。
    
    
  2. 高斯过程

    # 高斯过程中的均值函数 与 协方差函数
    1. 均值函数,高斯过程本质上就是个无限维度的多维高斯分布,我们举例,假如有一个6维的高斯分布,那么它每一个维度拿出来看,都是一个一维高斯分布,这样的一维高斯分布有6个,就有6个均值 x1 x2 x3 x4 x5 x6(一个一维高斯分布由一个均值,一个方差决定),那无限维度就有无限个均值,x1 ... xn 每一个都可以是一个确定的值,比如 x1 = 6, x2 = 10 ,..., x6 = 99, 把它画成一条线,不就是一个函数图形,假如x1到x10000 (10000个维度) 画出的图形是一个sin正弦图像,那用一个函数来表示,不就是x = sin(i) i 是维度编号。记住这个i, 所以如果我们知道了这个无限维度的高斯分布的均值函数, 我们就知道了对应的每个维度的均值x=sin(6)(假设这是第6个维度)。它会返回各个维度的均值。
    确定了一个均值函数 如:y=6x+9, 那么这个高斯分布的均值y,在无限x上的取值就确定了!
    
    2 协方差函数,按道理返回的不就是各个维度的协方差矩阵?仔细想想,两个维度或者多个维度,才有一个协方差矩阵,那多个维度的哪怕 999 维的高斯分布 ,也就一个协方差矩阵,那这个协方差函数,返回的是啥?看下面
    
    
    3. 通过均值函数,我们知道,
    	确定一个均值函数,也就确定了这多个维度的每个维度的均值,等于,知道了均值函数,知道了所有维度的每个维度均值
        那确定一个协方差函数,应该要确定每个维度高斯分布的方差,和任意两个维度之间的相关性,这组合起来就是一个协方差矩阵!!
        
        好,那我们知道了:
        确定均值函数,就确定了每个维度高斯分布的均值
        那确定协方差函数,也就确定了无限维度高斯分布协方差矩阵。
                                           
    # 现在来看官方解释:
        协方差函数:返回两个向量各个维度之间的协方差矩阵。一个高斯过程为一个均值函数和协方差函数唯一地定义,并且一个高斯过程的有限维度的子集都服从一个多元高斯分布(为了方便理解,可以想象二元高斯分布两个维度各自都服从一个高斯分布)。
        函数确定了,两个向量各个维度之间的协方差矩阵也就确定了,协方差矩阵也就确定了。核函数也就确定了
        # 通过核函数可以计算两个变量之间的协方差矩阵。
        
      
                 
    # 我们需要注意的是:
        上文提到高斯过程是一种非参数模型,没有训练模型参数的过程,一旦核函数、均值函数给定,则模型就被唯一地确定下来。但是核函数本身是有参数的࿰
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值