函数泰勒展开:f(x)=f(x0)+f‘(x0)*(x-x0)+1/2*f‘’(x0)*(x-x0)^2
求导后,令f'(x)=f'(x0)+1/2*f''(x0)*2*x=0
所以x=一f‘(x0)/f''(x0);
以上是一元的,当x是三元的,sift高斯差分函数就是三元的,
怎么理解1/2*X的转置*H(X)*X对X求导后=H(X)*X?
令△x=x-x0,△y=y-y0,△z=z-z0;H(X)=f''xx f''xy f''xz; X =x-x0;X的转置=(x-x0 y-y0 z-z0)
f''yx f''yy f''yz y-y0
f''zx f''zy f''zz z-z0
则X的转置*H(X)*X=△x(△x*f''xx +△y* f''xy +△z* f''xz)+
△y(△x* f''yx +△y* f''yy +△z*f''yz )+
△z(△x*f''zx +△y* f''zy +△z*f''zz ).
那么D(x,y,z)=D(x0,y0,z0)+△x*f'x+△y*f'y+△z*f'z+1/2*X的转置*H(X)*X,
以上就是高斯差分函数泰勒展开,f‘x,f'y,f‘z;f''xx f''xy f''xz是一阶和二阶偏导,
然后D'x=0+f'x+△x*f''xx +△y* f''xy +△z* f''xz=0;同理
D'y=0+f'y+△x* f''yx +△y* f''yy +△z*f''yz=0;
D’z=0+f’z+△x*f''zx +△y* f''zy +△z*f''zz=0;整理后
H(X)*X+f'x=0,所以1/2*X的转置*H(X)*X对X求导后=H(X)*X
+f'y=0
+f'z=0
故有D"XX*X+D'X=0列向量,X=一D'X/D"XX,对比一元,得解。
我的邮箱liuganggang_1978@163.com;734523623@qq.com
更正和补充(20200712):
一元泰勒级数展开取二阶,即f(x)在x0处的近似
f(x)=f(x0)+f'(x0)*(x-x0)+1/2*f''(x0)*
二元泰勒级数展开取二阶,即f(x,y)在(x0,y0)处的近似(假定有:f''xy=f''yx)
f(x,y)=f(x0,y0)+f'x(x0,y0)*(x-x0)+f'y(x0,y0)*(y-y0)
+1/2*f''xx(x0,y0)*+1/2*f''yy(x0,y0)*
+1/2*f''xy(x0,y0)*(x-x0)*(y-y0)+1/2*f''yx(x0,y0)*(x-x0)*(y-y0)
我们简写为:f(x,y)=f+f'x*(x-x0)+f'y*(y-y0)+1/2*f''xx*+1/2*f''yy*+1/2*f''xy*(x-x0)*(y-y0)
再简化,令△x=x-x0,△y=y-y0
f(x,y)=f+f'x*△x+f'y*△y+1/2*f''xx*+1/2*f''yy*+f''xy*△x*△y
我们对等式两边△y求导,即对y-y0求导,也即y求导
令f'△y(x,y)=0=f'y+△y*f''yy+f''xy*△x
同理,我们对等式两边△x求导,即对x-x0求导,也即x求导
令f'△x(x,y)=0=f'x+△x*f''xx+f''xy*△y
令H(X)=f''xx f''xy ; X =△x; D'X =f'x; =(△x △y)
f''yx f''yy △y f'y
那么有 H(X)*X+D'X=0,即X=-D'X/ H(X) .
f(x,y)=f+f'x*△x+f'y*△y+1/2*f''xx*+1/2*f''yy*+f''xy*△x*△y
就等于=f+△x*f'x+△y*f'y+1/2**H(X)*X
=f+*D'X+1/2**H(X)*X
这其实就是泰勒二元二阶展开矩阵形式,
而最初的推导是泰勒三元二阶展开矩阵形式
f(x,y)对X求导,则
=0列向量=D'X+H(X)*X
X=-D'X/H(X)
///顺便对比一下协方差矩阵:
协方差矩阵定义:C=c11 c12 =σ1^2 ρ*σ1*σ2
c21 c22 ρ*σ1*σ2 σ2^2
矩阵A= σ2^2 -ρ*σ1*σ2 ,
-ρ*σ1*σ2 σ1^2
C逆=A*1/[σ1^2*σ2^2(1-ρ*ρ)];C逆=协方差矩阵的逆
令X-U= x1-u1;
x2-u2
令r=马氏距离,则r*r=*C逆*(X-U)
*C逆*(X-U)*(-1/2)=-[(x1-u1)^2/σ1^2-2*ρ*(x1-u1)(x2-u2)/(σ1*σ2)+(x2-u2)^2/σ2^2]*1/[2*(1-ρ*ρ)]
这是什么?他是二元正态分布密度函数的指数
φ(x1,x2)=1/[2*PI*σ1*σ2*sqrt(1-ρ*ρ)]*exp(-1/2.0*r*r)
那么X-U针对1/2**C逆*(X-U)求导是什么?
关键点:
矩阵的求导,矩阵的运算,用的多了就好了,熟能生巧!