超平面
超平面定义为:,对向量W归一化得:,其中,,归一化处理可简化后续一些计算。
超平面单位法向量为w,证明如下:
设 为超平面上得点,则有:,
,向量w与超平面上任意方向线段垂直,则w为超平面单位法向量。
原点到超平面距离为b,证明如下:
过原点O作到超平面距离垂线,设OM=-kw,代入超平面得:,
则原点O到超超平面距离为 。
任意点N到超平面距离为 ,证明如下:
点N在OM上投影向量为:,任意点N到超平面作垂线向量为:,则距离为:。
矩阵微分
1)y=Ax, y为m*1向量,x为n*1向量,A为m*n矩阵,A不依赖x,则有 ,证明如下:
, 。
2)y=Ax, y为m*1向量,x为n*1向量,A为m*n矩阵,A不依赖x,x=f(z),根据链式法则有 。
3),y为m*1向量,x为n*1向量,A为m*n矩阵,A不依赖xy,则有 ,证明如下:
令 ,通过变换得: 。
令 ,则有:。
4),x为n*1向量,A为n*n矩阵,A不依赖x,则有 ,证明如下:
, ,
,结论得证。
5),x为n*1向量,A为n*n对称矩阵矩阵,A不依赖x,由于 ,则有 。
6),y为n*1向量,x为n*1向量,x与y均依赖于z,根据链式法则有 ,若x=y,则有 。
7),y为m*1向量,x为n*1向量,A为m*n矩阵,A不依赖xy,x与y均依赖于z,根据链式法则有 。
8),x为n*1向量,A为n*n矩阵,A不依赖x,x依赖于z,根据链式法则有 。
9)A为n*n矩阵,A的各项为变量 函数,定义 ,则有 ,证明如下:
由于 ,左右微分得:,。