矩阵
矩阵乘法
设A为mp 的矩阵,B为 pn 的矩阵,那么称mn 的矩阵C为矩阵A与B的乘积,记作 C=AB,其中矩阵C中的第 i行第 j 列元素可以表示为
如下所示:
(当两个合并为一个时,m列乘n行则生成新的矩阵则为m列n行)
一、基本性质
乘法结合律: (AB)C=A(BC). [3]
乘法左分配律:(A+B)C=AC+BC [3]
乘法右分配律:C(A+B)=CA+CB [3]
对数乘的结合性k(AB)=(kA)B=A(kB).
转置 (AB)T=BTAT.
矩阵乘法在以下两种情况下满足交换律。
AA=A*A,A和伴随矩阵相乘满足交换律。
AE=EA,A和单位矩阵或数量矩阵满足交换律。
注意事项
1、当矩阵A的列数(column)等于矩阵B的行数(row)时,A与B可以相乘。
2、矩阵C的行数等于矩阵A的行数,C的列数等于B的列数。
3、乘积C的第m行第n列的元素等于矩阵A的第m行的元素与矩阵B的第n列对应元素乘积之和。
矩阵转制
设A为m×n阶矩阵(即m行n列),第i 行j 列的元素是a(i,j),即:
把m×n矩阵A的行换成同序数的列得到一个n×m矩阵,此矩
阵叫做A的转置矩阵,记做 AT或 A’ .
例如矩阵
上下角标的插入格式
损失函数
(实际与模拟的最小二乘法)
损失函数对于我们来说是一个陌生的名词而最小二乘法是其中的一种,带入这个概念有利于我们对损失函数的理解,而采用传统数学方法是很难求解,从而我们只需要把重点放在损失函数的自身特性上,而不用花过多心思在函数求解的方法上。
求解损失函数的负梯度:
根据负梯度的方向更新变量:
带入线性函数理解:
y2=y1+kx