机器学习数学基础之Python矩阵运算

机器学习数学基础之Python矩阵运算

Python矩阵基本运算

Python矩阵操作

创建矩阵与行列转换的功能函数，而在Python中也较多使用二维数组替代矩阵来进行运算

Python矩阵乘法


矩阵乘法的定律检验，要区分数乘与矩阵相乘的情况，后者将前后次序调转也会影响结果

Python矩阵转置


矩阵转置即为行变为列、列变为行，对于转置还有一些叠加定律值得注意

Python求方阵的迹

方阵的迹就是主对角元素之和，也只有方阵才有迹的概念，方阵之和的迹等于方阵之迹的和

Python方针的行列式计算方法

首先引入行列式的计算概念,手工计算比较困难，但在Python中只需要运用linalg.det()函数便可简便运算

在对e方阵求行列式时本机出现一定问题，不知为何显示的结果为0，而方阵f则没有问题

Python求逆矩阵/伴随矩阵
设A是数域上的一个n阶方阵，若在相同数域上存在另一个n阶矩阵B，使得： AB=BA=E。 则我们称B是A的逆矩阵，而A则被称为可逆矩阵。当矩阵A的行列式|A|不等于0时才存在可逆矩阵。
而伴随矩阵的定义为：


Python解多元一次方程

使用Python求解多元一次方程的原理也是将多元方程组代入矩阵后求解，主要运用的方法还是换元

微分、梯度的含义

微分
由函数B=f(A)，得到A、B两个数集，在A中当dx靠近自己时，函数在dx处的极限叫作函数在dx处的微分，微分的中心思想是无穷分割。通常把自变量x的增量 Δx称为自变量的微分，记作dx，即dx = Δx。于是函数y = f(x)的微分又可记作dy = f’(x)dx。函数因变量的微分与自变量的微分之商等于该函数的导数。因此，导数也叫做微商。
几何意义：当Δx很小时，切线纵坐标的增量。

梯度
梯度的本意是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向（此梯度的方向）变化最快，变化率最大（为该梯度的模）。

梯度下降法
在机器学习算法中，对于很多监督学习模型，需要对原始的模型构建损失函数，接下来便是通过优化算法对损失函数进行优化，以便寻找到最优的参数。在求解机器学习参数的优化算法中，使用较多的是基于梯度下降的优化算法(Gradient Descent, GD)。

梯度下降法求解回归方程的python代码

为上图的点用梯度下降法求解拟合直线，具体代码如下

from numpy import *

# 数据集大小 即20个数据点
m =