Coursea-吴恩达-machine learning学习笔记（三）【week 1之Linear Algebra Review】

最新推荐文章于 2023-07-11 12:17:00 发布

痞靥

最新推荐文章于 2023-07-11 12:17:00 发布

阅读量203

点赞数

分类专栏：机器学习文章标签：矩阵向量

本文链接：https://blog.csdn.net/u012347642/article/details/80064587

版权

机器学习专栏收录该内容

17 篇文章 0 订阅

订阅专栏

[142536]

$\left[ \begin{matrix} 1&2&3\\ 4&5&6 \end{matrix} \right]$
矩阵的维度：行

× × $\times$ 列；

A A $A$ 表示矩阵，

A_{i j}

$A_{ij}$ 表示矩阵第

i i $i$ 行第

j

$j$ 列的元素。

向量是一种特殊矩阵， $n\times1$ 的矩阵：
$y=\left[ \begin{matrix} 1\\ 2\\ 3 \end{matrix} \right]$ 表示三维向量；
$y_i$ 表示向量 $y$ 的第 $i$ 个元素。

向量的表示包括 $0$ 索引法和 $1$ 索引法：
$y=\left[ \begin{matrix} y_1\\ y_2\\ y_3 \end{matrix} \right]$ 为1索引法， $y=\left[ \begin{matrix} y_0\\ y_1\\ y_1 \end{matrix} \right]$ 为0索引法，一般使用1索引法。

一般用大写字母表示矩阵，如 $A、B、C$ ；用小写字母表示向量，如 $a、x、y$ 。

相同维度的矩阵才能进行加、减运算。

矩阵与向量的乘法：

A \times x = y

$A\times x=y$ 其中

A A $A$ 为

m \times n

$m\times n$ 矩阵，

x x $x$ 为

n \times 1

$n\times 1$ 矩阵即

n n $n$ 维向量，

y

$y$ 为

m m $m$ 维向量，

y_{i}

$y_i$ 等于

A A $A$ 的第

i

$i$ 行元素乘以向量

x x $x$ 的元素，然后相加：

[\begin{matrix} a & b \\ c & d \\ e & f \end{matrix}] * [\begin{matrix} x \\ y \end{matrix}] = [\begin{matrix} a * x + b * y \\ c * x + d * y \\ e * x + f * y \end{matrix}]

$\left[ \begin{matrix} a&b\\ c&d\\ e&f \end{matrix} \right] *\left[ \begin{matrix} x\\y \end{matrix} \right]=\left[ \begin{matrix} a*x+b*y\\ c*x+d*y\\ e*x+f*y \end{matrix} \right]$ 注：

A A $A$ 的列数必须与

x

$x$ 的行数相同。

矩阵间乘法：

A \times B = C

$A\times B=C$ 其中，

A A $A$ 为

m \times n

$m\times n$ 矩阵，

B B $B$ 为

n \times o

$n\times o$ 矩阵，

C C $C$ 为

m \times o

$m\times o$ 矩阵，

C C $C$ 的第

i

$i$ 列是

A A $A$ 乘以

B

$B$ 的第

i i $i$ 列，

C_{i j}

$C_{ij}$ 等于

A A $A$ 的第

i

$i$ 行元素乘以

B B $B$ 的第

j

$j$ 列元素，然后相加：

⎡ ⎣ ⎢ a c e b d f ⎤ ⎦ ⎥ * [w y x z] = ⎡ ⎣ ⎢ a * w + b * y c * w + d * y e * w + f * y a * x + b * z c * x + d * z e * x + f * z ⎤ ⎦ ⎥

$\left[ \begin{matrix} a&b\\ c&d\\ e&f \end{matrix} \right] *\left[ \begin{matrix} w&x\\ y&z \end{matrix} \right]=\left[ \begin{matrix} a*w+b*y&a*x+b*z\\ c*w+d*y&c*x+d*z\\ e*w+f*y&e*x+f*z \end{matrix} \right]$ 注：

A A $A$ 的列数必须与

B

$B$ 的行数相同。

线性回归： $Prediction=DataMatrix * Parameters$
预测值： $\left[ \begin{matrix} 2104\\ 1416\\ 1534\\ 852 \end{matrix} \right]$ ，三个假设函数： $\begin{cases} h_\theta(x)=-40+0.25x \\ h_\theta(x)=200+0.1x \\ h_\theta(x)=-150+0.4x \end{cases}$
求取 $h_\theta(x)$ ：

⎡ ⎣ ⎢ ⎢ ⎢ 1111210414161534852 ⎤ ⎦ ⎥ ⎥ ⎥ * [- 40 0.15 200 0.1 - 150 0.4] = ⎡ ⎣ ⎢ ⎢ ⎢ 486314344173410342353285692416464191 ⎤ ⎦ ⎥ ⎥ ⎥

$\left[ \begin{matrix} 1&2104\\ 1&1416\\ 1&1534\\ 1&852 \end{matrix} \right] *\left[ \begin{matrix} -40&200&-150\\ 0.15&0.1&0.4 \end{matrix} \right]=\left[ \begin{matrix} 486&410&692\\ 314&342&416\\ 344&353&464\\ 173&285&191 \end{matrix} \right]$

矩阵乘法原则：

A \times B \neq B \times A (A \times B) \times C = A \times (B \times C)

$A\times B\neq B\times A\\(A\times B)\times C=A\times (B\times C)$
单位矩阵：

I I $I$ 或

I_{n \times n}

$I_{n\times n}$
例：

[1001] ⎡ ⎣ ⎢ 100010001 ⎤ ⎦ ⎥

$\left[ \begin{matrix} 1&0\\ 0&1 \end{matrix} \right]\qquad \left[ \begin{matrix} 1&0&0\\ 0&1&0\\ 0&0&1 \end{matrix} \right]$
原则：

A⋅I=I⋅A=A(即：Am×n⋅In×n=Im×m⋅Am×n=Am×n) A ⋅ I = I ⋅ A = A ( 即： A m × n ⋅ I n × n = I m × m ⋅ A m × n = A m × n ) $A\cdot I=I\cdot A=A(即：A_{m\times n}\cdot I_{n\times n}=I_{m\times m}\cdot A_{m\times n}=A_{m\times n})$

逆矩阵：不是所有矩阵都有逆矩阵，只有 $m\times m$ 的矩阵才有可能有逆矩阵，若有，表示为 $A^{-1}$ 。
原则： $AA^{-1}=A^{-1}A=I$
在 $Octave$ 中，求矩阵 $A$ 的逆矩阵用 $pinv(A)$
若矩阵不存在逆矩阵，称为奇异矩阵或退化矩阵。