机器学习的数学基础（二、线性代数）（阅读笔记------1.行列式）

机器学习的数学基础-（二、线性代数）
原文链接：https://zhuanlan.zhihu.com/p/36584206

推荐 同济大学数学系编写的《工程数学------线性代数》第六版
出版社:高等教育出版社 出版时间:2014年06月
稳居当当教科书畅销书单前列。

1. 行列式

1.1. 二阶与三阶行列式

用消元法求解二元线性方程组，由此引入二阶行列式，并扩展到三阶行列式。

1.2. 全排列与对换

当某个元素的先后次序与标准次序不同时，就说它构成了一个逆序。
一个排列中所有逆序的总数叫做这个排列的逆序数。
逆序数为奇数的队列叫做奇排列。逆序数为偶数的队列叫做偶排列。
定理 一个排列中的任意两个元素对换，排列改变奇偶性。

1.3. n阶行列式的定义

假设有$n^2$个数，排成n行n列的数表

$$\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1m}\\ a_{21}& a_{22}& \cdots & a_{2m}\\ ⋮& ⋮& \ddots & ⋮\\ a_{n1}& a_{n2}& \cdots & a_{nm}\end{array}$$

作出表中位于不同行不同列的n个数的乘积，并冠以符号$(-1{)}^t$，得到形如
$$\begin{array}{ccc}(-1{)}^t{a}_{1p_1}{a}_{2p_2}& ...& a_{n{p}_n}\end{array}$$
的项，其中$p_1{p}_2...p_n$为自然数$1,2,...,n$的一个排列，t为这个排列的逆序数。由于这样的排列共有n！个，因为形如上式的项共有n！项。所有这n！项的代数和
$$\begin{array}{ccc}\sum (-1{)}^t{a}_{1p_1}{a}_{2p_2}& ...& a_{n{p}_n}\end{array}$$
称为n阶行列式（n-order determinant），记作
$$D=\left|\begin{array}{cccc}{a}_{11}& a_{12}& ...& a_{1n}\\ a_{21}& a_{23}& ...& a_{2n}\\ & & .........& \\ a_{n1}& a_{n3}& ...& a_{nn}\end{array}\right|$$
主对角线以下（上）的元素都为0的行列式叫做上（下）三角形行列式。
主对角线以下和以上都为0的行列式叫做对角行列式。

1.4. 行列式的性质

性质1 行列式与它的转置行列式相等。
性质2 对换行列式的两行（列），行列式变号。
性质3 行列式的某一行（列）中所有元素都同乘同一个数k，等于用数k乘以此行列式。
性质4 行列式中如果有两行（列）元素成比例，则此行列式等于零。
性质5 若行列式的某一行（列）的元素都是两数之和：
$$D=\left|\begin{array}{cccc}{a}_{11}& a_{12}& ...& a_{1n}\\ & & .........& \\ a_{i1}+a_{i1}^{{}^{\prime }}& a_{i2}+a_{i2}^{{}^{\prime }}& ...& a_{in}+a_{in}^{{}^{\prime }}\\ & & .........& \\ a_{n1}& a_{n3}& ...& a_{nn}\end{array}\right|$$
则D等于下列两个行列式之和：
$$D=\left|\begin{array}{cccc}{a}_{11}& a_{12}& ...& a_{1n}\\ & & .........& \\ a_{i1}& a_{i2}& ...& a_{in}\\ & & .........& \\ a_{n1}& a_{n3}& ...& a_{nn}\end{array}\right|+\left|\begin{array}{cccc}{a}_{11}& a_{12}& ...& a_{1n}\\ & & .........& \\ a_{i1}^{{}^{\prime }}& a_{i2}^{{}^{\prime }}& ...& a_{in}^{{}^{\prime }}\\ & & .........& \\ a_{n1}& a_{n3}& ...& a_{nn}\end{array}\right|$$
性质6 把行列式的某一行（列）的各元素乘同一个数然后加到另一行（列）对应的元素上去，行列式不变。

1.5. 行列式按行（列）展开

在n阶行列式中，把（i，j）元$a_{ij}$所在的第i行和第j列划去后，留下来的n-1阶行列式叫做（i，j）元$a_{ij}$的余子式，记作$M_{ij}$;记
$$A_{ij}=(-1{)}^{i+j}{M}_{ij}$$
$A_{ij} $叫做（i，j）元$a_{ij}$的代数余子式。

引理 一个n阶行列式，如果其中第i行所有元素除（i，j）元$a_{ij}$外都为零，那么这个行列式等于$a_{ij}$与它的代数余子式的乘积，即
$$D=a_{ij}{A}_{ij}$$

定理2 行列式等于它的任一行（列）的各元素与对应的代数余子式乘积之和，即
$$D=a_{i1}{A}_{i1}+a_{i2}{A}_{i2}+...+a_{in}{A}_{in}(i=1,2,...,n)$$

或

$$D=a_{1i}{A}_{1i}+a_{2i}{A}_{2i}+...+a_{ni}{A}_{ni}(i=1,2,...,n)$$

这个定理叫做行列式按行（列）展开法则。

范德蒙德（Vandermonde）行列式
$$D_n=\left|\begin{array}{cccc}1& 2& ...& 1\\ x_1& x_2& ...& x_n\\ x_1^2& x_2^2& ...& x_n^2\\ & & .........& \\ x_1^{n-1}& x_2^{n-1}& ...& x_n^{n-1}\end{array}\right|=\prod _{n\ge i\ge j\ge 1}(x_i-x_j)$$

推论 行列式某一行（列）的元素与另一行（列）的对应元素的代数余子式乘积之和等于零，即
$$D=a_{i1}{A}_{j1}+a_{i2}{A}_{j2}+...+a_{in}{A}_{jn}(i\ne j)$$

或

$$D=a_{1i}{A}_{1j}+a_{2i}{A}_{2j}+...+a_{ni}{A}_{nj}(i\ne j)$$