线性代数

线性空间与基

实系数线性空间是一个由向量组成的集合, 向量之间可以做加减法, 向量与实数之间可以做乘法, 而且这些加, 减, 乘运算要求满足常见的交换律和结合律, 我们也可以类似的定义其他系数的线性空间

举例(线性空间)
有原点的平面

• 如果平面有一个原点$O$, 那么平面上任何一个点$P$, 都对应着一个向量$\overrightarrow{OP}$
• 这些向量以及它们的运算结构放在一起, 就组成一个向量空间

基是线性空间里的一组向量, 使得任何一个向量都可以唯一的表示成这组基的线性组合

举例(坐标空间)
有原点的平面, 加上一组基 { X ⃗ , Y ⃗ } \{\vec{X},\vec{Y}\} {X ,Y }

• 任何一个向量$\overrightarrow{OP}$, 都可以唯一表达成$\overrightarrow{OP}=a\vec{X}+b\vec{Y}$的形式
• $(a,b)$就是$P$点的坐标

基给出了定量描述线性结构的方法: 坐标系
基的选择取决于要研究的问题

线性映射与矩阵

线性映射

$V$和$W$是两个实线性空间, $T:V\to W$如果满足如下条件就是一个线性映射
$$(i)T(v_1+v_2)=T(v_1)+T(v_2),\forall v_1,v_2\in V$$
$$(ii)T(\lambda v)=\lambda T(v),\forall \lambda \in \mathbb{R},v\in V$$

• 线性映射的本质就是保持线性结构的映射
• 到自身的线性映射$T:V\to V$叫做线性变换

线性变换的矩阵描述

$V,W$分别为$n,m$维的线性空间, α = { α 1 , … , α n } , β = { β 1 , … , β m } \alpha=\{\alpha_1,\ldots,\alpha_n\},\beta=\{\beta_1,\ldots,\beta_m\} α={α1​,…,αn​},β={β1​,…,βm​}分别为$V,W$的一组基, $T:V\to W$是一个线性映射, 于是$T,\alpha ,\beta$唯一决定一个矩阵$A_{\alpha ,\beta }(T)=[A_{ij}{]}_{m\times n}$, 是的
$$T(a_j)=\sum _{i=1}^m{A}_{ij}\ast {\beta }_i,\forall j\in 1,\dots ,n$$
等价于
$$T({\alpha }_1,\dots ,{\alpha }_n)=({\beta }_1,\dots ,{\beta }_m)\cdot A_{\alpha ,\beta }(T)$$
简记为
$$T(\alpha )=\beta \cdot A_{\alpha ,\beta }(T)$$
基变换下的矩阵变换公式的推导方法
$$Q\cdot A_{\widetilde{\alpha ,\stackrel{~}{\beta }}}(T)\cdot P^{-1}=A_{\alpha ,\beta }(T)$$

线性回归

• 模型: $y={\beta }_0+{\beta }_1{x}_1+\cdots +{\beta }_k{x}_k+ϵ$余项$ϵ$服从正态分布$N(0,\sigma )$
• 数据: 样本$\ast Y_i,X_{i1},\dots ,X_{ik},1\le i\le n$
• 目的: 估计参数${\beta }_1,\dots ,{\beta }_k$