A
列
向
量
线
性
无
关
,
对
A
正
交
化
的
过
程
,
A
m
,
n
T
n
,
n
=
Q
m
,
n
两
边
同
时
乘
T
的
逆
记
为
R
A
=
Q
R
n
,
n
A列向量线性无关,对A正交化的过程,\\A_{m,n}T_{n,n}=Q_{m,n}\\两边同时乘T的逆记为R\\ A=QR_{n,n}
A列向量线性无关,对A正交化的过程,Am,nTn,n=Qm,n两边同时乘T的逆记为RA=QRn,n
可
以
表
述
为
A
在
新
的
基
标
准
正
交
基
Q
中
用
R
表
示
[
a
1
a
2
a
3
]
=
[
q
1
q
2
q
3
]
[
q
1
t
a
1
q
1
t
a
2
q
1
t
a
3
q
2
t
a
2
q
2
t
a
3
q
3
t
a
3
]
(
R
=
Q
T
A
)
可以表述为A在新的基标准正交基Q中用R表示\\ [a_1\ a_2\ a_3]=[q_1\ q_2\ q_3]\begin{bmatrix}q_1^ta_1&q_1^ta_2&q_1^ta_3\\&q_2^ta_2&q_2^ta_3\\&&q_3^ta_3\end{bmatrix}(R=Q^TA)
可以表述为A在新的基标准正交基Q中用R表示[a1 a2 a3]=[q1 q2 q3]⎣⎡q1ta1q1ta2q2ta2q1ta3q2ta3q3ta3⎦⎤(R=QTA)
最小二乘法
A x = b , 当 b 不 在 A 的 列 空 间 时 希 望 ∣ ∣ b − A x ˉ ∣ ∣ 最 小 几 何 上 解 释 为 b 到 列 空 间 投 影 的 垂 直 长 度 最 小 Ax=b,当b不在A的列空间时希望||b-A\bar x||最小\\几何上解释为b到列空间投影的垂直长度最小 Ax=b,当b不在A的列空间时希望∣∣b−Axˉ∣∣最小几何上解释为b到列空间投影的垂直长度最小
b
−
A
x
ˉ
与
A
的
列
空
间
正
交
。
A
t
∗
(
b
−
A
x
ˉ
)
=
0
A
t
A
x
ˉ
=
A
t
∗
b
解
出
x
ˉ
=
(
A
t
A
)
−
1
A
t
b
,
投
影
为
A
x
ˉ
=
A
(
A
t
A
)
−
1
A
t
b
,
称
A
(
A
t
A
)
−
1
A
t
为
投
影
矩
阵
若
A
列
向
量
线
性
无
关
,
带
入
A
=
Q
R
后
其
中
Q
t
Q
=
I
,
R
x
ˉ
=
Q
t
b
b-A\bar x与A的列空间正交。A^t*(b-A\bar x)=0\\ A^tA\bar x=A^t*b解出\bar x=(A^tA)^{-1}A^tb,投影为A\bar x=A(A^tA)^{-1}A^tb,称A(A^tA)^{-1}A^t为投影矩阵\\ 若A列向量线性无关,带入A=QR后\\ 其中Q^tQ=I,R\bar x=Q^tb\\
b−Axˉ与A的列空间正交。At∗(b−Axˉ)=0AtAxˉ=At∗b解出xˉ=(AtA)−1Atb,投影为Axˉ=A(AtA)−1Atb,称A(AtA)−1At为投影矩阵若A列向量线性无关,带入A=QR后其中QtQ=I,Rxˉ=Qtb
若
A
的
列
向
量
线
性
无
关
,
A
t
A
一
定
是
可
逆
对
称
方
阵
若A的列向量线性无关,A^tA一定是可逆对称方阵
若A的列向量线性无关,AtA一定是可逆对称方阵