矩阵 A T A A^{T}A ATA 是否一定正定?NO!
注意,并不要求
A
A
A 是方阵,记
A
A
A 是
m
×
n
m\times n
m×n 的矩阵。则
x
T
A
T
A
x
=
(
A
x
)
T
A
x
=
∥
A
x
∥
2
≥
0
x^{T}A^{T}Ax=(Ax)^{T}Ax= \lVert Ax\rVert^{2} \ge 0
xTATAx=(Ax)TAx=∥Ax∥2≥0
其中
x
x
x 是
n
×
1
n\times 1
n×1 的向量,
A
T
A
A^{T}A
ATA 是
n
×
n
n\times n
n×n 的方阵。
由上面的不等式我们知道 A T A A^{T}A ATA 是半正定的。
而且,
- 如果 m = n m = n m=n , A T A A^{T}A ATA 是正定的当且仅当 A A A 是可逆矩阵(满秩)。
- 当 m < n m < n m<n , A T A A^{T}A ATA 一定是半正定的。
- 当 m > n m >n m>n ,看具体矩阵,可能正定,可能半正定。
附录:
关于 case 1的证明,取
y
=
A
x
y=Ax
y=Ax
则
x
T
A
T
A
x
=
(
A
x
)
T
A
x
=
y
T
y
x^{T}A^{T}Ax=(Ax)^{T}Ax=y^{T}y
xTATAx=(Ax)TAx=yTy
注意一个显而易见的事实,
y
T
y
≥
0
y^Ty \ge 0
yTy≥0 永远成立。
当 y T y = 0 y^Ty=0 yTy=0 意味着 y = 0 ⃗ y=\vec{0} y=0 ,注意 y = A x y=Ax y=Ax,即 A x = 0 ⃗ Ax = \vec{0} Ax=0 ,当 A A A 满秩 该方程才只有唯一零解,得证。
关于 case2 的证明:
由于
r
a
n
k
(
A
)
≤
m
i
n
{
m
,
n
}
=
m
<
n
rank(A) \le min\{m,n\}=m<n
rank(A)≤min{m,n}=m<n
又
y
=
A
x
=
0
⃗
y=Ax= \vec{0}
y=Ax=0 方程的基础解系的秩 等于
n
−
r
a
n
k
(
A
)
>
0
n-rank(A) >0
n−rank(A)>0
所以,存在 非零向量 使得
y
=
A
X
=
0
⃗
y=AX=\vec{0}
y=AX=0
这不符合 正定的定义。