r语言中正定矩阵由于误差不正定_【线性代数】详解正定矩阵、实对称矩阵、矩阵特征值分解、矩阵 SVD 分解

前言

本文主要针对线性代数中的正定矩阵、实对称矩阵、矩阵特征值分解以及矩阵 SVD 分解进行总结。

如果你对这篇文章可感兴趣，可以点击如下卡片，查看完整博客分类与对应链接。

【访客必读 - 指引页】一文囊括主页内所有高质量博客​gene-liu.blog.csdn.net

---

正定矩阵

概念

对于任意非零向量

，若

恒成立，则矩阵

为正定矩阵；若

恒成立，则矩阵

为半正定矩阵。

其他充要条件

• 充要条件1： 矩阵
  的全部特征值都是正数
  • 推论： 若
    正定，则
    ，即
    可逆（有时会根据矩阵正定来判断是否可逆）
  • 推论： 若
    正定，则
    与单位阵合同，即存在可逆阵
    ，使得
    成立
• 充要条件2： 矩阵
  的各阶顺序主子式都是正数，即
  • 其中
    表示矩阵
    前
    行与前
    列组成的子矩阵的行列式的值

---

实对称矩阵

概念

矩阵为方阵，其中元素均为实数，且

。

性质

• 性质1： 实对称矩阵的特征值都是实数。
  • 假设
    、
    分别为矩阵
    的特征值、特征向量，即
  • 等式两边取共轭，即
    ，
    ，
    是实对称矩阵，因此
    ，即
  • 等式两边取转置，则
  • ，由于
    ，因此
    ，
    为实数
• 性质2： 实对称矩阵不同特征值所对应的特征向量必定正交。
  • 假设
    与
    成立
  • ，因此
    与
    正交

• 性质3： 实对称矩阵相同特征值所对应的特征向量必定线性无关。
  • 证明较繁琐，不详细展开
  • 线性无关的向量可以通过施密特正交化转为正交向量
    • 对于线性无关向量组
      ，转为正交向量组
  • 由于新的正交向量都是原来线性无关向量的线性组合，而原先的线性无关向量对应的特征值均相同，因此新的正交向量也均为该相同特征值对应的特征向量

• 性质4： 任何一个实对称矩阵，都可以正交对角化。
  • 正交对角化，即存在一个正交矩阵
    使得
    ，其中
    是一个对角矩阵
  • 实对称矩阵，一定有
    个解，因为实对称矩阵特征值都是实数，因此一共有
    个实特征值（包括重特征值）—— 性质
  • 不同特征值对应的特征向量正交，相同特征值也一定存在对应的正交向量 —— 性质
  • 实对称矩阵，一定有
    个正交特征向量，因此可以特征值分解，即该性质成立

---

矩阵特征值分解

概念

的方阵

，由

可以得到

。

• 如果方阵
  有
  个线性无关的特征向量，则
  可逆
• 其中矩阵
  的列为方阵
  的特征向量，

---

矩阵 SVD 分解

概念

任意一个矩阵

都可以分解为

，其中

均为正交单位矩阵，

为对角矩阵。

证明

• ，由于
  为实对称矩阵，因此
  为矩阵
  对应特征向量组成的正交单位阵。
• ，由于
  为实对称矩阵，因此
  矩阵
  对应特征向量组成的正交单位阵。
• ，其中
  为对角阵，因此
  ，由此可以得到对角矩阵
  ，其中
  就是奇异值。