Moore-Penrose 伪逆与 Hadamard 乘积

1.1 Moore-Penrose 伪逆

Moore-Penrose 伪逆

Moore-Penrose 伪逆是一种矩阵的广义逆，通常用于处理矩阵不可逆或奇异的情况。给定一个矩阵 A，其Moore-Penrose 伪逆通常表示为 A⁺。

计算方法

计算Moore-Penrose 伪逆的一种常见方法是使用奇异值分解（Singular Value Decomposition，SVD）。

假设 A 是一个大小为 m × n 的矩阵，其SVD为 A = U Σ Vᵀ，其中 U 和 V 是正交矩阵(正交矩阵是指其转置等于逆的矩阵，假设A是一个n阶方阵，Aт是A的转置，如果有AтA=E（单位矩阵），则称A是正交矩阵。)，Σ 是对角矩阵，对角线上的元素称为奇异值。

Moore-Penrose 伪逆通过以下方式计算：

[ A⁺ = V Σ⁺ Uᵀ ]

其中，Σ⁺ 是将 Σ 中非零奇异值取倒数后再转置得到的对角矩阵。

性质

Moore-Penrose 伪逆具有以下性质：

1. 存在性： 对于任意矩阵 A，其Moore-Penrose 伪逆 A⁺ 总是存在。

2. 唯一性： 每个矩阵都有唯一的Moore-Penrose 伪逆。

3. 性质：

   • 对称性：(A⁺)⁺ = A

   • 幂等性：A A⁺ A = A

   • A⁺ A 和 A A⁺ 都是投影矩阵，即幂等矩阵。

1.2 矩阵A 和 B 的逐元素乘积（ Hadamard 乘积）

当两个矩阵 (A) 和 (B) 进行逐元素乘积，也被称为 Hadamard 乘积时，可以使用如下的 Markdown 格式表示：

[ C = A \odot B ]

其中，(C{ij} = A{ij} \cdot B_{ij})，表示 (C) 的第 (i) 行第 (j) 列的元素等于 (A) 的相应元素与 (B) 的相应元素相乘。

数学表示为：

C = | A_{11} * B_{11}  A_{12} * B_{12}  ...  A_{1n} * B_{1n} |
    | A_{21} * B_{21}  A_{22} * B_{22}  ...  A_{2n} * B_{2n} |
    | ...              ...              ...  ...             |
    | A_{m1} * B_{m1}  A_{m2} * B_{m2}  ...  A_{mn} * B_{mn} |

这种逐元素的乘积运算在许多领域中都有应用，特别是在数值计算、信号处理、图像处理以及深度学习等领域。 Hadamard 乘积与矩阵的标准矩阵乘法有所不同，标准乘法是将行与列的对应元素相乘再相加，而 Hadamard 乘积仅仅是对应位置的元素相乘，结果矩阵的维度与原始矩阵相同。