优化矩阵行列式为零

问题描述

现有 { H i } \{\rm H_i\} {Hi​}需要优化使得它们的行列式尽量接近0，并且尽量稀疏。

直接思路

添加能量项$\mathrm{M}\mathrm{a}\mathrm{t}\mathrm{r}\mathrm{i}\mathrm{x}\_\mathrm{l}\mathrm{o}\mathrm{s}\mathrm{s}={\sum }_{\mathrm{i}}|{\mathrm{H}}_{\mathrm{i}}|$，然后直接优化。

结果

收敛速度有点慢，而且没有想象中那么稀疏。

低秩优化

优化 { H i } \{\rm H_i\} {Hi​}的秩，使得它的秩小于它的行列数的最小值，此时行列式必然为0。

1. 对其进行svd分解，得到奇异值。
2. 惩罚其最小奇异值，使其尽量接近0。

难点：找到最小奇异值需要用的min操作，其本身不可微分。

转化思路：

1. 设${\mathbf{u}}_i,{\mathbf{z}}_i,{\mathbf{v}}_i=svd({\mathrm{H}}_{\mathrm{i}})$，将${\mathbf{z}}_i$中最小值设为0，得到${\hat{\mathbf{z}}}_{\mathbf{i}}$
2. 计算${\hat{\mathrm{H}}}_{\mathbf{i}}={\mathbf{u}}_i\ast {\hat{\mathbf{z}}}_{\mathbf{i}}\ast {{\mathbf{v}}_{\mathbf{i}}}^T$
3. 设$\mathrm{M}\mathrm{a}\mathrm{t}\mathrm{r}\mathrm{i}\mathrm{x}\_\mathrm{l}\mathrm{o}\mathrm{s}\mathrm{s}={\sum }_{\mathrm{i}}|{\mathrm{H}}_{\mathrm{i}}-{\hat{\mathrm{H}}}_{\mathbf{i}}{|}_{\mathrm{F}}$

结果

下降速度很快，而且效果很好。