[论文分享] DANMF：像自编码器（Autoencoder）一样的深度非负矩阵分解（DNMF）算法

Deep Autoencoder-like Nonnegative Matrix Factorization for Community Detection 论文解析

往期相关推送（持续更新中！）：

[ICASSP 2024] CDNMF: 一个可信且高效的社区检测（社区发现，图聚类，Community Detection）方法-CSDN博客

[论文分享] 深度矩阵分解（Deep Matrix Factorization）综述-CSDN博客 

Motivations

• 目前，基于NMF的社区检测方法都是浅层方法。在原始网络和社区成员空间之间只有一个或两个层映射。考虑到现实世界网络复杂多样的组织模式，原始网络和社区成员空间之间的映射极有可能包含复杂的层次和结构信息，这是基于浅层 NMF 的社区检测方法无法解释的。自然，在检测效果上也有待提升。
• AE是一种具有较强特征表达能力的无监督dl方法，但其存在dl固有的缺点：对训练结果的解释性弱。

Contributions

综合深度自动编码器较强的特征表示学习能力，同时保留了NMF的可解释性，该论文提出了深度自编码非负矩阵分解方法。DANMF通过进一步分解特征矩阵，增加了节点之间相似性的额外抽象层，更精准地从原始图空间映射到社区成员空间。

Proposed Method

​

• 目标函数的构建：此目标函数旨在同时优化编、解码器组件,同时包含了一个图正则项。非负约束的出现即实现了类似dl激活函数ReLu的非线性变换,又保留了NMF的可解释性。

​

• 优化方式：

1、初始化：多层矩阵分解（预训练可以适当减少算法收敛时间）

2、微调：块坐标下降+kkt条件

块坐标下降：将总的优化问题分解为三个子问题，做交替更新

​

​

​

对每个子问题，应用kkt条件，推导出分解因子的迭代式。

最后，依次迭代更新至达到预设的收敛条件：

Experiments

• DANMF实现了更低的编码和重建误差（虽然PNMF实现了编码0误差，但它的解码误差过大，没有实际价值。

​

• 在三种不同的评价指标下，DANMF社区检测结果优于其他浅层的非负矩阵分解算法以及各网络嵌入方法 

​

References

[1] Li Y, Chen J, Chen C, et al. Contrastive Deep Nonnegative Matrix Factorization for Community Detection[J]. arXiv preprint arXiv:2311.02357, 2023.

[2] Li Y, Hu Y, Fu L, et al. Community-Aware Efficient Graph Contrastive Learning via Personalized Self-Training[J]. arXiv preprint arXiv:2311.11073, 2023.

[3] Ye F, Chen C, Zheng Z. Deep autoencoder-like nonnegative matrix factorization for community detection[C]//Proceedings of the 27th ACM international conference on information and knowledge management. 2018: 1393-1402.   

Tips

相似性：AE的解码器部分与Deep NMF在结构上有着高度的相似性，我觉得这是两者结合‘1+1>2’的基础。

​

AE decoder: ​ ​

Deep NMF: ​ ​

DANMF在保留NMF的可解释性（使用非负条件取代了激活函数g(x)）的基础上，新增了编码器部件，提高了模型的特征表示能力，从而达到卓越的聚类效果。