Tackling Data Heterogeneity in Federated Learning with Class Prototypes, AAAI 2023

Tackling Data Heterogeneity in Federated Learning with Class Prototypes

作者举了个栗子

分割线————————————————————————————————————————

当采用不平衡的训练数据集进行训练后，得到的Prototypes(虚线) 和 Representations(圆点)就很差。不同类样本的特征都重叠了，也就不容易进行分类。当采用uniform head（是固定分类头吗？）后，该问题得以解决。因此作者说我们要发放一致且固定（uniform and fixed）的Prototypes（咋弄的哩？）来协助不平衡的数据集进行训练。

作者提出方法

首先作者提了两个问题：

1. 怎么搞出来高质量（彼此分得很开）的Prototypes？
   通过一种方法初始化分类器头，看不明白。