不平衡问题相关讨论（2022/06/02）

Delving into Deep Imbalanced Regression

实验设置

vanilla是一个模型，有着不平衡问题。

结合LDS

为了将vanilla模型与LDS相结合，通过将损失函数乘以每个目标箱的LDS估计密度的倒数来重新加权损失函数。

结合FDS

与FDS的结合则是把该方法结合到特征的提取之后，在做最后的回归之前，即使用FDS对提取的特征进行一个修正。

结合的不平衡算法

• 样本合成：SMOTER 和 SMOGN 。 SMOTER 首先使用原始标签密度定义频繁和稀有区域，并通过对输入和目标进行线性插值，为预定义的稀有区域创建合成样本。SMOGN 进一步将高斯噪声添加到 SMOTER。
• Error-aware loss：Focal-R,
• Two-stage training：RRT，特征和分类器分两个阶段进行解耦和训练，在第一阶段中，我们正常训练编码器，在第二阶段中，冻结编码器并使用反向重新加权重新训练回归器$g(.)$。
• Cost-sensitive re-weighting：SQINV, 逆频率加权（INV）及其平方根加权变量（SQINV）。