【看看这长尾学习】Re-Weight EQLv2

Equalization Loss v2: A New Gradient Balance Approach for Long-tailed Object Detection

论文观点与表现：

• 长尾学习的问题是正负样本梯度不平衡导致的
• EQLV2是一个梯度调整机制，能够独立和公平的重新平衡每个类别
  • 三个思考:
    • 梯度调整机制怎么调？
    • 独立平衡每个类别，是如何做到的？
    • 公平的平衡方法，怎么样实现并且对于头部数据影响如何？
      

实现原理：

• EQLossv2的实例和任务：

  • 一个实例有1个正标签、有$\mathcal{C}-1$个负标签；并且期望只有正标签类别的置信度分数比较高、其他类别的置信度分数低,为实现有以下操作：
    • 计算Positive samples $m_j^{pos}$
    • 计算Negative samples $m_j^{neg}$
    • Positive and Negative Samples ratio: $(n_j)/(N-n_j)$ -----$N$表示样本总数目、$n_j$表示$j$类的样本数目。
      

• EQLlossv2的梯度重加权

  • 明确一个问题： $m_j^{pos}\ll$ $m_j^{neg}$,对于尾部数据而言必然遵从、而对于头部数据可能为 $m_j^{pos}\le$ $m_j^{neg}$

  • 对于神经网络而言，大量的Easy Negative 起到的作用可能小于少部分的Hard Positives

  • 进一步提出EQLv3的重加权：

    • 核心观念是：提高正样本权重比例，降低负样本的权重。