用分类模型做排序任务时 margin 的必要性


分类任务的目标是“ 最靠近所属类的中心”, 但排序时是对 所有样本距离从小到大来排序。这会遇到如下困境:z1属于c1,但离z2较近,检索做排序时则会把z2排到其他c1类样本的前边,要解决这个问题,则需要z1与z3的距离小于z1与z2的距离,即“ 类内差距小于类间差距”。
在这里插入图片描述

三角不等式

平时,我们说的距离一般指比较直观的“欧氏距离”,但在数学上距离,距离又叫“度量”,它有公理化的定义,是指定义在某个集合上的二元函数 d ( x , y ) d(x, y) d(x,y),满足:

在这里插入图片描述

类内差距小于类间差距推到

在这里插入图片描述
其中已知条件利用了 4:三角不等式

AM-Softmax

通过上面的推导,我们知道为了保证分类模型的特征可以用于排序,那么每个样本不仅仅要最靠近类中心,而且是距离加上 m 之后还要最靠近类中心,即如果 z1 属于类 c1 的话,那么就要求:
在这里插入图片描述
注意:小知识:
在这里插入图片描述
在这里插入图片描述
引用:https://mp.weixin.qq.com/s/0jrwTHYxotzEO21Ge_-gcQ

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值