【仅是对自己今天遇到的两个问题的浅显理解,如有不对敬请指正,如有补充也请不吝赐教】
1.Triplet loss 和 cross entropy loss的区别
CE的本质是用于分类的一个损失函数,目标是将每一类的类别分到他所属的那一类的类别的概率是最大的,在全局上也是最大的。
Triplet loss的优化目标是基于两个样本对(正负样本对),使得正样本对之间的距离比负样本对之间的距离足够的小。
即两者的优化目标是不一样的。
关于优缺点
CE在全局上能将各个类分开,缺点是类间的差距可能不会很大。
Triplet loss的优化目标是强调类内差距小,类间差距大,对于个体识别的能力会更强,但单独使用在全局上可能会每一类之间的分布不是很均匀。
所以在Re-id上一般会将CE+Triplet loss 一起使用,既可以保证全局,又可以使得类内距离小,类间距离大。
对于传统的分类问题,用CE就可以了。
损失函数
损失函数
2.Domain adaption和Domain generalization的区别
首先理解的DA是在source domain上学习之后,在特定的target domain上能有比较好的结果。DG是在source domain上学到一个通用的特征表示之后,希望它能在其他的任何target domain上都有比较好的效果。