【论文阅读】Self-Knowledge Distillation with Progressive Refinement of Targets

系列文章目录



【阅读笔记】【知识蒸馏】Self-Knowledge Distillation with Progressive Refinement of Targets

阅读笔记,非全文翻译


问题

  1. KL散度

Abstract

  • 提出了一个简单有效的正则方法:Progressive self-knowledge distillation (PS-KD),在训练过程中蒸馏自己的知识。
  • 一个模型既是教师,也是学生,即自己教自己。
  • 训练目标是由ground-truth和模型自己之前预测的结果组合而成的
  • 除了提升accuracy准确率,PS-KD还对calibration等指标有帮助
  • 开源代码

Introduction

  • 标签平滑LS的问题:有无更有效的方法来平滑标签,以获得更informative的标签
  • 作者提出PS-KD,从模型自身中蒸馏出知识来软化标签,再训练自己
  • 即使教师不如学生,学生也可以被加强
  • PS-KD可以被用在任意监督学习上,只要他的方法是使用groundtruth作为硬标签

相关工作

  • KD是用更大更好的网络产生软目标来训练学生网络
  • 有人尝试用学生自己训练自己,称为self-knowledge distillation
  • 有人尝试以减小相似图片特征的距离来训练网络
  • 有人提出class-wise self KD,关注同类别的样本,最小化两个样本在训练过程中的KL散度,该方法过拟合严重
  • 有人提出再生神经网络BANs
  • 有人提出TF-KD方法,用预训练的学生作为一个老师
  • 有人把DNN划分成几个块,然后分别加上辅助的分类器
  • 有人在特定epoch做一个snapshot作为老师
  • 本文的PS-KD:①不需要pretrained,如BANs和TFKD;②可以简单应用到监督学习上;③即使学生被一个poor的教师知道,KD也能起作用,使学生表现(更?)好

在这里插入图片描述

自知识蒸馏(Self-Knowledge Distillation)

3.1 知识蒸馏作为软目标

3.2 从上一次预测中蒸馏知识

  • 加强泛化能力
  • 在这里插入图片描述
  • 使用t-1代的模型作为老师,因为它能提供最有价值的信息
  • α控制了我们有多相信从老师那里获取的知识
  • PS-KD(本文方法)中,老师的可信赖度是在变化的,因此alpha要变化,逐渐增加
  • 在这里插入图片描述
  • 最终的Loss:最终Loss

理论支持

实现

  • 用上一轮的模型,而不是保存上一轮的预测结果(太大了)

4 实验结果

4.1 CIFAR-100 分类

实验设置

实验Metrics

  • top1、top5作为准确率
  • NLL,ECE,AURC(越低越好)作为confidence的度量

实验结果

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

4.2 ImageNet 分类任务

尽管t-1代的知识可能过时了(因为t代会使用很多数据再学习一遍),但还是观察到了PS-KD对结果的提升。

实验设置

  • ResNet深度152,其他略

结果

在这里插入图片描述
在这里插入图片描述

  • PS-KD不管是分类对了还是错了,在看起来相似的类别上,都有更高的预测概率
  • baseline过度自信,分类错了

4.3 目标检测

  • Dataset
  • Baseline:Faster R-CNN,VGG-16换成ResNet-152
  • Methods:ResNet-152,with LS,PSKD,CSKD,TFKD,PSKD+CutMix
    在这里插入图片描述
  • ResNet-152 with PSKD显著提升性能。
  • PSKD with CutMix效果更好。
  • 以上结果,只是替换了检测算法中的backbone network (VGG16–>Resnet152),PSKD使backbone network更强壮

4.4 机器翻译

  • 翻译实验(【疑问】分类在token级别,而不是input级别
  • Baseline:Transformer
    在这里插入图片描述
  • PSKD得到了最好的BLEU分数

5 结论

  • 提供了理论证明
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值