thresholding(阈值化)

        在蒸馏学习(Distillation Learning)中,"thresholding"(阈值化)通常指的是将概率分布转化为二元输出的过程。这一过程的目的是为了简化模型的复杂性,特别是在将一个大型模型的知识迁移到一个小型模型时。
        在蒸馏学习中,通常有一个教师模型(大型复杂模型)和一个学生模型(小型简化模型)。教师模型已经被训练得很好,而学生模型则需要通过蒸馏学习从教师模型中提取知识。
阈值化的过程涉及到将教师模型输出的概率分布转化为硬性的决策,即将概率值大于某个设定的阈值的类别作为最终的输出。这样的阈值化过程有助于将教师模型的复杂输出变为更简单的输出,从而适应学生模型。
        总体来说,thresholding在蒸馏学习中起到了简化输出、降低模型复杂度的作用,有助于在保持性能的同时减小学生模型的规模。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值