![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
文献
文章平均质量分 77
HoraceO
everyone is geniusฅ՞•ﻌ•՞ฅ
展开
-
基于知识蒸馏的心律失常分类模型
期刊:电子设计工程时间:2022研究院:中国科学院微电子研究所,硕士关键词:心律失常;卷积神经网络;注意力;知识蒸馏。原创 2022-11-05 16:02:43 · 705 阅读 · 1 评论 -
基于知识蒸馏的单幅图像去雾方法
期刊:计算机工程 C时间:2022研究院:南京邮电大学关键词:图像去雾;生成对抗网络;知识蒸馏;教师网络;学生网络。原创 2022-11-05 00:51:38 · 1291 阅读 · 1 评论 -
基于知识蒸馏的车辆可行驶区域分割算法研究
2014 年 ,Long J[1] 等人提出使用全卷积神经网络 (Fully Convolutional Networks,FCN)对图像进行语义分割,这是卷积神经网络在图像分割领域的首次成功应用Olaf Ronneberger[2]等人提出一种用于医疗图像分割的 U 形网络 U-net,该方法最大的贡献在于提出了将图像编码与解码进行融合的思想。原创 2022-11-05 00:18:46 · 289 阅读 · 0 评论 -
基于知识蒸馏的差异性深度集成学习
期刊:浙江科技学院学报时间:2021研究院:浙江科技学院学报关键词:知 识 蒸 馏;差 异 性 集 成;深 度 神 经 网 络。原创 2022-11-01 17:19:58 · 126 阅读 · 0 评论 -
基于知识蒸馏的YOLOv3算法研究
期刊:计算机工程与应用 C时间:2022研究院:重庆大学 研究生关键词:知识蒸馏;模型压缩;目标检测;YOLOv3。原创 2022-11-01 09:57:51 · 540 阅读 · 1 评论 -
基于特征重建的知识蒸馏方法
传统的知识蒸馏忽略了教师模型的互相交互,而一些新模型 Zhou[10]、Mirzadeh[11]等人提出的模型虽然有了交互过程,但是网络交互方式大大限制了学生网络的灵活性。由此本文结合图片风格迁移实验中的特征重建方法提出了一种新的知识蒸馏方法。原创 2022-10-28 00:48:22 · 453 阅读 · 0 评论 -
基于小样本知识蒸馏的乳腺癌组织病理图像分类
本文使用的知识蒸馏方案是基于小样本的双级蒸馏策略,其核心在于它通过将学生模型的部分参数替换成教师模型的参数的方法,来学习学生模型的参数。这种嫁接策略可以更好地利用教师模型中训练有素的参数 ,并且显著缩小了学生模型的参数空间。原创 2022-10-28 00:47:35 · 771 阅读 · 0 评论 -
基于生成对抗网络的知识蒸馏数据增强
思想来源:仅对原标签做简单的线性变化或直接使用原标签作为新样本标签的方法是无法表示标签中离散信息的 ,这会导致网络模型无法将离散信息也作为一种特征进行学习。针对上述问题,在区域丢弃算法的基础上,提出一种基于生成对抗网络的知识蒸馏数据增强算法。使用补丁对丢弃区域进行填补,减少区域丢弃产生的非信息噪声。在补丁生成网络中,保留生成对抗网络的编码器-解码器结构,利用编码器卷积层提取特征,通过解码器对特征图上采样生成补丁。原创 2022-10-27 00:22:07 · 1168 阅读 · 0 评论 -
基于多阶段知识蒸馏的行人再识别 阅读记录
问题来源而对于行人再识别准确率最为关键的行人特征部分并未做出重点优化蒸馏方法包括两个部分(1)学习教师网络多个阶段的中间层表示;(2)对教师网络全连接层前的特征进行学习,使学生网络与教师网络的特征尽可能接近。原创 2022-10-26 12:02:03 · 490 阅读 · 0 评论 -
基于对抗学习和知识蒸馏的神经网络压缩算法 文献记录
(1)改进经典的知识蒸馏损失,使其不仅能够学习 教师网络输出的正确软目标,而且能够从中间层获取丰 富的隐含知识(2)引入对抗学习中的判别器,鉴别教师网络和学 生网络特征图的差异,进一步缩小大模型和容量有限的 小模型最优解空间之间的差异。(3)在训练过程中采用互学习的策略,使教师网络 和学生网络学习对方的特征图,提升泛化能力。为了使学生网络能够探索自己的最优 解空间,加入判别损失这一更加宏观的标准,使学生网 络在训练过程中具有更多的自主性。原创 2022-10-26 00:37:54 · 237 阅读 · 0 评论 -
基于YOLOv4的目标检测知识蒸馏算法研究
1)提出多尺度的注意力蒸馏算法 ,指导学生网络的输出使其接近于教师网络的输出,进一步对学生网络生成的特征图进行指导训练,使其能够学习到与教师网络相似的、不同尺度的特征编码方式,从而提高学生网络的检测性能;2)在特征提取层 、目标分类与边框预测上都利用教师网络的“知识 ”指导学生网络训练。提出多尺度像素注意模块(mPAM)来构造特征提取网络的特征注意力图,并同时在目标分类与边框预测上展开蒸馏。原创 2022-10-25 19:31:28 · 881 阅读 · 0 评论 -
多尺度特征融合的知识蒸馏异常检测方法文献笔记
本文的STN是要增强其对异常样本表征的输出差异.为此,本文提出多尺度特征融合的知识蒸馏异常检测方法.该方法为学生网络单独设计特征重构模块,打破原有教师网络和学生网络的相似结构,在保证学生网络对正常样本充分学习的基础上,扩大学生网络和教师网络对异常样本的表征差异.为进一步凸显异常区域特征,抑制非异常区域特征,本文方法融合SAM,通过空间注意力权重计算,增大异常与非异常区域的区分度,并在多个分辨率特征图上进行了融合,缺点未对教师网络传授的知识进行过滤,难以保证教师网络传授学生网络知识的准确性.原创 2022-10-25 00:17:16 · 1034 阅读 · 2 评论 -
面向低质量裂损图像的多知识蒸馏分类 阅读记录
超分辨率分类与知识蒸馏结合原创 2022-10-25 00:11:08 · 233 阅读 · 0 评论