September_lin-CSDN博客

原创《Structured Knowledge Distillation for Semantic Segmentation》

摘要本文研究了利用大网络训练小语义分割网络的知识蒸馏策略，从简单的像素点蒸馏方案开始，将蒸馏方案应用于图像分类，并分别对每个像素进行知识蒸馏。此外，本文提出将结构化知识从大网络提取到小网络。本文主要研究了两种结构化的蒸馏方案：（1）提取成对相似性的成对蒸馏；（2）使用GAN提取整体知识的整体蒸馏。通过对三个数据集（Cityscapes、Camvid和ADE20K）的大量实验，证明了...

2019-07-08 15:37:28 504

原创论文阅读《Convolutional Neural Networks for Sentence Classification》Yoon Kim

摘要：我们报告了一系列在预训练的单词向量之上用卷积神经网络（CNN）训练的实验，用于完成句子级分类任务。我们展示了一个具有很少超参数调整和静态向量的简单的CNN，它可以在多个基准测试中获得出色的结果。学习特定任务的向量通过微调可以进一步有很好的表现。为了使用特定任务向量和静态向量，我们对架构进行了简单的修改。我们在这里讨论的七个任务中，有四个取得了目前最好的结果，其中包括情感分析和问题分类。模...

2019-02-27 13:46:15 1066

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

原创 《Structured Knowledge Distillation for Semantic Segmentation》

原创 论文阅读《Convolutional Neural Networks for Sentence Classification》Yoon Kim

空空如也

空空如也

原创《Structured Knowledge Distillation for Semantic Segmentation》

原创论文阅读《Convolutional Neural Networks for Sentence Classification》Yoon Kim