论文笔记
文章平均质量分 76
每天都要深度学习
Machine learning and deep learning.
展开
-
【Active Learning - 01】 2013_CVPR_Adaptive Active Learning for Image Classification 论文笔记
主动学习阅读资料:【Active Learning - 00】 主动学习概念/重要论文目录/重要代码&资源【Active Learning - 01】 2013_CVPR_Adaptive Active Learning for Image Classification 论文笔记--------------------------------------------------...原创 2019-10-22 10:56:12 · 749 阅读 · 1 评论 -
论文笔记——Deep Residual Learning for Image Recognition(论文及相关代码)
论文笔记——Deep Residual Learning for Image Recognition(论文及相关代码)翻译 2017-12-27 11:50:25 · 1804 阅读 · 0 评论 -
论文笔记——Semantic Scene Completion from a Signal Depth Image
论文笔记——Semantic Scene Completion from a Signal Depth Image翻译 2018-01-09 22:50:21 · 1195 阅读 · 0 评论 -
知识蒸馏(Distillation)相关论文阅读(1)——Distilling the Knowledge in a Neural Network(以及代码复现)
———————————————————————————————《Distilling the Knowledge in a Neural Network》Geoffrey Hintion以往为了提高模型表现所采取的方法是对同一个数据集训练出多个模型,再对预测结果进行平均;但通常这样计算量过大。引出一种模型压缩技术:Distillation;以及介绍了一种由一个或多个完整模型(full models...原创 2018-03-21 21:46:25 · 9916 阅读 · 11 评论 -
知识蒸馏(Distillation)相关论文阅读(2)——Cross Model Distillation for Supervision Transfer
知识蒸馏相关论文目录导读:Geoffry Hinton —— Distilling the knowledge in a neural networkSaurabh Gupta —— Cross Model Distillation for Supervision TransferAdriana Romero —— Hints for Thin Deep Nets—————————————————...原创 2018-03-27 21:14:59 · 3389 阅读 · 1 评论 -
知识蒸馏(Distillation)相关论文阅读(3)—— FitNets : Hints for Thin Deep Nets
知识蒸馏相关论文目录导读:Geoffry Hinton —— Distilling the knowledge in a neural networkSaurabh Gupta —— Cross Model Distillation for Supervision TransferAdriana Romero —— Hints for Thin Deep Nets—————————————————...原创 2018-03-28 00:13:03 · 6172 阅读 · 2 评论 -
深度学习干货学习(1)——center loss
在构建loss时pytorch常用的包中有最常见的MSE、cross entropy(logsoftmax+NLLLoss)、KL散度Loss、BCE、HingeLoss等等,详见:https://pytorch-cn.readthedocs.io/zh/latest/package_references/torch-nn/#loss-functions这里主要讲解一种考虑类间距离的Cente...原创 2018-07-27 16:32:12 · 9676 阅读 · 4 评论 -
网络结构搜索(1)—— NAS(Neural architecture search with reinforcement learning)论文笔记
一、NAS论文地址:https://arxiv.org/abs/1611.01578 代码连接:https://github.com/tensorflow/modelsICLR2017由Googlebrain推出的论文二、Motivation for architecture search:•Designing neural network architectures is h...原创 2018-10-19 21:44:12 · 7604 阅读 · 0 评论 -
网络结构搜索(3) —— Simple and efficient architecture search for convolutional neural network
一、网络态射(Network Morphism)神经网络的结构几乎都是朝着越来越深的方向发展,但是由人工来设计网络结构的代价非常大,在网络结构搜索(1)、网络结构搜索(2)中分析了NAS、ENAS的网络结构搜索方法,通过RNN来学习一个网络结构参数构建模型,ENAS又在NAS的基础上引入权值贡献(DAG图)提高了搜索效率。本文则考虑到,在实际网络搜索中,对于某一个task会有一些前任已经训...原创 2018-10-23 22:49:54 · 2716 阅读 · 0 评论