- 博客(1)
- 资源 (9)
- 收藏
- 关注
原创 深度学习方法(十五):知识蒸馏(Distilling the Knowledge in a Neural Network),在线蒸馏
Distilling the Knowledge in a Neural Network这篇介绍一下Hinton大神在15年做的一个黑科技技术,Hinton在一些报告中称之为Dark Knowledge,技术上一般叫做知识蒸馏(Knowledge Distillation)。核心思想是通过迁移知识,从而通过训练好的大模型得到更加适合推理的小模型。这个概念最早在06年的Paper: Model C...
2018-10-15 22:44:35 75085 4
A disciplined approach to neural network hyper-parameters Part I
A disciplined approach to neural network hyper-parameters Part 1 -- learning rate, batch size, momentum, and weight decay, by Leslie N. Smith
2020-02-09
Matplotlib.ipynb
Matplotlib 是 Python 中最常用的一个绘图库,主要用于绘制各种图形,包括散点图、柱状图、3D图、等高线图等等。在做研究过程中肯定会经常用。
在文章https://xubin.blog.csdn.net/article/details/104224007做一个简单的入门介绍,也给出极佳的参考手册,以备查用。我自己用jupyter notebook实现了一遍。给出jupyter源码。
2020-02-08
Reinforcement Learning an Introduction,2018最新版(第二版)
RL经典教学书籍,2018年最新版本,是想学习强化学习入门的必备资料!(444页)
2018-01-13
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人