深度学习
惯懒高手
刚入研究生的人
展开
-
知识蒸馏:深入理解温度的作用
参考文献:http://baijiahao.baidu.com/s?id=1598625949059208402&wfr=spider&for=pc之前看过一遍知识蒸馏,当时应该是理解了的,但是过了俩月又忘了……因此特开一帖,用最简单的语言解释!1.知识蒸馏的定义首先,知识蒸馏是什么?这里对雷锋网的这篇做一个概括:知识是什么?是由人工网络的结构、参数等共同构建的映射...原创 2019-11-12 17:41:14 · 8887 阅读 · 0 评论 -
Kaggle入门记录
从4月底开始断断续续看了很多深度学习相关的东西,从架构到论文再到训练细节,但是因为自己没上手开始做东西,一直处在看了就忘的状态。最近开始做东西,才感觉自己正式开始逐渐入门了。所以这里就记录下自己的学习历程,保存一下以后可能用得到的学习资料。首先,在不确定自己要做什么的时候,开始做才是最重要的。我跟了挺多教程的,最后感觉Kaggle真的很适合作为入门练习。我的第一个练习是跟着机器之心的教程来...原创 2019-06-05 10:55:08 · 164 阅读 · 0 评论 -
ICRA2019 Best Paper候选 Variational End-to-End Navigation and Localization翻译
摘要:深度学习彻底变革了直接从原始感知数据学习「端到端」自动车辆控制的能力。虽然最近在处理导航指令形式的扩展方面取得了一些进步,但这些研究还无法捕捉机器人所有可能动作的完整分布,也无法推断出机器人在环境中的定位。在本文中,研究者扩展了端到端驾驶网络,使其能够仅基于粗糙GPS信息,实现点到点导航并获得当前位置的概率分布。他们定义了一个新的变分网络,该网络能够根据环境的原始相机数据和拓扑路线图...翻译 2019-07-26 10:13:27 · 707 阅读 · 0 评论 -
YOLOv3 制作并训练自己的数据集
本文参考了:dspeia的制作教程,Rani_zZ的制作教程,Darknet官网中的YOLO教程。首先对YOLO进行简要说明。YOLO是一个one-stage网络,其直接回归所检测目标的边框参数(左上点x,y,宽高width,height),置信度值以及属于各类的概率。YOLOv3将整张图片切割成了7x7块,并在每一块中都检测三个目标,也即每一块中所回归出的结果应当是3x(5+类的数量)。...原创 2019-10-07 14:53:35 · 3171 阅读 · 0 评论 -
Batch Normalization批标准化:概率在神经网络中的重要地位
在学YOLO的时候,正好看到YOLOv2上使用了BN,而自己虽然一直用但却不清楚其中的原理。因此膜拜一下别人的博客,将内容记录于此。首先,郭耀华的博客里讲的真的很详细。下面的所有引文都是该博客中的原话,中间我觉的不太重要的部分进行了概括。首先整段引用一下BN的作用:机器学习领域有个很重要的假设:IID独立同分布假设,就是假设训练数据和测试数据是满足相同分布的,这是通过训练数据获得的模...原创 2019-10-10 16:36:41 · 230 阅读 · 0 评论 -
一些人工智能方面的名词和领域
不知道有没有人跟我有一样的感觉:有时候你有一个构想,但却半天找不到同僚或者先驱。而在你知道这个领域的名称后,很快你就能找到很多相关的研究。因此,我在这里收集了人工智能领域的一些名词和其释义,以供参考。(持续更新)1.元学习(Meta Learning):其核心思想是“学会如何学习”(Learning to learn),重点关注于如何用更少的样本、更快的学习神经网络。小样本学习(N-shot ...原创 2019-10-10 21:07:38 · 412 阅读 · 0 评论