算法理论
liyu0611
这个作者很懒,什么都没留下…
展开
-
深度学习中 GPU 和显存分析
转载自:https://www.2cto.com/kf/201712/708227.html深度学习最吃机器,耗资源,在本文,我将来科普一下在深度学习中:何为“资源” 不同操作都耗费什么资源 如何充分的利用有限的资源 如何合理选择显卡并纠正几个误区:显存和GPU等价,使用GPU主要看显存的使用? Batch Size 越大,程序越快,而且近似成正比? 显存占用越多,程序越快? 显存占用大小...原创 2019-10-21 18:07:21 · 1570 阅读 · 0 评论 -
Deformable Convolutional Network的原理与实现
原文:https://blog.csdn.net/StreamRock/article/details/80921550Deformable Convolutional Network(简称Deform-conv)是微软亚洲研究院(MSRA)2017年的作品,它赋予了CNN位置变换的能力,它与STN(Spatial Transform Network)颇有渊源,或者说是灵感来自于此,但它们有着巨...转载 2019-05-21 17:25:23 · 780 阅读 · 0 评论 -
模型融合
转载自:https://cloud.tencent.com/developer/news/319080没有哪个机器学习模型可以常胜,如何找到当前问题的最优解是一个永恒的问题。幸运的是,结合/融合/整合 (integration/ combination/ fusion)多个机器学习模型往往可以提高整体的预测能力。这是一种非常有效的提升手段,在多分类器系统(multi-classifier sy...转载 2019-05-31 17:35:09 · 3543 阅读 · 3 评论 -
convariate shift(协变量 转变)
1、定义:来源于paper《Batch Normalization》,指的是训练集的数据分布和预测集的数据分布不一致,这样的情况下如果我们在训练集上训练出一个分类器,肯定在预测集上不会取得比较好的效果。这种训练集和预测集样本分布不一致的问题就叫做“covariate shift”现象。2、解决方案(1)重新给训练集中的数据赋予一个新的权重即Reweight操作,比方说对于样本xi,它在训练集...原创 2019-09-06 15:29:53 · 1084 阅读 · 0 评论