深度学习在线更新、增量更新(待更)

原创 2018年04月16日 16:42:47
在很多机器学习的问题上,都会涉及到如果在线更新模型,离线训练好的数据,需要利用线上的数据补充更新模型,使得模型能够更好地适应各种情况。
那么在神经网络中如何在线更新模型呢?

常见的就是retrain和fine tune
retrain其实差不多就是用新的数据继续训练模型,虽然可以比较快的收敛,但也需要用所有的数据,也是比较慢的
fine tune只是微调最后一层,可能会快一些,但可能不能很好的适配新的数据。

可以这两个策略综合使用,那么就会有fine tune、 retrain、 trian三种。

但是这里都基本上是需要用所有数据的,有没有办法只用新增的数据更新模型呢?
版权声明: https://blog.csdn.net/b876144622/article/details/79962710

深度学习在线更新、增量更新(待更)

在很多机器学习的问题上,都会涉及到如果在线更新模型,离线训练好的数据,需要利用线上的数据补充更新模型,使得模型能够更好地适应各种情况。那么在神经网络中如何在线更新模型呢?常见的就是retrain和fi...
  • b876144622
  • b876144622
  • 2018-04-16 16:42:47
  • 29

【深度学习:21天实战 Caffe】云盘资源更新

百度网盘已弃用。随书资源已经放在码云和 github,方便国内外朋友下载。
  • kkk584520
  • kkk584520
  • 2016-08-14 16:09:41
  • 38010

iOS怎么实现不进appstore的增量更新?(类似各种游戏,12306)

iOS怎么实现不进appstore的增量更新?(类似各种游戏,12306)? 著作权归作者所有。 12306那个只是更新了资源文件。这和你在app内下载了一个图片没有区别。 1230...
  • ios_xumin
  • ios_xumin
  • 2016-01-14 14:55:35
  • 5519

React-Native 热更新以及增量更新

Rn热更新以及增量更新操作不是增量更新,Rn的热更新,流程是下载服务器端上的一个解压包到本地 解压到应用的文件目录这是一个打包后的apk文件,在Rn中我们的js代码都是打包后存放在assets目录中,...
  • qq_22329521
  • qq_22329521
  • 2017-03-24 15:54:23
  • 3459

深度学习进阶(五)--卷积神经网络与深度置信网络以及自动编码初识(补昨天博客更新)

总结一下昨天的学习过程 (注:这几天老不在状态,貌似进入了学习激情的瓶颈期,动力以及平静心严重失控,Python3.X与Python2.X之间的代码调试,尤其是环境配置搞得头昏脑胀) 昨天了解接触的内...
  • u013991917
  • u013991917
  • 2017-10-11 22:09:44
  • 665

深度学习笔记9:权值更新的实现

权值更新 在前面的反向传播中我们计算出每一层的权值W和偏置b的偏导数之后,最后一步就是对权值和偏置进行更新了。 在之前的BP算法的介绍中我们给出了如下公式: 其中的α为学习速率,一般学习率并不是...
  • l691899397
  • l691899397
  • 2016-08-24 20:09:08
  • 5376

关于android 增量更新的实现

一般来说没有特殊要求的话  使用三方的SDK比如友盟的增量热更新就可以了  可以查看链接  如果有需要自己实现的话 只能硬着头皮来了 实现方法: 增量更新的流程是:用户手机上安装...
  • Youth_never_go_away
  • Youth_never_go_away
  • 2016-10-11 10:58:29
  • 403

mahout推荐之关于动态刷新推荐引擎

我们知道FileDataModel可以装载一个偏好值文件,其实FileDataModel还支持动态更新装在的数据,增量更新文件命名规则如下: 假如主数据文件为:intro.txt ,则增量更新文件的...
  • xiao_jun_0820
  • xiao_jun_0820
  • 2015-01-05 21:22:19
  • 1133

机器学习/深度学习数据集(更新中,更新日期:2017-07-12)

更新记录: 2017-07-10 2017-07-12总体1.UCI Machine Learning Respository2.Public datasets for machine learnin...
  • u010837794
  • u010837794
  • 2017-07-10 20:37:07
  • 355

深度学习小白——神经网络5(参数更新)

一、参数更新 1.随机梯度下降及各种更新方法 【普通更新】:沿着负梯度方向改变参数 x+= -learning_rate * dx 其中学习率是一个超参数,它是一个固定的常量。 【动量更新】(Mo...
  • MargretWG
  • MargretWG
  • 2017-03-30 15:59:49
  • 3691
收藏助手
不良信息举报
您举报文章:深度学习在线更新、增量更新(待更)
举报原因:
原因补充:

(最多只允许输入30个字)