自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(3)
  • 收藏
  • 关注

原创 论文阅读——Mean teachers are better role models

Temporal Ensembling方法通过预测的标签的EMA(exponential moving average),并且通过保证ensemle 模型和 trained模型预测标签的连续一致性,从而保证训练得到的ensemle模型尽可能的接近groud truth模型。这里可以理解为,如果如果模型是正确的,那么前后两个模型的预测标签应该是接近的,并且变化较小的,那么使模型向使两个模型预测结果接近的方向移动,就是向groudtruth model移动。这种方法,每一个epoch标签数据仅仅会改变一次,对于

2021-10-25 18:39:33 647

原创 论文阅读——Temporal Ensembling for Semi-Supervised Learning

作者:Laine, Samuli, and Timo Aila年份: ICLR 2017Github: https://github.com/smlaine2/tempens2. Self-Ensembling During Training提出了两种集成训练方法,分别为Π-model和temporal ensembling2.1 Π-model

2021-10-24 16:47:03 1240

原创 论文阅读—Pseudo-Label : The Simple and Efficient Semi-Supervised Learning Method for Deep Neural Network

2. Pseudo-Label Method for Deep2.2. Denoising Auto-Encoder2.2.1自动编码器(AutoEncoder)*参考 https://www.cnblogs.com/neopenx/p/4370350.html*自动编码器基于这样一个事实:原始input(设为x)经过加权(W、b)、映射(Sigmoid)之后得到y,再对y反向加权映射回来成为z。通过反复迭代训练两组(W、b),使得误差函数最小,即尽可能保证z近似于x,即完美重构了x。那么可以

2021-08-17 21:16:54 2773

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除