- 博客(3)
- 收藏
- 关注
RSS订阅原创 论文阅读——Mean teachers are better role models
Temporal Ensembling方法通过预测的标签的EMA（exponential moving average），并且通过保证ensemle 模型和 trained模型预测标签的连续一致性，从而保证训练得到的ensemle模型尽可能的接近groud truth模型。这里可以理解为，如果如果模型是正确的，那么前后两个模型的预测标签应该是接近的，并且变化较小的，那么使模型向使两个模型预测结果接近的方向移动，就是向groudtruth model移动。这种方法，每一个epoch标签数据仅仅会改变一次，对于
2021-10-25 18:39:33
649
原创 论文阅读——Temporal Ensembling for Semi-Supervised Learning
作者:Laine, Samuli, and Timo Aila年份： ICLR 2017Github: https://github.com/smlaine2/tempens2. Self-Ensembling During Training提出了两种集成训练方法，分别为Π-model和temporal ensembling2.1 Π-model
2021-10-24 16:47:03
1242
原创 论文阅读—Pseudo-Label : The Simple and Efficient Semi-Supervised Learning Method for Deep Neural Network
2. Pseudo-Label Method for Deep2.2. Denoising Auto-Encoder2.2.1自动编码器（AutoEncoder）*参考 https://www.cnblogs.com/neopenx/p/4370350.html*自动编码器基于这样一个事实：原始input（设为x）经过加权（W、b)、映射（Sigmoid）之后得到y，再对y反向加权映射回来成为z。通过反复迭代训练两组（W、b），使得误差函数最小，即尽可能保证z近似于x，即完美重构了x。那么可以
2021-08-17 21:16:54
2792
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人