深度学习基础--各种Dropout--Swapout

# Swapout: Learning an ensemble of deep architectures
  生成 dropout 和随机深度（stochastic depth）方法来防止特定层或所有层中单元的共适应。集成训练方法从多个架构中采样，包括「dropout、随机深层和残差架构」。
  Swapout 在 CIFAR-10 和 CIFAR-100 数据上优于同样网络结构的 ResNet，该技术属于正则化的范畴。

2019年11月25日修正

更详细的资料整理到了个人的github上，地址为
https://github.com/whitenightwu/11-Algorithm_and_Data/02-深度学习（部件）\类dropout

Swapout: Learning an ensemble of deep architectures

dropout大杂烩，提出了ensemble(全体)的训练方法。

具体操作：训练时同时使用dropout和stochastic depth来方法来防止特定层或所有层中单元的共适应(就是两个unit干同样的事)。

Swapout 在 CIFAR-10 和 CIFAR-100 数据上优于同样网络结构的 ResNet，属于正则化中dropout的范畴。

2016年的老论文了，现在没什么反应，估计凉凉了，本篇博客作为追悼吧。