- 博客(4)
- 收藏
- 关注
原创 DistributedDataParallel踩坑记录(rank怎么得到 init_process_group如何初始化。。。)
DistributedDataParallel踩坑记录
2023-04-15 16:40:14
976
1
原创 论文阅读笔记《Batch Normalization Embeddings for Deep Domain Generalization》
作者认为映射的关键在于BN层上。在训练时,每个源域的模型共享除BN层的参数,而BN统计各自源域的均值、方差等统计信息。测试阶段,计算单个样本的均值和方差,与各个源域的均值、方差作比较,计算Wasserstein距离。最后,测试样本在三个源域训练得到的不同BN层会得到3个输出特征,这三个特征分别乘以各自与源域的距离的导数,得到最后的输出特征。假设每个源域可以映射成空间中的一个点,那么作者认为未知领域可以看着源域空间的线性组合。在测试时,将来自未知域的样本投影到同一空间,并将其域的属性推断为已知域的线性组合。
2023-03-31 14:20:09
160
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人