federated learning
文章平均质量分 88
Rick_rui
这个作者很懒,什么都没留下…
展开
-
论文解读--------FedMut: Generalized Federated Learning via Stochastic Mutation
通常,由于每个本地模型的任务是相同的,因此每个客户端的损失情况仍然相似。直观上,与尖锐的最佳区域相比,不同客户端的平坦最佳区域部分重叠的可能性更大。换句话说,当模型收敛到重叠区域时,它可以在大多数客户端中实现高推理性能。原创 2024-05-10 20:22:31 · 194 阅读 · 0 评论 -
FedCor: Correlation-Based Active Client Selection Strategy for Heterogeneous Federated Learning
高斯过程是一种随机过程,即按时间或者空间索引的随机变量的集合。这个集合中的有限个随机变量构成多维高斯分布。高斯过程就是这个集合中所有随机变量(无限多个)的联合分布。原创 2023-07-03 17:21:00 · 353 阅读 · 0 评论 -
Momentum Contrast for Unsupervised Visual Representation Learning论文解读
MoCo的效果:拿MoCo训练出的特征提取器用于下游任务时,基本吊打拿有监督学习训练出的特征提取器。转载 2023-05-09 09:07:38 · 263 阅读 · 1 评论 -
Model-Contrastive Federated Learning 论文解读(CVPR 2021)
随机抽取 N个样本的小批量样本,并在从小批量样本上生成增强视图,从而产生 2N 个数据点。本文无明确地指定负例,而是给定一个正对(positivepair),将小批量中的其他 2N−2个增强示例视为负示例。从不同的图像获得的表征应该相互远离,从相同的图像获得的表征应该彼此靠近。我们的本地模型训练时的loss有两部分组成:传统的交叉熵损失。作者在CIFAR-10做了个实验,来验证他的这种直觉。作者还对比了下SimCLR和MOON框架。对比学习的基本想法是同类相聚,异类相离。为温度系数,分子是正样本对。原创 2023-04-25 11:08:31 · 941 阅读 · 0 评论 -
Secure Federated Matrix Factorization学习总结
传统的矩阵分解推荐系统,会泄漏用户的评分信息、特征向量,可能大家会觉得泄漏这两种信息不重要,但是通过这两种信息,恶意攻击者可以进行inference attack,也就是从这两种信息推断用户的性别、年龄、住址,而后面的这些信息都属于非常隐私的数据。目前有解决方案:Obfuscation-based和Full-Homomorphic encryption-based。前者主要采用的方法是通过将用户的原始偏好数据进行混淆后,再发送到中央服务器,以实现某种程度上的隐私保护。原创 2023-03-15 17:51:43 · 449 阅读 · 0 评论 -
SCAFFOLD: Stochastic Controlled Averaging for Federated Learning学习
论文的一个基本思想本质上便是用全局模型的知识去限制局部模型的训练方向,以防止那些与全局模型相差较大的局部模型带偏整个系统的训练方向。原创 2023-03-06 17:00:10 · 2154 阅读 · 0 评论