![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
联邦学习
文章平均质量分 52
欧恩方
复杂度:O(n^2)
展开
-
扫读 | Towards Personalized Federated Learning
arxiv:2103.00710 传送门综述个性化联邦学习(Personalized FL,PFL)的进展。讨论了PFL目前的发展阻碍,并将PFL分为基于数据的和基于模型的方法。展望PFL的发展轨迹、PFL的benchmarking、可信赖的PFL方法PFL的发展阻碍有限的FL框架隐私保护约束。现有很多方法不满足隐私保护的需求,有的允许本地数据或元数据的共享,有的假设可以用能代表整体分布的代理数据集PFL方法基于数据的方法目标是平滑掉统计上的异构性数据增强,通常需要共享一些数据原创 2021-03-22 16:12:55 · 839 阅读 · 1 评论 -
扫读 | Heterogeneity for the Win: One-Shot Federated Clustering
ArXiv ID: 2103.00697考虑无监督的联邦学习,基于Lloyd的k-means聚类方法,提出k-FED,只需要一次通讯,且能够处理网络错误问题发现数据的统计学异构性反而可能对聚类有帮助(对监督问题是有害的)假设数据Non-IID,且节点可以随意加入或退出网络在k-FED中,每个节点解决k-means聚类问题,并传输聚类均值;基于中心可分性假设,即簇均值是很好可分的;假设每个节点上簇的个数小于整体簇数的平方根在本文假设下,数据异构性使得k-FED对中心可分性的需求降低了算法很简单,原创 2021-03-02 23:37:44 · 840 阅读 · 0 评论 -
思考:知识蒸馏的缺点
知识蒸馏不太适合用于(分布式学习中)对在不同分布上学习得到的模型的集成,原因是:Teacher必须得有一本book才能教给Student,并且传递的知识只限于book的内容,因此book本身必须能反映整体数据的分布才行,相当于只教了死记硬背没有教其中的逻辑推理关系。还有一个问题,如果book本身能够能够反映整体分布,我又何必去学不同分布上的数据呢。...原创 2020-08-26 16:23:03 · 3321 阅读 · 1 评论 -
Linux安装Anaconda3并创建虚拟环境来安装tensorflow-gpu和tensorflow-federated
安装Anacondawget https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda3-2020.02-Linux-x86_64.shbash Anaconda3-2020.02-Linux-x86_64.sh 创建并激活虚拟环境(name:tff)conda create -n tffconda activate...原创 2020-04-22 13:03:18 · 676 阅读 · 0 评论