- 博客(13)
- 收藏
- 关注
RSS订阅原创 【联邦学习框架FLGo学习】3.2实现联邦学习算法--自己定义③本地训练（FedProx）
FedProx在这一部分，我们将以FedProx为例，介绍如何在FLGo框架中自己实现本地训练的方法。FedProx是 Li Tian 在2018 发表在 MLSys2020上的一篇paper，它改进了传统的FedAVG算法，解决了联邦学习中的数据异质性和模型异质性问题。采样& 聚合: 采用按照本地数据集大小比例进行采样， 并直接平均聚合（无加权）来获得无偏梯度估计本地训练阶段在原来的本地目标函数上添加了一个近端项L′Lμ2∥wkit−wglobalt∥2。
2024-03-20 09:51:34
1185
1
原创 【联邦学习框架FLGo学习】3.1 实现联邦学习算法--横向联邦学习流程介绍
在这一节主要是介绍一下横向联邦学习的一般范式，并介绍一下在FLGo中是如何实现这一流程的。
2024-03-19 11:38:05
872
原创 【联邦学习框架FLGo学习】2.4 运行配置- 日志（Logger）
在FLGo中的Logger是日志记录器，主要用于观察训练过程中的实时结果，并记录到字典（logger.output）并存在相应任务的record文件中。在原始代码中，已经定义了几种logger，只需要在定义init函数的时候改变参数就好。Logger主要通过提供以下3个接口函数，来帮助用户达到实验目的。initialize：预留的初始化方法；
2024-03-19 09:39:24
266
原创 【联邦学习框架FLGo学习】2.3 运行配置- 算法（algorithm）和模型（model）
（这一块还不太懂）在FLGo中，我们将模型视作benchmark所包含的一部分。这是因为对于不同的数据集来说，模型的架构往往不一致，且同一个数据集也可以使用不同的模型。因此，每个benchmark都必须具有benchmark_name.model子模块，且子模块中需要包含适用于该benchmark的模型（例如mnist_classification.model.cnn）。以mnist_classification.model.cnn为例，讲解FLGo中模型是被定义和初始化的完整代码。
2024-02-29 16:26:50
536
原创 【联邦学习框架FLGo学习】2.2 运行配置-初始化和选项（option）
r""":param:return"""...调用示例task: 联邦任务（路径、处理数据集等）由前面的gen_task生成algorithm： ，要求algorithm的类型是class或module，横向联邦中需要其具备algorithm.Server和algorithm.Client两个可访问的属性；option（可选）：运行选项，类型为字典，包含运行时的各类参数；
2024-02-28 19:57:41
322
原创 【联邦学习框架FLGo学习】2.1 运行配置--联邦任务(task)
其中设置了使用的不同数据集（benchmark）和数据集的划分方式（partitioner），一个数据集的一种划分将对应一个联邦任务。这里简要分析数据异质性的种类和程度对fedavg的影响，来讲解如何切换联邦任务。这个实验是数据异质性的种类和程度对fedavg的影响，数据划分选用了两种方式IIDPartitioner和DiversityPartitioner。这一个教程主要是熟悉如何通过修改数据集及其划分方式来创建不同的联邦学习任务，通过修改benchmark和partitioner的配置来实现。
2024-02-28 19:21:18
288
原创 【联邦学习框架FLGo学习】1安装和介绍
FLGo是联邦学习大佬开发和维护的一个联邦学习轻量级框架，原教程贴链接为手把手实战联邦学习本贴主要是记录一下上手学习使用过程中遇到的一些问题。项目地址：https://link.zhihu.com/?教程地址：https://link.zhihu.com/?教程中有中英文教程，但好像更新不如知乎上及时，可以先去知乎专栏文章中学习，讲解的超级好。
2024-02-28 17:05:54
324
原创 联邦学习中的非独立同分布
比如在一个图像分类数据集cifar-10中，共有6W张照片分为10类，在传统的图像分类实验中，数据集采用均匀划分的5w个作为训练集，1w个样本作为测试集。在传统的应用场景中，数据存储在中心，机器学习可以获取所有数据的整体信息，但是在联邦学习中，由于数据仅存储在本地，导致数据之间分布的不一致性。在传统的机器学习中，可以把训练集和测试集看成两个客户端，在之前的训练中，我们都是假设这两个客户端是IID的，这是通过训练数据集获得的模型在测试数据集上也能表现较好的重要保障。
2024-02-28 17:02:33
1168
原创 论文阅读笔记1:FedFast
本文选择训练GMF模型，其中的参数为w\ ww，将参数分为三部分：非embedding部分、item_embedding和user_embedding部分，算法一共训练t轮，每轮使用ActvSAMP选择一个代表用户集St\ S_tStSt\ S_tSt中有来自p个用户簇的m个代表用户。
2023-09-15 21:00:52
144
1
原创 mysql忘记密码
mysql忘记密码mysql:ERROR 1045 (28000): Access denied for user ‘root’@‘localhost’ (using password: YES)在安装Mysql时出现忘记密码错误，这篇文章亲测有用！！！！！！https://https://blog.csdn.net/yyuggjggg/article/details/117328085...
2021-11-10 08:00:00
56
原创 keil编译报错Could not open file keyboard\main.o: No such file or director
error: L6002U: Could not open file keyboard\main.o: No such file or director根据百度其他答案给的思路，其实就是修改环境变量，因为当前系统TEMP和TMP环境变量存在着中文。但是如果你直接修改 %USERPROFILE% 为其他英文路径开Keil会卡死并闪退（其实是你打开main.c就闪退）！！！因为修改成别的一个英文文件夹是不行的，你只是在环境变量中修改了文件路径，但是电脑中这些路径并不存在，所以你打开Keil才会闪退。那
2021-11-09 22:07:20
2903
7
原创 OPenMP笔记
OpenMp用于共享内存并行系统的多线程程序设计的一套编译指令共享内存：统一内存访问（多个CPU用同一个内存），非统一内存访问（有多个内存空间Fork和Join：开始时是主线程，遇到Fork时，创建或唤醒多个子线程进入并行程序，并行结束后，通过Join汇合到主线程中 编译制导命令：所有的编制指令格式为 #pragma omp directive-name [clause[ [,] clause] ... ] new-line //d...
2021-05-16 19:09:24
2669
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人