FederatedLearningOptimizerImplementation

最新推荐文章于 2024-04-30 20:06:58 发布
最新推荐文章于 2024-04-30 20:06:58 发布
阅读量252 收藏
点赞数
分类专栏： 机器学习 文章标签： 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44626279/article/details/124539416
版权

在实现新的联邦学习算法时需要注意很多细节，或者说在进行联邦学习实验时需要注意的一些问题：

  • 集群架构是server-client，还是Ring（decentralized）
  • 集群中有多少个节点，每一轮通信参加的节点有多少个，这个概率是多少
  • 模拟实验时，数据在各个节点是按照什么标准划分的，是否是non-IID的
  • 异步延迟梯度更新怎么修改，在哪里修改
  • 损失权重怎么收集并计算

In my paper, there is the staring point: more friendly to edge device. So I must have RaspiBerry experiment. But the 12 edge devices have limited RAM, CIFAR10 will not run successfully, some device will be killed when starting training. So I plan to run a real world application on them, such as Covid19 X ray dection.

FedMine can reffer to MOON and FedProxy

房默笙
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
树梅派搭建MPI集群
江晓狐的博客
05-01 2219
现有20个树梅派安装了Ubuntu20.04系统（arm64），但是连上了实验室的网线后，在同一网段下只可以搜得到16个，并成功登录。问题来了：那4个该怎么找到？ 可以把这20个逐个拆下，每拆一个，扫描一下网络内的主机，看看是不是有哪个IP掉线了，有的话，IP就对应上了。但需要注意的是，实验室的IP分配是动态的，同一根网线和同一个MAC地址的主机共同决定了一个IP，有一个变化时，IP都会变。（年前测试是这样的）。 总之，这样的办法太麻烦了，我凌晨3点多已经没有兴趣再搞了。过年后开学，实验室里有人拔掉了树梅派
(批量) 线性回归
江晓狐的博客
03-20 1216
基于python3使用梯度下降的方法 In this post, we are going to have a look at a program written in Python3 using NumPy as our data processing library to see how a (batch) linear regression using the gradient descen...
Experiments ON Federated Learning ---------Some Questions
江晓狐的博客
05-01 951
IN FedEM’s code, what is learner, cluster? How to add new algorithm to it? I plan to run 3 algorithms (i.e. FedAvg, FedProx, FedMine) ON 3 datasets (i.e. CIFAR10, CIFAR100, Shakespeare) In my paper, there should be some figures about the experiment. 1 f.
深度学习过程编程实现的面向对象思考
江晓狐的博客
08-13 458
首先明确一个思考方式： 一切皆是对象 一切我的理解是包括两类 对象 非对象 对象不用说了，就是一些名词，比如：模型，算法，数据（训练集，测试集），设备，等。 非对象肯定是包括过程的，过程怎么变为对象呢？或者说，“过程怎么被赋予对象的一些属性呢?” 如何赋予过程一些东西，这些东西使过程看起来像是对象，那么就要分析以下正常的对象有哪些属性，或者说是特点。 在创建一个对象时，首先要有他所属的类，类相当于一个命名空间，对象在此基础上扩展，类可以有自己的属性，这些属性是每个对象（由此类生出）共有的。类里面定义一
PytorchSummary查看网络摘要
江晓狐的博客
05-04 287
import torch from torchsummary import summary import torchvision model = torchvision.models.resnet18(pretrained=True) model.conv1 = torch.nn.Conv2d(1, 64, kernel_size=7, stride=2, padding=3, bias=False) model.fc = torch.nn.Linear(in_features=512, out_feat
Tensorboard简易使用
江晓狐的博客
05-05 135
from tensorboardX import SummaryWriter writer = SummaryWriter() 这里的SummaryWriter如果不写参数的话，会默认在当前目录下的runs文件夹下生成日志。 在验证的代码部分加入: writer.add_scalar("test_accuracy", accuracy, train_step) 为了不使最后的结果生成混乱，要在结束的地方加 writer.close() ...
Codeforces Round 941 (Div. 2) （A~D）
weixin_61825750的博客
04-28 696
然后考虑若此时存在两个堆，那么对于Alice而言，其操作可以使得小的那个堆只剩下1，下一步Bob必须选1，然后Alice就胜利了。相反，若小的那个堆一开始就是1，那么Alice就输了。接下来推广到若干堆的情况：对于任意一方而言，若最小堆不是1，那么便可以控制胜利，于是我们只需要枚举到最小堆不是1的情况即可，然后看是谁在操作就是谁赢。思路：若要使得所有方格同色，关键在于四个角上的颜色，若对角上的颜色一样就能直接将所有格子变为同色。思路：首先处理 < k 的部分，我们可以通过二进制的思想来构造整数，例如。
算法训练营第十一天 | LeetCode 20 有效的括号、LeetCode 1047 删除字符串中的所有相邻重复项
qq_63149342的博客
04-27 113
注意用的是字符串数组作为输入，而我们要用int型进行计算，这时候就要用到一个string转int类型的库函数stoi函数，aoti是字符数组转int类型。一个是最后循环结束后要判断栈内存是否为空，一个是出栈时要判断栈是否为空，总的来说是考验对于栈内存空间的掌控吧。这一题考栈的性质，相邻字符用未进栈的元素和进栈的元素进行模拟即可，相同且栈不为空即出栈，否则进栈，之后将栈内元素全部导入一个字符串，还要注意要写一个反转函数翻转下即可。LeetCode 1047 删除字符串中的所有相邻重复项。
Golang | Leetcode Golang题解之第56题合并区间
weixin_66442839的博客
04-28 444
Golang | Leetcode Golang题解之第56题合并区间
4/26发布发布：缺了好几次的作业，矩形法+二分法求下面方程根+顺序查找n+程序填空，补一下还有八九没做，炸8412 字不是干的，哈哈哈
2201_75637762的博客
04-26 1235
eps：用于定义逼近的精度，即当x1和x2的差小于eps时，认为找到了根。x1和x2：用于二分法的初始区间，这里选择的是[-10, 10]。y1和y2：分别是x1和x2处函数的值。这个程序通过二分法在一个给定的区间内寻找三次方程的根。它首先检查函数在区间端点的值的符号，然后使用二分法逐步缩小区间，直到找到满足精度要求的根或确定区间内没有根为止。okll测试数据：3 4 7 12 24 78 9 15 80 45第一次运行程序输入测试数据 12。
算法~本质
最新发布
sweet_Mary的博客
04-30 248
数据结构分为数组和链表，数据结构的目的是提升增删改查的效率。算法的本质是基于这两种数据结构进行高效穷举。2.如何聪明地穷举？--并查集/贪心/KMP）数组--二分搜索/双指针/滑动窗口/前缀+差分。二叉树系列（回溯算法+动态规划）eg.求二叉树最大深度。2. 分解问题计算答案。2.分解问题计算答案。eg.二叉树前缀遍历。
代码随想录算法训练营Day25 | 216.组合总和III、17.电话号码的字母组合 | Python | 个人记录向
Python基本算法
04-27 636
回溯算法：216.组合总和III、17.电话号码的字母组合。
c入门基础题（3）
梦昼初
04-26 886
1、找出数组中最大元素的位置（下标值） 输入 多组测试，每组先输入一个不大于10的整数n 然后是n个整数 输出 输出这n个整数中最大的元素及下标值 样例输入 4 1 4 5 6 样例输出 6 3 #include<stdio.h> int main(){ int a[20]; int n,x=0,y,z,s,m,f; int i,j; while(scanf("%d",&n)!=EOF){ for(i=1;i<=n;i++){ scanf("%d",&y)
【C++中的模板】
Z15255808023的博客
04-27 727
本片内容主要是C++中模板的有关知识，主要讲述了模板及其实用和注意事项，请耐心观看。相必我们大家都听说过泛型编程这个概念：编写与类型无关的通用代码，是代码复用的一种手段。模板是泛型编程的基础。简单的说就是编写一种可以在多种数据类型上都能用的代码。比如说，你写一次代码，就可以在很多不同的数据类型上使用，而不需要为每种数据类型都重新写一遍相同逻辑的代码。它能让编程变得更简单、更灵活。
使用rust学习基本算法（四）
weixin_40539956的博客
04-27 974
对于一个包含n个顶点的图，其邻接矩阵是一个n×n的矩阵，记为A。如果顶点i和顶点j之间存在一条边，则矩阵中的元素A[i][j]表示这条边的权重；如果不存在边，则A[i][j]的值通常设为0（对于无权图）或某个特定的非负值，如无穷大（对于有权图），表示两个顶点之间没有直接的连接。
【算法】五子连线
qq_59306099的博客
04-25 388
棋盘一般为15X15的，横向为A～O，纵向为1～15，从棋盘的左下角开始标记，如下图所示。例如，图示中上面的5个棋子可标记为G13、H13、I13、J13、K13，正好形成横向五子连线的情况；图示中左下方的5个棋子可标记为H7、F5、E4、D3、C2，未能形成五子连线的情况。五子棋是世界智力运动会竞技项目之一，是一种两人对弈的纯策略型棋类游戏，通常双方分别使用黑白两色的棋子，下在棋盘直线与横线的交叉点上，先形成连续的五子连线（横、竖、斜）者获胜。接下来有n行数据，每行一组数据，每组数据包括5个棋子的位置。
【力扣】16. 最接近的三数之和
嵌入式小菜鸟一枚~
04-25 387
【力扣】16. 最接近的三数之和
【算法】【贪心算法】【leetcode】870. 优势洗牌
zhaoliubao1的博客
04-30 782
给定两个长度相等的数组 nums1 和 nums2，nums1 相对于 nums2 的优势可以用满足 nums1[i] > nums2[i]孙膑就教他用自己的下等马对齐王的上等马，再用自己的上等马对齐王的中等马，最后用自己的中等马对齐王的下等马，结果三局两胜，田忌赢了。把nums1当成是田忌的马，nums2当成是齐威王的马。输入：nums1 = [12,24,8,32], nums2 = [13,25,32,11]输入：nums1 = [2,7,11,15], nums2 = [1,10,4,11]
【算法系列】模拟
m0_74126249的博客
04-28 838
给定一个数组，数组每个元素表示发起攻击(被攻击后会中毒)的时间，给定一个整数，表示中毒的时长，如果中毒还没有结束，就发起下次攻击，那么中毒时间被重置！2.遇到c字符，找最后一个字符(本题是k字符)在哈希表是否存在，存在则最后一个字符个数--，当前字符++， 不存在则当前字符++1.遇到r/o/a/k字符，在哈希表中找一下前驱字符，如果存在，前驱个数--， 当前字符++， 不存在，则返回-1。最后还要检查记录字符出现个数的哈希表情况，如果前n-1个字符中有个数不为0的字符，也要返回-1。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值