- 博客(77)
- 收藏
- 关注
RSS订阅原创 Rethinking Federated Learning with Domain Shift: A Prototype View
SkS^kSk表示用类别为kkk的样本集，cmkc^k_mcmk表示第mmm个参与者kkk类样本的原型。原型是各自语义信息的典型，携带特定领域的风格信息，因为原型在不同的领域并不一致（直接理解成高维映射就行）。因此，它激励我们利用来自不同领域的原型来学习可泛化的模型，而不会泄露隐私信息。
2024-07-04 17:07:50
1105
原创 FCCL+：Generalizable Heterogeneous Federated Cross-Correlation and Instance Similarity Learning
TPAMI2023，提出了一种新颖的 FCCL+，即带有非目标蒸馏的联邦相关性和相似性学习，促进了域内可辨别性和域间泛化。对于异构性问题，我们利用不相关的未标记公共数据进行异构参与者之间的通信。我们构建了互相关矩阵并在 logits 和特征级别上对齐实例相似性分布，有效地克服了沟通障碍并提高了泛化能力。对于局部更新阶段的灾难性遗忘，FCCL+ 引入了联邦非目标蒸馏，它在避免优化冲突问题的同时保留了域间知识，通过描述后验类关系充分蒸馏了特权域间信息。
2024-07-01 16:47:00
880
原创 PGFed: Personalize Each Client’s Global Objective for Federated Learning
ICCV-2023， 文章提出显式隐式的概念，作者通过实验发现显式比隐式的效果好，显式方式通过直接与多个客户的经验风险互动来更新模型，并用泰勒展开式降为ON通讯成本。
2024-06-12 21:07:02
759
原创 FCCL：Learn from others and Be yourself in Heterogeneous Federated Learning
CVPR2022，通过在公开数据集上的logits相似性（同类相近、异类原理）来迁移客户端知识，通过上轮模型和初始模型延缓遗忘。
2024-06-03 21:47:50
1039
原创 FEDCVAE-KD：DATA-FREE ONE-SHOT FEDERATED LEARNING UNDER VERY HIGH STATISTICAL HETEROGENEITY
ICLR 2023，这篇是用变分自编码器做数据生成，传到server端指导解码器训练，然后生成伪数据训练分类器。
2024-05-29 23:31:58
740
原创 FedSyn: Synthetic Data Generation using Federated Learning
arxiv2022，没找到是哪个刊物的，是没投中吗？这篇是用GAN做数据生成，每个client都训练一个生成器，加噪声传到server端聚合，实验是衡量生成图片的质量。code：没找到。
2024-05-23 22:27:17
332
原创 DENSE: Data-Free One-Shot Federated Learning
NeurIPS2022，论文原名《A Practical Data-Free Approach to One-shot Federated Learning with Heterogeneity》。文中提出了一种新颖的两阶段无数据一次性联合学习（DENSE）框架，该框架通过数据生成阶段和模型蒸馏阶段来训练全局模型。在第一阶段，利用集成模型（即客户端上传的本地模型的集成）来训练生成器，生成器可以生成用于第二阶段训练的合成数据。在第二阶段，将集成模型的知识提炼为全局模型。
2024-05-20 17:38:32
600
原创 DOSFL：Distilled One-Shot Federated Learning
CoRR2020，这篇是结合了OneShot Federated Learning（CoRR2019）和Data Distill（CoRR2018），client端训练出一组合成数据，使得模型每次在真实数据的更新与在合成数据上的更新尽量一致，这组合成数据传输到server端训练全局模型。我主要是想看下如何在FL上做数据蒸馏。code: 没找到。
2024-05-18 23:29:42
617
原创 FedDF：Ensemble Distillation for Robust Model Fusion in Federated Learning
code: 没找到。
2024-05-17 21:30:27
322
原创 Wireless Federated Distillation for Distributed Edge Learning with Heterogeneous Data
PIMRC2019，code: 没找到。
2024-05-14 21:25:33
279
原创 FedDML：Federated Mutual Learning
这篇把DML运用到FL上论文地址：arvixcode: 作者git我们针对三种异质性（DOM）提出了一种新颖的联邦学习范式，称为联邦相互学习（FML）。 首先，FML 处理数据和目标通过使每个客户能够训练个性化模型来实现异质性。 从OH的意义上来说，DH对服务器有害，但对客户端有利，这意味着数据的非独立同分布性不再是一个bug，而是一个可以更好地为客户端服务的特性； 其次，本地个性化模型可以从具有相似但不同任务的 FML 协作训练中受益。 第三，FML允许客户针对各种场景和任务设计自己的定制模型。PS：D
2024-05-14 17:17:10
311
原创 FedMD: Heterogenous Federated Learning via Model Distillation
NeurIPS2019，通过一个全局数据集实现知识蒸馏。code: 没找到。
2024-05-14 10:43:51
439
原创 FD-FAug：Communication-Efficient On-Device Machine Learning: Federated Distillation and Augmentation
NeurIPS2018，应该是第一篇结合蒸馏和联邦的文章了，所以从这开始看顶会顶刊的文章，希望尽快有自己的想法。文章将通讯传递的模型梯度换成了类别平均logits提升了通讯效率，使用GAN生成图片处理数据异构问题。code: 没找到。
2024-05-13 21:44:45
842
原创 conda create win10 报错
试了一堆，发现有一种方法可以，修改文件 C:\Users\19256.condarc ,注意19256是我的window用户名。如果没有的话自己新建。今天要新建个环境，不知道哪里抽风了，直接CondaHTTPError。然后重开一个cmd就可以了。
2023-01-05 14:45:58
123
原创 c++ onnx之yolov5检测
yolov5和resnet比稍微麻烦了一点，主要就是多了nms部分，还有坐标点映射回原图的yolov5_scale_coords函数。流程大致分为五部分：1）图像等比例放缩，2）图像预处理，3）onnx推理，4）nms后处理，5）坐标点映射回原图。
2022-11-25 16:55:18
1440
2
原创 c++ onnx之resnet分类
首先opencv和onnxruntime的配置就不说了，resnet分类网络就只有三个部分，一个是图片等比例放缩letterbox；而是图片归一化等处理成输入PreProcess；三是onnx推理。
2022-11-25 16:14:00
1441
原创 c++ 使用onnx推理
假设你已经安装好onnx，并且成功配置。这章说的是加载onnx并推理的过程，输入的input已经是处理过后的。下面举几个例子。
2022-11-25 15:06:35
1551
原创 Could not locate zlibwapi.dll. Please make sure it is in your library path
跑PaddleDetection时候报错，Could not locate zlibwapi.dll. Please make sure it is in your library path。
2022-10-25 14:18:34
4212
2
原创 git 分支合并
原来的git操作都是直接在pycharm上整的，今天合并分支的时候发现master没法一步跳到分支上，百度了之后才发现pycharm默认的是fast-forward 方式，如图所示。所以我们要想办法用 git merge --no-ff 分支。这一块想知道区别的跳到别人的简书。...
2022-08-18 10:56:03
172
原创 docker内部时间与本机不一致
今天发现log的时间不对，是正常时间-8小时。检查了老半天，才发现代码的确没问题，是docker date的时间不对。。只要把docker的时间调整正确就可以了。方法一、docker启动时映射本地时间就是启动的时候把时间文件映射docker run xxxxxx -v /etc/localtime:/etc/localtime xxxxxxxxx方法二、docker时间改为和本地一致额，就是把时间文件复制进去docker cp /etc/localtime 你的容器名:/etc/localti
2022-04-22 16:54:06
1447
原创 ubuntu 增加交换分区swap大小
系统重装之后默认的swap只有2G，所以得加一下，不然白瞎了32G的内存。free -m #查看缓存情况 或者你可以打开任务管理器，里头可视化界面也有额，现在没有2G的截图了，将就着看吧。sudo -i #进rootsudo swapoff /swapfile #关闭swapsudo rm -f /swapfile #删除默认的2G的swap文件sudo dd if=/dev/zero of=/swapfile count=32M bs=1k #创建32G缓存
2022-04-22 16:07:01
520
原创 git 仓库迁移
由于服务器重装，原本在上边的git仓库都没了，还好之前有远程代码下来，现在就在服务器上重新弄上。新建仓库首先在新的服务器上新建一个裸仓库，我新建的仓库名为chemical_recognize，在用户git的路径/home/git/project下，更改文件权限cd /home/git/projectgit init --bare chemical_recognize.gitsudo chmod 777 -R chemical_recognize.gitsudo chown -R git:git
2022-04-20 14:59:00
132
原创 ubuntu20 开启VNC桌面远程
额，这个百度一下都有，还是记录一下吧开启桌面共享设置->共享->启用屏幕共享（设置远程连接的密码）安装xrdp和dconf-editorsudo apt-get install xrdpsudo apt-get install dconf-editor配置dconf-editor打开dconf程序，依次展开org->gnome->desktop->remote-access，然后取消 “requlre-encryption”的勾选即可。...
2022-04-15 17:14:42
812
原创 ubuntu20 pycharm 全局搜索ctrl+shift+f失灵
今天不知道为什么，突然pycharm全局搜索的快捷键用不了了，后来想了想这期间就装了个中文输入法，好吧，果然是快捷键被占用了。方法一、添加pycharm快捷方式第一种解决方法就是在pycharm里添加另一种快捷方式file->setting->Keymap->Main Menu->Edit->Find->Find in Files…然后呢，加上你想要的快捷键，我是用Ctrl+Shift+G。是同时按下Ctrl+Shift+G，不是让你打字。方法二、更改输入
2022-04-15 17:06:15
1315
原创 docker学习之迁移目录
之前docker默认安装在系统盘，现在系统盘要爆了，加了个数据盘，现在要将docker迁移到数据盘上去。。占用情况查看占用内存，–max-depth=1表示层数为1，/var/lib/docker是docker默认储存路径sudo du -h --max-depth=1 /var/lib/docker惊奇的发现，/var/lib/docker/overlay2占了14G，系统盘总共才40G呀喂。移动docker首先挂载开机自动挂载数据盘的事情就不说了，现在默认已经挂载好了数据盘，而且数据盘的地
2022-04-15 10:57:45
643
原创 docker学习之跳过sudo
每次docker命令都要加sudo，否则就会报错 Got permission denied while trying to connect to the Docker daemon socket at unit:///var/run/docker.sock:所以呢，就百度了一下怎么跳过sudo，默认直接使用。这篇文章来自他人1、创建名为docker的组，如果之前已经有该组就会报错，可以忽略这个错误：sudo groupadd docker2、将当前用户加入组docker（直接执行下面这个命令）：
2022-04-14 16:24:52
1013
原创 docker学习之卸载重装
我呢，是因为docker迁移目录的时候总是报错，所以想换个版本看下啥情况。docker卸载#关闭dockersystemctl stop docker.socketsystemctl stop docker#删除其安装时自动安装的所有包sudo apt-get autoremove docker docker-ce docker-engine docker.io containerd runc#删除docker 其他没有卸载sudo apt-get autoremove docker
2022-04-14 15:53:38
781
原创 卸载cuda cudnn并装新的版本
系统ubuntu20，显卡RTX3090，算是自己作孽，没注意到pytorch版本不支持cuda11.6，痛定思痛，改装cuda11.1卸载cudnnsudo rm -rf /usr/local/cuda/include/cudnn.hsudo rm -rf /usr/local/cuda/lib64/libcudnn*卸载cuda我之前装的是cuda-11.6cd /usr/local/cuda-11.6/bin/sudo ./cuda-uninstallersudo rm -rf /u
2022-04-14 15:08:43
308
原创 ubuntu20挂载硬盘到指定路径
首先，查看磁盘分区，找到你要挂载的分区，我的是 /dev/sda1sudo fdisk -l查看 /dev/sda1 分区对应的UUID等信息，并复制下来sudo blkid /dev/sda1新建你要挂载的目录，目录要是空的，我挂载在/mnt/data下mkdir /mnt/data编辑分区文件/etc/fstab，在最下方加上 UUID 目录 文件系统类型（默认ntfs，自己格式化） 挂载类型（默认default） 是否备份（默认填0） 是否为引导盘（默认填2）sudo
2022-04-13 17:06:28
1010
原创 ubuntu20 RTX3090 装系统失败记录
错误情况1：Minimal BASH-like line editing is supported安装完Ubuntu后，发现重启系统会直接进入grub界面，报错 Minimal BASH-like line editing is supported这个错误主要原因是引导出错，需要修复。但是我不想修复，就又重装了一次。错误情况2：executing ‘grub-install/dev/nvmeOn1p5’ failed这次失败的更离谱，系统装到一半的时候告诉我发生了一个致命错误，直接中断了。。。。
2022-04-13 11:14:50
544
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人