[综述笔记]Federated learning for medical image analysis: A survey

于 2024-09-11 22:57:54 发布
阅读量629 收藏 4
点赞数 8
分类专栏： 综述笔记 文章标签： 笔记 人工智能 深度学习 图论 神经网络 机器学习 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Sherlily/article/details/142142472
版权

论文网址：Federated learning for medical image analysis: A survey - ScienceDirect

英文是纯手打的！论文原文的summarizing and paraphrasing。可能会出现难以避免的拼写错误和语法错误，若有发现欢迎评论指正！文章偏向于笔记，谨慎食用

目录

1. 省流版

1.1. 心得

2. 论文逐段精读

2.1. Abstract

2.2. Introduction

2.2.1. Related surveys

2.2.2. Searching and analysis process

2.3. Background

2.3.1. Motivation

2.3.2. Problem formulation of federated learning

2.3.3. Typical process of federated learning

2.3.4. Types of federated learning

2.4. Federated learning for medical image analysis

2.4.1. Methods overview: A system perspective

2.4.2. Client-end learning

2.4.3. Sever-end learning

2.4.4. Client–server communication

2.5. Software platforms and tools

2.6. Medical image datasets for federated learning

2.6.1. Medical image data usage overview

2.6.2. Brain images

2.6.3. Chest/lung/heart images

2.6.4. Skin images

2.6.5. Others

2.7. Experiment

2.7.1. Experimental setup

2.7.2. Result and analysis

2.8. Discussion

2.8.1. Challenges of federated learning for medical image analysis

2.8.2. Future research directions

2.9. Conclusion

4. Reference

1. 省流版

1.1. 心得

（1）不太了解联邦学习在医学影像应用的可以读，不然不算是非常有深度的文章。可以当看个小科普。熟悉联邦学习的估计在这里面找不到新的idea和文章

2. 论文逐段精读

2.1. Abstract

        ①Conundrum in machine learning (ML): scarcity of samples

        ②Solving method: federated learning (FL)

        ③3 aspects of FL: client end, server end, and communication techniques

2.2. Introduction

        ①Privacy which limits the sharing between sites: Health Insurance Portability and Accountability Act (HIPAA) and General Data Protection Regulation (GDPR)

        ②FL in medical image field:

intractable  adj. 棘手的；很难对付(或处理)的

2.2.1. Related surveys

        ①Papers covered: from 1 January 2017 to 31 October 2023

        ②Chapters/content included: Software Platforms, Experimental Study, Future Direction and New Arisen Problems, Different Perspective and Organization

2.2.2. Searching and analysis process

        ①Introducing how the selected papers and the chapters arrangement of this work

        ②Collected/contained papers:

2.3. Background

2.3.1. Motivation

（1）Privacy protection in medical image analysis

        ①Violating privacy protection laws may result in high fines for hospitals and institutions

（2）Challenges of medical image analysis

        ①Limited sites/data

        ②Class imbalance

        ③Population statistics and distribution differences

skew  v.歪斜；偏离；歪曲；曲解；影响…的准确性；使不公允  n.斜交；扭曲；斜砌石；歪轮  adj.弯曲的；歪的；曲解的；误用的

2.3.2. Problem formulation of federated learning

        ①There are N sites with there own datasets \left \{D_{1},D_2, ... , D_N \right \}

        ②Defining the sharing model as M^* and the local model as M

2.3.3. Typical process of federated learning

（1）Client Selection and Initialization: including specific clients

（2）Local Training: advanced local training

（3）Model Upload: only update/share weights to sever

（4）Aggregation: different strategy

（5）Broadcast: synchronous update

（6）Iteration and Convergence: synchronous update

（7）Deployment: compatibility with existing hospital systems, integration challenges, and user adoption hurdles

2.3.4. Types of federated learning

（1）Horizontal federated learning

        ①Equals to homogeneous federated learning

        ②Different medical institutions hold medical imaging data of different patients

（2）Vertical federated learning

        ①Namely heterogeneous federated learning

        ②Different institutions have different types of data for the same group of patients

2.4. Federated learning for medical image analysis

2.4.1. Methods overview: A system perspective

        ①Overview:

2.4.2. Client-end learning

（1）Client end: Domain shift among clients

        ①Distribution in different sites:

        ②Domain-specific learning: fine-tune global model by data in clients

        ③Domain adaptation: align distribution differences

        ④Image harmonization: image-to-image translation model

（2）Client end: Limited data and labels

        ①Constract learning: distinguish between similar and dissimilar data

        ②Multi-task learning: data augmentation

        ③Weakly-supervised learning

        ④Knowledge distillation: utilizing small student model to represent the bigger teacher model

        ⑤Data synthesis: generative model

（3）Client end: Heterogeneous environments (computation resource & data scale)

        ①Each sites needs different epoch to train cuz their scale of samples and the device are different:

2.4.3. Sever-end learning

（1）Sever end: Weight aggregation

（2）Sever end: Domain shift among clients

（3）Sever end: Client corruption/anomaly detection

2.4.4. Client–server communication

（1）Data leakage and attack

        ①Partial Weights Sharing: only employ feature extraction in local model ()

        ②Differential Privacy: noise added

        ③Attack and Defense: generate fake images

（2）Communication efficiency

        ①Dynamic weight aggregation

2.5. Software platforms and tools

（1）PySyft

（2）OpenFL

（3）PriMIA

（4）Fed-BioMed

2.6. Medical image datasets for federated learning

2.6.1. Medical image data usage overview

        ①Using different site directly

        ②Divided one dataset to several sub dataset

2.6.2. Brain images

（1）ADNI

（2）ABIDE

（3）BraTS

（4）RSNA brain CT

（5）UK Biobank

（6）IXI

2.6.3. Chest/lung/heart images

（1）CheXpert

（2）ChestX-ray

（3）COVID-19 Chest X-ray

（4）COVIDx

（5）ACDC

（6）M&M

2.6.4. Skin images

（1）HAM10000

（2）ISIC

2.6.5. Others

（1）Eye: Kaggle Diabetic Retinopathy (Retina)

（2）Abdomen: PROMISE12

（3）Histology: TCGA

（4）Knee: fastMRI

（5）MedMNIST

2.7. Experiment

        ①Dataset: T1 weight image of ADNI

ADNI dataset containedTotal samplesADNC
ADNI 1428177229
ADNI 2360159201

        ②Atkas: AAL 90

        ③Feature: mean gray matter volumes

        ④Dataset dividing: 80% for training and 20% for testing

        ⑤Cross validation: 5 fold

 

2.7.1. Experimental setup

        ①Compared models

Traditional machine learningCrosstrain data on one client, test on other client
Singletrain and test on each client respectively
Mixtrain data from all the client, and then test
Popular FL methodsFedAVGaggregate weights
FedSGDaggregate gradients
FedProxEvery client trains its own model with an additional proximal term (the coefficient μ is set to 0.1)

        ②Figure:

2.7.2. Result and analysis

        ①Classification result:

2.8. Discussion

2.8.1. Challenges of federated learning for medical image analysis

（1）Data heterogeneity among clients: different scanner/scanning machine, patients distribution

（2）Privacy leakage/poisoning attacks

（3）Technological limitations: computing cost

（4）Long-term viability of FL-based medical image analysis

2.8.2. Future research directions

（1）Future research directions

（2）Multi-modality fusion for federated learning

（3）Model generalizability for unseen clients

（4）Weakly-supervised learning for federated learning

（5）Federated learning security: Attack and defense

（6）Blockchain and decentralization of federated learning

（7）Federated learning for medical video analysis

（8）Large-scale medical image benchmark for federated learning

（9）Model interpretability

（10）Real-world implementation and practical issues

2.9. Conclusion

        Conclusion of this work

4. Reference

Guan, H. et al. (2024) 'Federated learning for medical image analysis: A survey', Pattern Recognition, 151. doi: Redirecting

夏莉莉iy
关注
  • 8
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
联邦学习1 A Unified Federated Learning Framework for Wireless Communications: towards Privacy,..论文
qq_46218610的博客
09-11 599
大背景 面临的问题：1、隐私问题。2、非 IID 数据。2、无线网络通信资源有限。3、复杂的用户身份，训练过程面临着拜占庭设备的挑战，它可以向模型注入中毒信息 根据上一篇，FAug-FD 虽然工作良好，但当边缘设备上传本地原始数据以在云中训练全球数据生成器时，会导致私人数据泄露。此外，FAug-FD 只考虑 IID 数据和通信效率的要求，但仍忽略了拜占庭设备带来的安全挑战。 1、提出强大的联邦增强和联邦蒸馏 （RFA-RFD），2、在 RFA 和 RFD 中采用了检测和丢弃机制 总体思想： RF
【论文笔记】Personalized Federated Learning with Theoretical Guarantees: A MAML Approach
lasetd的博客
06-24 1238
论文笔记
综述1--Federated Learning for Computer Vision
weixin_55265194的博客
06-22 1475
介绍了CV的来源和四种主要技术介绍了CV面临的挑战以及解决办法介绍了边缘计算架构的兴起对CV带来的机遇与问题并解决方案介绍了综述选文方法介绍了别人目前的相关综述的研究介绍了本文的贡献点基于统计数据（即从大型训练数据集中学习到的模式）；以规则形式表达的逻辑；基于深度神经网络 (DNN)（捕捉图像特征与最终决策之间的非线性关系）；基于结合多个决策以找到最大化整体性能的决策的遗传算法和进化算法；
论文笔记：一分类及其在大数据中的潜在应用综述
爱学习爱运动的专栏
09-07 1241
论文：A literature review on one‑class classification and its potential applications in big data发表：Journal of Big Data在严重不平衡的数据集中，使用传统的二分类或多分类通常会导致对具有大量实例的类的偏见。在这种情况下，对少数类实例的建模和检测是非常困难的。一分类(OCC)是一种检测与已知类实例相比较的异常数据点的方法，可以用于解决与严重不平衡数据集相关的问题，这在大数据中尤其常见。
计算机视觉论文-2021-06-17
中科院AI算法工程师的博客
06-23 1659
本专栏是计算机视觉方向论文收集积累，时间：2021年6月17日，来源：paper digest 欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！ 直达笔记地址：机器学习手推笔记（GitHub地址） 1, TITLE:Structure First Detail Next: Image Inpainting with Pyramid Generator AUTHORS: SHUYI QU et. al. CATEGORY: cs.CV [cs.C...
计算机视觉论文-2021-06-08
中科院AI算法工程师的博客
06-09 3701
本专栏是计算机视觉方向论文收集积累，时间：2021年6月4日，来源：paper digest 欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！ 直达笔记地址：机器学习手推笔记（GitHub地址） 1, TITLE:End-to-End Neuro-Symbolic Architecture for Image-to-Image Reasoning Tasks AUTHORS: Ananye Agarwal ; Pradeep Shenoy ; ...
Federated Learning in Mobile Edge Networks: A Comprehensive Survey .pdf
11-03
针对日益严格的数据隐私立法和日益增长的隐私关注，联邦学习(FL)的概念被引入。在FL中，终端设备使用它们的本地数据来训练服务器所需的ML模型。然后，终端设备将模型更新而不是原始数据发送到服务器进行聚合。...
2018-FL分布式医学数据研究-Federated Learning in Distributed Medical Datab
08-03
分布式医学数据研究——联邦学习在分散的医学数据库中的应用 随着全球医学数据库中脑部图像数量的爆炸性增长，结合数据分析技术，我们有机会更深入地理解大脑疾病背后的遗传因素。然而，由于隐私保护和法律法规的...
【论文笔记】A Survey on Federated Learning: The Journey From Centralized to Distributed On-Site Learning a
虚幻私塾
04-25 603
🚀 优质资源分享 🚀 学习路线指引（点击解锁） 知识定位 人群定位 🧡 Python实战微信订餐小程序 🧡 进阶级 本课程是python flask+微信小程序的完美结合，从项目搭建到腾讯云部署上线，打造一个全栈订餐系统。 💛Python量化交易实战💛 入门级 手把手带你打造一个易扩展、更安全、效率更高的量化交易系统 A Survey on Federated Learning: The Journey From Centralized to Distributed On-Site
STM32学习笔记（二、初识stm32单片机）
tommorrowwill的博客
09-10 622
首先stm32是意法半导体公司（ST）使用ARM公司的Cortex-M为核心生产的32位的单片机。其中，ST---意法半导体公司，即SOC厂商。M---为Microelectronics的缩写，即微型处理器。32---表示控制器为32位的。103---表示F系列的子系列。
C++学习笔记----6、内存管理（五）---- 智能指针（3）
weixin_71738303的博客
09-11 980
与指向特定类型的原始指针可以转化为不同类型的指针一样，shared_ptr保存特定的类型可以转化为一个另一种类型的shared_ptr。转化shared_ptr的函数是const_pointer_cast()，dynamic_pointer_cast(),static_pointer_cast()和reinterpret_pointer_cast()。前面简要提过，当拥有共享属主的智能指针，例如shared_ptr不在活动范围或者被重置时，只有它是最后指向的智能指针时才能释放其指向的资源。
【C++学习笔记】数组与指针（三）
qq_38196449的博客
09-09 1142
0（空字符）
UEFI学习笔记（五）：EDK II PCD的概念、类型、使用
qq_44189622的博客
09-11 454
如果在BIOS里面有一些模块是binary方式集成进来的而这些binary又需要用到PCD（用于Binary Release），那么这些Binary集成的要用到的PCD就必须要设置为。PCD的值存在memory里面，下次启动时，上次更改的值丢失了，每次启动都是从default值开始。是存在VPD空间的（在FLASH上，只读），一般是出厂配置。如果platform是从源码build出来的，没有binary在里面的时候，PCD用的都是。作用域在一个模块中（模块级的），可以在Binary Level进行修改。
OJ在线判题系统项目笔记
今天不coding的博客
09-11 532
OJ在线判题系统项目笔记
C++学习笔记（10）
qq_60098634的博客
09-07 676
unordered_multimap 和 unordered_map 的区别在：unordered_multimap 允许关键字重复，而。unordered_multiset 和 unordered_set 的区别在：unordered_multiset 允许关键字重复，而。
rk3568系统buildroot开发笔记
Reasonss的博客
09-11 843
构建RK3568系统期间遇到的各种问题,我主要分为编译问题和运行问题
JS笔记
最新发布
2201_76100326的博客
09-11 274
Math对象属于Javascript内置对象，无需实例化（不需要添加new ），可以直接使用。只有一个Math.PI的属性。
sheng的学习笔记-AI-规则学习（rule learning）
coldstarry的专栏
09-09 970
机器学习中的“规则”(rule)通常是指语义明确、能描述数据分布所隐含的客观规律或领域概念、可写成“若……，则……”形式的逻辑规则。​“规则学习”(rule learning)是从训练数据中学习出一组能用于对未见示例进行判别的规则。一条规则形如：在数理逻辑中“文字”专指原子公式(atom)及其否定。与神经网络、支持向量机这样的“黑箱模型”相比，规则学习具有更好的可解释性，能使用户更直观地对判别过程有所了解。另一方面，数理逻辑具有极强的表达能力，绝大多数人类知识都能通过数理逻辑进行简洁的刻画和表达。
spreadgnn: serverless multi-task federated learning for graph neural network
04-30
spreadgnn是一种无服务器多任务联邦学习方法，针对图神经网络。联邦学习是一种新兴的机器学习方法，它允许不同设备（例如移动设备）上的数据进行局部训练，然后将训练后的模型聚合，以获得更好的泛化性能。Graph Neural Network是一类可以处理图形和网络数据的神经网络，目前在社交网络、化学和蛋白质结构等领域有广泛应用。 spreadgnn使用无服务器架构设计来实现多任务联邦学习。本方法采用一种名为Federated Averaging的模型聚合方法，它将本地模型分发到各个设备上，让每个设备进行本地模型的训练，并将本地模型更新结果汇聚回全局模型中。spreadgnn还使用了一种名为联邦学习架构的方法来处理不同的联邦学习任务，以提高模型泛化性能。同时，spreadgnn使用了一种名为GraphSage的图神经网络模型，以应对图和网络数据。 总之，spreadgnn在无服务器架构、Federated Averaging、联邦学习架构和GraphSage等方面做出了创新，能够有效地应对多任务联邦学习的挑战。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值