去中心化的联邦图神经网络

最新推荐文章于 2024-07-16 08:58:00 发布
最新推荐文章于 2024-07-16 08:58:00 发布
阅读量1.6w 收藏 12
点赞数 2
分类专栏： 推荐系统 文章标签： 神经网络 去中心化 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44760744/article/details/121933239
版权
本文提出了去中心化的联邦图神经网络D-FedGNN，解决了中心化联邦学习中存在中心服务器的问题。D-FedGNN采用DP-SGD算法在点对点网络中训练GNN模型，并利用Diffie-Hellman密钥交换保护模型聚合的隐私。每个客户端拥有自己的子图，通过初始化、本地模型更新和安全模型聚合步骤实现协同训练。
摘要由CSDN通过智能技术生成

《Decentralized Federated Graph Neural Networks》论文阅读笔记

发表在2021年的IJCAI

  1. 背景
    GNN广泛用来分析图结构数据，然而，在用户端有隐私，规则限制，商业竞争等。因此，我们能看到的图结构数据是分布式的，这也就限制了GNN的应用。
  2. 已有方法
    已有一些关于中心化联邦图神经网络的研究，中心服务器协调各个参与者从图结构数据中训练的GNN模型。
  3. 存在问题
    中心服务器需要进行模型聚合操作，在很多跨领域场景下，这种中心服务器是不被接受的。因此，去中心化的学习模型在真实场景下还是很关键的。
  4. 本文
    提出一种去中心化的联邦图神经网络D-FedGNN，允许多个参与者训练一个图神经网络模型，且不需要中心服务器。具体的，使用去中心化的并行梯度下降是算法DP-SGD，在点对点的网络结构中训练图神经网络模型。为了保护模型聚合过程中的隐私，D-FedGNN引入Diffie-Hellman key exchange方法在客户端进行安全模型聚合。
    在这里插入图片描述
  5. 具体
    5.1 初始化
    每个客户端有自己的子图，G = (V,E)，在初始阶段，客户端初始化训练模型参数，然后将训练好的模型参数发送给其他客户端，最终，调用Diffie-Hellman密钥交换协议，与j客户建立共享密钥。
    5.2 本地模型更新：
最低0.47元/天 解锁文章
Xidian小韩同学
关注
专栏目录
面向6G的去中心化的人工智能理论与技术
qq_61890005的博客
12-20 848
【摘 要】去中心化网络架构和原生AI能力是未来6G网络的两个重要发展趋势，现有的依赖于云端服务器或者终端的中心化的AI模式将难以支持6G网络下多终端、多节点的分布式智能协作需求，这种新型的去中心网络环境给AI在模型的训练、数据的采集和处理、模型的部署和推理等方面带来了新的挑战，针对6G网络去中心化计算环境中海量终端设备异构、计算能力差异大、通信网络条件动态变化等特点，分析去中心化的人工智能发展趋势及相关的理论与技术，并提出相关的前瞻性的技术挑战和研究方向。【关键词】6G；去中心化；人工智能；神经网络；智能
【论文导读】 - 关于联邦图神经网络的3篇文章
1+1=王的博客
05-17 774
图神经网络( GNNs )凭借其强大的处理实际应用中广泛存在的图数据的能力，受到了广泛的研究关注。然而，随着社会越来越关注数据隐私，GNNs面临着适应这种新常态的需要。这导致了近年来联邦图神经网络( FedGNNs )研究的快速发展。虽然前景广阔，但这一跨学科领域感兴趣的研究者来说是极具挑战性的。对这一领域缺乏深入的调查只会加剧这一问题。在本文中，我们通过提供对这一新兴领域的全面调查来弥补这一差距。
【论文导读】- Federated Graph Neural Networks Overview, Techniques and Challenges（联邦图神经网络：概述、技术和挑战
2301_76379606的博客
05-03 776
在现有的去中心化FedGNN研究中，仅对1跳邻居的模型参数进行聚合，为每个数据拥有者生成个性化的FL模型。然而，在图相关的FL客户机的设置中，客户机之间的关系也可以随着时间的推移而演变。然而，为了将FedGNNs扩展到大规模图数据(例如,知识图谱)，通信开销可能是一个重要的瓶颈，因为数据拥有者往往采用具有大量模型参数的多层GNN模型进行传输。客户端的本地数据不一定需要是图形数据。将可解释性融入到FedGNN中，需要联合考虑所涉及的利益相关者对可解释性的需求，同时有效平衡保护隐私和训练模型的目标。
联邦学习（Federated learning）—— 去中心化联邦&中心化联邦
最新发布
2201_76139143的博客
07-16 815
需要将本地模型参数加密传输给其余参与联合训练的数据持有方。因此，假设本次联合训练有n个参与方，则每个参与方至少需要传输2（n-1）次加密模型参数。中央服务器先将初始模型分发给各参与方，然后各参与方根据本地数据集分别对所得模型进行训练。：基于分布在多个设备上的数据集构建机器学习模型，同时防止数据泄露。各参与方将本地训练得到的模型参数加密上传至中央服务器。，因为难以从多家企业中选出进行协调的服务器方。，企业作为服务器，起着协调全局模型的作用；进行模型训练的场景，一般可以采用。的联邦学习场景，一般采用的是。
去中心化的联邦学习专栏
热门推荐
qq_43537005的博客
12-20 1万+
去中心化的联邦学习专栏会定期更新论文、代码的分享，请尽请期待！ 小白入门，请多多指教！
时空数据建模的跨节点联邦图神经网络：KDD21 Cross-Node Federated Graph Neural Network for Spatio-Temporal Data Modeling
qq_56027260的博客
05-08 1266
前言 联邦学习（FL）虽然已经被广泛研究，但是对复杂的时空依赖关系进行建模以提高预测能力仍然是一个开放的问题。此外目前最优的时空预测模型假定对数据的访问不受限制，忽略了对数据共享的限制。基于此，本文提了一个基于图联邦学习的时空数据模型 Cross-Node Federated Graph Neural Network (CNFGNN)，该模型在跨节点联邦学习的约束下，使用基于图神经网络（GNN）的架构对底层图结构进行编码，属于结构化联邦的一种，每个本地模型利用私有数据进行学习，并保持分散性。CNFGNN
去中心化联邦学习思想
Python领域优质萌新创作者
03-23 2805
在去中心化联邦学习中，每个设备只与其邻居设备通信，因此通信开销较小。但是，由于每个设备的模型更新仅基于其邻居设备的信息，因此可能存在模型发散或不能收敛的问题。在去中心化联邦学习中，每个设备都使用本地数据进行模型训练，并将模型更新发送给周围的邻居设备。相较于其他的联邦学习方式，去中心化联邦学习不需要集中式服务器来协调设备之间的通信，因此极大地减少了通信开销和单点故障风险。去中心化联邦学习算法的主要优点是对用户隐私具有更好的保护，而且通常比集中式的联邦学习更具有可扩展性和健壮性。我们的目标是学习一个全局模型。
干货！用于时空数据预测的跨节点联邦学习图神经网络
AITIME_HY的博客
11-19 2788
点击蓝字关注我们AI TIME欢迎每一位AI爱好者的加入！传感器网络、可穿戴设备以及物联网设备产生的大量数据使能够利用分布式数据的时空数据建模方法显得更为重要，尤其是在边缘计算和数据访问控...
2023-10 去中心化联邦均衡(写作学习)
qq782352459的博客
04-06 701
介绍FedAvg：何种算法+基本的工作模式点出FedAvg存在的问题：通信成本+易受攻击介绍去中心化方法的优势本文的亮点，并点出与类似工作的区别和优势假设和效果介绍FL，FedAvg，Local SGD之间的关系，Local SGD节省通信成本。
【论文导读】- Federated Graph Neural Networks: Overview, Techniques and Challenges（联邦图神经网络：概述、技术和挑战）
1+1=王的博客
09-13 1万+
图神经网络( GNNs )凭借其强大的处理实际应用中广泛存在的图数据的能力，受到了广泛的研究关注。然而，随着社会越来越关注数据隐私，GNNs面临着适应这种新常态的需要。这导致了近年来联邦图神经网络( FedGNNs )研究的快速发展。虽然前景广阔，但这一跨学科领域感兴趣的研究者来说是极具挑战性的。对这一领域缺乏深入的调查只会加剧这一问题。在本文中，我们通过提供对这一新兴领域的全面调查来弥补这一差距。
联邦图神经网络：概述、技术和挑战
sinat_38007523的博客
05-24 1388
图神经网络以其处理实际应用中广泛存在的图形数据的强大能力，受到了广泛的研究关注。然而，随着社会越来越关注数据隐私，GNN需要适应这种新常态。这导致了近年来联邦图神经网络（FedGNNs）研究的快速发展。虽然有前途，这个跨学科的领域是非常具有挑战性的感兴趣的研究人员进入。缺乏对这一主题的深入调查只会加剧这一问题。在本文中，我们弥合这一差距，提供了一个全面的调查这一新兴领域。我们提出了一个独特的3层分类FedGNNs文献提供了一个清晰的视图GNNs如何在联邦学习（FL）的背景下工作。
探索未来数据安全的边界：GFL 去中心化联邦学习框架
gitblog_00059的博客
05-28 449
探索未来数据安全的边界：GFL 去中心化联邦学习框架 GFLGalaxy Federated Learning Framework （星际联邦学习框架）项目地址:https://gitcode.com/gh_mirrors/gf/GFL 在大数据时代，保护隐私与提高数据分析效率是一对矛盾的需求。而联邦学习作为一种分布式机器学习方法，正试图在这两者之间找到平衡。今天，我们要向您推荐一款创新的开源...
去中心化联邦学习FL论文阅读11
weixin_59875350的博客
09-11 457
本文介绍了去中心服务器的完全分布式联邦学习综述。 Federated Learning for Internet of Things: Recent Advances, Taxonomy, and Open Challenges 联邦学习：最新进展、分类和开放挑战
去中心化联邦学习FL论文阅读13
weixin_59875350的博客
09-13 526
本文介绍了去中心服务器的完全分布式联邦学习论文，Decentralized federated learning of deep neural networks on non-iid data non-iid数据下的深度神经网络的分布式联邦学习
联邦学习FedAvg-基于去中心化数据的深度网络高效通信学习
SmartLab307的博客
08-30 2645
随着计算机算力的提升，机器学习作为海量数据的分析处理技术，已经广泛服务于人类社会。 然而，机器学习技术的发展过程中面临两大挑战：一是数据安全难以得到保障，隐私泄露问题亟待解决；二是网络安全隔离和行业隐私，不同行业部门之间存在数据壁垒，导致数据形成“孤岛”无法安全共享，而仅凭各部门独立数据训练的机器学习模型性能无法达到全局最优化。为解决上述问题，谷歌提出了联邦学习（FL，federated learning）技术。
强化学习、联邦学习、图神经网络，飞桨全新工具组件详解
喜欢打酱油的老鸟
12-06 1580
2019-12-05 14:55:36 机器之心发布机器之心编辑部 11 月 5 日，在 Wave Summit+2019 秋季深度学习开发者峰会上，飞桨全新发布和重要升级了最新的 21 项进展，在深度学习开发者社区引起了巨大的反响。 很多未到场的开发者觉得遗憾，希望可以了解飞桨发布会背后的更多技术细节，因此我们特别策划了一个系列稿件，分别从核心框架、基础模型库、端到端开发套件、工具组...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值