隐语 垂直联邦学习

于 2024-08-05 11:29:13 发布
阅读量348 收藏 7
点赞数 3
文章标签： 深度学习 人工智能 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/huang8666/article/details/140922564
版权

隐语 第三期第八讲 联邦学习在垂直场景的开发实践

垂直联邦框架介绍

image-20240730113854610

算法流程：

image-20240805110438480

用户相同，特征不同

  • 支持多种类型的特征

  • 自定义数据预处理流程

  • 支持灵活的自定义模型结构且内置了部分拆分模型

  • 内置多种通信/计算优化和安全加强方法

  • 支持多种训练后端

算法流程

1.数据对齐：保证用户是相同的

2.前向传播：安全传输给有Label的一方

3.融合，继续前向传播，计算Loss

4.拆分并发送梯度，进行反向传播更新Fuse模型，更新Base模型

SLModel： 接口

image-20240730114350580

训练框架：strategy

image-20240730114558589

隐层：

image-20240805110741188

DP框架（保证数据在出域时的安全）

扰动 保证数据不会被反向猜测

流程：

  • 定义参数

  • 指定哪方执行

  • 指定account效率

  • 传入SLModel

上手实践

数据导入

sf框架导入

数据加载对齐（各方持有几列）

数据处理（离散值特征不能直接用到神经网络）和特征上的缩放

切分训练集和数据集

模型结构定义

传给SLModel

训练模型

模型评估

huang8666
关注
联邦学习
06-04
课程主要就联邦学习介绍，联邦学习算法原理，联邦学习算法分类，联邦学习算法实现与优化和联邦学习应用案例，配套企业项目案例展开。由浅入深，引领学员浸泡逐步掌握企业级智能的技巧。
纵向联邦学习
武天旭的博客
03-16 1万+
一、纵向联邦学习的定义 纵向联邦学习（VFL）一般是适用于数据集上具有相同的样本空间、不同的特征空间的参与方所组成的联邦学习场景，纵向联邦学习也可以理解为按特征划分的联邦学习。 举个例子，我们假设有两家公司A和B想要协同地训练一个机器学习模型，每一家公司都拥有各自的数据。例如保险公司与银行合作，根据同一用户的购买历史与消费习惯，为该用户提供定制化的服务；医院与制药公司合作，通过利用同类患者的医疗记录，从而治疗患者的慢性疾病，并降低患者未来住院治疗的风险。
001 A Comprehensive Survey of Privacy-preserving Federated Learning（便于寻找：FedAvg、垂直联邦学习的基本步骤）
Uzz_yuzaizai的博客
05-31 1135
这是我看的第一篇关于联邦学习的论文，综述文章，让我对联邦学习有了初步的了解。 A Comprehensive Survey of Privacy-preserving Federated Learning: A Taxonomy, Review, and Future Directionshttps://doi.org/10.1145/3460427 下图用表格的形式将联邦学习中隐私保护相关论文进行了罗列 ......
白话搞懂【联邦学习】
全栈O-Jay的博客
12-30 2301
联邦学习（Federated Learning）近几年很火，本文拟用**最通俗**语言解释联邦学习的来龙去脉。
读懂联邦学习中的安全与隐私问题（全）
热门推荐
cryptocxf的博客
09-06 1万+
该篇是2021年发表在《Future Generation Computer Systems》期刊上的一篇综述论文，主要介绍了联邦学习中可能面对的所有安全与隐私威胁问题，比较详细和具体的进行了综述，是篇还不错的文章，建议读原文。以下是个人的读书笔记，结合自己的理解，只截取部分关键或重要的部分。 先附上原文下载链接：查阅or下载 （长文警告，本篇大约1.8w个字，谨慎阅读！） 文章目录预览《A survey on security and privacy of federated learning》联邦学习的
一个基于深度学习的人像识别及隐语义（LFM）推荐系统.zip
02-19
在这个名为“一个基于深度学习的人像识别及隐语义（LFM）推荐系统.zip”的压缩包文件中，我们可以深入探讨两个关键的IT知识点：人像识别技术和隐语义模型（Latent Factor Model, LFM）在推荐系统中的应用。...
spark隐语义模型推荐.zip
07-19
Spark隐语义模型推荐系统是一种基于大数据处理框架Apache Spark的推荐算法实现，它结合了机器学习中的隐语义模型（Latent Factor Models）与分布式计算的优势。本项目着重讲解如何利用Python编程语言来构建这样的...
内隐语篇关系识别的堆叠学习
03-05
综上所述，内隐语篇关系识别的堆叠学习方法，通过巧妙地整合多个系统对语篇关系的信心度，展现了在提高识别准确率方面的巨大潜力。这一成果不仅对提升语篇关系识别系统的性能具有重要意义，也为其他相关自然语言处理...
第四讲隐语SecretFlow安装部署
03-25
第四讲隐语SecretFlow安装部署
联邦学习 Federated Learning 基本介绍
Jiayyyiii的博客
11-25 1482
联邦学习（FL）是一种在边缘设备利用本地数据进行模型训练，再将模型参数传回服务器聚合的一种训练方法，降低了传统集中式机器学习方法带来的一些系统隐私风险和成本。
010 Large-Scale Kernel Method for Vertical Federated Learning（垂直联邦学习大规模核方法）
Uzz_yuzaizai的博客
06-29 467
面向垂直联邦学习的大规模核方法
【学习笔记】联邦学习
最新发布
信息安全专业研究生在读，记录学习内容
05-08 277
联邦学习是一种在保护数据隐私的前提下，允许多个参与方协作训练机器学习模型的框架。它主要有三种类型：水平联邦学习（Horizontal Federated Learning）、垂直联邦学习（Vertical Federated Learning）和联邦迁移学习（Federated Transfer Learning）。这三种方法都旨在在不共享原始数据的情况下，通过协作训练来提高机器学习模型的性能，同时保护数据的隐私和安全。
数据安全前言技术研究联邦学习
m0_73803866的博客
10-28 725
随着全球相关法规的密集发布，包括欧盟 GDPR，美国 CCPA，国内的《网络安全法》,以及今年发 布的《数据安全法（草案）》、《个人信息保护法（草案）》，合规性成为了企业数据安全建设与治理 的重要驱动力。法规对企业数字化、信息化转型出了更高更严的数据安全要求⸺既要满足自身业务 的数据安全需求，同时又要遵守合规性要求。不断强化的法规给新技术带来新的机遇与需求，近年来， 数据安全领域新技术不断涌现，比如同态加密、安全多方计算、联邦学习，差分隐私等；也促进与其他 领域技术的融合与应用，比如知识图谱，流程自动化等。
纵向联邦学习的挑战与展望
weixin_44850744的博客
01-30 307
之前的研究工作已经证明，只有具备针对性的安全工具，才能让不同的计算种类达到最优效果，例如混淆电路可以高效地进行比较计算，而秘密共享和同态加密可以提供高效的算术运算。此外，高效的基于隐私保护的实体对齐技术也是一个值得探索的方向，因为它是纵向联邦学习中必不可少的一环。出于不同的商业目的，不同组织拥有的数据集通常具有不同的特征空间，但这些组织可能共享一个巨大的用户群体。我们把在数据集上具有相同的样本空间、不同的特征空间的参与方所组成的联邦学习归类为纵向联邦学习，也可以理解为按特征划分的联邦学习。
【Mo 人工智能技术博客】纵向联邦学习简介及实现
Mo 的博客
09-15 5642
案例引入 某银行A与某互联网公司B达成了企业级的合作。互联网公司A与银行B有着一大部分重合的用户，A有着客户上网行为等特征信息。B有着客户的存贷情况等特征信息以及客户的标签信息——客户的还贷情况(Y)。B希望能够将他所独有的特征信息与A所独有的特征信息相结合，训练出一个更强大的识别客户信用风险的模型，但由于不同行业之间的行政手续，用户数据隐私安全等因素，企业A，B无法直接互通数据，联邦学习应运而生。 联邦学习概述 联邦学习的定义 联邦学习旨在建立一个基于分布数据集的联邦学习模型。在模型训练的过程中，模型相关
联邦学习将如何影响您的日常生活？
CyberVein的博客
01-03 543
联邦学习是一种分布式学习方法，具有与传统机器学习算法相同的建模效果。
横向联邦学习（Horizontal Federated Learning）VS 纵向联邦学习（Vertical Federated Learning）
Xiao_Bai_Ke的博客
02-27 1万+
1.横向联邦学习：适用于参与者的数据特征维度重叠较多的情形： 目的：增加训练数据的数据量 例如甲医院有患者：A，B，C；乙医院有患者C，D，F这六位患者，甲乙医院都有患者的身高，体重，血压，心跳等信息，那么进行联邦学习一个判断患者健康状况的模型时，就可以使用横向联邦学习： 示例： 2.纵向联邦学习：适用于参与者数据ID特征重叠较多的情形： 目的：增加参与者数据的数据维度 例如甲医院...
堆叠学习提升内隐语篇关系识别性能
内隐语篇关系识别的堆叠学习是一项旨在提升自动检测两个相邻论据（Arg）之间内在关联任务的先进技术。在现有的系统中，研究人员已经取得了显著成就，包括构建出高效的分类模型、稳健的特征选择方法以及丰富的训练...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值