隐语实训07-纵向树、SS-XGB、SGB

于 2024-06-30 17:16:02 发布
阅读量1.7k 收藏 22
点赞数 30
分类专栏： 隐私计算 文章标签： 可信计算技术 机器学习 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sunxi1900/article/details/140082716
版权

一、纵向树

纵向树模型是联邦学习环境中的一个重要应用，特别是在数据隐私保护方面。在纵向树模型中，多个参与方（机构或组织）各自持有同一数据集的不同特征子集，这种数据分布称为“纵向数据分布”。纵向树模型的核心在于允许这些参与方在不共享原始数据的前提下，共同构建一个机器学习模型。

基本概念

在纵向树模型中，数据是按照特征（列）而非样本（行）进行分割的。例如，一个金融机构可能持有客户的财务信息，而医疗机构持有同一客户的健康信息。尽管这些机构对相同客户的数据进行了不同方面的收集，但他们可以通过纵向树模型合作，以提高模型的预测能力而不泄露各自的敏感数据。

工作原理

  1. 数据准备：
    • 各参与方对自己的数据预处理，如标准化、处理缺失值等。
    • 确保各方数据的行索引对齐，即不同机构的数据集应该按照相同的客户ID或其他唯一标识进行排序。
  2. 模型训练：
    • 在训练过程中，各方不交换原始数据。相反，它们会交换必要的统计信息或中间计算结果，如梯度信息、特征分裂的候选点评分等。
    • 通常通过安全多方计算（SMC）技术、同态加密（HE）或差分隐私（DP）等方法保护交换的信息，确保数据的隐私性。
  3. 模型迭代：
    • 基于决策树的学习算法将按照特征重要性或预先设定的规则，在参与方之间轮换选取最优分裂特征。
    • 各方根据收到的信息更新本地模型，逐步完善全局模型的构建。

安全性与隐私

纵向树模型在数据安全和隐私保护常用的技术包括：

  • 安全多方计算（SMC）：一种密码学方法，允许多个方共同计算函数而不暴露各自的输入。
  • 同态加密（HE）：允许在加密数据上直接进行计算的技术，计算结果仍然保持加密状态。
  • 差分隐私（DP）：通过添加噪声来保护数据的隐私技术，确保在输出结果中无法准确推断出任何个体信息。

应用场景

纵向树模型特别适合于需要跨域合作但又需严格遵守数据隐私和安全法规的领域，如金融、医疗和政府部门等。

二、SS-XGB

SS-XGB，相比于XGB，结合了秘密分享技术，这种结合使得XGBoost能够在保证数据隐私的前提下，跨多个参与方进行训练。秘密分享是一种加密技术，通过将敏感数据分割成多个份额，并分发给多个参与方，使得任何单一方无法独立重构原始数据。

工作原理

SS-XGB的核心在于使用秘密分享技术来保护训练数据和模型的中间计算结果，从而使得模型的训练可以在多个数据持有者之间合作完成，而无需暴露各自持有的原始数据。下面是其基本的工作流程：

  1. 数据预处理和秘密分享：
    • 各参与方首先对自己持有的数据进行必要的预处理操作（如编码、归一化等）。
    • 然后，使用秘密分享技术将每个数据项分割成多个份额，并将这些份额分发给协作的参与方。
  2. 分布式模型训练：
    • 在训练阶段，所有参与方将基于各自持有的数据份额进行局部计算，如梯度的计算和模型参数的更新。
    • 通过秘密分享技术，各方可以共享必要的聚合信息（如梯度和更新后的模型参数）而不泄露具体的数据内容。
  3. 安全聚合和模型更新：
    • 通过安全的多方计算协议，各参与方将加密的局部计算结果进行安全聚合，以此来更新全局模型。
    • 这一过程确保了模型更新的准确性和隐私性。

安全性和隐私保护

SS-XGB特别适用于数据敏感或受到严格隐私法规制约的应用场景。其使用的秘密分享技术可以确保即便在参与方之中存在恶意行为者，也不会导致数据泄露。此外，秘密分享还可以保护模型训练过程中生成的所有中间数据，如梯度和权重更新，从而保护整个训练过程的隐私。

实现挑战

  • 计算和通信开销：秘密分享和安全聚合的操作增加了额外的计算和通信负担，可能会影响模型训练的效率。
  • 复杂的协同工作：需要精心设计协议和算法来确保多方参与的训练过程既安全又高效。

应用领域

SS-XGB适合于金融、医疗、政府等对数据隐私有严格要求的领域。在这些领域，多个机构可能需要合作训练机器学习模型以提高服务质量或决策效率，同时又必须严格遵守数据保护法规。

三、SGB

SGB相比于XGB，结合了联邦学习和同态加密，主要用于纵向联邦学习场景，允许多个机构在不共享原始数据的情况下，共同构建和训练梯度增强决策树模型。

工作原理

SGB的核心是结合联邦学习和同态加密来处理数据的分布式特性，同时保护数据的隐私性。以下是SGB的基本工作流程：

  1. 数据准备与分布：
    • 在纵向联邦学习中，每个参与方持有相同样本的不同特征集。例如，银行可能持有客户的财务信息，而医院持有相同客户的健康信息。
    • 数据保持在各自的参与方手中，不进行跨机构传输。
  2. 联邦梯度计算：
    • 在模型训练过程中，每个参与方根据自己持有的数据局部计算梯度信息。
    • 通过联邦机制，这些梯度信息被安全地聚合以更新全局模型，此过程可以通过同态加密来加强安全性。
  3. 同态加密保护：
    • 同态加密允许参与方在加密数据上进行计算，如梯度更新和模型优化，计算结果保持加密状态。
    • 这确保了即使在传输过程中数据被拦截，也无法被解析，从而保护了数据隐私。

安全性和隐私保护

SGB的设计充分考虑了数据隐私和安全性，使其在敏感数据的机器学习应用中尤为有用：

  • 数据隐私：通过联邦学习和同态加密，SGB确保了数据的隐私性和安全性。数据在本地处理，只有必要的加密信息被用于全局模型更新。
  • 防止信息泄露：同态加密技术确保了即便是在数据聚合或梯度分享过程中，原始数据和中间计算结果也不会泄露。

实现挑战

  • 性能和效率：同态加密操作通常计算量大、速度慢，这可能会增加模型训练的整体时间和计算成本。
  • 技术复杂性：实现一个高效且安全的SGB系统需要高级的技术支持，包括优化同态加密操作和联邦学习策略。

应用领域

SGB适用于多个垂直行业合作的场景，如金融、医疗保健、保险等。

四、SS-XGB和SGB的不同点

SS-XGB和SGB虽然都能够在分布式数据环境下提供隐私保护，但是保护的方式有些区别：

SS-XGB：

  • 使用秘密分享（Secret Sharing）技术，该技术通过将敏感数据分割成多个份额，并在多个参与方之间分发这些份额来保护数据隐私。每个份额单独无法提供任何有用信息，只有合并特定数量的份额才能重构原始数据。

SGB：

  • 结合了联邦学习和同态加密技术。联邦学习允许多个参与方合作训练共同的模型，而无需直接交换数据。同态加密允许在加密数据上进行计算，计算结果仍然保持加密状态，从而保护数据在传输和计算过程中的隐私。

五、实践

先给出SGB的完整代码：

import secretflow as sf
import spu
import os

#配置参与方、网络配置
network_conf = {
    "parties":{
        "alice":{
            "address": "alice:8000",
        },
         "bob":{
            "address": "bob:8000",
        },
    },
}

party = os.getenv("SELF_PARTY", "alice")
sf.shutdown()
sf.init(
    address="127.0.0.1:6379",
    cluster_config={**network_conf,"self_party":party},
    log_to_driver=True,
)

sf.__version__

alice, bob = sf.PYU("alice"), sf.PYU("bob")
spu_conf = {
    "nodes":[
        {
            "party":"alice",
            "address":"alice:8001",
            "listen_addr":"alice:8001",
        },
        {
            "party":"bob",
            "address":"bob:8001",
            "listen_addr":"bob:8001",
        },
    ],
    "runtime_config":{
        "protocol": spu.spu_pb2.SEMI2K,
        "field":spu.spu_pb2.FM128,
        "sigmoid_mode":spu.spu_pb2.RuntimeConfig.SIGMOID_REAL,
    },
}

heu_config = {
    'sk_keeper': {'party':'alice'},
    'evaluators':[{'party':'bob'}],
    'mode': 'PHEU',
    'he_parameters':{
        'schema':'ou',
        'key_pair':{
            'generate':{
                'bit_size':2048,
            },
        },
    },
    'encoding':{
        'cleartext_type':'DT_I32',
        'encoder':"IntegerEncoder",
        'encoder_args':{"scale":1},
    },
}
heu = sf.HEU(heu_config, spu_conf['runtime_config']['field'])


#加载Alice和Bob的数据集，两者分别拥有8种特征，并且Alice拥有标签，数据集连接https://www.kaggle.com/datasets/janiobachmann/bank-marketing-dataset，手动分一下，分别上传Alice和Bob
import pandas as pd
import os
from secretflow.data.vertical import read_csv as v_read_csv, VDataFrame
from secretflow.data.core import partition

current_dir = os.getcwd()

data = v_read_csv(
    {alice:f"{current_dir}/bank_0-7.csv",bob:f"{current_dir}/bank_8-16.csv"},
    keys="id",
    drop_keys="id",
)

alice_y_pyu_object = alice(lambda path: pd.read_csv(path, index_col = 0))(f"{current_dir}/bank_y.csv")
label = VDataFrame(partitions={alice:partition(alice_y_pyu_object)})

data.columns

label.columns

#使用LabelEncode对分类特征进行下编码转换，使其能够被模型处理
# from data descryptions we know we need to encode data
from secretflow.preprocessing import LabelEncoder
encoder =LabelEncoder()
data['job']= encoder.fit_transform(data['job'])
data['marital']=encoder.fit_transform(data['marital'])
data['education']= encoder.fit_transform(data['education'])
data['default']=encoder.fit_transform(data['default'])
data['housing']= encoder.fit_transform(data['housing'])
data['loan']=encoder.fit_transform(data['loan'])
data['contact']= encoder.fit_transform(data['contact'])
data['poutcome']= encoder.fit_transform(data['poutcome'])
data['month']=encoder.fit_transform(data['month'])
label =encoder.fit_transform(label)

from secretflow.data.split import train_test_split as train_test_split_fed
#划分训练集和测试集
X_train_fed, X_test_fed = train_test_split_fed(data, test_size=0.2, random_state=94)

y_train_fed, y_test_fed = train_test_split_fed(label, test_size=0.2, random_state=94)

from secretflow.ml.boost.sgb_v import (
    get_classic_XGB_params,
    Sgb,
)
#加载模型，开始训练
sgb = Sgb(heu)
params =get_classic_XGB_params()
params['num_boost_round']=14
params['max_depth']= 5
params['base_score']= 0.5
params['reg_lambda']= 0.1
params['learning_rate']= 0.3
params['sketch_eps']=1/10   #1/10 means maximum number of bins = 10
# only effective for sf 1.4 and above, but keeping it here is ok
params['enable_early_stop']= True
params['enable_monitor']= True
params['validation_fraction']=0.2
params['stopping_rounds']=5
params['stopping_tolerance']= 0.01
params['seed']= 94
params['first_tree_with_label_holder_feature']= True
params['save_best_model']= True

model  = sgb.train(params, X_train_fed, y_train_fed)

from secretflow.device.driver import reveal
from sklearn.metrics import roc_auc_score

print(
    "train set AUC score:",
    roc_auc_score(reveal(y_train_fed.partitions[alice].data), reveal(model.predict(X_train_fed))),
    "test set AUC score:",
    roc_auc_score(reveal(y_test_fed.partitions[alice].data), reveal(model.predict(X_test_fed))),
)

在这里插入图片描述

仿照SGB，写出SS-XGB

import secretflow as sf
import spu
import os
from secretflow.ml.boost.ss_xgb_v import Xgb


# 网络配置
network_conf = {
    "parties": {
        "alice": {
            "address": "alice:8000",
        },
        "bob": {
            "address": "bob:8000",
        },
    },
}

party = os.getenv("SELF_PARTY", "alice")
sf.shutdown()
sf.init(
    address="127.0.0.1:6379",
    cluster_config={**network_conf, "self_party": party},
    log_to_driver=True,
)
alice, bob = sf.PYU("alice"), sf.PYU("bob")

# 秘密分享配置
spu_conf = {
    "nodes": [
        {
            "party": "alice",
            "address": "alice:8001",
            "listen_addr": "alice:8001",
        },
        {
            "party": "bob",
            "address": "bob:8001",
            "listen_addr": "bob:8001",
        },
    ],
    "runtime_config": {
        "protocol": spu.spu_pb2.SEMI2K,
        "field": spu.spu_pb2.FM128,
        "sigmoid_mode": spu.spu_pb2.RuntimeConfig.SIGMOID_REAL,
    },
}
spu = sf.SPU(spu_conf)

import pandas as pd
import os
from secretflow.data.vertical import read_csv as v_read_csv, VDataFrame
from secretflow.data.core import partition

current_dir = os.getcwd()

data = v_read_csv(
    {alice:f"{current_dir}/bank_0-7.csv",bob:f"{current_dir}/bank_8-16.csv"},
    keys="id",
    drop_keys="id",
)

alice_y_pyu_object = alice(lambda path: pd.read_csv(path, index_col = 0))(f"{current_dir}/bank_y.csv")
label = VDataFrame(partitions={alice:partition(alice_y_pyu_object)})

# from data descryptions we know we need to encode data
from secretflow.preprocessing import LabelEncoder
encoder =LabelEncoder()
data['job']= encoder.fit_transform(data['job'])
data['marital']=encoder.fit_transform(data['marital'])
data['education']= encoder.fit_transform(data['education'])
data['default']=encoder.fit_transform(data['default'])
data['housing']= encoder.fit_transform(data['housing'])
data['loan']=encoder.fit_transform(data['loan'])
data['contact']= encoder.fit_transform(data['contact'])
data['poutcome']= encoder.fit_transform(data['poutcome'])
data['month']=encoder.fit_transform(data['month'])
label =encoder.fit_transform(label)

from secretflow.data.split import train_test_split as train_test_split_fed
X_train_fed, X_test_fed = train_test_split_fed(data, test_size=0.2, random_state=94)
y_train_fed, y_test_fed = train_test_split_fed(label, test_size=0.2, random_state=94)

xgb = Xgb(spu)

# 使用SPU进行训练的伪代码
params = {
    'num_boost_round': 14,
    'max_depth': 5,
    'learning_rate': 0.3,
    'sketch_eps': 0.1,
    'objective': 'logistic',
    'reg_lambda': 0.1,
    'subsample': 1,
    'colsample_by_tree': 1,
    'base_score': 0.5,
}
model = xgb.train(params, X_train_fed, y_train_fed)

from secretflow.device.driver import reveal
from sklearn.metrics import roc_auc_score

print(
    "train set AUC score:",
    roc_auc_score(reveal(y_train_fed.partitions[alice].data), reveal(model.predict(X_train_fed))),
    "test set AUC score:",
    roc_auc_score(reveal(y_test_fed.partitions[alice].data), reveal(model.predict(X_test_fed))),
)

在这里插入图片描述

相比于SGB，SS-XGB精度了提高了些，但提升有限。

如果是Alice拥有15个特征和标签，而Bob只拥有1个特征呢？

SGB-15个特征：

在这里插入图片描述

SS-XGB（15个特征）：
在这里插入图片描述
当Alice和Bob的特征分布较为均衡时（各8个特征），两种模型的性能相近，但SS-XGB在测试集上略优于SGB。
当特征在Alice处高度集中时（Alice 15个，Bob 1个），SGB的性能在训练集和测试集上都有显著提升，而SS-XGB的提升不明显。这表明SGB可能更能有效利用不均匀分布的特征进行学习。

人生相聚两依依
关注
专栏目录
推荐系统2--隐语义模型（LFM）和矩阵分解（MF）
weixin_41403341的博客
05-16 2286
一，背景 协同过滤（userCF，itemCF ）完全没有用到用户或者物品本身的属性，仅仅利用了用户与物品之间的交互信息就可以实现推荐。是一个可解释性很强，非常直观的模型，但是缺点在于：1，处理稀疏矩阵的能力比较弱，泛化能力弱。 为了解决这个问题，从协同过滤中衍生出矩阵分解模型（Matrix Factorization,MF）,并发展出矩阵分解的分支模型,比如隐语义模型和矩阵分解 隐语义模型和矩阵分解可以理解为类似的内容，都是在协同过滤共现矩阵的基础上，使用更稠密的隐形量表示用户和物品，挖掘用户和物品的隐含
隐语义模型（LFM）-----------电影推荐算法
愿你慢慢变强的博客
01-14 1710
隐语义模型（LFM）LFM 降维方法 —— 矩阵因子分解 用隐语义模型来进行协同过滤的目标 揭示隐藏的特征，这些特征能够解释为什么给出对应的预测评分 这类特征可能是无法直接用语言解释描述的，事实上我们并不需要知道，类似“玄学” 通过矩阵分解进行降维分析 协同过滤算法非常依赖历史数据，而一般的推荐系统中，偏好数据又往往是稀疏的；这就需要对原始数据做降维处理 分解之后的矩阵，就代表了用户和物...
纵向联邦学习
热门推荐
武天旭的博客
03-16 1万+
一、纵向联邦学习的定义 纵向联邦学习（VFL）一般是适用于数据集上具有相同的样本空间、不同的特征空间的参与方所组成的联邦学习场景，纵向联邦学习也可以理解为按特征划分的联邦学习。 举个例子，我们假设有两家公司A和B想要协同地训练一个机器学习模型，每一家公司都拥有各自的数据。例如保险公司与银行合作，根据同一用户的购买历史与消费习惯，为该用户提供定制化的服务；医院与制药公司合作，通过利用同类患者的医疗记录，从而治疗患者的慢性疾病，并降低患者未来住院治疗的风险。
【隐私计算篇】SGB、SS-XGB算法原理及编程实战
最新发布
源泉的小广场
06-17 1610
本周开启隐语课程的第七节，关于纵向多方协同的集成树模型XGB算法的学习，隐语提供了基于两种不同加密协议实现的算法，一种是基于MPC协议实现SS-XGB， 一种是基于半同态加密算法实现的SecureBoost。对于SS-XGB和SGB等多方协同树模型的使用，与明文模型的使用，基本是一致的，包括数据的准备、训练参数设置及执行，以及对训练完成的模型进行指标评估和预测使用。针对SS-XGB和SGB组件的封装和调用，也给出了一些示例，整理复杂度还好，找到对应模块，修改对应模块的代码功能，再进行单元测试覆盖。
数据安全前言技术研究联邦学习
m0_73803866的博客
10-28 747
随着全球相关法规的密集发布，包括欧盟 GDPR，美国 CCPA，国内的《网络安全法》,以及今年发 布的《数据安全法（草案）》、《个人信息保护法（草案）》，合规性成为了企业数据安全建设与治理 的重要驱动力。法规对企业数字化、信息化转型出了更高更严的数据安全要求⸺既要满足自身业务 的数据安全需求，同时又要遵守合规性要求。不断强化的法规给新技术带来新的机遇与需求，近年来， 数据安全领域新技术不断涌现，比如同态加密、安全多方计算、联邦学习，差分隐私等；也促进与其他 领域技术的融合与应用，比如知识图谱，流程自动化等。
三种联邦学习的简单介绍
weixin_40798471的博客
11-28 8902
（一）横向联邦学习 1、定义 横向联邦学习也称为按样本划分的联邦学习，可以应用于联邦学习的 各个参与方的数据集有相同的特征空间和不同的样本空间的场景。 2、横向联邦学习架构 常用的两个系统架构为：客户-服务器（client- server ）架构和对等（Peer-to-Peer, P2P）网络架构。 1）客户-服务器架构 该架构也被称为主-从 （master-worker）架构或者轮辐式（hub-and-spoke）架构 参与方将梯度信息发送给服务器，服务器将收到的梯度信息进行聚合(例如
隐私计算-联邦学习
爱跳水的温文尔雅的laughing
03-27 1456
联合多个参与者的共同样本的不同数据特征进行联邦学习，即各个参与者的训练数据是纵向划分的，称为纵向联邦学习，纵向联邦学习也称为样本对齐的联邦学习（Sample-Aligned Federated Learning），即纵向联邦学习的参与者的训练样本是对齐的。
项亮《推荐系统实践》——使用LFM隐语义模型进行Top-N推荐
fuqiuai的博客
06-11 2307
使用LFM（Latent factor model）隐语义模型进行Top-N推荐 最近在拜读项亮博士的《推荐系统实践》，系统的学习一下推荐系统的相关知识。今天学习了其中的隐语义模型在Top-N推荐中的应用，在此做一个总结。 隐语义模型LFM和LSI，LDA，Topic Model其实都属于隐含语义分析技术，是一类概念，他们在本质上是相...
我的隐私计算学习——联邦学习（3）
weixin_47695607的博客
01-12 1121
纵向联邦学习（安全树思路）
【阅读笔记】联邦学习实战——用FATE从零实现纵向线性回归
HERODING23的博客
03-15 7917
联邦学习实战——用FATE从零实现纵向线性回归前言1. 数据集的获取纵向数据集切分 前言 FATE是微众银行开发的联邦学习平台，是全球首个工业级的联邦学习开源框架，在github上拥有近4000stars，可谓是相当有名气的，该平台为联邦学习提供了完整的生态和社区支持，为联邦学习初学者提供了很好的环境，否则利用python从零开发，那将会是一件非常痛苦的事情。本篇博客内容涉及《联邦学习实战》第六章内容，使用的fate版本为1.6.0，fate的安装已经在这篇博客中介绍，有需要的朋友可以点击查阅。下面就让我们
联邦学习-安全树模型 SecureBoost之终章
老码农
11-27 2876
文章目录1 联邦学习背景2 联邦学习的树模型方案3 认知方法论4 界定问题4.1 XGB推导回顾4.2 本质分析5 整体分析5.1 隐私加密5.2 哪里需要加密，如何加密6 全面分析6.1 全链路流程7 归纳推演8 参考资料9 番外篇 1 联邦学习背景 鉴于数据隐私的重要性，国内外对于数据的保护意识逐步加强。2018年欧盟发布了《通用数据保护条例》（GDPR），我国国家互联网信息办公室起草的《数据安全管理办法(征求意见稿)》因此数据在安全合规的前提下自由流动，成了大势所趋。这些法律法规的出台，不同程度的对人
xgboost算法原理_从XGB到SecureBoost:看联邦学习XGB的算法原理
weixin_39845406的博客
12-08 1304
摘要： 最近与某厂完成基于FATE的联邦学习框架的一个项目，第一次实践了一把联邦学习在实际业务场景中的应用，从模型评估结果来看，效果还不错。因此，本文将完成对于其中实现的提升算法SecureBoost进行详细的介绍，算是对这个项目算法原理上的总结。由于SecureBoost(SecureBoost: A Lossless Federated Learning Framework)中的Boosti...
纵向联邦学习及相关算法
qq_50492291的博客
05-20 3598
二. 纵向联邦学习 简单一句话介绍：纵向联邦学习的参与方是用户群体相同，特征空间不同（比如同一地区的银行和电商平台） 纵向联邦学习步骤 对齐共同用户（不暴露各自数据） 加密模型训练 （1） C创建密钥对，将公钥发送给A，B （2) A,B对中间结果进行加密和交换，中间结果帮助计算梯度和损失值 （3） A B加密梯度，并加上附加掩码（防止C窥探信息），B还会计算加密损失，A B将结果发送给C （4）C解密 将结果给A B,A B解除掩码，更新模型。 接下来介绍算法：安全联邦线性回归和安..
联邦学习-安全树模型 SecureBoost之XGBoost
老码农
11-24 2414
文章目录1 联邦学习背景2 联邦学习树模型方案3 Ensemble Learning3.1 集成学习3.2 Bagging & Boosting3.2.1 Bagging (bootstrap aggregating)3.2.2 Boosting3.2.3 Bagging，Boosting二者之间的区别4 GBDT5 Xgboost7 参考资料9 精彩分享 1 联邦学习背景 鉴于数据隐私的重要性，国内外对于数据的保护意识逐步加强。2018年欧盟发布了《通用数据保护条例》（GDPR），我国国家互联网信
最新最全论文合集——纵向联邦学习
AI_Conf的博客
03-09 1533
AMiner平台（https://www.aminer.cn）由清华大学计算机系研发，拥有我国完全自主知识产权。平台包含了超过2.3亿学术论文/专利和1.36亿学者的科技图谱，提供学者评价、专家发现、智能指派、学术地图等科技情报专业化服务。系统2006年上线，吸引了全球220个国家/地区1000多万独立IP访问，数据下载量230万次，年度访问量超过1100万，成为学术搜索和社会网络挖掘研究的重要数据和实验平台。 必读论文：https://www.aminer.cn/topic 论文集地址：https:/.
横向联邦学习（Horizontal Federated Learning）VS 纵向联邦学习（Vertical Federated Learning）
Xiao_Bai_Ke的博客
02-27 1万+
1.横向联邦学习：适用于参与者的数据特征维度重叠较多的情形： 目的：增加训练数据的数据量 例如甲医院有患者：A，B，C；乙医院有患者C，D，F这六位患者，甲乙医院都有患者的身高，体重，血压，心跳等信息，那么进行联邦学习一个判断患者健康状况的模型时，就可以使用横向联邦学习： 示例： 2.纵向联邦学习：适用于参与者数据ID特征重叠较多的情形： 目的：增加参与者数据的数据维度 例如甲医院...
【Mo 人工智能技术博客】纵向联邦学习简介及实现
Mo 的博客
09-15 5710
案例引入 某银行A与某互联网公司B达成了企业级的合作。互联网公司A与银行B有着一大部分重合的用户，A有着客户上网行为等特征信息。B有着客户的存贷情况等特征信息以及客户的标签信息——客户的还贷情况(Y)。B希望能够将他所独有的特征信息与A所独有的特征信息相结合，训练出一个更强大的识别客户信用风险的模型，但由于不同行业之间的行政手续，用户数据隐私安全等因素，企业A，B无法直接互通数据，联邦学习应运而生。 联邦学习概述 联邦学习的定义 联邦学习旨在建立一个基于分布数据集的联邦学习模型。在模型训练的过程中，模型相关
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值