第七讲 XGB和SGB算法

最新推荐文章于 2024-08-14 00:01:40 发布
最新推荐文章于 2024-08-14 00:01:40 发布
阅读量52 收藏
点赞数 1
文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/huang8666/article/details/141168301
版权

第七讲 XGB和SGB算法

纵向树模型

基于纵向分割数据集训练的决策树模型

隐语提供可证安全算法SS-XGB和纵向联邦算法SGB

使用

SS-XGB：

准备SPU数据 设置训练参数 模型评估

SGB：

准备HEU数据 设置训练参数 模型评估 保存

两种算法的区别：

定义准备不同

MPC设置 VS HEU+联邦 结合设置

参数种类不一致

密态模型 VS 联邦模型

原理和实现

确定保护的数据部分

准备安全原语

改造数据结构和算法

修改源码实现合适的功能：

定义组件主体，定义参数和IO，定义调用方法

独特优势：

设备抽象

分层架构

算法Python实现，易维护

开员共建

huang8666
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
数据竞赛XGB模型源码
11-30
在数据科学领域，XGB（XGBoost）是一种广受欢迎的梯度提升机器学习算法，尤其在各种数据竞赛中表现出色。本资料“数据竞赛XGB模型源码”显然是一个包含有参赛者们在数据竞赛中使用的XGB模型实现的代码集合，用于帮助...
XGBoost算法概览
04-10
XGBoost算法概览，XGBoost Algorithm_ Long May She Reign。
第 7 课：XGB算法与SGB算法开发实践
weixin_42296932的博客
06-24 456
普通的树模型是不区分横向和纵向概念的，纵向树模型即基于纵向分割数据集训练的决策树模型。跟传统的机器学习一致，SS-XGB包括准备阶段（环境和数据集，主要是SPU配置和加载纵向数据），训练阶段（参数设置和执行，XGBoost的参数较多，需要精心设置）以及模型评估（分为安全和不安全的评估方法，计算指标和采取进一步决策）。关于纵向多方协同的集成树模型XGB算法，隐语提供了基于两种不同加密协议实现的算法，一种是基于MPC协议实现SS-XGB， 一种是基于半同态加密算法实现的SecureBoost。
隐私计算实训营第二期第7讲XGB算法与SGB算法开发实践
TianxiaZhu824的博客
06-18 362
纵向分隔数据集一般由前置步骤隐私求交得到，使用场景往往是联合建模。各方之间不希望将自己的数据泄露给其他方，但又希望联合建模以得到效果更好的模型。效果好的模型还需要有一定的解释性和较好的训练效率，而树模型正好满足这个特征。隐语提供的纵向树模型算法包括两种：可证安全算法SS-XGB和纵向联邦算法SGB。
第 7 课：XGB算法与SGB算法开发实践，学习笔记
Big_data_archit的博客
06-30 137
经典算法到MPC算法需要进行算法改造三部曲，确定保护的数据部分、准备安全原语和改造数据结构和算法。隐语的优势包括提供设备抽象、重点算子优化破瓶颈、分层架构和开源共建。2. 通常需要前置求交集，SS-XGB/SGB XGB有优势的场景包括提高AUC、合作完成建模以及更多数据->更多价值等。1. 隐语提供的纵向树模型算法实现了XGB的经典功能，采用MPC进行密态计算，无信息泄漏，可证安全。1. 纵向树模型是基于纵向分割数据集训练的决策树模型，相同样本在不同特征维度上进行训练。二、使用-隐语纵向树模型。
【隐私计算篇】SGB、SS-XGB算法原理及编程实战
weixin_65514978的博客
06-17 1467
本周开启隐语课程的第七节，关于纵向多方协同的集成树模型XGB算法的学习，隐语提供了基于两种不同加密协议实现的算法，一种是基于MPC协议实现SS-XGB， 一种是基于半同态加密算法实现的SecureBoost。对于SS-XGB和SGB等多方协同树模型的使用，与明文模型的使用，基本是一致的，包括数据的准备、训练参数设置及执行，以及对训练完成的模型进行指标评估和预测使用。针对SS-XGB和SGB组件的封装和调用，也给出了一些示例，整理复杂度还好，找到对应模块，修改对应模块的代码功能，再进行单元测试覆盖。
xgb_python算法_xgboost_xgboost二分类_源码
10-02
XGBoost是基于决策树的梯度提升算法，其核心在于优化了传统GBDT（Gradient Boosting Decision Tree）的计算效率和模型精度。它通过并行计算和近似损失函数的Hessian矩阵，实现了高效训练和预测。 在Python中，我们...
XGBoost_XGB项目_
10-04
总结来说，"XGB项目"利用XGBoost算法对旅客航空信息进行深入分析，通过特征工程优化数据，并通过参数调优提升模型性能，最终实现对航空业务的有效预测和决策支持。这个过程既考验了数据处理和建模的能力，也展示了...
人工智能与内容安全风控-4-2 纵向联邦 XGB 算法.zip
05-30
人工智能与内容安全风控-4-2 纵向联邦 XGB 算法
三十六、【人工智能】【机器学习】【监督学习】- Bagging算法模型
技术分享、程序员趣事、行业趋势等内容！
08-13 942
监督学习（Supervised Learning）是机器学习中的一种主要方法，其核心思想是通过已知的输入-输出对（即带有标签的数据集）来训练模型，从而使模型能够泛化到未见的新数据上，做出正确的预测或分类。在监督学习过程中，算法“学习”的依据是这些已标记的例子，目标是找到输入特征与预期输出之间的映射关系。Bagging，全称为Bootstrap Aggregating，是一种集成学习方法，旨在通过构建多个不同的模型并将其结果进行汇总，以提高预测的准确性和模型的稳定性。
【AI】机器学习基本概念详解1
最新发布
励志小妹的小窝
08-14 804
定义为将线性函数结果映射到sigmoid函数中，分类常是离散型的，可能是分段函数等，存在分段点或不连续则不可求导，sigmoid是连续性的函数，且可以从0.5作为分界点。越大表明欠拟合，越小表明过拟合。过拟合就是将数据噪声也学习了，训练的时候效果很好，损失函数值可以降得很低，但是到测试数据集的时候表现就不那么好了，原因是过分依赖于现有训练数据集的特征造成的。在构建模型的过程中，在每个 epoch 中使用验证数据测试当前已构建的模型，得到模型的损失和准确率，以及每个 epoch 的验证损失和验证准确率。
机器学习——随机森林
weixin_62472350的博客
08-13 546
简单介绍就是例如特征A，首先使用原始数据进行计算得到其原始预测值，之后可以进行修改该特征的数据计算噪音预测值，当噪音预测值的结果比原始预测值的结果要差得多的话说明这个特征比较重要，如果噪音预测值的结果跟原始预测值的结果差距不大甚至可能好那么一点点，说明这个特征就不怎么重要了。也就是先建立一棵树，在进行预测任务的时候，真实值是100，第一棵树预测为90，再加一棵树使得预测结果为95，继续加树使得结果为97，再继续加树使得预测值越来越靠近真实值，加树是为了提升其性能。随机森林中的树的数量。
【人工智能】【机器学习】- 好书推荐之《深度学习调参指南》
技术分享、程序员趣事、行业趋势等内容！
08-12 587
深度学习调参指南》是一份由Google和哈佛大学的研究人员与工程师共同编写的实战手册，旨在帮助读者系统性地优化深度学习模型的性能。该指南强调了在深度学习实践中遇到的实际问题和解决方案，尤其关注超参数调优的过程，同时也涉及工作流实施和优化等其他方面。
机器学习——线性回归（sklearn）
CXDNW的博客
08-13 993
回归是一种 应用广泛的 预测建模技术，这种 技术的核心 在于预测的结果 是连续型变量。理解线性回归可以有 两种角度：矩阵的角度和代数的角度。多重共线性 是一种 统计现象，是指线性模型中的 特征（解释变量）之间 由于存在 精确相关关系 或 高度相关关系，多重共线性的 存在会使模型 无法建立，或者 估计失真。
财务日常记账表.xlsx
08-13
工资表，财务报表，对账表，付款申请，财务报告，费用支出表，财务收支 适用人群：学习不同技术领域的小白或进阶学习者；可作为毕设项目、课程设计、大作业、工程实训或初期项目立项。
基于C#实现慕.课线上批改作业源码+文档说明+界面演示 (超级简单版期末大作业)
08-13
<项目介绍> 基于C#实现慕.课线上批改作业源码+文档说明+界面演示 (超级简单版期末大作业) - 不懂运行，下载完可以私聊问，可远程教学 该资源内项目源码是个人的毕设，代码都测试ok，都是运行成功后才上传资源，答辩评审平均分达到96分，放心下载使用！ 1、该资源内项目代码都经过测试运行成功，功能ok的情况下才上传的，请放心下载使用！ 2、本项目适合计算机相关专业(如计科、人工智能、通信工程、自动化、电子信息等)的在校学生、老师或者企业员工下载学习，也适合小白学习进阶，当然也可作为毕设项目、课程设计、作业、项目初期立项演示等。 3、如果基础还行，也可在此代码基础上进行修改，以实现其他功能，也可用于毕设、课设、作业等。 下载后请首先打开README.md文件（如有），仅供学习参考, 切勿用于商业用途。 --------
HW营销人力资源体系.pptx
08-13
HW营销人力资源体系.pptx
机器学习资源大全中文版，包括机器学习领域的框架、库以及软件
08-13
机器学习资源大全中文版 我想很多程序员应该记得 GitHub 上有一个 Awesome - XXX 系列的资源整理。awesome-machine-learning 就是 josephmisiti 发起维护的机器学习资源列表，内容包括了机器学习领域的框架、库以及软件（按编程语言排序）。 Awesome 系列虽然挺全，但基本只对收录的资源做了极为简要的介绍，如果有更详细的中文介绍，对相应开发者的帮助会更大。这也是我们发起这个开源项目的初衷。
随机森林算法和XGB算法的区别
05-27
随机森林算法和XGBoost算法都是常用的集成学习算法，它们在处理分类和回归问题时表现出色，但它们有以下区别： 1. 树的建立方式不同。随机森林是由多棵树组成，每棵树之间是独立的；而XGBoost只有一棵树，是通过...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值