隐私计算实训营第二期第六节

最新推荐文章于 2024-09-07 18:59:08 发布

攒一身善良灬ぁ

最新推荐文章于 2024-09-07 18:59:08 发布

阅读量292

点赞数 6

文章标签：机器学习算法人工智能

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/qq_44140308/article/details/139752905

版权

广义线性模型

逻辑回归：y与单一x的关系

线性回归：假设响应变量Y的真实值由两部分组成

$y_{actual} = \beta _0 + x_1 \beta_1 + x_2 \beta_2 + ... + x_p \beta_p + \epsilon$

$\epsilon$ 是噪声

响应变量Y的条件分布为高斯分布 $Y ~ N(x^{T} \beta, 1)$

就是多个逻辑回归的组合

三个关键组件

1. 系统组件，线性预测器（主体）

2. 随机组件，用一个指数族分布作为响应变量Y概率分布（噪声扰动）

3. 连接函数，进行线性预测结果和随机组件对应随机变量期望的映射

优化方法

一阶：SGD 随机梯度下降

二阶：迭代重加权最小二乘法。直观感受像是注意力机制的应用

基本思想是将一个复杂的优化问题转化为一系列更简单的加权最小二乘问题来求解。每次迭代中，利用当前的解计算权重，然后使用这些权重求解加权最小二乘问题，逐步逼近最优解。

缺点：计算、通信复杂度高

具体优化措施：前期使用二阶优化器迭代，后期使用一阶优化器快速收敛

具体计算

秘密分享，对于各个参与方，持有某个私有数值（秘密），通过切割秘密并彼此分享，最后求得结果。

加法直观上讲就是数的和等于数的各部分之和的累加，且与顺序无关。并且由于在没有取得所有切割部分时，无法推断原始数值，保证了安全性。

乘法思路类似。

剩下就是实验环节喽

攒一身善良灬ぁ

关注

6
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
隐私计算实训营第二期第六节

是噪声响应变量Y的条件分布为高斯分布1. 系统组件，线性预测器（主体）2. 随机组件，用一个指数族分布作为响应变量Y概率分布（噪声扰动）3. 连接函数，进行线性预测结果和随机组件对应随机变量期望的映射。
复制链接

扫一扫

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。