![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
联邦学习实战(电子工业出版社)读书笔记
文章平均质量分 79
超威橘猫
PhD candidate
Department of Electronic Engineering
Shanghai Jiao Tong University
展开
-
《联邦学习实战》杨强 读书笔记八——联邦学习在金融保险领域的应用案例
本章将介绍两个案例,分别是基于纵向联邦的保险个性化定价案例和基于横向联邦的银行间反洗钱模型案例。基于纵向联邦学习的保险个性化定价案例案例描述保险个性化定价,与其他个性化服务一样,需要平衡保险公司和客户之间的关系。一方面,消费者会根据自身的需求选择符合个人的产品;而另一方面,为了提高客户满意度,保险公司也需要具备扎实的数据洞察力基础。但保险业的个性化定价却受到很多因素的制约,导致其模型的构建往往不准确,其中主要的难点在于数据层面。对保险进行个性化定价,需要结合每一位客户的特征属性,但是客户的数原创 2021-07-08 13:18:15 · 1279 阅读 · 0 评论 -
《联邦学习实战》杨强 读书笔记十四——构建公平的大数据交易市场
当数据具有资产属性之后,数据便可以直接或者间接地为公司、为社会创造价值和收益,并且可以作为一种特殊的商品在市场中进行交易。与传统的商品交易相比,数据资产交易的市场前景更广阔,但同时也面临着很多的挑战,主要包括:数据的质量、价格如何定义 在合法合规的前提下,数据的交易如何确保不会泄露用户的隐私 如何构建合理的激励机制来鼓励更多的参与方加入数据交易市场中大数据交易数据交易的定义数据交易是指一种对数据进行买卖的行为,大数据交易由三方共同参与,分别为数据提供方、大数据交易平台和数据需求方:原创 2021-07-03 14:18:55 · 3132 阅读 · 0 评论 -
《联邦学习实战》杨强 读书笔记十一——联邦学习在智能物联网中的应用案例
目录案例的背景与动机历史数据分析出行时间预测模型问题定义构造训练数据集模型结构联邦学习在智慧城市建设中的一个应用,即用户的出行预测,帮助用户更好地规划出行安排。人工智能物联网(以下简称AIoT)是一种将人工智能技术和物联网技术相结合而出现的前瞻性概念。本章介绍联邦学习在AIoT中的一个重要应用:预测社区住户的出行时间,从而帮助住户提供更好的出行建议(如打车预测、路线推荐等)。本案例是横向联邦学习在AIoT领域的应用实践。案例的背景与动机当前的智慧社区管理,一般是在原创 2021-06-08 21:04:54 · 1170 阅读 · 1 评论 -
《联邦学习实战》杨强 读书笔记十九——总结与展望
联邦学习进展总结理论研究总结提升通信性能,提高联邦学习训练效率,方案概括来说包括: 减少不必要的参数传输。 对模型或梯度进行压缩。 减少全局的训练次数。 异步的更新机制。 提升安全性,保障隐私数据安全。安全性威胁主要来自两个方面:一是来自外部的威胁,例如针对联邦学习客户端或服务端的外部攻击、传输过程中可能存在的信息泄露等。二是来自内部的威胁,也就是当参与联邦学习训练的客户端或服务端是一个恶意的参与方,它会通过篡改模型的参数或数据、加入后门等策略达到攻击的效果。针对来自外部的攻击原创 2021-06-05 16:39:37 · 645 阅读 · 0 评论 -
《联邦学习实战》杨强 读书笔记十八——联邦学习与其他前沿技术
目录联邦学习与Split LearningSplit Learning设计模式Split Learning与联邦学习的异同联邦学习与边缘计算边缘计算综述联邦学习与边缘计算的异同点联邦学习与Split LearningSplit Learning的核心思想是将网络的结构进行拆分,每个设备只保留一部分网络结构,所有设备的子网络结构构成一个完整的网络模型。在训练过程中,不同的设备只对本地的网络结构进行前向或反向计算,并将计算结果传递给下一个设备。多个设备端通过联合网络层的中间.原创 2021-06-04 15:17:32 · 3323 阅读 · 0 评论 -
《联邦学习实战》杨强 读书笔记十七——联邦学习加速方法
如何在保证模型性能不下降的前提下,有效提升联邦学习的训练效率,成为当前联邦学习的一个研究热点问题。模型计算和通信传输成为影响联邦学习效率的两大因素。WFBP表示wait-free backpropagation;0ZMQ表示ZeroMQ,NCCL表示NVIDIA collective library。通信效率的优化显得比计算性能的优化复杂和困难得多,因而从计算机系统的角度看,边缘端设备的算力水平在不断提高。但通信网络,一方面受网络带宽的影响另一方面由于联邦学习的客户端分布具有跨地域的特点,使原创 2021-06-04 09:05:44 · 1766 阅读 · 0 评论 -
《联邦学习实战》杨强 读书笔记九——联邦个性化推荐案例
一般而言,收集的数据越多,对用户和推荐内容的了解就越全面和深入,推荐效果就越精准。传统的集中式个性化推荐矩阵分解矩阵分解(MF),是最常用的推荐算法之一。我们将用户对物品的反馈用矩阵表示,这个矩阵也被称为评分矩阵。将原始评分矩阵分解为和,使得:.其中,为,(用户隐向量矩阵)的维度为,(物品隐向量矩阵)的维度为,是一个较小的数。...原创 2021-06-02 21:16:06 · 883 阅读 · 0 评论 -
《联邦学习实战》杨强 读书笔记二——联邦学习概述
联邦学习的定义联邦学习是利用分散在各参与方的数据集,通过隐私保护技术融合多方数据信息,协同构建全局模型的一种分布式训练方式。在Federated Learning中概述的、关于联邦学习描述的一些共同特征,可以概括为:有两个(或以上)的联邦学习参与方协作构建一个共享的机器学习模型。 每一个参与方都拥有若干各自希望能够用来训练模型的训练数据。 在联邦学习模型训练过程中,每一个参与方拥有的数据都不会离开该参与方,即数据不离开数据拥有者。 与模型相关的信息(如模型参数、模型结构、参数梯度等)能够以加原创 2021-05-28 15:47:25 · 1594 阅读 · 1 评论 -
《联邦学习实战》杨强 读书笔记一——前言
AI的力量来自大数据,在现实中能获取的往往是少量数据,例如:在法律领域,获取一个完整的案例样本往往需要很多的时间和资源 在金融领域,在风控建模中,如果把反洗钱案例看成正样例,那么这也的正样例数据非常珍贵。 在医疗领域,对于罕见疾病,能获得的病例数据少之又少。而在相关技术使用的过程中,一方面人工智能和大数据技术为人类的发展提供了光明的前景和技术保障;另一方面,人类自身的权益保护又限制了数据按照粗放方式进行简单的汇聚。在这种背景下,联邦学习应运而生。联邦学习的目的是,不管在面对单个消费者的to C原创 2021-05-28 14:22:19 · 669 阅读 · 0 评论