(五)微众Fate-横向联邦学习实践-在线预测

最新推荐文章于 2024-02-06 10:23:09 发布
最新推荐文章于 2024-02-06 10:23:09 发布
阅读量5.4k 收藏 22
点赞数 1
分类专栏： 联邦学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_28540443/article/details/105368105
版权

总目录
(一)联邦学习-入门初识
(二)联邦学习-Fate单机部署
(三)微众Fate-横向联邦学习实践-训练评估
(四)微众Fate-横向学习联邦-预测
(五)微众Fate-横向联邦学习实践-在线预测

文章目录

1.fate-serving介绍

fate-serving是FATE的在线部分，在使用FATE进行联邦建模完成之后，可以使用fate-serving进行在线联合预测。

在这里插入图片描述

如上图所示，整个集群需要有几个组件

  • serving-server
  • serving-proxy
  • zookeeper 3.4+
  • redis 4.0+

serving-server

serving-server用于处理所有的在线预测请求、以及模型加载请求。serving-server需要从fate-flow加载模型成功之后才能对外提供服务。在FATE中建好模型之后，通过fate-flow的推送模型脚本可以将模型推送至serving-server。

推送成功之后，serving-server会将该模型相关的预测接口注册进zookeeper ，外部系统可以通过服务发现获取接口地址并调用。同时本地文件持久化该模型,以便在serving-server实例在集群中某些组件不可用的情况下，仍然能够从本地文件中恢复模型。

serving-proxy

serving-proxy 是serving-server的代理，对外提供了grpc接口以及http的接口，主要用于联邦预测请求的路由转发以及鉴权。在离线的联邦建模时，每一个参与方都会分配一个唯一的partId。serving-proxy维护了一个各参与方partId的路由表，并通过路由表中的信息来转发请求。

1.1 部署流程

在这里插入图片描述

2.环境准备

系统版本备注
CentOS7
Docker18.09.4
Docker-compose1.23.2参考：CentOS7安装Docker-compose推荐方案
Java1.8
Maven3.5.2
Zookeeper3.4.13
Redis5.0.2参考docker+docker compose 部署Redis
Fate-Flow1.3单机版

3.编译fate-serving fate-proxy

根据上面对在线联合预测架构说明，我们需要启动fate-serving以及fate-proxy两个服务。

1.clone源码到本地

源码地址：https://github.com/FederatedAI/FATE-Serving

2.执行命令编译

 cd ~/FATE-Serving
 mvn clean package

编译成功后，结果如下：

在这里插入图片描述

为了使用方便，将编译好的fate-serving以及fate-proxy包copy出来

fate-serving目录结构如下：

在这里插入图片描述

文件/文件目录名说明
bin存放fate-serving启动、停止、状态获取等相关文本common.sh，存放服务进程id
conf服务相关配置
fate-serving-server.jar服务编译的包
lib依赖包
service.sh启动/停止等操作服务的命令脚本封装
logs存放日志

fate-proxy目录结构如下：

在这里插入图片描述

结构说明参考fate-serving.

4. 配置并启动fate-serving

fate-serving的相关配置主要是在conf/serving-server.properties 文件下

这边提供我的配置参考如下：

ip=0.0.0.0
port=8000
#serviceRoleName=serving
#inferenceWorkerThreadNum=10
# cache
#remoteModelInferenceResultCacheSwitch=true
# in-process cache
#modelCacheMaxSize=100
#remoteModelInferenceResultCacheTTL=300
#remoteModelInferenceResultCacheMaxSize=10000
#inferenceResultCacheTTL=30
#inferenceResultCacheCacheMaxSize=1000
# external cache
redis.ip=192.168.2.103
redis.port=6379
#redis.password=fate_dev
#redis.timeout=10
#redis.maxTotal=100
#redis.maxIdle=100
#external.remoteModelInferenceResultCacheTTL=86400
#external.remoteModelInferenceResultCacheDBIndex=0
#external.inferenceResultCacheTTL=300
#external.inferenceResultCacheDBIndex=0
#canCacheRetcode=0,102
#external.processCacheDBIndex=0

# adapter
OnlineDataAccessAdapter=MockAdapter
InferencePostProcessingAdapter=PassPostProcessing
InferencePreProcessingAdapter=PassPreProcessing
# external subsystem

# model transfer
model.transfer.url=http://127.0.0.1:9380/v1/model/transfer
# zk router
zk.url=zookeeper://localhost:2181
useRegister=true
useZkRouter=true
# zk acl
#acl.enable=false

主要配置服务端口、redis相关以及zookeeper相关，必须保证redis与zookeeper能连通。

然后愉快地启动fate-serving服务即可

具体命令如下

sh service.sh start

启动成功后，还得观察日志，tail -fn 300 logs/fate-serving-server.log是否报错。

5. 配置fate-serving到fate-flow

要实现在线预测必须将经过fate-flow训练的模型通过api提供到fate-serving，因此需要在fate-flow配置fate-serving的服务地址。

docker exec -it fate_python bash 进入fate-flow容器

编辑配置文件vi arch/conf/server_conf.json

在这里插入图片描述

保存成功后，docker restart fate_python重新启动容器.

6. 配置并启动fate-proxy

客户端通过http协议与fate-proxy交互，并不是直接与fate-serving交互。

编辑 fate-proxy编译目录下的 conf/application.properties 如下：

 # same as partyid
coordinator=1000
server.port=8059
#inference.service.name=serving
## actuator
#management.server.port=10087
#management.endpoints.web.exposure.include=health,info,metrics

#random, consistent
#routeType=random

route.table=conf/route_table.json
#auth.file=/data/projects/fate-serving/serving-proxy/conf/auth_config.json

useZkRouter=true
zk.url=zookeeper://localhost:2181

主要配置项是zookeeper,zookeeper作为服务注册中心，当模型被推送到fate-serving后会产生一系列服务注册到zookeeper,fate-proxy通过zookeeper发现服务。

然后愉快地启动fate-proxy服务即可

具体命令如下

sh service.sh start

7.推送模型

经过2-6步骤我们已经准备就绪。

docker exec -it fate_python bash 进入fate-flow容器

编辑 examples/publish_load_model.json

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-mVCDV10c-1586249085597)(C:\Users\lps\Documents\myblog\fate\1.fate-serving介绍.assets\image-20200407162703012.png)]

执行以下命令推送模型：

 python fate_flow_client.py -f load -c examples/publish_load_model.json

输出结果：
在这里插入图片描述

8. 绑定模型

docker exec -it fate_python bash 进入fate-flow容器

编辑 examples/bind_model_service.json

在这里插入图片描述

执行以下命令推送模型：

python fate_flow_client.py -f bind -c examples/bind_model_service.json

输出结果：

在这里插入图片描述

9. 在线预测

接口地址：

http://192.168.2.103:8059/federation/v1/inference

1.ip:port 对应fate-proxy的ip:port

2. 后面v1好像就是v1了，表示接口版本

请求方式

POST

请求参数
在这里插入图片描述

返回结果：

在这里插入图片描述

显示按照提供参数80%可能性恶性

对比我预测前的结果数据为 1 ，接近预测结果。

10.总结

以上的实践主要是单机版的，所以在在线联合预测上面并没有实践，后面将会进行补充，从架构来看，联合的核心主要是通过fate-proxy，通过配置路由表的方式，双方使用共同模型，由数据使用方（Guest）发起请求，对样本数据进行处理，再获取数据提供方（Host）对样本数据的处理结果，进行整合返回。

加入社区

VX号: FATEZS001 推荐人：黎富强

参考资料

[https://github.com/FederatedAI/FATE-Serving/wiki

Mark_MMXIX
关注
  • 1
    点赞
  • 踩
  • 22
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
CCF-微众银行-刘洋-联邦学习的研究及应用.pptx
11-03
在中国计算机学会的数字图书馆中“微众银行-刘洋-联邦学习的研究及应用”视频的ppt截图，由于网站中的视频不是很清晰，ppt也不能保证文字也特别清晰。 视频网址：https://dl.ccf.org.cn/audioVideo/detail.html?id=4360432544024576&_state=&_ack=1&_access_code=1c1ef48794b443bab9f74dddd16cd39b。 视频简介：联邦学习框架的优势到底是什么? 作为一个机器学习框架，联邦学习能有效帮助多个机构在满足用户隐私保护、数据安全和政府法规的要求下，进行数据使用和建模。而在联邦学习的基础上，迁移学习的能力也可以被搭建出来，做到举一反三的效果。而根据孤岛数据具有不同分布的特点，我们提出了不同的联邦学习方案。在本次报告中，我们将全面介绍联邦学习的概念与应用，并将提供联邦学习开源项目FATE（https://github.com/webankfintech/fate）详解，FATE提供了一种基于数据隐私保护的安全计算框架，为机器学习、深度学习、迁移学习算法提供强有力的安全计算支持。
flow 命令的安装与使用
AI浩
08-23 2090
文章目录1 安装2 初始化3 Data`download``upload``upload-history`3 Job`submit``stop``query``view``config``log``list``dsl`4 Model`load``bind``import``export``migrate``tag-list``tag-model``deploy``get-predict-dsl``get-predict-conf``get-model-info`5 Component (TRACKING)`
Fate-Serving推理服务源码解读
最新发布
treblez's blog
02-06 963
fate-serving是FATE的在线部分，在使用FATE进行联邦建模完成之后，可以使用fate-serving进行包括单笔预测、多笔预测以及多host预测在内的在线联合预测。
FATE —— 三.2 FATE-Flow document
weixin_62375097的博客
01-13 185
生成的模型部署到在线推理系统中，当前支持创建基于 KFServing 的推理服务。用指定的 Checkpoint 模型替换 Pipeline 模型。用指定的 Checkpoint 模型替换 Pipeline 模型。向 Fate-Serving 加载 deploy 生成的模型。向 Fate-Serving 绑定 deploy 生成的模型。基于横向训练的模型，生成其他 ML 框架的模型文件。从本地或存储引擎中导入模型。导出模型到本地或存储引擎中。从模型中添加或删除标签。获取模型的标签列表。
了解联邦学习和Fate框架
m0_46440313的博客
08-03 1036
了解联邦学习和Fate框架， 1. 为什么要进行联邦学习？ 2. 联邦学习是什么？ 3. Fate是什么？ 4. Fate中的基础概念。
Fate Serving安装部署
AI浩
08-05 3039
文章目录摘要架构图工作时序图部署安装JDK安装zookeeper安装serving-server安装serving-proxy安装serving-admin测试 摘要 fate-serving是FATE的在线部分，在使用FATE进行联邦建模完成之后，可以使用fate-serving进行在线联合预测。 FATE-SERVING 2.0 支持的特性： 单笔预测，2.0.*版本guest方与host方将并行计算，从而降低了耗时。 批量预测，2.0.*版本开始引入的新的特性，一次请求可以批量提交一批需要预测的数据
【阅读笔记】联邦学习实战——用FATE从零实现横向逻辑回归
HERODING23的博客
03-11 9747
联邦学习实战——用FATE从零实现横向逻辑回归前言1. FATE平台1.1 FATE平台架构概述2. Docker镜像安装FATE2.1 Docker的安装2.2 FATE的安装2.2.1 拉取镜像2.2.2 启动2.2.3 测试3. FATE编程范式 前言 FATE是微众银行开发的联邦学习平台，是全球首个工业级的联邦学习开源框架，在github上拥有近4000stars，可谓是相当有名气的，该平台为联邦学习提供了完整的生态和社区支持，为联邦学习初学者提供了很好的环境，否则利用python从零开发，那将会是
联邦学习开源框架FATE
热门推荐
培根芝士的专栏
11-25 1万+
FATE (Federated AI Technology Enabler) 是微众银行AI部门发起的全球首个联邦学习工业级开源框架，可以让企业和机构在保护数据安全和数据隐私的前提下进行数据协作。 FATE项目使用多方安全计算 (MPC) 以及同态加密 (HE) 技术构建底层安全计算协议，以此支持不同种类的机器学习的安全计算，包括逻辑回归、基于树的算法、深度学习和迁移学习等。 FATE于2019年2月首次对外开源，并于2019年6月由微众银行捐献给Linux基金会，并成立 FATE TSC 对FATE社.
fate serving（fate推理框架安装）
u011067684的专栏
07-27 1418
只适合fate serving 1.安装Java、Redis、zookeeper、maven四个组件 Java版本高于1.8 Redis高于1.0.6 zookeeper高于3.4.5 Maven 3.6.3 2 安装fate-serving 1 serving-server的部署 采取以下的步骤 从github上克隆代码git clone https://github.com/FederatedAI/FATE-Serving.git 执行 cd FATE-Serving ，进入源码的根目录。
4-2+FATE-高性能联邦学习算法优化实践.zip
03-18
4-2+FATE-高性能联邦学习算法优化实践
(二)联邦学习-Fate单机部署
01-20
总目录 (一)联邦学习-入门初识 ...FATE (Federated AI Technology Enabler) 是微众银行AI部门发起的开源项目，为联邦学习生态系统提供了可靠的安全计算框架。FATE项目使用多方安全计算 (MPC) 以及同态加密
毕设项目-基于联邦学习的电影推荐系统源码(java+html+python-学习框架FATE1.3.1).zip
05-21
毕设项目_基于联邦学习的电影推荐系统源码(java+html+python_学习框架FATE1.3.1).zip 【项目资源介绍】 1、备好一台配置足够的服务器，安装CentOS 7系统。 2、安装python3.6,更改usr/bin链接。 3、安装virtualenv ...
fate-srd-content:命运SRD内容，格式精美
05-06
Fate Core System系统参考文档 Fate加速版系统参考文档 Fate System Toolkit系统参考文档 原子机器人RPG系统参考文档 创业城市系统参考文件 风帆满天星系统参考文件 众神与怪兽系统参考文件 边疆精神体系参考文件 ...
Fate横向联邦学习-训练评估
培根芝士的专栏
12-07 2454
1. 准备上传数据 我们直接使用Fate提供的案例数据目录在examples/data/breast_homo_guest.csv、examples/data/breast_homo_host.csv、 这里上传数据需要准备host以及guest两方的上传数据 根据官方解释在Fate的概念中分成3种角色，Guest、Host、Arbiter Guest表示数据应用方，Host是数据提供方，在纵向算法中，Guest往往是有标签y的一方。arbiter是用来辅助多方完成联合建模的，主要的作用是用来聚.
第四章：微众银行FATE平台
unseven的博客
08-16 574
2019年2月，微众银行AI团队对外发布自主研发的开源项目FATE，它是一款基于Python开发的联邦学习平台，也是全球首个工业级的联邦学习开源框架。自发布以来，FATE经过多次重大更新，已经形成了一套完整的生态系统。当前FATE包括以下主要功能：提供了一种基于数据隐私保护的分布式安全计算框架（数据隐私保护也是FATE在设计过程中的首要考量目标）；为机器学习、深度学习、迁移学习等常用算法提供了高性能的安全计算支持；
微众Fate-横向联邦学习-预测
AI浩
01-05 712
1、获取训练模型信息 因为后面需要用到model_id以及model_version，我们需要通过命令行的方式读取。具体命令模板如下 python ${your_fate_install_path}/fate_flow/fate_flow_client.py -f job_config -j ${jobid} -r guest -p Dockre exec -it fate_python bash 进入fate容器 输入以下命令 python fate_flow/fate_flow_client.py
联邦学习FATE（单机部署）案例搭建+安装（超详细）
qq_43604183的博客
07-27 1万+
CentOS7安装FATE并搭建案例，另有虚拟机、centos安装教程。
从零开始详解联邦学习FATE开源平台
02-11
<img src="https://img-bss.csdn.net/202002111121343047.png" alt="" />
极客星球 | FATE联邦学习框架理论与应用初探
apkkkk的博客
11-15 5782
一、背景 随着大数据、云计算等技术的发展，数据隐私安全问题受到越来越多的重视，各国都在加强数据安全和隐私保护。中国在2017年实施的《中华人民共和国网络安全法》要求网络运营者不得泄露、篡改、毁坏收集的个人信息，并且在于第三方进行数据交易时需要确保合同明确约定拟交易数据的范围和数据保护义务。欧盟也在2018年实施了法案《通用数据保护条例》(General Data Protection Regulation, GDPR)。这些法规的实施要求我们在使用和交换数据的时候更加谨慎，数据源之间彼此成为独立.
fate-test离线包
01-10
fate-test离线包是用于开发和测试FATE（Federated AI Technology Enabler）平台的一个重要工具。FATE是一个开源的联邦学习框架，旨在促进跨组织之间的数据共享和协作，同时保护数据隐私和安全。离线包是在没有网络连接的情况下进行开发和测试时必不可少的资源。 这个离线包包含了FATE平台所需的所有组件和依赖，可以在本地环境中进行快速部署和调试。它包括了FATE的核心组件，例如联邦学习算法、模型训练和推理的工具，以及数据交换和安全协议。离线包还提供了丰富的示例代码和教程，帮助开发人员更快地上手和理解FATE的工作原理。 使用FATE离线包，开发团队可以在没有网络连接的情况下构建和测试应用程序，确保应用的可靠性和稳定性。另外，离线包还可以降低对外部网络和服务的依赖，提高开发效率和安全性。 总的来说，fate-test离线包是FATE开发和测试的重要工具，为开发人员提供了方便快捷的本地开发环境，帮助他们更好地理解和使用FATE平台的功能，推动联邦学习技术的发展和应用。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值