隐语框架

Laughing@me

已于 2023-03-20 16:54:49 修改

阅读量1.4k

点赞数

分类专栏：隐私计算文章标签： python 机器学习人工智能 mpc

于 2022-10-29 22:31:35 首次发布

本文链接：https://blog.csdn.net/qq_45503700/article/details/127593215

版权

隐私计算专栏收录该内容

9 篇文章 2 订阅

订阅专栏

一简介

隐语 - A unified framework for privacy-preserving data analysis and
machine learning
github https://github.com/secretflow
文档 https://secretflow.readthedocs.io/zh_CN/latest/

二 SPU

SPU（安全处理单元）是一个特定领域的编译器和运行时套件，旨在提供具有可证明安全性的安全计算服务。

SPU实现了多种MPC协议，包括：

ABY3:一个多数诚实的3PC协议。SPU实现了半诚实模型。
Semi2k-SPDZ
:一个半诚实NPC协议。和SPDZ协议类似，但是需要一个可信第三方来产生离线的随机数。目前，在协议中默认使用可信第一方。因此，目前主要用于调试。
Cheetah :一个快速半诚实的2pc模型。因为协议不需要可信第三方，因此会需要一些计算开销。

SPU的API十分简单，主要有三个主要模块，对应之前的模块描述。

SPU Io 是一个在密码和秘密分享之间转化的库。
SPU compiler,是一个将XLA转化为SPU IR的工具。
SPU Runtime, 是一个读入SPU IR并执行MPC计算的库。

SecretFlow中的SPU
在SecretFlow中，SPU设备包装了上述所有SPU的概念，并提供了更简单的编程接口。

数据所有者是SecretFlow中的PYU设备，明文并成为PYU Objects。
一个PYU object（明文）可以被转化为秘密分享，被叫做SPU Object。
Python函数可以被发送至SPU设备执行，背后是SPU编译器和运行时。
最后，一个SPU Object可以被转化为PYU Object，并被一个PYU设备拥有。

使用示例

import numpy as np
from sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import Normalizer


def breast_cancer(party_id=None, train: bool = True) -> (np.ndarray, np.ndarray):
    scaler = Normalizer(norm='max')
    x, y = load_breast_cancer(return_X_y=True)
    x = scaler.fit_transform(x)
    x_train, x_test, y_train, y_test = train_test_split(
        x, y, test_size=0.2, random_state=42
    )

    if train:
        if party_id:
            if party_id == 1:
                return x_train[:, 15:], _
            else:
                return x_train[:, :15], y_train
        else:
            return x_train, y_train
    else:
        return x_test, y_test



import secretflow as sf

# In case you have a running secretflow runtime already.
sf.shutdown()

sf.init(['alice', 'bob'], num_cpus=8, log_to_driver=True)

alice, bob = sf.PYU('alice'), sf.PYU('bob')
spu = sf.SPU(sf.utils.testing.cluster_def(['alice', 'bob']))

# 加载数据
x1, _ = alice(breast_cancer)(party_id=1)
x2, y = bob(breast_cancer)(party_id=2)

# 导入数据
device = spu

W = jnp.zeros((30,))
b = 0.0

W_, b_, x1_, x2_, y_ = (
    sf.to(device, W),
    sf.to(device, b),
    x1.to(device),
    x2.to(device),
    y.to(device),
)

#训练模型
losses, W_, b_ = device(
    fit,
    static_argnames=['epochs'],
    num_returns_policy=sf.device.SPUCompilerNumReturnsPolicy.FROM_USER,
    user_specified_num_returns=3,
)(W_, b_, x1_, x2_, y_, epochs=10, learning_rate=1e-2)

losses, W_, b_

#reveal result
%matplotlib inline

losses = sf.reveal(losses)

plot_losses(losses)

auc = validate_model(sf.reveal(W_), sf.reveal(b_), X_test, y_test)
print(f'auc={auc}')

三 SPU配置

A typical SPU config:

import spu
import secteflow as sf

cluster_def={
    'nodes': [
        {
            'party': 'alice',
            'id': '0',
            # Use the address and port of alice instead.
            # Please choose a unused port.
            'address': 'address:port',
        },
        {
            'party': 'bob',
            'id': '1',
            # Use the ip and port of bob instead.
            # Please choose a unused port.
            'address': 'address:port',
        },
    ],
    'runtime_config': {
        'protocol': spu.spu_pb2.SEMI2K,
        'field': spu.spu_pb2.FM128,
        'sigmoid_mode': spu.spu_pb2.RuntimeConfig.SIGMOID_REAL,
    }
}

spu = sf.SPU(cluster_def=cluster_def)

standalone config

standalone mode because sf.utils.testing.cluster_def use 127.0.0.1 as the default ip.

spu = sf.SPU(sf.utils.testing.cluster_def(['alice', 'bob']))

https://spu.readthedocs.io/en/beta/reference/runtime_config.html

spu算子调度解析

定义spu对应的函数
spu 类调到call方法并编译解析函数
远程调用解析过的对应函数并返回对应结果

spu传输类

在这里插入图片描述

https://github.com/secretflow/yasl

YASL (Yet Another Simple library) is a C++ library that contains modules and utilities which other SecretFlow code depends on.

在这里插入图片描述

四 SPU隐私求交

隐私求交（Private Set Intersection）是一种使用密码学方法，获取两份数据内容的交集的算法。PSI过程中不泄露任务交集以外的信息。

在隐语中，SPU设备支持三种隐私求交算法：

ECDH：半诚实模型, 基于公钥密码学，适用于小数据集。
KKRT：半诚实模型, 基于布谷鸟哈希（Cuckoo Hashing）以及高效不经意传输扩展（OT Extension），适用于大数据集。
BC22PCG：半诚实模型, 基于随机相关函数生成器。

示例:

使用 uid 作为求交列来处理这两个数据，SPU提供 psi_csv 函数， psi_csv 将csv文件作为输入，并在求交后生成csv文件。默认协议为KKRT。

# alice, bob: PYU设备，负责参与者的本地明文计算。
# spu：SPU设备，由alice和bob组成，负责双方的密文计算。

alice, bob = sf.PYU('alice'), sf.PYU('bob')
spu = sf.SPU(sf.utils.testing.cluster_def(['alice', 'bob']))

input_path = {alice: '.data/alice.csv', bob: '.data/bob.csv'}
output_path = {alice: '.data/alice_psi.csv', bob: '.data/bob_psi.csv'}
spu.psi_csv('uid', input_path, output_path, 'alice')

三方ECDH求交

使用 uid 和 month 作为求交键来执行三方求交。目前三方隐私求交暂时只支持ECDH协议。

carol = sf.PYU('carol')
spu_3pc = sf.SPU(sf.utils.testing.cluster_def(['alice', 'bob', 'carol']))

input_path = {alice: '.data/alice.csv', bob: '.data/bob.csv', carol: '.data/carol.csv'}
output_path = {alice: '.data/alice_psi.csv', bob: '.data/bob_psi.csv', carol: '.data/carol_psi.csv'}
spu_3pc.psi_csv(['uid', 'month'], input_path, output_path, 'alice', protocol='ECDH_PSI_3PC')

五、部署

build

 https://github.com/secretflow/spu/blob/beta/CONTRIBUTING.md#build

通过docker

最新的版本请查看 secretflow tags 
docker run -it secretflow/secretflow-anolis8:${version}

cluster 部署

 https://secretflow.readthedocs.io/zh_CN/latest/getting_started/deployment.html

六 HEU

https://heu.readthedocs.io/zh_CN/latest/getting_started/quick_start.html
最左边的部分整合了 PHE 算法，具体包括 Paillier、ElGamal 等等，HEU 深度改进并优化了这些算法的性能，性能通常比第三方库更高，因此，即便您不需要隐语，只把 HEU 单独拿出来当做 PHE lib 使用也是有收益的。
在这里插入图片描述

实测速度：