第八讲 SPU密态引擎

第八讲 SPU密态引擎

为什么做SPU？

模型对用户加密

提示词对公司加密

同时保护模型和提示词

为什么要隐私计算？

• 数据是敏感的

• 数据是重要的

技术路线：

• 多方安全计算

• 同态加密

• 差分隐私

• 可信硬件

挑战：

易用性差，性能差

需要：原生AI框架支持，编译器运行时协同优化

SPU简介

• 前端：支持主流AI前端，降低学习成本，复用AI前端能力

• 编译器：隐私保护领域IR，复用AI编译器部分优化，加密计算的优化

• 运行时：指令并行，数据并行，

• 多种协议支持：两方，三方，四方，半诚实，恶意，安全协议可扩展

• 多部署模式：面向虚拟设备编程，一次书写到处执行

SPU：一个虚拟加密处理设备