Google研究 | 联合学习：无需集中存储训练数据的协同机器学习

文 | Google 研究员 Brendan McMahan 和 Daniel Ramage

标准的机器学习方法需要将训练数据集中到一台机器上或一个数据中心内。为了处理此数据，改善我们的服务，Google 构建了一套最安全、最强大的云基础架构。现在，对于通过用户与移动设备交互进行训练的学习模式，我们另外引入了一种方法：联合学习。

通过联合学习，移动电话可以协同学习共享的预测模型，同时将所有训练数据保留在设备上，从而无需将数据存储在云中，即可进行机器学习。同时，通过将模型训练引入到设备上，超越了以往使用本地模型预测移动设备（例如 Mobile Vision API 和设备端智能回复）的模式。

其工作原理如下：您的设备下载当前模型，通过学习手机中的数据改进模型，然后以小幅更新的形式汇总所做的变更。通过加密通信仅将此模型的更新发送至云，在云中，立即与其他用户更新进行平均，以改进共享模型。所有训练数据仍保留在您的设备上，云中未存储任何个别用户的更新。

▲ 您的手机根据您的使用情况，在本地建立个性化模型 (A)。然后，许多用户的更新聚合 (B) 在一起，形成对共享模型的一致更新 (C)，之后不断重复此流程。

联合学习可建立更智能的模型，缩短延迟时间，减小功耗，同时确保隐私性。这种方法另一个直接的益处是：除了为共享模型提供更新之外，还可以即时使用手机中经过改进的模型，根据您使用手机的方式，提供个性化的体验。

我们目前正在 Android 版 Gboard（即 Google 键盘）中测试联合学习。当 Gboard 显示建议的查询内容时ÿ