探索模型投毒攻击：深入理解联邦学习的敌对视角

探索模型投毒攻击：深入理解联邦学习的敌对视角

项目介绍

欢迎来到Model Poisoning Attacks，这是一个开源项目，与ICML 2019接受的论文“通过敌对镜头分析联邦学习”相关联。该项目专注于研究和实施针对联邦学习的模型投毒攻击，这是一种在保护用户数据隐私的同时进行机器学习的方法。它提供了一系列工具和脚本，帮助研究人员和开发者深入理解这些攻击策略及其影响。

项目技术分析

该项目基于Tensorflow-1.8、Keras、NumPy、SciPy和Scikit-learn等库构建，实现了联邦学习环境下的训练过程。核心功能包括标准平均聚合的分布式训练以及不同类型的恶意模型攻击，如基本的目标型模型投毒攻击和交替最小化攻击。其中，交替最小化攻击引入了距离约束，以模拟更为复杂的攻击场景。

项目及技术应用场景

对于那些正在研究机器学习安全性的研究人员，或者希望加强其联邦学习系统抵御敌对攻击的开发团队来说，这个项目是不可或缺的资源。它可以用于：

1. 分析和测试联邦学习系统的脆弱性，识别可能的攻击向量。
2. 设计防御策略，提升模型在面对有目的性攻击时的鲁棒性。
3. 教育和培训，帮助理解和预防模型投毒攻击。

项目特点

• 可定制性：项目允许调整多个参数，例如参与训练的代理数量（--k）、每次选取的代理比例（--C）和梯度聚合规则（--gar），使得实验可以根据不同的需求进行定制。
• 多种攻击模式：不仅提供了基本的攻击方式，还包括交替最小化攻击，支持距离约束，增强了对复杂攻击场景的模拟。
• 易于使用：简洁的命令行接口使设置和运行实验变得简单，只需一行代码就可以启动特定的训练或攻击。

要开始探索，只需要在你的机器上安装必要的依赖，并按照提供的示例命令运行代码。这将开启你的旅程，带你深入理解联邦学习中的安全挑战，以及如何对抗模型投毒攻击。

# 示例命令
python dist_train_w_attack.py --dataset=fMNIST --k=10 --C=1.0 --E=5 --T=40 --train --model_num=0 --gar=avg

快来加入，一起揭示联邦学习隐藏的一面，提升我们的系统安全性！