【数据科学赛】Microsoft Membership Inference Competition #成员推理攻击 #差分隐私 #AI安全 #白盒攻击

CompHub 实时聚合多平台的数据类(Kaggle、天池…)和OJ类(Leetcode、牛客…）比赛。本账号会推送最新的比赛消息，欢迎关注！

更多比赛信息见 CompHub主页 或 点击文末阅读原文

---

以下内容摘录自比赛主页

Part1赛题介绍

题目

Microsoft Membership Inference Competition (MICO)

四个赛道：

• MICO - CIFAR-10 (图像)

• MICO - SST-2 (文本)

• MICO - Differential Privacy Distinguisher（差分隐私）

• MICO - Purchase-100 (表格)

举办平台

CondaLab

主办方

micochallenge

背景

Membership Inference 是针对机器学习模型的一类威胁。它攻击的目标是判断给定样本是否用于训练指定的模型。攻击者可能完全知道模型的结构及其权重（称为“白盒”访问），或者可能只能得到模型的输入输出（“黑盒”访问）。不论如何，Membership Inference都可能产生严重负面影响，特别是当模型是由敏感数据训练得到的。

Membership Inference 的方式多样，举例一种简单的方式：模型可能会对训练样本过拟合，据此我们可以做一个简单的假设——对于某个样本，模型预测的置信度越高，则该样本是训练样本的可能性更高。

想要对 Membership Inference 有更系统的了解，可以阅读这篇综述笔记。

Part2时间安排

Part3奖励机制

The winner of each task will be eligible for an award of 2,000 USD from Microsoft and the runner-up of each task for an award of $1,000 USD from Microsoft (in the event of tied entries, these awards may be adjusted).

This competition is co-located with the IEEE Conference on Secure and Trustworthy Machine Learning (SaTML) 2023, and the winners will be invited to present their strategies at the conference.

Part4赛题描述

在Microsoft Membership Inference Competition(MICO) 中，选手的目标是对主办方提供的一系列做白盒成员攻击（white-box membership inference），也就是给定一个模型和一些样本，选手需要判断哪些样本是被用于训练这个模型的。

主办方提供的模型是关于文本、图像、表格数据、差分隐私的分类模型，对应四个赛道，选手可以选择其中一个或多个参加，每个赛道独立计分。

---