CTF新题型--AI

CTF比赛主要包括以下经典题型：Web/RE/Crypto/PWN/Misc.
随着发展又逐渐细化或出现新类型:Stega/Mobile/Forensics/Blockchain.
这些新题型在独立之前一般都归属于 Misc.
最近的比赛中又出现了新题型 – AI,在CTF竞赛中引入AI题目，可以测试选手对当前最前沿技术的理解和应用能力.早期题目都比较简单,如欺骗 ai;目前题目难度逐渐加大.

AI类题目通常涉及到使用或修改AI模型来解决特定的问题。这类题目可能要求选手利用算法对数据进行修改、运算，以实现解题目的.例如，字节跳动安全与风控团队发起的安全AI挑战赛就涵盖了图像文本识别、海量数据分析等方向，而WMCTF2020和TJUCTF新生赛中也有AI相关的题目.在这些题目中，有的是基于神经网络的欺骗AI问题，如通过生成对抗样本来欺骗AI图像识别系统；有的则是需要选手自行实现一个AI模型，来自动化某些操作.此外，还有基于文本和多模态数据的风险识别任务，这类任务比较接近真实场景，任务本身也比较有趣。

经过对一些题目的了解,我把 AI 题型两类：“应用 AI”和“逆向 AI”:

1. 应用 AI：这类题目聚焦在别致的 AI 应用，例如欺骗类问题。这类题目可能需要选手灵活运用 AI 技术来解决实际问题，如通过制造误导性的输入信息，欺骗 AI 系统。或者是人工智能网络挑战赛 (AIxCC),使用人工智能来发现安全漏洞，然后使用人工智能来修复它们。
2. 逆向 AI：这类题目则着眼于理论和技术层面，探索 AI 的原理，并挖掘可能存在的漏洞。这可能需要选手对 AI 的基本原理和技术内部运行机制有深入的理解。此类题目难度较大.

以下是一些有关 AI 的题目(按时间排序):

题目	时间	备注
京东AI CTF大挑战特别题	2018	Keras
腾讯游戏安全技术竞赛	2019-	2019 年出现数据分析方向
0ctf2019 neuron_break	2019	对抗算法
西湖论剑 - 指鹿为马	2020	KNN
WMCTF2020	2020	对抗样本
N1CTF2021 Collision	2021	FGSM
TJUCTF新生赛	2022	DNN、MNIST、对抗样本
XCTF-*CTF2022-Alice	2022	pytorch、Deep leakage from gradient
7th XCTF-Final Shop	2023	人工智能推荐系统
Hackergame 2023	2023	操控语言模型输出特定的回答。将 AI 单独作为题型，2022 年好像就有了。
第三届“香山杯”网络安全大赛初赛	2023
NKCTF 2024	2024	Deep leakage from gradient、构造欺骗。题目难度大