《人工智能安全》课程总体结构

1 课程内容

• 人工智能安全观：人工智能安全问题、安全属性、技术体系等基本问题进行了归纳整理。
• 人工智能安全的主要数据处理方法，即非平衡数据分类、噪声数据处理和小样本学习。
• 人工智能技术赋能网络空间安全攻击与防御：三个典型实例及攻击图的角度介绍典型人工智能方法在攻击与防御中的应用。
• 机器学习模型的安全：从攻击者、对抗攻击理论与方法、典型对抗攻击方法、隐私安全与保护、聚类算法的安全性以及对抗攻击防御方法进行了介绍。
• 机器学习平台的安全
• 基于天池AI实训平台的若干案例和实验（Python版）

2 课程内容之间的关系

3 目录结构

1. 概述
2. 非平衡数据处理问题
3. 噪声数据处理
4. 小样本学习方法
5. 网络入侵检测
6. SQL注入检测
7. 虚假新闻检测
8. 攻击与防御的智能技术
9. 机器学习系统的攻击者
10. 对抗攻击的理论与方法
11. 典型对抗攻击方法
12. 隐私保护
    12-1. 机器学习系统隐私保护技术
    12-2. 大数据隐私攻击与保护
    12-3. 隐私计算架构
    12-4. 典型应用中的隐私保护
13. 聚类模型的攻击
14. 对抗攻击的防御方法
15. 机器学习平台的安全
16. 阿里云AI学习平台与实验

4 参考书籍

《人工智能安全》（清华大学出版社，2022）复旦大学曾剑平

5 讨论

5.1 对抗攻击

1. 【隐私保护机器学习】https://www.bilibili.com/video/BV1pG4y1t7t5?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
2. 【AI安全-对抗攻击与防御】https://www.bilibili.com/video/BV1Z14y177cF?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
3. 【针对黑盒模型的高效无数据迁移攻击】https://www.bilibili.com/video/BV1pi4y1U7xD?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
4. 【持续学习】https://www.bilibili.com/video/BV1wY411j7mQ?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
5. 【面向深度学习的对抗攻击技术介绍【CV-对抗技术】Part.1对抗攻击定义+类型】https://www.bilibili.com/video/BV1JN411P7ro?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
6. 【清华大学学术报告 针对机器学习模型的攻击】https://www.bilibili.com/video/BV18P411Z7cY?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
7. 【【AI 公开课】 AI vs AI 人脸识别对抗攻击专题公开课：共6讲】https://www.bilibili.com/video/BV1y64y1B722?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb

5.2 联邦学习

1. 【面向时空异构数据的联邦学习】https://www.bilibili.com/video/BV1BT411s7xD?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
2. 【联邦学习的核心挑战及对策】https://www.bilibili.com/video/BV1Fv4y137W6?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
3. 【联邦数据与智慧城市】https://www.bilibili.com/video/BV1AF411g7cM?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
4. 【Vision-and-Language 中的联邦学习】https://www.bilibili.com/video/BV1M54y1r7rm?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
5. 【联邦学习鲁棒性】https://www.bilibili.com/video/BV1jZ4y1V7gT?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb

5.3 异常检测

1. 【网络与通信丨用于检测互联网流量异常的机器学习——加拿大西蒙弗雷泽大学Ljiljana Trajkovic教授】https://www.bilibili.com/video/BV1bN4y1e7fr?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
2. 【【CSIG云讲堂】周瑜-零样本工业异常检测方法与应用】https://www.bilibili.com/video/BV1Ym29YYEqa?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
3. 【NDSS 2023 复现 利用流交互图分析实时检测未知加密恶意流量】https://www.bilibili.com/video/BV1zj411e7xC?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
4. 【【 李宏毅机器学习：异常检测 】Anomaly Detection（合辑）（中文）】https://www.bilibili.com/video/BV1mb411q7b5?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb
5. 【异常检测算法详解：共10讲】https://www.bilibili.com/video/BV1rq4y1C7R3?vd_source=ebd4c858fcb4665b05fa5ce4a799a9cb