人工智能安全方向周报

前言

今天汝哥给我们讲解了如何快速进入研究以及几篇人工智能安全的相关文献，并布置了接下来的任务。

1. 快速进入研究的方法

• 读文献->读综述性文献->自己写综述
• 跟进已有的项目

2. 接下来的任务

2.1 确定自己横向工作

• 二维码项目
• 语音识别项目
• 网络安全项目

2.2 协助上线改论文

• 看懂上线的文章
• 跑代码

2.3 根据张钹老师的文献进行调研，写一个简单的综述

• 跟踪国内做人工智能安全的团队
• 跟踪国外做人工智能安全的团队

2.4 讲自己读文献以及修改论文的理解

3. 小组成员关于人工智能安全的想法和问题

3.1 蒋鑫

• 恶意代码检测
• 防御APT攻击
  APT即高级可持续威胁攻击，指某组织对特定对象展开持续有效的攻击活动。
• 建立人工智能模型
• 检测攻击并隔离

3.2 陈攀

• 对线上的数据如何进行攻击
  需要更新外部数据

• 制造恶意样本去攻击推荐系统（好评、差评）
  rating（评分）：1-5，review（评论）：差、垃圾。
  设计一种标准或者方法，去判断什么事恶意的样本。比如：检测评分为5分的评论中是否出现差、垃圾等负面词语，如果有则可以认为这个评分是无效的，从而去除掉恶意样本。

3.3 彭帅

机器学习在网络安全中的应用。

• 检测垃圾邮件
  利用机器学习中的分类方法检测垃圾邮件。

• 恶意PDF检测
  恶意PDF指在PDF中嵌入恶意代码，如果能解决这个问题，会产生很高的商业价值。

• 微博平台的异常账号
  比如水军，可以通过检测这些账号是否拥有同一ip地址来判断。

3.4 秋颖

• 假如一个图片的一个像素点被攻击((0,0,255)–>(0,0,253)),从这张图片中提取两张图片，一张提取原图片的奇数行，另一张提取原图片的偶数行，再通过机器学习中的分类方法对两张图片进行分类，如果其中一张图片与原图片分类不一样则表明该图片被修改过了。
• 制造一个噪声，将该噪声加到图片上，使得图片分类错误
  既然可以攻击图片，那我们能不能用类似的方案针对恶意流量。