AI安全之投毒攻击
AI安全之投毒攻击数据投毒定义适应场景:一般解决办法:数据投毒你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章,了解一下Markdown的基本语法知识。定义主要是在训练数据中加入精心构造的异常数据,破坏原有的训练数据的概率分布,导致模型在某些条件会产生分类或聚类错误[1]。适应场景:由于数据投毒攻击需要攻击者接触训练数据,通常针对在线学习场景(即模型利用在线学习数据不断学习更新模型),或者需要定期重新训练进行模型
原创
2020-08-08 08:21:58 ·
4449 阅读 ·
0 评论