【阅读笔记】机器学习安全攻击与防御机制研究进展和未来挑战2021
机器学习面临的攻击论文阅读笔记仅供学习使用,如有侵权,联系立删!机器学习面临的攻击术语介绍对抗样本为了让模型混淆出错而对原始样本经过精心扰动的样本对抗扰动为使原始样本称为对抗样本而增加的扰动对抗训练使用原始训练集和对抗样本共同训练机器学习模型敌手特指制作对抗样本的攻击者白盒攻击攻击者拥有目标模型全部知识的攻击包括其参数值、模型结构、训练方法、训练数据等.黑盒攻击攻击者仅拥有模型有限知识的攻击例如攻击者通过在训练阶段产生对抗样本进行对抗样本攻击.检测器。
原创
2023-11-22 16:23:04 ·
81 阅读 ·
1 评论