最近研究发现新型攻击方式 可骗过多个人工智能模型

人工智能虽然非常强大，不过正如任何计算机系统，都会有缺点和漏洞。最近有研究发现，如果找出一个成功骗过人工智能模型的攻击方法，可在另一人工智能模型奏效。

意大利 University of Cagliari 及美国 Northeastern University 研究人员最近于 arXiv 刊登的胜博发星座论文指出，常见用来欺骗人工智能神经网络的攻击，一旦发现在一个人工智能模型有效，在其他人工智能模型也同样有效，变相让攻击者可先在风险较低的人工智能模型测试，找到有效的方式后再实际于资安较严格的地方使用。

研究人员表示，这种可转换性让攻击者针对完全不同而未知的模型进行有效攻击，对现在越来越普及的人工智能系统是危险的现象。特别是当现在信息更透明公开，攻击者了解目标系统的架构，并采用相关开源模型测试也越来越容易。他们也在论文提及如何避免这情况，让系统设计者更小心，避免遭受攻击。

转载于:https://my.oschina.net/u/3906919/blog/3014520