人工智能虽然非常强大,不过正如任何计算机系统,都会有缺点和漏洞。最近有研究发现,如果找出一个成功骗过人工智能模型的攻击方法,可在另一人工智能模型奏效。
意大利 University of Cagliari 及美国 Northeastern University 研究人员最近于 arXiv 刊登的胜博发星座论文指出,常见用来欺骗人工智能神经网络的攻击,一旦发现在一个人工智能模型有效,在其他人工智能模型也同样有效,变相让攻击者可先在风险较低的人工智能模型测试,找到有效的方式后再实际于资安较严格的地方使用。
研究人员表示,这种可转换性让攻击者针对完全不同而未知的模型进行有效攻击,对现在越来越普及的人工智能系统是危险的现象。特别是当现在信息更透明公开,攻击者了解目标系统的架构,并采用相关开源模型测试也越来越容易。他们也在论文提及如何避免这情况,让系统设计者更小心,避免遭受攻击。