人工智能犹如一场革命一样在影响着我们生活的方方面面,渗透在我们生活的各个方面,但是一旦一个东西火起来后,必然会存在安全问题,犹如之前的网络安全,移动安全等等,这个时候作为安全研究者应该思考人工智能背后的安全,当然一个东西的安全是多维度的,不单单是单一角度的安全,但是这块我们只考虑人工智能软件安全。
人工智能软件安全:
1.算法本身存在的安全,对于不同输入值的错误识别。攻击者即可以通过多次的输入进行测试,同时可以逆向分析算法来找到其中的问题。
2.恶意攻击者利用人工智能,犹如目前很多恶意软件利用现有的保护技术来免杀。
3.由于智能算法是一个复杂的过程。因此对一个算法运行过程中某些环节进行控制。
以上仅仅是一点点小总结,可能传统软件安全保护还需要,但是在AI时代,应该要有一个更为全面的软件防御体系。