B站阿里安全图灵实验室薛晖访谈总结

三个大：大数据，大模型(深度模型)，大计算量。

人工智能与人类智能差距很大。

人工智能的胜利与其说是智能的胜利，不如说是计算能力的胜利。

人脑运转只需要20瓦，训练GPT却需要耗资数百万。

人工智能三个问题：

1. 对数据强依赖，需要收集标注数据；
2. 推理成本很高，做不了非常经济的、像人脑这样20瓦就能做的综合决策；
3. 不存在通用的、可迁移的人工智能，在一个场景下做的智能很难在另一个场景下发挥作用。

安全AI与AI的安全的区别：

阿里巴巴在2018年提出安全AI，安全是传统话题。

第一，AI可以帮助更好地解决安全问题；第二，AI发展迅速，有许多困难和缺陷，自身发展会带来很多问题，比如AI漏洞容易被黑客操纵，带来的影响可能远超过去的系统被hack；第三，AI发展迅速，很多伦理和规范跟不上，例如deepfake和自动驾驶的技术和法律法规不同步。

 安全AI是一个新领域。人才主要来自两部分：传统安全，人工智能。这两个对该领域都很重要，最好兼具两种思路。

如果通用AI无法解决安全问题，怎么把安全方面的安全知识注入到AI中？

用普通人工智能解决安全问题远远不够，可能无法解决对抗的问题。

很多在AI上的创新受到传统安全启发，帮助AI变得更鲁棒。