Coremail RSAC大会观察：在邮件安全领域AI既是矛也是盾

《Coremail RSAC大会观察：在邮件安全领域AI既是矛也是盾》

全球网络安全界的盛会——2023年RSAC大会于当地时间4月24日-27日在美国旧金山召开，大会以“Stronger Together（一起变得更强大）”为主题，议程主要包含安全研讨会、沙盒创新大赛、安全技术主题演讲等。Coremail联合创始人现任CTO VP林延中和Coremail邮件产品总架构师陈颖棠出席了此次会议。

 

 

RSAC 创新沙盒竞赛已举办 18 年，是初创公司展示具有改变网络安全行业潜力的突破性技术的领先平台。而今年的创新沙盒大赛竞争依然非常激烈，最终由人工智能应用安全公司HiddenLayer拔得头筹、获得了“最具创新创业公司”的称号。

可见，AI在安全领域的应用也成为此次大会的热点议题。在此次大会的开幕式上，RSA 首席执行官 Rohit Ghai也重点讨论了人工智能给网络安全带来的机遇与挑战。

“每一次新技术浪潮都比以往更大、更快也更具颠覆性，这次也不例外。”

Ghai 强调了人工智能时代已经到来，网络安全组织必须利用AI的力量。随着人工智能技术逐渐渗透到网络安全产品和解决方案中，我们可以期待安全与AI碰撞出更多的火花。但同时，Ghai 也提及了“Good AI”机器人的另一面就是“Bad AI”。

 

诚然，在攻防对抗中，AI技术既会被安全厂商用于防御，而类似于ChatGPT等人工智能软件也很有可能成为黑客的攻击利器，使网络钓鱼更难抵御。那么人工智能对于邮件安全行业而言，又将会带来什么改变呢？

Coremail邮件安全人工智能实验室首席架构师潘庆峰（下文简称“大P”）就“当前AI技术对邮件安全的影响”这个话题进行了深度分享。

1、当前AI技术对邮件安全对抗的影响

ChatGPT和GPT-4的出现让大家惊叹于当前的深度学习模型已经能够达到如此高的水平。

大P认为，实际上，ChatGPT完成了两个任务，那就是语义分析和文本生成任务。

首先，如果把ChatGPT模型比作一个由大量数据训练而成的高维空间迷宫，通过读取每一个字符来决定下一步走向，最终我们可以抵达迷宫中的某个位置。

这个位置附近就是最可能的答案空间，从这个位置开始，按照最大可能性路径一个一个字地生成出答案，就是我们看到的ChatGPT回复。

因此，问题语义分析部分，就是Coremail反垃圾算法进行文本分类的基础。

大P认为，自然语言处理技术即将进入应用爆发期，主要会在邮件系统产业上形成三方面的应用。

第一，用户级层面上，邮件小助手应用AI自动生成回复或自动拟稿，甚至可以帮助撰写简单逻辑程序，由人工进行校验，提升工作效率。

第二，公司业务层面上，AI技术可以再读取大量公司文档后生成客服系统，与目前机械性的回复相比，后期的答疑质量将会大幅上升。

第三，对于垃圾邮件发送方而言，AI技术可能会被用来制作大量垃圾文本，形式内容不一但内涵一致，垃圾邮件的收发量有可能快速上升。

 

2、AI既是矛，也是盾

ChatGPT常被用作开发勒索软件和钓鱼邮件开发，这已经是不可改变的事实，但是大P强调每一项技术都可以用于进攻或防守，不用太过担心AI的深度学习技术会导致现有的反垃圾识别系统失效。

大P分析了三点原因：首先，生成大量垃圾文本远比文本分类需要大得多的运算量，普通黑产团伙很难提供这种量级的算力支撑。

其次，考虑到生成文本的可读性及逻辑性，此类文本必然带有很多有指向性的词语，词性相近文本在高维空间的位置都是相似的，这代表着使用文本分类进行反垃圾不会有太多的变化。

最后，反垃圾算法也不是单纯的文本分类问题，还可通过发信历史、发信行为、发信来源等多种特征协助判断。

黑产团伙乐于使用AI生成垃圾文本，那么对于防守方而言，我们同样可利用深度学习技术动态生成垃圾邮件内容，用来给反垃圾系统做陪练。

3、Coremail  AI技术发展前生今世

大P还为大家介绍了Coremail AI技术发展历程，展示了Coremail在AI的不同发展时期，利用AI提高了Coremail邮件安全的反垃圾能力。

 

Coremail自1999年开发出第一套邮件系统后就开始进行反垃圾技术的相关研究，随着AI技术的发展经历了邮件安全应用的“智能算法萌芽期（2000年前后）”“智能算法发展期（2010前后）”，迎来了“大规模应用期（2020年至今）”。

当前，Coremail邮件安全人工智能实验室（Email Security AI Lab）基于邮件安全大数据中心持续积累的海量优质数据，实现了邮件样本智能收集、识别、入库、反馈、自学习训练并提升算法模型能力的闭环，不断优化中央引擎、保持反垃圾品质稳步提升。

未来，Coremail AI LAB将坚持长期主义，加大对云计算、人工智能、大数据的投入研究，将成果实践落地至Coremail邮件安全系列产品与服务，运用到实际的业务场景中，推动邮件安全整体产业性发展。

声明：本文来自Coremail，版权归作者所有。文章内容仅代表作者独立观点，不代表Coremail立场，转载目的在于传递更多信息。如有侵权，请联系我们。