天空卫士RSAC大会第一视角：如何使用AI辅助下一代安全技术

美国时间4月24日，全球网络安全行业盛会RSA Conference在旧金山隆重开幕。今年RSAC 的主题是 “Stronger Together（和衷共济，无懈可击）”，议程包含：2023主要安全风险、数据分类及其重要性、混合世界的现代数据保护等主题演讲。来自全球的500多家网络安全厂商汇聚于此，围绕25个主题深度展开探讨，从经济形式、法律法规、安全技术等多个维度探讨网络安全产业的发展趋势与新机遇。

RSA Conference 2023

本次大会最热的议题有哪些？天空卫士合伙人、高级技术总监杨明非亲临现场，从数据安全的角度为大家发来“报道”。

在今年RSAC开幕主题演讲里，被频繁提及的几个热词有：

AI、ChatGPT、

Machine Learning

内容集中在如何使用AI辅助下一代安全技术。在各个行业、应用中AI被大量使用，风险与机遇并存，因为初期不完善的AI系统可能会存在更多的安全风险。

要说2023年最火热的领域，必然是以ChatGPT为代表的生成式人工智能。将网络安全和人工智能相结合，也一直是行业期望的目标。但是“风光无限”中也蕴含着重重危机。

三星公司的泄密事件发生

今年发生的三星公司的泄密事件，在三星半导体部门开始允许工程师使用ChatGPT后不久，工作人员至少三次向ChatGPT泄露秘密信息。据报道，一名员工要求聊天机器人检查敏感的数据库源代码是否有错误，另一名员工要求代码优化，第三名员工将录制的会议输入 ChatGPT 并要求其生成会议记录。

由此可以看到，人工智能的应用，在业务增强的同时，安全尤其是数据安全将会逐步成为导致数字化“高楼”轰然倒塌的触发点。根据Gartner的报告，每5个企业中就有2个企业存在AI的安全问题或者隐私泄露，其中1/4是恶意攻击导致。因此，AI的安全形势不容忽视， AI带来的数据类型与数据价值增加的同时，产生的问题也是企业需要高度关注的部分。

如何让AI的使用更安全？

在AI的应用过程中同样存在大量的用户端风险。我们如何让AI的使用更安全呢？对于安全行业而言，一方面需要利用人工智能来增强安全的防护能力，另一方面还需要对人工智能的应用提供安全保护。不再是对传统安全中的入侵、病毒、木马等的防护，而是更高级别的算法与算法的对抗，数据与数据的对抗，同时，还有人的恶意攻击、疏忽参杂在其中，这都将导致人工智能的安全问题变得更为复杂。

天空卫士“以人为本“的数据安全体系围绕整个AI系统，对训练样本、学习样本以及业务数据等出入AI平台的数据进行多层次的安全核查，包括病毒、文件格式、文件内容等，实现多层次立体安全防护。同时对系统管理员、数据分析师等终端提供数据安全保护，通过平台统一管理模型为AI系统提供全方位的数据保护。在三星的案例中，我们可以植入天空卫士数据安全体系，对员工的失误进行有效的阻止和报警，有效阻断使用AI系统时的泄密风险。

新的人工智能时代已真正到来，但如同每一次技术变革，新的AI应用场景也带来新的数据隐私安全挑战。ChatGPT 2个月用户破亿成为现象级应用后，商业机密泄密与用户隐私数据跨境、出境与合规问题，迅速引起广泛关注。国家监管层面，4月11日，国家网信办正式发布《生成式人工智能服务管理办法（征求意见稿）》，明确强调 “通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。”

数据安全技术应该适应技术迭代，与时俱进，新的AI应用更需要新一代基于AI的技术体系解决数据安全问题，让新技术能够促进而非阻碍业务发展。天空卫士ITP内部威胁防护体系，基于大数据及人工智能技术对各类数据与行为进行分析，将异常用户风险评分结果与统一内容安全策略集成联动，实现实时风险控制和精准的策略控制，将数据安全保护能力的边界从传统IT扩展到新型AI等业务应用数据，达到动态自适应调整数据安全。