天空卫士RSAC大会第一视角:如何使用AI辅助下一代安全技术

在这里插入图片描述

美国时间4月24日,全球网络安全行业盛会RSA Conference在旧金山隆重开幕。今年RSAC 的主题是 “Stronger Together(和衷共济,无懈可击)”,议程包含:2023主要安全风险、数据分类及其重要性、混合世界的现代数据保护等主题演讲。来自全球的500多家网络安全厂商汇聚于此,围绕25个主题深度展开探讨,从经济形式、法律法规、安全技术等多个维度探讨网络安全产业的发展趋势与新机遇。
在这里插入图片描述

RSA Conference 2023

本次大会最热的议题有哪些?天空卫士合伙人、高级技术总监杨明非亲临现场,从数据安全的角度为大家发来“报道”。

在今年RSAC开幕主题演讲里,被频繁提及的几个热词有:

AI、ChatGPT、

Machine Learning

内容集中在如何使用AI辅助下一代安全技术。在各个行业、应用中AI被大量使用,风险与机遇并存,因为初期不完善的AI系统可能会存在更多的安全风险。

要说2023年最火热的领域,必然是以ChatGPT为代表的生成式人工智能。将网络安全和人工智能相结合,也一直是行业期望的目标。但是“风光无限”中也蕴含着重重危机。

三星公司的泄密事件发生

在这里插入图片描述

今年发生的三星公司的泄密事件,在三星半导体部门开始允许工程师使用ChatGPT后不久,工作人员至少三次向ChatGPT泄露秘密信息。据报道,一名员工要求聊天机器人检查敏感的数据库源代码是否有错误,另一名员工要求代码优化,第三名员工将录制的会议输入 ChatGPT 并要求其生成会议记录。

由此可以看到,人工智能的应用,在业务增强的同时,安全尤其是数据安全将会逐步成为导致数字化“高楼”轰然倒塌的触发点。根据Gartner的报告,每5个企业中就有2个企业存在AI的安全问题或者隐私泄露,其中1/4是恶意攻击导致。因此,AI的安全形势不容忽视, AI带来的数据类型与数据价值增加的同时,产生的问题也是企业需要高度关注的部分。

如何让AI的使用更安全?

在这里插入图片描述

在AI的应用过程中同样存在大量的用户端风险。我们如何让AI的使用更安全呢?对于安全行业而言,一方面需要利用人工智能来增强安全的防护能力,另一方面还需要对人工智能的应用提供安全保护。不再是对传统安全中的入侵、病毒、木马等的防护,而是更高级别的算法与算法的对抗,数据与数据的对抗,同时,还有人的恶意攻击、疏忽参杂在其中,这都将导致人工智能的安全问题变得更为复杂。

天空卫士“以人为本“的数据安全体系围绕整个AI系统,对训练样本、学习样本以及业务数据等出入AI平台的数据进行多层次的安全核查,包括病毒、文件格式、文件内容等,实现多层次立体安全防护。同时对系统管理员、数据分析师等终端提供数据安全保护,通过平台统一管理模型为AI系统提供全方位的数据保护。在三星的案例中,我们可以植入天空卫士数据安全体系,对员工的失误进行有效的阻止和报警,有效阻断使用AI系统时的泄密风险。

新的人工智能时代已真正到来,但如同每一次技术变革,新的AI应用场景也带来新的数据隐私安全挑战。ChatGPT 2个月用户破亿成为现象级应用后,商业机密泄密与用户隐私数据跨境、出境与合规问题,迅速引起广泛关注。国家监管层面,4月11日,国家网信办正式发布《生成式人工智能服务管理办法(征求意见稿)》,明确强调 “通过提供可编程接口等方式支持他人自行生成文本、图像、声音等,承担该产品生成内容生产者的责任;涉及个人信息的,承担个人信息处理者的法定责任,履行个人信息保护义务。”

数据安全技术应该适应技术迭代,与时俱进,新的AI应用更需要新一代基于AI的技术体系解决数据安全问题,让新技术能够促进而非阻碍业务发展。天空卫士ITP内部威胁防护体系,基于大数据及人工智能技术对各类数据与行为进行分析,将异常用户风险评分结果与统一内容安全策略集成联动,实现实时风险控制和精准的策略控制,将数据安全保护能力的边界从传统IT扩展到新型AI等业务应用数据,达到动态自适应调整数据安全。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值