RSAC创新沙盒：网络安全投资者转向保护AI培训模型

 聚焦源代码安全，网罗国内外最新资讯！

编译：代码卫士

RSA 创新沙盒大赛冠军是小微企业 Hidden Layer。该公司以有望监控机器学习对抗性技术而获得“最具创新创业公司”的称号。由此可见网络安全行业的未来创新和炒作在于，行业创业公司将有望保护企业产品背后的人工智能机器学习模型。

HiddenLayer 获得冠军说明了创业生态系统中的一个转变，风投从炒作人工智能 (AI)/机器学习 (ML) 转为投资新企业以保护流进和流出AI 训练集的代码的安全。

HiddenLayer 公司的卖点是包括MLMDR（机器学习检测和响应）平台在内的一个未来，这些平台监控的是异常活动的机器学习算法的输入和输出，而这些异常活动与对抗性机器学习的攻击技术一致。HiddenLayer成立于2022年7月，已获得600万美元的融资。

RSA 创新沙盒意味着什么？

不管你如何看待 RSA 创新沙盒，它都是投资者和企业家的巨型临时演讲台，在这个舞台上，他们推销安全工具、提升销售管道并验证新的营销方式。

今年已是RSA大会举办的第18年，前十大创新沙盒决赛入围者共见证了75次收购并从孵化阶段开始获得超过125亿美元的投资。此前获胜的著名企业包括 Imperva、Phantom、SECURITI.ai、Apiiro 和 Talon Cyber Security等。

过去，从创新沙盒决赛选手和场地来看，投资者涌向对新型赛道如数据安全态势管理 (DSPM)、API安全、软件供应链安全和智能身份和访问管理等初创企业。

如今，HiddenLayer 供公司站在了聚光灯下，寻找着关于孵化和启动初创公司的资源，这些公司有望保护机器学习模型和训练集如 ChatGPT 和其它热门生成式的AI 聊天机器人的安全。

咨询行业巨头毕马威 (KPMG) 已经推出了一家由风投支持的初创公司，旨在构建保护 AI 应用和部署的安全，而它的驱动因素就是组织机构认为未来AI模型及其中的数据需要得到保护。

毕马威公司的员工 Cranium 指出，正在研究“一个端对端的 AI 安全和信任平台”，该平台能够映射AI管道、验证安全性并监控对抗性威胁。技术巨头如微软和谷歌也开始在AI/ML领域展开竞争。微软率先推出 Microsoft Security Copilot，它是一款由 ChatGPT 驱动的安全分析工具，能够自动化事件响应和威胁捕获任务。反恶意软件厂商 SentinelOne 也紧随其后，推出了基于AI的威胁捕获平台，谷歌也不甘其后，其VirusTotal 子公司推出了 生成式AI 特性重大更新。

除了AI 聊天机器人的安全用例外，生成式AI 技术的快速应用无疑会刺激厂商在帮助满足合规和监管要求方面的创新。

投资者见证着处处是收益的形势。今年创新沙盒大赛中就有风投作为裁判，而大赛结果也明确给出了网络安全创新领域后续的发展趋势。

代码卫士试用地址：https://codesafe.qianxin.com

开源卫士试用地址：https://oss.qianxin.com

---

推荐阅读

奇安信入选全球《软件成分分析全景图》代表厂商

应用安全主导RSAC 2023创新沙盒大赛十强

BCS2022系列活动直击RSAC 零时差解密2022创新沙盒冠军

RSAC2022| 从创新沙盒看网安技术创新趋势

原文链接

https://www.securityweek.com/innovation-sandbox-cybersecurity-investors-pivot-to-safeguarding-ai-training-models/

题图：Pexels License

本文由奇安信编译，不代表奇安信观点。转载请注明“转自奇安信代码卫士 https://codesafe.qianxin.com”。

奇安信代码卫士 (codesafe)

国内首个专注于软件开发安全的产品线。

    觉得不错，就点个 “在看” 或 "赞” 吧~