CSDN资讯

近日，人工智能应用DeepSeek横空出世，引发全球科技圈高度关注。本次发布的安星智能体“DeepSeek版”将Deepseek的MOE模型结构与启明星辰的多专家模型动态加载专利技术相结合，不仅提高了推理速度，还有效降低了对智算硬件的算力要求，进一步完善了基础模型、安全应用、底层硬件全面自主可控的安全运营体系。未来，随着基础大模型能力的不断提升，启明星辰将持续升级安星智能体应用能力，扩展AI+安全应用场景，为广大用户提供更加智能、便捷、高效的安全产品和服务，为打造清朗的网络空间贡献力量。

此外，骗子紧跟技术潮流，利用市场的兴奋情绪，还推出了所谓“DeepSeek 加持”的各种高大上功能的空气币（无实质价值的虚拟货币），甚至出现宣称可以购买DeepSeek内部原始股的网站。此外，这些仿冒DeepSeek的域名中有60%解析IP位于美国,其余主要分布在新加坡、德国、立陶宛、俄罗斯和中国，仿冒域名所呈现出的全球化特点，意味着用户可能面临来自世界各地不同类型的网络攻击，潜在安全威胁更加复杂多样。这类模仿现象，有的可能只是出于商业目的，想借助 DeepSeek 的热度售卖有前途的域名或者吸引用户；

蚂蚁数科依托旗下天玑实验室，业界首次构建了大规模、高质量、多模态的 Deepfake 数据集，其合成超过百万级多媒体内容，充分地模拟了真实世界金融风控环境中的Deepfake攻击样本，成为评测现有金融领域Deepfake检测模型性能的重要标准。鉴于此，开发针对Deepfake攻击的检测系统在金融领域是十分必要的，但是强大的Deepfake检测防御模型需要高质量符合真实世界环境的人脸Deepfake数据集，所以如何构建模拟真实世界的数据集以及如何验证其有效性是紧迫的问题。

在防御赛道中，我们利用数据脱敏与合成技术，对包含PII的语料进行随机替换，之后以自回归的方式微调目标模型，可以扰乱大模型对PII信息的记忆，降低其输出正确PII的可能，防止隐私数据泄漏。蚂蚁数科摩斯结合比赛同款方案，研发了大模型隐私保护产品，该产品融合数据脱敏、拆分学习、模型混淆、差分隐私、TEE等多种技术路线，实现大模型应用中模型微调、推理全链路的数据和模型隐私保护。蚂蚁数科摩斯技术负责人殷山表示，“摩斯将在大模型隐私保护方向，持续进行技术投入和落地探索，推进大模型在产业界发展。

在当下的 LLM时代，行业应用要做到安全可信，其核心是如何结合专业人工+AI算法的高效标注，产生高质量的标注数据。而面向未来的AGI时代，随着互联网公开数据逐步耗尽，以及GPT-o1带来的强化学习训练新范式，都预示着数据合成的重要性进一步提升。王维指出，如何通过仿真引擎、自博弈（self-play）强化学习的方式，合成出更多互联网所不覆盖的高质量、高价值领域数据，将是到达AGI时代的关键。两年前，大语言模型（LLM）的出现，引发了全球科技从业者的普遍关注和行业热潮。经过一段时间的狂奔，

密态计算技术综合利用密码学、可信硬件和系统安全技术的隐私保护计算技术，计算过程中数据“可用不可见”，计算结果保持密态化，以支持构建复杂组合计算，实现计算全链路安全保障，防止数据泄漏和滥用。数据价值释放的载体，是面向产业需求、种类丰富的数据产品。首先，在“低成本全链路密态保障”方面，杭州密算中心为数据在流通过程中提供明确级别、全链路安全保障，覆盖存储、计算、研发、治理和运营的数据全生命周期，包含数据资源密态存储、密态数据使用授权、数据产品密态研发、数据密态流通交易等功能，构建一体化数据要素可信流通体系。

近年来，业界中出现的“密态计算技术”体系的核心，就是来解决流通安全这一新挑战，提供跨域流通的全链路保障，大幅度降低行业风险，抵抗明文数据泄露或滥用而导致的后果。“我国数据产业近年来实现快速增长，2023年，产业规模已达2万亿元，”北京交通大学信息管理理论与技术研究中心特聘教授张向宏在外滩大会上表示，展望未来，预计2024年至2030年间，我国数据产业将保持20%以上的年均增长率，到2030年，产业规模有望达到7.5万亿元。未来，密算会成为数据可信流通的新算力，但在那之前，还有很多的工作要做，”韦韬表示。

中，启明星辰数据要素安全交易模式，构建数据交易“超市货架”，数据参与方可查看样例数据和元数据，采用不同的加工方式，例如对于低敏数据采用基于数据隔离的计算沙箱，对于中高敏感数据采用可信数据空间及隐私计算技术，最后对数据各个参与方进行全链路的审计，实现以合规为起点，挖掘数据价值，打造数字经济的良性循环。，旨在构建数据要素【分类流通、分级保护】的可信数据流通安全治理空间，推动安全能力覆盖数据供给、流通、使用全过程，全面赋能中国数字经济高质量发展。等技术提升数据价值，推动数据要素市场化流通。

相较于传统的智能助手产品，安星智能体在自主规划与任务执行的能力上实现了质的飞跃。面对日益复杂多变的网络威胁，安星智能体依托九天·泰合安全大模型的记忆、推理规划、工具调用能力，以及基于启明星辰积累多年的攻防知识库、检测工具调用、攻击自主调查和防御策略生成，能够大幅提高威胁检测、威胁分析和威胁防御的效能。在威胁检测层面，安星智能体利用大模型的环境感知、意图理解和工具调用能力，智能化调度各种检测工具和算法，大小模型协同应用，将AI能力融入到威胁检测与响应的每个环节，大幅提升威胁检测的应对能力和反应速度。

电子科技大学教授网络空间安全学院院长、蚂蚁天象安全实验室学术顾问张小松在会上充分肯定了本次产学研融合跨界的合作建设方向，并指出国家高度重视数据要素流通的法律保障，面对网络安全对抗博弈的永恒性和不断升级的威胁面，产业学界需要更好地探索多维度技术合作，化挑战为机遇，围绕信息“保密、完整、可用、可证”的初衷 ，利用AI技术赋能安全，加强主动网络安全模型中的漏洞挖掘、样本分析、追踪溯源和反制技术的研发，实现“用Al守护Al，用Al对抗Al“的体系化对抗防御能力的升级。、蚂蚁天象安全实验室学术顾问郑子彬表示，

国家电网从架构安全、网络安全、终端安全、行为安全、数据安全，以及AI安全等各方面做好技术防护，实现全网终端集中管控、闭环管理，确保终端接入、政企交互、公众服务、业务运营的安全性，同时加强数据采集、传输、交换、存储、处理、使用等全链条、全生命周期的安全管控和防护，确保业务的正常办理。作为具有全球影响力的网络安全大会，BCS大会（北京网络安全大会）已成功举办五届，先后有来自中、美、俄、日、以等全球30国，超2000位政要、行业领袖、网络安全专家出席并进行精彩分享。

蒋楠举例说，攻击者可能进行药饵攻击，即针对AI收集日常运营数据自我学习训练以检测出新的攻击这一特性，攻击者注入精心设计的数据样本（即药饵），使训练数据被污染，给AI“洗脑”，最终危及整个系统的正常功能。与会专家建议，AI时代的网络安全防护同样需要突破单点思维，推进体系建设。与会专家们呼吁，网络安全行业应建立体系化思维，不仅是在企业内部推广建立协同高效的安全体系，全行业也需要建立更多通用、互认、开源的标准规范和操作体系，实现产品互操作、数据共分享、安全同治理，提升全行业体系安全能力，真正助力数字经济发展。

进一步对于 AI 编程，企业的阶段和做法则各不相同，报告数据显示仅32%企业允许使用 AI 编写代码，50%仅可将 AI 编程用于研究目的，17%出于安全和合规考虑，企业组织不允许使用 AI/ML 来编写代码。报告里重要的内容非常多，其中重点分析了人工智能 (AI) 和机器学习 (ML) 将对企业引入新软件的内容、代码的编写方式以及软件应用程序的保护方式产生深远影响，例如报告数据显示，90% 受访者企业组织正在使用 AI/ML 应用来协助开展安全扫描或漏洞修复工作。手动检查代码还是主流！

培养一支高素质的数据安全人才队伍，可以有效提升国家的数据安全防护能力，为经济社会发展提供有力保障。

由于调试模块需要获取系统各个层面的信息，且要暴露给普通用户来操作验证，因此引入了诸多本地提权的攻击面。在某些特定场景下，攻击者可利用调试模块获取敏感信息，绕过权限控制执行敏感指令，甚至任意代码执行，造成本地提权。