人工智能与网络安全

---

前言

作为当前第四次工业革命的核心技术，人工智能相关科技在近年来的迅猛发展深刻改变了人类生产生活方式。在数字时代算力提升、算法革命和大数据技术的助推下，人工智能走出了21世纪初期的所谓“研发寒冬”。2023年年底至2024年年初，美国“开放人工智能研究中心”（OpenAI）先后发布语言模型GPT-4与文本转视频模型Sora，标志着人工智能技术再度进入新一轮技术突破期。人工智能兼具自主性和不可知性等特质，其具体应用的方法、路径与意图逐渐成为左右国家安全和国际和平的重要变量。在该过程中，人工智能的潜在风险与机遇相行并生，并随着该技术向人类生活各领域的渗透扩散而日趋激化，为诸多“旧议题”注入了“新风险”。其中，网络空间是人工智能风险扩散的主要区域，而人工智能技术的武器化也为网络安全的进一步转型与改革提供了契机。

---

一、人工智能时代的网络威胁与风险

国家在网络空间的威胁既源自综合实力、地理毗邻性、进攻实力和进攻意图等传统因素，同时也来自网络空间天然复杂性、匿名性、模糊性以及科技持续发展带来的不安全感。在过去二十余年的网络冲突时代中，主权国家、恐怖组织、犯罪分子与黑客等行为体充分利用网络空间的开放性、瞬时性和匿名性等特质，借助勒索软件（ransomware）、网络钓鱼（phishing）、分布式拒绝服务攻击（DDoS）以及高级持续性威胁（adavanced persistent threats）等方式追求预期目标，谋求各类利益。其中，相关威胁主要集中在物理层面的关键基础设施、传输层面的关键数据以及内容层面的信息等三个层次。相比现实领域，网络空间行动成本较低、收益较高，且不易受到约束与报复。这种现实决定了网络攻击成为行为体在网络空间中一种常态化的互动形式，进而带来持续的现实性威胁与潜在风险。

在现代化进程中，新兴技术的出现不仅能够带来新的风险，同时也能令现存风险变得更为复杂。人工智能技术在当下的迅速发展与成熟同样产生了上述效果，给本已动荡的全球网络安全态势注入了不确定性和复杂性（参见表1）。

恶意行为体针对关键基础设施的进攻门槛将随人工智能技术的成熟而持续降低；更加脆弱的工业控制系统将带来潜在的社会风险。在由人力资源主导的网络空间博弈时代，行为体若是预期通过进攻关键基础设施取得战略效果，则需要高昂的资源投入、相对精密的前期部署以及系统性的政治权衡；一般而言，仅有极少数国家具有相对应的能力。针对“震网”攻击事件的研究显示，此类武器及行动的复杂性掩盖了网络空间天然的“进攻者优势”，削弱了行动所获得的边界收益。美国国家安全局（National Security Agency, NSA）原网络安全主任罗布·乔伊斯ÿ