文章目录
前言
美国乔治城大学安全与新兴技术中心近日撰文分析人工智能对网络攻防的影响并提出政策建议。
文章称,人工智能近期的快速发展可能会显著改变网络操作的格局,为网络安全创造机遇和风险;网络攻防双方均已寻找新的人工智能工具、技术和程序来增强其活动,预计攻击面本身会发生变化,而人工智能系统和在上述系统上开发的应用程序也将受到网络攻击;人工智能很可能会改变网络空间中可利用目标的分布,与其分析人工智能可能对网络攻防的增强,不如将重点放在行为者可能应用人工智能的任务上;此项工作既是技术问题也是政策问题,人工智能增强技术是一把“双刃剑”,具体取决于影响个人、公司和政府如何整合人工智能的各种地缘政治和经济激励措施以及其所面临的预先存在的限制;政策制定者和从业者应该将重点放在识别特定情况下特别脆弱的目标,而不是试图对人工智能是否有利于网络攻击或防御进行净评估。
一、文章主要思想
文章认为,大语言模型有可能扩大模糊测试技术的规模,并使某些类型的漏洞的发现更加全面;人工智能突破是否有益于网络攻击或防御取决于具体情境,漏洞发现的潜在飞跃最终是否有利于网络攻击或防御取决于所发现的漏洞被利用与修补的速度;防御者能够在多大程度上利用人工智能支持的漏洞发现和修补的好处,还取决于政策制定者如何影响私营企业在设计和部署软件时考虑到安全性的经济激励;由于技术突破与经济和政治激励和约束相互作用,通过人工智能扩大漏洞发现等场景是否有助于网络攻击或防御尚不清楚,最有可能的是将改变现在或