AI生成虚假漏洞报告污染漏洞赏金平台

漏洞赏金计划遭遇AI伪造报告冲击

曾经因激励独立研究人员报告真实漏洞而备受赞誉的漏洞赏金计划，如今正面临AI生成虚假漏洞报告的重大挑战。这些伪造的漏洞报告在业内被称为"AI垃圾"，不仅浪费维护人员的时间，更令人担忧的是，有时甚至能获得实际的金钱奖励。

这种现象反映出一种日益增长的趋势：恶意行为者利用大语言模型（LLM）生成看似专业实则完全虚构的安全报告。这些AI生成的报告之所以构成特殊威胁，是因为它们初看往往显得真实可信，特别是对那些没有专职安全专家的组织而言。

AI伪造报告的特征分析

这些报告通常包含技术术语、安全概念引用，甚至提供修补建议——所有这些设计都是为了通过初步筛选流程。然而，当领域专家进行更仔细检查时，这些报告很快就会暴露出欺诈本质，因为它们描述的漏洞无法复现，引用的功能根本不存在。

Socket.dev研究人员指出，这一趋势对开源项目和资源不足的组织尤其不利，因为它们缺乏正确评估技术安全报告的内部专业知识。许多组织陷入两难境地：要么投入时间和资源彻底调查每份报告，要么干脆支付赏金以避免潜在安全风险和负面宣传。

典型案例：curl项目遭遇AI欺诈

近期一个备受关注的案例涉及curl项目，该项目通过HackerOne收到了一份欺诈性漏洞报告（编号H1#3125832）。curl团队发现该报告引用了不存在的功能并包含未经证实的修补建议后，将其标记为AI生成的垃圾报告。据调查，与@evilginx账户关联的攻击者曾对其他组织使用类似手法，在某些情况下成功获得了漏洞赏金。

安全研究员Harry Sintonen指出，curl作为一个技术含量高、专业知识深厚的开源项目，立即识破了这一骗局。"攻击者的算计大错特错，"Sintonen表示，"curl能轻易识别出AI生成的垃圾报告。"

AI伪造报告的典型特征

仔细研究这些伪造报告，可以发现几个明显的特征。这些报告通常通过引用听起来合理但实际上在代码库中并不存在的函数或方法，来维持表面的技术可信度。例如，在curl案例中，报告引用了一个名为"ngtcp2_http3_handle_priority_frame"的不存在函数。

当被质疑时，攻击者会辩称问题存在于特定的旧版本或新版本中，经常编造提交哈希值来延续欺骗。这些报告故意对复现步骤含糊其辞，使维护者无法验证所声称的漏洞。它们通常将合法的安全概念与虚构的实现细节相结合，构建出看似合理但经不起专家推敲的叙述。

开源社区面临资源压力

Python软件基金会驻场安全开发者Seth Larson证实，开源维护者越来越多的时间被用于审查这类AI生成的漏洞报告。"问题在于，在LLM时代，这些报告乍看之下似乎可能真实，因此需要时间进行反驳，"Larson解释道，这凸显了该现象如何给开源安全生态系统中本已有限的资源带来压力。