网络犯罪分子正在为人工智能创造阴暗面

目录

我们现在看到什么趋势?

预计增长的未来趋势

---

过去几个月网络犯罪发生了一些重大变化.

由于人工智能的进步，网络犯罪分子比以往任何时候都更容易、更有效地侵入系统

毫无疑问， 人工智能（AI) 为许多企业带来了巨大的好处。 在过去十年中，人工智能和机器学习 (ML) 的采用显着增加，使许多组织能够成功利用这些技术并将其实施到业务实践中，从而简化流程并提高生产力.

如今，几乎每个行业的企业都在寻找机会将人工智能纳入其运营支持。 然而，与任何行业一样，人工智能的进步也带来了 该技术的阴暗面.

据网络安全公司称 蓝航, 过去几个月，网络犯罪形势发生了一些重大变化。 该公司报告称，攻击者正在继续使用 日益复杂的技术 编写恶意代码和极具说服力的网络钓鱼电子邮件. 

我们现在看到什么趋势?

巴拉兹·森德斯, BlueVoyant 中欧和东欧经理利用该公司威胁情报团队的调查结果来揭示我们在人工智能和网络犯罪中看到的趋势.

AI工具密码出售

聊天GPT 登录变得很有价值。 它们在暗网上出售，就像其他在线服务的密码一样。 网络犯罪分子通常使用信息盗窃软件从未受保护的设备窃取登录凭据和敏感数据，因为该软件可以轻松部署，特别是在用户使用较旧的操作系统或禁用自动保护的情况下。 许多用户使用公司电子邮件地址注册 OpenAI，由于其敏感性，此类访问数据在暗网上的出售价格略高于与私人电子邮件地址相关的数据.

WormGPT 和其他开源工具 

虽然 ChatGPT 的设计目的是防止其用于非法活动，但当然也有一些人工智能工具可以在没有此类限制的情况下运行。 其中一个例子是 WormGPT，这是一项开发人员旨在帮助网络安全专业人员测试该工具生成的恶意软件的服务，并增强他们防御威胁的能力. 

尽管该网站包含创建者的警告，表明该工具不得用于犯罪目的，但事实仍然是它可能被滥用于非法活动。 BlueVoyant 的威胁情报观察到，WormGPT 的变种已经开发出来，可用于恶意目的，并可通过暗网订阅获得。 该变体能够以多种编程语言生成代码，可以从毫无戒心的用户设备中窃取 cookie 和其他有价值的数据. 

除此之外，WormGPT 还可以用作支持网络钓鱼活动的工具。 攻击者可以使用复杂的语言和措辞编写极具说服力的消息，从而使欺诈性电子邮件的识别变得更加困难。 此外，它还可用于识别合法服务，然后将其用于非法目的，例如用于大规模网络钓鱼活动的短信服务.

预计增长的未来趋势

BlueVoyant 的威胁情报表明，在不久的将来，随着人工智能的不断发展，网络空间可能会出现其他趋势。 网络犯罪分子可能利用这些新技术来创建人工智能增强型恶意软件，使他们能够自主窃取敏感数据并逃避防病毒软件. 

此外，人工智能有望帮助网络犯罪分子伪造文件，这意味着文件验证变得越来越重要。 先进的人工智能工具有助于伪造文件，使其更容易通过在线过滤器，从而使欺诈性银行账户创建和洗钱等非法活动成为可能.

展望未来，一个常见的担忧是人工智能在各个行业的采用导致工作岗位被淘汰。 然而，在网络犯罪领域，BlueVoyant 的专家指出，这种担忧尚未成为现实。 相反，IT 技能的短缺已经蔓延开来，这实际上导致了对受过良好培训并了解生成人工智能 (GenAI) 的个人的巨大需求，不幸的是，其中一些人正在将他们的专业知识应用于非法活动. 

随着世界各地的组织不断将人工智能工具集成并采用到日常业务实践中，人工智能的“黑暗面”也正在经历活动激增。 安全团队需要为即将到来的人工智能驱动的网络威胁做好准备，但与此同时，这些威胁同时增加了对网络安全专业人员的需求，从长远来看，这最终将有利于商业环境.