前言
近期ChatGPT火遍全球,AI技术被应用到了全球各行各业当中,国内外各大厂商也开始推出自己的ChatGPT,笔者所在公司在前段时间也推出了自研的安全GPT,AI技术在网络安全行业得到了很多的应用,不管是网络安全研究人员、安全厂商还是黑客组织都开始研究和使用AI技术,通过AI技术降低防御成本和攻击成本。
笔者最开始研究AI在网络安全一些场景的应用是在2017年的时候,当时AI技术最主要的应用就是利用AI进行WEB安全相关的检测以及利用AI进行恶意软件的分类、利用AI技术进行安全数据的分析等,笔者趁机也了解学习了一下相关的AI技术以及涉及到的一些AI算法,当时笔者学习的资源库:
https://github.com/wtsxDev/Machine-Learning-for-Cyber-Security
前些年,AI技术在安全领域的应用更多是用于一些安全威胁的检测,随着AI技术的发展,LLM模型的成熟,AI技术不仅仅用于安全检测,还可以应用到安全攻防方面,它拥有了与人“对话”的能力,不管是攻击者,还是防御者都可以与AI进行简单的“对话”,实现一些简单的自动化工作。
前不久国外某安全厂商使用AI技术生成了一种多态恶意软件PoC,表明可以利用大型语言模型(LLM)即时合成多态键盘记录器功能,从而可以逃避AV/EDR等安全产品的检测,该PoC多态恶意软件利用大型语言模型即时合成多态键盘记录器功能,在运行时动态修改良性代码,并且无需任何命令和控制基础设施来交付或验证恶意键盘记录器功能。
先给大家普及一下免杀相关的基础知识点,免杀主要分为两个层面:样本层免杀、流量层免杀,样本层免杀,又分为两个层面:静态免杀、动态免杀,流量层免杀,又分为两个层面:通信流量免杀、基础设施免杀,如下所示:
上面仅仅是简单普及一下相关知识点,免杀技术的研究是一个很复杂的专题,也是高端黑客组织研究的重点,免杀恶意软件是高端黑客组织最重要的攻击武器,普通的免杀能坚持一到两周就很不错了,高端的免杀可以坚持半年或一年以上,更高极的免杀可以持续几年,甚至十年以上不被发现,基于供应链的免杀技术是最难发现的一种免杀技术,免杀对抗技术是安全对抗的核心技术之一,需要攻击者在样本层面和网络流量层面都能做到深度的隐藏,才能在更长的时间里逃避全球安全厂商的检测和追踪。
近日卡巴斯基在使用卡巴斯基统一监控和分析平台(KUMA)监控其企业Wi-Fi网络的网络流量时,发现了一个新的移动APT活动,经过进一步分析,该公司研究人员发现攻击者一直针对数十名公司的员工的iOS设备进行攻击,随后俄罗斯政府指责苹果公司与美国国家安全局NSA进行勾结,攻击了与俄罗斯用户相连的数千部iPhone以及外国驻幕斯科大使馆内的一些设备,因为卡巴斯基的详细攻击报告和攻击样本都暂时没有发布,笔者就不作过多分析了,坐等后续详细分析报告了。
没有绝对的安全,现在使用的各种各样的IT设备、应用软件和操作系统里面究竟有没有隐藏后门,其实是未知的,你的企业有没有被攻陷,也是未知的,但可以肯定的是全球高端的APT黑客组织一直没有闲着,网络攻击行为时刻在发生。
AI多态恶意软件
让我们来详细分析一下国外安全厂商发布的基于AI的多态免杀恶意软件PoC。
动态行为免杀,需要使用Transformer模型合成代码,首先要在源代码示例的大型数据集上训练该模型,训练完成之后,可以根据提示或输入代码生成新代码,运行时通过连接OpenAI的API接口,返回窃取受感染用户按键的恶意代码,然后再使用Python的exec()函数执行动态生成的代码,生成多态恶意代码保留在内存中执行。
每次执行时,它都会重新返回生成新的恶意代码,然后在内存中执行,从而实现多态变形。
基于OpenAI生成恶意代码,如下所示:
利用Pytho