作者:零零实验室(00SEC) 王宇
1、前言
在十四五规划中,人工智能和脑科学被列为国家战略科技力量。神经工程学和脑机接口技术的快速发展为人类的健康和强化带来了巨大的价值以及未来的想象空间。
作为信息安全从业人员,我们同时也看到了该技术所带来的信息安全隐患。早在2013年,著名黑客巴纳比·杰克就实现了在15米范围内远程入侵心脏起搏器释放830V电压,可瞬间使人致死。心脏起搏器仅是一个常见的人体植入式治疗仪,而神经工程设备则包括更广泛的对于人脑、全身神经、计算机、假体、延伸设备等进行检测、控制和交互的众多设备。如果它们存在安全隐患,被黑客进行恶意利用,将带来极大的人体和社会危害。
我们期待着神经工程学和脑机接口技术的高速发展,同时也希望它们能健康和安全,不会因为信息安全问题受阻。所以零零实验室(00SEC)开始了对于该领域的信息安全研究工作。我们是传统信息安全领域的攻防专家,但在进行神经工程学信息安全研究时发现,目前无论国内外,都没有一个相对完整的研究方向全景图,这曾经给我们带来了一些困扰。我们尝试着将该领域按照信息安全关注点进行分类,现在将分类导图进行分享,以供更多的白帽子们能够更快速的切入研究主题。
神经工程学和脑机接口技术领域藏龙卧虎,这篇文章仅是站在信息安全的视角,同时我们非常谦卑的表示,我们仅是该领域的初入者,目的是尽我们所能避免让该领域受到黑客威胁。在本文中出现的任何错误和不妥,请不吝指正。联系邮箱:wangyu@00sec.com,来信必复。
2、总览
我们将神经工程学从场景化进行了三大分类:神经检测、信号采集与反馈技术;神经调控领域;神经假体领域。这并不是该学科领域的学术化分类,但我们认为这样能更高效的进行信息安全威胁和防御手段的研究。
3、神经检测、信号采集与反馈技术
将该部分单独提取出来,是因为该部分是最成熟,也是应用最为广泛的。尤其是基于EEG的意念打字、意念机械装置控制、意念游戏、人体功能恢复,甚至是在军事、科研等领域都在广泛研究和应用。
各种形态的脑电帽,尤其是未来更便携和轻便的设备,已经逐渐采用了无线连接的方式(蓝牙、5G或WIFI),那么无线设备的传输、认证、授权、抗电磁干扰等安全问题都应考虑在内。
脑电波在进行采集、解码、分析以及人机交互训练时,经常会使用机器学习,这方面可能出现对抗性干扰、数据污染等安全问题。该方面华中科技大学的伍冬睿教授团队已经在基于EEG的P300和SSVEP BCI拼写器攻击发表了研究成果,通过在训练样本中加入少量的污染样本创建“后门”。
目前大部分信号处理、分析和控制设备使用的是电脑,近年也已经有一部分使用APP,并且已经有部分产品进行了联网和云端数据传输和存储。非侵入式脑机接口获取的数据是生物信息(人的喜怒哀乐,甚至是更深层的思想数据),数据的隐私和授权,以及在云管端的数据存储、传输、加密安全,承载数据的IT设备的安全性,都是潜在的安全隐患点。这些方面应该按照国家等级保护2.0的安全要求点进行安全研究和安全控制。
CT、磁共振、光学成像、MEG等,由于目前仅用于临床检测,环境比较封闭,安全性相对更容易控制,主要在服务器和数据存储及传输方面,更趋近传统信息安全领域。
侵入式脑机接口方面在场景应用中与神经调控和神经假体关联较深,在下面的章节再做详细分类和讨论。
4、神经调控信息安全
神经调控领域的信息安全场景主要分为植入式和非植入式两部分。
目前非植入式设备几乎都是单机设备或处于相对封闭的使用环境,该部分的安全性相对比较容易控制,不做更多描述。
植入式设备一方面单场景设备较多,另一方面设备与人脑或神经可能存在直接的互动(即有些设备会对人脑进行“写”操作),信息安全方面需要有更多和更深入的考虑。
埃隆·马斯克的Neuralink公司在今年发布的硬币大小的脑机接口设备和植入微创机器人,为侵入式脑机接口技术实用化又向前推进了一步。
植入人体的部分可能是一个整体,也可能分成直接连接电极和其他集成设备两部分。它们无论是什么形式,一般都包括电极、信号处理器、供能装置、通信单元、脉冲发生器等(依据不同种类的设备,包含的功能单元会有增减)。
体外部分一般包括程控仪、控制器等用于监控和简单操作,按照实际需要也可能会有解码、分析和执行更复杂指令和操作的计算机。目前尚未听说该部分使用APP,但是随着科技的发展和成熟,也许将来APP也会是一个趋势(开个玩笑,如果在脑子里插根电极,手机上可以进行放电控制刺激自己的大脑也挺“酷”的,也许未来超级士兵真的需要也说不准)。
按照以上场景来说,首要解决的就是抗电磁干扰及芯片安全问题,其次植入部分与非植入部分的认证、授权、数据传输安全问题,都是需要考虑的。相比非侵入式脑机设备,侵入式脑机设备可以更准确的获取生物信息,甚至可以对生物体进行“写”操作,所以对设备的隐私、授权就更加重要。
另外,植入式设备的每一个单点,包括植入体、程控设备、计算机等,都是可以通过信息手段访问到的实体,随着5G技术的发展,每个单点的通讯接口都有可能成为黑客攻击的目标,传统信息安全领域中的认证安全、协议安全、甚至远程溢出等问题都有可能会出现。
对信息和数据进行处理和操作的IT层面安全,本图也已标注,并在上一章节已进行提及,这里就不再累述。
5、神经假体信息安全
神经假体领域中目前比较成熟的应用在视觉、听觉神经假体,以及人造内脏假体领域。灵巧假肢、机械外骨骼、外肢体机器人方面尚未进入到成熟市场中,记忆存储假体则仍处于实验室研究阶段。
视觉和听觉假体的外部设备主要包括图像、声音的拾取设备、解码设备、与植入体的通讯设备等,植入体部分主要为接收信号并对相应神经进行电刺激。
人造内脏的植入部分主要包括机械部分、通信单元、供能电源、控制芯片等,以及体外的程控仪。另外需要特别指出的是,2013年黑客巴纳比·杰克实现的既是对该类设备的攻击。
灵巧假肢、机械外骨骼、外肢体机器人,目前已经有国内外高科技机器人公司、生物公司、脑机公司进行设计开发,已经有部分实验和演示产品发布,相信不久的将来它们就会帮助残障人士恢复部分受损肢体机能。在该技术成熟以后,相信《钢铁侠》、《战斗天使阿丽塔》中的场景也不再是幻想。
中枢神经假体所涉及到的领域更多的是对脑神经的读写和操作。对于记忆的存储、删除和改写,将会对人类演进带来巨大的飞跃。目前北大孙浩杰博士团队已实现对大鼠记忆进行精准删除。
该领域的安全性仍然需要从植入假体、外部控制设备、IT设备等方面进行考虑,在本图中进行了列举,并且在以上两个章节中对相似内容进行了描述,在此不再累述。
值得注意的是,神经假体领域更多的涉及到机械和电气组成部分,机械和电气部分均由众多个体单元构成,甚至可能含有植入式或外部复杂计算控制单元,由于每个单元都可能是可以通过信息手段访问到的实体,都可能成为黑客的攻击点,所以依据不同的场景和设备,也需要考虑更多的通讯单元和接口所带来的安全威胁。