全文共3032字,预计学习时长6分钟
图片来源:弗雷德里克·J·布朗/AFP/Getty Images
想象一下:当人们走进一家购物商场时,脑内就被植入上千个极微小的电极。仅凭手机app就能实现移植,且速度快、效率高,如进行镭射视力矫正手术一般。
上述类似科幻小说里的场景距离实现又更近一步。最近,埃隆·马斯克所创立的Neuralink公司称其将于几年内实现包括电极移植在内的多项技术。
Neuralink研发的大脑机器界面技术令人眼前一亮。马斯克招揽不同行业的人才以加快技术创新,成果相当显著。然而,包括神经连接在内的技术公司太过关注无线读写大脑机器界面的可观前景,由此忽视了本应关注的技术伦理。
神经技术伦理
笔者在2008年出版的《来自未来的电影》一书中介绍了当时大众所了解的由马斯克创造的神经花边。“神经花边”一词来源于伊恩·M·班克斯(Iain M. Banks)的科幻小说,指的是一种未来大脑计算机界面。然而,随着人类离这一幻想更近一步,笔者开始思考神经连接将涉及的潜在风险及伦理问题。
尽管人类仍在探索身体各个部位于人本身有多重要,但无疑大脑会最终决定人类的一切。人类的自我与身份意识都来自于大脑;大脑还负责接收和处理数据,蕴藏人类的智力、理性以及深刻的情感和志向。
这也是伦理在神经技术发展中至关重要的一个原因。同时,技术发展需要承担更为复杂的社会性风险。若一项新技术可能改变集体行为、扰乱社会常态或破坏既有价值观,那么围绕着“能够”与“应该”的定义,将会浮现出更广泛的伦理问题。
截至目前,以上问题大多都还是纸上谈兵。基础性神经技术存在已久,包括耳蜗移植、深度大脑模拟及其他更为复杂的大脑连接计算机界面技术。也正因其基础性,关于此类技术发展与使用的伦理讨论才得以实现。
然而,随着神经连接底层技术的启动及研究论文的发表,与之相关的更深层的伦理问题也亟需关注。
让更多可能出现
Neuralink技术的可行性使其先进成果有着潜在且巨大的破坏力。这并非烟雾弹,该公司正在研发的技术有着坚实的科学与工程基础。尽管目前最前沿的技术仅能将有限的原始电极植入大脑关键部位,神经连接却另辟蹊径,它正在研发一种集合式方案,即将数以万计的超细密灵活读写电极精准植入人脑。移植将由前沿高精准性机器人完成,而人们可以通过手机app端无线控制电极,以对抗神经紊乱。
然而,若要在发展前沿技术的同时兼顾并解决伦理和社会责任的问题,上述想象助益甚少。
这还只是对该技术管中一窥。Neuralink计划利用已研发出的平台增强大脑机能。仅需手术数小时,将人造处理装置植入大脑即可。该公司当前的研发进展显示,这一技术可行性尚微。
然而,正如已逝的斯坦·李(Stan·Lee)所观察的,强技术与大机遇总是相伴而生。因此,神经连接等技术公司需要进行批判性思考,包括如何以负责的态度、符合伦理的方式进行创新。
图片来源:https://unsplash.com/@alinnnaaaa
伦理挑战
无一例外,在论及先进技术(如大脑计算机界面)发展中应如何兼顾伦理问题时,各种分析都如隔靴搔痒。人们都能想到,大脑连接计算机界面这项技术可能导致心理损害或带来人脑入侵、思维入侵等风险。同时,人们也能很快想象出一个反乌托邦式的未来,由于人类牺牲自主权以换取神经花边的便利,社会行为将为机器所控制。
然而,若要在发展前沿技术的同时兼顾伦理保障、解决社会责任的问题,上述想象助益鲜少。相反,除了将潜在威胁感官化或虚构化之外,人们还需要迫切思考更为实际的问题,及解决这些问题的措施。就神经连接而言,这意味着要关注三个方面。
生理影响
首先,向大脑移植电极存在短期和长期影响。保障移植过程的安全性非同小可。但对于此,笔者相信监管者、研究人员以及技术研发人员有能力识别并对抗相关问题。本人在新型材料(如纳米粒子)的健康风险领域有多年工作经验,因此十分尊重Neuralink中竭力保障神经医学装置安全性的科学家及管理者。但同时,他们也需要包容新的想法。
心里及行为影响
第二点涉及到潜在的心理及行为影响,更为复杂。若技术应用于医学,便需要权衡神经界面的益处与其对个体精神状态及行为的影响。但随着技术的发展日渐完善,潜在的行为及情绪变化需要得到更多关注。
比如,若人们开始使用此类装置,他们是否有可能出现性格变化、上瘾症状或患上慢性心理疾病呢?从这方面讲,技术的广泛使用与心理疾病产生的时间差会使问题更加复杂。如若大众尚不知技术附带的长期心理影响便对其产生依赖性,那么事情就麻烦了。
技术的伦理关切及其可能导致的广泛社会影响还有第三个方面。
当下Neuralink正致力于将技术应用于医疗领域,其长期目标是为人脑创造一个人造网络-连接层,以便用户可与未来智能机器结合。这是一个革命性的远大目标。也正因如此,社会需要更加关注技术伦理及责任,这样才可能使技术朝正确的方向发展。
比方说,若在未来某人为了增强智力或仅供娱乐而装置了Neuralink的电极植入,移植装置的所有权归属于谁?而谁又能够获取他/她脑中的数据及装置功能呢?基于现有法律,所有人绝不是他/她。
图片来源:https://unsplash.com/@tobiasc
这看起来可能没什么大问题,然而一旦技术公司用关闭装置为由威胁人们付费更新时,或人们因拒不更新极易遭受黑客攻击的时候,事情就不那么好办了。技术公司同时还有权决定谁能获取大脑信号及谁能在脑中写入数据。在未来,这一幕极有可能发生:人们被迫按时更新脑中硬件,因此思想也被改变。
Neuralink的神经写入技术会引发一系列问题。这项技术的医学应用将十分重要。然而,不难想象人们会用其增强脑力——如增强认知能力、敏捷思维、感知能力、情绪控制甚至性格。
想象一下:简单地操作手机app就能增强思维能力、记忆力或改变情绪。人们可以将神经连接的技术置入游戏系统,用户就能真实地体验并看到游戏动作。同时,神经植入还可增强电影中角色的情感表现。
这些技术在不久的未来就将实现,但它们仍有着不利的一面。那些广告可能会引发情绪反应、新闻会操纵人的想法、应用程序会让他人的短短几句话影响你。除此之外,手机被盗或入侵又会有新的风险。
目前我们正进入纯推测的领域。公正地讲,马斯克已表明他不同意进行反人类的神经移植操作。然而,随着技术日臻成熟,若神经连接要在兼顾伦理及责任的同时进行创新,那么这些可能性都要考虑到。
假设上述提到的消极影响都不发生,那么仍要考虑技术使用权的问题。若大脑-计算机界面技术果真能极大地增强个人能力,人们是否会陷入这样一个两极社会:一些人工作更优、薪资更高、生活质量更好,因此拥有技术使用权;而另一部分人过于贫穷,因此就不配使用前沿技术呢?
这并不是一个无意义的问题。社会分化已然存在,享受技术便利的人已经拉开了与边缘化群体的差距。神经移植技术很有可能进一步扩大这个差距。
负责任地创新
如果不尽早解决这些伦理问题,会有两种后果:一是大脑-计算机连接界面技术带来的麻烦比便利多,二是Neuralink由于未承担其社会伦理责任而逐渐萧条。
但好消息是,Neuralink尚有机会制定坚实的伦理责任发展战略,因此每个人都能完全享受技术便利。目前有许多相关资源——风险创新加速器就是其中之一,它也是笔者风险创新实验室中的一部分。然而,如果不开展广泛、深刻、信息量大的讨论,未来可能并非是马斯克所描绘的美好蓝图。
留言 点赞 发个朋友圈
我们一起分享AI学习与发展的干货
编译组:张雨姝、徐粲
相关链接:
https://onezero.medium.com/neuralinks-technology-is-impressive-is-it-ethical-812afb38b19e
如需转载,请后台留言,遵守转载规范
推荐文章阅读
长按识别二维码可添加关注
读芯君爱你