AI驱动的“黑匣子”可能使手术更安全

  每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！ 订阅：https://rengongzhineng.io/

当Teodor Grantcharov第一次坐下来观看自己做手术的视频时，他差点儿把VHS录像带扔出窗外。“我觉得我的表现非常棒，”Grantcharov说，然后停顿了一下，“直到我看到了视频。”回想起25年前那次手术，他记得自己解剖时的粗糙、使用的错误工具以及将30分钟的手术拖延至90分钟的低效操作。“我不想让任何人看到。”

这种反应并不罕见。手术室一直以其神秘性著称——手术室里发生的事情就留在手术室里——因为外科医生 notoriously 拒绝承认自己的错误。Grantcharov开玩笑说，当你问“世界上前三名外科医生是谁？”时，一个典型的外科医生“总是很难确定另外两个人是谁。”

然而，在最初的羞辱过后，Grantcharov开始看到了记录手术的价值。“有许多小细节通常需要多年甚至几十年的实践才能意识到，有些外科医生从未达到那个境界，”他说。“突然间，我一夜之间就看到了所有这些见解和机会。”

然而，这里有一个大问题：那是90年代，花几个小时回放模糊的VHS录像并不是一个现实的质量改进策略。要大规模确定他那些相对平凡的失误发生的频率——更不用说每年导致大约2.2万美国人死亡的更严重的医疗错误了——几乎是不可能的。许多这些错误发生在手术台上，从将手术海绵遗留在患者体内到进行错误的手术。

尽管患者安全运动推动了统一的清单和其他手动防故障措施来防止此类错误，但Grantcharov认为，“只要成功与失败之间的唯一屏障是人类，就会有错误。”提高安全性和手术效率成了他个人的执念。他希望通过开发一个正确的系统来创建和分析记录，使错误难以发生。

经过多年努力，现任斯坦福大学外科教授的Grantcharov相信他终于开发出了实现这一梦想的技术：手术室等效于飞机的黑匣子。它通过全景摄像机、麦克风和麻醉监视器记录手术室中的一切，然后使用人工智能帮助外科医生理解这些数据。

Grantcharov的公司Surgical Safety Technologies并不是唯一一家使用AI来分析手术的公司。许多医疗设备公司已经进入了这个领域，包括Medtronic的Touch Surgery平台、强生的C-SATS以及Intuitive Surgical的Case Insights。

然而，大多数这些技术仅关注患者体内发生的事情，仅捕捉术中视频。Grantcharov希望全面捕捉手术室的情况，从门被打开的次数到手术期间非手术相关的对话数量。“人们简化了手术，仅仅关注技术技能，”他说。“你需要全面研究手术室环境。”

技术的挑战与隐私问题

尽管技术已经就绪，但成功不仅仅是拥有正确的技术。记录一切的想法带来了许多关于隐私的棘手问题，并可能引发纪律处分和法律责任的威胁。由于这些担忧，一些外科医生拒绝在黑匣子设备在场时进行手术，有些系统甚至被破坏。此外，一些医院不知道如何处理这些新数据，或者如何避免淹没在大量统计数据中。

尽管如此，Grantcharov预测他的系统可以为手术室带来与黑匣子为航空业带来的相同变化。1970年，每百万次航班中有6.5次致命事故；今天，这一数字已降至不到0.5次。“航空业通过数据实现了从反应性到前瞻性的转变，”他说，“从安全到超安全。”

Grantcharov的黑匣子目前已在美国、加拿大和西欧的近40家机构部署，包括Mount Sinai、Duke和Mayo Clinic等。但这些医院是站在安全新纪元的边缘，还是在制造困惑和恐惧的环境？

消除手术室的秘密

手术室可能是医院里最被测量的地方，但也是最难以捕捉的地方之一。从团队表现到器械处理，有“很多大数据我们甚至没有记录下来，”范德比尔特大学医学中心的伦理学家和头颈外科医生Alexander Langerman说。“相反，我们依赖的是外科医生的事后回忆。”

实际上，当出现问题时，外科医生应在医院的每周发病和死亡会议上回顾病例，但这些错误往往未被报告。即使外科医生在患者的电子病历中输入了所需的笔记，“这无疑是——我这并不是恶意的——为了他们的最佳利益而做的，”Langerman说。“这让他们看起来很不错。”

手术室并不总是如此神秘。

在19世纪，手术经常在大型圆形剧场中进行，是公开的表演，有一般入场费用。腹部外科医生Lawson Tait在描述1860年代的一次手术时回忆道：“连上层画廊的每一个座位都满了，大概有七八百名观众。”

然而，到了20世纪初，手术室变得越来越小，公众——以及其带来的细菌——的接触也减少了。“立即就有一种感觉，觉得少了什么，少了公众的监督。你无法知道在那些小房间里发生了什么，”麦吉尔大学的医学史学家Thomas Schlich说。

而且几乎不可能回头。在1910年代，一位波士顿外科医生Ernest Codman提出了一种称为最终结果系统的监督形式，记录每次手术（包括失败、问题和错误）并追踪患者结果。Schlich说，马萨诸塞州总医院没有接受这一提议，Codman愤而辞职。

这种不透明性是20世纪医学职业化更大转变的一部分，特点是技术进步、全科医生的减少以及医疗机构的官僚化。所有这些都拉开了患者和医生之间的距离。同时，特别是从20世纪60年代起，医疗领域开始出现医疗事故诉讼的增加，这至少部分是由于患者在出问题时试图找到答案。

这种关于透明度的斗争理论上可以通过手术录像来解决。但Grantcharov很快意识到，让外科医生使用黑匣子的唯一方法是让他们感到受保护。为此，他设计了一个系统，可以记录动作，但隐藏患者和工作人员的身份，甚至在30天内删除所有录音。他的想法是，不应惩罚个人的错误。“我们想知道发生了什么，以及如何建立一个使这种情况难以发生的系统，”Grantcharov说。错误并不是因为“外科医生早上醒来想，‘我要制造一些灾难性事件，’”他补充道。“这是一个系统问题。”

全视角的AI

Grantcharov的手术室黑匣子实际上不是一个盒子，而是一台平板电脑，一个或两个天花板麦克风和最多四个壁装圆顶摄像机，据报道，每个手术室每天可以分析超过50万个数据点。“三天内，我们的视频处理量相当于整个Netflix目录，”他说。

黑匣子平台利用了多个计算机视觉模型，最终生成一系列短视频剪辑和统计数据仪表盘，如失血量、使用的器械以及发生的声音干扰次数。系统还识别并分解手术的关键环节（如解剖、切除和闭合），这样外科医生不需要观看整个三到四小时的录音，可以跳到手术中出血严重或手术订书机失火的部分。

关键是，录音中的每个人都被匿名化；一个算法会扭曲人们的声音并模糊他们的面孔，将他们变成阴影般的黑白人物。“对于这样的事情，隐私和保密性至关重要，”Grantcharov说，他声称匿名化过程是不可逆的。“即使你知道发生了什么，你也无法真正对个人使用它。”

另一个AI模型负责评估表现。目前，这主要通过衡量对手术安全检查清单的合规性来实现——这个问卷应该在每种手术操作中口头勾选完成。（这个清单长期以来与减少手术感染和总体死亡率相关联。）Grantcharov的团队目前正在努力训练更复杂的算法，以检测腹腔镜手术中的错误，如使用过大的器械力量、错误地持握器械或未能保持手术区域的清晰视野。然而，评估这些表现指标比衡量检查清单的合规性要困难得多。“有些事情是可以量化的，有些事情需要判断，”Grantcharov说。

每个模型的训练过程需要长达六个月，依赖于一支位于多伦多的12名分析员团队进行劳动密集型的过程。虽然许多通用AI模型可以通过标记日常物品（如椅子）的临时工进行训练，但外科手术模型需要由了解他们所见的人的数据注释——无论是外科医生在特定情况下，还是受过适当训练的其他标注员。他们审查了数百，甚至数千小时的手术室视频，手动记录哪种液体是血液，或者哪种工具是手术刀。随着时间的推移，模型可以“学习”自行识别出血或特定器械。

"老大哥在看着你"

纽约长岛犹太医学中心是北岸医疗系统的一部分，是第一个试点手术室黑匣子的医院，始于2019年2月。然而，推出并非一帆风顺，技术并不是唯一的障碍。

“在结直肠手术室，摄像机被破坏了，”北岸泌尿外科主席Louis Kavoussi回忆道——摄像机被故意调转和拔掉。在他自己的手术室里，工作人员在工作时变得沉默，担心说错话。“除非你在上高尔夫或网球课，否则你不希望有人盯着你做的每一件事，”Kavoussi说，他后来加入了Surgical Safety Technologies的科学顾问委员会。

尽管Grantcharov承诺不会使用该系统来惩罚个人，但对一些手术室工作人员来说，这并没有带来太大的安慰。2023年11月，当两台黑匣子设备安装在Faulkner医院时，这使外科部门陷入了危机。“每个人都非常害怕，”一位要求匿名的手术技师说，因为她没有被授权公开讲话。“我们被监视着，觉得如果我们做错了什么，我们的工作就会有危险。”

她并没有做任何非法的事情，也没有发表仇恨言论；她只是想和朋友开玩笑，抱怨老板，并做自己而不必担心管理员在背后窥探。“你非常清楚自己在被监视，这一点都不含糊，”她说。最初的几天尤其具有挑战性，外科医生拒绝在装备有黑匣子的房间里工作，手术室工作人员也抵制这些手术：“每天早上肯定是一场斗争。”

在某种程度上，身份保护只是半措施。在30天录音自动删除之前，Grantcharov承认，医院管理员仍然可以看到手术室编号、手术时间和患者的病历号，因此，即使手术室人员技术上是去标识化的，他们实际上并非真正匿名。结果是，一种“老大哥在看着你”的感觉出现了。Duke大学医院的临床操作副主席Christopher Mantyh说，该医院在七个手术室安装了黑匣子。他将在部门会议上引用汇总数据，讨论质量改进，但当出现具体问题时，如无菌操作的中断或感染群集时，他会查看录音并“直接找外科医生。”

在许多方面，这正是Faulkner医院护士Donovan所担心的。她并不相信医院会保护工作人员的身份，担心这些录音会被用来对付他们——无论是通过内部纪律处分还是在患者的医疗事故诉讼中。2023年2月，她和近60名同事向医院的外科主任发送了一封信，反对黑匣子。此后，她向州政府提交了一份申诉，仲裁程序定于10月进行。

根据2021年Medscape的一项调查，超过75%的外科医生报告称至少被起诉过一次，法律问题尤其显得重要。对普通人来说，任何手术视频“看起来都像是一场恐怖秀，”范德比尔特的Langerman说。“一些原告律师会拿到这些视频，然后一些陪审团会看到一堆血迹，他们不知道自己在看什么。”这种前景将每个录音都变成了潜在的法律争斗。

然而，从纯粹的逻辑角度来看，30天的删除政策可能会使这些录音免受医疗事故诉讼的影响。犹他大学法学教授Teneille Brown指出，在这一时间范围内，患者几乎不可能找到法律代理，通过必要的利益冲突检查，然后提交对黑匣子数据的发现请求。尽管为了绕过司法系统而删除数据可能会引发批评，但Brown认为Surgical Safety Technologies的方法是明智的。“如果我是他们的律师，我会建议他们只保留删除政策，因为这样他们既删除了好的数据也删除了坏的数据，”她说。“这将重点转向‘这不是面向公众的。这些视频的观众完全是内部的。’”

数据洪流

谈到提高质量，有“问题导向的人，还有数据导向的人，”密歇根大学外科系主任Justin Dimick说。后者，他说，推动“海量数据收集”，却没有首先确定“我要解决的问题是什么？”他说，这就是为什么他目前没有计划在他的医院使用手术室黑匣子的原因。

Mount Sinai的普通外科主任Celia Divino也表达了同样的观点，强调太多的数据可能会让人瘫痪。“你如何解释它？你该怎么做？”她问。“这总是一个病症。”

在Northwell，即使是Kavoussi也承认，五年的手术室黑匣子数据并没有用于改变什么。他说，医院领导层终于开始考虑如何使用这些录音，但一个难题仍然存在：手术室黑匣子可以收集大量数据，但如果没有人知道如何处理它，这有什么意义？

Grantcharov承认信息可能会让人不知所措。“在早期，我们让医院自己决定如何使用数据，”他说。“这导致了数据操作方式的巨大差异。一些医院做得很出色；其他的则利用不足。”现在，该公司有一个专门的“客户成功”团队来帮助医院理解数据，并提供类似咨询的服务来解决手术错误问题。但最终，即使是最实用的见解，如果没有医院领导层的支持，也是毫无意义的。

获得这种支持在一些中心 proved困难，部分原因是还没有任何大型、经过同行评审的研究表明手术室黑匣子实际上有助于减少患者并发症并拯救生命。“如果有证据表明像黑匣子这样的综合数据收集系统是有用的，那么我们会采用它，”Dimick说。“但我还没有看到那种证据。”

目前最好的硬数据来自2022年发表在《Annals of Surgery》上的一项研究，Grantcharov和他的团队使用手术室黑匣子显示，在五分之一的手术中没有遵循手术清单，这可能导致了过多的感染。他还说，预计将于今年秋季发表的一项即将发表的研究将表明手术室黑匣子提高了清单合规性并减少了ICU停留时间、再手术、住院再入和死亡率。

从更小的规模来看，Grantcharov坚信他已经建立了一个稳定的证据流，展示了他的平台的力量。例如，他说，这揭示了听觉干扰——门的开关、机器警报和个人呼机——在妇科手术室中每分钟都会发生，平均每例腹腔镜手术有20次术中错误，而外科医生在情境意识和领导力方面表现出色，而护士在任务管理方面表现出色。

与此同时，一些医院已经报告了基于黑匣子数据的小幅改进。Duke的Mantyh说他使用这些数据检查抗生素是否按时给药。Duke和其他医院也报告说转向这些数据帮助减少了手术室在手术间隙的空置时间。通过标记“空闲”时间意外过长的情况，并让多伦多的分析员审查录像以解释原因，他们发现了从沟通效率低下到花费过多时间引入新设备的问题。

这比人们想象的更有意义，德克萨斯州Memorial Hermann Sugar Land医院的围手术期服务临床主任Ra’gan Laventon解释道：“我们有多个患者依赖我们今天提供他们的护理。所以在某些操作效率中增加的时间越多，对患者的影响就越大。”

现实世界的挑战

在Northwell医院，摄像机最初遭到破坏，Kavoussi的泌尿外科团队花了几个星期才适应黑匣子，而他的结直肠同事则花了大约六个月的时间。解决方案主要依赖于一对一的对话，Kavoussi解释了数据如何自动去标识化并删除。

在手术过程中，Kavoussi还尝试缓解紧张气氛，对手术室黑匣子说“早上好，多伦多”，或者开玩笑问“上面的天气怎么样？”最终，“因为没有发生什么坏事，它已经成为了正常流程的一部分，”他说。

现实情况是，没有哪个外科医生愿意被认为是普通的操作员。“但从统计上看，我们大多数都是普通外科医生，这没关系，”范德比尔特大学的Langerman说。“我不想成为一个低于平均水平的外科医生，但如果我是，我真的很想知道。”就像运动员观看比赛录像为下一场比赛做准备一样，外科医生也许有一天会回顾他们的录像，评估他们的错误，并思考避免这些错误的最佳方法——但前提是他们感到足够安全去这么做。

“在我们知道这个系统的保护措施之前，存在这样的风险——不确定的风险——没有人会让别人打开摄像机，”Langerman说。“我们生活在一个真实的世界，而不是一个完美的世界。”