2026年6月17日，荷兰Nieuwegein的St. Antonius医院。一名患者躺在手术台上，全身麻醉，胸口没有任何切口。一根细长的导管从腹股沟穿刺进入，沿着血管一路前行，穿过右心房，进入左心房——那里是二尖瓣的所在。

手术室里，介入心脏病专家Leo Timmers医生操作着导管，坐在大型显示器前的影像专家Martin Swaans医生则紧盯着屏幕——一个由AI生成的融合三维图像正在实时跳动。

“我是司机，Martin是我的导航系统。”Timmers这样形容他们的配合。

这场手术的核心，是飞利浦开发的DeviceGuide系统——一个刚刚获得美国FDA 510(k)批准的AI导航工具。它用AI算法自动追踪心脏内微小的修复器械，将实时超声与X射线影像融合成一个统一的三维视图。

但在这场技术突破的背后，隐藏着一个更深层的问题：当AI进入跳动的心脏，医生该如何信任一个“黑盒”？当算法出错，谁来承担责任？

一、从“两张屏幕”到“一颗心脏”：AI带来的手术革命

先理解这台手术有多难。

二尖瓣反流——心脏瓣膜无法正常闭合、血液倒流——影响着全球超过3500万成年人。传统的微创经导管二尖瓣缘对缘修复手术中，医生必须在多块屏幕之间来回切换，同时解读X射线和超声影像，协调两名操作者的动作，在不停跳动的心脏上精准定位修复器械。整个过程“要求精确、协调和整个团队的经验”。

DeviceGuide改变了这一切。它基于飞利浦EchoNavigator平台，用AI算法自动追踪爱德华PASCAL Ace二尖瓣修复器械-。系统将实时超声和X射线影像融合成一个集成视图，医生可以在单一画面上看到器械在心脏内的实时位置和方向-。

“AI是DeviceGuide的核心，”Swaans医生说，“系统可以自动识别超声探头的位置，并识别患者体内的医疗器械-。它可以帮助优化图像采集，改进器械追踪，让导航变得更加容易。”

飞利浦诊断与治疗首席医疗官Atul Gupta博士给出了更形象的描述：“AI软件是一个辅助工具，医生始终掌握控制权。这不是取代专业能力——而是放大它。通过将AI嵌入手术过程，DeviceGuide给了医生一双额外的眼睛。 ”

结果是：这类手术现在大多只需约一小时，患者通常在一天内出院。

二、“黑盒”里的心跳：医生如何信任一个无法解释的算法？

但问题来了。

AI的决策过程——算法如何判断器械位置、如何融合影像——对于绝大多数医生来说，是一个“黑盒”。医生可以看到AI给出的结果，却无法完全理解它“为什么”这样做。

在医疗领域，信任从来不是技术问题，而是关系问题。传统上，医生信任自己的经验、解剖学知识、以及经过多年训练培养出来的直觉。但现在，一个无法解释的算法正在介入这个信任链条。

“医疗专家无法理解AI模型决策逻辑，这可能带来误诊风险、失控隐患等问题，也让医疗AI难以通过严格监管，更难获得临床信任-。如何让医疗专家和AI‘无障碍对话’，是全球医疗AI推广的核心痛点-。”

研究已经证实了这种焦虑的普遍性。一项针对晚期心力衰竭临床医生的调查发现，所有受访医生都表示，如果要对“黑盒”AI工具的使用和结果负责，那承担责任的人应该是医生-。医生们愿意承担责任，但这并不意味着他们不焦虑——恰恰相反，他们清楚地知道自己在为一个自己无法完全理解的系统承担后果。

DeviceGuide的应对策略是“透明可视化”。它不输出抽象的诊断结论，而是生成一个直观的三维图像——“让医生看到器械在哪里、指向哪个方向，提供清晰的手术视图”。这种“可视化解释”降低了认知负担，让医生可以基于视觉信息做出判断，而不是盲目信任一个算法输出的结论-。

但这是否足以建立真正的信任？当AI推荐的器械路径与医生的经验直觉发生冲突时，医生该相信谁？

三、“人机权责”的灰色地带：当AI出错，谁来负责？

这正是AI侵入式医疗中最棘手的问题。

2026年5月，权威医学期刊《BMJ》发表了一篇题为《 Clinician in the loop: a flawed solution for AI oversight》的分析文章-。文章尖锐地指出： “让临床医生负责”这一AI监督模式建立在一个脆弱的假设之上——临床医生既能照顾好患者，又能可靠地检测和纠正复杂AI系统的错误 -。

这个假设的脆弱性在实践中暴露无遗。BMJ的另一篇报道直言： “医生在AI工具出错时面临被起诉的风险，而公司却受到‘保护’。” -

在中国，责任划分同样模糊。有法律专家指出，AI在医疗体系中多以辅助角色存在，法律上缺乏人格主体，造成了法律上的“主体真空”-。当医生过度依赖AI建议导致漏诊或误诊时，如何界定侵权法上的因果关系和近因，“是法律实践中的最大难点”-。

现有的责任框架试图将责任分层：医疗机构与医务人员承担过错责任，AI服务开发方承担无过错产品责任-。但“医生既要为推翻正确的AI判断负责（被视为傲慢），又要为遵循错误的AI判断负责（被视为推诿） ”-——这种双重困境让医生陷入了“怎么做都是错”的境地。

更深层的问题是：诊疗人工智能的“算法黑箱”特性与医师履行注意义务之间存在潜在冲突-。医生如何对一个自己无法完全理解的系统“履行合理的注意义务”？2026年1月发布的《AI医疗治理白皮书》明确指出：“人机协作流程未形成标准化闭环之时，贸然部署AI自动生成主诉、代写诊断、甚至输出治疗建议，绝非效率升级，而是对医学本质的一次结构性风险转嫁。 ”-

四、从“辅助”到“共生”：AI医疗信任的重建之路

DeviceGuide的故事提供了一个有启发性的参照。

飞利浦在开发DeviceGuide时采取了几个关键步骤：与爱德华生命科学深度合作；与欧洲和美国的多个研究中心密切协作，包括纽约长老会医院/哥伦比亚大学的结构性心脏和瓣膜中心；St. Antonius医院的医生团队从2023年3月就开始使用原型版本，深度参与开发和测试。

这套做法遵循了AI医疗治理的核心原则。2026年4月发布的医疗AI临床应用共识，坚守 “人机协同，以人为主” 的核心原则，明确AI的法律属性始终是“辅助诊疗工具”-。医师拥有诊疗决策权，医疗机构承担诊疗行为的法律责任-。

但“人机协同”不能只是一句口号。《AI医疗治理白皮书（2026）》提出了更具体的方向：建立AI设备审核机制，通过合同谈判明确责任边界；厘清企业与医疗机构之间的责任划分；构建医患信任体系，强化AI医疗的透明度-。

在技术层面，“可解释AI”正在成为医疗AI的必修课。深圳理工大学等团队正在探索让“医疗AI决策看得懂、用得放心”的技术路径-。FDA在2025年发布的AI医疗器械指南草案中，也明确要求制造商必须考虑模型漂移、偏见和数据投毒等AI系统特有的风险-。

而在制度层面，一个更根本的共识正在形成： “AI医疗治理不仅关乎合规与责任划分，更关乎如何在技术系统中嵌入对生命价值的制度性保护，确保‘人始终在回路中’（Human-in-the-loop），避免将临床判断完全外包给不透明的算法。” -

---

回到St. Antonius医院的手术室。

当Timmers医生操纵导管穿过跳动的心脏时，他依赖的不仅是自己的技术、Swaans医生的导航，还有那个他无法完全解释的AI算法。他信任它，不是因为理解它的每一个计算步骤，而是因为经过数年的共同开发和临床验证，这个系统已经证明了自己——在无数次模拟中，在数百台手术中，在同行评审的研究中。

但这只是开始。

随着AI从诊断走向治疗、从辅助走向协作，“信任”的定义本身正在被改写。在AI进入心脏的今天，我们需要的不仅是更好的算法，更是更清晰的规则、更透明的系统和更负责任的治理。因为当AI在一个跳动的心脏中导航时，每一个决策都关乎生命——而生命，从来不应该交给一个“黑盒”。

正如飞利浦高管Bert van Meurs所说：“我们正在构建的是一个完全集成的生态系统，将器械、影像和软件整合到一个统一的手术平台中。这就是AI扮演核心角色的地方。 ”在这个生态系统中，信任不是理所当然的——它需要被设计、被验证、被制度性地保障。

而这，或许是DeviceGuide带给我们的最大启示：AI进入医疗，技术只是起点，信任才是终点。