在每一款临床 AI 产品的核心,都潜藏着一个看似安静却影响深远的抉择:软件是决策者,还是决策者的助手?人们很容易把这视为一个程度问题——一个滑块,可以随着信心增长而向更多自动化推移。我们并不这样看。对我们而言,这是一个固定的设计立场,在勾勒第一项功能之前便已确立,它决定了发现如何呈现、输出如何记录,以及临床医生如何审阅、编辑或推翻这些结果。
辅助为本的设计意味着由临床医生做决定,而工具为这一决定提供支持。这句话很短,但要真正践行它却并不容易。它对用户界面、报告、审计轨迹,以及一个病例在结案之后仍长久延续的问责,都有着深远的影响。
辅助是一种立场,而非一句免责声明
在页脚写上”仅供辅助”,然后继续打造一个暗地里却像神谕一般运作的东西,这很容易做到。一个预先勾选的复选框、一项被呈现为既定事实的发现、一个撤销起来繁琐的默认设置——这些都在悄悄地推动临床医生接受机器的看法,而不去真正审视它。免责声明说的是一回事;设计说的是另一回事,而人们会对设计做出反应。
因此,我们把辅助当作一项工程约束,而非一种法律姿态。一条建议必须看起来就像一条建议。临床医生的判断必须是阻力最小的那条路径,而不是一个需要费力才能主张的例外。当软件不确定时,这种不确定应当清晰可见,而不是被抹平成一个看似自信的单一输出。我们的目标不是让 AI 显得更有权威,而是让人的审阅更快、信息更充分。
处于环路之中的人是核查者与批准者
如果人被简化为对模型产出的一切点击接受,那么”人在环路之中”可能毫无意义。我们把这一角色界定得更为分明:临床医生是核查者与批准者,没有这一批准,任何结果都不会作为最终版本离开系统。
在实践中,这意味着一项 AI 辅助的输出在合格人员签署之前都只是草稿。在我们的放射学层中,TomoPod 生成半自动报告,但放射科医生始终是核查者与批准者——报告归属于他们,由他们确认、修正或舍弃的内容所塑造。在病理学领域,PathoPod 将全切片图像与计算辅助带入解剖病理实验室,其网页查看器是为肿瘤委员会上的协作审阅而构建,而非为悄然取代病理医生的签发。在内镜学领域,EndoPod 在操作过程中提供实时辅助,但内镜医生才是依据所见采取行动的人;系统为这一时刻提供信息,而非凌驾于其上。
贯穿其中的共同主线是:模型的贡献始终是融入人的工作流之中,而绝不取而代之。临床医生可以接受一条建议、修改它,或将它完全搁置,而系统必须让这三种操作都同等地享有一等地位。
这如何塑造界面
从这一立场直接衍生出若干原则,它们体现在人们真正接触的产品环节之中。
- 发现是被呈现的,而非被断言的。 查看器呈现模型标记为值得关注的内容,而底层图像或数据始终触手可及。临床医生是对照原始资料进行确认,而非对照一份摘要。
- 默认设置倾向于审阅。 没有任何内容是预先被接受的。一条 AI 辅助的建议只有在临床医生将其放入报告时才会进入报告,而编辑或拒绝它和接受它一样简单。
- 推翻是常态,而非对抗。 不认同模型是一项寻常、无阻力的操作——而不是一个深藏的设置,或一个充斥警告的例外。一个因你推翻而惩罚你的工具,并不是真正的辅助。
- 不确定保持可读。 在系统不确定之处,界面会如实说明,而不是将一个棘手的病例简化为一个干净却带有误导性自信的结果。
这一切都并非装饰。每一项选择的存在,都是为了让临床医生的注意力停留在它应当所在之处——病人与证据之上——同时减少从图像走向一份完成且可问责的报告所需的机械性工作。
报告与记录
辅助并不在临床医生做出判断时结束;它必须反映在所记录的内容之中。一份 AI 辅助的报告应当清楚表明它曾受到辅助,并应记录下产生最终版本的那些由人做出的决定。这一部分是出于诚实,一部分是出于安全:任何日后阅读这份记录的人——同事、审计者,或临床医生未来的自己——都应当能够看清工具提供了什么,以及那个人决定了什么。
由于报告流经医学界其余部分早已通用的标准——贯穿 RIS、PACS、LIS 和 EIS 的 DICOM 与 HL7——辅助后的输出存在于现有记录之内,而不是另置于一个专有的孤岛之中。辅助是临床工作流的一部分,而非旁边外接的一个独立小玩意儿。而且,由于边缘工具与 pod 在医疗现场与更广泛的系统之间异步交换信息,这种交换的时机绝不会迫使临床医生在行动之前必须等待一个远程响应。
问责必须落到一个人身上
这归根结底正是这一立场之所以重要的原因。临床决策的问责无法委托给软件。模型不承担注意义务;临床医生承担。如果一个系统被设计成让人只是为机器输出盖橡皮图章,那么尽管纸面上有人签了字,问责却已悄然缺失。
为辅助而设计,让问责停留在法律与良好实践本就将其置于的地方。批准一份报告的临床医生才是这份报告真正的作者,因为系统赋予了他们核查的手段、推翻的自由,以及一份反映他们决定的记录。审计轨迹的存在不是为了把责任推卸给工具;它的存在是为了如实表明:一位合格的人在良好的支持下做出了判断。
更好的辅助,而非更多的自主
我们的系统在设计上具备 AI 辅助就绪的能力:模型可以接入并随时间扩展,内镜、病理与放射领域所提供的辅助也将随之不断变得更好。但这里的”更好”有其特定含义。它不意味着把决策稳步交给机器更多。它意味着让临床医生更快、信息更充分,更能将精力集中于最为关键的病例与细节之上。
这正是辅助为本设计的承诺。工具凭借改善工作来赢得它的一席之地,而非凭借取代工作。临床医生做决定;系统提供支持——而我们打造产品的每一个部分,从查看器的第一个像素到审计轨迹的最后一行,都是为了让它始终如此。