「ループの中にいる」が本当に意味すべきこと

「人間がループの中にいる」という言葉は、ほとんど何でも意味しうる類いの表現の一つになってしまいました。これは言い換えれば、何も意味しなくなる恐れがあるということです。あるツールは、技術的には人をループの中に留めながらも、その人が承認ボタンを押す以外に実質的に何もできないようにしてしまうことがあります。ループは図の上には存在していても、実際には不在なのです。私たちは、この言葉がその名に値するのは、人間がツールの提案を真に理解し、問い直し、覆すことができる場合に限られると考えています ── 名目上そこにいるだけでなく、実際に主導権を握っているのです。

これは高い基準であり、そうあるべく設けられたものです。臨床医がループの中に座る唯一の理由は、いかなるソフトウェアも代わりに負うことのできない責任を、その臨床医が背負っているからです。患者はモデルによって治療されるのではありません。患者は、証拠を秤にかけ、自らが進んで引き受ける覚悟のある判断を下した一人の人間によって治療されるのです。私たちのツールがその判断に至ることを容易にし、それを擁護することを容易にするなら、ツールは役目を果たしています。もしツールがその判断をひそかに蝕むなら ── 判断を急がせたり、覆い隠したり、推測を事実のように装ったりするなら ── デモがどれほど見事に映ろうとも、害をなしているのです。

そこにいることと、主導権を握っていることの違い

ある出力を示されることと、それを問いただせることとの間には、意味のある隔たりがあります。なぜそれが現れたのかを見る手立てが一切ないままに届く所見は、二つの反応のうちのどちらかを招き、そのどちらも安全ではありません。一つ目は盲目的な受容です。出力は自信ありげに見え、待ち行列は長く、承認ボタンを押すことが最も抵抗の少ない道なのです。二つ目は全面的な不信です。臨床医が説明のつかない結果に一度でも驚かされれば、合理的な選択はそのツールに頼ることを完全にやめることであり、その時点でツールは単なる高価な摩擦の源でしかなくなります。

これらの失敗の様式は、いずれも臨床医の落ち度ではありません。それらはツールの性質です。吟味できない出力は意味のある形で検討することができないため、設計は吟味を英雄的な行いではなく容易な道にしなければなりません。それはつまり、私たちの出力が決定論的であり、ログに記録されるということです。同じ入力は同じ結果を生み、すべての手順は後から辿り直すことができます。振り返ることができるということこそが、「ループの中に留まること」を形式から本物の選択へと変えるのです。結論にどのように至ったかを見ることのできる臨床医は、その結論に同意したり、洗練させたり、脇に置いたりすることができ ── そして何より重要なことに、なぜそうしたのかを同僚に、患者に、あるいは監査人に説明することができます。

支援は評決ではない

結果がどのように提示されるかは、それがどのように計算されるかと同じくらい重要です。評決のように装われた提案は、本来それを負うべき人物から責任をひそかに取り去ってしまいます。言葉がそうさせます。レイアウトも、初期設定も、そして洗練されたインターフェースが持つ権威そのものもまた、そうさせるのです。画面がある結論を確定済みのものとして提示するなら、決定という誠実な仕事は、臨床医がそれに触れる前に、すでにその机の上から押しのけられているのです。

ですから私たちは、支援を支援として提示することに細心の注意を払っています ── 決して決定としてではなく、決してすでに起こったこととしてではなく。臨床医が読み、秤にかけ、決定します。ツールはそれをより速く、より十分に情報に基づいたものにするのであって、自動で行うのではありません。これはそれ自体を目的とした謙虚さではありません。責任が実際に存する場所と整合する、唯一の提示の仕方なのです。私たちの製品全体を貫く検証者・承認者のパターンこそが、これの実践的な表れです。システムは準備し、草案を作り、強調し、あらかじめ入力しておくことができますが、肝心の行為 ── 最終承認 ── は、いつでもそれを変える自由を持つ、名前のある一人の人間に属します。

同じ原則、三つの画像領域

これは、私たちのエッジおよびポッド型の画像ツールにおいて最も分かりやすく現れます。自動化を先走らせたいという誘惑が最も強く、そうしたときの帰結が最も直接的な領域だからです。

内視鏡

内視鏡では支援がリアルタイムで行われ、そのことが規律をいっそう重要にします。 EndoPodの役割は注意を引くことです ── 手技の最中にもう一度見る価値のあるものを浮かび上がらせ、その後に画像記録を整理することです。EndoPodが行わないのは、臨床医に代わって決定することです。画面を見つめている者、手にスコープを握っている者、そして次に何が起こるかをその判断で決める者は、内視鏡医です。ツールは、注意の代わりとなることによってではなく、注意を研ぎ澄ますことによって、その居場所を勝ち得るのです。

病理

全スライド画像は異なるリズムをもたらします。PathoPodはスライドを、検討でき、共有でき、教育に活かせるものにします ── 教育や腫瘍カンファレンスで使われるウェブビューアを、日常の最終診断と同じくらい難なく支えます。ここで「ループの中にいる」とは、病理医の読影こそが読影であるということを意味します。プラットフォームの役目は、その読影を行いやすく、見直しやすく、同僚と議論しやすいものにすることであり、同時に検体から結論に至る連鎖を読み取れる状態に保つことです。協働は一つの機能です。診断のひそかな自動化はそうではありません。

放射線

放射線は、検証者・承認者モデルを最も明快な形で示します。TomoPodは半自動のレポートを準備できますが、検証者であり承認者であるのは放射線科医です。それに尽きます。草案はキー入力を省き、構造を浮かび上がらせる出発点であって ── 決してあらかじめ祝福を受けて届く結論ではありません。放射線科医は検査を読影し、直すべきところを直し、自らが進んで引き受ける覚悟のあるものだけに署名します。ツールが省いてくれる時間は、判断から奪われた時間ではなく、判断へと返された時間です。

Myro、そして身の程を知る声

同じ原則は、エージェント型のアシスタントと接しても生き残らなければなりません。そこはおそらく、それを守り抜くのが最も難しい場所です。Myroは音声とテキストを通じてワークフロー全体にわたって働き、アシスタントが有能で会話的になるほど、それだけ自然に信頼されるようになります ── 時には、得て当然な以上に。流暢な回答は、それに値するかどうかにかかわらず、権威あるものに感じられるのです。

ですからMyroは、助けるために、そして譲るために作られています。Myroは文脈を集め、草案を作り、要約し、臨床医がすでに頼りにしている連携機能を通じて行動することができますが、監督の下で動き、重大な手順は確認のために人へと差し戻します。狙いは、決定をめぐる雑務を減らしながらも、決定そのものをひそかに下してしまうことは決してないアシスタントです。利便性は歓迎します。しかし、責任を溶かしてしまう利便性は歓迎しません。私たちは、Myroが思い込むよりは尋ねることを望みます。

私たちが自らに課している基準

「ループの中にいる」の誠実な版は、マーケティングの版よりも要求が厳しく、そこにこそ意味があります。それはツールにより多くを求めます。辿り直せる決定論的な出力、誇張を拒む提示の仕方、そして内視鏡、病理、放射線、そしてそれらを結びつけるアシスタントにわたって、決定的な行為を人間の手の内に保つワークフローです。

臨床医は、自らが下す決定について責任を負います。臨床医を助けようとするツールは、その責任を負いやすくすべきであって、負いにくくすべきではありません ── そして、たとえ偶然であっても、決定をその手から取り去ってはなりません。これは、私たちがしぶしぶ受け入れる制約ではありません。これこそが、この仕事に取り組む価値のすべてです。より良い医療は、より良く支えられた判断から生まれるのであり、判断こそが、まさに人間に留まらなければならないものなのです。