“Manusia dalam gelung” telah menjadi salah satu frasa yang boleh bermakna hampir apa-apa sahaja, yang merupakan satu cara lain untuk mengatakan bahawa ia berisiko tidak bermakna apa-apa. Secara teknikal, sesuatu alat boleh mengekalkan seseorang dalam gelung sambil menjadikannya tidak praktikal untuk dia melakukan apa-apa selain mengklik luluskan. Gelung itu hadir pada gambar rajah tetapi tiada dalam amalan. Kami berpendapat frasa ini hanya berbaloi jika manusia benar-benar mampu memahami, mempersoal, dan membatalkan apa yang dicadangkan oleh alat itu — bukan sekadar hadir secara nominal, tetapi benar-benar memegang kawalan.

Itu satu piawai yang tinggi, dan memang sengaja begitu. Satu-satunya sebab seorang klinisian duduk dalam gelung ialah kerana dia memikul tanggungjawab yang tidak mampu dipikul oleh mana-mana perisian bagi pihaknya. Pesakit tidak dirawat oleh sesuatu model; mereka dirawat oleh seseorang yang telah menimbang bukti dan membuat pertimbangan yang dia bersedia untuk pertahankan. Jika alat kami menjadikan pertimbangan itu lebih mudah dicapai dan lebih mudah dipertahankan, ia sedang menjalankan tugasnya. Jika ia menghakis pertimbangan itu secara senyap — dengan mengejarnya, mengaburkannya, atau menyamarkan satu tekaan sebagai satu fakta — ia sedang mendatangkan mudarat, betapa mengagumkan sekalipun demo itu kelihatan.

Perbezaan antara hadir dan memegang kawalan

Terdapat jurang yang bermakna antara ditunjukkan satu output dan mampu menyoalnya. Satu penemuan yang tiba tanpa apa-apa cara untuk melihat mengapa ia muncul mengundang salah satu daripada dua tindak balas, dan kedua-duanya tidak selamat. Yang pertama ialah penerimaan secara membuta tuli: output itu kelihatan yakin, baris gilirannya panjang, dan mengklik luluskan ialah laluan yang paling sedikit rintangannya. Yang kedua ialah ketidakpercayaan menyeluruh: sebaik sahaja seorang klinisian terkejut dengan satu keputusan yang tidak dijelaskan, langkah yang rasional ialah berhenti bergantung pada alat itu sepenuhnya, dan pada ketika itu ia hanyalah satu sumber geseran yang mahal.

Kedua-dua mod kegagalan ini bukan kesalahan klinisian. Ia merupakan sifat alat itu. Satu output yang tidak boleh diperiksa tidak boleh disemak secara bermakna, maka reka bentuk itu mesti menjadikan pemeriksaan sebagai laluan yang mudah dan bukannya satu wira. Itu bermakna output kami adalah berketentuan dan dilog: input yang sama memberikan keputusan yang sama, dan setiap langkah boleh dijejaki semula selepas itu. Keupayaan untuk menoleh ke belakang inilah yang mengubah “kekal dalam gelung” daripada satu formaliti kepada satu pilihan yang sebenar. Seorang klinisian yang dapat melihat bagaimana satu kesimpulan dicapai boleh bersetuju dengannya, memperhalusnya, atau mengetepikannya — dan yang lebih penting, boleh menjelaskan kepada rakan sejawat, pesakit, atau juruaudit mengapa dia berbuat demikian.

Sokongan bukanlah satu keputusan muktamad

Cara sesuatu keputusan dibingkaikan adalah sama penting dengan cara ia dikira. Satu cadangan yang disamarkan sebagai keputusan muktamad secara senyap mengalihkan tanggungjawab daripada orang yang sepatutnya memegangnya. Bahasa berbuat demikian; begitu juga susun atur, tetapan lalai, dan kuasa semata-mata sesebuah antara muka yang kemas. Jika sesebuah skrin membentangkan satu kesimpulan sebagai sudah muktamad, kerja jujur membuat keputusan itu sudah pun ditolak keluar daripada meja klinisian sebelum dia sempat menyentuhnya.

Maka kami berhati-hati untuk membentangkan sokongan sebagai sokongan — tidak pernah sebagai satu keputusan, tidak pernah sebagai sesuatu yang sudah pun berlaku. Klinisian membaca, menimbang, dan memutuskan; alat itu menjadikannya lebih pantas dan lebih bermaklumat, bukan automatik. Ini bukan kerendahan hati demi kerendahan hati itu sendiri. Ia satu-satunya bingkai yang selaras dengan tempat kebertanggungjawaban sebenarnya berada. Corak pengesah-dan-pelulus yang mengalir menerusi produk kami ialah ungkapan praktikal hal ini: sistem boleh menyediakan, mendraf, menyerlahkan, dan mengisi terlebih dahulu, tetapi tindakan yang penting — penurunan tandatangan — adalah milik seorang yang bernama yang kekal bebas untuk mengubahnya.

Prinsip yang sama, tiga domain pengimejan

Hal ini paling mudah dilihat dalam alat pengimejan tepi-dan-pod kami, di mana godaan untuk membiarkan automasi memintas ke hadapan adalah paling kuat dan akibat berbuat demikian adalah paling langsung.

Endoskopi

Dalam endoskopi, bantuan itu adalah masa nyata, yang menjadikan disiplin lebih penting lagi. Peranan EndoPod ialah menarik perhatian — menyerlahkan sesuatu yang berbaloi untuk dilihat sekali lagi semasa prosedur dan menyusun rekod pengimejan selepas itu. Apa yang ia tidak lakukan ialah memutuskan bagi pihak klinisian. Pakar endoskopilah yang memerhatikan skrin, yang memegang skop di tangan, dan yang pertimbangannya menentukan apa yang berlaku seterusnya. Alat itu memperoleh tempatnya dengan menajamkan perhatian, bukan dengan menggantikannya.

Patologi

Pengimejan slaid penuh membawa irama yang berbeza. PathoPod menjadikan slaid boleh disemak, boleh dikongsi, dan boleh diajar — menyokong penonton web yang digunakan dalam pendidikan dan di lembaga tumor semudah penurunan tandatangan rutin. Di sini “dalam gelung” bermaksud bacaan pakar patologi itulah bacaannya. Tugas platform ialah menjadikan bacaan itu lebih mudah dilakukan, ditinjau semula, dan dibincangkan dengan rakan sejawat, sambil mengekalkan rantaian daripada spesimen ke kesimpulan agar boleh dibaca. Kerjasama ialah satu ciri; automasi diagnosis secara senyap bukanlah.

Radiologi

Radiologi menunjukkan model pengesah-dan-pelulus dalam bentuknya yang paling jelas. TomoPod boleh menyediakan satu laporan separa automatik, tetapi pakar radiologilah pengesah dan pelulusnya, titik. Satu draf ialah satu titik permulaan yang menjimatkan ketukan kekunci dan menyerlahkan struktur — tidak pernah satu kesimpulan yang tiba sudah direstui terlebih dahulu. Pakar radiologi membaca kajian itu, membetulkan apa yang perlu dibetulkan, dan menandatangani hanya apa yang dia bersedia untuk pertahankan. Masa yang dijimatkan oleh alat itu ialah masa yang dikembalikan kepada pertimbangan, bukan masa yang dirampas daripadanya.

Myro, dan satu suara yang tahu tempatnya

Prinsip yang sama mesti terus bertahan apabila berhadapan dengan seorang pembantu agentik, di mana ia mungkin paling sukar untuk dipegang. Myro berfungsi merentasi aliran kerja melalui suara dan teks, dan semakin berkebolehan serta berbual-bual seorang pembantu menjadi, semakin semula jadi ia dipercayai — kadangkala lebih daripada yang telah diperolehnya. Satu jawapan yang lancar terasa berwibawa sama ada ia layak ataupun tidak.

Maka Myro dibina untuk membantu dan untuk mengalah. Ia boleh mengumpul konteks, mendraf, meringkas, dan bertindak melalui penyepaduan yang sudah pun dipergantungkan oleh seorang klinisian, tetapi ia beroperasi di bawah penyeliaan dan menghalakan langkah yang berkesan-padah kembali kepada seseorang untuk pengesahan. Matlamatnya ialah seorang pembantu yang mengurangkan kerja remeh di sekitar sesuatu keputusan tanpa pernah secara senyap membuat keputusan itu sendiri. Kemudahan dialu-alukan; kemudahan yang melarutkan kebertanggungjawaban tidak, dan kami lebih rela Myro bertanya daripada mengandaikan.

Piawai yang kami pegang untuk diri kami

Versi jujur “dalam gelung” lebih menuntut daripada versi pemasaran, dan itulah pokok persoalannya. Ia menuntut lebih daripada alat itu: output berketentuan yang boleh dijejaki semula, bingkai yang enggan membesar-besarkan, dan aliran kerja yang mengekalkan tindakan yang menentukan di tangan manusia merentasi endoskopi, patologi, radiologi, dan pembantu yang mengikat kesemuanya.

Seorang klinisian bertanggungjawab atas keputusan yang dia buat. Satu alat yang ingin membantunya seharusnya menjadikan kebertanggungjawaban itu lebih mudah dipikul, bukan lebih sukar — dan ia seharusnya tidak pernah, walaupun secara tidak sengaja, merampas keputusan itu daripada tangannya. Itu bukan satu kekangan yang kami terima dengan berat hati. Itulah seluruh sebab mengapa kerja ini berbaloi dilakukan. Penjagaan yang lebih baik datang daripada pertimbangan yang lebih baik disokong, dan pertimbangan itulah perkara yang mesti kekal sebagai milik manusia.