“Manusia dalam lingkar” telah menjadi salah satu frasa yang dapat berarti hampir apa saja, yang merupakan cara lain untuk mengatakan bahwa frasa itu berisiko tidak berarti apa-apa. Secara teknis, sebuah alat dapat menjaga seseorang tetap dalam lingkar sambil membuatnya tidak praktis untuk melakukan apa pun selain mengklik setujui. Lingkar itu hadir pada diagram tetapi absen dalam praktik. Kami berpendapat frasa ini hanya layak dipertahankan jika manusia benar-benar mampu memahami, mempertanyakan, dan membatalkan apa yang diusulkan oleh alat itu — bukan sekadar hadir secara nominal, melainkan benar-benar memegang kendali.

Itu adalah standar yang tinggi, dan memang dimaksudkan demikian. Satu-satunya alasan seorang klinisi duduk dalam lingkar adalah karena ia memikul tanggung jawab yang tidak dapat dipikul oleh perangkat lunak mana pun atas namanya. Pasien tidak dirawat oleh sebuah model; mereka dirawat oleh seseorang yang telah menimbang bukti dan membuat pertimbangan yang siap ia pertanggungjawabkan. Jika alat kami membuat pertimbangan itu lebih mudah dicapai dan lebih mudah dipertahankan, alat itu sedang menjalankan tugasnya. Jika alat itu diam-diam mengikis pertimbangan tersebut — dengan mempergegasnya, mengaburkannya, atau mendandani sebuah tebakan sebagai fakta — alat itu sedang mendatangkan bahaya, betapa pun mengesankannya demo itu terlihat.

Perbedaan antara hadir dan memegang kendali

Ada jurang yang berarti antara diperlihatkan sebuah keluaran dan mampu menginterogasinya. Sebuah temuan yang tiba tanpa cara apa pun untuk melihat mengapa ia muncul mengundang salah satu dari dua respons, dan keduanya tidak aman. Yang pertama adalah penerimaan secara membabi buta: keluaran itu tampak meyakinkan, antreannya panjang, dan mengklik setujui adalah jalan dengan hambatan paling sedikit. Yang kedua adalah ketidakpercayaan menyeluruh: begitu seorang klinisi terkejut oleh sebuah hasil yang tak terjelaskan, langkah yang rasional adalah berhenti bergantung pada alat itu sepenuhnya, dan pada titik itu ia hanyalah sebuah sumber gesekan yang mahal.

Kedua mode kegagalan ini bukanlah kesalahan klinisi. Keduanya adalah sifat dari alat itu. Sebuah keluaran yang tidak dapat diperiksa tidak dapat ditinjau secara berarti, sehingga rancangannya harus menjadikan pemeriksaan sebagai jalan yang mudah alih-alih sebagai sebuah tindakan kepahlawanan. Itu berarti keluaran kami bersifat deterministik dan dicatat: masukan yang sama memberikan hasil yang sama, dan setiap langkah dapat dilacak ulang sesudahnya. Kemampuan untuk menengok ke belakang inilah yang mengubah “tetap dalam lingkar” dari sebuah formalitas menjadi sebuah pilihan yang nyata. Seorang klinisi yang dapat melihat bagaimana sebuah kesimpulan dicapai dapat menyetujuinya, menyempurnakannya, atau mengesampingkannya — dan yang terpenting, dapat menjelaskan kepada kolega, pasien, atau auditor mengapa ia berbuat demikian.

Dukungan bukanlah sebuah putusan

Bagaimana sebuah hasil disajikan sama pentingnya dengan bagaimana ia dihitung. Sebuah saran yang didandani sebagai putusan diam-diam mengalihkan tanggung jawab dari orang yang seharusnya memegangnya. Bahasa melakukan ini; demikian pula tata letak, pengaturan baku, dan wibawa semata-mata dari sebuah antarmuka yang bersih. Jika sebuah layar menyajikan sebuah kesimpulan sebagai sudah final, kerja jujur dari pengambilan keputusan sudah didorong keluar dari meja klinisi sebelum ia sempat menyentuhnya.

Maka kami berhati-hati untuk menyajikan dukungan sebagai dukungan — tidak pernah sebagai sebuah keputusan, tidak pernah sebagai sesuatu yang sudah terjadi. Klinisi membaca, menimbang, dan memutuskan; alat itu membuatnya lebih cepat dan lebih terinformasi, bukan otomatis. Ini bukan kerendahan hati demi kerendahan hati itu sendiri. Ini satu-satunya bingkai yang selaras dengan tempat akuntabilitas sesungguhnya berada. Pola pemverifikasi-dan-penyetuju yang mengalir di seluruh produk kami adalah ungkapan praktis dari hal ini: sistem dapat menyiapkan, menyusun draf, menyorot, dan mengisi terlebih dahulu, tetapi tindakan yang penting — penandatanganan — adalah milik seseorang yang bernama yang tetap bebas untuk mengubahnya.

Prinsip yang sama, tiga ranah pencitraan

Hal ini paling mudah terlihat dalam alat pencitraan edge-dan-pod kami, di mana godaan untuk membiarkan otomatisasi melaju lebih dulu paling kuat dan akibat dari melakukannya paling langsung.

Endoskopi

Dalam endoskopi, bantuannya bersifat waktu nyata, yang menjadikan kedisiplinan semakin penting. Peran EndoPod adalah menarik perhatian — memunculkan sesuatu yang layak dilihat sekali lagi selama prosedur dan menata rekam pencitraan sesudahnya. Yang tidak ia lakukan adalah memutuskan atas nama klinisi. Endoskopislah yang menatap layar, yang memegang skop di tangan, dan yang pertimbangannya menentukan apa yang terjadi berikutnya. Alat itu memperoleh tempatnya dengan menajamkan perhatian, bukan dengan menggantikannya.

Patologi

Pencitraan slide utuh membawa irama yang berbeda. PathoPod membuat slide dapat ditinjau, dibagikan, dan diajarkan — mendukung penampil web yang digunakan dalam pendidikan dan di dewan tumor semudah penandatanganan rutin. Di sini “dalam lingkar” berarti pembacaan ahli patologi itulah pembacaannya. Tugas platform adalah membuat pembacaan itu lebih mudah dilakukan, ditinjau kembali, dan didiskusikan dengan kolega, sambil menjaga rantai dari spesimen ke kesimpulan tetap dapat dibaca. Kolaborasi adalah sebuah fitur; otomatisasi diagnosis secara diam-diam bukan.

Radiologi

Radiologi menunjukkan model pemverifikasi-dan-penyetuju dalam bentuknya yang paling jelas. TomoPod dapat menyiapkan sebuah laporan semi-otomatis, tetapi radiologlah pemverifikasi dan penyetujunya, titik. Sebuah draf adalah titik awal yang menghemat ketukan tombol dan memunculkan struktur — tidak pernah sebuah kesimpulan yang tiba sudah direstui terlebih dahulu. Radiolog membaca studi itu, mengoreksi apa yang perlu dikoreksi, dan menandatangani hanya apa yang siap ia pertanggungjawabkan. Waktu yang dihemat oleh alat itu adalah waktu yang dikembalikan kepada pertimbangan, bukan waktu yang dirampas darinya.

Myro, dan sebuah suara yang tahu tempatnya

Prinsip yang sama harus tetap bertahan ketika berhadapan dengan sebuah asisten agentik, di mana ia bisa dibilang paling sulit untuk dipegang. Myro bekerja di seluruh alur kerja melalui suara dan teks, dan semakin mampu serta percakapan sebuah asisten, semakin alami ia dipercaya — terkadang lebih dari yang telah diperolehnya. Sebuah jawaban yang fasih terasa berwibawa entah ia layak ataupun tidak.

Maka Myro dibangun untuk membantu dan untuk mengalah. Ia dapat mengumpulkan konteks, menyusun draf, meringkas, dan bertindak melalui integrasi yang sudah diandalkan oleh seorang klinisi, tetapi ia beroperasi di bawah pengawasan dan mengarahkan langkah-langkah yang berkonsekuensi kembali kepada seseorang untuk konfirmasi. Tujuannya adalah sebuah asisten yang mengurangi pekerjaan sibuk di seputar sebuah keputusan tanpa pernah diam-diam membuat keputusan itu sendiri. Kenyamanan disambut baik; kenyamanan yang melarutkan akuntabilitas tidak, dan kami lebih memilih Myro bertanya daripada berasumsi.

Standar yang kami pegang untuk diri kami

Versi jujur dari “dalam lingkar” lebih menuntut daripada versi pemasaran, dan itulah intinya. Ia menuntut lebih banyak dari alat itu: keluaran deterministik yang dapat dilacak ulang, bingkai yang menolak untuk melebih-lebihkan, dan alur kerja yang menjaga tindakan yang menentukan tetap berada di tangan manusia di seluruh endoskopi, patologi, radiologi, dan asisten yang mengikat semuanya.

Seorang klinisi bertanggung jawab atas keputusan yang ia buat. Sebuah alat yang ingin membantunya seharusnya membuat tanggung jawab itu lebih mudah dipikul, bukan lebih sulit — dan ia seharusnya tidak pernah, bahkan secara tidak sengaja, merampas keputusan itu dari tangannya. Itu bukan sebuah kendala yang kami terima dengan berat hati. Itulah seluruh alasan mengapa pekerjaan ini layak dikerjakan. Perawatan yang lebih baik datang dari pertimbangan yang lebih baik didukung, dan pertimbangan justru adalah hal yang harus tetap menjadi milik manusia.