ออกแบบมาเพื่อช่วยเหลือ: แพทย์เป็นผู้ตัดสินใจ

มีทางเลือกหนึ่งที่เงียบงันแต่ทรงผลกระทบอยู่ใจกลางของผลิตภัณฑ์ AI ทางคลินิกทุกชิ้น นั่นคือ ซอฟต์แวร์เป็นผู้ตัดสินใจ หรือเป็นผู้ช่วยให้แก่ผู้ตัดสินใจ? เป็นเรื่อง น่าหลงผิดที่จะมองสิ่งนี้เป็นเพียงคำถามเรื่องระดับ — เหมือนตัวเลื่อนที่คุณค่อย ๆ ดันไปทาง ระบบอัตโนมัติมากขึ้นเมื่อความเชื่อมั่นเพิ่มขึ้น แต่เราไม่ได้มองเช่นนั้น สำหรับเรา มันคือ จุดยืนการออกแบบที่ตายตัว ซึ่งกำหนดไว้ก่อนที่จะลงมือร่างฟีเจอร์แรก และมันควบคุมว่า สิ่งที่ตรวจพบจะถูกนำเสนออย่างไร ผลลัพธ์จะถูกบันทึกอย่างไร และแพทย์จะทบทวน แก้ไข หรือยกเลิกมันได้อย่างไร

ออกแบบมาเพื่อช่วยเหลือ หมายความว่าแพทย์เป็นผู้ตัดสินใจ และเครื่องมือสนับสนุน การตัดสินใจนั้น ประโยคนี้สั้น แต่การทำให้สมกับมันไม่ง่ายเลย มันส่งผลต่อ ส่วนติดต่อผู้ใช้ รายงาน ร่องรอยการตรวจสอบ และความรับผิดชอบ ที่ติดตามเคสไปแม้หลังจากปิดเคสไปนานแล้ว

การช่วยเหลือคือจุดยืน ไม่ใช่ข้อความปฏิเสธความรับผิด

มันง่ายที่จะใส่ข้อความ “เพื่อช่วยเหลือเท่านั้น” ไว้ที่ส่วนท้าย แล้วเดินหน้าสร้าง สิ่งที่แอบทำตัวเหมือนผู้พยากรณ์ ช่องที่ถูกติ๊กไว้ล่วงหน้า สิ่งที่ตรวจพบซึ่ง นำเสนอราวกับเป็นข้อเท็จจริงที่ยุติแล้ว ค่าตั้งต้นที่ยกเลิกได้ยุ่งยาก — แต่ละอย่าง ผลักดันให้แพทย์ยอมรับมุมมองของเครื่องโดยไม่ได้พิจารณามันอย่างแท้จริง ข้อความปฏิเสธความรับผิดบอกอย่างหนึ่ง แต่การออกแบบบอกอีกอย่าง และผู้คนตอบสนอง ต่อการออกแบบ

ดังนั้นเราจึงปฏิบัติต่อการช่วยเหลือในฐานะข้อจำกัดทางวิศวกรรม มากกว่าจะเป็นท่าทีทางกฎหมาย ข้อเสนอแนะต้องดูเหมือนข้อเสนอแนะ วิจารณญาณของแพทย์ต้องเป็น เส้นทางที่มีแรงต้านน้อยที่สุด ไม่ใช่ข้อยกเว้นที่ต้องใช้ความพยายามในการยืนยัน เมื่อซอฟต์แวร์ไม่แน่ใจ ความไม่แน่นอนนั้นควรมองเห็นได้ มากกว่าจะถูก ปรับเกลี่ยให้กลายเป็นผลลัพธ์เดียวที่ดูมั่นใจ เป้าหมายไม่ใช่การทำให้ AI ดูทรงอำนาจมากขึ้น แต่คือการทำให้การทบทวนของมนุษย์เร็วขึ้นและ ได้ข้อมูลรอบด้านยิ่งขึ้น

มนุษย์ในกระบวนการคือผู้ตรวจสอบและผู้อนุมัติ

“มนุษย์ในกระบวนการ” อาจแทบไม่มีความหมายเลย หากมนุษย์ถูกลดทอนให้เหลือเพียงการคลิก ยอมรับ บนสิ่งใดก็ตามที่โมเดลสร้างขึ้น เรานิยามบทบาทนี้ให้คมชัดกว่านั้น แพทย์ คือผู้ตรวจสอบและผู้อนุมัติ และไม่มีสิ่งใดออกจากระบบในฐานะผลลัพธ์สุดท้าย โดยปราศจากการอนุมัตินั้น

ในทางปฏิบัติ นี่หมายความว่าผลลัพธ์ที่ AI ช่วยสร้างขึ้นยังคงเป็นแค่ร่าง จนกว่าผู้มีคุณสมบัติ จะลงนามรับรอง ในชั้นรังสีวิทยาของเรา TomoPod สร้างรายงานแบบกึ่งอัตโนมัติ แต่ รังสีแพทย์ยังคงเป็นผู้ตรวจสอบและผู้อนุมัติ — รายงานนั้นเป็นของเขา หล่อหลอม ด้วยสิ่งที่เขายืนยัน แก้ไข หรือทิ้งไป ในด้านพยาธิวิทยา PathoPod นำ ภาพสไลด์ทั้งแผ่นและการช่วยเหลือด้วยการคำนวณมาสู่ห้องปฏิบัติการพยาธิกายวิภาค และโปรแกรมแสดงภาพบนเว็บถูกสร้างขึ้นเพื่อการทบทวนร่วมกันในที่ประชุมคณะกรรมการมะเร็ง ไม่ใช่เพื่อ แอบแทนที่การลงนามของพยาธิแพทย์ ในด้านการส่องกล้อง EndoPod ให้ การช่วยเหลือแบบเรียลไทม์ระหว่างหัตถการ แต่แพทย์ผู้ส่องกล้องคือผู้ลงมือ ตามสิ่งที่เขาเห็น ระบบให้ข้อมูลแก่ช่วงเวลานั้น มากกว่าจะเข้าควบคุมแทน

แก่นร่วมคือ การมีส่วนร่วมของโมเดลถูกเสนอเข้าสู่กระบวนการทำงานของมนุษย์เสมอ ไม่เคยถูกใช้แทนที่มัน แพทย์สามารถยอมรับข้อเสนอแนะ แก้ไข มัน หรือวางมันไว้ข้าง ๆ ไปเลยก็ได้ และระบบต้องทำให้ทั้งสามอย่าง ของการกระทำเหล่านี้มีความสำคัญเท่าเทียมกัน

สิ่งนี้หล่อหลอมส่วนติดต่อผู้ใช้อย่างไร

หลักการบางข้อสืบเนื่องโดยตรงจากจุดยืนนี้ และมันปรากฏในส่วนของ ผลิตภัณฑ์ที่ผู้คนสัมผัสจริง

• สิ่งที่ตรวจพบถูกนำเสนอ ไม่ใช่ยืนยัน โปรแกรมแสดงภาพนำเสนอสิ่งที่โมเดล ทำเครื่องหมายไว้ว่าเป็นสิ่งที่ควรพิจารณา โดยภาพหรือข้อมูลต้นทางอยู่ห่างเพียง ชายตามองเสมอ แพทย์ยืนยันโดยเทียบกับต้นทาง มากกว่าจะเทียบกับ บทสรุป
• ค่าตั้งต้นเอื้อต่อการทบทวน ไม่มีสิ่งใดถูกยอมรับไว้ล่วงหน้า ข้อเสนอแนะที่ AI ช่วยสร้าง จะเข้าสู่รายงานก็ต่อเมื่อแพทย์เป็นผู้ใส่มันไว้ และการแก้ไขหรือปฏิเสธ มันก็ง่ายพอ ๆ กับการยอมรับมัน
• การยกเลิกเป็นเรื่องปกติ ไม่ใช่การเผชิญหน้า การไม่เห็นด้วยกับโมเดลคือ การกระทำธรรมดาที่ไร้แรงเสียดทาน — ไม่ใช่การตั้งค่าที่ซ่อนเร้นหรือข้อยกเว้น ที่เต็มไปด้วยคำเตือน เครื่องมือที่ลงโทษคุณเมื่อยกเลิกมันนั้นไม่ใช่ผู้ช่วยอย่างแท้จริง
• ความไม่แน่นอนยังคงอ่านออก ในจุดที่ระบบไม่แน่ใจ ส่วนติดต่อผู้ใช้บอกเช่นนั้น มากกว่าจะยุบเคสที่ยากให้เหลือเป็นผลลัพธ์ที่ดูสะอาดและมั่นใจอย่างชวนเข้าใจผิด

ไม่มีสิ่งใดในนี้เป็นเพียงเครื่องประดับ ทุกทางเลือกอยู่ที่นั่นเพื่อรักษาความใส่ใจของแพทย์ ให้อยู่ในที่ที่ควรอยู่ — บนตัวผู้ป่วยและหลักฐาน — ขณะที่ลดงาน เชิงกลไกในการเดินทางจากภาพไปสู่รายงานที่เสร็จสมบูรณ์และตรวจสอบได้

การรายงานและบันทึก

การช่วยเหลือไม่ได้สิ้นสุดเมื่อแพทย์ตัดสินใจ มันต้องสะท้อนอยู่ใน สิ่งที่ถูกบันทึกลงไป รายงานที่ AI ช่วยสร้างควรระบุชัดเจนว่ามันได้รับ การช่วยเหลือ และควรบันทึกการตัดสินใจของมนุษย์ที่ก่อให้เกิดเวอร์ชัน สุดท้าย นั่นส่วนหนึ่งเป็นเรื่องของความซื่อตรง และอีกส่วนเป็นเรื่องของความปลอดภัย ใครก็ตาม ที่อ่านบันทึกนั้นในภายหลัง — เพื่อนร่วมงาน ผู้ตรวจสอบ ตัวแพทย์เองในอนาคต — ควรมองเห็นได้ว่าเครื่องมือเสนออะไร และคนนั้นตัดสินใจอะไร

เนื่องจากรายงานไหลผ่านมาตรฐานที่วงการแพทย์ส่วนที่เหลือพูดอยู่แล้ว — DICOM และ HL7 ทั่วทั้ง RIS, PACS, LIS และ EIS — ผลลัพธ์ที่ได้รับการช่วยเหลือจึงอยู่ ภายในบันทึกที่มีอยู่เดิม มากกว่าจะแยกอยู่ต่างหากในไซโลกรรมสิทธิ์เฉพาะ การช่วยเหลือเป็นส่วนหนึ่งของกระบวนการทำงานทางคลินิก ไม่ใช่อุปกรณ์แยกที่ถูกยึดติด ไว้ข้าง ๆ มัน และเนื่องจากเครื่องมือเอดจ์และพอดแลกเปลี่ยนข้อมูลแบบ อะซิงโครนัสระหว่างจุดให้บริการกับระบบในวงกว้าง จังหวะเวลาของการแลกเปลี่ยน นั้นจึงไม่เคยบังคับให้แพทย์ต้องรอการตอบสนองจากระยะไกลก่อนที่เขาจะลงมือได้

ความรับผิดชอบต้องตกอยู่ที่ตัวบุคคล

นี่คือเหตุผลในที่สุดว่าทำไมจุดยืนนี้จึงสำคัญ ความรับผิดชอบต่อการตัดสินใจทางคลินิก ไม่อาจมอบหมายให้ซอฟต์แวร์ได้ โมเดลไม่ได้แบกรับหน้าที่ในการดูแล แต่แพทย์ แบกรับ หากระบบถูกออกแบบให้มนุษย์เป็นเพียงผู้ประทับตรารับรองผลลัพธ์ของ เครื่อง ความรับผิดชอบก็ได้หายไปอย่างเงียบ ๆ แล้ว แม้ว่าบนกระดาษ จะมีคนลงนามก็ตาม

การออกแบบเพื่อการช่วยเหลือทำให้ความรับผิดชอบอยู่ในที่ที่กฎหมายและแนวปฏิบัติที่ดี วางไว้อยู่แล้ว แพทย์ผู้อนุมัติรายงานคือผู้เขียนรายงานนั้นอย่างแท้จริง เพราะระบบให้วิธีการแก่เขาในการตรวจสอบ ให้อิสระในการยกเลิก และให้ บันทึกที่สะท้อนการตัดสินใจของเขา ร่องรอยการตรวจสอบไม่ได้มีไว้เพื่อโยนความผิด ไปที่เครื่องมือ แต่มีไว้เพื่อแสดงอย่างซื่อตรงว่าผู้มีคุณสมบัติได้เป็นผู้ตัดสินใจ ด้วยการสนับสนุนที่ดี

การช่วยเหลือที่ดีขึ้น ไม่ใช่ความเป็นอิสระที่มากขึ้น

ระบบของเราพร้อมสำหรับการช่วยเหลือด้วย AI โดยการออกแบบ โมเดลเสียบเข้ามาและขยายผลตามกาลเวลา และการช่วยเหลือที่มีในด้านการส่องกล้อง พยาธิวิทยา และรังสีวิทยา จะ ดียิ่งขึ้นเรื่อย ๆ เมื่อสิ่งนั้นเกิดขึ้น แต่ “ดีขึ้น” ในที่นี้มีความหมายเฉพาะ มันไม่ได้ หมายถึงการค่อย ๆ ยกการตัดสินใจส่วนใหญ่ให้แก่เครื่อง แต่หมายถึงการทำให้ แพทย์เร็วขึ้น ได้ข้อมูลรอบด้านยิ่งขึ้น และสามารถมุ่งความสนใจไปยังเคสและรายละเอียด ที่สำคัญที่สุดได้มากขึ้น

นั่นคือคำมั่นสัญญาของการออกแบบมาเพื่อช่วยเหลือ เครื่องมือพิสูจน์คุณค่าของตัวเองด้วยการพัฒนา งานให้ดีขึ้น ไม่ใช่ด้วยการเข้ายึดงานแทน แพทย์เป็นผู้ตัดสินใจ ระบบสนับสนุน — และ เราสร้างทุกส่วนของผลิตภัณฑ์ ตั้งแต่พิกเซลแรกของโปรแกรมแสดงภาพไปจนถึงบรรทัด สุดท้ายของร่องรอยการตรวจสอบ เพื่อให้มันเป็นเช่นนั้นเสมอ