Có một lựa chọn âm thầm nhưng hệ trọng nằm ở trung tâm của mọi sản phẩm AI lâm sàng: phần mềm là người ra quyết định, hay là một trợ thủ cho người ra quyết định? Người ta dễ xem đây là một câu hỏi về mức độ — một thanh trượt mà bạn có thể đẩy dần về phía tự động hóa nhiều hơn khi độ tin cậy tăng lên. Chúng tôi không nhìn nhận như vậy. Với chúng tôi, đó là một lập trường thiết kế cố định, được xác lập trước khi tính năng đầu tiên được phác thảo, và nó chi phối cách các phát hiện được trình bày, cách kết quả được ghi nhận, và cách bác sĩ xem xét, chỉnh sửa hoặc bác bỏ chúng.

Hỗ trợ theo thiết kế nghĩa là bác sĩ quyết định và công cụ hỗ trợ cho quyết định đó. Câu nói ấy ngắn gọn, nhưng để sống đúng với nó thì không hề đơn giản. Nó kéo theo những hệ quả cho giao diện người dùng, cho báo cáo, cho nhật ký kiểm toán, và cho trách nhiệm đi cùng một ca bệnh từ rất lâu sau khi ca đó đã khép lại.

Hỗ trợ là một lập trường, không phải một lời tuyên bố miễn trừ

Người ta dễ dàng đặt dòng chữ “chỉ mang tính hỗ trợ” ở chân trang rồi tiếp tục xây dựng một thứ âm thầm vận hành như một nhà tiên tri. Một ô đã được tích sẵn, một phát hiện được trình bày như sự thật đã định, một thiết lập mặc định mà việc hủy bỏ đầy phiền toái — mỗi điều như thế đều đẩy bác sĩ về phía chấp nhận quan điểm của máy mà không thực sự xem xét nó. Lời tuyên bố miễn trừ nói một đằng; thiết kế nói một nẻo, và con người phản ứng theo thiết kế.

Vì vậy, chúng tôi coi sự hỗ trợ như một ràng buộc kỹ thuật chứ không phải một tư thế pháp lý. Một gợi ý phải trông giống một gợi ý. Phán đoán của bác sĩ phải là con đường ít trở lực nhất, chứ không phải một ngoại lệ đòi hỏi nỗ lực mới khẳng định được. Khi phần mềm không chắc chắn, sự bất định ấy nên được hiển thị rõ ràng thay vì được làm phẳng đi thành một kết quả duy nhất trông đầy tự tin. Mục tiêu không phải là khiến AI có vẻ uy tín hơn; mà là khiến việc xem xét của con người nhanh hơn và được thông tin tốt hơn.

Con người trong vòng lặp là người kiểm chứng và người phê duyệt

“Con người trong vòng lặp” có thể chẳng có nghĩa lý gì nếu con người bị thu giảm thành việc bấm chấp nhận trên bất cứ thứ gì mô hình đưa ra. Chúng tôi xác định vai trò này một cách sắc nét hơn: bác sĩ là người kiểm chứng và người phê duyệt, và không có gì rời khỏi hệ thống dưới dạng kết quả cuối cùng nếu thiếu sự phê duyệt đó.

Trên thực tế, điều này có nghĩa là một kết quả do AI hỗ trợ chỉ là bản nháp cho đến khi một người có chuyên môn ký xác nhận. Trong lớp chẩn đoán hình ảnh của chúng tôi, TomoPod tạo ra các báo cáo bán tự động, nhưng bác sĩ chẩn đoán hình ảnh vẫn là người kiểm chứng và phê duyệt — báo cáo là của họ, được định hình bởi những gì họ xác nhận, hiệu chỉnh hoặc loại bỏ. Trong giải phẫu bệnh, PathoPod mang hình ảnh toàn bộ lam kính và sự hỗ trợ tính toán đến phòng xét nghiệm giải phẫu bệnh, và trình xem trên nền web được xây dựng để phục vụ việc xem xét cộng tác tại hội đồng khối u, chứ không phải để âm thầm thay thế việc ký duyệt của nhà giải phẫu bệnh. Trong nội soi, EndoPod cung cấp hỗ trợ thời gian thực trong suốt thủ thuật, nhưng bác sĩ nội soi mới là người hành động dựa trên những gì họ thấy; hệ thống cung cấp thông tin cho khoảnh khắc đó chứ không lấn át nó.

Điểm chung là phần đóng góp của mô hình luôn được đưa vào một quy trình làm việc của con người, chứ không bao giờ thay thế cho nó. Bác sĩ có thể chấp nhận một gợi ý, thay đổi nó, hoặc gạt nó sang một bên hoàn toàn, và hệ thống phải khiến cả ba hành động đó đều quan trọng ngang nhau.

Điều này định hình giao diện như thế nào

Một vài nguyên tắc xuất phát trực tiếp từ lập trường ấy, và chúng hiện diện ngay trong những phần của sản phẩm mà con người thực sự chạm vào.

  • Phát hiện được trình bày, chứ không được khẳng định. Trình xem trình bày những gì mô hình đã đánh dấu là điều đáng xem xét, với hình ảnh hoặc dữ liệu gốc luôn nằm trong tầm mắt. Bác sĩ xác nhận dựa trên nguồn gốc chứ không dựa trên một bản tóm tắt.
  • Mặc định nghiêng về việc xem xét. Không có gì được chấp nhận trước. Một gợi ý do AI hỗ trợ chỉ được đưa vào báo cáo khi bác sĩ đặt nó vào đó, và việc chỉnh sửa hay bác bỏ nó cũng đơn giản như việc chấp nhận nó.
  • Bác bỏ là chuyện bình thường, không phải chuyện đối đầu. Không đồng ý với mô hình là một hành động thông thường, trơn tru — chứ không phải một thiết lập bị giấu kín hay một ngoại lệ đầy cảnh báo. Một công cụ trừng phạt bạn vì đã bác bỏ nó thì không thực sự mang tính hỗ trợ.
  • Sự bất định luôn dễ đọc. Ở nơi hệ thống không chắc chắn, giao diện nói rõ điều đó, thay vì thu gọn một ca khó thành một kết quả gọn gàng, tự tin một cách dễ gây hiểu lầm.

Không điều nào trong số này là trang trí. Mỗi lựa chọn đều hiện diện để giữ sự chú ý của bác sĩ ở đúng nơi cần thiết — vào bệnh nhân và bằng chứng — đồng thời giảm bớt công việc máy móc trong việc đi từ hình ảnh đến một báo cáo hoàn chỉnh và có trách nhiệm.

Báo cáo và hồ sơ

Sự hỗ trợ không kết thúc khi bác sĩ đưa ra quyết định; nó phải được phản ánh trong những gì được ghi lại. Một báo cáo do AI hỗ trợ nên thể hiện rõ rằng nó đã được hỗ trợ, và nó nên ghi lại những quyết định của con người đã tạo nên phiên bản cuối cùng. Đó một phần là vấn đề trung thực và một phần là vấn đề an toàn: bất cứ ai đọc hồ sơ về sau — một đồng nghiệp, một kiểm toán viên, hay chính bác sĩ trong tương lai — đều phải thấy được công cụ đã đề xuất điều gì và con người đã quyết định điều gì.

Bởi vì báo cáo luân chuyển qua những tiêu chuẩn mà phần còn lại của ngành y đã quen dùng — DICOM và HL7 trên khắp RIS, PACS, LIS và EIS — nên kết quả được hỗ trợ tồn tại bên trong hồ sơ hiện hữu, chứ không nằm tách biệt trong một kho dữ liệu độc quyền. Sự hỗ trợ là một phần của quy trình lâm sàng, chứ không phải một thiết bị riêng lẻ được lắp ghép bên cạnh nó. Và bởi vì các công cụ biên và các pod trao đổi thông tin một cách bất đồng bộ giữa điểm chăm sóc và hệ thống rộng hơn, nên thời điểm của việc trao đổi đó không bao giờ buộc bác sĩ phải chờ một phản hồi từ xa trước khi họ có thể hành động.

Trách nhiệm phải thuộc về một con người

Đây rốt cuộc là lý do vì sao lập trường này quan trọng. Trách nhiệm đối với một quyết định lâm sàng không thể ủy thác cho phần mềm. Một mô hình không gánh nghĩa vụ chăm sóc; một bác sĩ thì có. Nếu một hệ thống được thiết kế sao cho con người chỉ đơn thuần đóng dấu phê chuẩn lên kết quả của máy, thì trách nhiệm đã âm thầm biến mất ngay cả khi, trên giấy tờ, có người đã ký.

Thiết kế hướng đến sự hỗ trợ giữ cho trách nhiệm nằm đúng nơi mà luật pháp và thực hành tốt vốn đã đặt nó. Bác sĩ phê duyệt một báo cáo thực sự là tác giả của nó, bởi vì hệ thống đã trao cho họ phương tiện để kiểm chứng, quyền tự do để bác bỏ, và một hồ sơ phản ánh những quyết định của họ. Nhật ký kiểm toán không tồn tại để đẩy trách nhiệm sang công cụ; nó tồn tại để cho thấy, một cách trung thực, rằng một người có chuyên môn đã đưa ra quyết định với sự hỗ trợ tốt.

Hỗ trợ tốt hơn, không phải tự chủ nhiều hơn

Các hệ thống của chúng tôi sẵn sàng cho AI hỗ trợ theo thiết kế: các mô hình được cắm vào và mở rộng theo thời gian, và sự hỗ trợ sẵn có trong nội soi, giải phẫu bệnh và chẩn đoán hình ảnh sẽ ngày càng tốt hơn khi điều đó diễn ra. Nhưng “tốt hơn” ở đây mang một ý nghĩa cụ thể. Nó không có nghĩa là dần dần giao nhiều phần của quyết định hơn cho máy. Nó có nghĩa là khiến bác sĩ nhanh hơn, được thông tin tốt hơn, và có khả năng tập trung nhiều hơn vào những ca bệnh và chi tiết quan trọng nhất.

Đó là lời hứa của hỗ trợ theo thiết kế. Công cụ giành lấy chỗ đứng của mình bằng cách cải thiện công việc, chứ không phải bằng cách tiếp quản nó. Bác sĩ quyết định; hệ thống hỗ trợ — và chúng tôi xây dựng mọi phần của sản phẩm, từ điểm ảnh đầu tiên của trình xem cho đến dòng cuối cùng của nhật ký kiểm toán, để giữ cho điều đó luôn đúng như vậy.