“Con người trong vòng lặp” đã trở thành một trong những cụm từ có thể mang gần như bất kỳ ý nghĩa nào, mà điều đó cũng có nghĩa là nó có nguy cơ chẳng có ý nghĩa gì cả. Một công cụ về mặt kỹ thuật có thể giữ con người trong vòng lặp nhưng lại khiến họ không thể làm gì khác ngoài việc bấm nút phê duyệt. Vòng lặp hiện diện trên sơ đồ nhưng vắng mặt trong thực tế. Chúng tôi cho rằng cụm từ này chỉ xứng đáng tồn tại nếu con người thực sự có khả năng hiểu, đặt câu hỏi và phủ quyết những gì công cụ đề xuất — không chỉ hiện diện trên danh nghĩa mà thực sự nắm quyền kiểm soát.

Đó là một tiêu chuẩn cao, và nó vốn được đặt ra như vậy. Lý do duy nhất khiến một bác sĩ lâm sàng ngồi trong vòng lặp là vì họ gánh vác trách nhiệm mà không phần mềm nào có thể gánh thay cho họ. Bệnh nhân không được điều trị bởi một mô hình; họ được điều trị bởi một con người đã cân nhắc bằng chứng và đưa ra một phán đoán mà họ sẵn sàng đứng ra bảo vệ. Nếu công cụ của chúng tôi giúp phán đoán đó dễ đưa ra hơn và dễ bảo vệ hơn, thì chúng đang làm tròn nhiệm vụ. Nếu chúng âm thầm bào mòn phán đoán đó — bằng cách hối thúc, che mờ hoặc khoác lên một phỏng đoán chiếc áo của sự thật — thì chúng đang gây hại, dù bản trình diễn có ấn tượng đến đâu.

Sự khác biệt giữa hiện diện và nắm quyền kiểm soát

Có một khoảng cách đáng kể giữa việc được trình bày một kết quả và việc có khả năng chất vấn nó. Một phát hiện xuất hiện mà không có cách nào để thấy được vì sao nó xuất hiện sẽ dẫn đến một trong hai phản ứng, và cả hai đều không an toàn. Phản ứng thứ nhất là chấp nhận một cách mù quáng: kết quả trông đầy tự tin, hàng đợi thì dài, và bấm nút phê duyệt là con đường ít trở ngại nhất. Phản ứng thứ hai là ngờ vực toàn diện: một khi bác sĩ lâm sàng đã bất ngờ trước một kết quả không được giải thích, thì lựa chọn hợp lý là ngừng hoàn toàn việc dựa vào công cụ, và đến lúc đó nó chỉ còn là một nguồn gây phiền toái đắt đỏ.

Cả hai dạng thất bại này đều không phải lỗi của bác sĩ lâm sàng. Chúng là đặc tính của công cụ. Một kết quả không thể kiểm tra thì không thể được xem xét một cách thực chất, vì vậy thiết kế phải làm cho việc kiểm tra trở thành con đường dễ dàng chứ không phải là một kỳ tích. Điều đó có nghĩa là các kết quả của chúng tôi mang tính tất định và được ghi nhật ký: cùng một đầu vào sẽ cho ra cùng một kết quả, và mọi bước đều có thể được truy ngược về sau. Khả năng nhìn lại chính là thứ biến “tham gia vào vòng lặp” từ một thủ tục hình thức thành một lựa chọn thực sự. Một bác sĩ lâm sàng có thể thấy được một kết luận đã được rút ra như thế nào thì có thể đồng tình với nó, tinh chỉnh nó, hoặc gạt nó sang một bên — và quan trọng là, có thể giải thích cho đồng nghiệp, bệnh nhân hay kiểm toán viên vì sao họ làm vậy.

Hỗ trợ không phải là phán quyết

Cách một kết quả được trình bày cũng quan trọng không kém cách nó được tính toán. Một gợi ý được khoác lên dáng dấp của một phán quyết sẽ âm thầm chuyển trách nhiệm ra khỏi người lẽ ra phải gánh nó. Ngôn ngữ làm điều này; bố cục, các giá trị mặc định và bản thân uy thế của một giao diện gọn gàng cũng vậy. Nếu một màn hình trình bày một kết luận như thể đã ngã ngũ, thì công việc trung thực của việc ra quyết định đã bị đẩy ra khỏi bàn làm việc của bác sĩ lâm sàng trước cả khi họ chạm vào nó.

Vì vậy, chúng tôi cẩn trọng trình bày hỗ trợ đúng như là hỗ trợ — không bao giờ là một quyết định, không bao giờ là điều gì đó đã xảy ra rồi. Bác sĩ lâm sàng đọc, cân nhắc và quyết định; công cụ làm cho việc đó nhanh hơn và được cung cấp thông tin tốt hơn, chứ không tự động hóa nó. Đây không phải là sự khiêm tốn vì chính nó. Đó là cách trình bày duy nhất nhất quán với nơi mà trách nhiệm thực sự thuộc về. Mô hình xác minh-và-phê duyệt xuyên suốt các sản phẩm của chúng tôi chính là biểu hiện thực tiễn của điều này: hệ thống có thể chuẩn bị, soạn thảo, làm nổi bật và điền sẵn, nhưng hành động có giá trị quyết định — sự phê chuẩn — thuộc về một con người có tên tuổi vẫn được tự do thay đổi nó.

Cùng một nguyên tắc, ba lĩnh vực chẩn đoán hình ảnh

Điều này dễ thấy nhất trong các công cụ chẩn đoán hình ảnh tại biên và dạng pod của chúng tôi, nơi cám dỗ để mặc cho tự động hóa chạy trước là mạnh nhất và hậu quả của việc đó là trực tiếp nhất.

Nội soi

Trong nội soi, sự hỗ trợ diễn ra theo thời gian thực, điều đó khiến tính kỷ luật càng trở nên quan trọng hơn. Vai trò của EndoPod là thu hút sự chú ý — làm nổi bật điều gì đó đáng được xem lại lần thứ hai trong quá trình thực hiện thủ thuật và sắp xếp bản ghi hình ảnh về sau. Điều mà nó không làm là quyết định thay cho bác sĩ lâm sàng. Bác sĩ nội soi mới là người đang dõi theo màn hình, là người cầm ống soi trong tay, và là người mà phán đoán của họ quyết định điều gì sẽ xảy ra tiếp theo. Công cụ xứng đáng với vị trí của mình bằng cách làm sắc bén sự chú ý, chứ không phải thay thế cho nó.

Giải phẫu bệnh

Hình ảnh toàn bộ tiêu bản mang lại một nhịp điệu khác. PathoPod làm cho các tiêu bản có thể được xem xét, chia sẻ và giảng dạy — hỗ trợ trình xem trên web được dùng trong đào tạo và tại hội đồng u bướu một cách thuận tiện như khi ký kết thường quy. Ở đây “tham gia vào vòng lặp” có nghĩa là cách đọc của nhà giải phẫu bệnh chính là cách đọc. Nhiệm vụ của nền tảng là làm cho việc đọc đó dễ thực hiện hơn, dễ xem lại hơn và dễ thảo luận với đồng nghiệp hơn, đồng thời giữ cho chuỗi từ mẫu bệnh phẩm đến kết luận luôn rõ ràng. Sự cộng tác là một tính năng; còn việc tự động hóa âm thầm chẩn đoán thì không.

Chẩn đoán hình ảnh

Chẩn đoán hình ảnh thể hiện mô hình xác minh-và-phê duyệt ở dạng rõ ràng nhất. TomoPod có thể chuẩn bị một bản báo cáo bán tự động, nhưng bác sĩ chẩn đoán hình ảnh mới là người xác minh và là người phê duyệt, chấm hết. Một bản nháp là điểm khởi đầu giúp tiết kiệm thao tác gõ phím và làm nổi bật cấu trúc — không bao giờ là một kết luận xuất hiện với sự chấp thuận có sẵn. Bác sĩ chẩn đoán hình ảnh đọc nghiên cứu, sửa những gì cần sửa, và chỉ ký vào những gì họ sẵn sàng đứng ra bảo vệ. Thời gian mà công cụ tiết kiệm được là thời gian được trả lại cho phán đoán, chứ không phải thời gian bị lấy đi khỏi nó.

Myro, và một giọng nói biết rõ vị trí của mình

Cùng một nguyên tắc đó phải sống sót khi tiếp xúc với một trợ lý có tính tác nhân, nơi nó có lẽ là khó giữ vững nhất. Myro hoạt động xuyên suốt quy trình làm việc thông qua giọng nói và văn bản, và một trợ lý càng có năng lực và biết trò chuyện thì càng tự nhiên được tin tưởng — đôi khi nhiều hơn mức nó xứng đáng. Một câu trả lời trôi chảy gợi cảm giác đầy uy tín dù nó có đáng được như vậy hay không.

Vì vậy, Myro được xây dựng để hỗ trợ và để nhường lại. Nó có thể thu thập bối cảnh, soạn thảo, tóm tắt và hành động thông qua các tích hợp mà bác sĩ lâm sàng vốn đã dựa vào, nhưng nó hoạt động dưới sự giám sát và chuyển các bước có hệ quả trở lại cho một con người để xác nhận. Mục tiêu là một trợ lý giúp giảm bớt công việc lặt vặt quanh một quyết định mà không bao giờ âm thầm tự đưa ra quyết định đó. Sự tiện lợi được hoan nghênh; còn sự tiện lợi làm tan rã trách nhiệm thì không, và chúng tôi thà để Myro hỏi còn hơn để nó giả định.

Tiêu chuẩn mà chúng tôi tự đặt ra cho mình

Phiên bản trung thực của “tham gia vào vòng lặp” đòi hỏi nhiều hơn phiên bản tiếp thị, và đó chính là điểm mấu chốt. Nó đòi hỏi nhiều hơn ở công cụ: những kết quả mang tính tất định có thể được truy ngược, cách trình bày từ chối phóng đại, và những quy trình giữ cho hành động mang tính quyết định nằm trong tay con người xuyên suốt nội soi, giải phẫu bệnh, chẩn đoán hình ảnh và trợ lý gắn kết tất cả lại với nhau.

Bác sĩ lâm sàng chịu trách nhiệm về những quyết định mà họ đưa ra. Một công cụ muốn giúp họ thì nên làm cho trách nhiệm đó dễ gánh vác hơn, chứ không khó hơn — và nó không bao giờ được, dù chỉ là do vô tình, lấy đi quyết định khỏi tay họ. Đó không phải là một ràng buộc mà chúng tôi miễn cưỡng chấp nhận. Nó chính là toàn bộ lý do khiến công việc này đáng làm. Chăm sóc tốt hơn đến từ phán đoán được hỗ trợ tốt hơn, và phán đoán chính là điều cần phải giữ cho mang tính con người.