« L’humain dans la boucle » est devenu l’une de ces expressions qui peut signifier à peu près n’importe quoi, ce qui revient à dire qu’elle risque de ne plus rien signifier du tout. Un outil peut techniquement garder une personne dans la boucle tout en lui rendant impossible de faire autre chose que cliquer sur « approuver ». La boucle est présente sur le schéma et absente dans la pratique. Nous pensons que cette expression ne mérite son existence que si l’humain est véritablement en mesure de comprendre, de questionner et d’écarter ce que l’outil propose — non pas présent de façon nominale, mais réellement aux commandes.

C’est une exigence élevée, et c’est voulu. La seule raison pour laquelle un clinicien siège dans la boucle est qu’il porte une responsabilité qu’aucun logiciel ne peut porter à sa place. Un patient n’est pas traité par un modèle ; il est traité par une personne qui a pesé les éléments de preuve et formé un jugement qu’elle est prête à assumer. Si nos outils rendent ce jugement plus facile à atteindre et plus facile à défendre, ils font leur travail. S’ils l’érodent silencieusement — en le précipitant, en l’obscurcissant, ou en déguisant une supposition en fait — ils causent du tort, aussi impressionnante que paraisse la démonstration.

La différence entre être présent et avoir le contrôle

Il existe un écart significatif entre se voir présenter un résultat et pouvoir l’interroger. Une observation qui arrive sans aucun moyen de comprendre pourquoi elle est apparue appelle l’une de deux réactions, et toutes deux sont dangereuses. La première est l’acceptation aveugle : le résultat paraît assuré, la file d’attente est longue, et cliquer sur « approuver » est la voie de moindre résistance. La seconde est la défiance généralisée : une fois qu’un clinicien a été surpris par un résultat inexpliqué, le geste rationnel est de cesser entièrement de se fier à l’outil, qui n’est dès lors qu’une coûteuse source de friction.

Aucun de ces modes de défaillance n’est la faute du clinicien. Ce sont des propriétés de l’outil. Un résultat que l’on ne peut pas examiner ne peut pas être révisé de manière significative ; la conception doit donc faire de l’examen la voie facile plutôt que l’exploit héroïque. Cela signifie que nos résultats sont déterministes et journalisés : la même entrée donne le même résultat, et chaque étape peut être retracée après coup. Pouvoir revenir en arrière est ce qui transforme le fait de « rester dans la boucle » d’une formalité en un véritable choix. Un clinicien qui peut voir comment une conclusion a été atteinte peut y adhérer, l’affiner ou l’écarter — et, point crucial, peut expliquer à un confrère, à un patient ou à un auditeur pourquoi il l’a fait.

L’assistance n’est pas un verdict

La manière dont un résultat est présenté importe autant que la manière dont il est calculé. Une suggestion déguisée en verdict déplace silencieusement la responsabilité hors de la personne qui devrait la porter. Le langage le fait ; la mise en page aussi, tout comme les valeurs par défaut et l’autorité même d’une interface épurée. Si un écran présente une conclusion comme acquise, le travail honnête de la décision a déjà été poussé hors du bureau du clinicien avant même qu’il n’y ait touché.

Aussi veillons-nous à présenter l’assistance comme une assistance — jamais comme une décision, jamais comme quelque chose qui aurait déjà eu lieu. Le clinicien lit, pèse et décide ; l’outil rend cela plus rapide et mieux éclairé, mais pas automatique. Il ne s’agit pas de modestie pour elle-même. C’est la seule présentation cohérente avec l’endroit où réside réellement la responsabilité. Le modèle vérificateur-et-approbateur qui traverse nos produits en est l’expression concrète : le système peut préparer, rédiger, mettre en évidence et préremplir, mais l’acte qui compte — la validation — appartient à une personne nommée qui demeure libre de le modifier.

Le même principe, trois domaines d’imagerie

C’est dans nos outils d’imagerie de périphérie et en pod que cela se voit le plus aisément, là où la tentation de laisser l’automatisation prendre les devants est la plus forte et où les conséquences en sont les plus directes.

Endoscopie

En endoscopie, l’assistance se fait en temps réel, ce qui rend la discipline d’autant plus importante. Le rôle d’EndoPod est d’attirer l’attention — de faire ressortir un élément méritant un second regard pendant l’intervention et d’organiser le dossier d’imagerie par la suite. Ce qu’il ne fait pas, c’est décider au nom du clinicien. L’endoscopiste est celui qui observe l’écran, celui qui tient l’endoscope, et celui dont le jugement détermine ce qui se passe ensuite. L’outil mérite sa place en aiguisant l’attention, non en s’y substituant.

Pathologie

L’imagerie de lame entière apporte un autre rythme. PathoPod rend les lames consultables, partageables et exploitables à des fins pédagogiques — en soutenant la visionneuse web utilisée en formation et en réunion de concertation pluridisciplinaire aussi bien que la validation de routine. Ici, « dans la boucle » signifie que la lecture du pathologiste est la lecture. Le rôle de la plateforme est de rendre cette lecture plus facile à effectuer, à reprendre et à discuter avec des confrères, tout en gardant lisible la chaîne allant du prélèvement à la conclusion. La collaboration est une fonctionnalité ; l’automatisation silencieuse du diagnostic ne l’est pas.

Radiologie

La radiologie montre le modèle vérificateur-et-approbateur sous sa forme la plus claire. TomoPod peut préparer un compte rendu semi-automatisé, mais le radiologue est le vérificateur et l’approbateur, un point c’est tout. Une ébauche est un point de départ qui épargne des frappes et fait ressortir une structure — jamais une conclusion qui arrive déjà bénie. Le radiologue lit l’examen, corrige ce qui doit l’être, et ne signe que ce qu’il est prêt à assumer. Le temps que l’outil fait gagner est du temps restitué au jugement, non du temps qui lui est soustrait.

Myro, et une voix qui sait rester à sa place

Le même principe doit survivre au contact d’un assistant agentique, où il est sans doute le plus difficile à tenir. Myro intervient tout au long du flux de travail par la voix et le texte, et plus un assistant devient capable et conversationnel, plus on lui accorde naturellement sa confiance — parfois plus qu’il ne l’a méritée. Une réponse fluide paraît faire autorité, qu’elle le mérite ou non.

Aussi Myro est-il conçu pour assister et pour s’effacer. Il peut rassembler du contexte, rédiger, résumer et agir au travers des intégrations sur lesquelles un clinicien s’appuie déjà, mais il opère sous supervision et renvoie les étapes lourdes de conséquences à une personne pour confirmation. Le but est un assistant qui réduit les tâches subalternes autour d’une décision sans jamais prendre silencieusement la décision elle-même. La commodité est bienvenue ; la commodité qui dissout la responsabilité ne l’est pas, et nous préférons que Myro demande plutôt qu’il ne suppose.

L’exigence que nous nous imposons

La version honnête de « dans la boucle » est plus exigeante que la version marketing, et c’est là tout l’intérêt. Elle demande davantage à l’outil : des résultats déterministes que l’on peut retracer, une présentation qui refuse d’exagérer, et des flux de travail qui maintiennent l’acte décisif entre des mains humaines, en endoscopie, en pathologie, en radiologie et dans l’assistant qui les relie.

Un clinicien est responsable des décisions qu’il prend. Un outil qui veut l’aider devrait rendre cette responsabilité plus facile à porter, et non plus difficile — et il ne devrait jamais, même par accident, lui retirer la décision des mains. Ce n’est pas une contrainte que nous acceptons à contrecœur. C’est toute la raison pour laquelle ce travail vaut la peine d’être accompli. De meilleurs soins naissent d’un jugement mieux étayé, et le jugement est précisément ce qui doit rester humain.