Intelligence artificielle en santé : pourquoi le contrôle humain reste essentiel

Une IA convaincante peut encore se tromper

Les systèmes d’intelligence artificielle produisent des résultats de plus en plus fluides. Ils peuvent organiser un dossier, analyser une image, proposer une synthèse ou formuler une explication dans un langage naturel. Cette aisance crée facilement une impression d’autorité. Pourtant, une réponse claire n’est pas nécessairement exacte, complète ou adaptée à la personne concernée.

Dans un contexte de santé, cette distinction est fondamentale. Une erreur peut influencer une décision, retarder une orientation ou donner un faux sentiment de certitude. La supervision humaine ne constitue donc pas une formalité ajoutée après la technologie. Elle fait partie du dispositif de qualité. Le professionnel doit comprendre la fonction de l’outil, vérifier les informations pertinentes et rester en mesure de refuser le résultat.

L’IA peut accélérer la préparation d’une information. Elle ne transfère pas la responsabilité de l’interprétation et de la décision.

Distinguer les usages administratifs, informationnels et cliniques

Toutes les fonctions d’IA n’ont pas le même impact. Un outil qui reformate un texte, classe des documents ou propose un brouillon de message n’occupe pas la même place qu’un système qui contribue à une interprétation clinique. La Haute Autorité de santé distingue notamment les technologies sans finalité médicale utilisées pour des fonctions support et les dispositifs numériques intervenant dans le dépistage, le diagnostic ou la décision thérapeutique.

Cette distinction permet d’adapter le niveau de vigilance. Une faute dans un brouillon administratif peut être gênante. Une erreur dans une proposition susceptible d’influencer une prise en charge peut avoir des conséquences beaucoup plus importantes. Le cabinet doit donc cartographier les usages : que fait l’outil, avec quelles données, pour quel utilisateur et à quel moment du parcours ?

Il faut aussi identifier ce que l’outil ne fait pas. Une plateforme peut assister la structuration d’une consultation sans être un dispositif de diagnostic autonome. Une simulation visuelle peut soutenir une explication sans prédire le résultat. Dire clairement ces limites évite d’attribuer au système un statut ou une performance qu’il ne possède pas.

Comprendre les sources possibles d’erreur

Une IA peut se tromper pour plusieurs raisons. Les données d’entrée peuvent être incomplètes, mal cadrées ou sorties de leur contexte. Le modèle peut avoir été développé sur des données qui représentent imparfaitement la population rencontrée. Une mise à jour peut modifier le comportement. Une instruction ambiguë peut produire une réponse trop générale.

Les systèmes génératifs ajoutent un risque particulier : ils produisent la suite la plus plausible selon leur fonctionnement, sans garantir la véracité de chaque affirmation. Ils peuvent inventer une référence, omettre une nuance ou reformuler une incertitude comme une certitude. Leur ton naturel peut rendre ces erreurs difficiles à repérer.

L’utilisateur humain peut lui aussi introduire un biais. Il peut ne lire que le résumé, accepter une proposition parce qu’elle confirme son intuition ou accorder davantage de poids à une sortie présentée avec un score. Le contrôle humain doit donc être organisé de manière à encourager une vraie vérification, pas une validation réflexe.

Ce que signifie une supervision effective

La supervision effective suppose que le professionnel dispose du temps, des compétences et des informations nécessaires pour évaluer le résultat. Il doit pouvoir accéder aux données utiles, comprendre la fonction générale du système et connaître ses principales limites. Il doit enfin avoir le pouvoir réel de modifier ou de rejeter la proposition.

La HAS recommande une supervision humaine pour toute décision individuelle assistée par un système d’IA et souligne l’importance de sa traçabilité. Le niveau de supervision doit être proportionné au risque du cas d’usage. Une fonction de mise en forme ne demande pas le même processus qu’une aide susceptible d’influencer une décision clinique.

Dans une consultation esthétique, cela peut se traduire par des règles simples : aucune synthèse n’est remise avant relecture ; aucune zone suggérée n’est assimilée automatiquement à une indication ; toute simulation est accompagnée de ses limites ; et le plan final porte clairement la validation du professionnel.

Concevoir l’interface pour soutenir l’esprit critique

L’interface influence la manière dont un résultat est perçu. Un bouton « approuver » très visible et une option « modifier » cachée encouragent l’acceptation automatique. Une formulation affirmative donne plus de poids qu’une hypothèse explicitement présentée comme telle. La conception doit donc rendre la révision naturelle.

Il est utile de distinguer visuellement :

• les informations saisies par le patient ou le cabinet ;
• les observations ajoutées par le professionnel ;
• les suggestions ou formulations produites par l’IA ;
• les éléments validés pour le document final.

Une solution responsable permet de corriger chaque section, de revenir à la source et de conserver l’historique des validations importantes. Elle ne cache pas les limites derrière une présentation spectaculaire. Elle utilise la technologie pour rendre l’information plus lisible, pas pour rendre la machine plus impressionnante.

Informer le patient sans créer de confusion

Le patient doit pouvoir comprendre quand et pourquoi une IA intervient. Une information utile précise la fonction générale : aide à l’organisation, analyse assistée d’images, préparation d’une synthèse ou simulation. Elle indique que le professionnel revoit les résultats et qu’aucune décision n’est prise automatiquement si tel est bien le fonctionnement.

Cette transparence ne doit pas devenir un discours technique inaccessible. Quelques phrases claires valent mieux qu’une longue notice incomprise. Le patient doit savoir quelles données sont utilisées, avec quels types de prestataires elles peuvent être traitées et comment exercer ses droits. La CNIL rappelle que l’information relative aux données de santé doit notamment aborder les finalités, les destinataires, la conservation et, le cas échéant, l’existence d’une décision automatisée.

La personne doit enfin pouvoir poser une question simple : « Est-ce votre avis ou celui de l’outil ? » Le professionnel doit être en mesure de répondre et d’expliquer comment le résultat a été utilisé.

Protéger les données utilisées par l’IA

L’usage d’une IA ne suspend pas les principes de protection des données. La finalité doit être définie, les données limitées à ce qui est nécessaire et les accès maîtrisés. Le cabinet doit savoir si les informations sont conservées par le fournisseur, dans quelle région, pour quelle durée et si elles peuvent être réutilisées pour améliorer un modèle.

Une photographie prise pour le suivi ne peut pas être réutilisée librement. La CNIL souligne qu’un consentement à l’usage d’une image pour une finalité ne vaut pas pour une finalité distincte telle que l’entraînement d’une IA. Le cabinet doit donc distinguer le traitement nécessaire au service, l’amélioration technique, la recherche et la communication.

La sécurité quotidienne compte autant que les clauses contractuelles : comptes individuels, droits limités, authentification robuste, liens temporaires pour les documents privés et retrait rapide des accès inutiles.

Former les professionnels et les équipes

Une formation efficace ne se limite pas à montrer où cliquer. Elle explique les cas d’usage autorisés, les erreurs possibles et la conduite à tenir face à un résultat douteux. Elle rappelle les informations qui ne doivent pas être saisies dans un outil non prévu pour les recevoir et les circuits à utiliser pour signaler un incident.

L’équipe peut travailler sur des exemples concrets : synthèse incomplète, image mal cadrée, proposition contradictoire avec une information du dossier, formulation trop affirmative. Ces exercices développent une culture de vérification. Ils montrent aussi que corriger l’IA n’est pas un échec de l’utilisateur, mais une partie normale de son rôle.

La formation doit être actualisée lorsque le système ou ses usages évoluent. Un outil n’est pas figé : modèles, interfaces et prestataires peuvent changer. Le processus de qualité doit suivre ces changements.

Mesurer l’utilité plutôt que l’effet de nouveauté

Une IA ne doit pas être évaluée uniquement sur la vitesse ou l’impression produite en démonstration. Le cabinet peut mesurer des résultats concrets : temps réellement gagné, nombre de corrections nécessaires, qualité des documents, compréhension du patient, incidents et satisfaction des utilisateurs. Il faut aussi observer les effets inattendus, comme une augmentation des tâches de vérification ou une confiance excessive.

Les retours des professionnels doivent conduire à des ajustements. Une fonctionnalité peu fiable peut être limitée ou suspendue. Une formulation ambiguë peut être modifiée. Une étape de validation peut être renforcée. La gouvernance de l’outil continue après son achat.

Une alliance entre capacité technique et responsabilité

L’intelligence artificielle peut apporter une valeur réelle en santé : mieux organiser l’information, soutenir la comparaison, préparer des documents et rendre certaines explications plus accessibles. Mais cette valeur apparaît seulement lorsque l’outil est inséré dans un cadre de travail clair.

Le contrôle humain n’est pas un frein à l’innovation. Il est ce qui permet de l’utiliser avec confiance. Un professionnel formé, informé des limites et capable de tracer sa validation transforme une sortie algorithmique en un élément utile du parcours. Sans cette intervention, la technologie peut produire une apparence de précision sans la prudence indispensable à une décision individuelle.

Sources de référence

• HAS et CNIL — Accompagner le bon usage des systèmes d’IA en contexte de soins
• HAS — Technologies numériques et systèmes d’IA à usage professionnel
• CNIL — Traitement de données de santé : informer les personnes

Ce contenu est informatif et ne constitue ni une qualification réglementaire d’un logiciel ni un avis juridique ou médical.