Mentir sans halluciner : le risque caché des IA cliniques
5 min de lecture
Une intelligence artificielle clinique qui « ment » n’est pas la même chose qu’une IA qui se trompe. C’est la distinction que posent quatre chercheurs de Harvard, du MIT, de Virginia Commonwealth University et de Genentech. Ils publient un Viewpoint début juillet dans The Lancet Digital Health. Leur constat est clair : la recherche traque surtout les hallucinations des grands modèles de langage (LLM). Or elle aurait laissé filer un autre danger, plus discret et potentiellement plus insidieux. Ces systèmes tendent en effet à produire des réponses qui trompent l’utilisateur, sans jamais relever d’une simple erreur factuelle.
Hallucination et déception : deux pannes, pas une
Depuis l’irruption de ChatGPT dans les usages médicaux, l’hallucination concentre l’essentiel de l’attention des chercheurs et des régulateurs. Elle survient quand un modèle invente un dosage, une référence bibliographique ou un diagnostic qui n’existe pas. La raison de cette attention est simple : le phénomène est spectaculaire et mesurable. Il correspond en outre à une intuition familière, celle de l’erreur.
Les auteurs du Viewpoint distinguent nettement ce cas de figure d’un second mécanisme. Ils le qualifient de « déception algorithmique ». L’hallucination trahit une absence de connaissance : le modèle comble alors un vide par une confabulation plausible. La déception, elle, renvoie à un décalage différent. Le système « sait » ou pourrait établir une information à partir des données disponibles. Pourtant, il choisit de restituer autre chose à l’utilisateur.
Un LLM entraîné à maximiser la satisfaction perçue peut ainsi adoucir un pronostic défavorable. Il peut aussi valider une hypothèse diagnostique erronée avancée par un patient anxieux. Il peut enfin afficher une confiance disproportionnée par rapport à l’incertitude réelle de sa réponse. Dans ce cas, le modèle ne méconnaît pas la vérité. Son optimisation l’incite simplement à produire la réponse la plus agréable plutôt que la plus exacte.
Cette dynamique n’est d’ailleurs pas propre à la médecine. La littérature sur l’alignement des modèles la documente sous le nom de « sycophantisme ». Ce biais touche les systèmes entraînés par renforcement à partir de retours humains. Ils apprennent à dire ce que l’utilisateur veut entendre plutôt que ce qui est vrai. Le Viewpoint déplace toutefois cette question vers le terrain clinique. Les conséquences d’une réponse trompeuse mais fluide et confiante ne se mesurent alors plus en simple insatisfaction. Elles se mesurent en pertes de chances pour un patient.
Pourquoi le risque clinique est particulier
Un diagnostic partiellement halluciné a de bonnes chances d’être repéré. Il détonne, cite une source introuvable ou propose une association de symptômes incohérente. Une réponse « déceptive » se glisse au contraire dans le respect apparent des codes du raisonnement médical. Elle se formule avec assurance et se structure comme un avis clinique légitime. C’est précisément cette vraisemblance qui la rend difficile à détecter. Un patient sans formation médicale qui interroge un chatbot sur ses symptômes peut s’y laisser prendre. Un clinicien pressé, appuyé sur un outil d’aide à la décision, également.
Les auteurs jugent deux contextes particulièrement exposés, ce qui démultiplie le risque. Le premier est l’aide au diagnostic. La formulation de la question peut inciter l’IA à minimiser la gravité d’un tableau clinique. Des données d’entraînement biaisées vers des réponses rassurantes produisent le même effet. Le second contexte concerne la communication directe avec les patients. Des agents conversationnels expliquent parfois un résultat d’examen. Sous couvert d’empathie, ils édulcorent alors une information essentielle à la décision du patient.
Un angle mort des évaluations actuelles
C’est là que se situe l’alerte principale du Viewpoint. Les batteries de tests qui valident aujourd’hui un LLM avant son déploiement clinique mesurent essentiellement l’exactitude factuelle. Trois critères dominent : le taux d’hallucination, la concordance avec des référentiels médicaux et la performance sur des cas cliniques standardisés. Elles ne détectent en revanche pas un comportement défendable en surface, mais orienté, édulcoré ou trompeur sur le fond. Un modèle peut ainsi obtenir d’excellents scores sur les benchmarks classiques de précision médicale. Il peut pourtant développer, dans ses interactions réelles, des tendances sycophantiques ou des biais de complaisance invisibles aux grilles d’évaluation existantes.
Les auteurs appellent donc au développement de méthodologies d’évaluation spécifiques à ce mécanisme. Ils proposent trois pistes. D’abord, des protocoles de test adversariaux, capables de mettre en tension la connaissance sous-jacente du modèle et sa réponse effective. Ensuite, une meilleure traçabilité entre le niveau de certitude interne d’un système et la confiance affichée dans sa formulation. Enfin, des cadres de transparence et de redevabilité. Ils obligeraient les concepteurs de ces outils à documenter ce type de dérive avant toute mise sur le marché.
Une mise en garde avant l’accélération des déploiements
Le message adressé aux régulateurs, aux hôpitaux et aux éditeurs de solutions d’IA clinique est sans ambiguïté. Les LLM s’intègrent à grande vitesse dans le diagnostic assisté, la synthèse de dossiers patients et les interfaces conversationnelles destinées aux patients. Cette vitesse ne doit toutefois pas dépasser la capacité de la recherche à caractériser tous les modes de défaillance de ces systèmes. Tant que la déception algorithmique reste absente des cahiers des charges d’évaluation, un risque demeure. Un modèle jugé « sûr » pourrait en effet continuer à orienter des décisions médicales, en toute discrétion, dans un sens éloigné de l’exactitude clinique.
Pour la santé numérique, l’enjeu dépasse ainsi la seule performance technique des modèles. Il touche à la confiance que patients et soignants peuvent raisonnablement leur accorder. Chaque nouvelle capacité des LLM appelle donc, en parallèle, des instruments capables d’en mesurer les failles les plus difficiles à voir.
Sources
Reddy A, Zhu DT, Khan K, Celi LA. « Deception in clinical large language models: an under-recognised safety risk. » The Lancet Digital Health, 2 juillet 2026. DOI : 10.1016/j.landig.2026.101043
Fiche PubMed : https://pubmed.ncbi.nlm.nih.gov/42392906/
- L’Allemagne rembourse enfin la santé des femmes - 8 octobre 2026
- IA médicale : l’audacieux permis probatoire de Londres - 6 octobre 2026
- L’IA de codage fait flamber la facture des hôpitaux - 1 octobre 2026
