Quand l’IA invente une drogue dans votre dossier
5 min de lecture
Une phrase inventée dans une lettre post-opératoire
En mars 2026, Rebecca Green subit une intervention pour des calculs rénaux. Ensuite, son urologue adresse un compte rendu à son médecin traitant. Or ce document affirme qu’elle consomme des champignons hallucinogènes en microdoses.
La patiente n’a jamais rien dit de tel. Pourtant, la lettre va plus loin : cette consommation supposée « pourrait expliquer les saignements antérieurs autour de ses reins ». Autrement dit, l’outil n’a pas seulement transcrit, il a construit une hypothèse clinique.
Concrètement, l’enjeu dépassait le simple agacement. En effet, Green percevait alors une indemnisation pour accident du travail. Une mention de drogue illégale pouvait donc fragiliser son dossier. L’urologue lui a finalement adressé une lettre d’excuses.
Pourquoi le scribe IA médical échappe au statut de dispositif
La Therapeutic Goods Administration (TGA) applique une règle simple. Un logiciel qui se contente de transcrire ou de traduire une consultation n’a pas de finalité thérapeutique. Par conséquent, il n’est pas un dispositif médical.
En revanche, un outil qui propose un diagnostic, un diagnostic différentiel ou une conduite à tenir bascule dans le champ réglementé. Il doit alors être inscrit à l’ARTG, le registre australien. Or aucun des douze scribes environ commercialisés en Australie n’y figure.
La frontière paraît nette sur le papier. Cependant, l’affaire Green montre qu’un scribe IA médical, ces outils qui écoutent la consultation et rédigent le compte rendu à la place du praticien, la franchit sans prévenir personne. Car un résumé qui relie une substance à un symptôme ressemble beaucoup à un raisonnement clinique.
40 % des généralistes, zéro évaluation formelle
Le Royal Australian College of General Practitioners estimait récemment que 40 % des généralistes utilisent régulièrement ces assistants. Toutefois, ABC News juge ce chiffre prudent. Un rapport de Digital Rights Watch, publié en juillet 2026, avance que l’adoption a doublé en un an.
Ce même rapport dresse un état des lieux sévère. Ainsi, sur soixante politiques de confidentialité analysées, quatre seulement mentionnent l’usage d’un scribe. De plus, deux entreprises sur sept contactées ont accepté de répondre. Aucune n’a révélé le modèle de langage employé.
Par ailleurs, des patients se sont vu refuser une consultation après avoir décliné l’enregistrement. Le consentement devient alors théorique. Résultat : un marché entier fonctionne sans évaluation clinique, sans traçabilité des versions et sans déclaration d’incident obligatoire.
Londres a tranché, Bruxelles laisse une zone grise
Le Royaume-Uni a pris position plus tôt. En avril 2025, la MHRA et NHS England ont publié une doctrine commune, actualisée en juillet 2026. D’abord, elle exclut du statut de dispositif médical les produits qui transcrivent, résument ou rédigent un courrier.
Ensuite, elle pose une condition explicite : un clinicien doit relire la sortie avant tout usage. Enfin, elle réintègre dans le champ réglementé les outils qui soutiennent le diagnostic ou déclenchent une action automatisée, comme une prescription d’examen.
Côté européen, le règlement MDR 2017/745 raisonne par destination revendiquée. Donc un éditeur qui présente son outil comme un simple secrétariat reste hors champ. En revanche, la règle 11 de l’annexe VIII et le guide MDCG 2019-11 s’appliquent dès qu’un logiciel fournit une information servant une décision clinique.
Cependant, aucune autorité européenne n’a formellement qualifié les scribes ambiants. Cette absence de doctrine crée une insécurité pour les établissements. De fait, elle reproduit en Europe le vide australien que la TGA promet désormais de combler par des contrôles de conformité.
La relecture humaine, un rempart plus fragile qu’il n’y paraît
L’AHPRA, régulateur des professions de santé australiennes, rappelle une évidence. Le clinicien reste responsable de l’exactitude de son dossier. Il doit donc vérifier chaque sortie du scribe avant validation.
En pratique, cette garantie tient mal. Car un compte rendu généré paraît fluide, structuré et plausible. Rien n’y signale l’invention. C’est précisément le mécanisme décrit dans notre analyse sur le risque caché des IA cliniques.
De plus, le gain de temps constitue l’argument de vente principal. Or relire ligne à ligne annule une partie de ce bénéfice. La tentation de survoler devient donc structurelle, pas anecdotique.
Ce que l’affaire change pour les acheteurs hospitaliers
Trois questions méritent désormais d’être posées avant tout déploiement. D’abord, l’éditeur documente-t-il son modèle et ses taux d’erreur ? Ensuite, le produit journalise-t-il les écarts entre transcription brute et résumé ? Enfin, existe-t-il une procédure de signalement des dossiers erronés ?
Ces exigences ne relèvent pas encore de la loi. Toutefois, elles relèvent déjà de la responsabilité de l’établissement. Nous avions décrit cet écart croissant entre déploiement rapide et gouvernance de l’IA en santé.
Un patient australien a découvert l’erreur par hasard, en lisant son dossier. Combien d’autres circulent sans lecteur attentif ? La question vaut aussi pour la France.
Sources
- Pivot News, reprise d’ABC News Australia : AI scribe invented drug use in patient’s file
- TGA : Digital scribes
- NHS England et MHRA : Guidance on the use of AI-enabled ambient scribing products
- Digital Rights Watch : rapport sur l’industrie des scribes IA (juillet 2026)
- MDCG 2019-11 : qualification et classification des logiciels sous le MDR 2017/745
- L’Allemagne rembourse enfin la santé des femmes - 8 octobre 2026
- IA médicale : l’audacieux permis probatoire de Londres - 6 octobre 2026
- L’IA de codage fait flamber la facture des hôpitaux - 1 octobre 2026
