IA en imagerie médicale : cinq conditions de confiance

Le cahier des charges doit préciser l’examen, la pathologie, la population, l’utilisateur, le moment du parcours et la sortie produite. L’outil attire-t-il l’attention sur une zone ? Propose-t-il une mesure ? Classe-t-il les examens ? Génère-t-il un texte ?

Décrivez ensuite ce que fait le professionnel. Confirme-t-il chaque résultat ? Peut-il ignorer la suggestion ? Comment l’interface présente-t-elle l’incertitude ? Qui agit si l’IA et la lecture humaine divergent ?

Cette clarification détermine le statut réglementaire potentiel. Un logiciel destiné à une finalité médicale peut relever du règlement européen sur les dispositifs médicaux. Le règlement européen sur l’intelligence artificielle ajoute des obligations selon la catégorie et le risque.

Demandez où, quand et comment les données de développement et de validation ont été obtenues. Les performances ont-elles été mesurées sur des données externes, provenant d’autres centres ? Les constructeurs, protocoles, niveaux de prévalence et caractéristiques démographiques ressemblent-ils à votre contexte ?

Une validation rétrospective enrichie en cas positifs peut être utile pour tester une capacité technique, mais elle ne reproduit pas nécessairement la fréquence réelle des anomalies ni les interruptions d’un service clinique. Les valeurs prédictives évoluent avec la prévalence.

Exigez des résultats accompagnés d’intervalles d’incertitude et, lorsque c’est pertinent, des analyses par sous-groupes. Un sous-groupe trop petit ne permet pas de conclure à l’équivalence : l’absence de différence statistique n’est pas une preuve d’absence de biais.

Un outil performant peut dégrader le travail s’il ralentit le poste, multiplie les clics ou présente un signal ambigu. Testez-le avec les utilisateurs réels dans le PACS et le RIS, sur différents horaires et types d’examen.

Observez :

• le temps supplémentaire ou économisé ;
• la compréhension des symboles et scores ;
• la fréquence des interruptions ;
• le risque d’automatisation, c’est-à-dire la tendance à suivre la suggestion sans vérification suffisante ;
• le risque inverse, lorsque des alertes répétitives finissent par être ignorées ;
• la façon dont le résultat est documenté dans le compte rendu.

La formation doit présenter les erreurs connues et les cas hors périmètre, pas seulement les exemples réussis.

« Human in the loop » n’a de sens que si l’humain dispose du temps, des informations et de l’autorité nécessaires. Définissez qui vérifie, à quel moment et selon quelle procédure. Le professionnel doit pouvoir accéder à l’image originale et comprendre la nature du résultat produit.

L’OMS insiste sur l’autonomie, la transparence, la responsabilité, l’inclusion et la durabilité dans l’usage de l’IA en santé. Ces principes se traduisent en opérations : information adaptée, journalisation, mécanisme de contestation, déclaration des incidents et gouvernance des mises à jour.

C’est ainsi que MyTwin pour les cliniciens intègre l’imagerie. Aux côtés du dossier médical, des examens et des traitements, elle fait partie des données à partir desquelles MyTwin construit le jumeau numérique du patient. Ses analyses d’imagerie éclairent le radiologue, qui garde la lecture et le diagnostic. Les modélisations 3D pré-opératoires, réalisées via des applications partenaires spécialisées, suivent la même logique : elles aident le chirurgien à préparer son geste, sans décider à sa place.

Le témoignage du Dr Rahal, chirurgienne digestive, en montre l’enjeu : une variation vasculaire imprévue, découverte en pleine intervention, l’a confortée dans l’intérêt d’une préparation 3D fondée sur l’imagerie. Le geste, lui, reste celui de la chirurgienne.

Les pratiques, équipements et populations changent. Une mise à jour logicielle peut aussi modifier le comportement. Le plan de surveillance doit inclure :

• version du produit et date des changements ;
• disponibilité et temps de réponse ;
• taux de résultats non interprétables ;
• faux positifs, faux négatifs et désaccords examinés sur un échantillon ;
• incidents et presque-accidents ;
• performance par site, appareil et groupe pertinent ;
• impact sur les délais et le travail ;
• critères de suspension.

La déclaration TRIPOD+AI et l’outil PROBAST+AI fournissent des repères pour rapporter et évaluer les modèles prédictifs. Ils ne remplacent pas l’évaluation réglementaire, mais aident à repérer les informations manquantes et les risques de biais.

1. Quelle décision ou tâche le produit soutient-il exactement ?
2. Quelle version a été évaluée ?
3. Sur quelle population et quels équipements ?
4. Existe-t-il une validation externe et prospective ?
5. Quels cas sont exclus ?
6. Comment l’incertitude est-elle montrée ?
7. Qui reste responsable de la lecture et de l’action ?
8. Comment les erreurs et incidents sont-ils signalés ?
9. Que se passe-t-il après une mise à jour ?
10. Quels résultats cliniques ou organisationnels seront mesurés localement ?