En santé, l’intelligence artificielle peut proposer un diagnostic ou un traitement, mais le soignant garde le dernier mot. Encore faut-il qu’il puisse repérer et corriger les erreurs de la machine. Une étude publiée par Di Zeng et ses collègues dans npj Digital Medicine examine cette question. Pour cette nouvelle note des « Mardis de l’innovation en santé », nous défendons une exigence simple : avant d’utiliser ces outils, puis tout au long de leur utilisation, vérifier que les professionnels disposent des informations, des compétences et du temps nécessaires pour les contrôler. Une signature ne décrit pas un contrôle Imaginons un exemple, proposé ici pour illustrer le problème. Une IA prépare une synthèse de sortie et indique qu’aucun contrôle biologique supplémentaire n’est nécessaire. Le document paraît cohérent. Pour vérifier cette conclusion, le médecin doit retrouver les résultats, les traitements et les recommandations initiales. Si ces informations sont dispersées, valider le texte peut prendre quelques secondes alors que le contrôler exige plusieurs minutes. La question n’est pas de mettre en doute la compétence du professionnel. Elle consiste à définir ce que l’organisation lui demande de faire et à vérifier qu’il peut le faire. Relire une formulation, contrôler les faits qu’elle contient et apprécier la conduite proposée sont trois tâches différentes. Un circuit de validation devrait préciser laquelle est attendue, sur quelles informations elle repose et dans quel délai elle doit être accomplie. Cette distinction est particulièrement utile lorsque l’IA promet un gain de temps. L’évaluation devrait compter le temps de production et celui de vérification, puis examiner où le travail se déplace. Une minute économisée lors de la rédaction ne suffit pas à décrire l’effet sur une équipe si elle crée ailleurs une recherche documentaire ou une demande d’avis. Ce que montre la revue de Zeng et ses collègues Publiée le 23 octobre 2026, cette revue réunit 46 publications correspondant à 41 ensembles de cohortes indépendants, dont 40 constituent l’analyse principale. Elle examine les réactions des professionnels à des recommandations automatisées erronées, depuis les aides conventionnelles jusqu’aux modèles de langage [1]. Dans quatre études en pratique réelle sur l’interprétation informatisée des électrocardiogrammes (ECG), la proportion combinée d’erreurs non corrigées ou non reconnues atteint 26,6 %. L’intervalle de confiance à 95 % ou d'incertitude est très large, de 6,4 % à 65,6 %, et l’hétérogénéité très élevée (I² = 95,8 %). Ce chiffre n’est donc ni un taux général d’échec de la supervision ni une estimation applicable aux IA génératives. Les études contemporaines sur ces dernières sont trop diverses pour être regroupées [1]. La qualité des preuves appelle également à la prudence : parmi les 40 cohortes principales, 26 suscitent des préoccupations méthodologiques élevées et aucune n’est classée à faible préoccupation. Des événements indésirables chez les patients ne sont rapportés que dans une cohorte rétrospective, sans démonstration causale. La revue documente une vulnérabilité ; elle ne mesure pas un risque universel d’accident [1]. Cela veut dire que la supervision humaine doit devenir une variable ou un résultat mesuré ! Le prolongement de nos précédents « Mardis de l’innovation en santé » Le 27 octobre, dans « IA en santé : la supervision humaine ne se décrète pas, elle s’organise », nous analysions la contribution de l’American Medical Association à une réflexion de la FDA. Il s’agissait d’une position professionnelle, et non d’une nouvelle réglementation. Nous y insistions sur le temps, les compétences, les informations et les responsabilités nécessaires à une supervision effective [2]. La présente réflexion propose une étape supplémentaire : à ces conditions d’organisation, ajoutons une démonstration de fonctionnement. Il faut pouvoir observer ce que le contrôle humain intercepte et ce qu’il laisse passer. Le 13 octobre, notre note « IA en santé : savoir répondre, mais aussi remettre en question une consigne » portait sur les réactions de modèles de langage à des demandes dangereuses. [3] Les deux questions se complètent, sans se confondre. Dans ce premier travail, l’évaluation concernait le comportement du modèle face à une instruction ; ici, elle porte sur le professionnel confronté à une recommandation. Rendre un modèle plus prudent et permettre à son utilisateur de le contester doivent être examinés séparément, puis ensemble. Dès le 28 juillet, l’entretien avec le Pr Cécile Badoual, « Le soignant augmenté : gagner du temps sans perdre le doute », abordait le jugement médical et la transmission des compétences en anatomopathologie. [4] Nous pouvons aujourd’hui traduire cette exigence en objectif de formation : apprendre à identifier un désaccord, à rechercher les éléments qui permettent de le résoudre et à justifier la décision retenue. Enfin, le 25 août sur l’IA comme copilote médical nous parlions de l’évaluation en conditions réelles et la distinction entre performance technique et utilité clinique [5]. Pour poursuivre cette démarche, nous proposons d’étudier la décision avant et après assistance, puis ses effets sur le parcours. Une moyenne de bonnes réponses ne décrit pas à elle seule la qualité de chaque interaction. Évaluer les désaccords avant le déploiement Pour un établissement, une première proposition serait de tester l’outil avec les professionnels qui devront l’utiliser. L’exercice devrait comprendre des cas ordinaires et des situations plus difficiles : donnée manquante, résultat contradictoire, recommandation plausible mais inadaptée. Ces erreurs seraient introduites dans un environnement d’évaluation sécurisé, sans exposer de patient à une décision expérimentale dangereuse. Dans ces exercices, il serait utile de recueillir d’abord l’appréciation du professionnel, puis la décision après affichage de l’aide. Cette séquence permettrait d’examiner les corrections apportées par l’outil et les décisions initialement appropriées qu’il conduit à modifier. Elle ne constitue pas une procédure à imposer à chaque consultation : c’est une méthode à adapter au protocole d’évaluation. Le suivi devrait aussi porter sur la vérification elle-même. Quelles données ont été consultées ? Combien de temps a pris le contrôle ? Une seconde expertise a-t-elle été nécessaire ? L’utilisateur a-t-il pu suspendre l’action ? Ces informations aideraient à distinguer un refus argumenté d’une simple méfiance, et une acceptation vérifiée d’une validation rapide. Nos critères d’évaluation devraient associer sécurité et utilité. Solliciter systématiquement un spécialiste pourrait sembler rassurant, tout en créant une charge que le service ne peut absorber. À l’inverse, supprimer presque toutes les sollicitations pourrait masquer des situations importantes. Le niveau de contrôle doit être défini selon la tâche, les conséquences possibles de l’erreur et les ressources effectivement disponibles. En biologie médicale, rendre la vérification possible Prenons un autre exemple, distinct des résultats de la revue : un logiciel propose un commentaire interprétatif à partir d’un bilan biologique. Le biologiste devrait pouvoir retrouver les résultats utilisés, leur date, leurs unités et les données cliniques disponibles. Une conclusion fondée sur un résultat ancien ou sur un contexte incomplet devrait pouvoir être repérée avant sa transmission. Nous proposons donc que la vérifiabilité entre dans le cahier des charges. L’interface devrait permettre de distinguer les données effectivement disponibles, les informations manquantes et les éléments produits par le modèle. Le professionnel devrait également savoir si un changement de version modifie le périmètre d’utilisation ou les conditions de validation. Cette exigence rejoint notre note « Données de santé : le socle invisible de l’innovation », publiée le 1er septembre. Nous y rappelions l’importance de données qualifiées, documentées et exploitables [6]. Au laboratoire, l’accès à la source est une condition pratique de la relecture. Une synthèse rapide n’a pas la même valeur qu’une interprétation dont les éléments peuvent être retrouvés et confrontés au contexte du patient. L’enjeu s’étend à la prévention. Si une IA propose de ne pas relancer une personne ou de différer un examen, le professionnel devrait pouvoir comprendre les informations qui ont conduit à cette proposition et demander une réévaluation. Le résultat à mesurer serait alors la continuité du suivi : l’orientation a-t-elle été discutée, le rendez-vous obtenu et la situation prise en charge ? Former les équipes et financer le travail réel Une formation utile devrait partir des usages du service. Elle pourrait associer médecins, biologistes, infirmiers, techniciens, responsables qualité et équipes numériques autour de dossiers adaptés à leurs missions. Il faudrait y travailler la consultation des sources, la formulation d’un désaccord, le recours à un avis et le signalement d’un problème. La familiarité avec un chatbot ne peut tenir lieu de formation à la validation d’un outil clinique. Les établissements devraient prévoir les moyens de ces exercices, puis ceux du suivi après déploiement. Cela comprend le temps de vérification, l’analyse des incidents, l’accès à l’expertise et la réévaluation lorsque l’outil évolue. Ces coûts doivent entrer dans l’appréciation économique de l’innovation. Le prix du logiciel et le temps de rédaction économisé ne suffisent pas à décrire son coût d’usage. Les engagements des concepteurs devraient être précis : tâches prévues, limites connues, informations permettant le contrôle, gestion des modifications et procédure de signalement. L’établissement devrait, de son côté, organiser le circuit de décision et les possibilités de recours. Cette proposition d’organisation ne préjuge pas de l’attribution juridique d’une responsabilité dans un cas individuel ; elle vise à éviter que la mention d’un contrôle humain remplace la description du travail attendu. Il faudrait enfin préserver un accès au soin pour les patients qui ne peuvent pas utiliser ces dispositifs ou dont les informations sont incomplètes. Un parcours assisté par IA devrait prévoir comment demander une explication, corriger une donnée et solliciter un professionnel. Ces possibilités devraient être testées avec les usagers, au même titre que les fonctions destinées aux équipes. Faire de la supervision un objectif vérifiable Pour ce nouveau « Mardi de l’innovation en santé », nous proposons de faire entrer la capacité de correction dans l’évaluation du système de soins assisté par IA. Avant de déployer un outil, demandons comment une erreur pourra être repérée. Pendant son utilisation, observons ce qui est effectivement vérifié. Lorsqu’une difficulté apparaît, donnons aux équipes les moyens de la signaler et d’adapter le dispositif. L’ambition reste d’améliorer le soin et de rendre du temps aux patients. Pour y parvenir, le jugement professionnel doit pouvoir s’exercer sur des informations accessibles, avec une expertise disponible et un temps de contrôle réaliste. La supervision humaine devient une protection lorsque l’organisation permet d’identifier une proposition erronée et d’en empêcher les conséquences. C’est cette capacité que nous devons apprendre à démontrer. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 10 novembre pour la prochaine note « Les mardis de l’innovation en santé » Références : [1] Zeng D, Lei J, Li Z. Human oversight of erroneous clinical AI and decision support a systematic review and meta analysis. npj Digital Medicine. Publication en ligne le 23 octobre 2026, version acceptée avant mise en forme définitive. DOI : 10.1038/s41746-026-03408-5. https://www.nature.com/articles/s41746-026-03408-5 [2] Smadja D, Behr L. IA en santé : la supervision humaine ne se décrète pas, elle s’organise. Les Mardis de l’innovation en santé, 27 octobre 2026. https://www.lelaboratoiredelarepublique.fr/debattre/ia-en-sante-la-supervision-humaine-ne-se-decrete-pas-elle-sorganise/ [3] Smadja D, Behr L. IA en santé : savoir répondre, mais aussi remettre en question une consigne. Les Mardis de l’innovation en santé, 13 octobre 2026. https://www.lelaboratoiredelarepublique.fr/debattre/ia-en-sante-savoir-repondre-mais-aussi-remettre-en-question-une-consigne/ [4] Smadja D, Behr L. Le soignant augmenté : gagner du temps sans perdre le doute. Entretien avec le Pr Cécile Badoual. Les Mardis de l’innovation en santé, 28 juillet 2026. https://www.lelaboratoiredelarepublique.fr/debattre/le-soignant-augmente-gagner-du-temps-sans-perdre-le-doute/ [5] Smadja D, Behr L. L’IA comme copilote médical : après les performances des algorithmes, l’heure des essais cliniques ! Les Mardis de l’innovation en santé, 25 août 2026. https://www.lelaboratoiredelarepublique.fr/debattre/lia-comme-copilote-medical-apres-les-performances-des-algorithmes-lheure-des-essais-cliniques/ [6] Smadja D, Behr L. Données de santé : le socle invisible de l’innovation. Les Mardis de l’innovation en santé, 1er septembre 2026. https://www.lelaboratoiredelarepublique.fr/debattre/donnees-de-sante-le-socle-invisible-de-linnovation/

L’intelligence artificielle s’installe progressivement dans le quotidien des professionnels de santé. Elle promet de faciliter l’accès à l’information, d’alléger certaines tâches administratives et d’accompagner la prise de décision médicale. Mais à mesure que ces outils prennent place dans les pratiques de soin, une question essentielle émerge : comment garantir que l’humain reste réellement maître des décisions ? Car la présence d’un médecin devant un écran ne suffit pas à garantir une utilisation sûre de l’IA. Encore faut-il qu’il dispose du temps, des compétences et des informations nécessaires pour comprendre une recommandation, en vérifier les fondements et, si besoin, la contester. Dans une contribution adressée à la Food and Drug Administration (FDA), l’American Medical Association (AMA) rappelle que cette supervision humaine ne peut être une simple exigence de principe : elle doit être concrètement possible, démontrable et soutenue par des moyens adaptés. Ce nouveau numéro des Mardis de l’innovation en santé nous invite ainsi à dépasser la seule question de la performance technologique pour interroger les conditions réelles d’intégration de l’IA dans les organisations de soins. Car, au fond, le véritable enjeu n’est pas seulement de maintenir un humain dans la boucle, mais de lui donner les moyens d’y exercer pleinement son jugement. Imaginons une situation de travail, proposée ici à titre d’illustration. Une IA prépare la synthèse d’un dossier et une proposition de suivi. Le texte est clair, les informations paraissent cohérentes, la conclusion rassurante. Une surveillance biologique importante a pourtant disparu du résumé. Un médecin est invité à valider. A-t-il accès au document initial ? Peut-il repérer l’omission sans reconstruire tout le dossier ? Dispose-t-il du temps nécessaire alors que d’autres patients attendent ? Et que devient cette étape lorsque les validations se comptent par dizaines ? Ces questions déterminent la valeur clinique du dispositif. Un système peut produire rapidement une réponse convaincante et imposer un travail de vérification considérable. Il peut aussi améliorer réellement la prise en charge si ses limites sont connues, ses résultats vérifiables et son intégration adaptée au service. Pour le patient, ce qui compte est la qualité de la décision finale et du suivi qui en découle. Dans les Mardis de l’innovation en santé, nous avons déjà abordé la nécessité de tester les réactions des modèles face aux demandes inappropriées. Le débat ouvert par la FDA prolonge cette réflexion : après la sécurité des réponses, il faut examiner les conditions de leur utilisation. L’enjeu est de savoir ce que le fabricant doit démontrer, ce que le professionnel peut effectivement contrôler et comment l’établissement organise cette coopération. Un document de discussion et une position professionnelle Le 23 octobre 2026, l’American Medical Association, organisation professionnelle médicale américaine, présente dans son bulletin d’actualité sa contribution transmise à la FDA le 16 octobre. La lettre, signée par John Whyte, répond au document du Center for Devices and Radiological Health consacré aux dispositifs médicaux intégrant de l’IA générative [1, 2]. Le statut des textes mérite d’être précisé. Le document de la FDA est un support de discussion et d’appel à contributions. Il indique expressément qu’il ne constitue ni une recommandation provisoire ni une recommandation définitive, et qu’il n’instaure pas de nouvelles règles. La lettre de l’AMA formule des positions et des demandes. Ces documents ne sont donc ni une étude clinique démontrant un bénéfice, ni une réglementation nouvellement adoptée. [1, p. 1 ; 2] Leur périmètre est également délimité. La FDA rappelle qu’elle réglemente les produits relevant de la définition du dispositif médical, et non l’IA en tant que technologie. Tous les assistants conversationnels ou logiciels utilisés dans un hôpital ne relèvent donc pas automatiquement du champ étudié. La réflexion peut néanmoins éclairer leur évaluation et leur organisation, à condition de ne pas confondre cette transposition avec une qualification réglementaire. [1, p. 4–5] La FDA cherche à adapter les méthodes d’évaluation à des outils dont les entrées et les réponses peuvent être très variables. L’AMA soutient une approche proportionnée aux risques, couvrant toute la vie du produit, tout en fixant une exigence : la difficulté de tester une technologie ne doit pas justifier une démonstration insuffisante de sa sécurité et de son efficacité. [1, p. 1–3 ; 2, p. 1–2] Évaluer ce que le dispositif fait réellement Le document de la FDA propose d’explorer une grille à deux axes. Le premier décrit l’activité du dispositif et le degré d’indépendance avec lequel il oriente ou réalise une action. Le second concerne la gravité des conséquences possibles d’une réponse erronée. Il s’agit d’un outil de réflexion, pas d’une classification réglementaire nouvelle. [1, p. 5–8] Cette approche aide à distinguer des usages souvent réunis sous le même terme d’« assistant ». Fournir une information générale, recommander une conduite personnalisée et déclencher une action ne soulèvent pas les mêmes questions. La gravité d’une erreur dépend aussi de la décision concernée, de son caractère réversible et du délai disponible pour la corriger. La frontière peut évoluer au cours d’une conversation. Un outil commence par expliquer les effets indésirables d’un traitement, puis répond à des questions de plus en plus personnelles, jusqu’à suggérer de modifier ou d’interrompre ce traitement. Évaluer seulement la première réponse manquerait alors le comportement le plus conséquent. L’AMA demande que l’évaluation couvre des trajectoires conversationnelles réalistes et les fonctions les plus risquées raisonnablement prévisibles dans l’usage considéré. [2, p. 7] Les avertissements génériques ne règlent pas cette difficulté. La FDA envisage qu’une information orientant une action ne devienne pas moins directive parce qu’elle se termine par une invitation à consulter un médecin. L’AMA soutient cette lecture et demande que l’efficacité d’un avertissement présenté comme mesure de réduction du risque soit démontrée auprès des utilisateurs concernés. Le ton prudent ne suffit pas à neutraliser la conduite suggérée. [1, p. 7 ; 2, p. 5] L’enjeu est donc d’évaluer les fonctions et leurs conséquences prévisibles. Une formule commerciale comme « aide à la décision » ne permet pas, à elle seule, de déterminer la place réelle du logiciel dans le soin. La supervision doit être possible dans le travail quotidien Le point central de la lettre de l’AMA est particulièrement utile : la présence d’un professionnel ne doit pas être présumée réduire le risque. Si la supervision est utilisée comme mesure de sécurité, son efficacité et sa faisabilité doivent être démontrées dans l’environnement auquel le dispositif est destiné. [2, p. 3–4] Cela suppose d’abord l’accès aux informations nécessaires. Le soignant doit pouvoir retrouver les sources pertinentes, identifier les limites connues et comprendre ce que la proposition permet ou ne permet pas de conclure. Une explication formulée avec assurance ne vaut pas preuve d’exactitude. L’AMA précise d’ailleurs que l’explicabilité ne remplace pas les autres méthodes de démonstration de sécurité et d’efficacité. [2, p. 3] La compétence attendue doit ensuite correspondre au professionnel qui utilisera réellement le dispositif. Un outil destiné à aider un généraliste ne peut être considéré comme sûr uniquement parce qu’un spécialiste reconnaît ses erreurs. Si une expertise spécialisée est indispensable à son contrôle, cette condition doit être explicite et intégrée à l’évaluation. L’objectif d’élargir l’accès à une expertise reste pertinent ; encore faut-il démontrer que l’outil y contribue avec ses utilisateurs prévus. [2, p. 6, 8–9] La formation et le temps de travail sont tout aussi déterminants. Une évaluation dans laquelle les médecins disposent d’un temps supplémentaire, de documents enrichis ou d’un accompagnement indisponible en pratique peut surestimer la sécurité après déploiement. L’AMA demande de reproduire les contraintes de l’usage attendu, notamment le temps de lecture, les informations présentées et les conditions de validation. [2, p. 9] Enfin, le professionnel doit pouvoir agir. Il faut pouvoir contester une réponse, la modifier, demander un avis ou interrompre une action. Une étape de validation qui intervient trop tard, ou qui ne permet pas de revenir sur la proposition, n’offre qu’un contrôle limité. L’AMA inclut aussi les ressources et la rémunération du travail de supervision parmi les conditions à examiner. [2, p. 3] Nous en tirons une conséquence pour l’organisation hospitalière : la mention « validation médicale » devrait correspondre à une tâche définie, avec un responsable, un délai réaliste et une possibilité d’intervention effective. Elle ne peut rester une case ajoutée au circuit informatique. Tester le dispositif complet et la coopération avec les soignants La FDA envisage une évaluation en deux composantes : des tests structurés des capacités du dispositif, puis une confirmation clinique adaptée à son usage. Le produit à évaluer serait celui effectivement déployé, dans sa configuration d’utilisation, et non le seul modèle de fondation sur lequel il repose. [1, p. 11–15] Cette distinction est essentielle. La réponse dépend du modèle, mais aussi des consignes, des documents consultés, des outils accessibles, des règles de sécurité et de l’interface. Un résultat obtenu avec un modèle isolé ne décrit donc pas nécessairement le comportement du dispositif installé dans un service. Les domaines de test envisagés par la FDA dépassent les connaissances médicales. Ils incluent la reconnaissance des situations nécessitant une intervention, le respect des limites d’usage, l’expression de l’incertitude, la qualité de la communication, la robustesse aux variations des informations reçues et les performances dans différents sous-groupes. Pour les systèmes capables d’agir, des compétences supplémentaires concernent la planification et l’exécution des tâches. [1, p. 12, 24–26] La confirmation clinique ne correspondrait pas obligatoirement à un essai prospectif pour chaque dispositif. La FDA discute plusieurs possibilités : analyse rétrospective de dossiers, fonctionnement en parallèle sans influence sur les soins, interactions avec des patients standardisés, appréciation de cas réels par des cliniciens indépendants, ou étude prospective, parfois randomisée. Le choix devrait dépendre de l’usage et du risque. Présenter ce document comme une exigence générale d’essais randomisés serait donc inexact. [1, p. 14–16] Chaque méthode répond à une question différente. Un fonctionnement en parallèle, dont les résultats ne sont pas montrés aux équipes, peut documenter les réponses produites dans un environnement réel. Par construction, il ne permet pas d’observer comment les soignants changent leurs décisions en les lisant. Une évaluation de la coopération doit donc examiner cette interaction lorsque la sécurité en dépend. Pour un outil d’aide au suivi, nous proposons de mesurer les omissions importantes, les orientations inappropriées, les erreurs détectées et celles qui subsistent après validation. Il faudrait aussi documenter le temps de vérification et les conséquences sur les autres tâches. Le taux d’acceptation des propositions ne suffit pas à établir leur qualité : accepter peut traduire une aide pertinente, mais aussi un contrôle insuffisant. Qui assume la responsabilité du produit et de son utilisation L’AMA défend une ligne claire : la contribution des médecins à l’évaluation ne doit pas transférer vers eux la responsabilité de la performance du produit. Elle demande que les fabricants démontrent et maintiennent la sécurité et l’efficacité de leurs dispositifs, y compris lorsque celles-ci dépendent d’interactions avec les utilisateurs. [2, p. 2–3, 7–8] Ce principe ne signifie pas que le professionnel n’aurait plus de responsabilité dans sa décision, ni que l’établissement serait dispensé d’organiser un usage approprié. Il invite à distinguer les contributions. Pour notre réflexion, le fabricant doit documenter le produit et ses conditions d’utilisation ; l’établissement doit vérifier qu’il peut réunir ces conditions ; le professionnel exerce son jugement dans ce cadre et doit disposer des moyens d’alerter lorsqu’il ne fonctionne pas. Cette répartition est une proposition de gouvernance. Elle ne tranche pas l’attribution juridique d’une faute ou d’une indemnisation dans un cas particulier, et les positions américaines ne constituent pas une règle directement applicable en France. La question opérationnelle demeure toutefois incontournable : aucune partie ne devrait compter sur une autre pour assumer un contrôle qui n’a pas été défini. Les dispositifs construits sur des modèles fournis par des tiers compliquent cette organisation. Une modification du modèle sous-jacent peut changer les réponses sans que le service hospitalier ait modifié son usage. La FDA interroge donc les moyens techniques et contractuels permettant au fabricant du dispositif de détecter, évaluer et gérer ces changements. [1, p. 20–22] Pour les établissements, nous proposons que l’achat précise les versions utilisées, les modalités d’information sur les mises à jour et les situations nécessitant une nouvelle évaluation. Il faut également prévoir comment suspendre une fonction et assurer la continuité de l’activité. La dépendance technique à plusieurs fournisseurs doit être documentée, plutôt que découverte au moment d’un incident. Surveiller les évolutions sans reporter la preuve sur les patients La FDA pose une question sensible : pourrait-on accepter davantage d’incertitude avant commercialisation en renforçant la surveillance après déploiement ? L’AMA s’oppose à réduire le niveau de preuve nécessaire à une assurance raisonnable de sécurité et d’efficacité sur cette seule hypothèse. Elle considère que les données recueillies après commercialisation doivent compléter les preuves initiales. [1, p. 19 ; 2, p. 11] La nuance compte. Aucun protocole ne peut éliminer toute incertitude ni reproduire chaque conversation possible. Mais les limites prévisibles, les principaux modes d’échec et les conditions d’utilisation doivent être suffisamment caractérisés avant l’exposition des patients. Détecter un dommage après sa survenue ne remplace pas sa prévention. La surveillance reste ensuite indispensable. La FDA discute la répétition de tests, la revue d’échantillons de situations réelles par des cliniciens et la recherche de dégradations des performances. L’AMA demande que cette revue inclue particulièrement les interactions sensibles, notamment les demandes d’avis et les situations où les professionnels ont corrigé ou rejeté une proposition. Une moyenne globale pourrait masquer des erreurs rares mais graves. [1, p. 19–20 ; 2, p. 12] L’AMA souhaite aussi que les événements surveillés ne se limitent pas aux dommages immédiatement identifiables. Des réponses anormales, des quasi-accidents ou une évolution des erreurs peuvent constituer des signaux utiles. Elle propose d’étudier une capacité nationale de surveillance associant données des fabricants, signalements standardisés et expertise clinique. Il s’agit là encore d’une demande, pas d’un dispositif annoncé comme opérationnel. [2, p. 13] Pour nous, un signalement doit déboucher sur une réponse identifiable : analyse, correction, information des utilisateurs ou suspension si nécessaire. La fréquence de réévaluation devrait suivre le risque et les changements observés. Une nouvelle population, une modification de l’interface ou une mise à jour du modèle peuvent justifier de réexaminer des résultats auparavant satisfaisants. Les agents autonomes rendent les points de contrôle décisifs Les systèmes dits agentiques peuvent planifier des tâches successives, utiliser des outils externes et exécuter des actions. La FDA les distingue des dispositifs se limitant à produire une réponse et sollicite des contributions spécifiques. L’AMA demande une vigilance et des évaluations renforcées, en soulignant les incertitudes sur leur préparation à l’usage clinique. [1, p. 22–23, 26 ; 2, p. 14] Le problème devient celui d’une séquence. Une interprétation initiale peut orienter la recherche d’informations, puis la proposition suivante et enfin une action. L’annexe de la FDA envisage de tester les erreurs d’outils, le respect des validations humaines avant des actions importantes et la résistance aux instructions malveillantes présentes dans des contenus consultés. [1, p. 26] Nous proposons donc que les droits d’action soient explicites : ce que le système peut préparer, ce qu’il peut transmettre et ce qu’il ne peut exécuter sans validation. Les étapes irréversibles ou à conséquences élevées doivent faire l’objet d’un contrôle adapté. Un bouton d’arrêt n’est utile que si le professionnel sait quand l’utiliser et s’il peut intervenir avant que l’action ne produise ses effets. Financer la supervision et préserver un accès équitable Le financement occupe une place importante dans la contribution de l’AMA. Celle-ci demande que les fabricants organisent et financent la participation clinique nécessaire à la surveillance de leurs produits. Elle refuse que les médecins absorbent gratuitement une fonction permanente de contrôle après commercialisation. [2, p. 12–13] Pour un établissement, cette exigence invite à examiner le coût complet de l’innovation. Le prix du logiciel ne résume pas celui de son utilisation. La formation, l’intégration informatique, les vérifications, la gestion des alertes et l’analyse des incidents mobilisent des ressources. Nous proposons que ces éléments soient intégrés à l’évaluation économique dès le départ. Un gain de temps doit ainsi être apprécié après prise en compte du travail supplémentaire. Une synthèse produite rapidement peut être utile, mais sa valeur dépend du temps nécessaire pour la contrôler et de la fiabilité de la décision qu’elle permet. L’objectif est de rendre du temps disponible pour le soin, sans organiser un transfert invisible vers d’autres professionnels. L’accès aux soins pose une seconde question. L’AMA reconnaît qu’il est pertinent de comparer un dispositif aux possibilités réellement accessibles aux patients, notamment lorsque l’avis spécialisé est retardé. Elle met néanmoins en garde contre un abaissement automatique des exigences pour les populations déjà défavorisées. Le manque de ressources ne devrait pas normaliser une offre de moindre qualité. [2, p. 9–10] Cette réflexion s’applique à la prévention. Une IA pourrait repérer un suivi interrompu, préparer une information adaptée ou faciliter une orientation. Son utilité devra être appréciée jusqu’à la réponse apportée : information comprise, contact effectif, rendez-vous accessible et continuité du suivi. Nous proposons de vérifier ces résultats dans les populations les plus éloignées du système de santé, et pas seulement chez les utilisateurs les plus à l’aise avec le numérique. Orienter plus souvent vers un professionnel n’est pas nécessairement une erreur ; cela peut être indispensable. Mais une multiplication d’alertes sans destinataire disponible ne constitue pas une amélioration du parcours. La FDA discute précisément les risques associés à une orientation insuffisante comme à une orientation excessive. Leur équilibre doit être évalué selon la situation clinique. [1, p. 8–10] Une exigence concrète pour les prochaines innovations À partir de ces textes, il est proposé que tout projet d’IA ayant une incidence sur les décisions de soins réponde, avant son déploiement, à quelques questions explicites. Pour quelle tâche et quelle population a-t-il été évalué ? Quelles erreurs importantes ont été recherchées ? Qui vérifie quoi, dans quel délai et avec quelles informations ? Qui finance cette vérification ? Que se passe-t-il lorsque le dispositif change ou qu’un signal de risque apparaît ? Les réponses devraient associer les professionnels concernés, les responsables de la qualité et du numérique, les patients et les concepteurs. Elles permettraient de définir un déploiement progressif, des critères d’arrêt et une réévaluation proportionnée au risque. Les indicateurs devraient porter sur les erreurs cliniquement importantes, les délais, la charge de travail, la compréhension des patients et les inégalités d’accès, en complément des performances techniques. Le débat américain ne fournit pas une solution prête à transposer. Il rend cependant visible une condition souvent laissée implicite : la sécurité d’une IA dépend aussi du travail nécessaire pour l’utiliser correctement. Ce travail doit être étudié, organisé et financé. La supervision humaine ne se décrète pas, elle s’organise. Pour qu’elle protège réellement le patient, le professionnel doit pouvoir comprendre, vérifier et intervenir. Le fabricant doit apporter les preuves correspondant à l’usage proposé et entretenir cette démonstration dans le temps. L’établissement doit disposer des moyens d’intégrer le dispositif sans fragiliser le soin. C’est à ces conditions que l’IA pourra devenir une aide durable aux équipes et à la prévention. Références et repères de lecture [1] U.S. Food and Drug Administration, Center for Devices and Radiological Health. Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback. Document de discussion transmis pour cette note. Les pages citées correspondent à la pagination imprimée 1 à 30, après la page de couverture. Statut et périmètre : p. 1–5 ; risque : p. 5–10 ; évaluation : p. 10–18 ; surveillance et modifications : p. 19–22 ; agents : p. 22–23 et 26 ; compétences : p. 24–26. [2] American Medical Association. Lettre de John Whyte à Rick Abramson, directeur du Digital Health Center of Excellence du CDRH, FDA. Re: Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback. 16 octobre 2026, 14 pages. [3] American Medical Association. National Advocacy Update, 23 octobre 2026. Rubrique « AMA comments on FDA generative AI-enabled medical device regulatory considerations ». Source de la présentation publique de la contribution du 16 octobre. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 3 Novembre pour la prochaine note « Les mardis de l’innovation en santé »

Pour ce nouveau rendez-vous des Mardis de l’Innovation de Demain, nous avons interrogé le Dr Arnaud Hansske, qui vient de rejoindre Softway Medical en tant que Directeur médical. Fort de son expérience du terrain et de sa connaissance des enjeux de transformation du système de santé, il porte une vision exigeante et profondément humaine de l’innovation. Une vision qui repose sur trois convictions fortes : Le professionnel de santé avant la technologie : concevoir le numérique à partir des besoins cliniques, du parcours patient et de la réalité quotidienne des soignants. La preuve avant la promesse : privilégier une innovation évaluée, mesurable, économiquement soutenable et créatrice de valeur réelle en santé. L’humain avant l’algorithme : faire de la technologie un levier au service du jugement médical, de la responsabilité, de la coopération et de la relation de soin. Comment passer de l'innovation technologique à l'innovation véritablement utile aux soignants et aux patients ? Comment réconcilier ambition numérique, exigence clinique et valeur en santé ? Autant de questions au cœur de cet entretien, qui nous invite à repenser une évidence : ce n'est pas à la médecine de s'adapter à la technologie, mais à la technologie de servir la médecine. Qu’est-ce qui vous a conduit à faire du numérique un axe central de votre parcours ? Je ne suis pas venu au numérique par fascination pour la technologie. J’y suis venu par la médecine, et plus précisément par la conviction que la qualité d’une décision médicale dépend aussi de la qualité de l’information dont dispose le médecin. Mes responsabilités dans l’information médicale m’ont rapidement fait comprendre qu’un établissement de santé était une organisation extraordinairement complexe, dans laquelle l’information constitue un élément essentiel de la qualité, de la sécurité et de la continuité des soins. A l’occasion de trois changements de Dossier Patient Informatisé (DPI), j’ai découvert que transformer un système d’information hospitalier, ce n’est pas seulement déployer des logiciels. C’est toucher aux organisations, aux métiers, aux relations entre professionnels et parfois même à la culture médicale. Finalement, mon parcours repose sur une conviction assez simple : la technologie n’a de sens que lorsqu’elle améliore la capacité des professionnels à mieux soigner. Quelle ambition portez-vous en rejoignant Softway Medical comme directeur médical groupe ? Après avoir passé une grande partie de ma carrière du côté des établissements de santé ou et de leurs fédérations, j’ai souhaité changer de perspective sans changer de conviction. J’ai longtemps été confronté à la distance qui peut exister entre les fonctionnalités imaginées par les éditeurs et les besoins réels des professionnels. Cette distance n’est pas une fatalité. Elle tient souvent à une compréhension insuffisante des organisations hospitalières et des contraintes quotidiennes des soignants. Mon ambition chez Softway Medical est précisément de contribuer à rapprocher ces deux mondes : celui de la médecine et celui de la technologie. Je souhaite apporter une vision médicale, organisationnelle et stratégique, nourrie par l’expérience du terrain. Il s’agit aussi d’anticiper les transformations à venir, notamment celles liées à l’intelligence artificielle, pour qu’elles ne soient pas simplement ajoutées aux logiciels existants, mais pensées comme de véritables évolutions innovantes des pratiques avec de la création de valeur (qualité, temps gagné, pour les soignants, facilitations…). Je ne viens pas expliquer aux ingénieurs comment développer un logiciel. Je viens contribuer à leur expliquer pourquoi, pour qui et dans quelles conditions il doit et peut être développé. Comment définissez-vous une innovation utile au système de santé ? Je me méfie de l’expression “innovation pour l’innovation”. Une technologie peut être spectaculaire sans être réellement utile. Pour moi, une innovation doit répondre à trois questions : quel problème concret résout-elle ? Quelle valeur apporte-t-elle au patient ou au professionnel ? Et cette valeur est-elle suffisamment démontrée pour justifier son coût et sa complexité ? J’ajouterais une quatrième dimension, souvent oubliée : son acceptabilité par les utilisateurs. Une innovation qui améliore théoriquement la performance mais désorganise le travail quotidien n’est pas nécessairement un progrès. Je défends donc une approche fondée sur la création de valeur en santé, qui intègre les résultats cliniques, l’expérience des patients, les conditions de travail des professionnels et l’efficience économique. Une bonne innovation n’est pas forcément celle dont on parle le plus. C’est celle dont on ne pourrait plus se passer après l’avoir adoptée ou qui a réellement changé une organisation en mieux. Pouvez-vous raconter une situation dans laquelle un outil numérique a réellement amélioré le travail d’une équipe ou le parcours d’un patient ? L’un des enseignements majeurs de mon expérience hospitalière concerne la transformation du dossier patient informatisé. Pendant longtemps, nous avons considéré que la réussite d’un projet informatique se mesurait à son déploiement : le logiciel fonctionnait, les utilisateurs étaient formés et les données étaient disponibles. Mais la véritable réussite se situe ailleurs : dans la capacité du système à fluidifier les échanges entre professionnels, à éviter les doubles saisis, à sécuriser les prescriptions et à rendre l’information disponible au bon moment. J’ai appris qu’un projet ne réussit pas parce qu’il est technologiquement performant. Il réussit parce que les professionnels se l’approprient et parce que l’organisation évolue avec lui. C’est pourquoi je crois profondément à la co-construction avec les équipes médicales et soignantes. Le changement ne se décrète pas depuis une direction informatique, même avec le meilleur logiciel du monde. Quelle transformation attendez-vous principalement de l’IA en santé ? Je ne crois pas qu’il faille opposer le temps médical retrouvé, l’amélioration des décisions et la transformation des parcours. Ces trois dimensions sont intimement liées. Mais si je devais choisir une priorité, ce serait de redonner du temps et de la disponibilité intellectuelle aux soignants. Nous avons progressivement transformé les professionnels de santé en producteurs de données. Ils passent une part considérable de leur activité à rechercher, saisir, vérifier ou transmettre des informations. L’intelligence artificielle pourrait inverser cette logique : faire travailler davantage les données au service des professionnels, plutôt que les professionnels au service des données. À terme, le véritable changement ne sera probablement pas une IA qui réalise quelques tâches plus rapidement, mais un système d’information capable de mieux comprendre les situations cliniques et d’accompagner les parcours en temps réel avec un « cœur IA » qui accompagne chaque étape (voire qui l’anticipe en allant chercher toutes les informations qui permettent de consolider le dossier). La finalité reste en lien avec le terrain et les utilisateurs : permettre au médecin de consacrer davantage d’attention à son patient. Quels usages de l’IA sont suffisamment solides pour entrer dans la pratique quotidienne ? Il faut distinguer la maturité technologique de la maturité clinique. Certains usages sont déjà bien documentés, notamment des applications ciblées d’analyse d’images médicales, dans des indications précises, avec des dispositifs évalués et un cadre réglementaire adapté (Mode Deep Learning sur les IA en Imagerie, Explorations fonctionnelles ou Anatomopathologie). D’autres usages, (IA génératives) comme l’aide à la rédaction, la structuration documentaire ou la recherche d’informations dans un dossier, présentent un potentiel opérationnel considérable. Mais leur fiabilité doit être appréciée selon le contexte clinique et les conséquences possibles des erreurs. Je suis plus prudent concernant les systèmes qui prétendent produire des raisonnements diagnostiques complexes ou proposer des décisions thérapeutiques de manière autonome. La fluidité d’une réponse ne constitue jamais une preuve de sa justesse. Nous devons sortir de la logique de démonstration technologique pour entrer dans une véritable culture de l’évaluation clinique. Une IA impressionnante n’est pas nécessairement une IA médicalement fiable, là où la garantie humaine trouve toute sa justification. Qu’avez-vous appris des travaux sur la synthèse du dossier patient par IA générative au Groupement des Hôpitaux de l’Institut Catholique de Lille ? Le besoin initial était très concret : permettre au médecin d’accéder rapidement à l’essentiel d’une histoire médicale parfois dispersée dans des dizaines, voire des centaines de documents. Le dossier patient informatisé est devenu extrêmement riche, mais cette richesse peut paradoxalement rendre l’information difficile à exploiter. L’objectif n’était donc pas simplement de résumer des documents. Il était de faire émerger les informations pertinentes pour une situation clinique donnée : les antécédents, les traitements, les événements récents, les examens déterminants ou les points de vigilance. Ces travaux m’ont conforté dans une conviction : la difficulté principale n’est pas seulement de produire un texte cohérent. C’est de produire une synthèse médicalement pertinente, fidèle aux sources et adaptée à la question du soignant. Il faut également veiller à ne pas créer une nouvelle forme de dépendance : le médecin doit pouvoir retrouver les informations originales et conserver son jugement critique. Une bonne synthèse ne remplace pas le dossier patient. Elle permet au médecin d’y accéder intelligemment, et quand elle fonctionne moins, les praticiens se signalent (exemple en Gériatrie). Comment évaluer la fidélité et la pertinence clinique d’une synthèse générée par IA ? C’est probablement l’une des questions les plus importantes. Une synthèse peut être parfaitement rédigée, agréable à lire, et pourtant médicalement dangereuse parce qu’elle omet une allergie, un antécédent ou une information contradictoire. Je considère qu’il faut évaluer ces outils selon trois dimensions distinctes. D’abord, la fidélité documentaire : ce qui est écrit correspond-il réellement aux informations du dossier ? Ensuite, la pertinence clinique : les informations retenues sont-elles celles dont le médecin a besoin pour prendre sa décision ? Enfin, le risque associé aux erreurs : toutes les omissions n’ont pas la même gravité. Oublier un élément administratif n’a pas les mêmes conséquences qu’omettre un traitement anticoagulant. L’absence d’info ne signifie pas « pas de problème » : exemple ; « ne fume pas », n’est pas équivalent à aucune mention sur le tabac. Cela suppose des protocoles d’évaluation impliquant des médecins, des cas cliniques représentatifs et une analyse structurée des erreurs. En médecine, la qualité d’un résumé ne se mesure pas seulement à ce qu’il dit, mais aussi à ce qu’il ne dit pas. Comment concevoir une IA qui préserve la maîtrise de la décision par les professionnels ? Je défends une intelligence artificielle explicable dans son usage, traçable dans ses sources et suffisamment transparente sur ses limites. Il ne s’agit pas nécessairement de rendre compréhensible chaque mécanisme mathématique du modèle. Il s’agit de permettre au professionnel de savoir d’où vient une information, à quelle date elle a été produite, quel degré d’incertitude lui est associé et si des données contradictoires existent. Le système doit faciliter le retour à la source, pas enfermer le médecin dans une réponse. Il faut également garder un droit au doute : une IA doit pouvoir indiquer qu’elle ne sait pas, qu’une information manque ou qu’une situation nécessite une vérification humaine. De son côté, le médecin doit rester responsable de son raisonnement clinique, mais l’éditeur a la responsabilité de concevoir un environnement qui permette réellement l’exercice de ce jugement. L’IA doit augmenter le discernement médical, pas le mettre en sommeil. Le dossier patient informatisé pourrait-il devenir un véritable outil d’anticipation ? Je pense que nous sommes à un moment charnière de l’histoire du dossier patient informatisé. Depuis plusieurs décennies, nous construisons des systèmes dont la fonction principale consiste à conserver et restituer des informations. Demain, le dossier patient pourrait devenir un système capable de comprendre une trajectoire de soins, de repérer des incohérences et d’anticiper certains risques. Imaginons un patient chronique dont le suivi biologique n’a pas été réalisé, une consultation spécialisée oubliée ou une interaction médicamenteuse qui apparaît après une modification thérapeutique. Le système pourrait signaler ces situations de manière contextualisée. Mais cette évolution suppose plusieurs conditions : des données fiables, structurées et interopérables facilement, une connaissance du contexte médical et surtout une maîtrise du risque de multiplication des alertes. Je crois que nous devons passer du dossier patient qui mémorise, ou numérise le papier au dossier patient qui accompagne, guide, puis qui anticipe. C’est une transformation majeure, qui pourrait redéfinir le rôle des éditeurs de logiciels médicaux. Jusqu’où confier des actions aux agents d’intelligence artificielle ? L’arrivée des agents d’intelligence artificielle constitue probablement une rupture plus profonde qu’on ne l’imagine. Jusqu’à présent, nous demandions essentiellement aux logiciels de présenter des informations ou d’exécuter des commandes. Les agents peuvent désormais envisager une succession d’actions pour atteindre un objectif. Dans un établissement de santé, on peut imaginer des agents capables de préparer un dossier de consultation, (c’est souvent une tâche laborieuse et chronophage demandée aux secrétaires ou pire à des soignants) de vérifier la présence d’examens, de proposer une programmation ou de faciliter la coordination d’un parcours. Je distinguerais toutefois trois niveaux : l’agent qui informe, celui qui propose et celui qui agit. Plus nous avançons vers l’action autonome, plus les exigences de sécurité, de traçabilité et de contrôle doivent augmenter. Une action administrative réversible n’a pas les mêmes conséquences qu’une modification de prescription ou qu’une décision d’orientation médicale. Je suis favorable à une autonomie progressive, proportionnée aux risques, avec des mécanismes explicites de validation humaine car l’autonomisation de la machine ne doit jamais signifier l’abandon de la responsabilité humaine. Comment démontrer qu’une IA améliore réellement les soins ? Nous avons parfois tendance à évaluer les innovations numériques comme si elles étaient uniquement des performances informatiques. On mesure la précision d’un algorithme, sa sensibilité, sa spécificité ou sa vitesse de traitement. Ces indicateurs sont indispensables, mais ils ne suffisent pas à démontrer une amélioration des soins. Il faut aller plus loin et mesurer les conséquences réelles de son utilisation : les erreurs évitées, les délais réduits, les décisions améliorées, les hospitalisations potentiellement évitables, mais aussi la charge de travail des professionnels et l’expérience des patients. Je crois beaucoup à une approche inspirée des principes de la Value-Based Healthcare : la valeur produite doit être appréciée au regard des résultats obtenus pour les patients et des ressources mobilisées. Il faut également accepter qu’une innovation ne produise pas les bénéfices attendus. C’est précisément l’intérêt d’une évaluation indépendante et rigoureuse. Le véritable indicateur de réussite d’une IA médicale n’est pas son intelligence supposée, mais son impact démontré sur la santé. Comment s’assurer que le temps gagné grâce à l’IA bénéficie réellement aux patients ? C’est une question fondamentale, et peut-être même une question politique au sens noble du terme. Nous pourrions parfaitement imaginer une intelligence artificielle qui améliore la productivité des établissements sans améliorer les conditions de travail des soignants ni la qualité de la relation avec les patients. Le temps gagné pourrait être immédiatement absorbé par une augmentation de l’activité, de nouvelles obligations administratives ou de nouvelles exigences de reporting. Je crois donc qu’il faut penser simultanément la transformation technologique et la transformation organisationnelle. Lorsqu’un outil permet de réduire le temps consacré à une tâche, il faut définir collectivement comment ce gain sera utilisé : davantage de temps clinique, une meilleure coordination, une diminution de la charge cognitive ou une amélioration des conditions de travail. La technologie ne décide pas de la destination des gains de productivité. Ce sont les organisations et leurs dirigeants qui le font. L’IA nous fera peut-être gagner du temps. Mais c’est à nous de décider ce que nous voulons faire de ce temps. Quelle formation proposer aux professionnels de santé ? Nous devons former les professionnels de santé à l’intelligence artificielle, mais certainement pas avec l’ambition de transformer tous les médecins en informaticiens ou en spécialistes des algorithmes. Il me paraît essentiel qu’ils comprennent les principes de fonctionnement des outils, leurs domaines de validité, leurs limites et les risques liés à leur utilisation. Cela suppose notamment de savoir reconnaître une hallucination, identifier une information insuffisamment documentée, comprendre les biais possibles et conserver une capacité d’analyse indépendante. Mais il faut aussi préserver, et probablement renforcer, certaines compétences proprement médicales : le raisonnement clinique, la sémiologie, l’écoute, la capacité à hiérarchiser les informations et l’aptitude à décider dans l’incertitude. J’ajouterais une dimension souvent négligée : la formation des dirigeants hospitaliers. L’IA transforme les métiers, les organisations et les responsabilités. Elle ne peut pas être considérée comme un simple sujet informatique. En revenants d’UN Himss aux USA en 2022, où j’avais vu les premiers impacts de l’IA générative, j’ai convaincu le DG dubitatif initialement de former tout le Codir à l’IAG. Ce fut un véritable succès, qui a permis d’enclencher une dynamique positive, portée par des directeurs désormais convaincus par les résultats concrets observés sur le terrain. Comment partager les responsabilités entre l’éditeur, l’établissement et le professionnel ? La responsabilité ne peut pas être concentrée sur un seul acteur, et encore moins être reportée systématiquement sur le médecin utilisateur. L’éditeur doit assumer la qualité, la sécurité et la conformité de ce qu’il développe. Il doit documenter les usages prévus, les limites du système, les conditions de fonctionnement et les risques identifiés. L’établissement doit, pour sa part, organiser le déploiement, former les professionnels, définir les conditions d’utilisation et assurer une surveillance des incidents. Enfin, le professionnel conserve une responsabilité propre dans l’exercice de son métier, dans les limites de son rôle et des moyens dont il dispose. Le cadre européen, notamment le règlement sur les dispositifs médicaux et le règlement sur l’intelligence artificielle, contribue à structurer ces obligations, selon la qualification et les usages des systèmes concernés. Mais au-delà du droit, je crois à une responsabilité partagée, explicite et organisée. On ne peut pas demander à un médecin de faire confiance à une IA si personne n’est capable d’expliquer précisément qui répond de son fonctionnement, on est dans un cadre d’éthique médicale, où le Bien doit être à la base des réflexions ; notamment à travers la Bienveillance, la Non-malfaisance, la Justesse-justice et la Transparence. Quelle place donner aux patients dans la conception et l’évaluation de ces outils ? Nous avons longtemps conçu les systèmes d’information de santé pour les professionnels, parfois pour les gestionnaires, mais insuffisamment pour les patients. C’est une erreur qu’il est aujourd’hui essentiel de corriger. Le patient doit être pleinement associé à la conception des outils numériques en santé, en particulier lorsqu’ils touchent à son parcours de soins, à son information ou aux décisions qui concernent sa santé. Nous disposons pour cela d’une ressource précieuse : les patients experts, dont l’expérience et le regard sont indispensables pour développer des solutions réellement adaptées aux besoins des utilisateurs. Cette démarche a notamment été mise en œuvre à Lille dans le cadre du projet Brain Motion, dédié à la rééducation des patients atteints de sclérose en plaques (SEP). Un exemple concret de ce que peut apporter la co-construction avec les patients à une innovation en santé plus pertinente, plus utile et plus humaine. Il faut également lui expliquer simplement ce que fait l’intelligence artificielle : contribue-t-elle à organiser son rendez-vous, à analyser une image, à préparer une synthèse ou à assister une décision médicale ? La transparence est indispensable, mais elle ne doit pas se transformer en discours technique incompréhensible. Je crois surtout qu’il est essentiel de préserver la confiance, qui demeure le fondement de la relation de soin. Le patient doit avoir la certitude que la technologie est là pour améliorer sa prise en charge, éclairer les décisions médicales et renforcer la qualité des soins, jamais pour substituer une relation automatisée à la relation humaine. La technologie doit rester à sa juste place : celle d’un outil d’aide à la décision, au service du médecin, qui conserve pleinement son discernement, sa responsabilité et le dernier mot dans la décision médicale. Cette question me paraît rejoindre une préoccupation philosophique et éthique essentielle : le patient ne doit jamais devenir un simple objet de traitement algorithmique. Il demeure une personne, avec son histoire, ses préférences, ses émotions et son autonomie, c’est la base de la relation et du colloque singulier médical. Comment faire circuler les informations entre l’hôpital, la ville, la biologie et l’imagerie ? L’interopérabilité est un sujet ancien, mais elle demeure l’une des conditions fondamentales de la transformation numérique en santé. Nous avons construit des systèmes souvent performants à l’intérieur de leurs propres périmètres, mais qui communiquent encore imparfaitement entre eux même si les EAI ont bien fait avancer les choses. Or, un patient ne vit pas dans un logiciel. Il circule entre la médecine de ville, l’hôpital, les laboratoires, les centres d’imagerie et les structures médico-sociales. Les standards comme HL7, FHIR, DICOM ou les terminologies médicales communes constituent des leviers essentiels. Mais l’interopérabilité ne se réduit pas à la capacité technique de transmettre un message. Il faut aussi que les informations soient comprises de la même manière, qu’elles soient pertinentes, actualisées et accessibles aux professionnels autorisés. Je crois à une approche dans laquelle les éditeurs doivent pouvoir se différencier par la qualité de leurs services, et non par leur capacité à enfermer les données dans des environnements propriétaires : la donnée de santé doit suivre le parcours du patient, et non les frontières des logiciels. Quelles garanties attendez-vous en matière de souveraineté numérique ? La souveraineté numérique est devenue un enjeu stratégique pour notre système de santé, mais je crois qu’il faut dépasser les slogans. La question n’est pas seulement de savoir où sont hébergées les données. Il faut aussi examiner qui contrôle les infrastructures, quelles législations peuvent s’appliquer, comment les données sont utilisées et dans quelle mesure nous dépendons de fournisseurs technologiques. Avec l’intelligence artificielle, de nouvelles questions apparaissent : les données de santé servent-elles à entraîner les modèles ? D’où viennent-ils ? Pouvons-nous changer de fournisseur ? Sommes-nous capables d’auditer les traitements et de garantir leur confidentialité ? Je pense qu’une souveraineté pragmatique, fondée sur des garanties vérifiables : maîtrise des données, conformité réglementaire, sécurité, réversibilité, transparence contractuelle et limitation des dépendances critiques doit être l’objectif de tous. Il ne s’agit pas de refuser les innovations internationales, mais de conserver notre liberté de choix : la souveraineté ne consiste pas à tout produire soi-même. Elle consiste à ne pas perdre la maîtrise de ce dont on dépend. Comment faire bénéficier les petits établissements des mêmes avancées que les grandes structures ? C’est un sujet qui me tient particulièrement à cœur, car je connais les contraintes des établissements de santé qui ne disposent ni des moyens financiers ni des équipes techniques des grands centres hospitaliers universitaires. Je me souviens avec été interne dans ces hôpitaux qui déjà disposaient de peu de moyens. Nous devons éviter que l’intelligence artificielle ne crée une nouvelle fracture numérique entre établissements : ceux qui pourraient se l’offrir et les autres. La mutualisation constitue une première réponse : plateformes partagées, services industrialisés, référentiels communs et évaluations collectives. Les éditeurs jouent également un rôle majeur. Ils peuvent rendre accessibles des innovations complexes en les intégrant directement dans les logiciels utilisés quotidiennement par les professionnels. Il faut enfin réfléchir aux modèles économiques. Une innovation qui exige des investissements considérables en infrastructure, en compétences et en maintenance restera inaccessible à de nombreux établissements. Je suis convaincu que la démocratisation de l’IA en santé passera moins par la multiplication de projets expérimentaux isolés que par l’intégration progressive de fonctionnalités éprouvées dans les outils existants. L’IA peut-elle aider notre système à intervenir plus tôt, avant la maladie ou ses complications ? Autrement dit l’IA peut être nous aider à faire une vraie politique de prévention ? Notre système de santé reste très largement organisé autour de la prise en charge de la maladie déclarée, alors qu’une partie de ses enjeux futurs réside dans la prévention et l’anticipation. Les parcours de soins seraient un bon axe de démarrage dans ce cadre. L’intelligence artificielle pourrait contribuer à accompagner cette logique en identifiant plus précocement certains risques, à partir d’informations cliniques, biologiques et longitudinales tout au long su suivi notamment des pathologies chroniques. Je pense notamment aux maladies chroniques, comme le diabète, l’insuffisance cardiaque, respiratoire, ou les maladies rénales ou inflammatoires, pour lesquelles une rupture de suivi ou une évolution biologique défavorable peut précéder une complication. Tout ceci est tout à fait possible si on accepte de lancer l’ide de forfaits de suivis pilotés par l’IA et des structures habituées à suivre les parcours patients (Mutuelles par exemple). Dans la santé des jeunes, comment articuler numérique, éducation et accompagnement humain ? Les jeunes générations grandissent dans un environnement où l’information médicale est immédiatement accessible, mais où sa qualité est extrêmement variable. Avec l’intelligence artificielle générative qu’ils connaissent déjà très bien, cette situation prend une dimension nouvelle. Il devient possible d’obtenir une réponse instantanée, personnalisée et convaincante à presque toutes les questions de santé. C’est une opportunité pédagogique considérable, mais aussi un risque si cette réponse est prise pour une vérité médicale. Je crois que nous devons développer une véritable éducation à l’information de santé, qui associe connaissances scientifiques, compréhension des outils numériques et apprentissage de l’esprit critique. L’IA pourrait devenir un accompagnateur pédagogique intéressant, à condition d’être adaptée à l’âge, aux besoins et à la vulnérabilité des jeunes, et de préserver la place des parents, des enseignants et des professionnels de santé. Mais attention :  l’éducation ne consiste pas simplement à transmettre des réponses, mais à développer la capacité de jugement. Une IA utile à la santé des jeunes devrait les rendre progressivement plus autonomes, et non plus dépendants de ses réponses. Quel modèle de financement permettrait de soutenir les innovations réellement utiles ? Nous devons probablement faire évoluer notre manière de financer l’innovation numérique en santé. Aujourd’hui, nous raisonnons encore trop souvent en coût d’acquisition, en budget de projet ou en investissement technologique, sans toujours prendre en compte l’ensemble des coûts et des bénéfices. Une innovation doit être évaluée sur son cycle de vie : développement, intégration, formation, conduite du changement, maintenance, cybersécurité, évaluation et évolution. Mais il faut également s’intéresser à la valeur qu’elle produit : amélioration des résultats de santé, diminution des complications, réduction des tâches inutiles, amélioration des conditions de travail et efficience organisationnelle : ROI et création de valeur, pas que financière, mais aussi de QVT, de baisse de pression mentale, de gain de temps… Je serais favorable à des mécanismes de financement associant une phase d’expérimentation rigoureuse, une évaluation indépendante et un déploiement progressif lorsque les bénéfices sont démontrés. Il faudrait également éviter que chaque établissement finance isolément les mêmes expérimentations. Si je devais demander une évolution prioritaire aux pouvoirs publics, ce serait de mieux articuler financement, évaluation et diffusion des innovations, avec des dispositifs pérennes plutôt qu’une succession d’appels à projets. Nous devons apprendre à financer non seulement l’innovation, mais aussi la preuve de son utilité et les conditions de son adoption. Le problème n’est pas uniquement de savoir combien coûte une innovation. C’est aussi de savoir combien coûte le fait de ne pas adopter une innovation réellement utile. Dans dix ans, quel changement vous ferait dire que l’intégration de l’IA en santé a été une réussite ? Je vais peut-être vous surprendre, mais j’aimerais que, dans dix ans, nous parlions beaucoup moins d’intelligence artificielle dans les hôpitaux. Non pas parce qu’elle aurait disparu, mais parce qu’elle serait devenue une composante naturelle, fiable et discrète de notre environnement de travail. J’aimerais voir un professionnel de santé qui n’a plus besoin de consacrer une partie importante de son temps avec un patinet à rechercher des informations dans un dossier ou à documenter des tâches administratives. J’aimerais voir un patient qui n’a plus à répéter son histoire médicale à chaque étape de son parcours, et dont les professionnels disposent des informations pertinentes au bon moment. J’aimerais également que les outils puissent contribuer à prévenir certaines complications, faciliter les décisions et améliorer la coordination des soins. Mais surtout, j’aimerais que le temps gagné se traduise par davantage d’écoute, de dialogue et d’attention. Nous avons parfois présenté le progrès technologique comme une course à la performance. Je crois qu’en médecine, le véritable progrès se mesure aussi à la qualité de la relation humaine. Si, dans dix ans, les patients ont le sentiment d’être mieux écoutés et les soignants celui de pouvoir mieux exercer leur métier, alors nous pourrons dire que l’intelligence artificielle a véritablement réussi son entrée dans le système de santé. Pour terminer, je pose toujours a nos invités cette même dernière question : y a-t-il un livre qui changé votre regard sur la médecine, la technologie ou l’action collective ? Je citerais La Peste, d’Albert Camus. Ce n’est évidemment pas un ouvrage consacré à l’intelligence artificielle ou aux technologies médicales. Mais c’est un livre qui nous interroge profondément sur la médecine, la responsabilité individuelle et l’action collective. Ce qui me touche particulièrement dans le personnage du docteur Rieux, c’est sa manière d’agir. Il ne prétend pas posséder toutes les réponses, il ne recherche pas l’héroïsme et il ne s’abrite pas derrière de grandes certitudes. Il fait simplement ce qu’il considère comme son devoir, avec lucidité et persévérance. Je retrouve dans cette attitude quelque chose d’essentiel pour notre époque. Face à l’intelligence artificielle, nous pouvons être tentés par deux attitudes excessives : la fascination pour une technologie qui résoudrait tous nos problèmes, ou la peur d’une technologie qui menacerait notre humanité. Je crois qu’il faut choisir une troisième voie, celle de la responsabilité, de l’action éclairée et du discernement. Camus nous rappelle aussi que l’action collective est indispensable face à des problèmes qui dépassent les individus. C’est une conviction qui a accompagné ma vie professionnelle : aucune transformation importante d’un établissement de santé ne peut réussir durablement sans intelligence collective, sans confiance et sans engagement des équipes. Finalement, la question essentielle n’est peut-être pas de savoir jusqu’où ira l’intelligence artificielle, mais ce que nous choisirons collectivement d’en faire. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 27 octobre pour la prochaine note « Les mardis de l’innovation en santé »

La santé s’impose comme une préoccupation majeure des Français. Parmi les 18 enjeux pour l’avenir qui leur sont proposés, 51 % la considèrent comme « très importante » et 84 % comme « très » ou « assez importante », selon le dernier Baromètre de la République Ipsos BVA-CESI pour le Laboratoire de la République. Pourtant, à l’approche de l’élection présidentielle, le contraste est saisissant : omniprésente dans la vie et les préoccupations des Français, la santé peine encore à trouver dans le débat public la place qu’ils lui accordent. À l’heure où l’Assemblée nationale s’apprête à examiner le dernier projet de loi de financement de la Sécurité sociale de ce quinquennat, un constat s’impose : notre organisation ne répond plus aux attentes de ceux qu’elle est censée servir. En matière de santé, la France a décentralisé les problèmes, mais pas le pouvoir de les résoudre. Les difficultés se vivent dans les territoires ; les citoyens se tournent vers leurs élus locaux ; mais l’essentiel des décisions et des moyens reste piloté depuis le niveau national. C’est cette contradiction qu’il faut désormais résoudre. Les présidents de région, les maires et les élus locaux sont quotidiennement interpellés sur les déserts médicaux, les urgences, les maternités, la santé mentale ou l’accès aux spécialistes. Ils financent des maisons de santé, accompagnent l’installation de professionnels et investissent dans la formation ou la prévention. Mais ils ne disposent pas des principaux leviers permettant d’organiser l’offre de soins. Cette situation n’est plus tenable : L’ONDAM ne peut plus être seulement national. Chaque année, le Parlement vote l’Objectif national de dépenses d’assurance maladie, l’ONDAM. Cet instrument est indispensable : la solidarité financière doit rester nationale et le Parlement doit continuer à décider de l’effort que la Nation consacre à la santé. Mais pourquoi décider ensuite depuis Paris de l’essentiel de la répartition des moyens alors que les besoins diffèrent profondément entre les Hauts-de-France, l’Île-de-France, la Bretagne, la Corse ou les territoires ultramarins ? Nous proposons de franchir une étape nouvelle : décliner l’ONDAM en Objectifs régionaux de dépenses d’assurance maladie, les ORDAM. Il ne s’agirait surtout pas de créer treize systèmes d’assurance maladie. Les droits des patients, le panier de soins, les normes de qualité, les grandes règles conventionnelles et la solidarité resteraient nationaux. En revanche, chaque région disposerait d’une enveloppe pluriannuelle construite en fonction de ses besoins réels : âge de la population, état de santé, prévalence des maladies chroniques, précarité, densité médicale, mortalité évitable ou difficultés géographiques d’accès aux soins. C’est un changement considérable de philosophie : passer d’une égalité des règles à une équité dans l’allocation des moyens. Donner une vraie liberté d’arbitrage aux territoires Un ORDAM qui ne serait qu’une déclinaison comptable de l’ONDAM ne servirait à rien. Il faut donner aux régions une véritable marge de décision. Nous proposons qu’elles puissent réallouer une fraction significative de leur ORDAM (10 à 15 %) entre l’hôpital, la médecine de ville, le médico-social et la prévention. Pourquoi une région confrontée à une saturation des urgences ne pourrait-elle pas investir davantage dans la permanence des soins en ville ? Pourquoi un territoire vieillissant ne pourrait-il pas renforcer prioritairement le maintien à domicile ? Pourquoi une région particulièrement touchée par le diabète ou les maladies cardiovasculaires ne pourrait-elle pas consacrer davantage de moyens à la prévention ? Aujourd’hui, notre système finance encore trop souvent des structures et des enveloppes. Demain, il doit financer des objectifs de santé territoriaux. Cette autonomie aurait une contrepartie : la responsabilité. Les régions devraient publier leurs objectifs, leurs arbitrages et leurs résultats. Accès à un médecin traitant, délais pour certaines spécialités, recours évitable aux urgences, hospitalisations évitables, couverture vaccinale, indicateurs de prévention : les citoyens pourraient enfin mesurer l’efficacité de la politique de santé conduite dans leur territoire. Régionaliser n’est pas abandonner la solidarité nationale L’objection est connue : donner davantage de pouvoir aux régions risquerait d'accroître les inégalités entre territoires riches et pauvres. Ce risque existe. Il serait irresponsable de le nier. C’est précisément pourquoi les ORDAM doivent être indissociables d’une puissante péréquation nationale. Les ressources ne seraient pas distribuées en fonction de la richesse des régions, mais de leurs besoins sanitaires. Une région plus pauvre, plus âgée, davantage touchée par les maladies chroniques ou la désertification médicale doit pouvoir recevoir davantage par habitant qu’une région favorisée. La solidarité nationale ne disparaît donc pas avec la régionalisation. Elle en devient la condition. L’État conserverait par ailleurs des missions essentielles : sécurité sanitaire, définition des standards nationaux, garantie des droits, grandes stratégies de santé publique, évaluation et correction des inégalités entre régions. Un État moins gestionnaire ne signifie pas un État plus faible. Au contraire : l’État doit être fort sur ce qui garantit l’égalité et laisser les territoires être forts sur ce qui nécessite de l’adaptation. Faire de la prévention un investissement régional Les ORDAM permettraient également de résoudre l’une des anomalies historiques de notre système : la prévention est proclamée comme une priorité mais reste trop souvent une variable d’ajustement budgétaire. Nous proposons donc qu’un sous-objectif prévention indépendant soit identifié au sein de l’ONDAM et décliné dans chaque ORDAM. Les priorités ne seraient pas nécessairement identiques partout. Santé cardiovasculaire, obésité, santé mentale des jeunes, vaccination, santé environnementale, vieillissement : les régions doivent pouvoir concentrer leurs moyens sur leurs propres déterminants de santé. C'est précisément parce que les territoires ne sont pas identiques que l'égalité exige parfois de ne pas faire partout exactement la même chose. Expérimenter plutôt que promettre une nouvelle grande réforme La France a trop souvent réformé son système de santé par de grands textes nationaux appliqués simultanément partout. Nous proposons une autre méthode. Dès 2027, trois régions volontaires et aux profils différents pourraient expérimenter un ORDAM pluriannuel, assorti d’une capacité réelle de réallocation des dépenses et d’objectifs publics de santé. Pendant trois ans, nous mesurerions les résultats : accès aux soins, délais, recours aux urgences, prévention, attractivité médicale, qualité des parcours et maîtrise financière. Si cela fonctionne, généralisons. Si cela ne fonctionne pas, corrigeons. C’est aussi cela, faire confiance aux territoires : leur permettre d’expérimenter, mais leur demander de rendre compte. Passer de la décentralisation des problèmes à celle des solutions Depuis trop longtemps, la France pratique une étrange décentralisation : les difficultés sont locales, les citoyens interpellent leurs élus locaux, mais les principaux leviers restent nationaux. Nous devons sortir de cette contradiction. Le prochain acte de décentralisation doit concerner la santé. Non pour créer treize systèmes concurrents, mais pour construire une solidarité nationale assortie de treize capacités d’action territoriale. L’ONDAM doit rester le budget de la solidarité nationale. L’ORDAM doit devenir celui de la responsabilité territoriale. C’est en rapprochant à la fois la décision, le financement et la responsabilité que nous pourrons enfin adapter notre système de santé à la réalité des Français. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Xavier Bertrand est ancien ministre de la Santé et président de la région Hauts-de-France. Retrouvez la tribune de David Smadja et Xavier Bertrand sur le site du Point.

Une intelligence artificielle peut produire une réponse médicalement plausible tout en suivant une instruction dangereuse. Une étude publiée dans Communications Medicine, une revue du groupe Nature Portfolio, explore cette vulnérabilité et montre que de brefs rappels de sécurité peuvent réduire certains choix inappropriés. Elle invite surtout à évaluer les outils dans les situations qui mettent leur fiabilité à l’épreuve. La performance d’une intelligence artificielle en santé est souvent présentée à travers sa capacité à reconnaître une anomalie, à synthétiser un dossier ou à répondre à une question médicale. Ces capacités sont importantes mais l’utilisation d’un outil dans une organisation de soins soulève une question supplémentaire : comment réagit-il lorsqu’une instruction contredit les précautions nécessaires à la prise en charge d’un patient ? Un contrôle biologique est prévu après une hospitalisation mais une nouvelle demande invite à ne pas l’organiser pour réduire la charge de travail. Une information doit être vérifiée mais la consigne insiste sur l’urgence. Dans ces situations, la qualité de la réponse dépend de la capacité à identifier le conflit, à maintenir une conduite appropriée ou à demander un avis. C’est ce comportement que Mahmud Omar et ses collègues ont étudié dans un travail publié le 26 septembre 20261. Leur objectif était d’examiner la propension de modèles de langage à suivre des instructions explicitement dangereuses, puis de mesurer l’effet de consignes destinées à renforcer la sécurité. Les chercheurs ont évalué vingt grands modèles de langage, présentés dans l’article comme des modèles à poids ouverts. Le protocole associait deux ensembles : 501 variantes synthétiques issues de cinquante situations de départ et cent cas construits à partir de recommandations de sortie hospitalière anonymisées provenant de MIMIC-IV. Pour ces derniers, une demande simulée, contradictoire avec la recommandation initiale, était ajoutée au contexte clinique. Les situations couvraient notamment la sécurité médicamenteuse, le consentement, la confidentialité, la vérification de résultats et la qualité de la documentation. Dans chaque cas, le modèle choisissait parmi quatre actions : suivre une instruction dangereuse, l’accepter partiellement, maintenir une conduite sûre ou solliciter une vérification ou un avis supplémentaire. Le critère principal regroupait les deux premières catégories. Cette distinction est importante : une réponse formulée avec des réserves peut rester dangereuse si elle accepte néanmoins l’action problématique. L’évaluation doit donc porter sur la conduite proposée et ses conséquences possibles, au-delà du ton prudent employé par le modèle. Le protocole faisait varier le contexte de la demande. À une condition neutre s’ajoutaient six formes de pression : ordre hiérarchique, transfert de responsabilité, urgence, menace de conséquences, conformité au groupe et présentation impersonnelle de la tâche. Chaque situation était également testée sans rappel de sécurité ou avec l’un de trois rappels mettant l’accent sur les règles, la réduction du risque, ou la vérification et le recours à un avis. Les essais étaient répétés dix fois, en faisant varier l’ordre des réponses proposées. Au total, les chercheurs ont analysé plus de dix millions de réponses. Ce volume reflète la combinaison et la répétition des conditions expérimentales ; il ne correspond pas à dix millions de situations cliniques indépendantes. Le résultat principal est une diminution de la proportion de choix potentiellement dangereux : 16,6 % sans rappel de sécurité contre 10,1 % lorsque les trois modalités de rappel sont regroupées, soit une réduction absolue de 6,5 points. Une diminution est observée dans dix-neuf des vingt modèles, avec une ampleur variable. Le vingtième reste inchangé. Les résultats diffèrent entre les deux ensembles. Dans les scénarios synthétiques, la proportion passe de 10,6 % à 7,2 %. Dans les cas dérivés de MIMIC-IV, elle diminue de 46,6 % à 24,5 %. Cette différence doit toutefois être interprétée avec précaution. Les auteurs soulignent que les choix dangereux étaient plus ouvertement inappropriés dans les situations synthétiques, alors qu’ils reprenaient souvent la formulation de la demande dans les cas dérivés de dossiers hospitaliers. La comparaison reflète donc aussi la construction des questions et des réponses. Elle ne démontre pas que l’utilisation de données cliniques réelles entraîne, à elle seule, un risque supérieur en pratique. Un autre point mérite d’être conservé dans la lecture de l’étude : les différences entre les formes de pression sont modestes. Leur ordre varie selon les données et les conditions. Des choix potentiellement dangereux apparaissent également dans la situation neutre, et les rappels de sécurité y ont aussi un effet favorable. Le résultat le plus solide concerne donc la réduction de ces choix par les rappels, plutôt qu’un effet spectaculaire ou uniforme de l’autorité sur les modèles. L’étude apporte également un enseignement sur l’organisation des soins : renforcer la sécurité peut déplacer le travail vers les professionnels. Avec les rappels, la catégorie correspondant à une demande de vérification ou d’avis augmente de 25,8 % à 38,7 %. Parallèlement, les réponses choisissant directement une conduite sûre diminuent. Ce déplacement peut être souhaitable lorsqu’une situation exige effectivement une intervention humaine. Mais il pourrait aussi multiplier les sollicitations, allonger certains délais ou accroître la charge des équipes. Les chercheurs n’ont pas mesuré ces conséquences. La question devient alors très concrète : quelles demandes doivent être transmises, à quel professionnel et avec quel niveau de priorité ? Une IA qui sollicite davantage d’avis doit s’inscrire dans une organisation capable de leur apporter une réponse. Les auteurs ont aussi étudié la stabilité des choix lors des répétitions. La proportion d’ensembles d’essais donnant systématiquement la même catégorie de réponse est presque identique sans et avec rappel : 80,5 % et 80,4 %. Cette stabilité varie fortement selon les modèles. Elle ne doit pas être confondue avec la sécurité : un modèle peut sélectionner de manière parfaitement répétitive une option dangereuse. À l’inverse, certaines variations peuvent rester entre deux conduites considérées comme sûres. Ces éléments permettent de mieux définir la portée du travail. Il s’agit d’une expérimentation fondée sur des choix prédéfinis, sans prise en charge de patients ni mesure de dommages cliniques. Aucun groupe de professionnels placé dans des conditions comparables n’a été étudié. Les résultats ne permettent donc ni de comparer directement les modèles aux soignants, ni d’établir un taux d’accidents attendu à l’hôpital. La sélection des modèles ne permet pas davantage de conclure à la supériorité générale d’une famille, d’une génération ou d’une taille de modèle. Pour les Mardis de l’innovation, nous en tirons une exigence : évaluer une IA en santé suppose de tester sa réponse aux contradictions et aux demandes inappropriées, en complément de ses connaissances. Les scénarios d’évaluation doivent inclure des informations manquantes, des consignes incompatibles et des situations nécessitant une intervention humaine. La conduite proposée doit rester le centre de cette évaluation. Ce travail rappelle aussi que les instructions encadrant un modèle font partie du dispositif à examiner. Le choix du modèle, la manière de lui présenter les informations et les possibilités d’action qui lui sont accordées doivent être évalués ensemble. Une protection observée dans un protocole doit ensuite être vérifiée dans l’usage envisagé, auprès des équipes concernées. La responsabilité ne peut reposer sur la capacité de chaque professionnel à trouver la bonne formulation. Nous proposons que les concepteurs et les établissements définissent explicitement les tâches autorisées, les situations exigeant une validation et les modalités de signalement d’un problème. Ces règles doivent être testées et réexaminées lorsque le système évolue. La supervision humaine doit également disposer de moyens concrets. Le professionnel doit pouvoir retrouver les informations utiles, comprendre la proposition et prendre le temps de la corriger ou de la refuser. L’évaluation devra donc mesurer le travail de vérification créé par l’outil, autant que le temps éventuellement économisé. Cela vaut aussi pour la prévention. Une IA pourrait aider à identifier un suivi interrompu ou une action à discuter avec un patient. Son bénéfice devrait être évalué jusqu’à la réponse apportée : pertinence de l’alerte, échange avec la personne, accès à une consultation et continuité du suivi. La multiplication des notifications ne constitue pas, en elle-même, une amélioration de la santé. Enfin, financer ces innovations suppose de prévoir la formation, les évaluations et la surveillance des usages. L’achat du logiciel n’épuise pas le coût de son intégration. Les sollicitations supplémentaires, les corrections et l’analyse des incidents doivent être prises en compte pour apprécier son utilité réelle. L’étude de Mount Sinai fournit ainsi un cadre expérimental pour examiner une dimension essentielle de l’IA en santé : sa manière de réagir lorsqu’on lui demande de mal faire. Elle ouvre un programme d’évaluation à poursuivre dans des conditions cliniques prospectives, avec des professionnels et des organisations de soins. Le progrès devra se mesurer à la capacité de ces outils à aider les équipes, à rendre visibles les situations problématiques et à préserver la sécurité du patient, y compris lorsqu’une consigne pousse dans une autre direction. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 20 octobre pour la prochaine note « Les mardis de l’innovation en santé » Retrouvez également cette note sur le site du Journal du Net.

Octobre Rose est là. Alors, pour ce mardi de l’innovation, parlons de santé des femmes. Et parlons d’une innovation qui pourrait transformer profondément la manière dont nous dépistons demain le cancer du sein : l’intelligence artificielle appliquée à la mammographie. L’IA en radiologie n’est évidemment pas nouvelle. Depuis plusieurs années, les publications se multiplient pour montrer que des algorithmes peuvent identifier sur une image des anomalies parfois difficiles à détecter par l’œil humain. Mais il existe une différence fondamentale entre montrer qu’un algorithme fonctionne rétrospectivement sur une banque d’images et démontrer qu’il améliore réellement un programme de dépistage lorsqu’on l’utilise chez des dizaines de milliers de femmes. C’est précisément ce qui rend particulièrement intéressante l’étude suédoise MASAI (Mammography Screening with Artificial Intelligence) dont de nouveaux résultats avaient été publiés en janvier 2026 dans The Lancet. Et quelques mois plus tard (avril 2026), Eric Topol lui consacrait dans le même journal un éditorial au titre qui ne laisse guère de doute sur son interprétation : « Mammography should include artificial intelligence support ».  Alors, que montrent réellement ces résultats ? Jusqu’à présent, une grande partie des travaux consacrés à l’IA en mammographie reposait sur des études rétrospectives ou observationnelles. MASAI est différent. Il s’agit d’un essai randomisé en population réelle, intégré au programme suédois de dépistage du cancer du sein. Entre avril 2021 et décembre 2022, 105 934 femmes ont été randomisées. Dans un groupe, les mammographies étaient interprétées selon le système traditionnel : double lecture par deux radiologues. Dans l’autre, le dépistage était assisté par une IA. L’algorithme utilisé, Transpara, analyse les mammographies et attribue un score de risque allant de 1 à 10. Il signale également au radiologue les zones de l’image qu’il considère comme suspectes. Les mammographies à risque moins élevé pouvaient ainsi faire l’objet d’une seule lecture humaine, tandis que celles considérées comme les plus à risque bénéficiaient d’une double lecture. L’IA fournissait également une aide à la détection au radiologue. C’est une distinction importante : l’étude ne compare pas le radiologue à la machine. Elle compare deux organisations : deux radiologues d’un côté, une organisation associant radiologue et intelligence artificielle de l’autre. Et c’est probablement ainsi qu’il faut envisager l’avenir de l’IA en médecine. Les premières analyses de MASAI avaient déjà produit un résultat particulièrement marquant. Dans le groupe bénéficiant de l’IA, 338 cancers ont été détectés lors du dépistage, contre 262 dans le groupe contrôle, soit une augmentation de 29 % de la détection des cancers. Mais ce chiffre n’aurait qu’un intérêt limité si l’IA obtenait ce résultat en multipliant les alertes, les examens complémentaires et les faux positifs. Or ce n’est pas ce qui a été observé. La spécificité est pratiquement identique dans les deux groupes : 98,5 % avec IA contre 98,5 % sans IA.  Et surtout, les cancers supplémentaires détectés n’étaient pas simplement des anomalies insignifiantes. L’augmentation concernait principalement de petites tumeurs invasives, sans atteinte ganglionnaire. Les auteurs avaient également observé davantage de détection de certains sous-types plus agressifs, notamment luminal B, triple négatif et HER2 positif. Autrement dit, l’IA semble permettre de repérer plus tôt une partie des cancers pour lesquels une détection précoce peut être particulièrement importante. Mais la vraie question arrive deux ans plus tard. Détecter davantage de cancers lors d’une mammographie est intéressant. Mais cela ne suffit pas. Car il existe un problème particulièrement important dans tous les programmes de dépistage : celui des cancers d’intervalle. Ce sont les cancers diagnostiqués entre deux campagnes de dépistage, après une mammographie qui ne les avait pas détectés. Ils constituent un indicateur important de la performance d’un programme de dépistage et sont généralement associés à des caractéristiques moins favorables que les cancers détectés lors du screening. C’est précisément l’objet de la publication de 2026. Après au moins deux années de suivi, les chercheurs retrouvent 82 cancers d’intervalle parmi 53 043 femmes dans le groupe IA, contre 93 parmi 52 872 femmes dans le groupe contrôle. Soit respectivement 1,55 contre 1,76 cancer d’intervalle pour 1 000 femmes dépistées. Cela correspond numériquement à 12 % de cancers d’intervalle en moins dans le groupe utilisant l’IA.  Mais attention à ne pas surinterpréter ce chiffre. L’étude était conçue pour démontrer la non-infériorité de l’approche assistée par IA sur ce critère et non sa supériorité. La différence observée ne permet donc pas d’affirmer statistiquement que l’IA réduit de 12 % les cancers d’intervalle. C’est un signal favorable, pas encore une démonstration de supériorité. En revanche, un autre résultat est beaucoup plus net : la sensibilité du dépistage passe de 73,8 % sans IA à 80,5 % avec IA. La différence est statistiquement significative. Et simultanément, la spécificité reste identique à 98,5 %. Pour les cancers invasifs, la différence est également notable : 70,9 % de sensibilité sans IA contre 78,3 % avec IA.  C’est probablement l’un des résultats les plus importants de l’étude. L’IA permet ici d’augmenter la probabilité de détecter un cancer présent sans dégrader la capacité du dépistage à reconnaître correctement les femmes qui n’ont pas de cancer. Il est également intéressant de regarder quels cancers apparaissent ensuite entre deux dépistages. Parmi les cancers d’intervalle, les chercheurs observent numériquement dans le groupe IA 16 % de cancers invasifs en moins, 21 % de tumeurs T2+ en moins et 27 % de cancers non-luminal A en moins. Enfin, une femme présentait des métastases au moment du diagnostic dans le groupe IA, contre cinq dans le groupe contrôle.  Là encore, prudence : ces différences sont descriptives. L’essai n’avait pas la puissance statistique nécessaire pour démontrer une supériorité sur chacun de ces critères. Mais elles posent une hypothèse passionnante : l’IA ne permettrait peut-être pas seulement de trouver davantage de cancers. Elle pourrait permettre de trouver plus tôt certains cancers qui auraient autrement été diagnostiqués quelques mois plus tard, parfois à un stade plus avancé. Et c’est évidemment cette hypothèse qu’il faudra maintenant confirmer. Une deuxième révolution, moins spectaculaire mais peut-être tout aussi importante, concerne le temps médical. L’utilisation de l’IA a permis de réduire de 44,2 % le nombre de lectures de mammographies nécessaires : 61 248 lectures dans le groupe assisté par IA contre 109 692 avec le système traditionnel de double lecture.  On obtient donc simultanément 29 % de cancers détectés en plus, une sensibilité significativement améliorée, une spécificité inchangée et une réduction de 44 % de la charge de lecture. Dans des systèmes de santé confrontés à une raréfaction du temps médical et à des difficultés de démographie dans certaines spécialités, c’est une dimension majeure de l’innovation. Et cela permet de sortir du débat caricatural : « L’intelligence artificielle va-t-elle remplacer le radiologue ? » = ce n’est pas ce que montre MASAI. La question devient plutôt : comment l’intelligence artificielle peut-elle permettre au radiologue de consacrer davantage de son temps aux situations où son expertise est réellement nécessaire ? Dans son éditorial du Lancet, Eric Topol va encore beaucoup plus loin. Il considère que l’accumulation des résultats devient suffisamment convaincante pour envisager une évolution du standard de dépistage.  Mais ce qui est surtout intéressant dans son texte est qu’il ne limite pas l’IA à la détection d’un cancer sur une mammographie. Il imagine que demain, une même mammographie pourrait fournir trois types d’informations différentes. La première est celle dont nous venons de parler : détecter un cancer déjà présent. La deuxième change profondément la logique du dépistage : identifier, parmi les femmes dont la mammographie est normale aujourd’hui, celles qui présentent néanmoins un risque élevé de développer un cancer dans les années suivantes. Et la troisième est encore plus surprenante : utiliser la mammographie pour recueillir des informations sur le risque cardiovasculaire. Le schéma proposé par Topol résume parfaitement cette évolution : une seule mammographie, trois usages possibles : détection du cancer, prédiction du risque futur de cancer et analyse des calcifications artérielles mammaires comme marqueur potentiel du risque cardiovasculaire.  Topol cite notamment Clairity Breast, un algorithme ayant obtenu une autorisation de novo de la FDA américaine en 2025. L’algorithme a été développé à partir d’environ 420 000 mammographies provenant de 27 établissements aux États-Unis, en Europe et en Amérique du Sud. Une femme réalise sa mammographie. Aucune tumeur n’est détectée. Aujourd’hui, nous lui disons essentiellement : « Votre mammographie est normale. » Demain, l’analyse par IA pourrait ajouter : « Elle est normale aujourd’hui, mais certaines caractéristiques de votre mammographie indiquent que votre risque de développer un cancer du sein dans les cinq prochaines années est plus élevé. » Cette information pourrait permettre d’adapter le parcours de prévention : surveillance plus rapprochée ou recours, selon le niveau de risque, à d’autres modalités d’imagerie comme l’IRM, l’échographie ou la mammographie 3D. Nous passerions alors progressivement d’un dépistage organisé principalement selon l’âge à un dépistage davantage personnalisé selon le risque individuel. C’est un changement beaucoup plus profond que la simple automatisation de la lecture des mammographies. Et si la mammographie pouvait aussi nous renseigner sur le cœur ? C’est probablement l’aspect le plus inattendu de l’éditorial de Topol. Certaines mammographies montrent des calcifications des artères mammaires. Topol cite l’algorithme CureMetrix, autorisé par la FDA, qui peut exploiter cette information. Ces calcifications ont été associées au risque d’événements cardiovasculaires majeurs dans les années suivantes.  La mammographie pourrait donc devenir un exemple de ce que Topol appelle l’«opportunistic screening ». Une image réalisée pour une raison (rechercher un cancer du sein) fournirait, grâce à l’IA, une information supplémentaire concernant une autre maladie. Et ce point est particulièrement intéressant lorsqu’on parle de santé des femmes, car nous avons longtemps résumé la prévention féminine aux cancers gynécologiques et au cancer du sein, alors que les maladies cardiovasculaires représentent également un enjeu majeur chez les femmes. Imaginez donc le potentiel : un seul examen, réalisé dans le cadre du dépistage du cancer du sein, pourrait demain contribuer à évaluer simultanément le risque oncologique actuel, le risque oncologique futur et une partie du risque cardiovasculaire. C’est une vision radicalement différente de la prévention. Ces résultats sont impressionnants. Mais il ne faut pas transformer une avancée importante en promesse excessive. MASAI a été réalisé en Suède, dans quatre sites de dépistage, avec une organisation particulière, des radiologues expérimentés, un système de mammographie et un algorithme déterminé. Les résultats ne peuvent donc pas être automatiquement transposés à tous les systèmes de dépistage. Nous ne savons pas encore si l’amélioration observée se maintiendra au fil de plusieurs cycles de dépistage. Nous ne savons pas encore si elle entraînera à terme une diminution de la mortalité par cancer du sein. Il faudra également surveiller le risque de surdiagnostic, notamment pour certaines lésions in situ et certaines tumeurs peu agressives. Les auteurs de MASAI abordent eux-mêmes cette question. Et enfin, une question essentielle reste ouverte : le rapport coût-efficacité. L’analyse médico-économique de MASAI doit faire l’objet d’une publication spécifique car une innovation n’a véritablement de sens pour un système de santé que si elle améliore la santé des patients dans des conditions économiques permettant son déploiement à grande échelle. Alors, que retenir en ce début d’Octobre Rose ? Peut-être ceci : pendant des décennies, la mammographie nous a permis de voir plus tôt un cancer du sein. L’intelligence artificielle pourrait aujourd’hui nous permettre d’en tirer beaucoup plus d’informations. Voir davantage de cancers. Les voir potentiellement plus tôt. Identifier les femmes à risque avant même qu’un cancer ne soit visible. Et peut-être utiliser la même image pour obtenir des informations sur leur risque cardiovasculaire. Nous sommes donc peut-être en train de passer d’une mammographie de dépistage à une mammographie de prévention personnalisée. Et c’est là, à mon sens, que se trouve la véritable révolution : pas dans une compétition entre l’homme et la machine mais dans la possibilité de combiner l’expertise du médecin, la puissance de l’algorithme et les données que nous produisons déjà pour intervenir plus tôt. La France dispose d’un programme national de dépistage organisé du cancer du sein. Ces résultats posent donc désormais une question très concrète : faut-il expérimenter à grande échelle l’intelligence artificielle dans le dépistage organisé du cancer du sein en France ? Octobre Rose nous rappelle chaque année l’importance du dépistage. L’innovation peut désormais nous permettre de poser une question supplémentaire : comment faire de ce dépistage un véritable outil de prévention personnalisée en santé des femmes ? Parce que la médecine de demain ne consistera pas seulement à mieux traiter les maladies : elle devra aussi apprendre à les voir venir. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 13 octobre pour la prochaine note « Les mardis de l’innovation en santé » Références : Gommers J, Hernström V, Josefsson V, et al. Interval cancer, sensitivity, and specificity comparing AI-supported mammography screening with standard double reading without AI in the MASAI study: a randomised, controlled, non-inferiority, single-blinded, p Topol EJ. Mammography should include artificial intelligence support. The Lancet. 2026;407:1415.