IA en santé : nous devons mettre la supervision humaine à l’épreuve !

Depuis la pandémie de Covid-19, une question préoccupe la communauté médicale et scientifique : comment restaurer la confiance dans la science dans un monde où l’information circule désormais beaucoup plus vite que la connaissance scientifique ? Le paradoxe est saisissant. Jamais autant de connaissances scientifiques n’ont été accessibles. En quelques secondes, chacun peut consulter une publication, rechercher une étude ou interroger une intelligence artificielle sur pratiquement n’importe quelle question médicale. Mais jamais il n’a peut-être été aussi difficile de distinguer une donnée robuste d’une affirmation simplement vraisemblable. La pandémie nous l’a montré de manière spectaculaire. Nous avons assisté presque en temps réel à la confrontation de deux temporalités radicalement différentes. D’un côté, le temps scientifique : formuler une hypothèse, recueillir des données, les analyser, publier, confronter les résultats à ceux d’autres équipes, parfois se tromper et corriger. De l’autre, le temps numérique : quelques secondes pour publier une affirmation et quelques heures pour qu’elle soit vue par des millions de personnes. Une étude préliminaire, un cas clinique isolé ou une hypothèse non démontrée peuvent ainsi devenir viraux bien avant que la communauté scientifique ait eu le temps de les vérifier. La confiance scientifique ne peut pas être décrétée. Elle doit se construire sur la rigueur, l’éducation scientifique et la compréhension des mécanismes permettant de produire et de valider une connaissance. La crise sanitaire a montré combien la science est une construction progressive : elle ne délivre pas instantanément des certitudes ; elle produit des connaissances qui se renforcent, se corrigent et se confrontent.  Quand la viralité concurrence la vérité L'intelligence artificielle générative rend cette question encore plus importante. Elle permet désormais de produire en quelques secondes des textes structurés, argumentés et apparemment scientifiques. Le danger n'est donc plus seulement la fausse information grossière. C'est aussi l'apparition d'une information fausse mais vraisemblable, accompagnée éventuellement de références, de graphiques ou d'un vocabulaire donnant toutes les apparences de la rigueur. La désinformation médicale a changé de dimension depuis la pandémie. Les réseaux sociaux, les mécanismes algorithmiques d'amplification et désormais l'intelligence artificielle permettent à des récits inexacts de circuler à une échelle et à une vitesse sans précédent. Plus préoccupant encore : les messages longs et élaborés peuvent être particulièrement persuasifs. Nous sommes donc confrontés à une transformation profonde de l'environnement scientifique et informationnel. La question n'est plus seulement : « Cette information est-elle vraie ? ». Elle devient : « Puis-je vérifier comment cette conclusion a été produite ? » Et c'est précisément sur ce terrain qu'une publication récente dans Nature mérite toute notre attention. Quand un article scientifique devient un agent Des chercheurs de Stanford ont développé Paper2Agent1, un système dont l'ambition est étonnante : transformer automatiquement une publication scientifique en agent d'intelligence artificielle interactif. Aujourd'hui, lorsqu'un chercheur lit un article décrivant une nouvelle méthode computationnelle, le chemin entre la publication et son utilisation peut être long. Il faut comprendre la méthode, retrouver le code source, installer les bonnes dépendances informatiques, récupérer les données et apprendre à utiliser correctement les outils développés par les auteurs. Autrement dit, publier une méthode ne signifie pas nécessairement qu'elle soit facilement réutilisable. Paper2Agent cherche à supprimer une partie de cette barrière. Le système analyse l'article mais aussi les éléments qui l'accompagnent : code informatique, données, documents supplémentaires et workflows. Il construit ensuite des outils exécutables accessibles à un agent d'IA avec lequel le chercheur peut dialoguer en langage naturel. On ne demande donc plus seulement à l'intelligence artificielle : « Résume-moi cet article. » On peut lui demander : « Utilise la méthode décrite dans cet article sur mes propres données. » La différence est considérable. De la connaissance publiée à la connaissance exécutable Les chercheurs ont notamment appliqué Paper2Agent à AlphaGenome, un modèle permettant d'étudier les conséquences potentielles de variants génétiques. Les chercheurs ont notamment appliqué Paper2Agent à AlphaGenome, ainsi qu'à des outils d'analyse single-cell et de transcriptomique spatiale, montrant que le système pouvait reproduire des analyses existantes mais aussi appliquer les méthodes à de nouvelles questions. Mais l'expérience la plus importante est probablement celle menée à plus grande échelle. Les auteurs ont soumis 100 articles de biologie computationnelle au système. Soixante-quatorze ont pu être transformés avec succès en agents. Ceux-ci ont généré 599 outils, dont 593 ont passé les tests automatisés de validation. Sur 300 questions issues des tutoriels associés à ces publications, Paper2Agent avec le modèle utilisé dans l'étude atteint une précision moyenne de 91,2 %, contre 80,3 % pour le comparateur disposant directement de l'article et du dépôt informatique.  Ces chiffres ne signifient évidemment pas que la reproductibilité scientifique serait résolue par l'IA. Ils montrent en revanche qu'une partie de la distance séparant la publication d'une méthode de sa réutilisation effective pourrait être considérablement réduite. Et si plusieurs articles pouvaient « travailler » ensemble ? Paper2Agent va encore plus loin. Les chercheurs ont connecté plusieurs articles-agents afin qu'ils puissent mobiliser conjointement leurs méthodes et leurs données. Dans un exemple consacré au psoriasis, des agents issus de plusieurs publications ont combiné des prédictions génomiques avec des données expérimentales sur les lymphocytes T CD4+. Cette analyse a conduit le système à soutenir GPR137 comme gène causal probable au locus étudié, dans un mécanisme dépendant de l'activation cellulaire. Différentes publications deviennent en quelque sorte des briques scientifiques capables d'être interrogées ensemble, tandis que le chercheur reste dans la boucle pour choisir les stratégies et interpréter les résultats. Nous passons alors progressivement d'une bibliothèque composée de documents statiques à un écosystème de connaissances scientifiques potentiellement interactives. C'est une transformation potentiellement majeure de la manière dont circule la connaissance scientifique. Une nouvelle étape pour la reproductibilité scientifique ? C'est aussi là que Paper2Agent rejoint directement la question de la confiance. Pendant longtemps, le lecteur d'une publication scientifique devait essentiellement faire confiance au processus éditorial : les auteurs, les reviewers, la revue et, progressivement, la reproduction des résultats par d'autres équipes. L'ouverture des données et du code a commencé à modifier ce modèle. Paper2Agent pourrait constituer une étape supplémentaire : rendre une partie de la méthode directement interrogeable et exécutable. Les auteurs avancent d'ailleurs une idée particulièrement intéressante : demain, à côté des traditionnelles rubriques Data availability et Code availability, les revues scientifiques pourraient demander une rubrique « Agent availability » indiquant si les travaux publiés peuvent être utilisés sous forme d'agent.  On peut même aller plus loin. La capacité d'une publication à être transformée en agent pourrait devenir indirectement un test de reproductibilité. Dans l'étude, 26 des 100 articles de biologie computationnelle n'ont justement pas pu être transformés avec succès, notamment en raison de code inexécutable, de données ou modèles manquants, de problèmes de dépendances informatiques ou de scripts difficilement généralisables.  L'échec de « l'agentification » devient alors lui-même informatif : il révèle les obstacles empêchant réellement d'autres chercheurs de réutiliser le travail publié. Mais l'IA ne doit pas devenir un nouvel argument d'autorité Il serait toutefois dangereux d'en conclure que l'intelligence artificielle pourrait devenir un arbitre automatique de la vérité scientifique. Ce serait remplacer une confiance aveugle par une autre. Un agent peut reproduire fidèlement une méthode et néanmoins partir d'une hypothèse discutable. Un code parfaitement exécutable ne garantit pas que la question scientifique soit pertinente. Une corrélation statistique ne devient pas une causalité parce qu'elle a été calculée automatiquement. Les auteurs de Paper2Agent sont d'ailleurs explicites : la génération d'hypothèses, le choix des orientations scientifiques et l'interprétation des résultats doivent rester human-in-the-loop. Ils présentent leur système comme un outil d'augmentation de la recherche, non comme une source autonome et autoritaire de conclusions scientifiques.  Cette distinction est fondamentale. L'IA peut exécuter, comparer, rechercher, confronter et accélérer. Mais le chercheur doit continuer à douter. Car le doute méthodique n'est pas une faiblesse de la science. Il en constitue précisément l'une des forces. Une science exécutable n'est pas nécessairement une science vraie. Mais une science que l'on peut davantage vérifier, reproduire et contester est une science qui expose mieux ses preuves. De l'IA qui produit du vraisemblable à l'IA qui aide à vérifier Nous arrivons ainsi à un paradoxe passionnant. L'intelligence artificielle constitue probablement l'un des outils les plus puissants jamais créés pour produire du contenu vraisemblable à grande échelle. Elle peut donc amplifier la désinformation et rendre beaucoup plus difficile la distinction entre connaissance, opinion et manipulation. Mais les mêmes technologies pourraient aussi nous fournir de nouveaux instruments pour remonter aux sources, confronter les données, reproduire les analyses et rendre les méthodes scientifiques plus accessibles. Dans un monde saturé de contenus générés artificiellement, la valeur d'une publication scientifique reposera peut-être de moins en moins sur sa seule capacité à être lue ou citée, et de plus en plus sur notre capacité à remonter aux données, aux méthodes et aux résultats qui la fondent. L'article scientifique de demain ne sera alors peut-être plus seulement quelque chose que nous lisons. Il deviendra quelque chose que nous pouvons interroger, tester, reproduire, confronter et utiliser. À condition de ne jamais oublier une règle essentielle : l'intelligence artificielle peut accélérer la science ; elle ne doit jamais nous dispenser d'exercer notre esprit critique. L'IA peut accélérer la science. Le doute, lui, doit rester humain. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 27 septembre pour la prochaine note « Les mardis de l’innovation en santé » Retrouvez également cette tribune sur le site du Journal du Net.

Octobre Rose est là. Alors, pour ce mardi de l’innovation, parlons de santé des femmes. Et parlons d’une innovation qui pourrait transformer profondément la manière dont nous dépistons demain le cancer du sein : l’intelligence artificielle appliquée à la mammographie. L’IA en radiologie n’est évidemment pas nouvelle. Depuis plusieurs années, les publications se multiplient pour montrer que des algorithmes peuvent identifier sur une image des anomalies parfois difficiles à détecter par l’œil humain. Mais il existe une différence fondamentale entre montrer qu’un algorithme fonctionne rétrospectivement sur une banque d’images et démontrer qu’il améliore réellement un programme de dépistage lorsqu’on l’utilise chez des dizaines de milliers de femmes. C’est précisément ce qui rend particulièrement intéressante l’étude suédoise MASAI (Mammography Screening with Artificial Intelligence) dont de nouveaux résultats avaient été publiés en janvier 2026 dans The Lancet. Et quelques mois plus tard (avril 2026), Eric Topol lui consacrait dans le même journal un éditorial au titre qui ne laisse guère de doute sur son interprétation : « Mammography should include artificial intelligence support ».  Alors, que montrent réellement ces résultats ? Jusqu’à présent, une grande partie des travaux consacrés à l’IA en mammographie reposait sur des études rétrospectives ou observationnelles. MASAI est différent. Il s’agit d’un essai randomisé en population réelle, intégré au programme suédois de dépistage du cancer du sein. Entre avril 2021 et décembre 2022, 105 934 femmes ont été randomisées. Dans un groupe, les mammographies étaient interprétées selon le système traditionnel : double lecture par deux radiologues. Dans l’autre, le dépistage était assisté par une IA. L’algorithme utilisé, Transpara, analyse les mammographies et attribue un score de risque allant de 1 à 10. Il signale également au radiologue les zones de l’image qu’il considère comme suspectes. Les mammographies à risque moins élevé pouvaient ainsi faire l’objet d’une seule lecture humaine, tandis que celles considérées comme les plus à risque bénéficiaient d’une double lecture. L’IA fournissait également une aide à la détection au radiologue. C’est une distinction importante : l’étude ne compare pas le radiologue à la machine. Elle compare deux organisations : deux radiologues d’un côté, une organisation associant radiologue et intelligence artificielle de l’autre. Et c’est probablement ainsi qu’il faut envisager l’avenir de l’IA en médecine. Les premières analyses de MASAI avaient déjà produit un résultat particulièrement marquant. Dans le groupe bénéficiant de l’IA, 338 cancers ont été détectés lors du dépistage, contre 262 dans le groupe contrôle, soit une augmentation de 29 % de la détection des cancers. Mais ce chiffre n’aurait qu’un intérêt limité si l’IA obtenait ce résultat en multipliant les alertes, les examens complémentaires et les faux positifs. Or ce n’est pas ce qui a été observé. La spécificité est pratiquement identique dans les deux groupes : 98,5 % avec IA contre 98,5 % sans IA.  Et surtout, les cancers supplémentaires détectés n’étaient pas simplement des anomalies insignifiantes. L’augmentation concernait principalement de petites tumeurs invasives, sans atteinte ganglionnaire. Les auteurs avaient également observé davantage de détection de certains sous-types plus agressifs, notamment luminal B, triple négatif et HER2 positif. Autrement dit, l’IA semble permettre de repérer plus tôt une partie des cancers pour lesquels une détection précoce peut être particulièrement importante. Mais la vraie question arrive deux ans plus tard. Détecter davantage de cancers lors d’une mammographie est intéressant. Mais cela ne suffit pas. Car il existe un problème particulièrement important dans tous les programmes de dépistage : celui des cancers d’intervalle. Ce sont les cancers diagnostiqués entre deux campagnes de dépistage, après une mammographie qui ne les avait pas détectés. Ils constituent un indicateur important de la performance d’un programme de dépistage et sont généralement associés à des caractéristiques moins favorables que les cancers détectés lors du screening. C’est précisément l’objet de la publication de 2026. Après au moins deux années de suivi, les chercheurs retrouvent 82 cancers d’intervalle parmi 53 043 femmes dans le groupe IA, contre 93 parmi 52 872 femmes dans le groupe contrôle. Soit respectivement 1,55 contre 1,76 cancer d’intervalle pour 1 000 femmes dépistées. Cela correspond numériquement à 12 % de cancers d’intervalle en moins dans le groupe utilisant l’IA.  Mais attention à ne pas surinterpréter ce chiffre. L’étude était conçue pour démontrer la non-infériorité de l’approche assistée par IA sur ce critère et non sa supériorité. La différence observée ne permet donc pas d’affirmer statistiquement que l’IA réduit de 12 % les cancers d’intervalle. C’est un signal favorable, pas encore une démonstration de supériorité. En revanche, un autre résultat est beaucoup plus net : la sensibilité du dépistage passe de 73,8 % sans IA à 80,5 % avec IA. La différence est statistiquement significative. Et simultanément, la spécificité reste identique à 98,5 %. Pour les cancers invasifs, la différence est également notable : 70,9 % de sensibilité sans IA contre 78,3 % avec IA.  C’est probablement l’un des résultats les plus importants de l’étude. L’IA permet ici d’augmenter la probabilité de détecter un cancer présent sans dégrader la capacité du dépistage à reconnaître correctement les femmes qui n’ont pas de cancer. Il est également intéressant de regarder quels cancers apparaissent ensuite entre deux dépistages. Parmi les cancers d’intervalle, les chercheurs observent numériquement dans le groupe IA 16 % de cancers invasifs en moins, 21 % de tumeurs T2+ en moins et 27 % de cancers non-luminal A en moins. Enfin, une femme présentait des métastases au moment du diagnostic dans le groupe IA, contre cinq dans le groupe contrôle.  Là encore, prudence : ces différences sont descriptives. L’essai n’avait pas la puissance statistique nécessaire pour démontrer une supériorité sur chacun de ces critères. Mais elles posent une hypothèse passionnante : l’IA ne permettrait peut-être pas seulement de trouver davantage de cancers. Elle pourrait permettre de trouver plus tôt certains cancers qui auraient autrement été diagnostiqués quelques mois plus tard, parfois à un stade plus avancé. Et c’est évidemment cette hypothèse qu’il faudra maintenant confirmer. Une deuxième révolution, moins spectaculaire mais peut-être tout aussi importante, concerne le temps médical. L’utilisation de l’IA a permis de réduire de 44,2 % le nombre de lectures de mammographies nécessaires : 61 248 lectures dans le groupe assisté par IA contre 109 692 avec le système traditionnel de double lecture.  On obtient donc simultanément 29 % de cancers détectés en plus, une sensibilité significativement améliorée, une spécificité inchangée et une réduction de 44 % de la charge de lecture. Dans des systèmes de santé confrontés à une raréfaction du temps médical et à des difficultés de démographie dans certaines spécialités, c’est une dimension majeure de l’innovation. Et cela permet de sortir du débat caricatural : « L’intelligence artificielle va-t-elle remplacer le radiologue ? » = ce n’est pas ce que montre MASAI. La question devient plutôt : comment l’intelligence artificielle peut-elle permettre au radiologue de consacrer davantage de son temps aux situations où son expertise est réellement nécessaire ? Dans son éditorial du Lancet, Eric Topol va encore beaucoup plus loin. Il considère que l’accumulation des résultats devient suffisamment convaincante pour envisager une évolution du standard de dépistage.  Mais ce qui est surtout intéressant dans son texte est qu’il ne limite pas l’IA à la détection d’un cancer sur une mammographie. Il imagine que demain, une même mammographie pourrait fournir trois types d’informations différentes. La première est celle dont nous venons de parler : détecter un cancer déjà présent. La deuxième change profondément la logique du dépistage : identifier, parmi les femmes dont la mammographie est normale aujourd’hui, celles qui présentent néanmoins un risque élevé de développer un cancer dans les années suivantes. Et la troisième est encore plus surprenante : utiliser la mammographie pour recueillir des informations sur le risque cardiovasculaire. Le schéma proposé par Topol résume parfaitement cette évolution : une seule mammographie, trois usages possibles : détection du cancer, prédiction du risque futur de cancer et analyse des calcifications artérielles mammaires comme marqueur potentiel du risque cardiovasculaire.  Topol cite notamment Clairity Breast, un algorithme ayant obtenu une autorisation de novo de la FDA américaine en 2025. L’algorithme a été développé à partir d’environ 420 000 mammographies provenant de 27 établissements aux États-Unis, en Europe et en Amérique du Sud. Une femme réalise sa mammographie. Aucune tumeur n’est détectée. Aujourd’hui, nous lui disons essentiellement : « Votre mammographie est normale. » Demain, l’analyse par IA pourrait ajouter : « Elle est normale aujourd’hui, mais certaines caractéristiques de votre mammographie indiquent que votre risque de développer un cancer du sein dans les cinq prochaines années est plus élevé. » Cette information pourrait permettre d’adapter le parcours de prévention : surveillance plus rapprochée ou recours, selon le niveau de risque, à d’autres modalités d’imagerie comme l’IRM, l’échographie ou la mammographie 3D. Nous passerions alors progressivement d’un dépistage organisé principalement selon l’âge à un dépistage davantage personnalisé selon le risque individuel. C’est un changement beaucoup plus profond que la simple automatisation de la lecture des mammographies. Et si la mammographie pouvait aussi nous renseigner sur le cœur ? C’est probablement l’aspect le plus inattendu de l’éditorial de Topol. Certaines mammographies montrent des calcifications des artères mammaires. Topol cite l’algorithme CureMetrix, autorisé par la FDA, qui peut exploiter cette information. Ces calcifications ont été associées au risque d’événements cardiovasculaires majeurs dans les années suivantes.  La mammographie pourrait donc devenir un exemple de ce que Topol appelle l’«opportunistic screening ». Une image réalisée pour une raison (rechercher un cancer du sein) fournirait, grâce à l’IA, une information supplémentaire concernant une autre maladie. Et ce point est particulièrement intéressant lorsqu’on parle de santé des femmes, car nous avons longtemps résumé la prévention féminine aux cancers gynécologiques et au cancer du sein, alors que les maladies cardiovasculaires représentent également un enjeu majeur chez les femmes. Imaginez donc le potentiel : un seul examen, réalisé dans le cadre du dépistage du cancer du sein, pourrait demain contribuer à évaluer simultanément le risque oncologique actuel, le risque oncologique futur et une partie du risque cardiovasculaire. C’est une vision radicalement différente de la prévention. Ces résultats sont impressionnants. Mais il ne faut pas transformer une avancée importante en promesse excessive. MASAI a été réalisé en Suède, dans quatre sites de dépistage, avec une organisation particulière, des radiologues expérimentés, un système de mammographie et un algorithme déterminé. Les résultats ne peuvent donc pas être automatiquement transposés à tous les systèmes de dépistage. Nous ne savons pas encore si l’amélioration observée se maintiendra au fil de plusieurs cycles de dépistage. Nous ne savons pas encore si elle entraînera à terme une diminution de la mortalité par cancer du sein. Il faudra également surveiller le risque de surdiagnostic, notamment pour certaines lésions in situ et certaines tumeurs peu agressives. Les auteurs de MASAI abordent eux-mêmes cette question. Et enfin, une question essentielle reste ouverte : le rapport coût-efficacité. L’analyse médico-économique de MASAI doit faire l’objet d’une publication spécifique car une innovation n’a véritablement de sens pour un système de santé que si elle améliore la santé des patients dans des conditions économiques permettant son déploiement à grande échelle. Alors, que retenir en ce début d’Octobre Rose ? Peut-être ceci : pendant des décennies, la mammographie nous a permis de voir plus tôt un cancer du sein. L’intelligence artificielle pourrait aujourd’hui nous permettre d’en tirer beaucoup plus d’informations. Voir davantage de cancers. Les voir potentiellement plus tôt. Identifier les femmes à risque avant même qu’un cancer ne soit visible. Et peut-être utiliser la même image pour obtenir des informations sur leur risque cardiovasculaire. Nous sommes donc peut-être en train de passer d’une mammographie de dépistage à une mammographie de prévention personnalisée. Et c’est là, à mon sens, que se trouve la véritable révolution : pas dans une compétition entre l’homme et la machine mais dans la possibilité de combiner l’expertise du médecin, la puissance de l’algorithme et les données que nous produisons déjà pour intervenir plus tôt. La France dispose d’un programme national de dépistage organisé du cancer du sein. Ces résultats posent donc désormais une question très concrète : faut-il expérimenter à grande échelle l’intelligence artificielle dans le dépistage organisé du cancer du sein en France ? Octobre Rose nous rappelle chaque année l’importance du dépistage. L’innovation peut désormais nous permettre de poser une question supplémentaire : comment faire de ce dépistage un véritable outil de prévention personnalisée en santé des femmes ? Parce que la médecine de demain ne consistera pas seulement à mieux traiter les maladies : elle devra aussi apprendre à les voir venir. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 13 octobre pour la prochaine note « Les mardis de l’innovation en santé » Références : Gommers J, Hernström V, Josefsson V, et al. Interval cancer, sensitivity, and specificity comparing AI-supported mammography screening with standard double reading without AI in the MASAI study: a randomised, controlled, non-inferiority, single-blinded, p Topol EJ. Mammography should include artificial intelligence support. The Lancet. 2026;407:1415. 

L’intelligence artificielle s’installe progressivement dans le quotidien des professionnels de santé. Elle promet de faciliter l’accès à l’information, d’alléger certaines tâches administratives et d’accompagner la prise de décision médicale. Mais à mesure que ces outils prennent place dans les pratiques de soin, une question essentielle émerge : comment garantir que l’humain reste réellement maître des décisions ? Car la présence d’un médecin devant un écran ne suffit pas à garantir une utilisation sûre de l’IA. Encore faut-il qu’il dispose du temps, des compétences et des informations nécessaires pour comprendre une recommandation, en vérifier les fondements et, si besoin, la contester. Dans une contribution adressée à la Food and Drug Administration (FDA), l’American Medical Association (AMA) rappelle que cette supervision humaine ne peut être une simple exigence de principe : elle doit être concrètement possible, démontrable et soutenue par des moyens adaptés. Ce nouveau numéro des Mardis de l’innovation en santé nous invite ainsi à dépasser la seule question de la performance technologique pour interroger les conditions réelles d’intégration de l’IA dans les organisations de soins. Car, au fond, le véritable enjeu n’est pas seulement de maintenir un humain dans la boucle, mais de lui donner les moyens d’y exercer pleinement son jugement. Imaginons une situation de travail, proposée ici à titre d’illustration. Une IA prépare la synthèse d’un dossier et une proposition de suivi. Le texte est clair, les informations paraissent cohérentes, la conclusion rassurante. Une surveillance biologique importante a pourtant disparu du résumé. Un médecin est invité à valider. A-t-il accès au document initial ? Peut-il repérer l’omission sans reconstruire tout le dossier ? Dispose-t-il du temps nécessaire alors que d’autres patients attendent ? Et que devient cette étape lorsque les validations se comptent par dizaines ? Ces questions déterminent la valeur clinique du dispositif. Un système peut produire rapidement une réponse convaincante et imposer un travail de vérification considérable. Il peut aussi améliorer réellement la prise en charge si ses limites sont connues, ses résultats vérifiables et son intégration adaptée au service. Pour le patient, ce qui compte est la qualité de la décision finale et du suivi qui en découle. Dans les Mardis de l’innovation en santé, nous avons déjà abordé la nécessité de tester les réactions des modèles face aux demandes inappropriées. Le débat ouvert par la FDA prolonge cette réflexion : après la sécurité des réponses, il faut examiner les conditions de leur utilisation. L’enjeu est de savoir ce que le fabricant doit démontrer, ce que le professionnel peut effectivement contrôler et comment l’établissement organise cette coopération. Un document de discussion et une position professionnelle Le 23 octobre 2026, l’American Medical Association, organisation professionnelle médicale américaine, présente dans son bulletin d’actualité sa contribution transmise à la FDA le 16 octobre. La lettre, signée par John Whyte, répond au document du Center for Devices and Radiological Health consacré aux dispositifs médicaux intégrant de l’IA générative [1, 2]. Le statut des textes mérite d’être précisé. Le document de la FDA est un support de discussion et d’appel à contributions. Il indique expressément qu’il ne constitue ni une recommandation provisoire ni une recommandation définitive, et qu’il n’instaure pas de nouvelles règles. La lettre de l’AMA formule des positions et des demandes. Ces documents ne sont donc ni une étude clinique démontrant un bénéfice, ni une réglementation nouvellement adoptée. [1, p. 1 ; 2] Leur périmètre est également délimité. La FDA rappelle qu’elle réglemente les produits relevant de la définition du dispositif médical, et non l’IA en tant que technologie. Tous les assistants conversationnels ou logiciels utilisés dans un hôpital ne relèvent donc pas automatiquement du champ étudié. La réflexion peut néanmoins éclairer leur évaluation et leur organisation, à condition de ne pas confondre cette transposition avec une qualification réglementaire. [1, p. 4–5] La FDA cherche à adapter les méthodes d’évaluation à des outils dont les entrées et les réponses peuvent être très variables. L’AMA soutient une approche proportionnée aux risques, couvrant toute la vie du produit, tout en fixant une exigence : la difficulté de tester une technologie ne doit pas justifier une démonstration insuffisante de sa sécurité et de son efficacité. [1, p. 1–3 ; 2, p. 1–2] Évaluer ce que le dispositif fait réellement Le document de la FDA propose d’explorer une grille à deux axes. Le premier décrit l’activité du dispositif et le degré d’indépendance avec lequel il oriente ou réalise une action. Le second concerne la gravité des conséquences possibles d’une réponse erronée. Il s’agit d’un outil de réflexion, pas d’une classification réglementaire nouvelle. [1, p. 5–8] Cette approche aide à distinguer des usages souvent réunis sous le même terme d’« assistant ». Fournir une information générale, recommander une conduite personnalisée et déclencher une action ne soulèvent pas les mêmes questions. La gravité d’une erreur dépend aussi de la décision concernée, de son caractère réversible et du délai disponible pour la corriger. La frontière peut évoluer au cours d’une conversation. Un outil commence par expliquer les effets indésirables d’un traitement, puis répond à des questions de plus en plus personnelles, jusqu’à suggérer de modifier ou d’interrompre ce traitement. Évaluer seulement la première réponse manquerait alors le comportement le plus conséquent. L’AMA demande que l’évaluation couvre des trajectoires conversationnelles réalistes et les fonctions les plus risquées raisonnablement prévisibles dans l’usage considéré. [2, p. 7] Les avertissements génériques ne règlent pas cette difficulté. La FDA envisage qu’une information orientant une action ne devienne pas moins directive parce qu’elle se termine par une invitation à consulter un médecin. L’AMA soutient cette lecture et demande que l’efficacité d’un avertissement présenté comme mesure de réduction du risque soit démontrée auprès des utilisateurs concernés. Le ton prudent ne suffit pas à neutraliser la conduite suggérée. [1, p. 7 ; 2, p. 5] L’enjeu est donc d’évaluer les fonctions et leurs conséquences prévisibles. Une formule commerciale comme « aide à la décision » ne permet pas, à elle seule, de déterminer la place réelle du logiciel dans le soin. La supervision doit être possible dans le travail quotidien Le point central de la lettre de l’AMA est particulièrement utile : la présence d’un professionnel ne doit pas être présumée réduire le risque. Si la supervision est utilisée comme mesure de sécurité, son efficacité et sa faisabilité doivent être démontrées dans l’environnement auquel le dispositif est destiné. [2, p. 3–4] Cela suppose d’abord l’accès aux informations nécessaires. Le soignant doit pouvoir retrouver les sources pertinentes, identifier les limites connues et comprendre ce que la proposition permet ou ne permet pas de conclure. Une explication formulée avec assurance ne vaut pas preuve d’exactitude. L’AMA précise d’ailleurs que l’explicabilité ne remplace pas les autres méthodes de démonstration de sécurité et d’efficacité. [2, p. 3] La compétence attendue doit ensuite correspondre au professionnel qui utilisera réellement le dispositif. Un outil destiné à aider un généraliste ne peut être considéré comme sûr uniquement parce qu’un spécialiste reconnaît ses erreurs. Si une expertise spécialisée est indispensable à son contrôle, cette condition doit être explicite et intégrée à l’évaluation. L’objectif d’élargir l’accès à une expertise reste pertinent ; encore faut-il démontrer que l’outil y contribue avec ses utilisateurs prévus. [2, p. 6, 8–9] La formation et le temps de travail sont tout aussi déterminants. Une évaluation dans laquelle les médecins disposent d’un temps supplémentaire, de documents enrichis ou d’un accompagnement indisponible en pratique peut surestimer la sécurité après déploiement. L’AMA demande de reproduire les contraintes de l’usage attendu, notamment le temps de lecture, les informations présentées et les conditions de validation. [2, p. 9] Enfin, le professionnel doit pouvoir agir. Il faut pouvoir contester une réponse, la modifier, demander un avis ou interrompre une action. Une étape de validation qui intervient trop tard, ou qui ne permet pas de revenir sur la proposition, n’offre qu’un contrôle limité. L’AMA inclut aussi les ressources et la rémunération du travail de supervision parmi les conditions à examiner. [2, p. 3] Nous en tirons une conséquence pour l’organisation hospitalière : la mention « validation médicale » devrait correspondre à une tâche définie, avec un responsable, un délai réaliste et une possibilité d’intervention effective. Elle ne peut rester une case ajoutée au circuit informatique. Tester le dispositif complet et la coopération avec les soignants La FDA envisage une évaluation en deux composantes : des tests structurés des capacités du dispositif, puis une confirmation clinique adaptée à son usage. Le produit à évaluer serait celui effectivement déployé, dans sa configuration d’utilisation, et non le seul modèle de fondation sur lequel il repose. [1, p. 11–15] Cette distinction est essentielle. La réponse dépend du modèle, mais aussi des consignes, des documents consultés, des outils accessibles, des règles de sécurité et de l’interface. Un résultat obtenu avec un modèle isolé ne décrit donc pas nécessairement le comportement du dispositif installé dans un service. Les domaines de test envisagés par la FDA dépassent les connaissances médicales. Ils incluent la reconnaissance des situations nécessitant une intervention, le respect des limites d’usage, l’expression de l’incertitude, la qualité de la communication, la robustesse aux variations des informations reçues et les performances dans différents sous-groupes. Pour les systèmes capables d’agir, des compétences supplémentaires concernent la planification et l’exécution des tâches. [1, p. 12, 24–26] La confirmation clinique ne correspondrait pas obligatoirement à un essai prospectif pour chaque dispositif. La FDA discute plusieurs possibilités : analyse rétrospective de dossiers, fonctionnement en parallèle sans influence sur les soins, interactions avec des patients standardisés, appréciation de cas réels par des cliniciens indépendants, ou étude prospective, parfois randomisée. Le choix devrait dépendre de l’usage et du risque. Présenter ce document comme une exigence générale d’essais randomisés serait donc inexact. [1, p. 14–16] Chaque méthode répond à une question différente. Un fonctionnement en parallèle, dont les résultats ne sont pas montrés aux équipes, peut documenter les réponses produites dans un environnement réel. Par construction, il ne permet pas d’observer comment les soignants changent leurs décisions en les lisant. Une évaluation de la coopération doit donc examiner cette interaction lorsque la sécurité en dépend. Pour un outil d’aide au suivi, nous proposons de mesurer les omissions importantes, les orientations inappropriées, les erreurs détectées et celles qui subsistent après validation. Il faudrait aussi documenter le temps de vérification et les conséquences sur les autres tâches. Le taux d’acceptation des propositions ne suffit pas à établir leur qualité : accepter peut traduire une aide pertinente, mais aussi un contrôle insuffisant. Qui assume la responsabilité du produit et de son utilisation L’AMA défend une ligne claire : la contribution des médecins à l’évaluation ne doit pas transférer vers eux la responsabilité de la performance du produit. Elle demande que les fabricants démontrent et maintiennent la sécurité et l’efficacité de leurs dispositifs, y compris lorsque celles-ci dépendent d’interactions avec les utilisateurs. [2, p. 2–3, 7–8] Ce principe ne signifie pas que le professionnel n’aurait plus de responsabilité dans sa décision, ni que l’établissement serait dispensé d’organiser un usage approprié. Il invite à distinguer les contributions. Pour notre réflexion, le fabricant doit documenter le produit et ses conditions d’utilisation ; l’établissement doit vérifier qu’il peut réunir ces conditions ; le professionnel exerce son jugement dans ce cadre et doit disposer des moyens d’alerter lorsqu’il ne fonctionne pas. Cette répartition est une proposition de gouvernance. Elle ne tranche pas l’attribution juridique d’une faute ou d’une indemnisation dans un cas particulier, et les positions américaines ne constituent pas une règle directement applicable en France. La question opérationnelle demeure toutefois incontournable : aucune partie ne devrait compter sur une autre pour assumer un contrôle qui n’a pas été défini. Les dispositifs construits sur des modèles fournis par des tiers compliquent cette organisation. Une modification du modèle sous-jacent peut changer les réponses sans que le service hospitalier ait modifié son usage. La FDA interroge donc les moyens techniques et contractuels permettant au fabricant du dispositif de détecter, évaluer et gérer ces changements. [1, p. 20–22] Pour les établissements, nous proposons que l’achat précise les versions utilisées, les modalités d’information sur les mises à jour et les situations nécessitant une nouvelle évaluation. Il faut également prévoir comment suspendre une fonction et assurer la continuité de l’activité. La dépendance technique à plusieurs fournisseurs doit être documentée, plutôt que découverte au moment d’un incident. Surveiller les évolutions sans reporter la preuve sur les patients La FDA pose une question sensible : pourrait-on accepter davantage d’incertitude avant commercialisation en renforçant la surveillance après déploiement ? L’AMA s’oppose à réduire le niveau de preuve nécessaire à une assurance raisonnable de sécurité et d’efficacité sur cette seule hypothèse. Elle considère que les données recueillies après commercialisation doivent compléter les preuves initiales. [1, p. 19 ; 2, p. 11] La nuance compte. Aucun protocole ne peut éliminer toute incertitude ni reproduire chaque conversation possible. Mais les limites prévisibles, les principaux modes d’échec et les conditions d’utilisation doivent être suffisamment caractérisés avant l’exposition des patients. Détecter un dommage après sa survenue ne remplace pas sa prévention. La surveillance reste ensuite indispensable. La FDA discute la répétition de tests, la revue d’échantillons de situations réelles par des cliniciens et la recherche de dégradations des performances. L’AMA demande que cette revue inclue particulièrement les interactions sensibles, notamment les demandes d’avis et les situations où les professionnels ont corrigé ou rejeté une proposition. Une moyenne globale pourrait masquer des erreurs rares mais graves. [1, p. 19–20 ; 2, p. 12] L’AMA souhaite aussi que les événements surveillés ne se limitent pas aux dommages immédiatement identifiables. Des réponses anormales, des quasi-accidents ou une évolution des erreurs peuvent constituer des signaux utiles. Elle propose d’étudier une capacité nationale de surveillance associant données des fabricants, signalements standardisés et expertise clinique. Il s’agit là encore d’une demande, pas d’un dispositif annoncé comme opérationnel. [2, p. 13] Pour nous, un signalement doit déboucher sur une réponse identifiable : analyse, correction, information des utilisateurs ou suspension si nécessaire. La fréquence de réévaluation devrait suivre le risque et les changements observés. Une nouvelle population, une modification de l’interface ou une mise à jour du modèle peuvent justifier de réexaminer des résultats auparavant satisfaisants. Les agents autonomes rendent les points de contrôle décisifs Les systèmes dits agentiques peuvent planifier des tâches successives, utiliser des outils externes et exécuter des actions. La FDA les distingue des dispositifs se limitant à produire une réponse et sollicite des contributions spécifiques. L’AMA demande une vigilance et des évaluations renforcées, en soulignant les incertitudes sur leur préparation à l’usage clinique. [1, p. 22–23, 26 ; 2, p. 14] Le problème devient celui d’une séquence. Une interprétation initiale peut orienter la recherche d’informations, puis la proposition suivante et enfin une action. L’annexe de la FDA envisage de tester les erreurs d’outils, le respect des validations humaines avant des actions importantes et la résistance aux instructions malveillantes présentes dans des contenus consultés. [1, p. 26] Nous proposons donc que les droits d’action soient explicites : ce que le système peut préparer, ce qu’il peut transmettre et ce qu’il ne peut exécuter sans validation. Les étapes irréversibles ou à conséquences élevées doivent faire l’objet d’un contrôle adapté. Un bouton d’arrêt n’est utile que si le professionnel sait quand l’utiliser et s’il peut intervenir avant que l’action ne produise ses effets. Financer la supervision et préserver un accès équitable Le financement occupe une place importante dans la contribution de l’AMA. Celle-ci demande que les fabricants organisent et financent la participation clinique nécessaire à la surveillance de leurs produits. Elle refuse que les médecins absorbent gratuitement une fonction permanente de contrôle après commercialisation. [2, p. 12–13] Pour un établissement, cette exigence invite à examiner le coût complet de l’innovation. Le prix du logiciel ne résume pas celui de son utilisation. La formation, l’intégration informatique, les vérifications, la gestion des alertes et l’analyse des incidents mobilisent des ressources. Nous proposons que ces éléments soient intégrés à l’évaluation économique dès le départ. Un gain de temps doit ainsi être apprécié après prise en compte du travail supplémentaire. Une synthèse produite rapidement peut être utile, mais sa valeur dépend du temps nécessaire pour la contrôler et de la fiabilité de la décision qu’elle permet. L’objectif est de rendre du temps disponible pour le soin, sans organiser un transfert invisible vers d’autres professionnels. L’accès aux soins pose une seconde question. L’AMA reconnaît qu’il est pertinent de comparer un dispositif aux possibilités réellement accessibles aux patients, notamment lorsque l’avis spécialisé est retardé. Elle met néanmoins en garde contre un abaissement automatique des exigences pour les populations déjà défavorisées. Le manque de ressources ne devrait pas normaliser une offre de moindre qualité. [2, p. 9–10] Cette réflexion s’applique à la prévention. Une IA pourrait repérer un suivi interrompu, préparer une information adaptée ou faciliter une orientation. Son utilité devra être appréciée jusqu’à la réponse apportée : information comprise, contact effectif, rendez-vous accessible et continuité du suivi. Nous proposons de vérifier ces résultats dans les populations les plus éloignées du système de santé, et pas seulement chez les utilisateurs les plus à l’aise avec le numérique. Orienter plus souvent vers un professionnel n’est pas nécessairement une erreur ; cela peut être indispensable. Mais une multiplication d’alertes sans destinataire disponible ne constitue pas une amélioration du parcours. La FDA discute précisément les risques associés à une orientation insuffisante comme à une orientation excessive. Leur équilibre doit être évalué selon la situation clinique. [1, p. 8–10] Une exigence concrète pour les prochaines innovations À partir de ces textes, il est proposé que tout projet d’IA ayant une incidence sur les décisions de soins réponde, avant son déploiement, à quelques questions explicites. Pour quelle tâche et quelle population a-t-il été évalué ? Quelles erreurs importantes ont été recherchées ? Qui vérifie quoi, dans quel délai et avec quelles informations ? Qui finance cette vérification ? Que se passe-t-il lorsque le dispositif change ou qu’un signal de risque apparaît ? Les réponses devraient associer les professionnels concernés, les responsables de la qualité et du numérique, les patients et les concepteurs. Elles permettraient de définir un déploiement progressif, des critères d’arrêt et une réévaluation proportionnée au risque. Les indicateurs devraient porter sur les erreurs cliniquement importantes, les délais, la charge de travail, la compréhension des patients et les inégalités d’accès, en complément des performances techniques. Le débat américain ne fournit pas une solution prête à transposer. Il rend cependant visible une condition souvent laissée implicite : la sécurité d’une IA dépend aussi du travail nécessaire pour l’utiliser correctement. Ce travail doit être étudié, organisé et financé. La supervision humaine ne se décrète pas, elle s’organise. Pour qu’elle protège réellement le patient, le professionnel doit pouvoir comprendre, vérifier et intervenir. Le fabricant doit apporter les preuves correspondant à l’usage proposé et entretenir cette démonstration dans le temps. L’établissement doit disposer des moyens d’intégrer le dispositif sans fragiliser le soin. C’est à ces conditions que l’IA pourra devenir une aide durable aux équipes et à la prévention. Références et repères de lecture [1] U.S. Food and Drug Administration, Center for Devices and Radiological Health. Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback. Document de discussion transmis pour cette note. Les pages citées correspondent à la pagination imprimée 1 à 30, après la page de couverture. Statut et périmètre : p. 1–5 ; risque : p. 5–10 ; évaluation : p. 10–18 ; surveillance et modifications : p. 19–22 ; agents : p. 22–23 et 26 ; compétences : p. 24–26. [2] American Medical Association. Lettre de John Whyte à Rick Abramson, directeur du Digital Health Center of Excellence du CDRH, FDA. Re: Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback. 16 octobre 2026, 14 pages. [3] American Medical Association. National Advocacy Update, 23 octobre 2026. Rubrique « AMA comments on FDA generative AI-enabled medical device regulatory considerations ». Source de la présentation publique de la contribution du 16 octobre. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 3 Novembre pour la prochaine note « Les mardis de l’innovation en santé »