IA en santé : la supervision humaine ne se décrète pas, elle s’organise

L’intelligence artificielle s’installe progressivement dans le quotidien des professionnels de santé. Elle promet de faciliter l’accès à l’information, d’alléger certaines tâches administratives et d’accompagner la prise de décision médicale. Mais à mesure que ces outils prennent place dans les pratiques de soin, une question essentielle émerge : comment garantir que l’humain reste réellement maître des décisions ?

Car la présence d’un médecin devant un écran ne suffit pas à garantir une utilisation sûre de l’IA. Encore faut-il qu’il dispose du temps, des compétences et des informations nécessaires pour comprendre une recommandation, en vérifier les fondements et, si besoin, la contester. Dans une contribution adressée à la Food and Drug Administration (FDA), l’American Medical Association (AMA) rappelle que cette supervision humaine ne peut être une simple exigence de principe : elle doit être concrètement possible, démontrable et soutenue par des moyens adaptés.

Ce nouveau numéro des Mardis de l’innovation en santé nous invite ainsi à dépasser la seule question de la performance technologique pour interroger les conditions réelles d’intégration de l’IA dans les organisations de soins. Car, au fond, le véritable enjeu n’est pas seulement de maintenir un humain dans la boucle, mais de lui donner les moyens d’y exercer pleinement son jugement.

Imaginons une situation de travail, proposée ici à titre d’illustration. Une IA prépare la synthèse d’un dossier et une proposition de suivi. Le texte est clair, les informations paraissent cohérentes, la conclusion rassurante. Une surveillance biologique importante a pourtant disparu du résumé. Un médecin est invité à valider. A-t-il accès au document initial ? Peut-il repérer l’omission sans reconstruire tout le dossier ? Dispose-t-il du temps nécessaire alors que d’autres patients attendent ? Et que devient cette étape lorsque les validations se comptent par dizaines ?

Ces questions déterminent la valeur clinique du dispositif. Un système peut produire rapidement une réponse convaincante et imposer un travail de vérification considérable. Il peut aussi améliorer réellement la prise en charge si ses limites sont connues, ses résultats vérifiables et son intégration adaptée au service. Pour le patient, ce qui compte est la qualité de la décision finale et du suivi qui en découle.

Dans les Mardis de l’innovation en santé, nous avons déjà abordé la nécessité de tester les réactions des modèles face aux demandes inappropriées. Le débat ouvert par la FDA prolonge cette réflexion : après la sécurité des réponses, il faut examiner les conditions de leur utilisation. L’enjeu est de savoir ce que le fabricant doit démontrer, ce que le professionnel peut effectivement contrôler et comment l’établissement organise cette coopération.

Un document de discussion et une position professionnelle

Le 23 octobre 2026, l’American Medical Association, organisation professionnelle médicale américaine, présente dans son bulletin d’actualité sa contribution transmise à la FDA le 16 octobre. La lettre, signée par John Whyte, répond au document du Center for Devices and Radiological Health consacré aux dispositifs médicaux intégrant de l’IA générative [1, 2].

Le statut des textes mérite d’être précisé. Le document de la FDA est un support de discussion et d’appel à contributions. Il indique expressément qu’il ne constitue ni une recommandation provisoire ni une recommandation définitive, et qu’il n’instaure pas de nouvelles règles. La lettre de l’AMA formule des positions et des demandes. Ces documents ne sont donc ni une étude clinique démontrant un bénéfice, ni une réglementation nouvellement adoptée. [1, p. 1 ; 2]

Leur périmètre est également délimité. La FDA rappelle qu’elle réglemente les produits relevant de la définition du dispositif médical, et non l’IA en tant que technologie. Tous les assistants conversationnels ou logiciels utilisés dans un hôpital ne relèvent donc pas automatiquement du champ étudié. La réflexion peut néanmoins éclairer leur évaluation et leur organisation, à condition de ne pas confondre cette transposition avec une qualification réglementaire. [1, p. 4–5]

La FDA cherche à adapter les méthodes d’évaluation à des outils dont les entrées et les réponses peuvent être très variables. L’AMA soutient une approche proportionnée aux risques, couvrant toute la vie du produit, tout en fixant une exigence : la difficulté de tester une technologie ne doit pas justifier une démonstration insuffisante de sa sécurité et de son efficacité. [1, p. 1–3 ; 2, p. 1–2]

Évaluer ce que le dispositif fait réellement

Le document de la FDA propose d’explorer une grille à deux axes. Le premier décrit l’activité du dispositif et le degré d’indépendance avec lequel il oriente ou réalise une action. Le second concerne la gravité des conséquences possibles d’une réponse erronée. Il s’agit d’un outil de réflexion, pas d’une classification réglementaire nouvelle. [1, p. 5–8]

Cette approche aide à distinguer des usages souvent réunis sous le même terme d’« assistant ». Fournir une information générale, recommander une conduite personnalisée et déclencher une action ne soulèvent pas les mêmes questions. La gravité d’une erreur dépend aussi de la décision concernée, de son caractère réversible et du délai disponible pour la corriger.

La frontière peut évoluer au cours d’une conversation. Un outil commence par expliquer les effets indésirables d’un traitement, puis répond à des questions de plus en plus personnelles, jusqu’à suggérer de modifier ou d’interrompre ce traitement. Évaluer seulement la première réponse manquerait alors le comportement le plus conséquent. L’AMA demande que l’évaluation couvre des trajectoires conversationnelles réalistes et les fonctions les plus risquées raisonnablement prévisibles dans l’usage considéré. [2, p. 7]

Les avertissements génériques ne règlent pas cette difficulté. La FDA envisage qu’une information orientant une action ne devienne pas moins directive parce qu’elle se termine par une invitation à consulter un médecin. L’AMA soutient cette lecture et demande que l’efficacité d’un avertissement présenté comme mesure de réduction du risque soit démontrée auprès des utilisateurs concernés. Le ton prudent ne suffit pas à neutraliser la conduite suggérée. [1, p. 7 ; 2, p. 5]

L’enjeu est donc d’évaluer les fonctions et leurs conséquences prévisibles. Une formule commerciale comme « aide à la décision » ne permet pas, à elle seule, de déterminer la place réelle du logiciel dans le soin.

La supervision doit être possible dans le travail quotidien

Le point central de la lettre de l’AMA est particulièrement utile : la présence d’un professionnel ne doit pas être présumée réduire le risque. Si la supervision est utilisée comme mesure de sécurité, son efficacité et sa faisabilité doivent être démontrées dans l’environnement auquel le dispositif est destiné. [2, p. 3–4]

Cela suppose d’abord l’accès aux informations nécessaires. Le soignant doit pouvoir retrouver les sources pertinentes, identifier les limites connues et comprendre ce que la proposition permet ou ne permet pas de conclure. Une explication formulée avec assurance ne vaut pas preuve d’exactitude. L’AMA précise d’ailleurs que l’explicabilité ne remplace pas les autres méthodes de démonstration de sécurité et d’efficacité. [2, p. 3]

La compétence attendue doit ensuite correspondre au professionnel qui utilisera réellement le dispositif. Un outil destiné à aider un généraliste ne peut être considéré comme sûr uniquement parce qu’un spécialiste reconnaît ses erreurs. Si une expertise spécialisée est indispensable à son contrôle, cette condition doit être explicite et intégrée à l’évaluation. L’objectif d’élargir l’accès à une expertise reste pertinent ; encore faut-il démontrer que l’outil y contribue avec ses utilisateurs prévus. [2, p. 6, 8–9]

La formation et le temps de travail sont tout aussi déterminants. Une évaluation dans laquelle les médecins disposent d’un temps supplémentaire, de documents enrichis ou d’un accompagnement indisponible en pratique peut surestimer la sécurité après déploiement. L’AMA demande de reproduire les contraintes de l’usage attendu, notamment le temps de lecture, les informations présentées et les conditions de validation. [2, p. 9]

Enfin, le professionnel doit pouvoir agir. Il faut pouvoir contester une réponse, la modifier, demander un avis ou interrompre une action. Une étape de validation qui intervient trop tard, ou qui ne permet pas de revenir sur la proposition, n’offre qu’un contrôle limité. L’AMA inclut aussi les ressources et la rémunération du travail de supervision parmi les conditions à examiner. [2, p. 3]

Nous en tirons une conséquence pour l’organisation hospitalière : la mention « validation médicale » devrait correspondre à une tâche définie, avec un responsable, un délai réaliste et une possibilité d’intervention effective. Elle ne peut rester une case ajoutée au circuit informatique.

Tester le dispositif complet et la coopération avec les soignants

La FDA envisage une évaluation en deux composantes : des tests structurés des capacités du dispositif, puis une confirmation clinique adaptée à son usage. Le produit à évaluer serait celui effectivement déployé, dans sa configuration d’utilisation, et non le seul modèle de fondation sur lequel il repose. [1, p. 11–15]

Cette distinction est essentielle. La réponse dépend du modèle, mais aussi des consignes, des documents consultés, des outils accessibles, des règles de sécurité et de l’interface. Un résultat obtenu avec un modèle isolé ne décrit donc pas nécessairement le comportement du dispositif installé dans un service.

Les domaines de test envisagés par la FDA dépassent les connaissances médicales. Ils incluent la reconnaissance des situations nécessitant une intervention, le respect des limites d’usage, l’expression de l’incertitude, la qualité de la communication, la robustesse aux variations des informations reçues et les performances dans différents sous-groupes. Pour les systèmes capables d’agir, des compétences supplémentaires concernent la planification et l’exécution des tâches. [1, p. 12, 24–26]

La confirmation clinique ne correspondrait pas obligatoirement à un essai prospectif pour chaque dispositif. La FDA discute plusieurs possibilités : analyse rétrospective de dossiers, fonctionnement en parallèle sans influence sur les soins, interactions avec des patients standardisés, appréciation de cas réels par des cliniciens indépendants, ou étude prospective, parfois randomisée. Le choix devrait dépendre de l’usage et du risque. Présenter ce document comme une exigence générale d’essais randomisés serait donc inexact. [1, p. 14–16]

Chaque méthode répond à une question différente. Un fonctionnement en parallèle, dont les résultats ne sont pas montrés aux équipes, peut documenter les réponses produites dans un environnement réel. Par construction, il ne permet pas d’observer comment les soignants changent leurs décisions en les lisant. Une évaluation de la coopération doit donc examiner cette interaction lorsque la sécurité en dépend.

Pour un outil d’aide au suivi, nous proposons de mesurer les omissions importantes, les orientations inappropriées, les erreurs détectées et celles qui subsistent après validation. Il faudrait aussi documenter le temps de vérification et les conséquences sur les autres tâches. Le taux d’acceptation des propositions ne suffit pas à établir leur qualité : accepter peut traduire une aide pertinente, mais aussi un contrôle insuffisant.

Qui assume la responsabilité du produit et de son utilisation

L’AMA défend une ligne claire : la contribution des médecins à l’évaluation ne doit pas transférer vers eux la responsabilité de la performance du produit. Elle demande que les fabricants démontrent et maintiennent la sécurité et l’efficacité de leurs dispositifs, y compris lorsque celles-ci dépendent d’interactions avec les utilisateurs. [2, p. 2–3, 7–8]

Ce principe ne signifie pas que le professionnel n’aurait plus de responsabilité dans sa décision, ni que l’établissement serait dispensé d’organiser un usage approprié. Il invite à distinguer les contributions. Pour notre réflexion, le fabricant doit documenter le produit et ses conditions d’utilisation ; l’établissement doit vérifier qu’il peut réunir ces conditions ; le professionnel exerce son jugement dans ce cadre et doit disposer des moyens d’alerter lorsqu’il ne fonctionne pas.

Cette répartition est une proposition de gouvernance. Elle ne tranche pas l’attribution juridique d’une faute ou d’une indemnisation dans un cas particulier, et les positions américaines ne constituent pas une règle directement applicable en France. La question opérationnelle demeure toutefois incontournable : aucune partie ne devrait compter sur une autre pour assumer un contrôle qui n’a pas été défini.

Les dispositifs construits sur des modèles fournis par des tiers compliquent cette organisation. Une modification du modèle sous-jacent peut changer les réponses sans que le service hospitalier ait modifié son usage. La FDA interroge donc les moyens techniques et contractuels permettant au fabricant du dispositif de détecter, évaluer et gérer ces changements. [1, p. 20–22]

Pour les établissements, nous proposons que l’achat précise les versions utilisées, les modalités d’information sur les mises à jour et les situations nécessitant une nouvelle évaluation. Il faut également prévoir comment suspendre une fonction et assurer la continuité de l’activité. La dépendance technique à plusieurs fournisseurs doit être documentée, plutôt que découverte au moment d’un incident.

Surveiller les évolutions sans reporter la preuve sur les patients

La FDA pose une question sensible : pourrait-on accepter davantage d’incertitude avant commercialisation en renforçant la surveillance après déploiement ? L’AMA s’oppose à réduire le niveau de preuve nécessaire à une assurance raisonnable de sécurité et d’efficacité sur cette seule hypothèse. Elle considère que les données recueillies après commercialisation doivent compléter les preuves initiales. [1, p. 19 ; 2, p. 11]

La nuance compte. Aucun protocole ne peut éliminer toute incertitude ni reproduire chaque conversation possible. Mais les limites prévisibles, les principaux modes d’échec et les conditions d’utilisation doivent être suffisamment caractérisés avant l’exposition des patients. Détecter un dommage après sa survenue ne remplace pas sa prévention.

La surveillance reste ensuite indispensable. La FDA discute la répétition de tests, la revue d’échantillons de situations réelles par des cliniciens et la recherche de dégradations des performances. L’AMA demande que cette revue inclue particulièrement les interactions sensibles, notamment les demandes d’avis et les situations où les professionnels ont corrigé ou rejeté une proposition. Une moyenne globale pourrait masquer des erreurs rares mais graves. [1, p. 19–20 ; 2, p. 12]

L’AMA souhaite aussi que les événements surveillés ne se limitent pas aux dommages immédiatement identifiables. Des réponses anormales, des quasi-accidents ou une évolution des erreurs peuvent constituer des signaux utiles. Elle propose d’étudier une capacité nationale de surveillance associant données des fabricants, signalements standardisés et expertise clinique. Il s’agit là encore d’une demande, pas d’un dispositif annoncé comme opérationnel. [2, p. 13]

Pour nous, un signalement doit déboucher sur une réponse identifiable : analyse, correction, information des utilisateurs ou suspension si nécessaire. La fréquence de réévaluation devrait suivre le risque et les changements observés. Une nouvelle population, une modification de l’interface ou une mise à jour du modèle peuvent justifier de réexaminer des résultats auparavant satisfaisants.

Les agents autonomes rendent les points de contrôle décisifs

Les systèmes dits agentiques peuvent planifier des tâches successives, utiliser des outils externes et exécuter des actions. La FDA les distingue des dispositifs se limitant à produire une réponse et sollicite des contributions spécifiques. L’AMA demande une vigilance et des évaluations renforcées, en soulignant les incertitudes sur leur préparation à l’usage clinique. [1, p. 22–23, 26 ; 2, p. 14]

Le problème devient celui d’une séquence. Une interprétation initiale peut orienter la recherche d’informations, puis la proposition suivante et enfin une action. L’annexe de la FDA envisage de tester les erreurs d’outils, le respect des validations humaines avant des actions importantes et la résistance aux instructions malveillantes présentes dans des contenus consultés. [1, p. 26]

Nous proposons donc que les droits d’action soient explicites : ce que le système peut préparer, ce qu’il peut transmettre et ce qu’il ne peut exécuter sans validation. Les étapes irréversibles ou à conséquences élevées doivent faire l’objet d’un contrôle adapté. Un bouton d’arrêt n’est utile que si le professionnel sait quand l’utiliser et s’il peut intervenir avant que l’action ne produise ses effets.

Financer la supervision et préserver un accès équitable

Le financement occupe une place importante dans la contribution de l’AMA. Celle-ci demande que les fabricants organisent et financent la participation clinique nécessaire à la surveillance de leurs produits. Elle refuse que les médecins absorbent gratuitement une fonction permanente de contrôle après commercialisation. [2, p. 12–13]

Pour un établissement, cette exigence invite à examiner le coût complet de l’innovation. Le prix du logiciel ne résume pas celui de son utilisation. La formation, l’intégration informatique, les vérifications, la gestion des alertes et l’analyse des incidents mobilisent des ressources. Nous proposons que ces éléments soient intégrés à l’évaluation économique dès le départ.

Un gain de temps doit ainsi être apprécié après prise en compte du travail supplémentaire. Une synthèse produite rapidement peut être utile, mais sa valeur dépend du temps nécessaire pour la contrôler et de la fiabilité de la décision qu’elle permet. L’objectif est de rendre du temps disponible pour le soin, sans organiser un transfert invisible vers d’autres professionnels.

L’accès aux soins pose une seconde question. L’AMA reconnaît qu’il est pertinent de comparer un dispositif aux possibilités réellement accessibles aux patients, notamment lorsque l’avis spécialisé est retardé. Elle met néanmoins en garde contre un abaissement automatique des exigences pour les populations déjà défavorisées. Le manque de ressources ne devrait pas normaliser une offre de moindre qualité. [2, p. 9–10]

Cette réflexion s’applique à la prévention. Une IA pourrait repérer un suivi interrompu, préparer une information adaptée ou faciliter une orientation. Son utilité devra être appréciée jusqu’à la réponse apportée : information comprise, contact effectif, rendez-vous accessible et continuité du suivi. Nous proposons de vérifier ces résultats dans les populations les plus éloignées du système de santé, et pas seulement chez les utilisateurs les plus à l’aise avec le numérique.

Orienter plus souvent vers un professionnel n’est pas nécessairement une erreur ; cela peut être indispensable. Mais une multiplication d’alertes sans destinataire disponible ne constitue pas une amélioration du parcours. La FDA discute précisément les risques associés à une orientation insuffisante comme à une orientation excessive. Leur équilibre doit être évalué selon la situation clinique. [1, p. 8–10]

Une exigence concrète pour les prochaines innovations

À partir de ces textes, il est proposé que tout projet d’IA ayant une incidence sur les décisions de soins réponde, avant son déploiement, à quelques questions explicites. Pour quelle tâche et quelle population a-t-il été évalué ? Quelles erreurs importantes ont été recherchées ? Qui vérifie quoi, dans quel délai et avec quelles informations ? Qui finance cette vérification ? Que se passe-t-il lorsque le dispositif change ou qu’un signal de risque apparaît ?

Les réponses devraient associer les professionnels concernés, les responsables de la qualité et du numérique, les patients et les concepteurs. Elles permettraient de définir un déploiement progressif, des critères d’arrêt et une réévaluation proportionnée au risque. Les indicateurs devraient porter sur les erreurs cliniquement importantes, les délais, la charge de travail, la compréhension des patients et les inégalités d’accès, en complément des performances techniques.

Le débat américain ne fournit pas une solution prête à transposer. Il rend cependant visible une condition souvent laissée implicite : la sécurité d’une IA dépend aussi du travail nécessaire pour l’utiliser correctement. Ce travail doit être étudié, organisé et financé.

La supervision humaine ne se décrète pas, elle s’organise. Pour qu’elle protège réellement le patient, le professionnel doit pouvoir comprendre, vérifier et intervenir. Le fabricant doit apporter les preuves correspondant à l’usage proposé et entretenir cette démonstration dans le temps. L’établissement doit disposer des moyens d’intégrer le dispositif sans fragiliser le soin. C’est à ces conditions que l’IA pourra devenir une aide durable aux équipes et à la prévention.

Références et repères de lecture

[1] U.S. Food and Drug Administration, Center for Devices and Radiological Health. Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback. Document de discussion transmis pour cette note. Les pages citées correspondent à la pagination imprimée 1 à 30, après la page de couverture. Statut et périmètre : p. 1–5 ; risque : p. 5–10 ; évaluation : p. 10–18 ; surveillance et modifications : p. 19–22 ; agents : p. 22–23 et 26 ; compétences : p. 24–26.

[2] American Medical Association. Lettre de John Whyte à Rick Abramson, directeur du Digital Health Center of Excellence du CDRH, FDA. Re: Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback. 16 octobre 2026, 14 pages.

[3] American Medical Association. National Advocacy Update, 23 octobre 2026. Rubrique « AMA comments on FDA generative AI-enabled medical device regulatory considerations ». Source de la présentation publique de la contribution du 16 octobre.

David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH.

Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République.

Rendez-vous mardi 3 Novembre pour la prochaine note

« Les mardis de l’innovation en santé »

À lire aussi

Santé

L’IA comme copilote médical : après les performances des algorithmes, l’heure des essais cliniques !

par David Smadja et Léa Behr le 25 août 2026

L’intelligence artificielle peut-elle réellement améliorer la pratique médicale, au-delà des performances affichées dans les benchmarks ? Un essai clinique publié en 2026 dans Nature Medicine apporte une réponse nuancée et ouvre une nouvelle étape : celle de l’évaluation de l’IA en conditions réelles. Pour David Smadja et Léa Behr, l’avenir se dessine moins autour du remplacement du médecin que de son augmentation par une IA conçue comme un véritable copilote clinique.

Depuis plusieurs années, les performances de l’intelligence artificielle en médecine donnent lieu à des résultats parfois spectaculaires. Les grands modèles de langage réussissent des examens médicaux, répondent à des cas cliniques complexes et peuvent égaler, voire dépasser, les performances de professionnels sur certaines tâches diagnostiques. Mais est-ce vraiment la bonne question ? L’avenir de l’intelligence artificielle en santé ne se jouera probablement pas dans un duel entre le médecin et la machine. Il se jouera dans leur association. Pour le savoir, il faut désormais sortir des laboratoires, des benchmarks et des vignettes cliniques pour entrer dans le monde réel : celui des consultations, des patients, des prescriptions, des erreurs possibles, des contraintes de temps et des décisions quotidiennes. C’est précisément ce qu’a fait un essai pragmatique randomisé publié en 2026 dans Nature Medicine1. Son intérêt est majeur : il ne compare pas simplement une intelligence artificielle à un professionnel de santé. Il cherche à savoir ce qui se passe lorsque le professionnel est assisté par une IA générative dans sa pratique quotidienne. Et les résultats sont peut-être plus intéressants encore parce qu’ils sont nuancés. De l’IA des benchmarks à l’IA de la vraie vie L’étude a été menée dans 16 centres de soins primaires au Kenya. Au total, 103 clinical officers (des professionnels de santé qui assurent une grande partie des soins primaires dans un pays confronté à une importante pénurie médicale) ont été randomisés entre deux groupes : 52 utilisaient un dossier médical électronique intégrant une assistance par grand modèle de langage (LLM), tandis que 51 travaillaient avec le même dossier médical, mais sans cette assistance. Plus de 9 000 patients ont finalement été analysés. Le choix du Kenya n’est pas anodin. Dans de nombreux pays à ressources limitées, les professionnels de première ligne doivent prendre des décisions diagnostiques et thérapeutiques complexes sans pouvoir systématiquement solliciter un spécialiste ou un médecin senior. L’intelligence artificielle pourrait donc théoriquement constituer une forme d’expertise complémentaire immédiatement disponible. Mais les auteurs ont surtout fait un choix méthodologique essentiel : tester l’IA dans les conditions réelles du soin. Nous savons déjà que certains grands modèles de langage obtiennent d’excellents résultats lorsqu’on leur soumet des cas cliniques standardisés. Les auteurs rappellent eux-mêmes que des travaux sur des vignettes suggèrent que les LLM peuvent égaler ou dépasser les professionnels sur certaines tâches de diagnostic ou de triage. Mais les preuves prospectives dans la vraie vie restent beaucoup plus limitées. Or réussir un examen médical n’est pas soigner un patient. Un véritable copilote intégré à la consultation L’outil testé, appelé AI Consult, était directement intégré au dossier médical électronique. C’est un point essentiel. Le professionnel n’avait pas besoin d’ouvrir un chatbot, de copier le dossier du patient ou de rédiger une question spécifique. Au cours de la consultation, le système analysait automatiquement les données structurées et les textes saisis dans le dossier médical, puis générait des recommandations diagnostiques et thérapeutiques contextualisées. Le système pouvait signaler l’absence de problème, une difficulté mineure ou une situation critique grâce à un système visuel à trois niveaux. Mais surtout, le professionnel conservait la décision finale. Il pouvait accepter, modifier ou ignorer les suggestions formulées par l’intelligence artificielle. Nous sommes donc loin de l’image parfois fantasmée d’une intelligence artificielle autonome se substituant au médecin. Il s’agit plutôt d’un copilote clinique : une seconde capacité d’analyse, présente en permanence mais placée sous le contrôle du professionnel : Le résultat principal est… négatif. Et c’est probablement ce qui rend cette étude particulièrement intéressante. Le critère principal était exigeant et très concret : l’échec thérapeutique dans les 14 jours suivant la consultation, incluant notamment la persistance des symptômes, une réorientation non programmée vers un niveau de soins supérieur ou certains événements de sécurité. Résultat : l’IA n’a pas significativement amélioré ce critère. Un échec thérapeutique est survenu chez 2,2 % des patients du groupe assisté par IA contre 2,0 % dans le groupe contrôle. Après ajustement, la différence n’était pas statistiquement significative (aOR 0,77 ; IC à 95 % 0,55–1,08 ; P = 0,13). À l’heure où chaque nouvelle version d’un modèle d’intelligence artificielle donne lieu à des annonces de performances toujours plus impressionnantes, il est important de savoir écrire cette phrase : Dans cet essai, l’IA n’a pas démontré qu’elle améliorait le devenir clinique à court terme des patients. Mais loin de diminuer l’intérêt du travail, ce résultat marque peut-être une étape de maturité. L’intelligence artificielle médicale entre dans l’ère de l’evidence-based medicine. Une innovation doit démontrer son utilité, pas seulement sa performance Nous n’accepterions pas qu’un nouveau médicament soit utilisé à grande échelle simplement parce qu’il fonctionne remarquablement bien dans une simulation. Pourquoi devrions-nous raisonner différemment avec l’intelligence artificielle ? Une excellente performance algorithmique n’est pas nécessairement synonyme de bénéfice clinique. Entre les deux interviennent le professionnel, le patient, l’organisation des soins, l’adhésion thérapeutique, le contexte social, la qualité des données et une multitude de facteurs qui constituent précisément la complexité de la médecine. C’est pourquoi 2026 doit probablement marquer un changement de paradigme dans notre manière d’évaluer l’IA en santé : passer de la performance technique à l’utilité clinique. Et l’étude kenyane montre que cette évaluation doit être exigeante. Pourtant, quelque chose s’améliore. Le critère principal est négatif, mais certains résultats secondaires sont particulièrement intéressants. Parmi 2 000 consultations évaluées spécifiquement, l’assistance par LLM améliore significativement la qualité de la documentation médicale. Les professionnels utilisant l’IA étaient plus susceptibles de documenter un diagnostic approprié (aOR 1,74), de produire une note clinique complète (aOR 1,68) et de consigner un plan thérapeutique approprié (aOR 1,71).  L’intervention n’a par ailleurs pas dégradé la satisfaction des patients. La durée médiane des consultations était de 11 minutes dans les deux groupes. Enfin, le coût direct d’utilisation du modèle était, dans cette expérimentation, extrêmement faible : environ 0,04 dollar par patient. Cela dessine une vision beaucoup plus réaliste de l’IA médicale. Son premier bénéfice ne sera peut-être pas de produire immédiatement une réduction spectaculaire de la mortalité. Il pourrait commencer par une multitude d’améliorations plus discrètes : mieux documenter, mieux synthétiser, attirer l’attention sur un oubli, améliorer la pertinence d’un plan thérapeutique, faciliter l’accès aux connaissances et réduire progressivement certaines erreurs. Le médecin augmenté plutôt que le médecin remplacé Pendant plusieurs années, une partie du débat sur l’intelligence artificielle en médecine a été organisée autour d’une question presque sportive : qui sera le meilleur, l’homme ou la machine ? Cette étude invite à poser la question autrement : dans quelles conditions l’association de l’intelligence humaine et de l’intelligence artificielle produit-elle une meilleure médecine ? Car le professionnel reste indispensable. L’étude le montre d’ailleurs de manière très concrète. Dans une analyse portant sur 1 000 alertes rouges générées par le LLM, 3,1 % des recommandations ont été considérées comme quelque peu dangereuses ou inappropriées et 1,1 % comme dangereuses et inappropriées. Les professionnels, eux, pouvaient choisir de suivre totalement, partiellement ou de ne pas suivre la recommandation. Cette capacité de jugement est fondamentale. Le médecin n’est donc pas nécessairement la variable que l’IA doit faire disparaître. Il est peut-être précisément la condition qui permet de transformer la puissance de l’IA en décision médicale pertinente. Cela impose évidemment une nouvelle compétence : savoir utiliser l’intelligence artificielle, mais aussi savoir lui résister. Les auteurs alertent d’ailleurs sur un risque essentiel : une dépendance prolongée au raisonnement automatisé pourrait conduire à une perte progressive de certaines compétences professionnelles. Le défi sera donc de concevoir des outils qui renforcent le raisonnement clinique plutôt qu’ils ne s’y substituent.  Après avoir appris à construire l’IA médicale, apprenons à l’évaluer Ce travail soulève enfin une question méthodologique passionnante. Nous savons relativement bien comment évaluer un médicament ciblant une pathologie précise. Mais comment évaluer une technologie généraliste qui intervient simultanément sur le diagnostic, la documentation, la prescription, l’organisation et potentiellement le temps médical ? Les auteurs soulignent que des événements objectifs comme l’hospitalisation ou le décès sont heureusement rares en soins primaires. Démontrer un effet modeste sur ces événements pourrait nécessiter des essais dépassant 100 000 patients. Ils posent donc explicitement la question des critères pertinents pour évaluer une technologie généraliste comme un LLM appliqué aux soins primaires. Cette question deviendra centrale. Il faudra bien sûr mesurer la mortalité, les complications ou les hospitalisations lorsqu’elles sont pertinentes. Mais il faudra également mesurer les erreurs évitées, la qualité des décisions, le temps médical gagné, la charge cognitive des professionnels, les coûts, la satisfaction des patients et la qualité de la relation humaine. Après avoir appris à construire l’IA médicale, nous devons maintenant apprendre à l’évaluer. Du copilote au système de santé « IA-native » Cette étude permet enfin d’entrevoir une transformation encore plus profonde en passant de systèmes numériques traditionnels vers des systèmes véritablement « IA-native » dont nous avons déjà parlé dans notre épisode de la semaine dernière. La distinction est importante. Un système IA-native n’est pas un logiciel ancien auquel on ajoute ponctuellement une fonctionnalité d’intelligence artificielle. Il est conçu dès l’origine pour que l’IA participe en permanence à l’organisation, à l’interprétation et à la restitution de l’information, afin d’aider les professionnels dans leurs décisions.  L’expérimentation kenyane en constitue déjà une première illustration concrète. Le professionnel ne « va » pas chercher l’intelligence artificielle : celle-ci est intégrée dans son environnement de travail, analyse les informations au fur et à mesure et lui restitue les éléments qu’elle juge pertinents. À terme, cette logique pourrait transformer profondément le dossier patient. Celui-ci ne serait plus seulement un réservoir dans lequel s’accumulent comptes rendus, prescriptions et résultats biologiques. Il pourrait devenir une plateforme dynamique de connaissances, capable de synthétiser l’information, de signaler les risques et d’accompagner la décision médicale. C’est précisément l’évolution vers laquelle peuvent tendre les systèmes IA-native.  Mais pour que cette transformation soit utile, une règle doit demeurer : l’IA propose, le professionnel comprend, contextualise et décide. Cette étude ne démontre donc pas encore que l’intelligence artificielle améliore le pronostic des patients. Et c’est précisément ce qui la rend intéressante. Elle marque le passage d’une époque de fascination technologique à une époque d’évaluation clinique. Nous avons passé plusieurs années à demander si l’IA pouvait réussir un examen médical, reconnaître une image ou répondre mieux qu’un médecin à une vignette clinique. Ces comparaisons étaient nécessaires. Elles ne suffisent plus. 2026 doit être l’année où nous cessons d’évaluer uniquement l’IA contre le médecin pour commencer à évaluer la pratique médicale avec l’IA La véritable révolution de l’intelligence artificielle en santé ne résidera pas seulement dans la performance des algorithmes. Elle se jouera dans notre capacité à transformer l’organisation même du système de santé pour le rendre plus prédictif, plus personnalisé et davantage tourné vers l’anticipation.  Le véritable enjeu n’est donc pas de remplacer le médecin. Il est de lui donner de nouvelles capacités : mieux exploiter l’information, repérer plus tôt certains risques, réduire sa charge cognitive et administrative et lui rendre du temps pour ce qui demeure au cœur de son métier : écouter, expliquer, décider et accompagner. C’est là que l’intelligence artificielle rejoint directement l’ambition d’une République de la prévention. Une médecine augmentée par l’IA ne doit pas seulement permettre de mieux soigner une maladie lorsqu’elle apparaît. Elle doit progressivement nous aider à détecter plus tôt, anticiper davantage, personnaliser la prévention et intervenir avant que certaines complications ne surviennent. La réussite de cette révolution ne se mesurera donc pas au nombre d’algorithmes installés dans les hôpitaux ou au nombre de réponses correctes obtenues à un benchmark. Elle se mesurera au nombre de complications évitées, d’hospitalisations prévenues, d’années de vie gagnées en bonne santé et au temps médical réellement rendu aux patients : si l’IA réussit sa révolution, elle finira peut-être par devenir presque invisible. Les patients ne diront pas qu’ils ont été pris en charge par un système « augmenté » ou « IA-native ». Ils diront simplement qu’ils ont été mieux soignés et, surtout, mieux protégés. L’avenir n’est probablement ni le médecin sans IA, ni l’IA sans médecin. Il est celui d’un médecin augmenté par l’IA, au service d’une médecine plus humaine, plus précoce et plus préventive. Rendez-vous mardi 1er septembre pour le prochain épisode « Les mardis de l’innovation en santé » David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH (sortie le 28 août 2026). Léa Behr est CEO de RespublicIA et membre de la commission Santé du Laboratoire de la République.

Santé

Nvidia ne fabrique pas de médicaments. Et pourtant, il pourrait devenir le géant de la santé de demain

par David Smadja et Léa Behr le 8 septembre 2026

L’intelligence artificielle est en train de rebattre les cartes de la santé mondiale. Derrière les innovations médicales qui se multiplient se joue une bataille plus discrète, mais décisive : celle de la maîtrise des infrastructures, de la puissance de calcul et des technologies qui rendront ces avancées possibles. À mesure que l’IA irrigue la découverte de médicaments, la génomique, l’imagerie, la chirurgie ou encore l’hôpital, de nouveaux acteurs s’imposent au cœur de la chaîne de valeur. Parmi eux, Nvidia occupe une place singulière. Son ascension invite à poser une question essentielle pour la France et l’Europe : dans la médecine de demain, qui maîtrisera les infrastructures dont nous dépendrons ?

Nous avons tous vu passer l’information il y a quelques jours : Nvidia va prendre le contrôle de Hugging Face, la plateforme franco-américaine devenue l’un des épicentres mondiaux de l’intelligence artificielle, pour 12,9 milliards de dollars. Derrière cette opération spectaculaire se joue pourtant quelque chose de plus important qu’un nouveau rachat dans la tech. Jensen Huang poursuit une stratégie méthodique : Nvidia ne veut plus seulement fabriquer les puces qui font tourner l’IA, mais devenir l’un des acteurs incontournables de tout son écosystème. Et la santé est désormais au cœur de cette ambition. Médicament, génomique, imagerie, endoscopie, chirurgie robotique, essais cliniques, hôpital : Nvidia avance presque partout. Le géant né il y a trente ans dans l’univers des cartes graphiques est aujourd’hui devenu la première capitalisation boursière mondiale. Une trajectoire qui pose une question simple : Nvidia est-il en train de devenir l’acteur invisible mais incontournable de la médecine de demain ? Cette ambition est portée par une puissance financière hors norme : Nvidia est devenue l’entreprise cotée affichant la plus forte capitalisation boursière mondiale. Une ascension spectaculaire pour une société fondée en 1993 et initialement spécialisée dans les processeurs graphiques conçus notamment pour le jeu vidéo. Leur capacité à effectuer simultanément un très grand nombre de calculs s’est ensuite révélée particulièrement adaptée à l’entraînement des réseaux de neurones. L’explosion de l’intelligence artificielle a fait le reste. Aujourd’hui, Nvidia n’est donc plus simplement un fabricant de semi-conducteurs. L’entreprise construit progressivement un écosystème associant puissance de calcul, logiciels, modèles et infrastructures d’IA. Et parmi les secteurs où elle avance le plus rapidement figure désormais la santé. Du médicament au génome, de l’imagerie à la chirurgie robotique, Nvidia est en train de se positionner à presque tous les étages de la médecine de demain. La question n’est donc plus seulement de savoir ce que l’intelligence artificielle peut apporter à la santé, mais qui contrôlera l’infrastructure technologique sur laquelle cette révolution reposera. C’est probablement dans l’industrie pharmaceutique que cette transformation est la plus spectaculaire. Développer un médicament reste un processus long, coûteux et marqué par de nombreux échecs. Identifier une cible biologique, rechercher une molécule susceptible d’agir sur elle, prévoir sa toxicité, réaliser les études précliniques puis les essais chez l’homme demande souvent des années. L’intelligence artificielle promet d’accélérer certaines de ces étapes : analyser d’immenses bases de données biologiques, prédire des structures, identifier de nouvelles cibles ou sélectionner virtuellement des candidats avant leur synthèse. La conséquence est majeure : la puissance de calcul devient progressivement une matière première de la recherche pharmaceutique. Eli Lilly constitue une bonne illustration de cette évolution. Le géant pharmaceutique américain s’est engagé avec Nvidia dans le développement d’infrastructures d’IA destinées à la recherche et à la découverte de médicaments. La logique est révélatrice : Nvidia ne fabrique pas lui-même le futur médicament, mais fournit une partie de l’infrastructure permettant de le concevoir. Dans les biotechnologies, Recursion Pharmaceuticals représente un autre exemple. Cette société utilise notamment l’automatisation, l’imagerie cellulaire à grande échelle et l’intelligence artificielle pour rechercher de nouvelles relations entre molécules, gènes et maladies. Nvidia a même investi dans l’entreprise. Le GPU n’est plus seulement utilisé pour faire fonctionner un modèle de langage : il participe désormais à l’exploration de la biologie à très grande échelle. La stratégie pourrait finalement se résumer ainsi : Nvidia ne cherche pas à devenir un laboratoire pharmaceutique, mais à devenir indispensable aux laboratoires qui utiliseront l’IA. La même logique apparaît dans la génomique. Le séquençage moderne génère des quantités considérables de données. Illumina, l’un des principaux acteurs mondiaux du séquençage de l’ADN, utilise le calcul accéléré et les technologies Nvidia pour certaines étapes d’analyse génomique. L’enjeu dépasse la simple vitesse informatique. La médecine de précision repose de plus en plus sur la capacité à croiser différentes informations : génome, biologie, imagerie, anatomopathologie, données cliniques et traitements antérieurs. Nous entrons progressivement dans l’ère des modèles multimodaux. Demain, un système d’intelligence artificielle ne se contentera peut-être plus d’interpréter un scanner. Il pourra prendre simultanément en compte l’image, les résultats biologiques, les données génétiques et l’histoire médicale du patient pour produire une information diagnostique ou pronostique. Plus la médecine devient multimodale, plus elle devient gourmande en calcul. Et plus Nvidia devient stratégique. Le deuxième front est celui des dispositifs médicaux. GE HealthCare travaille avec Nvidia sur l’intelligence artificielle appliquée à l’imagerie et aux équipements médicaux. L’ambition dépasse progressivement l’algorithme chargé de repérer une anomalie : il s’agit d’intégrer l’IA dans le fonctionnement même des appareils et dans le parcours diagnostique. Medtronic, autre géant mondial du dispositif médical, s’est rapproché de Nvidia autour de l’intelligence artificielle appliquée notamment à l’endoscopie. Ici, l’IA peut intervenir pendant l’examen et assister le médecin dans l’identification de lésions. Avec Johnson & Johnson MedTech, le terrain devient celui de la chirurgie numérique et de la robotique : analyse de la vidéo chirurgicale, assistance au geste, automatisation et développement de systèmes capables d’interagir avec leur environnement. Nous quittons progressivement l’IA qui « regarde » pour entrer dans ce que Jensen Huang appelle la « physical AI » : une intelligence artificielle qui perçoit son environnement et peut agir dans le monde physique. En médecine, les implications sont considérables : endoscopie augmentée, robots chirurgicaux, dispositifs autonomes ou semi-autonomes et, à terme, assistance en temps réel au professionnel de santé. La stratégie touche désormais directement les établissements de soins. La collaboration avec la Mayo Clinic autour de l’IA et de la pathologie numérique en constitue une illustration particulièrement intéressante. Une lame d’anatomopathologie numérisée représente une quantité considérable d’informations. Les modèles d’IA peuvent apprendre à reconnaître certaines architectures tumorales, identifier des caractéristiques microscopiques et mettre ces données en relation avec d’autres informations biologiques et cliniques. Le laboratoire hospitalier devient alors bien plus qu’un lieu où l’on réalise un examen. Il devient un producteur de données médicales massives susceptibles d’alimenter les modèles de demain. Cette transformation concerne potentiellement la radiologie, l’anatomopathologie, la biologie médicale, la génomique et de nombreuses autres spécialités. Pour les CHU, une question nouvelle apparaît : l’hôpital de demain sera-t-il uniquement un lieu de soins et de recherche ou deviendra-t-il également une infrastructure de production de données et d’intelligence médicale ? La transformation ne s’arrête pas à la découverte du médicament. IQVIA, l’un des principaux acteurs mondiaux des données de santé et de la recherche clinique, développe également l’utilisation de l’IA et du calcul accéléré dans ses activités. L’intelligence artificielle peut contribuer à identifier les patients susceptibles d’être inclus dans un essai, exploiter les données cliniques, automatiser certaines tâches documentaires ou faciliter la pharmacovigilance. La chaîne devient alors presque complète. Eli Lilly pour le médicament, Recursion pour la biotech, Illumina pour le génome, GE HealthCare pour l’imagerie, Medtronic pour l’endoscopie, Johnson & Johnson pour la chirurgie, IQVIA pour la recherche clinique, Mayo Clinic pour l’hôpital : Nvidia se positionne progressivement à presque tous les étages de la chaîne de valeur de la santé. C’est probablement le point essentiel. Le pari de Nvidia n’est peut-être pas de devenir une entreprise de santé. Il est plus ambitieux : devenir l’entreprise dont les entreprises de santé ne pourront plus se passer. La prochaine étape pourrait encore élargir ce rôle. Aujourd’hui, nous associons souvent l’IA médicale à un algorithme capable de détecter une anomalie sur une image ou à un modèle de langage capable de résumer un dossier médical. Mais les recherches se tournent également vers les jumeaux numériques. Le principe consiste à construire une représentation informatique dynamique d’un patient, d’un organe ou d’un système biologique afin d’en simuler certaines évolutions. Comment une maladie pourrait-elle évoluer ? Quelle serait la réponse à un traitement ? Quel patient présente le risque le plus élevé de complication ? La littérature scientifique explore déjà leur potentiel en médecine personnalisée et, à plus long terme, dans le développement des médicaments et les essais cliniques. Nous en sommes encore aux prémices et les difficultés scientifiques restent considérables : qualité des données, causalité, validation clinique, biais et capacité des modèles à fonctionner sur des populations différentes. Mais une chose est certaine : ces approches nécessiteront des capacités de calcul considérables. Encore une fois, Nvidia se trouve idéalement placé. Le prochain géant de la santé ne fabriquera peut-être aucun médicament Pendant des décennies, les acteurs dominants de la santé étaient facilement identifiables : laboratoires pharmaceutiques, fabricants de dispositifs médicaux, hôpitaux et assureurs. L’IA fait apparaître une nouvelle catégorie d’acteurs. Une entreprise technologique peut désormais être présente dans la découverte du médicament, la génomique, l’imagerie, la chirurgie, la recherche clinique et l’exploitation des données hospitalières sans fabriquer elle-même un médicament, réaliser un scanner ou prendre en charge un patient. Elle fournit quelque chose de plus transversal : l’infrastructure sur laquelle les autres construisent leur intelligence artificielle. Le prochain acteur incontournable de la santé pourrait donc ne fabriquer ni médicament ni dispositif médical. Il pourrait fournir la puissance de calcul et les outils dont tous les autres ont besoin. Une question de souveraineté sanitaire Cette concentration ouvre des possibilités extraordinaires. Accélérer la découverte de médicaments, améliorer l’analyse des images, personnaliser les traitements ou rapprocher l’expertise des patients sont autant de progrès potentiels. Mais cette révolution soulève aussi une question stratégique pour la France et l’Europe. Nous parlons beaucoup de souveraineté des données de santé. C’est indispensable, mais probablement insuffisant. La souveraineté concerne également les processeurs sur lesquels ces données sont analysées, le cloud dans lequel elles circulent, les logiciels qui permettent de les exploiter et les modèles qui produisent les résultats. Des données françaises hébergées en France ne suffisent pas à garantir une IA française ou européenne souveraine si toute la chaîne technologique nécessaire à leur exploitation dépend d’acteurs étrangers. La réponse ne consiste évidemment pas à se priver de Nvidia ou des autres leaders mondiaux. Les chercheurs et les hôpitaux européens doivent pouvoir utiliser les meilleurs outils disponibles. Mais partenariat ne doit pas devenir synonyme de dépendance. L’Europe doit investir simultanément dans ses capacités de calcul, ses infrastructures de données, ses modèles biomédicaux et surtout dans les compétences permettant aux médecins, chercheurs et ingénieurs de maîtriser ces technologies. La question n’est donc probablement plus : faut-il travailler avec Nvidia ? Nous travaillerons avec Nvidia et avec d’autres géants technologiques. La véritable question est : quelle partie de la chaîne de l’IA en santé voulons-nous encore être capables de maîtriser nous-mêmes ? Mais l’exemple de Nvidia rappelle une réalité parfois oubliée : l’intelligence artificielle n’est pas seulement une révolution logicielle, c’est aussi une révolution industrielle, énergétique et géopolitique. Derrière chaque modèle se trouvent des des centres de données, des réseaux électriques et des matières premières critiques. Il n’existe donc pas de véritable souveraineté en IA sans capacité à maîtriser au moins une partie de cette chaîne de valeur. La France dispose ici d’atouts qu’elle sous-estime parfois : une recherche scientifique de haut niveau, une industrie des semi-conducteurs présente notamment autour de Grenoble, mais surtout une production nucléaire largement décarbonée et pilotable, alors que l’essor des centres de calcul rend l’accès à une électricité abondante et stable de plus en plus stratégique. À cela s’ajoute une autre richesse : les outre-mer et le deuxième espace maritime mondial, qui donnent à la France une présence géopolitique exceptionnelle et un accès potentiel à des ressources critiques. La Nouvelle-Calédonie, notamment, possède d’importantes ressources en nickel, métal stratégique pour de nombreuses technologies contemporaines. À l’heure où États-Unis et Chine ont parfaitement compris que puissance numérique, énergie, semi-conducteurs et matières premières sont désormais indissociables, la France et l’Europe doivent raisonner avec la même vision d’ensemble. Notre souveraineté en IA ne se jouera pas uniquement dans nos algorithmes : elle se jouera aussi dans nos usines, notre énergie et nos territoires. L’ascension de Nvidia raconte bien plus que le succès de la première capitalisation boursière mondiale : elle révèle le déplacement du centre de gravité de l’innovation médicale. Hier, la valeur était dans le médicament, le dispositif ou l’acte de soin. Demain, elle sera aussi dans la donnée, le modèle et la puissance de calcul. De la découverte d’une molécule au séquençage d’un génome, du scanner au robot chirurgical et, demain, au jumeau numérique du patient, une même infrastructure relie désormais des mondes autrefois séparés.  C’est la grande leçon de Nvidia : celui qui maîtrise la puissance de calcul ne fournit plus seulement une technologie, il prend une position stratégique sur tout ce qui en dépend. Et désormais, notre santé en fait partie. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 15 septembre pour la prochaine note « Les mardis de l’innovation en santé »

Santé

L’intelligence artificielle peut-elle nous aider à restaurer la confiance dans la science ?

par David Smadja et Léa Behr le 22 septembre 2026

L’intelligence artificielle est régulièrement présentée comme une menace pour la fiabilité de l’information scientifique. Mais une publication récente dans Nature ouvre une perspective presque inverse : et si l’IA permettait aussi de rendre la science plus accessible, plus reproductible et donc, peut-être, plus digne de confiance ?

Depuis la pandémie de Covid-19, une question préoccupe la communauté médicale et scientifique : comment restaurer la confiance dans la science dans un monde où l’information circule désormais beaucoup plus vite que la connaissance scientifique ? Le paradoxe est saisissant. Jamais autant de connaissances scientifiques n’ont été accessibles. En quelques secondes, chacun peut consulter une publication, rechercher une étude ou interroger une intelligence artificielle sur pratiquement n’importe quelle question médicale. Mais jamais il n’a peut-être été aussi difficile de distinguer une donnée robuste d’une affirmation simplement vraisemblable. La pandémie nous l’a montré de manière spectaculaire. Nous avons assisté presque en temps réel à la confrontation de deux temporalités radicalement différentes. D’un côté, le temps scientifique : formuler une hypothèse, recueillir des données, les analyser, publier, confronter les résultats à ceux d’autres équipes, parfois se tromper et corriger. De l’autre, le temps numérique : quelques secondes pour publier une affirmation et quelques heures pour qu’elle soit vue par des millions de personnes. Une étude préliminaire, un cas clinique isolé ou une hypothèse non démontrée peuvent ainsi devenir viraux bien avant que la communauté scientifique ait eu le temps de les vérifier. La confiance scientifique ne peut pas être décrétée. Elle doit se construire sur la rigueur, l’éducation scientifique et la compréhension des mécanismes permettant de produire et de valider une connaissance. La crise sanitaire a montré combien la science est une construction progressive : elle ne délivre pas instantanément des certitudes ; elle produit des connaissances qui se renforcent, se corrigent et se confrontent.  Quand la viralité concurrence la vérité L'intelligence artificielle générative rend cette question encore plus importante. Elle permet désormais de produire en quelques secondes des textes structurés, argumentés et apparemment scientifiques. Le danger n'est donc plus seulement la fausse information grossière. C'est aussi l'apparition d'une information fausse mais vraisemblable, accompagnée éventuellement de références, de graphiques ou d'un vocabulaire donnant toutes les apparences de la rigueur. La désinformation médicale a changé de dimension depuis la pandémie. Les réseaux sociaux, les mécanismes algorithmiques d'amplification et désormais l'intelligence artificielle permettent à des récits inexacts de circuler à une échelle et à une vitesse sans précédent. Plus préoccupant encore : les messages longs et élaborés peuvent être particulièrement persuasifs. Nous sommes donc confrontés à une transformation profonde de l'environnement scientifique et informationnel. La question n'est plus seulement : « Cette information est-elle vraie ? ». Elle devient : « Puis-je vérifier comment cette conclusion a été produite ? » Et c'est précisément sur ce terrain qu'une publication récente dans Nature mérite toute notre attention. Quand un article scientifique devient un agent Des chercheurs de Stanford ont développé Paper2Agent1, un système dont l'ambition est étonnante : transformer automatiquement une publication scientifique en agent d'intelligence artificielle interactif. Aujourd'hui, lorsqu'un chercheur lit un article décrivant une nouvelle méthode computationnelle, le chemin entre la publication et son utilisation peut être long. Il faut comprendre la méthode, retrouver le code source, installer les bonnes dépendances informatiques, récupérer les données et apprendre à utiliser correctement les outils développés par les auteurs. Autrement dit, publier une méthode ne signifie pas nécessairement qu'elle soit facilement réutilisable. Paper2Agent cherche à supprimer une partie de cette barrière. Le système analyse l'article mais aussi les éléments qui l'accompagnent : code informatique, données, documents supplémentaires et workflows. Il construit ensuite des outils exécutables accessibles à un agent d'IA avec lequel le chercheur peut dialoguer en langage naturel. On ne demande donc plus seulement à l'intelligence artificielle : « Résume-moi cet article. » On peut lui demander : « Utilise la méthode décrite dans cet article sur mes propres données. » La différence est considérable. De la connaissance publiée à la connaissance exécutable Les chercheurs ont notamment appliqué Paper2Agent à AlphaGenome, un modèle permettant d'étudier les conséquences potentielles de variants génétiques. Les chercheurs ont notamment appliqué Paper2Agent à AlphaGenome, ainsi qu'à des outils d'analyse single-cell et de transcriptomique spatiale, montrant que le système pouvait reproduire des analyses existantes mais aussi appliquer les méthodes à de nouvelles questions. Mais l'expérience la plus importante est probablement celle menée à plus grande échelle. Les auteurs ont soumis 100 articles de biologie computationnelle au système. Soixante-quatorze ont pu être transformés avec succès en agents. Ceux-ci ont généré 599 outils, dont 593 ont passé les tests automatisés de validation. Sur 300 questions issues des tutoriels associés à ces publications, Paper2Agent avec le modèle utilisé dans l'étude atteint une précision moyenne de 91,2 %, contre 80,3 % pour le comparateur disposant directement de l'article et du dépôt informatique.  Ces chiffres ne signifient évidemment pas que la reproductibilité scientifique serait résolue par l'IA. Ils montrent en revanche qu'une partie de la distance séparant la publication d'une méthode de sa réutilisation effective pourrait être considérablement réduite. Et si plusieurs articles pouvaient « travailler » ensemble ? Paper2Agent va encore plus loin. Les chercheurs ont connecté plusieurs articles-agents afin qu'ils puissent mobiliser conjointement leurs méthodes et leurs données. Dans un exemple consacré au psoriasis, des agents issus de plusieurs publications ont combiné des prédictions génomiques avec des données expérimentales sur les lymphocytes T CD4+. Cette analyse a conduit le système à soutenir GPR137 comme gène causal probable au locus étudié, dans un mécanisme dépendant de l'activation cellulaire. Différentes publications deviennent en quelque sorte des briques scientifiques capables d'être interrogées ensemble, tandis que le chercheur reste dans la boucle pour choisir les stratégies et interpréter les résultats. Nous passons alors progressivement d'une bibliothèque composée de documents statiques à un écosystème de connaissances scientifiques potentiellement interactives. C'est une transformation potentiellement majeure de la manière dont circule la connaissance scientifique. Une nouvelle étape pour la reproductibilité scientifique ? C'est aussi là que Paper2Agent rejoint directement la question de la confiance. Pendant longtemps, le lecteur d'une publication scientifique devait essentiellement faire confiance au processus éditorial : les auteurs, les reviewers, la revue et, progressivement, la reproduction des résultats par d'autres équipes. L'ouverture des données et du code a commencé à modifier ce modèle. Paper2Agent pourrait constituer une étape supplémentaire : rendre une partie de la méthode directement interrogeable et exécutable. Les auteurs avancent d'ailleurs une idée particulièrement intéressante : demain, à côté des traditionnelles rubriques Data availability et Code availability, les revues scientifiques pourraient demander une rubrique « Agent availability » indiquant si les travaux publiés peuvent être utilisés sous forme d'agent.  On peut même aller plus loin. La capacité d'une publication à être transformée en agent pourrait devenir indirectement un test de reproductibilité. Dans l'étude, 26 des 100 articles de biologie computationnelle n'ont justement pas pu être transformés avec succès, notamment en raison de code inexécutable, de données ou modèles manquants, de problèmes de dépendances informatiques ou de scripts difficilement généralisables.  L'échec de « l'agentification » devient alors lui-même informatif : il révèle les obstacles empêchant réellement d'autres chercheurs de réutiliser le travail publié. Mais l'IA ne doit pas devenir un nouvel argument d'autorité Il serait toutefois dangereux d'en conclure que l'intelligence artificielle pourrait devenir un arbitre automatique de la vérité scientifique. Ce serait remplacer une confiance aveugle par une autre. Un agent peut reproduire fidèlement une méthode et néanmoins partir d'une hypothèse discutable. Un code parfaitement exécutable ne garantit pas que la question scientifique soit pertinente. Une corrélation statistique ne devient pas une causalité parce qu'elle a été calculée automatiquement. Les auteurs de Paper2Agent sont d'ailleurs explicites : la génération d'hypothèses, le choix des orientations scientifiques et l'interprétation des résultats doivent rester human-in-the-loop. Ils présentent leur système comme un outil d'augmentation de la recherche, non comme une source autonome et autoritaire de conclusions scientifiques.  Cette distinction est fondamentale. L'IA peut exécuter, comparer, rechercher, confronter et accélérer. Mais le chercheur doit continuer à douter. Car le doute méthodique n'est pas une faiblesse de la science. Il en constitue précisément l'une des forces. Une science exécutable n'est pas nécessairement une science vraie. Mais une science que l'on peut davantage vérifier, reproduire et contester est une science qui expose mieux ses preuves. De l'IA qui produit du vraisemblable à l'IA qui aide à vérifier Nous arrivons ainsi à un paradoxe passionnant. L'intelligence artificielle constitue probablement l'un des outils les plus puissants jamais créés pour produire du contenu vraisemblable à grande échelle. Elle peut donc amplifier la désinformation et rendre beaucoup plus difficile la distinction entre connaissance, opinion et manipulation. Mais les mêmes technologies pourraient aussi nous fournir de nouveaux instruments pour remonter aux sources, confronter les données, reproduire les analyses et rendre les méthodes scientifiques plus accessibles. Dans un monde saturé de contenus générés artificiellement, la valeur d'une publication scientifique reposera peut-être de moins en moins sur sa seule capacité à être lue ou citée, et de plus en plus sur notre capacité à remonter aux données, aux méthodes et aux résultats qui la fondent. L'article scientifique de demain ne sera alors peut-être plus seulement quelque chose que nous lisons. Il deviendra quelque chose que nous pouvons interroger, tester, reproduire, confronter et utiliser. À condition de ne jamais oublier une règle essentielle : l'intelligence artificielle peut accélérer la science ; elle ne doit jamais nous dispenser d'exercer notre esprit critique. L'IA peut accélérer la science. Le doute, lui, doit rester humain. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 27 septembre pour la prochaine note « Les mardis de l’innovation en santé » Retrouvez également cette tribune sur le site du Journal du Net.