En santé, l’intelligence artificielle peut proposer un diagnostic ou un traitement, mais le soignant garde le dernier mot. Encore faut-il qu’il puisse repérer et corriger les erreurs de la machine. Une étude publiée par Di Zeng et ses collègues dans npj Digital Medicine examine cette question. Pour cette nouvelle note des « Mardis de l’innovation en santé », nous défendons une exigence simple : avant d’utiliser ces outils, puis tout au long de leur utilisation, vérifier que les professionnels disposent des informations, des compétences et du temps nécessaires pour les contrôler. Une signature ne décrit pas un contrôle Imaginons un exemple, proposé ici pour illustrer le problème. Une IA prépare une synthèse de sortie et indique qu’aucun contrôle biologique supplémentaire n’est nécessaire. Le document paraît cohérent. Pour vérifier cette conclusion, le médecin doit retrouver les résultats, les traitements et les recommandations initiales. Si ces informations sont dispersées, valider le texte peut prendre quelques secondes alors que le contrôler exige plusieurs minutes. La question n’est pas de mettre en doute la compétence du professionnel. Elle consiste à définir ce que l’organisation lui demande de faire et à vérifier qu’il peut le faire. Relire une formulation, contrôler les faits qu’elle contient et apprécier la conduite proposée sont trois tâches différentes. Un circuit de validation devrait préciser laquelle est attendue, sur quelles informations elle repose et dans quel délai elle doit être accomplie. Cette distinction est particulièrement utile lorsque l’IA promet un gain de temps. L’évaluation devrait compter le temps de production et celui de vérification, puis examiner où le travail se déplace. Une minute économisée lors de la rédaction ne suffit pas à décrire l’effet sur une équipe si elle crée ailleurs une recherche documentaire ou une demande d’avis. Ce que montre la revue de Zeng et ses collègues Publiée le 23 octobre 2026, cette revue réunit 46 publications correspondant à 41 ensembles de cohortes indépendants, dont 40 constituent l’analyse principale. Elle examine les réactions des professionnels à des recommandations automatisées erronées, depuis les aides conventionnelles jusqu’aux modèles de langage [1]. Dans quatre études en pratique réelle sur l’interprétation informatisée des électrocardiogrammes (ECG), la proportion combinée d’erreurs non corrigées ou non reconnues atteint 26,6 %. L’intervalle de confiance à 95 % ou d'incertitude est très large, de 6,4 % à 65,6 %, et l’hétérogénéité très élevée (I² = 95,8 %). Ce chiffre n’est donc ni un taux général d’échec de la supervision ni une estimation applicable aux IA génératives. Les études contemporaines sur ces dernières sont trop diverses pour être regroupées [1]. La qualité des preuves appelle également à la prudence : parmi les 40 cohortes principales, 26 suscitent des préoccupations méthodologiques élevées et aucune n’est classée à faible préoccupation. Des événements indésirables chez les patients ne sont rapportés que dans une cohorte rétrospective, sans démonstration causale. La revue documente une vulnérabilité ; elle ne mesure pas un risque universel d’accident [1]. Cela veut dire que la supervision humaine doit devenir une variable ou un résultat mesuré ! Le prolongement de nos précédents « Mardis de l’innovation en santé » Le 27 octobre, dans « IA en santé : la supervision humaine ne se décrète pas, elle s’organise », nous analysions la contribution de l’American Medical Association à une réflexion de la FDA. Il s’agissait d’une position professionnelle, et non d’une nouvelle réglementation. Nous y insistions sur le temps, les compétences, les informations et les responsabilités nécessaires à une supervision effective [2]. La présente réflexion propose une étape supplémentaire : à ces conditions d’organisation, ajoutons une démonstration de fonctionnement. Il faut pouvoir observer ce que le contrôle humain intercepte et ce qu’il laisse passer. Le 13 octobre, notre note « IA en santé : savoir répondre, mais aussi remettre en question une consigne » portait sur les réactions de modèles de langage à des demandes dangereuses. [3] Les deux questions se complètent, sans se confondre. Dans ce premier travail, l’évaluation concernait le comportement du modèle face à une instruction ; ici, elle porte sur le professionnel confronté à une recommandation. Rendre un modèle plus prudent et permettre à son utilisateur de le contester doivent être examinés séparément, puis ensemble. Dès le 28 juillet, l’entretien avec le Pr Cécile Badoual, « Le soignant augmenté : gagner du temps sans perdre le doute », abordait le jugement médical et la transmission des compétences en anatomopathologie. [4] Nous pouvons aujourd’hui traduire cette exigence en objectif de formation : apprendre à identifier un désaccord, à rechercher les éléments qui permettent de le résoudre et à justifier la décision retenue. Enfin, le 25 août sur l’IA comme copilote médical nous parlions de l’évaluation en conditions réelles et la distinction entre performance technique et utilité clinique [5]. Pour poursuivre cette démarche, nous proposons d’étudier la décision avant et après assistance, puis ses effets sur le parcours. Une moyenne de bonnes réponses ne décrit pas à elle seule la qualité de chaque interaction. Évaluer les désaccords avant le déploiement Pour un établissement, une première proposition serait de tester l’outil avec les professionnels qui devront l’utiliser. L’exercice devrait comprendre des cas ordinaires et des situations plus difficiles : donnée manquante, résultat contradictoire, recommandation plausible mais inadaptée. Ces erreurs seraient introduites dans un environnement d’évaluation sécurisé, sans exposer de patient à une décision expérimentale dangereuse. Dans ces exercices, il serait utile de recueillir d’abord l’appréciation du professionnel, puis la décision après affichage de l’aide. Cette séquence permettrait d’examiner les corrections apportées par l’outil et les décisions initialement appropriées qu’il conduit à modifier. Elle ne constitue pas une procédure à imposer à chaque consultation : c’est une méthode à adapter au protocole d’évaluation. Le suivi devrait aussi porter sur la vérification elle-même. Quelles données ont été consultées ? Combien de temps a pris le contrôle ? Une seconde expertise a-t-elle été nécessaire ? L’utilisateur a-t-il pu suspendre l’action ? Ces informations aideraient à distinguer un refus argumenté d’une simple méfiance, et une acceptation vérifiée d’une validation rapide. Nos critères d’évaluation devraient associer sécurité et utilité. Solliciter systématiquement un spécialiste pourrait sembler rassurant, tout en créant une charge que le service ne peut absorber. À l’inverse, supprimer presque toutes les sollicitations pourrait masquer des situations importantes. Le niveau de contrôle doit être défini selon la tâche, les conséquences possibles de l’erreur et les ressources effectivement disponibles. En biologie médicale, rendre la vérification possible Prenons un autre exemple, distinct des résultats de la revue : un logiciel propose un commentaire interprétatif à partir d’un bilan biologique. Le biologiste devrait pouvoir retrouver les résultats utilisés, leur date, leurs unités et les données cliniques disponibles. Une conclusion fondée sur un résultat ancien ou sur un contexte incomplet devrait pouvoir être repérée avant sa transmission. Nous proposons donc que la vérifiabilité entre dans le cahier des charges. L’interface devrait permettre de distinguer les données effectivement disponibles, les informations manquantes et les éléments produits par le modèle. Le professionnel devrait également savoir si un changement de version modifie le périmètre d’utilisation ou les conditions de validation. Cette exigence rejoint notre note « Données de santé : le socle invisible de l’innovation », publiée le 1er septembre. Nous y rappelions l’importance de données qualifiées, documentées et exploitables [6]. Au laboratoire, l’accès à la source est une condition pratique de la relecture. Une synthèse rapide n’a pas la même valeur qu’une interprétation dont les éléments peuvent être retrouvés et confrontés au contexte du patient. L’enjeu s’étend à la prévention. Si une IA propose de ne pas relancer une personne ou de différer un examen, le professionnel devrait pouvoir comprendre les informations qui ont conduit à cette proposition et demander une réévaluation. Le résultat à mesurer serait alors la continuité du suivi : l’orientation a-t-elle été discutée, le rendez-vous obtenu et la situation prise en charge ? Former les équipes et financer le travail réel Une formation utile devrait partir des usages du service. Elle pourrait associer médecins, biologistes, infirmiers, techniciens, responsables qualité et équipes numériques autour de dossiers adaptés à leurs missions. Il faudrait y travailler la consultation des sources, la formulation d’un désaccord, le recours à un avis et le signalement d’un problème. La familiarité avec un chatbot ne peut tenir lieu de formation à la validation d’un outil clinique. Les établissements devraient prévoir les moyens de ces exercices, puis ceux du suivi après déploiement. Cela comprend le temps de vérification, l’analyse des incidents, l’accès à l’expertise et la réévaluation lorsque l’outil évolue. Ces coûts doivent entrer dans l’appréciation économique de l’innovation. Le prix du logiciel et le temps de rédaction économisé ne suffisent pas à décrire son coût d’usage. Les engagements des concepteurs devraient être précis : tâches prévues, limites connues, informations permettant le contrôle, gestion des modifications et procédure de signalement. L’établissement devrait, de son côté, organiser le circuit de décision et les possibilités de recours. Cette proposition d’organisation ne préjuge pas de l’attribution juridique d’une responsabilité dans un cas individuel ; elle vise à éviter que la mention d’un contrôle humain remplace la description du travail attendu. Il faudrait enfin préserver un accès au soin pour les patients qui ne peuvent pas utiliser ces dispositifs ou dont les informations sont incomplètes. Un parcours assisté par IA devrait prévoir comment demander une explication, corriger une donnée et solliciter un professionnel. Ces possibilités devraient être testées avec les usagers, au même titre que les fonctions destinées aux équipes. Faire de la supervision un objectif vérifiable Pour ce nouveau « Mardi de l’innovation en santé », nous proposons de faire entrer la capacité de correction dans l’évaluation du système de soins assisté par IA. Avant de déployer un outil, demandons comment une erreur pourra être repérée. Pendant son utilisation, observons ce qui est effectivement vérifié. Lorsqu’une difficulté apparaît, donnons aux équipes les moyens de la signaler et d’adapter le dispositif. L’ambition reste d’améliorer le soin et de rendre du temps aux patients. Pour y parvenir, le jugement professionnel doit pouvoir s’exercer sur des informations accessibles, avec une expertise disponible et un temps de contrôle réaliste. La supervision humaine devient une protection lorsque l’organisation permet d’identifier une proposition erronée et d’en empêcher les conséquences. C’est cette capacité que nous devons apprendre à démontrer. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 10 novembre pour la prochaine note « Les mardis de l’innovation en santé » Références : [1] Zeng D, Lei J, Li Z. Human oversight of erroneous clinical AI and decision support a systematic review and meta analysis. npj Digital Medicine. Publication en ligne le 23 octobre 2026, version acceptée avant mise en forme définitive. DOI : 10.1038/s41746-026-03408-5. https://www.nature.com/articles/s41746-026-03408-5 [2] Smadja D, Behr L. IA en santé : la supervision humaine ne se décrète pas, elle s’organise. Les Mardis de l’innovation en santé, 27 octobre 2026. https://www.lelaboratoiredelarepublique.fr/debattre/ia-en-sante-la-supervision-humaine-ne-se-decrete-pas-elle-sorganise/ [3] Smadja D, Behr L. IA en santé : savoir répondre, mais aussi remettre en question une consigne. Les Mardis de l’innovation en santé, 13 octobre 2026. https://www.lelaboratoiredelarepublique.fr/debattre/ia-en-sante-savoir-repondre-mais-aussi-remettre-en-question-une-consigne/ [4] Smadja D, Behr L. Le soignant augmenté : gagner du temps sans perdre le doute. Entretien avec le Pr Cécile Badoual. Les Mardis de l’innovation en santé, 28 juillet 2026. https://www.lelaboratoiredelarepublique.fr/debattre/le-soignant-augmente-gagner-du-temps-sans-perdre-le-doute/ [5] Smadja D, Behr L. L’IA comme copilote médical : après les performances des algorithmes, l’heure des essais cliniques ! Les Mardis de l’innovation en santé, 25 août 2026. https://www.lelaboratoiredelarepublique.fr/debattre/lia-comme-copilote-medical-apres-les-performances-des-algorithmes-lheure-des-essais-cliniques/ [6] Smadja D, Behr L. Données de santé : le socle invisible de l’innovation. Les Mardis de l’innovation en santé, 1er septembre 2026. https://www.lelaboratoiredelarepublique.fr/debattre/donnees-de-sante-le-socle-invisible-de-linnovation/

Plus d’un mois après le début de la mobilisation de la jeunesse en France, le débat public semble se résumer à une question : de quel côté sommes-nous ? Pourtant, sommer chacun de choisir son camp risque d’aggraver les tensions. Une partie des jeunes peut en conclure que seule la violence permet de se faire entendre. La polarisation et la violence risquent alors de se renforcer mutuellement. Ce qui se joue est d’abord un conflit politique, avant d’être un problème d’ordre public. Alors que de nouvelles journées de mobilisation sont annoncées, il est encore possible d’enrayer l’escalade, mais cela suppose une responsabilité partagée. Parti de revendications concrètes sur les conditions d’études, le mouvement lycéen puis étudiant s’est exprimé par des rassemblements largement pacifiques, mais aussi par des blocages, des dégradations et des heurts avec les forces de l’ordre. Plus de 6 500 personnes, majoritairement mineures, ont été interpellées en deux semaines, et des centaines d’élèves, de personnels éducatifs et de policiers ont été blessés. Le 17 octobre, la journée contre la vie chère, à laquelle se sont joints des lycéens et des étudiants, a marqué un pic de violence : en marge de cortèges restés largement pacifiques, des groupes violents se sont livrés à des affrontements et à des pillages d’une ampleur rarement observée en une seule journée. Le 24 octobre, sous un dispositif de sécurité considérablement renforcé, les violences ont nettement reculé, sans disparaître. Aucune violence, d’où qu’elle vienne, ne peut être acceptée. Et les violences commises en marge des cortèges ne sauraient résumer le mouvement, pas plus que la réponse sécuritaire ne saurait dispenser de répondre à ce qui l’a fait naître. La force d’une démocratie ne se mesure pas à sa capacité à faire disparaître les désaccords, mais à les traiter sans laisser la violence devenir leur principal mode d’expression. Le désaccord fait partie de la démocratie Contester une décision, dénoncer une injustice ou réclamer un changement n’est pas un échec démocratique : les mobilisations peuvent faire évoluer les règles et révéler des problèmes que les institutions ne prennent pas suffisamment en compte. Tout dépend de la manière dont les désaccords sont exprimés et traités : ils peuvent ouvrir la voie au changement ou conduire à l’affrontement. Faire retomber la tension ne suffit pas si rien ne change sur le fond : pour le chercheur John Paul Lederach, « transformer » un conflit suppose d’en comprendre les causes, de rétablir la communication et de répondre aux problèmes soulevés. En France, où le passage au dialogue et au compromis reste trop souvent difficile, cette démarche est d’autant plus nécessaire. Prendre cette mobilisation au sérieux ne signifie ni approuver toutes ses revendications ni tolérer les violences, mais reconnaître qu’un désaccord appelle une réponse politique. La non-violence : une stratégie, pas une passivité Alors que certains discours militants présentent la violence comme un moyen de faire plier le pouvoir, la recherche montre que la non-violence peut être plus efficace. Erica Chenoweth et Maria Stephan ont étudié 627 campagnes menées entre 1900 et 2019 : plus de la moitié des campagnes non violentes ont atteint leurs objectifs, contre environ un quart des campagnes violentes. Ces chiffres concernent surtout des luttes contre des régimes autoritaires : ils ne permettent pas de prédire l’issue d’une mobilisation en France, mais ils éclairent des mécanismes utiles. Un mouvement non violent peut attirer davantage de participants et gagner des soutiens au-delà de son cercle initial. Lorsque les affrontements prennent le dessus, au contraire, le débat se déplace des raisons de la mobilisation vers les violences, et les plus radicaux peuvent finir par imposer leur agenda. La non-violence ne garantit pas la victoire et ne dispense pas de stratégie. Son efficacité a d’ailleurs reculé depuis les années 2010 : les pouvoirs en place ont appris à mieux contrer les mobilisations, tandis que certains mouvements, plus spontanés et moins structurés, peinent à s’organiser dans la durée. Les manifestations et les réseaux sociaux permettent de mobiliser rapidement, mais ne suffisent pas toujours à construire un mouvement capable de maintenir la pression et d’obtenir des changements. Ce recul ne remet pas en cause l’avantage de la non-violence dans les campagnes étudiées, mais rappelle qu’elle doit se préparer. Parmi les campagnes majoritairement non violentes, celles qui sont restées entièrement pacifiques ont atteint leurs objectifs dans 65 % des cas, contre 35 % pour celles où une minorité a recouru à la violence. La Serbie en offre un exemple récent : des étudiants mobilisés depuis 2024 ont fait de la non-violence un principe central de leur action. La liste issue de cette mobilisation vient de remporter les législatives du 25 octobre dernier face au parti au pouvoir depuis quatorze ans. La non-violence n’est pas l’absence de rapport de force, mais une manière de le construire sans fermer la porte à une issue négociée. Dans une situation comme celle que nous rencontrons aujourd’hui, la partie la moins puissante doit, comme l’a montré le chercheur Adam Curle, d’abord se faire entendre, en perturbant le cours normal des choses et en alertant l’opinion, pour rendre le statu quo difficile à maintenir et créer les conditions d’une négociation. La résistance civile non violente permet ainsi de contester un rapport de pouvoir tout en gardant le dialogue possible. Manifester pacifiquement, ce n’est donc pas renoncer à peser : c’est chercher à modifier le rapport de force sans compromettre la possibilité d’obtenir des avancées. Concrètement, les travaux sur la résistance civile dégagent quelques principes qui valent aussi en démocratie. La discipline non violente s’organise : une charte de conduite partagée, un service d’ordre formé à la désescalade, une distance claire avec les groupes violents. Les organisations lycéennes et étudiantes jouent ici un rôle central, en contribuant à la discipline collective du mouvement et en servant d’interlocutrices dans le dialogue. Diversifier les modes d’action, par des actions symboliques, des initiatives créatives ou même l’humour, permet de mobiliser largement, à moindre coût, tout en limitant les risques pour les participants. Un mouvement gagne aussi à élargir ses soutiens au-delà de la seule communauté éducative (parents inclus), en montrant que ses revendications, des conditions d’études à l’accès à l’enseignement supérieur, touchent à des enjeux qui concernent toute la société, comme l’égalité des chances. Il gagne enfin à se fixer des objectifs intermédiaires atteignables, pour consolider ses avancées plutôt que de tout miser sur un rapport de force frontal. La désescalade, une responsabilité partagée La responsabilité de la désescalade ne repose pas sur les seuls manifestants. La manière dont les pouvoirs publics encadrent une mobilisation peut contribuer à apaiser les tensions ou, au contraire, à les aggraver. Traiter toute une foule comme une menace, sans distinguer les manifestants pacifiques des auteurs de violences, nourrit le sentiment d’injustice et peut radicaliser certains participants. Le schéma national de maintien de l’ordre de 2020 prévoit pourtant un usage proportionné de la force, la recherche de la désescalade et un dialogue permanent avec les manifestants : ces principes doivent être pleinement appliqués, a fortiori face à des lycéens. Le recul des violences le 24 octobre, dans un contexte de déploiement sécuritaire exceptionnel, ne suffit pas à conclure à une désescalade durable. Il ouvre en revanche une fenêtre pour engager le dialogue, qu’il serait dangereux de laisser se refermer. L’État doit protéger les personnes et les biens, mais la réponse policière ne peut se substituer à une réponse politique sur le fond des revendications des jeunes. Le dialogue ne peut se limiter à un appel au calme : il suppose de reconnaître des interlocuteurs, de préciser les sujets à discuter, de fixer un calendrier et d’associer les parties concernées à l’organisation des échanges. La réception des organisations lycéennes et étudiantes et l’ouverture de chantiers de concertation vont dans ce sens. Encore faut-il que cette concertation ne reste pas de pure forme. Un dialogue n’est crédible que s’il associe réellement les jeunes et s’il est suivi d’effets : les solutions devront, autant que possible, être construites avec eux plutôt que décidées pour eux, et les engagements tenus dans les délais annoncés. À l’inverse, une alternance de fermeté et de concessions accordées sous la pression conforte l’idée, déjà présente chez une partie des jeunes, que seule l’escalade permet d’obtenir des résultats. Parents, enseignants et élus locaux peuvent également contribuer à éviter l’escalade. Certains se sont déjà interposés dans les cortèges pour empêcher des affrontements. Ils peuvent aussi jouer un rôle de tiers pour aider les parties à renouer le dialogue, à clarifier leurs désaccords et à envisager une autre issue moins coûteuse que l’affrontement. Ils peuvent contribuer à rendre cette possibilité visible avant que les positions ne se durcissent davantage. Apprendre à défendre ses convictions sans violence Si le mouvement a déjà adopté certaines pratiques d’une contestation organisée, faire valoir ses idées sans violence, écouter sans renoncer à ses convictions ou négocier avec un interlocuteur en désaccord ne s’improvise pas lorsque les tensions montent. Ces capacités s’apprennent et devraient être pratiquées dès l’école primaire. Elles sont essentielles dans une démocratie : exprimer un désaccord, comprendre les intérêts de l’autre, chercher un compromis lorsque c’est possible et maintenir une opposition lorsque les désaccords demeurent. La stratégie nationale de développement des compétences psychosociales, lancée en 2022 pour apprendre aux enfants à gérer leurs émotions, à coopérer et à résoudre les conflits, ne vise, d’ici à 2037, que la moitié des enfants de 3 à 12 ans. Accélérer ce calendrier et généraliser ces apprentissages donnerait aux jeunes des outils pour défendre leurs intérêts, agir collectivement et contester une décision sans que la violence devienne le principal moyen de se faire entendre. La manière dont les revendications de cette jeunesse seront accueillies façonnera son rapport à la démocratie. Si les jeunes constatent que la mobilisation pacifique peut aboutir à des réponses concrètes, ils auront davantage de raisons de croire que s’engager, manifester et voter peut changer les choses. À l’inverse, si le dialogue reste sans effet, la défiance risque de s’installer. La non-violence n’est ni l’acceptation de l’injustice ni un renoncement au rapport de force : c’est une stratégie qui exige préparation, discipline et courage. Aux pouvoirs publics de répondre politiquement aux revendications et de favoriser le dialogue ; aux jeunes de se donner les moyens de peser sans se laisser entraîner dans l’escalade ; à l’école de transmettre les outils qui rendent cette démarche possible. Une démocratie résiliente n’est pas une démocratie sans conflits. C’est une démocratie qui donne à ses citoyens les moyens de transformer leurs désaccords en leviers de changement, plutôt que de laisser la violence prendre le dessus. Tina Robiolle est docteure en relations internationales (The Fletcher School of Law and Diplomacy, Tufts University), chargée d’enseignement à Sciences Po Paris. Consultante indépendante en négociation, médiation et consolidation de la paix, elle a notamment travaillé pour l’UNESCO et le Centre pour le dialogue humanitaire.

L’intelligence artificielle s’installe progressivement dans le quotidien des professionnels de santé. Elle promet de faciliter l’accès à l’information, d’alléger certaines tâches administratives et d’accompagner la prise de décision médicale. Mais à mesure que ces outils prennent place dans les pratiques de soin, une question essentielle émerge : comment garantir que l’humain reste réellement maître des décisions ? Car la présence d’un médecin devant un écran ne suffit pas à garantir une utilisation sûre de l’IA. Encore faut-il qu’il dispose du temps, des compétences et des informations nécessaires pour comprendre une recommandation, en vérifier les fondements et, si besoin, la contester. Dans une contribution adressée à la Food and Drug Administration (FDA), l’American Medical Association (AMA) rappelle que cette supervision humaine ne peut être une simple exigence de principe : elle doit être concrètement possible, démontrable et soutenue par des moyens adaptés. Ce nouveau numéro des Mardis de l’innovation en santé nous invite ainsi à dépasser la seule question de la performance technologique pour interroger les conditions réelles d’intégration de l’IA dans les organisations de soins. Car, au fond, le véritable enjeu n’est pas seulement de maintenir un humain dans la boucle, mais de lui donner les moyens d’y exercer pleinement son jugement. Imaginons une situation de travail, proposée ici à titre d’illustration. Une IA prépare la synthèse d’un dossier et une proposition de suivi. Le texte est clair, les informations paraissent cohérentes, la conclusion rassurante. Une surveillance biologique importante a pourtant disparu du résumé. Un médecin est invité à valider. A-t-il accès au document initial ? Peut-il repérer l’omission sans reconstruire tout le dossier ? Dispose-t-il du temps nécessaire alors que d’autres patients attendent ? Et que devient cette étape lorsque les validations se comptent par dizaines ? Ces questions déterminent la valeur clinique du dispositif. Un système peut produire rapidement une réponse convaincante et imposer un travail de vérification considérable. Il peut aussi améliorer réellement la prise en charge si ses limites sont connues, ses résultats vérifiables et son intégration adaptée au service. Pour le patient, ce qui compte est la qualité de la décision finale et du suivi qui en découle. Dans les Mardis de l’innovation en santé, nous avons déjà abordé la nécessité de tester les réactions des modèles face aux demandes inappropriées. Le débat ouvert par la FDA prolonge cette réflexion : après la sécurité des réponses, il faut examiner les conditions de leur utilisation. L’enjeu est de savoir ce que le fabricant doit démontrer, ce que le professionnel peut effectivement contrôler et comment l’établissement organise cette coopération. Un document de discussion et une position professionnelle Le 23 octobre 2026, l’American Medical Association, organisation professionnelle médicale américaine, présente dans son bulletin d’actualité sa contribution transmise à la FDA le 16 octobre. La lettre, signée par John Whyte, répond au document du Center for Devices and Radiological Health consacré aux dispositifs médicaux intégrant de l’IA générative [1, 2]. Le statut des textes mérite d’être précisé. Le document de la FDA est un support de discussion et d’appel à contributions. Il indique expressément qu’il ne constitue ni une recommandation provisoire ni une recommandation définitive, et qu’il n’instaure pas de nouvelles règles. La lettre de l’AMA formule des positions et des demandes. Ces documents ne sont donc ni une étude clinique démontrant un bénéfice, ni une réglementation nouvellement adoptée. [1, p. 1 ; 2] Leur périmètre est également délimité. La FDA rappelle qu’elle réglemente les produits relevant de la définition du dispositif médical, et non l’IA en tant que technologie. Tous les assistants conversationnels ou logiciels utilisés dans un hôpital ne relèvent donc pas automatiquement du champ étudié. La réflexion peut néanmoins éclairer leur évaluation et leur organisation, à condition de ne pas confondre cette transposition avec une qualification réglementaire. [1, p. 4–5] La FDA cherche à adapter les méthodes d’évaluation à des outils dont les entrées et les réponses peuvent être très variables. L’AMA soutient une approche proportionnée aux risques, couvrant toute la vie du produit, tout en fixant une exigence : la difficulté de tester une technologie ne doit pas justifier une démonstration insuffisante de sa sécurité et de son efficacité. [1, p. 1–3 ; 2, p. 1–2] Évaluer ce que le dispositif fait réellement Le document de la FDA propose d’explorer une grille à deux axes. Le premier décrit l’activité du dispositif et le degré d’indépendance avec lequel il oriente ou réalise une action. Le second concerne la gravité des conséquences possibles d’une réponse erronée. Il s’agit d’un outil de réflexion, pas d’une classification réglementaire nouvelle. [1, p. 5–8] Cette approche aide à distinguer des usages souvent réunis sous le même terme d’« assistant ». Fournir une information générale, recommander une conduite personnalisée et déclencher une action ne soulèvent pas les mêmes questions. La gravité d’une erreur dépend aussi de la décision concernée, de son caractère réversible et du délai disponible pour la corriger. La frontière peut évoluer au cours d’une conversation. Un outil commence par expliquer les effets indésirables d’un traitement, puis répond à des questions de plus en plus personnelles, jusqu’à suggérer de modifier ou d’interrompre ce traitement. Évaluer seulement la première réponse manquerait alors le comportement le plus conséquent. L’AMA demande que l’évaluation couvre des trajectoires conversationnelles réalistes et les fonctions les plus risquées raisonnablement prévisibles dans l’usage considéré. [2, p. 7] Les avertissements génériques ne règlent pas cette difficulté. La FDA envisage qu’une information orientant une action ne devienne pas moins directive parce qu’elle se termine par une invitation à consulter un médecin. L’AMA soutient cette lecture et demande que l’efficacité d’un avertissement présenté comme mesure de réduction du risque soit démontrée auprès des utilisateurs concernés. Le ton prudent ne suffit pas à neutraliser la conduite suggérée. [1, p. 7 ; 2, p. 5] L’enjeu est donc d’évaluer les fonctions et leurs conséquences prévisibles. Une formule commerciale comme « aide à la décision » ne permet pas, à elle seule, de déterminer la place réelle du logiciel dans le soin. La supervision doit être possible dans le travail quotidien Le point central de la lettre de l’AMA est particulièrement utile : la présence d’un professionnel ne doit pas être présumée réduire le risque. Si la supervision est utilisée comme mesure de sécurité, son efficacité et sa faisabilité doivent être démontrées dans l’environnement auquel le dispositif est destiné. [2, p. 3–4] Cela suppose d’abord l’accès aux informations nécessaires. Le soignant doit pouvoir retrouver les sources pertinentes, identifier les limites connues et comprendre ce que la proposition permet ou ne permet pas de conclure. Une explication formulée avec assurance ne vaut pas preuve d’exactitude. L’AMA précise d’ailleurs que l’explicabilité ne remplace pas les autres méthodes de démonstration de sécurité et d’efficacité. [2, p. 3] La compétence attendue doit ensuite correspondre au professionnel qui utilisera réellement le dispositif. Un outil destiné à aider un généraliste ne peut être considéré comme sûr uniquement parce qu’un spécialiste reconnaît ses erreurs. Si une expertise spécialisée est indispensable à son contrôle, cette condition doit être explicite et intégrée à l’évaluation. L’objectif d’élargir l’accès à une expertise reste pertinent ; encore faut-il démontrer que l’outil y contribue avec ses utilisateurs prévus. [2, p. 6, 8–9] La formation et le temps de travail sont tout aussi déterminants. Une évaluation dans laquelle les médecins disposent d’un temps supplémentaire, de documents enrichis ou d’un accompagnement indisponible en pratique peut surestimer la sécurité après déploiement. L’AMA demande de reproduire les contraintes de l’usage attendu, notamment le temps de lecture, les informations présentées et les conditions de validation. [2, p. 9] Enfin, le professionnel doit pouvoir agir. Il faut pouvoir contester une réponse, la modifier, demander un avis ou interrompre une action. Une étape de validation qui intervient trop tard, ou qui ne permet pas de revenir sur la proposition, n’offre qu’un contrôle limité. L’AMA inclut aussi les ressources et la rémunération du travail de supervision parmi les conditions à examiner. [2, p. 3] Nous en tirons une conséquence pour l’organisation hospitalière : la mention « validation médicale » devrait correspondre à une tâche définie, avec un responsable, un délai réaliste et une possibilité d’intervention effective. Elle ne peut rester une case ajoutée au circuit informatique. Tester le dispositif complet et la coopération avec les soignants La FDA envisage une évaluation en deux composantes : des tests structurés des capacités du dispositif, puis une confirmation clinique adaptée à son usage. Le produit à évaluer serait celui effectivement déployé, dans sa configuration d’utilisation, et non le seul modèle de fondation sur lequel il repose. [1, p. 11–15] Cette distinction est essentielle. La réponse dépend du modèle, mais aussi des consignes, des documents consultés, des outils accessibles, des règles de sécurité et de l’interface. Un résultat obtenu avec un modèle isolé ne décrit donc pas nécessairement le comportement du dispositif installé dans un service. Les domaines de test envisagés par la FDA dépassent les connaissances médicales. Ils incluent la reconnaissance des situations nécessitant une intervention, le respect des limites d’usage, l’expression de l’incertitude, la qualité de la communication, la robustesse aux variations des informations reçues et les performances dans différents sous-groupes. Pour les systèmes capables d’agir, des compétences supplémentaires concernent la planification et l’exécution des tâches. [1, p. 12, 24–26] La confirmation clinique ne correspondrait pas obligatoirement à un essai prospectif pour chaque dispositif. La FDA discute plusieurs possibilités : analyse rétrospective de dossiers, fonctionnement en parallèle sans influence sur les soins, interactions avec des patients standardisés, appréciation de cas réels par des cliniciens indépendants, ou étude prospective, parfois randomisée. Le choix devrait dépendre de l’usage et du risque. Présenter ce document comme une exigence générale d’essais randomisés serait donc inexact. [1, p. 14–16] Chaque méthode répond à une question différente. Un fonctionnement en parallèle, dont les résultats ne sont pas montrés aux équipes, peut documenter les réponses produites dans un environnement réel. Par construction, il ne permet pas d’observer comment les soignants changent leurs décisions en les lisant. Une évaluation de la coopération doit donc examiner cette interaction lorsque la sécurité en dépend. Pour un outil d’aide au suivi, nous proposons de mesurer les omissions importantes, les orientations inappropriées, les erreurs détectées et celles qui subsistent après validation. Il faudrait aussi documenter le temps de vérification et les conséquences sur les autres tâches. Le taux d’acceptation des propositions ne suffit pas à établir leur qualité : accepter peut traduire une aide pertinente, mais aussi un contrôle insuffisant. Qui assume la responsabilité du produit et de son utilisation L’AMA défend une ligne claire : la contribution des médecins à l’évaluation ne doit pas transférer vers eux la responsabilité de la performance du produit. Elle demande que les fabricants démontrent et maintiennent la sécurité et l’efficacité de leurs dispositifs, y compris lorsque celles-ci dépendent d’interactions avec les utilisateurs. [2, p. 2–3, 7–8] Ce principe ne signifie pas que le professionnel n’aurait plus de responsabilité dans sa décision, ni que l’établissement serait dispensé d’organiser un usage approprié. Il invite à distinguer les contributions. Pour notre réflexion, le fabricant doit documenter le produit et ses conditions d’utilisation ; l’établissement doit vérifier qu’il peut réunir ces conditions ; le professionnel exerce son jugement dans ce cadre et doit disposer des moyens d’alerter lorsqu’il ne fonctionne pas. Cette répartition est une proposition de gouvernance. Elle ne tranche pas l’attribution juridique d’une faute ou d’une indemnisation dans un cas particulier, et les positions américaines ne constituent pas une règle directement applicable en France. La question opérationnelle demeure toutefois incontournable : aucune partie ne devrait compter sur une autre pour assumer un contrôle qui n’a pas été défini. Les dispositifs construits sur des modèles fournis par des tiers compliquent cette organisation. Une modification du modèle sous-jacent peut changer les réponses sans que le service hospitalier ait modifié son usage. La FDA interroge donc les moyens techniques et contractuels permettant au fabricant du dispositif de détecter, évaluer et gérer ces changements. [1, p. 20–22] Pour les établissements, nous proposons que l’achat précise les versions utilisées, les modalités d’information sur les mises à jour et les situations nécessitant une nouvelle évaluation. Il faut également prévoir comment suspendre une fonction et assurer la continuité de l’activité. La dépendance technique à plusieurs fournisseurs doit être documentée, plutôt que découverte au moment d’un incident. Surveiller les évolutions sans reporter la preuve sur les patients La FDA pose une question sensible : pourrait-on accepter davantage d’incertitude avant commercialisation en renforçant la surveillance après déploiement ? L’AMA s’oppose à réduire le niveau de preuve nécessaire à une assurance raisonnable de sécurité et d’efficacité sur cette seule hypothèse. Elle considère que les données recueillies après commercialisation doivent compléter les preuves initiales. [1, p. 19 ; 2, p. 11] La nuance compte. Aucun protocole ne peut éliminer toute incertitude ni reproduire chaque conversation possible. Mais les limites prévisibles, les principaux modes d’échec et les conditions d’utilisation doivent être suffisamment caractérisés avant l’exposition des patients. Détecter un dommage après sa survenue ne remplace pas sa prévention. La surveillance reste ensuite indispensable. La FDA discute la répétition de tests, la revue d’échantillons de situations réelles par des cliniciens et la recherche de dégradations des performances. L’AMA demande que cette revue inclue particulièrement les interactions sensibles, notamment les demandes d’avis et les situations où les professionnels ont corrigé ou rejeté une proposition. Une moyenne globale pourrait masquer des erreurs rares mais graves. [1, p. 19–20 ; 2, p. 12] L’AMA souhaite aussi que les événements surveillés ne se limitent pas aux dommages immédiatement identifiables. Des réponses anormales, des quasi-accidents ou une évolution des erreurs peuvent constituer des signaux utiles. Elle propose d’étudier une capacité nationale de surveillance associant données des fabricants, signalements standardisés et expertise clinique. Il s’agit là encore d’une demande, pas d’un dispositif annoncé comme opérationnel. [2, p. 13] Pour nous, un signalement doit déboucher sur une réponse identifiable : analyse, correction, information des utilisateurs ou suspension si nécessaire. La fréquence de réévaluation devrait suivre le risque et les changements observés. Une nouvelle population, une modification de l’interface ou une mise à jour du modèle peuvent justifier de réexaminer des résultats auparavant satisfaisants. Les agents autonomes rendent les points de contrôle décisifs Les systèmes dits agentiques peuvent planifier des tâches successives, utiliser des outils externes et exécuter des actions. La FDA les distingue des dispositifs se limitant à produire une réponse et sollicite des contributions spécifiques. L’AMA demande une vigilance et des évaluations renforcées, en soulignant les incertitudes sur leur préparation à l’usage clinique. [1, p. 22–23, 26 ; 2, p. 14] Le problème devient celui d’une séquence. Une interprétation initiale peut orienter la recherche d’informations, puis la proposition suivante et enfin une action. L’annexe de la FDA envisage de tester les erreurs d’outils, le respect des validations humaines avant des actions importantes et la résistance aux instructions malveillantes présentes dans des contenus consultés. [1, p. 26] Nous proposons donc que les droits d’action soient explicites : ce que le système peut préparer, ce qu’il peut transmettre et ce qu’il ne peut exécuter sans validation. Les étapes irréversibles ou à conséquences élevées doivent faire l’objet d’un contrôle adapté. Un bouton d’arrêt n’est utile que si le professionnel sait quand l’utiliser et s’il peut intervenir avant que l’action ne produise ses effets. Financer la supervision et préserver un accès équitable Le financement occupe une place importante dans la contribution de l’AMA. Celle-ci demande que les fabricants organisent et financent la participation clinique nécessaire à la surveillance de leurs produits. Elle refuse que les médecins absorbent gratuitement une fonction permanente de contrôle après commercialisation. [2, p. 12–13] Pour un établissement, cette exigence invite à examiner le coût complet de l’innovation. Le prix du logiciel ne résume pas celui de son utilisation. La formation, l’intégration informatique, les vérifications, la gestion des alertes et l’analyse des incidents mobilisent des ressources. Nous proposons que ces éléments soient intégrés à l’évaluation économique dès le départ. Un gain de temps doit ainsi être apprécié après prise en compte du travail supplémentaire. Une synthèse produite rapidement peut être utile, mais sa valeur dépend du temps nécessaire pour la contrôler et de la fiabilité de la décision qu’elle permet. L’objectif est de rendre du temps disponible pour le soin, sans organiser un transfert invisible vers d’autres professionnels. L’accès aux soins pose une seconde question. L’AMA reconnaît qu’il est pertinent de comparer un dispositif aux possibilités réellement accessibles aux patients, notamment lorsque l’avis spécialisé est retardé. Elle met néanmoins en garde contre un abaissement automatique des exigences pour les populations déjà défavorisées. Le manque de ressources ne devrait pas normaliser une offre de moindre qualité. [2, p. 9–10] Cette réflexion s’applique à la prévention. Une IA pourrait repérer un suivi interrompu, préparer une information adaptée ou faciliter une orientation. Son utilité devra être appréciée jusqu’à la réponse apportée : information comprise, contact effectif, rendez-vous accessible et continuité du suivi. Nous proposons de vérifier ces résultats dans les populations les plus éloignées du système de santé, et pas seulement chez les utilisateurs les plus à l’aise avec le numérique. Orienter plus souvent vers un professionnel n’est pas nécessairement une erreur ; cela peut être indispensable. Mais une multiplication d’alertes sans destinataire disponible ne constitue pas une amélioration du parcours. La FDA discute précisément les risques associés à une orientation insuffisante comme à une orientation excessive. Leur équilibre doit être évalué selon la situation clinique. [1, p. 8–10] Une exigence concrète pour les prochaines innovations À partir de ces textes, il est proposé que tout projet d’IA ayant une incidence sur les décisions de soins réponde, avant son déploiement, à quelques questions explicites. Pour quelle tâche et quelle population a-t-il été évalué ? Quelles erreurs importantes ont été recherchées ? Qui vérifie quoi, dans quel délai et avec quelles informations ? Qui finance cette vérification ? Que se passe-t-il lorsque le dispositif change ou qu’un signal de risque apparaît ? Les réponses devraient associer les professionnels concernés, les responsables de la qualité et du numérique, les patients et les concepteurs. Elles permettraient de définir un déploiement progressif, des critères d’arrêt et une réévaluation proportionnée au risque. Les indicateurs devraient porter sur les erreurs cliniquement importantes, les délais, la charge de travail, la compréhension des patients et les inégalités d’accès, en complément des performances techniques. Le débat américain ne fournit pas une solution prête à transposer. Il rend cependant visible une condition souvent laissée implicite : la sécurité d’une IA dépend aussi du travail nécessaire pour l’utiliser correctement. Ce travail doit être étudié, organisé et financé. La supervision humaine ne se décrète pas, elle s’organise. Pour qu’elle protège réellement le patient, le professionnel doit pouvoir comprendre, vérifier et intervenir. Le fabricant doit apporter les preuves correspondant à l’usage proposé et entretenir cette démonstration dans le temps. L’établissement doit disposer des moyens d’intégrer le dispositif sans fragiliser le soin. C’est à ces conditions que l’IA pourra devenir une aide durable aux équipes et à la prévention. Références et repères de lecture [1] U.S. Food and Drug Administration, Center for Devices and Radiological Health. Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback. Document de discussion transmis pour cette note. Les pages citées correspondent à la pagination imprimée 1 à 30, après la page de couverture. Statut et périmètre : p. 1–5 ; risque : p. 5–10 ; évaluation : p. 10–18 ; surveillance et modifications : p. 19–22 ; agents : p. 22–23 et 26 ; compétences : p. 24–26. [2] American Medical Association. Lettre de John Whyte à Rick Abramson, directeur du Digital Health Center of Excellence du CDRH, FDA. Re: Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback. 16 octobre 2026, 14 pages. [3] American Medical Association. National Advocacy Update, 23 octobre 2026. Rubrique « AMA comments on FDA generative AI-enabled medical device regulatory considerations ». Source de la présentation publique de la contribution du 16 octobre. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 3 Novembre pour la prochaine note « Les mardis de l’innovation en santé »

Les violences du 17 octobre ont profondément marqué les esprits. Faut-il y voir une aggravation de la violence politique en France ? Les images sont saisissantes : l’hôtel de ville de Limoges incendié, des bâtiments publics attaqués, des commerces pillés, des affrontements avec les forces de l’ordre… Elles suscitent une indignation légitime. Pour autant, il faut se garder d’une erreur historique : croire que la France découvrirait aujourd’hui la violence politique. L’historien Michel Winock l’a bien montré dans La Fièvre hexagonale : notre histoire républicaine est traversée de crises politiques et sociales profondes au cours desquelles la rue a parfois été le théâtre de véritables affrontements. Le 6 février 1934, dans un climat de scandales politico-financiers, les ligues d’extrême droite organisent des manifestations antiparlementaires qui dégénèrent en émeutes et font une vingtaine de morts. En 1947 et 1948, sur fond de pénuries, d’inflation et de guerre froide, les grandes grèves ouvrières donnent lieu à de violents affrontements, à des sabotages et à une répression particulièrement dure. Dans les années 1970 et 1980, une frange de l’extrême gauche révolutionnaire choisit la lutte armée, jusqu’aux assassinats perpétrés par Action directe. Plus près de nous, le mouvement des Gilets jaunes, né en 2018 d’une contestation fiscale et sociale sans étiquette politique unique, a été marqué par des scènes de violences et de destructions spectaculaires. Les manifestations contre la réforme des retraites en 2023 ont, elles aussi, été émaillées d’affrontements et de dégradations, notamment du fait de groupes d’ultragauche cherchant à imposer leurs modes d’action à la tête et autour des cortèges traditionnels. Ces questions ont d’ailleurs fait l’objet cette même année d’une mission d’information sur l’activisme violent1 conduite par Éric Poulliat et Jérémie Iordanoff ainsi qu’une commission d’enquête présidée par Patrick Hetzel et rapportée par Florent Boudié sur les manifestations du printemps 20232. La mission d’information avait notamment mis en évidence un paradoxe : sur le temps long, la violence politique est globalement moins intense qu’autrefois mais elle est devenue beaucoup plus visible. Ce constat ne rend pas les violences actuelles moins graves. Il invite simplement à les replacer dans leur perspective historique plutôt qu’à y voir le signe d’un effondrement inédit de notre société. Qu’est-ce qui a changé dans la manière dont cette violence s’exprime ? D’abord, son exposition. Aujourd’hui, chaque affrontement est filmé, diffusé et commenté presque instantanément. Quelques dizaines de secondes montrant une vitrine brisée ou un véhicule incendié peuvent faire le tour du pays, voire du monde, et résumer à elles seules une journée entière de mobilisation. Les réseaux sociaux ne sont pas seulement une caisse de résonance, ils facilitent aussi les rassemblements, la circulation des mots d’ordre et parfois la coordination d’actions violentes. Ils favorisent également des formes de mobilisation moins structurées qui échappent aux organisations politiques et syndicales traditionnelles. Cela rend par ailleurs plus difficiles l’identification d’interlocuteurs, la négociation et la protection des cortèges contre les groupes qui recherchent l’affrontement. Il y a là un paradoxe : il suffit parfois d’être quelques centaines pour confisquer l’image d’une mobilisation de plusieurs centaines de milliers de personnes. Les revendications disparaissent derrière les destructions. Le débat public ne porte plus sur ce qui a conduit les citoyens dans la rue mais sur les violences qui ont accompagné leur mobilisation. Certains groupes ont parfaitement compris cette mécanique. À l’heure des réseaux sociaux et de l’information en continu, la capacité à produire des images spectaculaires peut compter davantage que le nombre de militants réunis. Qui sont les auteurs de ces violences ? Peut-on parler d’une stratégie organisée ? Il n’existe pas un profil unique de casseur, et c’est précisément l’un des enseignements des deux rapports parlementaires de 2023. La commission d’enquête rapportée par Florent Boudié avait étudié les modes d’action des groupes violents intervenus lors des manifestations du printemps 2023. La tactique du black bloc repose sur des groupes mobiles, sans hiérarchie permanente, mais capables de préparer et de coordonner leurs actions. Certains militants d’ultragauche considèrent l’affrontement avec les forces de l’ordre ou la destruction de symboles du capitalisme comme un moyen d’action politique. Leur objectif ne se limite pas nécessairement à exprimer une colère, il peut être de provoquer une confrontation avec l’État, de perturber le déroulement d’une manifestation et d’en imposer leur propre lecture. À cette violence militante s’ajoute une délinquance opportuniste. Les travaux de la commission d’enquête avaient déjà identifié des individus qui profitaient des troubles pour vandaliser ou piller des commerces, sans motivation politique particulière. Une vitrine peut ainsi être brisée pour ce qu’elle représente puis pillée pour ce qu’elle contient. Les intentions sont différentes mais les conséquences se rejoignent. Il serait également erroné de réduire la violence politique à l’ultragauche. La mission d’information d’Éric Poulliat et Jérémie Iordanoff avait montré la diversité des activismes violents, de l’ultradroite aux nouveaux mouvements sociétaux en passant par les séparatistes, avec des méthodes et des cibles différentes. L’ultradroite s’en prend plus fréquemment aux personnes quand l’ultragauche vise davantage les biens et les forces de l’ordre. Comprendre ces distinctions est indispensable pour ne pas répondre à tous les phénomènes de la même manière. Derrière les images de destruction, ne risque-t-on pas d’oublier les premières victimes de ces violences ? C’est même l’un des principaux dangers. On commente les affrontements, on compte les interpellations, on débat des responsabilités politiques puis l’actualité passe à autre chose. Pour les victimes, les conséquences durent bien plus longtemps. Derrière un commerce pillé ou incendié, il y a souvent des années de travail, des économies investies, des salariés dont l’emploi est menacé. Pour certains commerçants, ce n’est pas simplement une vitrine à remplacer, c’est une activité à l’arrêt, des dettes qui continuent de courir et parfois une vie professionnelle qui s’effondre. La solidarité nationale doit aussi se mesurer à la manière dont nous accompagnons ceux qui ont tout perdu. Il faut leur apporter rapidement un soutien concret, faciliter les démarches d’indemnisation et éviter qu’ils se retrouvent seuls face aux conséquences de violences qu’ils n’ont ni provoquées ni choisies. Je pense également aux élus locaux. Lorsqu’une mairie est incendiée ou attaquée, ce n’est pas seulement un bâtiment public qui est visé. C’est un lieu où les habitants viennent demander un acte d’état civil, solliciter une aide, rencontrer leurs représentants. C’est la République dans ce qu’elle a de plus quotidien et de plus proche des citoyens. Les maires et leurs équipes, déjà confrontés à une montée des tensions et des agressions, doivent pouvoir exercer leur mandat sans craindre pour leur sécurité. Je pense enfin aux policiers et aux gendarmes qui ont subi des attaques dans des conditions particulièrement éprouvantes. Ils sont chargés de protéger les personnes, les biens et la liberté de manifester, et il est important de ne pas l’oublier. On ne peut pas parler sérieusement des violences du 17 octobre sans parler de ceux qui les ont subies, de leurs blessures et des conséquences humaines qu’elles laisseront. Ces violences révèlent-elles une crise plus profonde de notre démocratie ? Oui, parce qu’elles interrogent notre rapport à la légitimité démocratique. La mission d’information d’Éric Poulliat et Jérémie Iordanoff avait mis en évidence une tendance préoccupante chez certains militants : la conviction que la justesse de leur cause leur donnerait le droit de s’affranchir des règles communes. Puisqu’ils estiment leur combat légitime, ils considèrent parfois que les décisions prises par les institutions peuvent être écartées par la force. Cette logique dépasse largement une famille politique. Elle traduit une fragmentation des légitimités dans laquelle chacun prétend décider des règles qu’il accepte de respecter. Il faut distinguer deux choses que l’on confond trop souvent : la radicalité des convictions et la violence des méthodes. On peut défendre des transformations profondes de la société, contester vigoureusement un gouvernement ou réclamer un changement institutionnel majeur tout en respectant les libertés d’autrui. La démocratie n’exige pas des citoyens qu’ils soient modérés dans leurs idées. Elle exige qu’ils acceptent que personne ne puisse imposer ses convictions par la force. La défiance envers les institutions et le sentiment de ne pas être entendu contribuent à expliquer certaines radicalisations. Ils ne sauraient pour autant justifier qu’on incendie une mairie, qu’on pille un commerce ou qu’on agresse un policier. En démocratie, le sentiment d’avoir raison ne peut pas constituer un permis de violence. Quelles réponses l’État peut-il apporter ? Faut-il de nouvelles mesures ? La première exigence est de faire fonctionner les outils dont nous disposons déjà. Le droit français permet de sanctionner les violences, les destructions et les pillages. La difficulté réside souvent dans l’anticipation des troubles, l’identification des auteurs et la constitution de preuves suffisamment solides pour permettre leur condamnation. Les deux rapports de 2023 insistaient sur ces enjeux ainsi que sur la nécessité de mieux articuler le renseignement, le maintien de l’ordre et la réponse judiciaire. La fermeté ne se mesure pas au nombre d’annonces faites après les affrontements. Elle se mesure à la capacité de prévenir les violences et de faire répondre leurs auteurs de leurs actes. Peut-être faudra-t-il rouvrir certaines pistes formulées en 2023. La mission d’information avait notamment proposé d’instaurer une amende forfaitaire délictuelle de 500 euros pour la dissimulation volontaire du visage dans les circonstances prévues par la loi afin de rendre cette sanction plus effective. Elle avait aussi proposé de définir un cadre juridique permettant l’utilisation opérationnelle des produits de marquage codés, susceptibles de faciliter l’identification des auteurs de violences. Sur ce dernier sujet, la commission d’enquête rapportée par Florent Boudié avait souligné la nécessité d’une expérimentation rigoureuse et d’une évaluation de leur intérêt probatoire. Ce sont des pistes de réflexion, pas des solutions miracles. Leur utilité doit être appréciée au regard de leur efficacité réelle et de leur capacité à permettre des poursuites judiciaires solides. La présidente de l’Assemblée nationale, Yaël Braun-Pivet, a annoncé qu’elle proposerait ce 20 octobre la création d’une nouvelle commission d’enquête parlementaire sur les violences du 17 octobre et la stratégie de maintien de l’ordre. Cette initiative doit permettre d’établir les faits, de comprendre les modes d’action des groupes impliqués, d’examiner les conditions dans lesquelles les événements se sont déroulés et d’en tirer de nouvelles propositions. Les travaux de 2023 constituent une base précieuse mais chaque épisode de violence présente aussi des caractéristiques propres. Le Parlement doit pouvoir les examiner avec précision sans se contenter de reproduire les débats précédents. L’enjeu n’est pas de légiférer pour légiférer, il est de comprendre ce qui a fonctionné, ce qui a échoué et ce qui doit évoluer. Quelle leçon politique faut-il finalement tirer du 17 octobre ? La République ne peut pas laisser la rue devenir un rapport de force dans lequel celui qui est prêt à aller le plus loin finit par imposer sa volonté. Lorsqu’une manifestation pacifique est détournée par des groupes violents, ce sont d’abord les libertés des autres manifestants qui reculent. Lorsqu’une mairie est attaquée, ce sont les habitants et leurs représentants qui sont visés. Lorsqu’un commerce est détruit, ce sont des vies qui peuvent basculer. Et lorsque les forces de l’ordre sont prises pour cibles, c’est la capacité même de l’État à protéger les citoyens qui est mise à l’épreuve. La République doit être capable d’entendre les colères sociales sans céder à ceux qui prétendent parler en leur nom par la violence. Elle doit protéger les manifestants pacifiques, soutenir les victimes, défendre les élus et donner aux forces de l’ordre comme à la justice les moyens de remplir leurs missions. Il n’y a aucune contradiction entre ces exigences. Une République solide n’est pas celle qui fait taire la contestation mais celle qui refuse que la violence décide à sa place. Maxime Bigot est directeur des études du Laboratoire de la République. Ancien collaborateur parlementaire à l’Assemblée nationale, il a notamment travaillé sur les questions d’activisme violent auprès d’Éric Poulliat dans le cadre de la mission d’information parlementaire consacrée à ce sujet en 2023.

Pour ce nouveau rendez-vous des Mardis de l’Innovation de Demain, nous avons interrogé le Dr Arnaud Hansske, qui vient de rejoindre Softway Medical en tant que Directeur médical. Fort de son expérience du terrain et de sa connaissance des enjeux de transformation du système de santé, il porte une vision exigeante et profondément humaine de l’innovation. Une vision qui repose sur trois convictions fortes : Le professionnel de santé avant la technologie : concevoir le numérique à partir des besoins cliniques, du parcours patient et de la réalité quotidienne des soignants. La preuve avant la promesse : privilégier une innovation évaluée, mesurable, économiquement soutenable et créatrice de valeur réelle en santé. L’humain avant l’algorithme : faire de la technologie un levier au service du jugement médical, de la responsabilité, de la coopération et de la relation de soin. Comment passer de l'innovation technologique à l'innovation véritablement utile aux soignants et aux patients ? Comment réconcilier ambition numérique, exigence clinique et valeur en santé ? Autant de questions au cœur de cet entretien, qui nous invite à repenser une évidence : ce n'est pas à la médecine de s'adapter à la technologie, mais à la technologie de servir la médecine. Qu’est-ce qui vous a conduit à faire du numérique un axe central de votre parcours ? Je ne suis pas venu au numérique par fascination pour la technologie. J’y suis venu par la médecine, et plus précisément par la conviction que la qualité d’une décision médicale dépend aussi de la qualité de l’information dont dispose le médecin. Mes responsabilités dans l’information médicale m’ont rapidement fait comprendre qu’un établissement de santé était une organisation extraordinairement complexe, dans laquelle l’information constitue un élément essentiel de la qualité, de la sécurité et de la continuité des soins. A l’occasion de trois changements de Dossier Patient Informatisé (DPI), j’ai découvert que transformer un système d’information hospitalier, ce n’est pas seulement déployer des logiciels. C’est toucher aux organisations, aux métiers, aux relations entre professionnels et parfois même à la culture médicale. Finalement, mon parcours repose sur une conviction assez simple : la technologie n’a de sens que lorsqu’elle améliore la capacité des professionnels à mieux soigner. Quelle ambition portez-vous en rejoignant Softway Medical comme directeur médical groupe ? Après avoir passé une grande partie de ma carrière du côté des établissements de santé ou et de leurs fédérations, j’ai souhaité changer de perspective sans changer de conviction. J’ai longtemps été confronté à la distance qui peut exister entre les fonctionnalités imaginées par les éditeurs et les besoins réels des professionnels. Cette distance n’est pas une fatalité. Elle tient souvent à une compréhension insuffisante des organisations hospitalières et des contraintes quotidiennes des soignants. Mon ambition chez Softway Medical est précisément de contribuer à rapprocher ces deux mondes : celui de la médecine et celui de la technologie. Je souhaite apporter une vision médicale, organisationnelle et stratégique, nourrie par l’expérience du terrain. Il s’agit aussi d’anticiper les transformations à venir, notamment celles liées à l’intelligence artificielle, pour qu’elles ne soient pas simplement ajoutées aux logiciels existants, mais pensées comme de véritables évolutions innovantes des pratiques avec de la création de valeur (qualité, temps gagné, pour les soignants, facilitations…). Je ne viens pas expliquer aux ingénieurs comment développer un logiciel. Je viens contribuer à leur expliquer pourquoi, pour qui et dans quelles conditions il doit et peut être développé. Comment définissez-vous une innovation utile au système de santé ? Je me méfie de l’expression “innovation pour l’innovation”. Une technologie peut être spectaculaire sans être réellement utile. Pour moi, une innovation doit répondre à trois questions : quel problème concret résout-elle ? Quelle valeur apporte-t-elle au patient ou au professionnel ? Et cette valeur est-elle suffisamment démontrée pour justifier son coût et sa complexité ? J’ajouterais une quatrième dimension, souvent oubliée : son acceptabilité par les utilisateurs. Une innovation qui améliore théoriquement la performance mais désorganise le travail quotidien n’est pas nécessairement un progrès. Je défends donc une approche fondée sur la création de valeur en santé, qui intègre les résultats cliniques, l’expérience des patients, les conditions de travail des professionnels et l’efficience économique. Une bonne innovation n’est pas forcément celle dont on parle le plus. C’est celle dont on ne pourrait plus se passer après l’avoir adoptée ou qui a réellement changé une organisation en mieux. Pouvez-vous raconter une situation dans laquelle un outil numérique a réellement amélioré le travail d’une équipe ou le parcours d’un patient ? L’un des enseignements majeurs de mon expérience hospitalière concerne la transformation du dossier patient informatisé. Pendant longtemps, nous avons considéré que la réussite d’un projet informatique se mesurait à son déploiement : le logiciel fonctionnait, les utilisateurs étaient formés et les données étaient disponibles. Mais la véritable réussite se situe ailleurs : dans la capacité du système à fluidifier les échanges entre professionnels, à éviter les doubles saisis, à sécuriser les prescriptions et à rendre l’information disponible au bon moment. J’ai appris qu’un projet ne réussit pas parce qu’il est technologiquement performant. Il réussit parce que les professionnels se l’approprient et parce que l’organisation évolue avec lui. C’est pourquoi je crois profondément à la co-construction avec les équipes médicales et soignantes. Le changement ne se décrète pas depuis une direction informatique, même avec le meilleur logiciel du monde. Quelle transformation attendez-vous principalement de l’IA en santé ? Je ne crois pas qu’il faille opposer le temps médical retrouvé, l’amélioration des décisions et la transformation des parcours. Ces trois dimensions sont intimement liées. Mais si je devais choisir une priorité, ce serait de redonner du temps et de la disponibilité intellectuelle aux soignants. Nous avons progressivement transformé les professionnels de santé en producteurs de données. Ils passent une part considérable de leur activité à rechercher, saisir, vérifier ou transmettre des informations. L’intelligence artificielle pourrait inverser cette logique : faire travailler davantage les données au service des professionnels, plutôt que les professionnels au service des données. À terme, le véritable changement ne sera probablement pas une IA qui réalise quelques tâches plus rapidement, mais un système d’information capable de mieux comprendre les situations cliniques et d’accompagner les parcours en temps réel avec un « cœur IA » qui accompagne chaque étape (voire qui l’anticipe en allant chercher toutes les informations qui permettent de consolider le dossier). La finalité reste en lien avec le terrain et les utilisateurs : permettre au médecin de consacrer davantage d’attention à son patient. Quels usages de l’IA sont suffisamment solides pour entrer dans la pratique quotidienne ? Il faut distinguer la maturité technologique de la maturité clinique. Certains usages sont déjà bien documentés, notamment des applications ciblées d’analyse d’images médicales, dans des indications précises, avec des dispositifs évalués et un cadre réglementaire adapté (Mode Deep Learning sur les IA en Imagerie, Explorations fonctionnelles ou Anatomopathologie). D’autres usages, (IA génératives) comme l’aide à la rédaction, la structuration documentaire ou la recherche d’informations dans un dossier, présentent un potentiel opérationnel considérable. Mais leur fiabilité doit être appréciée selon le contexte clinique et les conséquences possibles des erreurs. Je suis plus prudent concernant les systèmes qui prétendent produire des raisonnements diagnostiques complexes ou proposer des décisions thérapeutiques de manière autonome. La fluidité d’une réponse ne constitue jamais une preuve de sa justesse. Nous devons sortir de la logique de démonstration technologique pour entrer dans une véritable culture de l’évaluation clinique. Une IA impressionnante n’est pas nécessairement une IA médicalement fiable, là où la garantie humaine trouve toute sa justification. Qu’avez-vous appris des travaux sur la synthèse du dossier patient par IA générative au Groupement des Hôpitaux de l’Institut Catholique de Lille ? Le besoin initial était très concret : permettre au médecin d’accéder rapidement à l’essentiel d’une histoire médicale parfois dispersée dans des dizaines, voire des centaines de documents. Le dossier patient informatisé est devenu extrêmement riche, mais cette richesse peut paradoxalement rendre l’information difficile à exploiter. L’objectif n’était donc pas simplement de résumer des documents. Il était de faire émerger les informations pertinentes pour une situation clinique donnée : les antécédents, les traitements, les événements récents, les examens déterminants ou les points de vigilance. Ces travaux m’ont conforté dans une conviction : la difficulté principale n’est pas seulement de produire un texte cohérent. C’est de produire une synthèse médicalement pertinente, fidèle aux sources et adaptée à la question du soignant. Il faut également veiller à ne pas créer une nouvelle forme de dépendance : le médecin doit pouvoir retrouver les informations originales et conserver son jugement critique. Une bonne synthèse ne remplace pas le dossier patient. Elle permet au médecin d’y accéder intelligemment, et quand elle fonctionne moins, les praticiens se signalent (exemple en Gériatrie). Comment évaluer la fidélité et la pertinence clinique d’une synthèse générée par IA ? C’est probablement l’une des questions les plus importantes. Une synthèse peut être parfaitement rédigée, agréable à lire, et pourtant médicalement dangereuse parce qu’elle omet une allergie, un antécédent ou une information contradictoire. Je considère qu’il faut évaluer ces outils selon trois dimensions distinctes. D’abord, la fidélité documentaire : ce qui est écrit correspond-il réellement aux informations du dossier ? Ensuite, la pertinence clinique : les informations retenues sont-elles celles dont le médecin a besoin pour prendre sa décision ? Enfin, le risque associé aux erreurs : toutes les omissions n’ont pas la même gravité. Oublier un élément administratif n’a pas les mêmes conséquences qu’omettre un traitement anticoagulant. L’absence d’info ne signifie pas « pas de problème » : exemple ; « ne fume pas », n’est pas équivalent à aucune mention sur le tabac. Cela suppose des protocoles d’évaluation impliquant des médecins, des cas cliniques représentatifs et une analyse structurée des erreurs. En médecine, la qualité d’un résumé ne se mesure pas seulement à ce qu’il dit, mais aussi à ce qu’il ne dit pas. Comment concevoir une IA qui préserve la maîtrise de la décision par les professionnels ? Je défends une intelligence artificielle explicable dans son usage, traçable dans ses sources et suffisamment transparente sur ses limites. Il ne s’agit pas nécessairement de rendre compréhensible chaque mécanisme mathématique du modèle. Il s’agit de permettre au professionnel de savoir d’où vient une information, à quelle date elle a été produite, quel degré d’incertitude lui est associé et si des données contradictoires existent. Le système doit faciliter le retour à la source, pas enfermer le médecin dans une réponse. Il faut également garder un droit au doute : une IA doit pouvoir indiquer qu’elle ne sait pas, qu’une information manque ou qu’une situation nécessite une vérification humaine. De son côté, le médecin doit rester responsable de son raisonnement clinique, mais l’éditeur a la responsabilité de concevoir un environnement qui permette réellement l’exercice de ce jugement. L’IA doit augmenter le discernement médical, pas le mettre en sommeil. Le dossier patient informatisé pourrait-il devenir un véritable outil d’anticipation ? Je pense que nous sommes à un moment charnière de l’histoire du dossier patient informatisé. Depuis plusieurs décennies, nous construisons des systèmes dont la fonction principale consiste à conserver et restituer des informations. Demain, le dossier patient pourrait devenir un système capable de comprendre une trajectoire de soins, de repérer des incohérences et d’anticiper certains risques. Imaginons un patient chronique dont le suivi biologique n’a pas été réalisé, une consultation spécialisée oubliée ou une interaction médicamenteuse qui apparaît après une modification thérapeutique. Le système pourrait signaler ces situations de manière contextualisée. Mais cette évolution suppose plusieurs conditions : des données fiables, structurées et interopérables facilement, une connaissance du contexte médical et surtout une maîtrise du risque de multiplication des alertes. Je crois que nous devons passer du dossier patient qui mémorise, ou numérise le papier au dossier patient qui accompagne, guide, puis qui anticipe. C’est une transformation majeure, qui pourrait redéfinir le rôle des éditeurs de logiciels médicaux. Jusqu’où confier des actions aux agents d’intelligence artificielle ? L’arrivée des agents d’intelligence artificielle constitue probablement une rupture plus profonde qu’on ne l’imagine. Jusqu’à présent, nous demandions essentiellement aux logiciels de présenter des informations ou d’exécuter des commandes. Les agents peuvent désormais envisager une succession d’actions pour atteindre un objectif. Dans un établissement de santé, on peut imaginer des agents capables de préparer un dossier de consultation, (c’est souvent une tâche laborieuse et chronophage demandée aux secrétaires ou pire à des soignants) de vérifier la présence d’examens, de proposer une programmation ou de faciliter la coordination d’un parcours. Je distinguerais toutefois trois niveaux : l’agent qui informe, celui qui propose et celui qui agit. Plus nous avançons vers l’action autonome, plus les exigences de sécurité, de traçabilité et de contrôle doivent augmenter. Une action administrative réversible n’a pas les mêmes conséquences qu’une modification de prescription ou qu’une décision d’orientation médicale. Je suis favorable à une autonomie progressive, proportionnée aux risques, avec des mécanismes explicites de validation humaine car l’autonomisation de la machine ne doit jamais signifier l’abandon de la responsabilité humaine. Comment démontrer qu’une IA améliore réellement les soins ? Nous avons parfois tendance à évaluer les innovations numériques comme si elles étaient uniquement des performances informatiques. On mesure la précision d’un algorithme, sa sensibilité, sa spécificité ou sa vitesse de traitement. Ces indicateurs sont indispensables, mais ils ne suffisent pas à démontrer une amélioration des soins. Il faut aller plus loin et mesurer les conséquences réelles de son utilisation : les erreurs évitées, les délais réduits, les décisions améliorées, les hospitalisations potentiellement évitables, mais aussi la charge de travail des professionnels et l’expérience des patients. Je crois beaucoup à une approche inspirée des principes de la Value-Based Healthcare : la valeur produite doit être appréciée au regard des résultats obtenus pour les patients et des ressources mobilisées. Il faut également accepter qu’une innovation ne produise pas les bénéfices attendus. C’est précisément l’intérêt d’une évaluation indépendante et rigoureuse. Le véritable indicateur de réussite d’une IA médicale n’est pas son intelligence supposée, mais son impact démontré sur la santé. Comment s’assurer que le temps gagné grâce à l’IA bénéficie réellement aux patients ? C’est une question fondamentale, et peut-être même une question politique au sens noble du terme. Nous pourrions parfaitement imaginer une intelligence artificielle qui améliore la productivité des établissements sans améliorer les conditions de travail des soignants ni la qualité de la relation avec les patients. Le temps gagné pourrait être immédiatement absorbé par une augmentation de l’activité, de nouvelles obligations administratives ou de nouvelles exigences de reporting. Je crois donc qu’il faut penser simultanément la transformation technologique et la transformation organisationnelle. Lorsqu’un outil permet de réduire le temps consacré à une tâche, il faut définir collectivement comment ce gain sera utilisé : davantage de temps clinique, une meilleure coordination, une diminution de la charge cognitive ou une amélioration des conditions de travail. La technologie ne décide pas de la destination des gains de productivité. Ce sont les organisations et leurs dirigeants qui le font. L’IA nous fera peut-être gagner du temps. Mais c’est à nous de décider ce que nous voulons faire de ce temps. Quelle formation proposer aux professionnels de santé ? Nous devons former les professionnels de santé à l’intelligence artificielle, mais certainement pas avec l’ambition de transformer tous les médecins en informaticiens ou en spécialistes des algorithmes. Il me paraît essentiel qu’ils comprennent les principes de fonctionnement des outils, leurs domaines de validité, leurs limites et les risques liés à leur utilisation. Cela suppose notamment de savoir reconnaître une hallucination, identifier une information insuffisamment documentée, comprendre les biais possibles et conserver une capacité d’analyse indépendante. Mais il faut aussi préserver, et probablement renforcer, certaines compétences proprement médicales : le raisonnement clinique, la sémiologie, l’écoute, la capacité à hiérarchiser les informations et l’aptitude à décider dans l’incertitude. J’ajouterais une dimension souvent négligée : la formation des dirigeants hospitaliers. L’IA transforme les métiers, les organisations et les responsabilités. Elle ne peut pas être considérée comme un simple sujet informatique. En revenants d’UN Himss aux USA en 2022, où j’avais vu les premiers impacts de l’IA générative, j’ai convaincu le DG dubitatif initialement de former tout le Codir à l’IAG. Ce fut un véritable succès, qui a permis d’enclencher une dynamique positive, portée par des directeurs désormais convaincus par les résultats concrets observés sur le terrain. Comment partager les responsabilités entre l’éditeur, l’établissement et le professionnel ? La responsabilité ne peut pas être concentrée sur un seul acteur, et encore moins être reportée systématiquement sur le médecin utilisateur. L’éditeur doit assumer la qualité, la sécurité et la conformité de ce qu’il développe. Il doit documenter les usages prévus, les limites du système, les conditions de fonctionnement et les risques identifiés. L’établissement doit, pour sa part, organiser le déploiement, former les professionnels, définir les conditions d’utilisation et assurer une surveillance des incidents. Enfin, le professionnel conserve une responsabilité propre dans l’exercice de son métier, dans les limites de son rôle et des moyens dont il dispose. Le cadre européen, notamment le règlement sur les dispositifs médicaux et le règlement sur l’intelligence artificielle, contribue à structurer ces obligations, selon la qualification et les usages des systèmes concernés. Mais au-delà du droit, je crois à une responsabilité partagée, explicite et organisée. On ne peut pas demander à un médecin de faire confiance à une IA si personne n’est capable d’expliquer précisément qui répond de son fonctionnement, on est dans un cadre d’éthique médicale, où le Bien doit être à la base des réflexions ; notamment à travers la Bienveillance, la Non-malfaisance, la Justesse-justice et la Transparence. Quelle place donner aux patients dans la conception et l’évaluation de ces outils ? Nous avons longtemps conçu les systèmes d’information de santé pour les professionnels, parfois pour les gestionnaires, mais insuffisamment pour les patients. C’est une erreur qu’il est aujourd’hui essentiel de corriger. Le patient doit être pleinement associé à la conception des outils numériques en santé, en particulier lorsqu’ils touchent à son parcours de soins, à son information ou aux décisions qui concernent sa santé. Nous disposons pour cela d’une ressource précieuse : les patients experts, dont l’expérience et le regard sont indispensables pour développer des solutions réellement adaptées aux besoins des utilisateurs. Cette démarche a notamment été mise en œuvre à Lille dans le cadre du projet Brain Motion, dédié à la rééducation des patients atteints de sclérose en plaques (SEP). Un exemple concret de ce que peut apporter la co-construction avec les patients à une innovation en santé plus pertinente, plus utile et plus humaine. Il faut également lui expliquer simplement ce que fait l’intelligence artificielle : contribue-t-elle à organiser son rendez-vous, à analyser une image, à préparer une synthèse ou à assister une décision médicale ? La transparence est indispensable, mais elle ne doit pas se transformer en discours technique incompréhensible. Je crois surtout qu’il est essentiel de préserver la confiance, qui demeure le fondement de la relation de soin. Le patient doit avoir la certitude que la technologie est là pour améliorer sa prise en charge, éclairer les décisions médicales et renforcer la qualité des soins, jamais pour substituer une relation automatisée à la relation humaine. La technologie doit rester à sa juste place : celle d’un outil d’aide à la décision, au service du médecin, qui conserve pleinement son discernement, sa responsabilité et le dernier mot dans la décision médicale. Cette question me paraît rejoindre une préoccupation philosophique et éthique essentielle : le patient ne doit jamais devenir un simple objet de traitement algorithmique. Il demeure une personne, avec son histoire, ses préférences, ses émotions et son autonomie, c’est la base de la relation et du colloque singulier médical. Comment faire circuler les informations entre l’hôpital, la ville, la biologie et l’imagerie ? L’interopérabilité est un sujet ancien, mais elle demeure l’une des conditions fondamentales de la transformation numérique en santé. Nous avons construit des systèmes souvent performants à l’intérieur de leurs propres périmètres, mais qui communiquent encore imparfaitement entre eux même si les EAI ont bien fait avancer les choses. Or, un patient ne vit pas dans un logiciel. Il circule entre la médecine de ville, l’hôpital, les laboratoires, les centres d’imagerie et les structures médico-sociales. Les standards comme HL7, FHIR, DICOM ou les terminologies médicales communes constituent des leviers essentiels. Mais l’interopérabilité ne se réduit pas à la capacité technique de transmettre un message. Il faut aussi que les informations soient comprises de la même manière, qu’elles soient pertinentes, actualisées et accessibles aux professionnels autorisés. Je crois à une approche dans laquelle les éditeurs doivent pouvoir se différencier par la qualité de leurs services, et non par leur capacité à enfermer les données dans des environnements propriétaires : la donnée de santé doit suivre le parcours du patient, et non les frontières des logiciels. Quelles garanties attendez-vous en matière de souveraineté numérique ? La souveraineté numérique est devenue un enjeu stratégique pour notre système de santé, mais je crois qu’il faut dépasser les slogans. La question n’est pas seulement de savoir où sont hébergées les données. Il faut aussi examiner qui contrôle les infrastructures, quelles législations peuvent s’appliquer, comment les données sont utilisées et dans quelle mesure nous dépendons de fournisseurs technologiques. Avec l’intelligence artificielle, de nouvelles questions apparaissent : les données de santé servent-elles à entraîner les modèles ? D’où viennent-ils ? Pouvons-nous changer de fournisseur ? Sommes-nous capables d’auditer les traitements et de garantir leur confidentialité ? Je pense qu’une souveraineté pragmatique, fondée sur des garanties vérifiables : maîtrise des données, conformité réglementaire, sécurité, réversibilité, transparence contractuelle et limitation des dépendances critiques doit être l’objectif de tous. Il ne s’agit pas de refuser les innovations internationales, mais de conserver notre liberté de choix : la souveraineté ne consiste pas à tout produire soi-même. Elle consiste à ne pas perdre la maîtrise de ce dont on dépend. Comment faire bénéficier les petits établissements des mêmes avancées que les grandes structures ? C’est un sujet qui me tient particulièrement à cœur, car je connais les contraintes des établissements de santé qui ne disposent ni des moyens financiers ni des équipes techniques des grands centres hospitaliers universitaires. Je me souviens avec été interne dans ces hôpitaux qui déjà disposaient de peu de moyens. Nous devons éviter que l’intelligence artificielle ne crée une nouvelle fracture numérique entre établissements : ceux qui pourraient se l’offrir et les autres. La mutualisation constitue une première réponse : plateformes partagées, services industrialisés, référentiels communs et évaluations collectives. Les éditeurs jouent également un rôle majeur. Ils peuvent rendre accessibles des innovations complexes en les intégrant directement dans les logiciels utilisés quotidiennement par les professionnels. Il faut enfin réfléchir aux modèles économiques. Une innovation qui exige des investissements considérables en infrastructure, en compétences et en maintenance restera inaccessible à de nombreux établissements. Je suis convaincu que la démocratisation de l’IA en santé passera moins par la multiplication de projets expérimentaux isolés que par l’intégration progressive de fonctionnalités éprouvées dans les outils existants. L’IA peut-elle aider notre système à intervenir plus tôt, avant la maladie ou ses complications ? Autrement dit l’IA peut être nous aider à faire une vraie politique de prévention ? Notre système de santé reste très largement organisé autour de la prise en charge de la maladie déclarée, alors qu’une partie de ses enjeux futurs réside dans la prévention et l’anticipation. Les parcours de soins seraient un bon axe de démarrage dans ce cadre. L’intelligence artificielle pourrait contribuer à accompagner cette logique en identifiant plus précocement certains risques, à partir d’informations cliniques, biologiques et longitudinales tout au long su suivi notamment des pathologies chroniques. Je pense notamment aux maladies chroniques, comme le diabète, l’insuffisance cardiaque, respiratoire, ou les maladies rénales ou inflammatoires, pour lesquelles une rupture de suivi ou une évolution biologique défavorable peut précéder une complication. Tout ceci est tout à fait possible si on accepte de lancer l’ide de forfaits de suivis pilotés par l’IA et des structures habituées à suivre les parcours patients (Mutuelles par exemple). Dans la santé des jeunes, comment articuler numérique, éducation et accompagnement humain ? Les jeunes générations grandissent dans un environnement où l’information médicale est immédiatement accessible, mais où sa qualité est extrêmement variable. Avec l’intelligence artificielle générative qu’ils connaissent déjà très bien, cette situation prend une dimension nouvelle. Il devient possible d’obtenir une réponse instantanée, personnalisée et convaincante à presque toutes les questions de santé. C’est une opportunité pédagogique considérable, mais aussi un risque si cette réponse est prise pour une vérité médicale. Je crois que nous devons développer une véritable éducation à l’information de santé, qui associe connaissances scientifiques, compréhension des outils numériques et apprentissage de l’esprit critique. L’IA pourrait devenir un accompagnateur pédagogique intéressant, à condition d’être adaptée à l’âge, aux besoins et à la vulnérabilité des jeunes, et de préserver la place des parents, des enseignants et des professionnels de santé. Mais attention :  l’éducation ne consiste pas simplement à transmettre des réponses, mais à développer la capacité de jugement. Une IA utile à la santé des jeunes devrait les rendre progressivement plus autonomes, et non plus dépendants de ses réponses. Quel modèle de financement permettrait de soutenir les innovations réellement utiles ? Nous devons probablement faire évoluer notre manière de financer l’innovation numérique en santé. Aujourd’hui, nous raisonnons encore trop souvent en coût d’acquisition, en budget de projet ou en investissement technologique, sans toujours prendre en compte l’ensemble des coûts et des bénéfices. Une innovation doit être évaluée sur son cycle de vie : développement, intégration, formation, conduite du changement, maintenance, cybersécurité, évaluation et évolution. Mais il faut également s’intéresser à la valeur qu’elle produit : amélioration des résultats de santé, diminution des complications, réduction des tâches inutiles, amélioration des conditions de travail et efficience organisationnelle : ROI et création de valeur, pas que financière, mais aussi de QVT, de baisse de pression mentale, de gain de temps… Je serais favorable à des mécanismes de financement associant une phase d’expérimentation rigoureuse, une évaluation indépendante et un déploiement progressif lorsque les bénéfices sont démontrés. Il faudrait également éviter que chaque établissement finance isolément les mêmes expérimentations. Si je devais demander une évolution prioritaire aux pouvoirs publics, ce serait de mieux articuler financement, évaluation et diffusion des innovations, avec des dispositifs pérennes plutôt qu’une succession d’appels à projets. Nous devons apprendre à financer non seulement l’innovation, mais aussi la preuve de son utilité et les conditions de son adoption. Le problème n’est pas uniquement de savoir combien coûte une innovation. C’est aussi de savoir combien coûte le fait de ne pas adopter une innovation réellement utile. Dans dix ans, quel changement vous ferait dire que l’intégration de l’IA en santé a été une réussite ? Je vais peut-être vous surprendre, mais j’aimerais que, dans dix ans, nous parlions beaucoup moins d’intelligence artificielle dans les hôpitaux. Non pas parce qu’elle aurait disparu, mais parce qu’elle serait devenue une composante naturelle, fiable et discrète de notre environnement de travail. J’aimerais voir un professionnel de santé qui n’a plus besoin de consacrer une partie importante de son temps avec un patinet à rechercher des informations dans un dossier ou à documenter des tâches administratives. J’aimerais voir un patient qui n’a plus à répéter son histoire médicale à chaque étape de son parcours, et dont les professionnels disposent des informations pertinentes au bon moment. J’aimerais également que les outils puissent contribuer à prévenir certaines complications, faciliter les décisions et améliorer la coordination des soins. Mais surtout, j’aimerais que le temps gagné se traduise par davantage d’écoute, de dialogue et d’attention. Nous avons parfois présenté le progrès technologique comme une course à la performance. Je crois qu’en médecine, le véritable progrès se mesure aussi à la qualité de la relation humaine. Si, dans dix ans, les patients ont le sentiment d’être mieux écoutés et les soignants celui de pouvoir mieux exercer leur métier, alors nous pourrons dire que l’intelligence artificielle a véritablement réussi son entrée dans le système de santé. Pour terminer, je pose toujours a nos invités cette même dernière question : y a-t-il un livre qui changé votre regard sur la médecine, la technologie ou l’action collective ? Je citerais La Peste, d’Albert Camus. Ce n’est évidemment pas un ouvrage consacré à l’intelligence artificielle ou aux technologies médicales. Mais c’est un livre qui nous interroge profondément sur la médecine, la responsabilité individuelle et l’action collective. Ce qui me touche particulièrement dans le personnage du docteur Rieux, c’est sa manière d’agir. Il ne prétend pas posséder toutes les réponses, il ne recherche pas l’héroïsme et il ne s’abrite pas derrière de grandes certitudes. Il fait simplement ce qu’il considère comme son devoir, avec lucidité et persévérance. Je retrouve dans cette attitude quelque chose d’essentiel pour notre époque. Face à l’intelligence artificielle, nous pouvons être tentés par deux attitudes excessives : la fascination pour une technologie qui résoudrait tous nos problèmes, ou la peur d’une technologie qui menacerait notre humanité. Je crois qu’il faut choisir une troisième voie, celle de la responsabilité, de l’action éclairée et du discernement. Camus nous rappelle aussi que l’action collective est indispensable face à des problèmes qui dépassent les individus. C’est une conviction qui a accompagné ma vie professionnelle : aucune transformation importante d’un établissement de santé ne peut réussir durablement sans intelligence collective, sans confiance et sans engagement des équipes. Finalement, la question essentielle n’est peut-être pas de savoir jusqu’où ira l’intelligence artificielle, mais ce que nous choisirons collectivement d’en faire. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Léa Behr est CEO de RespublicIA et membre de la Commission Santé du Laboratoire de la République. Rendez-vous mardi 27 octobre pour la prochaine note « Les mardis de l’innovation en santé »

La santé s’impose comme une préoccupation majeure des Français. Parmi les 18 enjeux pour l’avenir qui leur sont proposés, 51 % la considèrent comme « très importante » et 84 % comme « très » ou « assez importante », selon le dernier Baromètre de la République Ipsos BVA-CESI pour le Laboratoire de la République. Pourtant, à l’approche de l’élection présidentielle, le contraste est saisissant : omniprésente dans la vie et les préoccupations des Français, la santé peine encore à trouver dans le débat public la place qu’ils lui accordent. À l’heure où l’Assemblée nationale s’apprête à examiner le dernier projet de loi de financement de la Sécurité sociale de ce quinquennat, un constat s’impose : notre organisation ne répond plus aux attentes de ceux qu’elle est censée servir. En matière de santé, la France a décentralisé les problèmes, mais pas le pouvoir de les résoudre. Les difficultés se vivent dans les territoires ; les citoyens se tournent vers leurs élus locaux ; mais l’essentiel des décisions et des moyens reste piloté depuis le niveau national. C’est cette contradiction qu’il faut désormais résoudre. Les présidents de région, les maires et les élus locaux sont quotidiennement interpellés sur les déserts médicaux, les urgences, les maternités, la santé mentale ou l’accès aux spécialistes. Ils financent des maisons de santé, accompagnent l’installation de professionnels et investissent dans la formation ou la prévention. Mais ils ne disposent pas des principaux leviers permettant d’organiser l’offre de soins. Cette situation n’est plus tenable : L’ONDAM ne peut plus être seulement national. Chaque année, le Parlement vote l’Objectif national de dépenses d’assurance maladie, l’ONDAM. Cet instrument est indispensable : la solidarité financière doit rester nationale et le Parlement doit continuer à décider de l’effort que la Nation consacre à la santé. Mais pourquoi décider ensuite depuis Paris de l’essentiel de la répartition des moyens alors que les besoins diffèrent profondément entre les Hauts-de-France, l’Île-de-France, la Bretagne, la Corse ou les territoires ultramarins ? Nous proposons de franchir une étape nouvelle : décliner l’ONDAM en Objectifs régionaux de dépenses d’assurance maladie, les ORDAM. Il ne s’agirait surtout pas de créer treize systèmes d’assurance maladie. Les droits des patients, le panier de soins, les normes de qualité, les grandes règles conventionnelles et la solidarité resteraient nationaux. En revanche, chaque région disposerait d’une enveloppe pluriannuelle construite en fonction de ses besoins réels : âge de la population, état de santé, prévalence des maladies chroniques, précarité, densité médicale, mortalité évitable ou difficultés géographiques d’accès aux soins. C’est un changement considérable de philosophie : passer d’une égalité des règles à une équité dans l’allocation des moyens. Donner une vraie liberté d’arbitrage aux territoires Un ORDAM qui ne serait qu’une déclinaison comptable de l’ONDAM ne servirait à rien. Il faut donner aux régions une véritable marge de décision. Nous proposons qu’elles puissent réallouer une fraction significative de leur ORDAM (10 à 15 %) entre l’hôpital, la médecine de ville, le médico-social et la prévention. Pourquoi une région confrontée à une saturation des urgences ne pourrait-elle pas investir davantage dans la permanence des soins en ville ? Pourquoi un territoire vieillissant ne pourrait-il pas renforcer prioritairement le maintien à domicile ? Pourquoi une région particulièrement touchée par le diabète ou les maladies cardiovasculaires ne pourrait-elle pas consacrer davantage de moyens à la prévention ? Aujourd’hui, notre système finance encore trop souvent des structures et des enveloppes. Demain, il doit financer des objectifs de santé territoriaux. Cette autonomie aurait une contrepartie : la responsabilité. Les régions devraient publier leurs objectifs, leurs arbitrages et leurs résultats. Accès à un médecin traitant, délais pour certaines spécialités, recours évitable aux urgences, hospitalisations évitables, couverture vaccinale, indicateurs de prévention : les citoyens pourraient enfin mesurer l’efficacité de la politique de santé conduite dans leur territoire. Régionaliser n’est pas abandonner la solidarité nationale L’objection est connue : donner davantage de pouvoir aux régions risquerait d'accroître les inégalités entre territoires riches et pauvres. Ce risque existe. Il serait irresponsable de le nier. C’est précisément pourquoi les ORDAM doivent être indissociables d’une puissante péréquation nationale. Les ressources ne seraient pas distribuées en fonction de la richesse des régions, mais de leurs besoins sanitaires. Une région plus pauvre, plus âgée, davantage touchée par les maladies chroniques ou la désertification médicale doit pouvoir recevoir davantage par habitant qu’une région favorisée. La solidarité nationale ne disparaît donc pas avec la régionalisation. Elle en devient la condition. L’État conserverait par ailleurs des missions essentielles : sécurité sanitaire, définition des standards nationaux, garantie des droits, grandes stratégies de santé publique, évaluation et correction des inégalités entre régions. Un État moins gestionnaire ne signifie pas un État plus faible. Au contraire : l’État doit être fort sur ce qui garantit l’égalité et laisser les territoires être forts sur ce qui nécessite de l’adaptation. Faire de la prévention un investissement régional Les ORDAM permettraient également de résoudre l’une des anomalies historiques de notre système : la prévention est proclamée comme une priorité mais reste trop souvent une variable d’ajustement budgétaire. Nous proposons donc qu’un sous-objectif prévention indépendant soit identifié au sein de l’ONDAM et décliné dans chaque ORDAM. Les priorités ne seraient pas nécessairement identiques partout. Santé cardiovasculaire, obésité, santé mentale des jeunes, vaccination, santé environnementale, vieillissement : les régions doivent pouvoir concentrer leurs moyens sur leurs propres déterminants de santé. C'est précisément parce que les territoires ne sont pas identiques que l'égalité exige parfois de ne pas faire partout exactement la même chose. Expérimenter plutôt que promettre une nouvelle grande réforme La France a trop souvent réformé son système de santé par de grands textes nationaux appliqués simultanément partout. Nous proposons une autre méthode. Dès 2027, trois régions volontaires et aux profils différents pourraient expérimenter un ORDAM pluriannuel, assorti d’une capacité réelle de réallocation des dépenses et d’objectifs publics de santé. Pendant trois ans, nous mesurerions les résultats : accès aux soins, délais, recours aux urgences, prévention, attractivité médicale, qualité des parcours et maîtrise financière. Si cela fonctionne, généralisons. Si cela ne fonctionne pas, corrigeons. C’est aussi cela, faire confiance aux territoires : leur permettre d’expérimenter, mais leur demander de rendre compte. Passer de la décentralisation des problèmes à celle des solutions Depuis trop longtemps, la France pratique une étrange décentralisation : les difficultés sont locales, les citoyens interpellent leurs élus locaux, mais les principaux leviers restent nationaux. Nous devons sortir de cette contradiction. Le prochain acte de décentralisation doit concerner la santé. Non pour créer treize systèmes concurrents, mais pour construire une solidarité nationale assortie de treize capacités d’action territoriale. L’ONDAM doit rester le budget de la solidarité nationale. L’ORDAM doit devenir celui de la responsabilité territoriale. C’est en rapprochant à la fois la décision, le financement et la responsabilité que nous pourrons enfin adapter notre système de santé à la réalité des Français. David Smadja est professeur d’hématologie à l’AP-HP et à l’Université Paris Cité, responsable de la Commission Santé du Laboratoire de la République. Il est l’auteur de « La République de la prévention » aux éditions LEH. Xavier Bertrand est ancien ministre de la Santé et président de la région Hauts-de-France. Retrouvez la tribune de David Smadja et Xavier Bertrand sur le site du Point.