Intelligence artificielle et santé

Cette présentation est issue de la conférence donnée au centre Henri Becquerel à Rouen le 15 juin 2026

L’intelligence artificielle occupe aujourd’hui une place centrale dans les débats scientifiques, économiques et juridiques. Longtemps perçue comme un sujet de science-fiction, elle est désormais présente dans de nombreux aspects de notre vie quotidienne : moteurs de recherche, systèmes de recommandation, véhicules autonomes ou encore assistants conversationnels.

Toutefois, parmi tous les secteurs concernés, celui de la santé apparaît sans doute comme le domaine dans lequel les attentes sont les plus importantes.

Le Conseil d’État soulignait ainsi que « de tous les champs de l’action publique dans lesquels il est possible de recourir à l’intelligence artificielle, celui de la santé est peut-être celui qui suscite le plus d’espoir ».

Ces espoirs sont nombreux.

L’intelligence artificielle promet d’améliorer la qualité des diagnostics, de personnaliser davantage les traitements, d’accélérer la recherche médicale et de réduire certaines erreurs humaines.

En oncologie, par exemple, les systèmes d’aide à l’interprétation des images médicales permettent d’identifier certaines anomalies avec un niveau de précision parfois comparable à celui de spécialistes expérimentés. Dans le domaine de la chirurgie, les outils d’assistance robotisée contribuent à améliorer la précision des gestes médicaux.

L’intelligence artificielle apparaît également comme une réponse potentielle à plusieurs difficultés structurelles du système de santé : vieillissement de la population, augmentation des maladies chroniques, pénurie de professionnels de santé dans certains territoires et croissance continue des dépenses de santé.

Le législateur européen a compris l’enjeu et a visé la santé à l’article 1^er du Règlement :

« 1. Le présent règlement a pour objet d’améliorer le fonctionnement du marché intérieur et de promouvoir l’adoption d’une intelligence artificielle (IA) centrée sur l’homme et digne de confiance, tout en assurant un niveau élevé de protection de la santé, de la sécurité, des droits fondamentaux consacrés par la Charte, y compris la démocratie, l’État de droit et la protection de l’environnement, contre les effets néfastes des systèmes d’IA dans l’Union, et en soutenant l’innovation ».

Pour autant, ces promesses s’accompagnent de risques.

Peut-on faire confiance à une machine pour participer à une décision médicale ?

Qui est responsable lorsqu’un algorithme se trompe ?

Comment éviter que les biais présents dans les données utilisées pour entraîner les systèmes d’intelligence artificielle ne conduisent à des discriminations ?

Comment garantir que le patient reste au cœur de la décision médicale ?

Ces interrogations expliquent l’intervention du législateur européen avec l’adoption du règlement européen sur l’intelligence artificielle, plus connu sous le nom d’AI Act.

Ce texte repose sur une idée simple : l’intelligence artificielle n’est pas dangereuse par nature, mais certains usages peuvent présenter des risques importants pour les personnes. L’objectif est donc de construire un cadre de confiance permettant l’innovation tout en assurant la protection de la santé, de la sécurité et des droits fondamentaux.

Le point de départ de l’AI Act est particulièrement intéressant. L’Union européenne a choisi d’encadrer les risques. Cependant, contrairement aux années 1990 et 2000 où l’objectif était de soutenir le développement de l’internet, le législateur cherche à trouver un équilibre et se montre donc moins enclin à soutenir l’innovation.

L’article premier du règlement précise ainsi que l’objectif est à la fois de promouvoir l’adoption d’une intelligence artificielle digne de confiance et de garantir un niveau élevé de protection de la santé, de la sécurité et des droits fondamentaux.

Cette double ambition révèle une recherche permanente d’équilibre. D’un côté, l’Europe souhaite demeurer compétitive dans la course mondiale à l’innovation technologique. De l’autre, elle entend préserver son modèle juridique fondé sur la protection de la personne humaine.

Cette logique se traduit par une classification des systèmes d’intelligence artificielle selon leurs niveaux de risque.

Certains usages sont totalement interdits.

D’autres sont considérés comme présentant un risque élevé et sont soumis à des obligations particulièrement strictes.

Enfin, les systèmes présentant des risques plus limités sont soumis à des obligations allégées.

Cette approche est particulièrement adaptée au secteur médical car les conséquences d’une erreur peuvent être extrêmement graves. Une erreur de recommandation musicale peut être anodine. Une erreur de diagnostic médical peut avoir des conséquences irréversibles.

Le législateur européen a donc choisi de renforcer les exigences dès lors que la santé des personnes est susceptible d’être affectée.

L’article 5 du règlement repose sur l’idée que certaines applications de l’IA présentent un niveau de danger si élevé pour la dignité humaine, la liberté individuelle ou les droits fondamentaux qu’elles ne peuvent être admises, même sous réserve d’un encadrement strict.

Parmi ces pratiques interdites figurent d’abord les systèmes utilisant des techniques subliminales ou manipulatrices destinées à altérer de manière significative le comportement d’une personne en l’amenant à prendre une décision qu’elle n’aurait pas prise autrement.

L’article 5 interdit également les systèmes exploitant les vulnérabilités particulières d’une personne ou d’un groupe de personnes en raison notamment de leur âge, de leur handicap ou de leur situation sociale ou économique. Cette disposition présente un intérêt particulier dans le domaine de la santé, où les patients se trouvent souvent dans une situation de fragilité physique ou psychologique. Il serait par exemple contraire au règlement qu’un système d’IA profite de l’état de dépendance ou de vulnérabilité d’un patient pour orienter ses choix médicaux ou son comportement. Dans ses lignes directrices du 4 février 2025, la Commission Européenne a retenu que l’interdiction relative à la pratique de manipulation et de tromperie vise particulièrement l’hypothèse d’un assistant médical basé sur l’IA qui cherche à inciter à acheter des produits permettant des bienfaits irréalistes pour la santé. Cela protège la santé des patients et cherche à protéger leurs finances contre toute tentation déraisonnable.

Le texte prohibe également certaines formes de notation sociale des individus. L’idée est d’éviter que des personnes soient évaluées ou classées par des systèmes automatisés sur la base de leurs comportements ou de caractéristiques personnelles, avec des conséquences défavorables disproportionnées.

Le règlement interdit en outre plusieurs usages liés à l’identification biométrique et à la reconnaissance des émotions lorsqu’ils portent atteinte aux libertés fondamentales. Certaines techniques permettant de déduire les émotions d’une personne dans un contexte professionnel ou éducatif sont ainsi prohibées, sauf exceptions limitées liées notamment à des motifs médicaux ou de sécurité. La Commission Européenne a ainsi retenu que la reconnaissance des émotions peut être déployée pour aider les employés ou les étudiants atteints d’autisme et d’améliorer l’accessibilité pour les personnes aveugles et sourdes.

Enfin, le législateur européen interdit les systèmes d’évaluation du risque qu’une personne commette une infraction pénale lorsqu’ils reposent uniquement sur un profilage ou sur des caractéristiques personnelles.

Le règlement sur l’IA a adopté une approche fondée sur les risques et a distingué entre :

• Le risque minimal ou nul : pas de règlementation
• Le risque limité ou modéré : inclut les IA interactives type Chatgpt ou Mistral. Cela inclut les systèmes d’IA de tri des e-mails dans le secteur médical, ou de prise de rendez-vous, ou encore les IA permettant d’aider dans les tâches administratives comme la réalisation de comptes rendus médicaux ou encore une reformulation d’informations pour les patients afin d’améliorer la communication
• Le haut risque : sont qualifiées d’IA à haut risque celles visées par renvoi aux annexes. Sont visées notamment les IA relatives aux dispositifs médicaux. Cela inclut les IA permettant d’établir un diagnostic, l’interprétation des résultats biologiques, les appareils de télémédecine, les IA attribuant les ressources limitées notamment en cas de pandémie, l’attribution de prestations sociales, le système de tri des appels et des patients. En revanche, les IA évaluant les traitements médicaux ou à fins de recherche médicale ne sont pas inclus.

Le Règlement sur l’IA ne se substitue pas au RGPD mais vient en complément. Les dispositions du RGPD doivent donc être respectées.

Attention : dans le secteur médical, les données de santé constituent des données sensibles qui ne peuvent par principe être collectées sauf motif de recherche, motif légitime pour les soins (ou encore si la personne donne son consentement, ce qui constitue souvent un motif irrecevable en matière de santé) ou d’intérêt public.

Lorsque les données sont traitées, le responsable de traitement doit être transparent sur l’usage qui en est fait.

Pour les IA à haut risque il est obligatoire de procéder à une évaluation de la disponibilité, de la quantité et de l’adéquation des jeux de données nécessaires, à un examen des biais lorsqu’ils atteignent la santé et la sécurité des personnes.

Si un rapport médical est téléversé dans une IA, qu’il permet d’identifier un patient sans base légale ni garantie alors il peut y avoir une violation du secret médical. Il convient d’anonymiser.

On peut recourir à un apprentissage fédéré. Il s’agit d’un mécanisme permettant d’entraîner un modèle d’IA sans mise en commun des données respectives. Les entités impliquées envoient les modèles appris sur leurs données locales à un centre orchestrateur afin de consolider le modèle global. Cela assure la confidentialité des données et respecte le principe de privacy by design.

Lorsque les données sont traitées le médecin doit être attentif aux biais. Imaginons un système entraîné principalement sur des données provenant d’hommes européens âgés de 40 à 60 ans. Les performances du système pourraient être moins bonnes pour les femmes, les personnes âgées ou certaines populations minoritaires. Un tel biais pourrait conduire à des erreurs de diagnostic ou à des traitements moins adaptés. Les données doivent être pertinentes, représentatives, aussi complètes que possible et adaptées à la finalité poursuivie.

Il est nécessaire, pour le développeur de l’IA à haut risque, de rédiger une analyse d’impact et une notice incluant les enjeux de l’utilisation, de prévoir un système de gestion des risques (identification, évaluation, maitrise, mise à jour régulière), la journalisation des événements (afin d’assurer l’auditabilité), les choix de conception pertinents pour les IA à haut risques et de préparer une documentation technique avant la mise sur le marché. L’objectif est d’informer les déployeurs. Les fournisseurs doivent donc élaborer une documentation technique détaillée permettant de comprendre le fonctionnement du système.

Il est nécessaire de prévoir un contrôle humain. L’humain doit pouvoir interrompre, désactiver ou corriger les décisions de l’IA (notamment pour éviter les atteintes aux droits fondamentaux).

Une fois mise sur le marché, l’IA est soumise à un régime d’amélioration continue.

Le développeur de l’IA médical pourrait engager sa responsabilité si l’IA est défectueuse conformément à la directive relative aux produits défectueux. Le développeur de l’IA engagera sa responsabilité si l’IA n’assure pas le niveau de sécurité attendu. Le risque de développement viendra limiter sans doute la responsabilité du créateur de l’IA.

Le patient et le médecin ne sont pas remplacés par l’IA dans la prise de décision médicale.

Le Conseil national de l’Ordre des médecins a adopté une position particulièrement claire : l’intelligence artificielle doit être une aide à la décision. Elle ne doit jamais devenir un substitut à la décision médicale. Cette distinction est fondamentale. Le médecin demeure le principal acteur de la prise en charge. L’algorithme fournit des informations, des recommandations ou des probabilités. Mais il ne décide pas. Le Conseil national de l’ordre des médecins a rappelé que l’IA ne doit pas se substituer à la décision médicale partagée entre le médecin et le patient. Le médecin doit pouvoir s’affranchir de l’IA.

Cette approche est conforme au principe d’indépendance professionnelle consacré par le Code de déontologie médicale. Le médecin ne peut aliéner son indépendance, même au profit d’un système réputé particulièrement performant. Le regard critique du praticien demeure donc indispensable. Il devra se former en conséquence. Son établissement de santé pourrait engager sa responsabilité si les médecins ne sont pas suffisamment formés.

L’information du patient constitue aujourd’hui un principe fondamental du droit médical. La loi bioéthique du 4 août 2021 a introduit un nouvel article L. 4001-3 du Code de la santé qui dispose :

« I.-Le professionnel de santé qui décide d’utiliser, pour un acte de prévention, de diagnostic ou de soin, un dispositif médical comportant un traitement de données algorithmique dont l’apprentissage a été réalisé à partir de données massives s’assure que la personne concernée en a été informée et qu’elle est, le cas échéant, avertie de l’interprétation qui en résulte ».

Il faut donc informer les patients en amont de l’utilisation d’une IA. Le patient doit savoir si une IA intervient dans son diagnostic ou dans son traitement. Il doit comprendre les raisons de cette utilisation. Il doit également être informé des bénéfices attendus et des limites éventuelles du système.

Le patient doit pouvoir s’opposer à l’utilisation d’une IA conformément à l’article L. 1111-4 du Code de la santé publique qui dispose :

« Toute personne prend, avec le professionnel de santé et compte tenu des informations et des préconisations qu’il lui fournit, les décisions concernant sa santé.

Toute personne a le droit de refuser ou de ne pas recevoir un traitement. Le suivi du malade reste cependant assuré par le médecin, notamment son accompagnement palliatif.

Le médecin a l’obligation de respecter la volonté de la personne après l’avoir informée des conséquences de ses choix et de leur gravité. Si, par sa volonté de refuser ou d’interrompre tout traitement, la personne met sa vie en danger, elle doit réitérer sa décision dans un délai raisonnable. Elle peut faire appel à un autre membre du corps médical. L’ensemble de la procédure est inscrite dans le dossier médical du patient. Le médecin sauvegarde la dignité du mourant et assure la qualité de sa fin de vie en dispensant l’accompagnement et les soins palliatifs mentionnés à l’article L. 1110-10.

Aucun acte médical ni aucun traitement ne peut être pratiqué sans le consentement libre et éclairé de la personne et ce consentement peut être retiré à tout moment.

Lorsque la personne est hors d’état d’exprimer sa volonté, aucune intervention ou investigation ne peut être réalisée, sauf urgence ou impossibilité, sans que la personne de confiance prévue à l’article L. 1111-6, ou la famille, ou à défaut, un de ses proches ait été consulté ».

Que se passe-t-il lorsqu’une erreur médicale est liée à l’utilisation d’une intelligence artificielle ?

Plusieurs acteurs peuvent être impliqués :

• le fournisseur du système ;
• l’établissement de santé si le personnel n’est pas suffisamment formé à l’IA ;
• le professionnel utilisateur

Cependant, l’utilisation d’une IA n’entraîne pas une disparition de la responsabilité médicale. Le médecin demeure responsable de ses décisions. Il pourrait engager sa responsabilité si l’IA cause la mort d’un humain sur le fondement des dispositions relatives à l’homicide, mais cela ne change pas véritablement par rapport à tout homicide causé par n’importe quelle chose.

Le sujet sera plutôt de savoir si le médecin peut engager sa responsabilité si une IA cause la mort ou une incapacité de travail en cas de maladresse, imprudence, inattention, négligence ou manquement à une obligation de prudence ou de sécurité imposée par la loi ou le règlement dans l’utilisation de l’IA. L’infraction pourra être constituée dès lors qu’un robot fonctionnant avec une IA touche un patient ou lorsque l’utilisation de l’IA a été le paramètre déterminant du préjudice.

Une mauvaise utilisation d’une IA pourrait donc entraîner la responsabilité du médecin. Il pourrait être envisagé que ne pas utiliser une IA pourrait ne pas correspondre aux standards les plus élevés et par conséquent cela entraînera la responsabilité du médecin.

S’il suit aveuglément une recommandation manifestement erronée produite par un système d’intelligence artificielle, sa responsabilité pourrait être engagée. Le juge pourrait condamner l’absence d’esprit critique face à la proposition de l’IA, l’absence de vérification d’un diagnostic, voire l’absence d’utilisation d’une IA ou de l’utilisation incorrecte d’une IA.

À l’inverse, la responsabilité du fournisseur pourrait être recherchée en présence d’un défaut de conception ou d’une défaillance technique du système.

L’enjeu pour les années à venir sera de déterminer avec précision la répartition des responsabilités entre ces différents acteurs.

Enfin, lorsqu’un aléa thérapeutique se vérifie, le régime de l’article L. 1142-1 s’appliquera et la solidarité nationale indemnisera.

Le cabinet reste à votre disposition pour toute question concernant l’IA.