Dans un rapport thématique sur l’intelligence artificielle (IA) en santé (dans le cadre de ses travaux « sur l’IA et l’avenir du service public »), la Délégation sénatoriale à la prospective formule quatre recommandations fondées sur la formation des professionnels, l’accès aux données secondaires, la construction d’un cadre éthique et du financement de la « course à l’IA ».
Les usages de l’IA (1) en santé sont déjà très variés – recherche, dépistage, fourniture d’information, aide à la décision, production documentaire – et leur potentiel de développement, avec une transformation des pratiques médicales au bénéfice des patients, est fort. Pour être accepté, son déploiement doit fixer deux objectifs, l’efficacité et l’éthique, ce qui signifie notamment que l’accès indispensable à des données nombreuses et fiables doit être solidement encadré.
Le rapport de la délégation n’a pas pour objectif de fournir une analyse exhaustive des technologies d’IA mises en œuvre dans le domaine de la santé mais d’identifier les différents scénarios de déploiement de l’IA, en s’appuyant sur les usages déjà existants ou ceux actuellement développés par des startups en lien avec des professionnels de santé. Il rejette un « techno-enthousiasme » excessif, considérant l’IA comme une solution miracle et négligeant les nombreuses adaptations qui seront nécessaires, mais ne tombe pas non plus dans un « techno-pessimisme » surestimant les difficultés et les risques.
Conclusions et Recommendations
Face à l’explosion des données, à la complexité des situations, dans un contexte de tensions budgétaires et de délais limités pour soigner les patients, le secteur de la santé est l’un de ceux qui pourraient le plus bénéficier des progrès. de l’IA.
Le potentiel de transformation des pratiques de soins de santé grâce à l’IA, au bénéfice des patients, est fort. Le caractère spectaculaire de l’IA générative a suscité un regain d’engouement pour l’IA, même si bon nombre des applications de l’IA en santé ne concernent pas l’IA générative (2) mais l’IA classique.
Il n’existe pas un modèle d’IA unifié mais bien plusieurs formes d’IA, pour lesquelles une première exigence réside dans la qualité des données d’entrée utilisées pour entraîner les modèles de machine learning et de deep learning. Les usages de l’IA en santé sont également très variés : recherche, dépistage, fourniture d’informations, aide à la décision, production documentaire.
La médecine a toujours intégré les meilleures connaissances et toutes les technologies disponibles pour améliorer la prise en charge des patients. Si l’IA est capable de résoudre des questions pratiques comme la lecture d’une radiographie, la synthèse d’articles scientifiques ou la modélisation 3D de protéines, elle sera sans aucun doute adoptée par ceux dont le travail quotidien sera ainsi facilité.
Mais cette adoption pourrait se faire à un rythme variable : certains y auront accès plus rapidement que d’autres, certaines barrières psychologiques ou financières créeront des réticences. Les inégalités en matière de santé pourraient s’accentuer si nous n’y prenons pas garde.
L’IA va également transformer la relation entre patients et médecins, comme l’a déjà fait la démocratisation de l’information médicale grâce à Internet. Mieux informés, les patients seront plus exigeants mais ils pourront aussi s’impliquer davantage dans les soins.
Enfin, l’IA pourrait transformer l’approche des soins, actuellement largement basée sur les soins curatifs. Avec l’IA et le développement du dépistage et des prédictions basées sur des données massives, nous allons évoluer vers une médecine plus personnalisée et davantage axée sur la prévention de l’apparition de maladies potentielles. Nous pourrions ainsi économiser sur les dépenses de santé en évitant des traitements curatifs coûteux. Mais on pourrait aussi multiplier les examens de contrôle et dériver vers une surveillance permanente et anxiogène.
Les économies de la santé et du numérique seront davantage imbriquées et la question de l’IA souveraine ne doit pas être négligée dans les politiques publiques nationales et européennes.
Quatre axes pour une IA en santé efficace et équitable
Développer une culture de l’IA en santé à travers la formation initiale et continue des soignants
Comme toute nouvelle technologie, sa bonne utilisation, voire son utilisation tout court, passe par une étape de manipulation par ses utilisateurs et bénéficiaires.
Si l’informatique contemporaine se caractérise par d’importants efforts de fluidité et un souci du caractère très intuitif des interfaces homme-machine, le fonctionnement de l’IA en santé doit être bien compris pour en bénéficier, mais aussi en mesurer les limites. La formation à l’IA devrait donc être intégrée aux cursus universitaires destinés aux médecins mais aussi aux professions paramédicales.
Pour adapter le personnel de santé déjà en poste, des efforts accrus de formation continue à l’utilisation des outils d’IA devraient également être envisagés.
Enfin, un nouveau métier d’opérateur d’IA en santé pourrait émerger, gérer la complexité et assurer la médiation entre les différents acteurs du système de santé : soignants, patients et producteurs de dispositifs médicaux numériques.
Accélérer l’accès des chercheurs et des startups aux données secondaires de santé
L’accès aux données est une condition essentielle pour pouvoir développer des solutions de haut niveau basées sur l’utilisation de l’IA. Cela est possible sans remettre fondamentalement en cause les grands principes de protection des données personnelles, en développant des méthodologies de référence (MR) dont le respect permet d’éviter des procédures d’autorisation plus lourdes.
Une part importante des délais d’accès ne résulte pas d’obstacles juridiques mais de contraintes techniques. Des normes d’interopérabilité facilitant les croisements devraient être adoptées par le plus grand nombre possible de producteurs de données de santé, et le rôle du Health Data Hub en tant que fédérateur des différentes bases de données devrait être renforcé.
Enfin, des contrats types pourraient lever les obstacles contractuels entre producteurs et utilisateurs de données, en définissant des normes de partage de valeur.
Construire un cadre éthique solide pour l’IA en santé
La confiance dans l’IA de la part de tous les acteurs de santé, patients et professionnels, est conditionnée au respect de principes éthiques garantissant le caractère fiable et non discriminatoire du fonctionnement de l’IA mise à disposition pour notre santé, la protection des données personnelles de santé, qui sont des données sensibles que nous ne souhaitons pas exposer en public, ou encore l’absence de délégation complète des décisions importantes à la machine. Les patients et les soignants doivent être capables de comprendre avec précision la portée et les limites de l’utilisation des solutions d’IA disponibles.
Les exigences éthiques doivent être intégrées dans les dispositifs d’IA dès leur conception (ethics by design) et les questions éthiques doivent également être intégrées dans la formation des soignants à l’IA.
Enfin, les exigences éthiques doivent trouver leur traduction juridique dans les textes et leur application concrète. Le caractère dissuasif des sanctions prévues par l’IA Act européen en cas de manquement des prestataires de services numériques à risque à leurs obligations (amende de 35 millions d’euros soit 7% du chiffre d’affaires) constitue une forte incitation à placer la barre élevé en matière d’éthique. Toutefois, les autorités nationales de contrôle (en France, la CNIL) auraient dû renforcer les moyens d’enquête et d’expertise pour que la menace de sanctions puisse produire pleinement son effet.
Pouvoir financer la « course à l’IA »
Dans le domaine de la santé comme dans d’autres domaines, l’IA connaît un essor qui se traduit par la multiplication des initiatives et des expérimentations. L’émergence de l’IA générative a stimulé les investissements et contribue à faire évoluer rapidement les technologies et leurs possibilités d’application.
Cette phase expérimentale assez abondante qui s’appuie sur une multitude d’acteurs pourrait être suivie d’une phase de stabilisation qui ne laisserait que quelques opérateurs sur le marché. Le rapport de la Commission sur l’Intelligence Artificielle de mars 2024 alerte sur le risque de rater le coche et, à terme, de dépendre des firmes américaines ou chinoises. Pour éviter un décrochage français et européen, il propose d’investir 5 milliards d’euros sur 5 ans. Une part importante de cette enveloppe devrait être consacrée à l’IA dans le domaine de la santé.
L’ambition d’un écosystème d’IA en santé peu dépendant des partenaires étrangers passe aussi par accélérer le projet de cloud sécurisé souverain, car nos données de santé, tout comme nos données de sécurité ou nos données fiscales, ne peuvent être soumises au risque de transmission à une puissance étrangère.
Enfin, la course à l’IA ne trouvera une issue concrète pour les patients que si, au-delà des investissements initiaux, un modèle économique est trouvé pour financer les nouveaux outils par une tarification adaptée. Il s’agit d’avoir des fonds au-delà de la phase de démarrage. De ce point de vue, une enveloppe dédiée au secteur hospitalier pourrait, sur le modèle des missions de financement d’intérêt général, favoriser l’acquisition et le maintien de solutions logicielles performantes.
L’IA ET L’AVENIR DU SERVICE PUBLIC, RAPPORT THÉMATIQUE #2 IA ET SANTÉ, Délégation de prospective, Sénat, mai 2024, Christian Redon-Sarrazy et Anne Ventalon, rapporteurs
(1) terme apparu en 1956 qui, dans son sens actuel, désigne un programme informatique (algorithme) basé sur l’apprentissage automatique, ou machine learning.
(2) Des modèles d’IA comme ChatGPT spécialisés dans la création de contenus originaux et réalistes, en réponse à une instruction formulée en langage naturel (le prompt). Le contenu peut être du texte, mais aussi du code informatique, un fichier Excel, une image (Dall-E, Midjourney), un fichier audio ou vidéo (Sora), etc.
