Compréhension technique – conception éthique : IA et données de santé en milieu clinique

L’équipe de projet a mené des entretiens sur l’utilisation de l’IA dans le secteur de la santé avec des expert·es et des patient·es, analysé les directives internationales et élaboré des recommandations concrètes sur des thèmes tels que le consentement, l’explicabilité et la sécurité des données. Elle a également apporté des contributions théoriques quant au rôle que l’IA pourrait jouer dans la formation médicale et la relation médecin-patient·e. Un algorithme développé par l’ETH Zurich a en outre montré que l’IA était capable d’établir des pronostics de mortalité plus précis que les modèles existants (score ASA).

Les médecins recourent de plus en plus fréquemment à l’intelligence artificielle pour prendre des décisions. L’utilisation clinique de l’IA soulève néanmoins de nombreuses questions éthiques, notamment en ce qui concerne le consentement des patient·es, l’explicabilité des systèmes utilisés et la gestion des risques. Le projet EXPLaiN s’est donc attaché à relever ces défis.

1. Comprendre les problèmes d’utilisation et d’analyse des données. Les bases de données en anesthésie et en cardiologie ont servi d’exemple.
2. Analyser le cadre réglementaire moyennant l’étude des dispositions éthiques et juridiques en place en Suisse et en Europe.
3. Recueillir en Suisse de nouvelles informations au sujet des facteurs influençant la confiance du personnel médical et des patient·es envers les technologies numériques.

Les hôpitaux et autres institutions saisissent de grands volumes de données mobiles sur la santé. Les inquiétudes engendrées par ces activités sont susceptibles d’entraver considérablement le développement de technologies utiles dont pourraient bénéficier les patient·es. Le projet visait à résoudre ces questions éthiques et juridiques urgentes. Le fait d’identifier et de prendre au sérieux les préoccupations des patient·es a permis d’améliorer l’explicabilité et la gouvernance des données.

L’un des principaux résultats du projet concerne les effets que l’IA exerce sur la relation médecin-patient·e. La recherche montre que l’IA n’est pas seulement un outil technique et qu’elle modifie fondamentalement le système médical.

Trois messages essentiels

1. Selon la législation suisse en vigueur, il n’est actuellement pas nécessaire de recueillir le consentement des personnes concernées lorsqu’il est recouru à l’IA – sauf si cette utilisation dépasse le cadre de l’aide à la décision clinique.
2. Certaines personnes craignent que l’utilisation de l’IA ne restreigne leur participation aux processus de décision médicaux. Ce résultat montre combien il est important d’expliquer aux patient·es qu’il reste nécessaire et utile qu’ils participent à la prise de décisions communes même lorsque les procédures sont assistées par l’IA. Les médecins doivent donc assumer une nouvelle responsabilité lorsqu’ils dialoguent avec leurs patient·es : expliquer les contenus médicaux, mais aussi rendre transparents l’utilisation et le rôle de l’IA.
3. Partager les données des patient·es avec des informaticien·nes peut contribuer au développement d’outils d’aide à la décision clinique plus précis.
   
   Catégorisation :
   Un algorithme de prédiction de la mortalité postopératoire a été développé au moyen de données anonymisées fournies par le service d’anesthésiologie de l’Hôpital universitaire de Bâle. Sur la base de données peropératoires telles que la fréquence cardiaque et la pression artérielle, l’algorithme a livré des pronostics plus précis que le score ASA établi. Cette étude de faisabilité montre que de telles analyses peuvent potentiellement améliorer les résultats des traitements. La protection des données – notamment le manque de formation des gestionnaires et le manque de définition des responsabilités – constitue parallèlement un frein majeur qui s’oppose à une plus large utilisation.

Ethical and Legal issues of Mobile Health-Data – Improving understanding and eXPlainability of digitaL transformAtion and data technologies using artificial IntelligeNce [EXPLaiN]