Technik verstehen – Ethik gestalten: KI und Gesundheitsdaten im Klinikalltag

Das Projektteam führte Interviews mit Expert:innen und Patient:innen rund um den Einsatz von KI im Gesundheitswesen, analysierte internationale Richtlinien und entwickelte konkrete Handlungsempfehlungen zu Themen wie Einwilligung, Erklärbarkeit und Datensicherheit. Theoretische Beiträge behandelten unter anderem die Rolle von KI in der medizinischen Ausbildung und im Arzt-Patienten-Verhältnis. Zudem zeigte ein von der ETHZ entwickelter Algorithmus, dass KI die Sterblichkeitsprognose präziser vorhersagen kann als bisherige Modelle (ASA score).

Künstliche Intelligenz wird immer häufiger in der Medizin eingesetzt, um Ärzt:innen bei Entscheidungen zu unterstützen. Gleichzeitig wirft der klinische Einsatz von KI eine Reihe ethischer Fragen auf – etwa zur Einwilligung der Patient:innen, zur Erklärbarkeit der Systeme und zum Umgang mit Risiken. Das Projekt EXPLaiN ging diesen Herausforderungen nach.

1. Die Probleme bei der Datennutzung und Analyse verstehen: Dazu wurden Datenbanken in der Anästhesie und Kardiologie als Beispiel genommen.
2. Analyse des regulatorischen Rahmens: hierzu wurden die ethischen und rechtlichen Bestimmungen in der Schweiz und in Europa analysiert.
3. Erheben neuer Daten in der Schweiz zu Faktoren, die das Vertrauen von medizinischem Personal sowie Patientinnen und Patienten in digitale Technologien beeinflusst.

Spitäler und andere Institutionen sammeln grosse Mengen von mobilen Gesundheitsdaten. Dadurch aufgeworfene Bedenken können die Entwicklung nützlicher Technologien, von denen Patientinnen und Patienten profitieren würden, erheblich behindern. Das Projekt engagierte sich für eine Klärung der dringenden ethischen und rechtlichen Fragen. Indem die Bedenken von Patientinnen und Patienten erhoben und ernstgenommen werden, soll die Erklärbarkeit und Daten-Governance verbessert werden.

Ein zentrales Ergebnis des Projekts betrifft die Auswirkungen von KI auf die Arzt-Patienten-Beziehung. Die Forschung zeigt, dass KI nicht nur ein technisches Werkzeug ist, sondern das medizinische System grundlegend verändert.

Drei Hauptbotschaften

1. Patienteneinwilligung beim Einsatz von KI ist nach geltendem Schweizer Recht derzeit nicht erforderlich – es sei denn, der Einsatz geht über die klinische Entscheidungsunterstützung hinaus.
2. Einige Patient:innen befürchten, dass der Einsatz von KI ihre Mitbestimmung in medizinischen Entscheidungsprozessen einschränkt. Dieses Ergebnis zeigt, wie wichtig es ist, Patient:innen darüber aufzuklären, dass ihre aktive Beteiligung an gemeinsamen Entscheidungen auch bei KI-gestützten Verfahren notwendig und sinnvoll bleibt. Ärzt:innen tragen daher eine neue Verantwortung: Sie müssen nicht nur medizinische Inhalte erklären, sondern auch den Einsatz und die Rolle von KI im Gespräch mit Patient:innen transparent machen.
3. Die Weitergabe von Patientendaten an Computerwissenschaftler:innen kann zur Entwicklung präziserer Tools für die klinische Entscheidungsunterstützung beitragen.
   
   Einordnung:
   Mithilfe anonymisierter Daten aus der Anästhesiologie des Universitätsspitals Basel wurde ein Algorithmus zur Vorhersage der postoperativen Mortalität entwickelt. Basierend auf intraoperativen Daten wie Herzfrequenz und Blutdruck konnte der Algorithmus genauere Prognosen liefern als der etablierte ASA-Score. Diese Machbarkeitsstudie zeigt, dass solche Analysen das Potenzial haben, die Behandlungsergebnisse zu verbessern. Gleichzeitig stellen der Datenschutz – insbesondere fehlende Schulung von Datenverwalter:innen sowie unklare Verantwortlichkeiten – eine erhebliche Hürde für die breitere Nutzung solcher Daten dar.

Ethical and Legal issues of Mobile Health-Data – Improving understanding and eXPlainability of digitaL transformAtion and data technologies using artificial IntelligeNce [EXPLaiN]