Vom Werkzeug zum Teammitglied – wie KI die Teamarbeit im Gesundheitswesen verändert

Künstliche Intelligenz (KI) verändert nicht nur die Art und Weise, wie wir arbeiten, sondern auch die Zusammenarbeit im Team. Doch wie lässt sich KI als Teammitglied etablieren, ohne menschliche Stärken zu untergraben oder Belastungen zu erhöhen? Ein Forschungsteam unter der Leitung von Nadine Bienefeld (ETH Zürich) hat in sechs Studien mit über 1100 Personen aus dem Gesundheitswesen – darunter Pflegefachkräfte, Ärzteschaft, Datenwissenschaftler:innen, KI-Entwickler:innen und Medizinstudierende – untersucht, unter welchen Bedingungen KI als Teammitglied sinnvoll integriert werden kann. Der Fokus der Studie lag auf Intensivstationen, um die Chancen und Risiken einer Zusammenarbeit zwischen Mensch und KI in einem besonders komplexen Umfeld besser verstehen zu können.

Die wichtigsten Erkenntnisse

Die Integration von KI beeinflusst nicht nur die Mensch-Maschine-Zusammenarbeit, sondern verändert auch Interaktionen unter den Mitarbeitenden – zum Beispiel, dass durch die Integration von Wissen durch KI die Entwicklung neuer Hypothesen und die Bereitschaft, Bedenken zu äussern («Speaking up») gefördert werden können. Im Gegensatz dazu führte der Informationsaustausch mit menschlichen Kolleg:innen tendenziell dazu, dass weniger neue Ideen entwickelt wurden, vermutlich aufgrund sozialer Faktoren wie Gruppendenken oder bestehenden Hierarchien. Die KI kann demnach als eine Art sozialer Katalysator wirken, der etablierte Denkmuster aufbricht.

Ebenso aufschlussreich war der massive Unterschied in der Wahrnehmung von «Erklärbarkeit» zwischen KI-Entwickler:innen und medizinischen Fachkräften. Während Entwickler:innen davon ausgingen, Anwender:innen wollten die Funktionsweise des Modells verstehen (Modell-Interpretierbarkeit), benötigten die Mediziner:innen tatsächlich nur die nachvollziehbare Einbettung der KI-Ergebnisse in den klinischen Kontext der Patient:innen (klinische Plausibilität). Technische Details waren für sie im klinischen Alltag nicht hilfreich.

Zudem wurde das gängige Narrativ widerlegt, dass Kliniker:innen aus Angst vor Kontrollverlust weniger Automatisierung wünschen. Das Gegenteil ist der Fall: Für Routineaufgaben wie die Überwachung von Patientendaten befürworteten die medizinischen Fachkräfte sogar einen höheren Automatisierungsgrad als die Datenwissenschaftler:innen, da eine halb-automatisierte Lösung, die ständige menschliche Kontrolle erfordert, als ineffizient und unpraktikabel angesehen wird.

Bedeutung für Politik und Praxis

Für die erfolgreiche Einführung KI-gestützter Automatisierungs- und Entscheidungsunterstützungssysteme in Hochrisiko-Industrien wie der Medizin ist eine Berücksichtigung der Auswirkungen auf Teamdynamik, Führung und Arbeitsgestaltung zwingend notwendig. Konkret braucht es neue Führungsansätze sowie angepasste Entscheidungsleitlinien. Es braucht ausserdem Investitionen in Aus- und Weiterbildung: Bestehende und zukünftige Fachkräfte müssen nicht nur im Umgang mit der Technologie, sondern vor allem in einer neuen Form der «Teaming-Intelligenz» geschult werden. Dazu gehört die Fähigkeit, KI-generierte Informationen kritisch zu hinterfragen, sie mit eigenem Wissen zu kontextualisieren und die neuen Teamdynamiken aktiv mitzugestalten. Nur wenn Führungskräfte und Mitarbeitende gezielt auf Mensch-KI-Teams vorbereitet sind, kann diese Form der Zusammenarbeit ihr wertschöpfendes Potenzial entfalten.

Drei Hauptbotschaften

1. KI hat das Potenzial, die Arbeitszufriedenheit, die Motivation und das Wohlbefinden von Fachkräften im Gesundheitswesen zu steigern und den Fachkräftemangel zu lindern. Dies ist jedoch nur möglich, wenn neue Aufgaben, Rollen und Praktiken der Zusammenarbeit auf der Grundlage der sich ergänzenden Stärken und Schwächen von Menschen und KI entwickelt werden. Werden die optimalen Formen der Zusammenarbeit zwischen Mensch und KI nicht berücksichtigt, birgt dies erhebliche Sicherheits- und Leistungsrisiken. Dazu gehören übermässiges Vertrauen, Selbstgefälligkeit, eingeschränktes Situationsbewusstsein und der Verlust von Expertise. Richtlinien für die Praxis müssen somit klare Regelungen für Verantwortung und Kontrolle definieren, insbesondere in Situationen, in denen die KI zwar hochleistungsfähig, aber nicht vollständig interpretierbar und somit nicht wirklich kontrollierbar ist.
2. KI verändert, wie wir in Teams kommunizieren und Probleme lösen: Die Zusammenarbeit von Mensch und KI im Team kann nicht nur die Art und Weise beeinflussen, wie die Teammitglieder mit der KI interagieren, sondern auch untereinander. Wird KI als neutraler «Sparring-Partner» in die Wissensbasis des Teams eingebunden, fördert dies neue Ideen und den Austausch im Team. Ein KI-System kann also dazu beitragen, starre Hierarchien und negative Teamdynamiken wie «Confirmation Bias» und Gruppendenken aufzubrechen und die Teammitglieder zu ermutigen, alternative Perspektiven in Betracht zu ziehen sowie ihre Bedenken freier zu äussern.
3. Eine effektive Zusammenarbeit zwischen Mensch und KI erfordert neue übertechnische Kompetenzen («non-technical skills»). Medizinische und pflegerische Ausbildungsprogramme sowie die berufliche Weiterbildung an Spitälern sollten sich darauf konzentrieren, die Fähigkeit, mit einer KI zusammenzuarbeiten, als eine neue Schlüsselkompetenz zu entwickeln, z. B. wie man Vertrauen in KI richtig kalibriert (nicht zu viel und nicht zu wenig), mit KI und im Team kommuniziert und gemeinsame Entscheidungen trifft. Führungskräfte müssen lernen, wie sie diese neuen Formen der Zusammenarbeit zwischen Mensch und KI steuern können, insbesondere in Bezug auf den Verlust von Expertenwissen. Es geht nicht mehr nur um die Bedienung eines technischen Werkzeugs, sondern um die Orchestrierung eines gemischten Teams aus Menschen und intelligenten Maschinen.

Wie die Forschenden methodisch genau vorgegangen sind und weitere Hintergründe zum Forschungsprojekt finden Sie auf der NFP 77-Projektwebseite:

Weitere Forschungsprojekte zum Thema «Digitale Transformation» im Rahmen des Nationalen Forschungsprogrammes NFP 77 finden Sie hier: