Künstliche Intelligenz als Teamkollege: Was braucht es, damit die Zusammenarbeit gelingt?

Wie verändert Künstliche Intelligenz (KI) Arbeitssysteme, Aufgaben, Rollen und die Zusammenarbeit in Teams? Das Forschungsteam nutzte für diese Untersuchungen das Gesundheitswesen, insbesondere Intensivstationen (ICUs), da diese einen optimalen Forschungskontext bieten – denn die Chancen und Risiken der Zusammenarbeit mit KI sind hier besonders hoch. In sechs Studien und mit über 1101 Pflegekräfte und Ärzt:innen, Datenwissenschaftler:innen, KI-Entwickler:innen und Medizinstudierenden kam das Team zur Erkenntnis, dass die Gestaltung zukünftiger Arbeitssysteme mit Einsatz von KI die Arbeitszufriedenheit und das Wohlbefinden der Beschäftigten verbessern kann, sofern sich die unterschiedlichen Stärken und Schwächen von Mensch und KI optimal ergänzen. Dies könnte dazu beitragen, den Mangel an qualifizierten Arbeitskräften zu mindern, zum Beispiel indem administrative Aufgaben reduziert oder die Problemlösefähigkeit gestärkt werden. Darüber hinaus stellte das Forschungsteam fest, dass der Einsatz von KI nicht nur die Mensch-Maschine-Zusammenarbeit beeinflusst, sondern auch grundlegende menschliche Teamprozesse wie den Austausch von Wissen, die Art der Kommunikation und das Problemlöseverhalten verändert. Die Ergebnisse haben wichtige praktische Implikationen, darunter die Entwicklung neuer Ansätze für Teamzusammenarbeit und Führung in Mensch-KI Teams sowie Entscheidungsleitlinien zur Implementierung von KI in Hochrisikobereichen wie der Aviatik oder Finanzwirtschaft.

Die zunehmende Integration von KI in Arbeitssysteme verändert die Arbeitswelt grundlegend. KI-gestützte Automatisierung von Aufgaben und Prozessen haben das Potenzial, die Produktivität zu steigern, Entscheidungsprozesse zu verbessern und den Mangel an qualifizierten Arbeitskräften zu bewältigen. Allerdings kann nicht davon ausgegangen werden, dass KI automatisch die menschliche Leistung steigert, da schlecht gestaltete Systeme zusätzliche Belastungen für die Beschäftigten verursachen und die erfolgreiche Einführung solcher Systeme erschweren können. Ein tiefgehendes Verständnis darüber, wie KI Arbeitsbedingungen effektiv verbessern und Menschen effizient mit KI zusammenarbeiten können, ist daher notwendig.

Ziel dieses Projektes war, das Verständnis für erfolgreiche Mensch-KI-Zusammenarbeit in komplexen, risikoreichen Systemen zu erweitern. Durch sechs Studien, die sowohl quantitative als auch qualitative Methoden anwendeten und mehrere Perspektiven von Interessengruppeneinbeziehen einbezogen untersuchte das Forschungsteam, wie KI motivierende und gesundheitsfördernde Arbeit unterstützt und wie Mensch-KI-Teams bessere Ergebnisse erzielen, als dies Menschen oder KI allein könnten.

Die Schlüsselerkenntnisse zu den neuen Anforderungen an die Arbeitsorganisation und die Zusammenarbeit in Mensch-KI Teams, sowie zu den erforderlichen Kompetenzprofile für die Aus- und Weiterbildung der betroffenen Fachkräfte, wurden in Form von Leitlinien und Empfehlungen and die Praxis und Politik zusammengefasst. Dies soll dazu beitragen, die Chancen von KI zu nutzen und angemessen auf die Risiken der Implementierung von KI im Gesundheitswesen und anderen risikoreichen Arbeitsumgebungen zu reagieren. Zukünftige Forschung sollte untersuchen, wie KI mit fortschrittlicheren Teamfähigkeiten ausgestattet werden kann, z. B. in der Verbindung zwischen KI und Robotik. Die Erkenntnisse sind nicht nur für das Gesundheitswesen relevant, sondern überall dort, wo Menschen mit KI zusammenarbeiten.

Drei Hauptbotschaften

1. KI hat das Potenzial, die Arbeitszufriedenheit, die Motivation und das Wohlbefinden von Fachkräften im Gesundheitswesen zu steigern und den Fachkräftemangel zu lindern. Dies ist jedoch nur möglich, wenn neue Aufgaben, Rollen und Praktiken der Zusammenarbeit auf der Grundlage der sich ergänzenden Stärken und Schwächen von Menschen und KI entwickelt werden. Werden die optimalen Formen der Zusammenarbeit zwischen Mensch und KI nicht berücksichtigt, birgt dies erhebliche Sicherheits- und Leistungsrisiken. Dazu gehören übermässiges Vertrauen, Selbstgefälligkeit, Verlust von Wissen und die Unfähigkeit, KI-Leistungen zu kontrollieren.
2. KI verändert, wie wir in Teams kommunizieren und Probleme lösen: Die Zusammenarbeit von Mensch und KI im Team kann nicht nur die Art und Weise beeinflussen, wie die Teammitglieder mit der KI interagieren, sondern auch untereinander. Wenn Teammitglieder auf Informationen anderer Personen zugreifen, wirkt sich das negativ auf das Entwickeln neuer Hypothesen und auf die Gesprächsaktivität aus. Wird hingegen KI in die Wissensbasis des Teams eingebunden, fördert dies das Entwickeln neuer Ideen, die kritische Bewertung von Informationen und den Austausch im Team. Das Vorhandensein eines KI-Systems kann also dazu genutzt werden, negative Teamdynamiken wie Confirmation Bias und Groupthink zu vermeiden und die Teammitglieder zu ermutigen, alternative Perspektiven in Betracht zu ziehen sowie ihre Bedenken freier zu äussern.
3. Eine effektive Zusammenarbeit zwischen Mensch und KI erfordert neue Fähigkeiten, die über technologische Aspekte hinausgehen. Medizinische und pflegerische Ausbildungsprogramme sowie die berufliche Weiterbildung sollten sich darauf konzentrieren, wie man effektiv mit KI «zusammenarbeitet», d.h. wie man Vertrauen aufbaut, kommuniziert und gemeinsame Entscheidungen trifft. Führungskräfte müssen lernen, wie sie diese neuen Formen der Zusammenarbeit zwischen Mensch und KI steuern können. Darüber hinaus deuten vorläufige Ergebnisse darauf hin, dass der Einsatz von z. B. ChatGPT als «Lerncoach» das Potenzial haben könnte, Medizinstudierende im diagnostischen Entscheidungsprozess zu unterstützen und die Qualität der klinischen Entscheidungsfindung zu verbessern.

From Tools to Teammates: Human-AI Teaming Success Factors in High-risk Industries