Künstliche Intelligenz als Teamkollege: Was braucht es, damit die Zusammenarbeit gelingt?

Wie verändert Künstliche Intelligenz (KI) Arbeitssysteme, Aufgaben, Rollen und die Zusammenarbeit in Teams? Das Forschungsteam nutzte für diese Untersuchungen das Gesundheitswesen, insbesondere Intensivstationen (ICUs), da diese einen optimalen Forschungskontext bieten – denn die Chancen und Risiken der Zusammenarbeit mit KI sind hier besonders hoch. In sechs Studien und mit über 1101 Pflegekräfte und Ärzt:innen, Datenwissenschaftler:innen, KI-Entwickler:innen und Medizinstudierenden kam das Team zur Erkenntnis, dass die Gestaltung zukünftiger Arbeitssysteme mit Einsatz von KI die Arbeitszufriedenheit und das Wohlbefinden der Beschäftigten verbessern kann, sofern sich die unterschiedlichen Stärken und Schwächen von Mensch und KI optimal ergänzen. Dies könnte dazu beitragen, den Mangel an qualifizierten Arbeitskräften zu mindern, zum Beispiel indem administrative Aufgaben reduziert oder die Problemlösefähigkeit gestärkt werden. Darüber hinaus stellte das Forschungsteam fest, dass der Einsatz von KI nicht nur die Mensch-Maschine-Zusammenarbeit beeinflusst, sondern auch grundlegende menschliche Teamprozesse wie den Austausch von Wissen, die Art der Kommunikation und das Problemlöseverhalten verändert. Die Ergebnisse haben wichtige praktische Implikationen, darunter die Entwicklung neuer Ansätze für Teamzusammenarbeit und Führung in Mensch-KI Teams sowie Entscheidungsleitlinien zur Implementierung von KI in Hochrisikobereichen wie der Aviatik oder Finanzwirtschaft.

Die zunehmende Integration von KI in Arbeitssysteme verändert die Arbeitswelt grundlegend. KI-gestützte Automatisierung von Aufgaben und Prozessen haben das Potenzial, die Produktivität zu steigern, Entscheidungsprozesse zu verbessern und den Mangel an qualifizierten Arbeitskräften zu bewältigen. Allerdings kann nicht davon ausgegangen werden, dass KI automatisch die menschliche Leistung steigert, da schlecht gestaltete Systeme zusätzliche Belastungen für die Beschäftigten verursachen und die erfolgreiche Einführung solcher Systeme erschweren können. Ein tiefgehendes Verständnis darüber, wie KI Arbeitsbedingungen effektiv verbessern und Menschen effizient mit KI zusammenarbeiten können, ist daher notwendig.

Ziel dieses Projektes war, das Verständnis für erfolgreiche Mensch-KI-Zusammenarbeit in komplexen, risikoreichen Systemen zu erweitern. Durch sechs Studien, die sowohl quantitative als auch qualitative Methoden anwendeten und mehrere Perspektiven von Interessengruppen einbezogen untersuchte das Forschungsteam, wie KI motivierende und gesundheitsfördernde Arbeit unterstützt und wie Mensch-KI-Teams bessere Ergebnisse erzielen, als dies Menschen oder KI allein könnten.

Die Schlüsselerkenntnisse zu den neuen Anforderungen an die Arbeitsorganisation und die Zusammenarbeit in Mensch-KI Teams, sowie zu den erforderlichen Kompetenzprofilen für die Aus- und Weiterbildung der betroffenen Fachkräfte, wurden in Form von Leitlinien und Empfehlungen an die Praxis und Politik zusammengefasst. Dies soll dazu beitragen, die Chancen von KI zu nutzen und angemessen auf die Risiken der Implementierung von KI im Gesundheitswesen und anderen risikoreichen Arbeitsumgebungen zu reagieren. Zukünftige Forschung sollte untersuchen, wie KI mit fortschrittlicheren Teamfähigkeiten ausgestattet werden kann, z. B. in der Verbindung zwischen KI und Robotik. Die Erkenntnisse sind nicht nur für das Gesundheitswesen relevant, sondern überall dort, wo Menschen mit KI zusammenarbeiten.

Drei Hauptbotschaften

1. AI hat das Potenzial, die Zufriedenheit, die Motivation und das Wohlbefinden von medizinischem Fachpersonal zu verbessern und den Fachkräftemangel zu lindern. Dies wird jedoch nur dann Realität werden, wenn neue kollaborative Aufgaben, Rollen und Praktiken entwickelt werden, indem die jeweiligen Stärken und Schwächen von Mensch und KI integriert werden. Wenn die optimalen Formen der Mensch-Maschine-Zusammenarbeit nicht berücksichtigt werden, kann dies zu erheblichen Sicherheits- und Leistungsrisiken führen. Insbesondere sollte angesichts von Selbstüberschätzung, Selbstgefälligkeit, begrenztem Situationsbewusstsein und Know-how-Verlust Wachsamkeit walten gelassen werden. Praktische Leitlinien müssen daher klare Regeln für die Rechenschaftspflicht und Kontrolle enthalten, insbesondere in Situationen, in denen KI zwar sehr wirksam, aber nicht vollständig interpretierbar und daher nicht wirklich kontrollierbar ist.
2. AI verändert die Art und Weise, wie Teams kommunizieren und Probleme lösen: Die Mensch-Maschine-Kollaboration kann nicht nur beeinflussen, wie Teammitglieder mit KI interagieren, sondern auch untereinander. Die Integration von KI als neutraler "Sparringspartner" in die Wissensbasis des Teams fördert das Entstehen neuer Ideen und den Austausch zwischen den Mitgliedern. Ein KI-System kann daher dazu beitragen, starre Hierarchien und negative Teamdynamiken wie Bestätigungsfehler und Gruppendenken aufzubrechen und die Teammitglieder dazu zu animieren, Alternativen in Betracht zu ziehen und ihre Zurückhaltung freier auszudrücken.
3. Die Etablierung einer effektiven Zusammenarbeit zwischen Mensch und KI erfordert neue Kompetenzen, die weit über technologische Aspekte hinausgehen. Bei der Ausbildung von medizinischem und pflegerischem Personal sowie bei der beruflichen Weiterbildungin Krankenhäusern sollte die Entwicklung der Fähigkeit zur Zusammenarbeit mit KI als neue Schlüsselkompetenz im Vordergrund stehen. Beispiele dafür, wie man das Vertrauen in KI richtig kalibriert (nicht zu viel und nicht zu viel), wie man mit ihr und innerhalb des Teams kommuniziert und wie man gemeinsam Entscheidungen trifft. Führungskräfte müssen lernen, mit diesen neuen Formen der Mensch-Maschine-Kollaboration umzugehen, insbesondere wenn es um den Verlust von Fachwissen geht. Es geht nicht mehr nur darum, ein technisches Werkzeug zu verwenden, sondern ein gemischtes Team aus Menschen und intelligenten Maschinen zu orchestrieren.

From Tools to Teammates: Human-AI Teaming Success Factors in High-risk Industries