Vertrauen in digitale Technologien ist ein „Fehler“
Prof. Peter Schabers Team vom Ethik-Zentrum der Universität Zürich setzte sich mit der Frage des Vertrauens in Digitalisierungsprozesse auseinander und schlägt vor, eine andere Haltung gegenüber digitalen Technologien einzunehmen.
Die Prozesse der Digitalisierung schaffen Unsicherheiten. Trotzdem wollen wir von ihnen profitieren. Vertrauen in die Technik sei deshalb zentral, so ein häufiges Argument. Aber können wir digitalen Strukturen überhaupt vertrauen? Diese und weitere Fragen stellte sich das Forschungsteam rund um Prof. Peter Schaber vom Ethik-Zentrum der Universität Zürich.
Das Forschungsprojekt verfolgte zwei Ziele:
- Sind digitale Strukturen wie Algorithmen vertrauenswürdig und wie sollen wir uns ihnen gegenüberverhalten, wenn nicht?
- Wie beeinflusst die Digitalisierung unsere nicht-digitalen Beziehungen und wie sollten digitale Prozesse gestaltet werden, um Vertrauen zu erhalten oder zu stärken?
Die wichtigste Erkenntnis
Das Zürcher Forschungsteam konnte zeigen, dass es ein Kategorienfehler ist, von „digitalem Vertrauen“ zu sprechen: Im Zusammenhang mit Dingen macht der Begriff des Vertrauens keinen Sinn. Stattdessen sollten wir uns auf die Zuverlässigkeit von digitalen Technologien setzen und der Frage nachgehen, in welcher Hinsicht und mit welchen Mitteln wir deren Zuverlässigkeit anstreben sollten.
Im Hinblick auf das zweite Ziel setzte das Forschungsteam von Prof. Peter Schaber den Fokus auf die Konsequenzen der sozialen Medien für das Funktionieren demokratischer Systeme. „Demokratisches Vertrauen“ sei die Fähigkeit der Bürger:innen, die Perspektive der Mitbürger:innen einzunehmen und die eigene politische Position verständlich zu kommunizieren. Vor diesem Hintergrund konnten die Forschenden beweisen, dass digitale Kommunikation und insbesondere die sozialen Netzwerke demokratisches Vertrauen schwächen können (Siehe: Drei Hauptbotschaften).
Bedeutung für Politik und Praxis
Die Forschenden regen als Folge ihrer Untersuchung eine Diskussion darüber an, welches Mass an Zuverlässigkeit in welchem Kontext notwendig sei. Dies könne einen Einfluss auf die Regulierung der Technologie haben.
Die gewonnen theoretischen Erkenntnisse zum Thema Vertrauen in digitale Prozesse münzten die Forschenden auf spezifische Bereiche um. Zwei Empfehlungen von Prof. Peter Schaber für die Praxis lauten demnach wie folgt:
„Für Ärzt:innen und medizinisches Personal ist es viel wichtiger, sich um die zwischenmenschlichen Beziehungen zu den Patienten zu kümmern, als zu verstehen, wie ein bestimmter Algorithmus für maschinelles Lernen funktioniert.“
„Software-Ingenieure, die sich um das Wohlergehen der Nutzer:innen (und der Gesellschaft insgesamt) kümmern, sind gut beraten, manchmal die Effizienz der Algorithmen zu opfern, um eine direkte und persönliche Interaktion zu ermöglichen, die die Nutzer:innen nicht auf Gruppen von bestimmten Eigenschaften reduziert.“
Drei Hauptbotschaften
- Es ist ein Kategorienfehler zu behaupten, man vertraue einem digitalen Werkzeug, bestenfalls können wir uns auf diese verlassen. Diese Haltung hilft uns, eine gefährliche Vermenschlichung der Technologie zu verhindern, die nur der Industrie zugutekommt.
- In der Medizin sollten wir den Einsatz von KI-Algorithmen begrüssen, insbesondere im Zusammenhang mit der medizinischen Diagnose. Da unser Hauptziel darin besteht, die Zuverlässigkeit der KI-Algorithmen sicherzustellen, sollten wir eine ergebnisoffene Diskussion darüber führen, was wir von medizinischer KI erwarten (oder nicht).
- Digitale Kommunikationsmittel können bestehende Vertrauensbeziehungen, insbesondere zwischen Bürger:innen, stärken, wenn sie eine menschliche Benutzerinteraktion ermöglichen, die Anonymität und Abstraktion reduziert.
Wie die Forschenden methodisch genau vorgegangen sind und weitere Hintergründe zum Forschungsprojekt finden Sie auf der NFP 77 Projektwebsite.
Weitere Forschungsprojekte zum Thema „Digitale Transformation” im Rahmen des Nationalen Forschungsprogrammes NFP 77 finden Sie hier: