Sollten wir digitalen Anwendungen einfach vertrauen?

Das Projekt ging, ausgehend von den systematischen Einsichten der Philosophie, der allgemeinen Frage nach, wie wichtig der Vertrauensbegriff im Kontext digitaler Transformationen ist. Dabei bildeten zwei Fragen den Fokus des Projekts: Erstens ging es darum, die Frage zu reflektieren, was es heisst, dass eine digitale Struktur als vertrauenswürdig bezeichnet wird: Wann können wir etwa einem medizinischen Algorithmus vertrauen? Zweitens beschäftigte sich das Projekt mit der Frage, wie digitale Strukturen die Vertrauensverhältnisse in unserem Alltag verändern: Welchen Einfluss hat etwa die Allgegenwart digitaler Medien auf das Funktionieren einer Demokratie?

Die wachsende Bedeutung von digitalen Technologien in allen Bereichen unseres Lebens kann Menschen verunsichern. Diese Verunsicherung diagnostiziert die Wissenschaft oft im Sinne einer Vertrauenskrise. Während im Hinblick auf Interaktionen zwischen menschlichen Akteuren in Disziplinen wie der Politikwissenschaft oder der Soziologie bereits eine umfassende Reflexion über die Frage nach Vertrauen und den Gründen für Vertrauen stattgefunden hat, steht diese Diskussion bezüglich digitaler Strukturen noch an ihrem Anfang.

Angesichts der weiten Verbreitung digitaler Technologien in unserem Leben würden wir oft gerne wissen, ob wir einer bestimmten Technologie vertrauen können. Ein erstes Ziel des Projekts bestand darin, überhaupt erst zu verstehen, was mit dem Begriff der digitalen Vertrauenswürdigkeit gemeint sein könnte. Das zweite Projektziel wurde von der Frage geleitet, wie wir Prozesse der Digitalisierung steuern müssen, damit sie mit unseren nicht-digitalen Vertrauensbeziehungen harmonieren.

Das Projektteam unter der Leitung von Prof. Peter Schaber schärfte den zentralen Begriff des Vertrauens und setzte ihn in ein angemessenes Verhältnis zu Technologien, die in den Debatten rund um die Digitalisierung diskutiert werden. Neben dieser wichtigen Grundlagenarbeit hat das Projekt auch eine direkte praktische Relevanz: Das erarbeitete Wissen kann uns helfen, auf die mit neuen digitalen Technologien einhergehenden Verunsicherungen zu reagieren und Vorschläge zu formulieren, wie Vertrauen angesichts fortschreitender Digitalisierung zu schützen ist.

Drei Hauptbotschaften

1. Es ist ein Kategorienfehler zu behaupten, man vertraue einem digitalen Werkzeug, bestenfalls können wir uns auf diese verlassen. Diese Haltung hilft uns, gefährliche Vermenschlichung der Technologie zu verhindern, die nur der Industrie zugutekommt.
2. In der Medizin sollten wir den Einsatz von KI-Algorithmen begrüssen, insbesondere im Zusammenhang mit der medizinischen Diagnose. Da unser Hauptziel darin besteht, die Zuverlässigkeit der KI-Algorithmen sicherzustellen, sollten wir eine ergebnisoffene Diskussion darüber führen, was wir von medizinischer KI erwarten (oder nicht).
3. Digitale Kommunikationsmittel können bestehende Vertrauensbeziehungen, insbesondere in der Bevölkerung, stärken, wenn sie eine menschliche Benutzerinteraktion ermöglichen, die Anonymität und Abstraktion reduziert.

Trust and Trustworthiness in Digital Spheres