Was bedeutet es, menschliche Kontrolle über intelligente Maschinen zu haben?
Roboter – intelligente Maschinen – können Katastrophenhilfe leisten und arbeiten dabei immer selbständiger und unabhängiger. Allerdings braucht es eine wirksame Kontrolle durch den Menschen. Wie dies gelingen kann, erforscht ein Team aus den Fachbereichen Philosophie, Computer- und Rechtswissenschaften.
Projektbeschrieb
Wir wollen herausfinden, wann und wie Menschen die Kontrolle über intelligente Maschinen haben sollten, die auf der Basis von künstlicher Intelligenz und fortgeschrittener Robotik funktionieren. Dazu führen wir Experimente in einer virtuellen Umgebung durch, die spielähnlichen Charakter hat. Diese Umgebung hat ursprünglich das Pentagon für die so genannte «Darpa Subterranean Challenge» geschaffen. Dies ist ein Wettbewerb bei dem Katastrophenhilfe in Tunneln und Höhlen mittels Roboter geleistet wird. Zu dieser virtuellen Umgebung gewährt uns das Pentagon Zugang für unsere Experimente. Ausserdem kooperieren wir mit dem Schweizer Militär, um von dessen Erfahrungen zu profitieren.
Hintergrund
Künstliche Intelligenz und Robotik haben in den vergangenen Jahren grosse Fortschritte gemacht. Computerprogramme und Algorithmen sind mittlerweile lernfähig, Roboter können Aufgaben selbständig erfüllen. Für eine einwandfreie Funktionsweise von Maschinen ist immer weniger menschliche Beteiligung erforderlich, Menschen sind häufig nur noch im Hintergrund tätig. Zum Beispiel können Maschinen auf Strassen fahren, am Himmel fliegen oder sogar im bewaffneten Konflikt töten – und dies alles selbständig. Angesichts dieser Entwicklung untersuchen wir, was wirksame menschliche Kontrolle über Maschinen bedeutet.
Ziel
Unser Projekt soll den Begriff der Kontrolle über intelligente Maschine schärfen, sodass klar wird, wann und wie menschliche Kontrolle notwendig ist. Entsprechend wollen wir der Rechtsetzung konkrete Ideen für Gesetze und Standards bezüglich der Kontrolle über intelligente Maschinen liefern – so wie bei den rechtlichen und technischen Standards, die heute bei konventionellen Autos Anwendung finden.
Bedeutung
Wir wollen die Herstellerinnen und Hersteller moderner Maschinen, zum Beispiel von Robotern, die auf der Grundlage von künstlicher Intelligenz funktionieren, ansprechen. Unsere Ergebnisse sollen ihnen aufzeigen, wie sie ihre Produkte bezüglich Kontrolle ausgestalten sollten, damit sie ethisch und rechtlich einwandfrei funktionieren.
Originaltitel
Meaningful Human Control of Security Systems – Aligning International Humanitarian Law with Human Psychology