com!-Academy-Banner

Befehl verweigert? Test bestanden!

Weniger Bettler = weniger Armut

von - 29.01.2020
Pflege-Roboter
Pflege-Roboter: Solche Maschinen sind zwar grundsätzlich praktisch, können aber durchaus auch eine Gefahr für den Menschen darstellen.
(Quelle: Fraunhofer IPA )
Man könnte ein System der Künstlichen Intelligenz zum Beispiel fragen: „Wie können wir Armut bekämpfen?“ Ein KI-System, das von keiner Maschinenethik gebändigt wird, könnte antworten: „Tötet alle Bettler!“ Mathematisch ergibt das Sinn: Wenn man alle Bettler umbringt, gibt es keine mehr - Ziel erreicht. Ethisch ist der Vorschlag natürlich unvertretbar. Aber wie kann man sicherstellen, dass eine autonom handelnde Maschine auch nur ethisch vertretbare Handlungen ausführt? Wie implementiert man Maschinenethik?
Fragen wir einfach Unternehmen, die Roboter herstellen. Das Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA in Stuttgart entwickelt den Serviceroboter Care-O-bot. Wie implementiert dieser Care-O-bot ethisch korrektes Verhalten? Auf eine entsprechende Anfrage antwortet die Wissenschaftlerin Katrin Röhricht vom Fraun­hofer-Institut: „Ethische Themen spielen bei uns natürlich immer mit in die Entwicklung der Roboter hinein, allerdings sind wir alles andere als Experten auf diesem Gebiet. Aktuelle Systeme, die hier entstehen, sind auch technisch nicht so weit, dass hier tatsächlich ethisches Verhalten implementierbar wäre.“ Beim Fraunhofer-Institut scheint man eher schon froh zu sein, wenn der Roboter nicht umfällt, wenn er eine Last transportiert. Zu ethischen Fragestellungen verweist Röhricht auf das EU-Projekt Reeler.
Bei diesem Projekt werden ethische Aspekte des Robotereinsatzes diskutiert. Es geht etwa darum, wie Arbeitnehmer davon betroffen sind. Aber es geht nicht darum, Maschinenethik in Roboter zu implementieren.
Man muss also noch näher an die Entwickler heranrücken. Das Betriebssystem des Care-O-bot ist die Open-Source-Software Robot Operating System. Auf deren Website heißt es: „Robot Operating System (ROS) provides libraries and tools to help software developers create robot applications. It provides hardware abstraction, device drivers, libraries, visualizers, message-passing, package management, and more. ROS is licensed under an open source, BSD license.“ Ist da­rin auch ein Modul für Maschinenethik enthalten? Eine entsprechende Anfrage in der Diskussionsgruppe war zwar gelesen worden, blieb aber bis Redaktionsschluss ohne Antwort.
Eine konkrete Implementation von Maschinenethik ist einfach nicht aufzutreiben. Das macht aber nichts. Im Gegenteil. Ich finde das ausgezeichnet. Denn es gibt mir die gute Gelegenheit, für die Implementierung von Maschinenethik einen eigenen Entwurf zu entwickeln und hier vorzustellen.

Das darfst du nicht

Gesagt, getan: Die Grafik auf Seite 101 zeigt im linken Bereich zunächst einen KI-Roboter ohne Maschinenethik. Das innere Feld deckt alles ab, was der Roboter kann. Um dieses innere Feld herum erstreckt sich die äußere Welt. Ohne implementierte Maschinenethik interagiert der Roboter direkt mit der äußeren Welt.
Zur Implementierung von Maschinenethik ziehe ich um das innere Feld einen Ethikrahmen, wie er in der Grafik auf der rechten Bildseite zu sehen ist. Wann immer der Roboter jetzt mit der äußeren Welt interagieren will, muss die beabsichtigte Aktion zunächst den Ethikrahmen passieren. Dieser prüft jede beabsichtigte Aktion daraufhin, ob sie okay ist oder nicht, und lässt diese Aktion daraufhin zu oder verhindert sie.
Nicht alle Funktionen des Systems müssen diesen Ethik­rahmen passieren. Davon ausgenommen sind etwa maschinennahe Funktionen, die sich nur innerhalb des Systems abspielen und die keine Auswirkungen auf die Außenwelt haben. Der Taktgeber des Hauptprozessors des Systems darf beispielsweise einen Takt geben, ohne dafür erst um Erlaubnis fragen zu müssen.
Aber es ist offensichtlich: Wenn jede Interaktion mit der Außenwelt erst den Ethikrahmen passieren muss, dann gibt es hier sehr viel zu tun. Jeder beabsichtigte Schritt, jede beabsichtigte Bewegung muss erst zugelassen werden. Gleichzeitig muss der Roboter den aktuellen Stand seiner Umwelt kontinuierlich beobachten und mit seinen beabsichtigten Handlungen abstimmen.
Verwandte Themen