Algorithmen auf Basis automatisierter Prozesse

Deshalb sind automatisierte Prozesse auf Basis von Algorithmen ein elementarer Baustein, um die Wettbewerbsfähigkeit zu sichern. Sie stecken im Lagermanagement und der Lieferkettenoptimierung, in der Prognose von Kundenaufkommen und Nachfrage, in der dynamischen Preisanpassung, in vielen Formen von Personalisierung, in intelligenten Suchfunktionen und auch in der Zahlartensteuerung und der Bonitätsprüfung.

Damit wird das Spannungsfeld klar: Einerseits bieten selbstlernende Systeme ungeahnte Chancen, andererseits bergen sie durch ihre Omnipräsenz neue Risiken.

Dessen ist sich auch die Politik bewusst und hat daher im Sommer 2018 eine unabhängige Expertenkommission eingesetzt, die Empfehlungen zum Umgang mit Algorithmen erarbeiten sollte.

Im Oktober 2019 haben die 16 Kommissionsmitglieder ihre Empfehlungen vorgelegt. Sie schlagen ein ganzes Maßnahmenbündel vor, das für mehr Sicherheit und Vertrauen sorgen soll. So empfehlen sie, Algorithmen nach ihrem Schädigungspotenzial in fünf Risikoklassen einzuteilen. Je nachdem, welcher Risikoklasse ein System zugeordnet ist, müssen die Betreiber bestimmte Auflagen erfüllen, etwa die Benennung eines Algorithmus-Beauftragten, der zur Kommunikation und Zusammenarbeit mit Behörden verpflichtet ist.

Als Kontrollinstanz raten die Experten zu einem „Kompetenzzentrum Algorithmische Systeme“, das die Bundesregierung einrichten soll. Tatsächlich arbeitet die Regierung da­ran, ein solches Kontrollgremium, das sogenannte Deutsche KI-Observatorium, unter dem Dach des Bundesarbeitsministeriums zu installieren. Wie auf der Website des Ministeriums zu lesen ist, soll es im Lauf dieses Frühjahrs seine Arbeit aufnehmen.

Darüber hinaus empfehlen die Experten, ein freiwilliges oder auch verpflichtendes Gütesiegel als Schutzzeichen einzuführen. Zu guter Letzt regen sie eine Regulierung auf EU-Ebene an. In einer „Verordnung für Algorithmische Systeme“ sollten künftig die zentralen Grundprinzipien für den Umgang mit Algorithmen geregelt sein.

Die Reaktion auf die Vorschläge ist gespalten. Während der TÜV-Verband beispielsweise die Einteilung in Risikoklassen begrüßt, kritisiert der Digitalverband Bitkom die Empfehlungen scharf. Die Kommission stelle fast alle Algorithmen unter einen Generalverdacht, schreibt der Verband in einem Positionspapier. „Wir brauchen mehr Verständnis von Algorithmen, nicht mehr Verbote“, betont Bitkom-Präsident Achim Berg. Ziel könne nicht sein, den Weg in eine digitale Zukunft zu verstellen und Deutschland zu einem analogen Inselstaat zurückzubauen. Nach Ansicht des Verbands reichen die bestehenden Vorschriften und Gesetze aus. Zugleich setzt sich der Verband für mehr Transparenz im Umgang mit Algorithmen ein.

Auch der Handelsverband HDE mahnt, die Chancen zu ergreifen, die sich durch Künstliche Intelligenz bieten. „Wenn wir zu ängstlich auf KI schauen, werden wir verlieren“, schreibt der stellvertretende Hauptgeschäftsführer des HDE, Stefan Tromp, im HDE-Blog. Die Diskussion dürfe allerdings nicht naiv, sondern müsse offen geführt werden. „Da darf es kein Tabu sein, auch über Regulierung zu sprechen, die Vertrauen schafft, wo es bisher fehlt“, so Tromp. Er geht davon aus, dass KI nirgends so greifbar, so nah am Kunden ist wie im Handel. Deswegen komme dem Handel in der praktischen Umsetzung eine Schlüsselrolle zu. Er verweist dabei auf freiwillige Selbstverpflichtungen, mit denen der Handel sich als verantwortungsvoller Partner empfehlen könne.

Noch ist nicht deutlich erkennbar, wie und wann die Politik auf die komplexen Herausforderungen durch Künstliche Intelligenz reagieren wird. Klar ist aber, dass dringend Handlungsbedarf für differenzierte Regelungen besteht.

Ein Beispiel: Einerseits sollen Algorithmen transparent sein, um nachvollziehen zu können, wie es zu einer Entscheidung kommt. Andererseits sind die einem Algorithmus zugrunde liegenden Logiken gerade das, was den Wettbewerbsvorteil gegenüber anderen ausmacht. Darüber hinaus sind Manipulationen viel leichter möglich, wenn der Algorithmus bekannt ist. Und schließlich liegt es im Wesen von Künstlicher Intelligenz, dass die Systeme selbstständig hinzulernen. Es ist also nahezu unmöglich, am Ende eines langen Lernprozesses noch nachvollziehen zu können, wie die Künstliche Intelligenz zu einer bestimmten Lösung gekommen ist.