TÜV für Künstliche Intelligenz

Algorithmus-gesteuerte Systeme mit Künstlicher Intelligenz erobern derzeit Wirtschaft und Industrie. Um die Sicherheit und Funktionalität dieser Algorithmen zu prüfen und zu zertifizieren, haben nun das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) und der TÜV SÜD eine Kooperation gestartet.

Die Experten wollen im Rahmen der Zusammenarbeit das Lernverhalten der KI-Systeme erforschen, um deren Reaktionen kontrollieren zu können. Ziel des Projekts sei es, eine offene Plattform für OEMs, Zulieferer und Technologieunternehmen zu entwickeln. Diese Plattform trägt den Namen "Genesis" und soll Module Künstlicher Intelligenz validieren und damit die Grundlagen für Zertifizierungen schaffen. Die Industrie erhält damit eine Möglichkeit, die eigenen Systeme zu prüfen und ein entsprechendes Zertifikat für die funktionale Sicherheit zu erhalten.

Das Augenmerk der Prüfer liegt speziell auf Systemen für das autonome Fahren. Da diese Systeme auf maschinellem Lernen beruhen, um die enorme Anzahl an möglichen Situationen im Straßenverkehr zu bewältigen, sei ihre Funktionsweise nicht exakt vorhersehbar. Entsprechend treffen die Systeme autonome Entscheidungen und diese müssen stets im Sinne der Verkehrssicherheit ausfallen.

„Bisherige Ergebnisse, die mit der Deep-Learning-Methode erreicht wurden, zeigen verblüffend gute Ergebnisse in der Praxis - allerdings weiß bisher niemand genau, was dort eigentlich geschieht. Das werden wir nun gemeinsam erforschen“, beschreibt Dr. Houssem Abdellatif, Global Head Autonomous Driving bei TÜV SÜD, die Problematik. Bei der Prüfung der Systeme gehe es entsprechend weniger darum festzustellen, ob ein autonomes Fahrzeug ordnungsgemäß in einer Gefahrensituation abbremst, sondern viel mehr darum, weshalb es das tut. „Wenn wir genau verstehen, welche Rückschlüsse die Systeme ziehen, können wir eingreifen und das Lernen gezielt steuern," so Dr. Abdellatif weiter.

KI und autonomes Fahren gehören zu den derzeitigen Trendthemen der IT-Branche. Neben den großen Tech-Konzernen wie Google, Nvidia oder Samsung arbeiten auch die traditionellen Autobauer Toyota, Ford, BMW und viele weitere an der fahrerlosen Zukunft. Wirklich serienreife Lösungen sind bis dato allerdings noch nicht am Markt, lediglich teilautomatisierte Fahrhilfen können bereits heute im Straßenverkehr eingesetzt werden.