com!-Academy-Banner

Künstliche Intelligenz muss Vertrauen schaffen

Zertifizierung in Vorbereitung

von - 20.01.2020
Das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS und das Bundesamt für Sicherheit in der Informationstechnik (BSI) wollen im Rahmen der Kompetenzplattform KI.NRW einen Prüfkatalog für den verantwortungsvollen Einsatz von Anwendungen der Künstlichen Intelligenz entwickeln. Ziel ist die Ausarbeitung konkreter Qualitäts- und Sicherheitsstandards, auf deren Grundlage technische Prüforganisationen künftig KI-Anwendungen sachkundig beurteilen können.
„Die Zertifizierung soll den zuverlässigen und verantwortungsvollen Einsatz von KI-Anwendungen für die Bürgerinnen und Bürger in Nordrhein-Westfalen und Deutschland sichern und auch als europäisches Vorbild dienen“, sagte Andreas Pinkwart, Minister für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen. „Die Zertifizierung sichert die Qualitätsmarke ,KI made in Germany‘, indem sie zuverlässige, sichere Technologien erkennbar macht und nachhaltig schützt“, betonte Minister Pinkwart. „Die Zertifizierung fördert den freien Wettbewerb unterschiedlicher Anbieter und leistet einen Beitrag zur Akzeptanz von KI in der Gesellschaft.“
Dr. Andreas Pinkwart
Dr. Andreas Pinkwart
Minister für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen
www.wirtschaft.nrw/ministerium
Foto: MWIDE NRW / R. Pfeil
„Die Zertifizierung fördert den freien Wettbewerb unterschiedlicher Anbieter.“
Ein Ziel der Kompetenzplattform KI.NRW ist es, eine Zertifizierung für KI zu entwickeln, die neben der Absicherung der technischen Zuverlässigkeit auch einen verantwortungsvollen Umgang mit der Technologie prüft. Hierzu leitet das Fraunhofer IAIS ein interdisziplinäres Forschungsteam mit Vertreterinnen und Vertretern aus Philosophie, Recht, Wirtschaft und Politik, um die Grundlagen für diese Zertifizierung zu erarbeiten. Die Kriterien bei der KI-Zertifizierung sollen die Bereiche Ethik und Recht, Autonomie und Kontrolle, Fairness, Transparenz, Verlässlichkeit, Datenschutz und Sicherheit umfassen.
Typische Fragen innerhalb der Zertifizierung sollen sein: Respektiert die KI-Anwendung gesellschaftliche Werte und Gesetze? Ist eine selbstbestimmte, effektive Nutzung möglich? Behandelt die KI alle Betroffenen fair? Sind ihre Funktionsweise und Entscheidungen nachvollziehbar? Funktioniert die KI zuverlässig und ist sie robust? Ist sie sicher vor Angriffen, Unfällen und Fehlern? Schützt die KI die Privatsphäre und sonstige sensiblen Informationen?
Informationen zum richtigen Umgang mit der KI-Anwendung müssten verfügbar sein, betonen die Experten. Für die Nutzer müssten die Interpretierbarkeit, Nachverfolgbarkeit und Reproduzierbarkeit von Ergebnissen der Künstlichen Intelligenz möglich sein. Widerstreitende Interessen - wie Transparenz und Schutz von Geschäftsgeheimnissen - müssten gegeneinander abgewogen werden.
Verwandte Themen