Künstliche Intelligenz mit Ethik

Gefahren unethischer KI

von - 20.10.2020
Die verschiedenen Dimensionen von Ethik bei KI
Von Fairness bis Erklärbarkeit: Die Ethik von KI hat viele Dimensionen, die es zu beachten gilt.
(Quelle: Capgemini)
Die Bedeutung ethischer KI für den Unternehmenserfolg wird klar, wenn man sich die möglichen Folgen anschaut, die eine KI mit mangelhafter Ethik verursachen kann:
Die Verarbeitung personenbezogener Daten durch die KI findet automatisch und ohne vorherige Einwilligung der Betroffenen statt Entscheidungsfindungen mittels Machine Learning sind intransparent und nicht zurückzuverfolgen
Geschäftliche Entscheidungen, Preisgestaltungen und Angebote an Kunden erscheinen aufgrund tendenziöser und vorurteilsbehafteter Daten oder fehlerhafter Algorithmen diskriminierend.
Möglich werden zum Beispiel unpassende Angebote durch Fehler der KI während der Zielgruppenanalyse, da die KI ungewollt die Kriterien für die Zielgruppenbestimmung verändert hat. Wenn ein Kunde ein anderes Angebot erhält als ihm bekannte Personen und die Unterschiede für ihn nicht nachvollziehbar sind, dann wird sich dieser Kunde womöglich benachteiligt sehen und das Angebot des Unternehmens ablehnen. Zudem kann der Ruf des Unternehmens nachhaltig leiden, insbesondere wenn das öffentlich bekannt wird.
Zum Problem kann unethische KI auch in der Personalabteilung werden, wenn Bewerberinnen und Bewerber auf Basis intransparenter Empfehlungen einer KI-basierten HR-Lösung abgelehnt werden. Die möglichen Folgen aus Compliance-Sicht liegen auf der Hand, wenn man an das Allgemeine Gleichbehandlungsgesetz (AGG) denkt.
Sebastian Hallensleben
Dr. Sebastian Hallensleben
KI-Experte des VDE
www.vde.com/de
Foto: VDE / Uwe Noelke
„Ethik wird genauso wie das Thema Nachhaltigkeit zum Wettbewerbsvorteil.“
Die Plattform Lernende Systeme (PLS), ein Expertenkreis der forschenden Informatik mit Wirtschafts­unternehmen im Feld der Künstlichen Intelligenz, erläutert anschaulich, wie es zu solchen unethischen KI-Lösungen kommen kann: Ein KI-System wird zum Vorsortieren von Bewerbungen mit den Daten der in der Vergangenheit erfolgreich eingestellten Beschäftigten trainiert. Sind diese überwiegend männlich, lernt der Algorithmus, Bewerbungen von Männern besser zu bewerten als die von Frauen. Auf technischem Weg setzt das KI-System dann Diskriminierungen durch.
Ethische KI-Lösungen sind also nicht nur eine gesellschaftliche Forderung, sondern sie sind mitentscheidend für den geschäftlichen Erfolg und für die Einhaltung der Compliance, sobald KI-Lösungen in den betrieblichen Prozessen zum Einsatz kommen.
Empfehlungen
Das Capgemini Research Institute empfiehlt Unternehmen zur Sicherung eines ethischen KI-Einsatzes folgende Maßnahmen:
  • Managementebene/für Ethik zuständige Personen: Etablierung einer Strategie und eines Verhaltenskodex sowie Entwicklung von Richtlinien für einen akzeptablen KI-Einsatz durch Mitarbeiter und Anwendungen.
  • Personalabteilung, Marketing, Kommunikation, Kundenservice: Gewährleisten, dass KI-Anwendungen nach ethischen Prinzipien eingesetzt werden, sowie fortlaufendes Aufklären und Informieren der beteiligten Personen. Hinzu kommt eine aktive externe und interne Bekanntmachung durch KI hervorgerufener ethischer Fragestellungen.
  • Leitende Mitarbeiter sowie IT-, KI- und Datenteams: KI-Systeme transparent und verständlich umsetzen durch die Sicherstellung eines umfassenden Datenmanagements und einer hohen Datenqualität.
Seite
  1. Teil: Künstliche Intelligenz mit Ethik
  2. Teil: Gefahren unethischer KI
  3. Teil: Richtlinien setzen Maßstäbe
  4. Teil: KI-Ethik testen
Verwandte Themen

Mehr zum Thema