Algorithmen müssen gezähmt werden

Schlechte Presse für Apple: Vergangenen November geriet die Kreditkarte des IT-Konzerns in die Schlagzeilen. Bei der Festlegung des Kreditrahmens würden Frauen diskriminiert, so der unschöne Vorwurf - unter anderem erhoben von Apple-Mitgründer Steve Wozniak, dessen Frau genau dies erlebt hatte.

Auf seine Nachfragen bei dem IT-Konzern sowie bei der kartenherausgebenden Bank Goldman Sachs hieß es, die Entscheidung über den Kreditrahmen treffe ein Algorithmus. Das Problem dabei: Weder Apple noch die Bank konnten den Algorithmus einsehen, der zu der Entscheidung geführt hatte.

Solche Berichte sind keine Einzelfälle. Immer wieder finden Forscher Hinweise darauf, dass Menschen aufgrund ihrer Herkunft, ihres Wohnorts, ihres Alters oder ihres Geschlechts von Algorithmen benachteiligt werden. Dies hat im Wesentlichen zwei Gründe: der eine ist die verfügbare Datenbasis, die den Berechnungen des Algorithmus zugrunde liegt, der andere sind die Logiken, anhand derer die Systeme vorgehen und weiterlernen. Sie sind von Menschen gemacht und daher ebenso anfällig für subjektive und diskriminierende Entscheidungen wie Menschen.

„Diskriminierung zu verhindern ist ein Dauerbrenner und keine Herausforderung, die sich der Gesellschaft erst jüngst in Zeiten von Künstlicher Intelligenz (KI) stellt. Bis heute sind viele Bereiche des Lebens nichts diskriminierungsfrei - auch in der KI nicht“, konstatiert Marion Weissenberger-Eibl. Sie beschäftigt sich als Leiterin des Fraunhofer-Instituts für System- und Innovationsforschung ISI mit Themen wie Machine Learning und KI sowie den dahinterliegenden Algorithmen.

Nun sind Algorithmen aus unserem Alltag schon lange nicht mehr wegzudenken. Und auch im E-Commerce sind sie längst zum festen Bestandteil geworden. Aus guten Grund: „Händler müssen immer komplexere Anforderungen erfüllen, die einerseits die Verbraucher und andererseits die internen Prozesse an sie stellen“, weiß Jens Scholz, CEO des auf KI-Lösungen spezialisierten Unternehmens Prudsys. So würden Online-Shopper erwarten, dass sie jederzeit auf jedem Kanal mit einem individuellen Einkaufserlebnis und herausragenden Services bedient werden. Gleichzeitig müssten die daraus resultierenden Omnichannel-Prozesse für den Händler sowohl beherrschbar als auch finanzierbar bleiben.