XAI im Unternehmen

„Um das volle Potenzial einer KI zu nutzen, müssen ihr alle Beteiligten vertrauen können: die Betreiber der KI genauso wie diejenigen, die direkt oder indirekt mit ihr interagieren oder von ihren Entscheidungen abhängig sind.“ Insbesondere wenn es darum gehe, eine bereits existierende Lösung durch eine KI-Lösung zu ersetzen, könne XAI essenziell sein, um vorhandene Ängste und Widerstände abzubauen, ist Data Scientist Julian Mehne überzeugt. „Mit XAI kann der nachhaltige Erfolg eines KI-Rollouts gewährleistet werden.“

Tableau verwende KI und Machine Learning, um mit Funktionen wie „Ask Data“ und „Explain Data“ mehr Menschen den Zugang zu Daten und Analysen zu ermöglichen, erklärt Konstantin Greger. „Nur wenn Entscheider sich auf Lösungsvorschläge aus vertrauenswürdigen Daten und Prozessen verlassen können, haben intelligente Anwendungen einen echten Mehrwert für die Unternehmen.“

Salesforce-Managerin Kathy Baxter ergänzt: „In regulierten Branchen wird es nötig sein zu beweisen, dass ein solches System mit den Gesetzen und Regularien in Einklang steht. Auch weltweit gibt es immer mehr Bestrebungen für die Regulierung von KI, die eine entsprechende Erklärbarkeit erfordern, vor allem in Hochrisiko-Anwendungen.“ 

Marco Peisker, Branch Manager beim IT-Dienstleister Adesso, spricht XAI auch aus Effizienzgründen eine Daseinsberechtigung zu. „Ein Beispiel ist die Erkennung von Versicherungsbetrug: Die Maschine hat einen Versicherungsfall als Betrug erkannt und entsprechend ausgesteuert. Ohne die Erklärung für die Entscheidungsgründe müssen die internen Spezialisten den gesamten Schadensfall inklusive der Historie des Versicherungsvertrags, die beteiligten Parteien und Dienstleister, die Scha­den­s­umstände und vieles mehr komplett durchleuchten, um den Fall ebenfalls bewerten zu können. Liefert die KI jedoch gleich die Begründung für die Entscheidung mit, entfallen eine Vielzahl manueller Aktivitäten und es wird eine echte Effizienz über den gesamten Prozess erreicht. Aus betriebswirtschaftlicher Sicht sollte die Erklärbarkeit der KI also immer mitbetrachtet werden.“