Lokale KI-Infrastruktur

Die As-a-Service-Angebote sind nicht in jedem Anwendungsfall die beste Option. Cloudbasiertes Machine Learning funktioniert nur bei Standardaufgaben wie Texte vorlesen lassen oder Bilder kategorisieren. Für anspruchsvollere KI-Projekte müssen Unternehmen selbst Modelle trainieren.

„Wenn in der Produktion beispielsweise ein gefertigtes Produkt oft Ausschuss ist oder Sie in der Produktion allgemein Probleme haben, dann sollten Sie Ihre eigene KI-Umgebung aufbauen und das System mit den Daten, die aus der Anlage kommen, trainieren“, rät Björn Böttcher.

Beim Inhouse-Betrieb gilt zu bedenken: KI-Anwendungen führen häufig eine Vielzahl von Prozessen in kurzen Zeit­intervallen aus, was in hohen Ansprüchen an Rechenkapazitäten und Infrastruktur resultiert. Diese anspruchsvollen Anforderungen an Performance und auch Kosteneffizienz benötigen für das Processing komplexer Machine-Learning-Verfahren ein entsprechendes technisches Framework mit teils neuen Chip-Designs und Hardware-Konzepten.

Hier hat der Wettlauf der Hersteller bereits begonnen. Internetfirmen wie Google stellen längst ihre eigenen Chips (TPUs) her, die für bestimmte Anwendungsfälle des Machine Learnings optimiert sind. Auch Nvidia und Intel versuchen, sich mit eigenen Chips oder ganzen Clustern samt CPU und GPU entsprechend zu positionieren.

Mittels solcher optimierter Systeme – basierend auf CPUs, GPUs oder TPUs – kann die Trainingszeit deutlich minimiert werden, was oft ein gravierender Wettbewerbsvorteil ist. In jedem Fall sollten Rechenzentrums- und IT-Betriebskonzepte für den Machine-Learning-Einsatz überprüft und gegebenenfalls weiterentwickelt werden.

Die eigene Infrastruktur bietet mehr Freiheit – bei gleichzeitig höherer Komplexität und erforderlichem KI-Know-how. KI-Skills sind aber nicht nur im internen Betrieb notwendig, das Wissen um KI-Techniken und -Verfahren muss auch bei As-a-Service-Konzepten vorhanden sein. Machine-Learning-Algorithmen müssen verstanden und evaluiert werden.

Angesichts der Komplexität des Themas empfiehlt sich deshalb eine duale Strategie. Skills im eigenen Team sollten sukzessive aufgebaut werden. Business-Intelligence- und Analytics-Abteilungen sind hier federführend. Dazu sollte aber zusätzlich professionelle Unterstützung von externen Providern eingeholt werden. Externe Berater und professionelle Dienstleister sind laut den Analysten unverzichtbar, um Machine-Learning-Strategien erfolgreich umzusetzen. Vor allem in der Datenexploration und im Training der eigenen Mitarbeiter sehen die Unternehmensentscheider wichtige Einsatzbereiche für externe Dienstleister.

Nicht zu vergessen bei KI-Projekten ist auch der finanzielle Mehrbedarf. KI-Vorhaben erfordern wegen der zusätz­lichen technischen und personellen Ressourcen zusätzliche finanzielle Mittel. Dies gilt insbesondere im internen Betrieb. Um Anfangsinvestitionen in die KI zu rechtfertigen und Ressourcen langfristig neu allokieren zu können, schlägt Crisp Research vor, Einspar- und Konsolidierungspotenziale durch Prozessoptimierung und Automation zu prüfen.

Bei all dem ist aber auch Geduld angebracht: Die Einführung vom Machine Learning braucht Zeit. Die Entwicklung und das Training komplexer Modelle und Algorithmen ist kein Dreimonatsprojekt. IT-Verantwortliche sollten eher in Jahren als in Monaten denken.

Und mit der Entwicklung ist es auch noch nicht getan. Gerade bei KI-Systemen wie digitalen Assistenten oder Chat-Bots, die auf Kunden losgelassen werden, muss auf die Qualitätssicherung geachtet – und die Software intensiv getestet werden.