KI und ML: Cloud oder On-Premises?

Fazit, Vergleich und Ausblick

von Bernd Reder - 14.08.2023

Cloud-basierte KI- und Machine-Learning-Plattformen bieten vielen Unternehmen und Organisationen zweifellos einen einfacheren Einstieg in KI und Maschinelles Lernen als ein On-Premises-Ansatz. Für Taylor McCaslin von GitLab teilen sich die Unternehmen allerdings in zwei Gruppen: „Für schnelllebige, risikotolerante Unternehmen ist die Cloud eine gute Wahl, weil die meisten KI-Innovationen auf SaaS-Cloud-Plattformen stattfinden. Unternehmen in stark regulierten Branchen werden jedoch die Anforderungen an Datenschutz und Sicherheit mithilfe selbstverwalteter On-Premises-Instanzen erfüllen, obwohl das wegen der Komplexität von KI- und ML-Technologien in solchen Umgebungen anspruchsvoller ist.“

Speziell für Unternehmen in der EU werden die Aspekte Datenschutz und Compliance im Zusammenhang mit künstlicher Intelligenz zunehmend an Bedeutung gewinnen. Denn die Europäische Union wird voraussichtlich noch im Jahr 2023 mit dem EU AI Act ein Regelwerk für den Einsatz von KI vorlegen. Der Act dürfte auch die Nutzung von Cloud-Ressourcen tangieren – hoffentlich nicht in der Art, dass Daten künftig nur noch On-Premises mit KI-Anwendungen verarbeitet werden dürfen. Denn das würde die Wettbewerbsfähigkeit vieler Unternehmen spürbar einschränken.

Eine wichtigere Rolle wird voraussichtlich darüber hinaus der Punkt Vertrauenswürdigkeit von künstlicher Intelligenz spielen, so Stephan Schnieber, Sales Lead IBM Cloud Pak for Data in der DACH-Region. «Es muss beispielsweise laufend geprüft werden, ob die Daten, mit denen ein Modell trainiert wurde, noch Gültigkeit besitzen oder es revalidiert werden muss, damit es weiterhin vertrauenswürdig ist», erläutert der Experte.

Es sind nicht allein technische Faktoren, die über den Erfolg und die Akzeptanz von KI und Machine Learning entscheiden. Vielmehr muss das gesamte Paket stimmig sein, inklusive der Vertrauenswürdigkeit von KI und einer offenen Diskussion darüber, welche Folgen der Einsatz dieser Technologie für die Wirtschaft und Gesellschaft haben wird. Künstliche Intelligenz simpel als universalen Heilsbringer zu propagieren, wie das viele Anbieter entsprechender Lösungen tun, ist auf jeden Fall kein tragfähiger Ansatz.

Vergleich: KI-Anwendungen aus der Cloud oder im eigenen Datacenter
Kriterien	Cloud	On-Premises
Zugang zu KI- und ML-Modellen, Frameworks und Entwicklungs-Tools	Bei führenden Cloud-Serviceprovidern stets Zugang zu aktuellen KI- und ML-Modellen und Entwicklungstools; Hyperscaler wie AWS, Google, Microsoft und Anbieter wie IBM sind führend in der Entwicklung von KI- und ML-Lösungen	Anwender müssen Modelle, Frameworks etc. selbst auswählen und implementieren; allerdings ist grosse Auswahl an Open-Source-Tools vorhanden; zudem keine Bindung an Angebote von Cloud-Providern
Know-how - KI-Spezialisten	Die KI-Expertise von Cloud-Providern und Partnerunternehmen steht – teilweise – auch den Nutzern entsprechender Services zur Verfügung; Anwender können zudem auf Beratungs- und Schulungsservices solcher Unternehmen zurückgreifen	Das Fachwissen bei KI und Machine Learning muss im eigenen Unternehmen aufgebaut werden; dies ist vor allem für kleine und mittelständische Unternehmen wegen des Mangels an KI-Experten und Data Scientists ein Problem
Skalierbarkeit von Infrastruktur und Anwendungen	Flexible Optionen, um Infrastruktur (Compute, Storage) und ergänzende Anwendungen (Datenbanken, Analytics, ETL-/ETL-Pipelines etc.) entsprechend aktuellem Bedarf zu nutzen; Betrieb übernimmt Cloud-Provider	IT-Infrastruktur für KI / ML muss selbst eingerichtet und betrieben werden; dadurch entsprechende Kosten, eventuell auch wegen Over-Provisioning von Ressourcen, um Lastspitzen abzufangen; allerdings hat Anwender volle Kontrolle über die Infrastruktur und kann diese an spezielle Anforderungen anpassen
Egress-/Ingress-Kosten	Bei großen Datenvolumina (KI-/ML-Training) und Modellen können die Kosten deutlich anwachsen, insbesondere nach Preiserhöhungen bedingt durch Energiekosten und Inflation	Geringere Kosten, weil Datentransfers im eigenen Datacenter erfolgen; jedoch ebenfalls Kostensteigerungen durch Energie, CO₂-Abgaben etc.
Performance - Netzwerkanbindung	Hohe, skalierbare Performance, etwa durch Buchen von weiteren GPU-Instanzen; allerdings sind Netzwerkverbindungen mit geringer Latenzzeit zwischen Cloud- und Unternehmensrechenzentren erforderlich; dies kann in einigen Regionen (noch) ein Problem darstellen;	Geringe Latenzzeiten und hohe Performance; Voraussetzung ist jedoch eine IT-Infrastruktur, die regelmäßig modernisierte und gut gewartet wird;
Datenschutz - Compliance	Daten und KI-Modelle werden in Rechenzentren der Cloud-Serviceprovider gespeichert; Anbieter wie die Hyperscaler, IBM etc. unterhalten allerdings Datacenter im EU-Raum und geben an, die Vorgaben der EU-DSGVO einzuhalten und die Daten-Souveränität der Nutzer zu respektieren	Nutzer haben die volle Kontrolle über Daten und KI-Anwendungen; die kann in Branchen mit besonderen hohen Anforderungen an die Compliance und Daten-Souveränität somit die bessere Alternative sein; Option: Einrichtung einer Hybrid-Cloud, die Zugang zu KI-Lösungen in der Public Cloud erlaubt, aber gleichzeitig Kontrolle über sensible Daten ermöglicht
Sicherheit	Die IT-Sicherheitsvorkehrungen von Cloud-Rechenzentren sind in der Regel besser als die vieler Unternehmens-Datacenter	Die Sicherheit der IT-Infrastruktur und der Daten liegt in der Verantwortung des Anwenders; allerdings ist zu beachten, dass Cloud-Provider auch die Sicherung von Daten (Backup, Disaster-Recovery) in der Regel dem Anwender übertragen

Seite

KI und ML: Cloud oder On-Premises?

Fazit, Vergleich und Ausblick

Mehr zum Thema