KI und ML: Cloud oder On-Premises?
Cloud oder On-Premises
- das vorhandene Know-how in Unternehmen in den Bereichen KI, Machine Learning und Data Science;
- der finanzielle und organisatorische Aufwand, der mit dem Aufbau und Betrieb von KI-Entwicklungskapazitäten und einer IT-Infrastruktur im eigenen Haus verbunden ist;
- dies im Vergleich zu den Kosten, die bei Cloud-Services anfallen, insbesondere vor dem Hintergrund der Preissteigerungen bei Cloud-Angeboten in jüngster Zeit;
- eventuell technische Fragen, etwa Datenleitungen mit hoher Kapazität, die für den Transfer von komplexen KI-Modellen und grossen Volumina von Trainingsdaten in eine Cloud erforderlich sind. Speziell in Deutschland sind Highspeed-Verbindungen in etlichen Regionen immer noch Mangelware;
- der Schutz von geistigem Eigentum, wenn Daten und KI-/ML-Modelle in einer Public Cloud vorgehalten werden;
- Vorgaben durch den Gesetzgeber, etwa im Rahmen der EU-Datenschutz-Grundverordnung und der geplanten Regelungen der EU für KI (Artificial Intelligence Act). Der EU AI Act soll noch 2023 in Kraft treten.
Cloud-Plattformen für Künstliche Intelligenz (KI) |
||
Anbieter |
Lösung(en) |
Details |
Aleph Alpha |
Luminous |
Anbieter aus Deutschland; KI-Lösung auf Basis von Large Language Models (LLM); Verarbeitung und Erstellen von Texten, inklusive Angabe der genutzten Quellen; auch Arbeit mit Bildern wird unterstützt (multimodaler Modus); Implementierung auf Cloud-Infrastrukturen und On Premises möglich; auch über Datacenter von Aleph Alpha zugänglich |
Alibaba |
Alibaba Cloud Itelligence Brain; Machine Learning Platform for AI |
Anbieter aus China; Intelligence Brain mit Rechenkapazitäten und Ressourcen für Entwicklung neuronaler Netzwerke, KI-basierter Sprach- und Textverarbeitung sowie KI-gestützter Analyse großer Datenmengen; Machine Learning Platform for AI für Erstellen, Trainieren und Implementieren von ML- Modellen; mehr als 140 Algorithmen zur Wahl |
Amazon Web Services AWS https://aws.amazon.com/de |
Vielzahl von KI- und ML-Angeboten, u. a. Amazon Sagemaker für Machine Learning, Augmented AI, Bedrock, Amazon Titan, CodeGuru, AWS-EC2-Instanzen für Inferenz |
Vielzahl von KI- und Machine-Learning-Services; u. a. für Erstellen, Trainieren und Implementieren von ML-Modellen und entsprechenden Workflows (Sagemaker), Generative AI (Bedrock, Titan), anwendungsspezifische KI- und ML-Services, etwa für Betrugserkennung, Unternehmenssuche (Kendra), Textanalyse (Comprehend), Predicitive Maintenance; Zugang zu Infrastrukturressourcen wie EC2, GPU-Instanzen, Inferenz-Beschleunigern und Lösungen für KI in Edge-Systemen |
AX Semantics |
AX Semantics |
Anbieter aus Deutschland; Anwendung für KI-unterstütztes Erstellen von Texten in 110 Sprachen; Optimierung vorhandener Texte, etwa unter Gesichtspunkt Suchmaschinen-Optimierung; Grundlage: Natural-Language-Generation-Software (NLG) auf Basis von KI und Natural Language Processing (NLP) |
Baidu |
Baidu AI Cloud |
Anbieter aus China; u. a. mit Cloud-Plattform BML für Machine Learning; Open-Source-Frameworks wie Tensorflow, Pytorch, Rapids cuML; AutoML- und AutoDL-Funktion; Zugang zu Grafikprozessoren (GPUs); gehostete Jupyter-Umgebungen; zudem Bereitstellung von Storage-Ressourcen, Servern, Datenbanken und Container-Management |
Clarifai |
Clarifai AI Platform |
komplettes Lifecycle-Management von KI-Projekten; Schwerpunkt auf KI-gestützter Bild-, Text- und Spracherkennung sowie Verarbeitung unstrukturierter Daten; Bereitstellung und Nutzung über Public Clouds und unternehmenseigene IT-Systeme; Unterstützung von Edge-AI-Komponenten wie IoT-Systemen; Anbindung an Lösungen von Nvidia, Palantir, Snowflake, UiPath, Tableau und Powerapps |
Cnvrg.io |
cnvrg.io Metacloud |
Tochtergesellschaft von Intel; Lösung; gemanagte Plattform für KI und Machine Learning; Basis: Betriebssystem für Machine Learning in Form von Containern; Option für User, eigene Server und Storage-Systeme zu nutzen; Aufsetzen von KI- und ML-Workflows über Portal; Kooperation u. a. mit Dell Technologies, IBM, Lenovo, Nvidia, Red Hat |
Dataiku |
Dataiku KI-Plattform |
KI- und ML-basierte Datenanalyse On Premises oder auf Cloud-Plattformen von AWS, Google und Microsoft; auch als Managed Service verfügbar; unterstützt die ML-Engines Python, Spark, H2O und Tensorflow; mit 32 Kernalgorithmen; vorgefertigte branchenspezifische KI-Lösungspakete für schnellen Einstieg in KI und ML |
Datarobot |
Datarobot AI Platform |
KI-Plattform für Lifecycle-Management von KI- und ML-Modellen und Anwendungen - von Erstellen und Validieren von Modellen bis Implementierung; Anbindung an Datenplattformen und Cloud-Speicher, etwa Amazon S3, Snowflake, Databricks, Azure, Google; Integration von Geschäftsanwendungen wie SAP, Salesforce, Power BI, Tableau; Implementierung und Nutzung als SaaS-Service (gemanagt) oder On Premises |
Deepl |
Deepl Translator |
Unternehmen mit Hauptsitz in Köln; Schwerpunkt: KI-basierte Übersetzung von Texten, inklusive PDF-Dokumenten; derzeit rund 30 Sprachen unterstützt; technische Basis: neuronale Netzwerke; über Cloud zugänglich oder über API (Anbindung an IT-Systeme von Unternehmen) |
Deutsche Telekom |
KI-Services der Open Telekom Cloud |
u. a. Infrastruktur-Services (IaaS) mit Servern (Cloud, Bare Metal, Hosted) sowie GPUs von Nvidia und FPGAs von Xelera für Beschleunigung von KI- und ML-Workloads: Frameworks sowie Pytorch, Spark, Caffè, Mindsphere; Plattformdienste wie Deep Learning, ML, Inferencing, Batch-Services |
Gitlab |
Gitlab Platform |
Cloud-Plattform mit Schwerpunkt DevSecOps; Funktionen für KI-Entwicklung und Data Science wie ModelOps, Mflow-Integration, Python-Notebooks, GPU-SaaS-Runner; Zugang zu GPU-Ressourcen über Oracle Cloud Infrastructure und Gitlab Runner; Möglichkeit, Gitlab in Cloud zu nutzen und mit Rechenkapazitäten im eigenen Datacenter zu kombinieren |
Google https://cloud.google.com |
u. a. Generative-AI-Service Bard; Vertex AI; AI Infrastructure, Contact Center AI, Document AI; Duet AI; PaLM 2 |
Vielzahl von Cloud-Services für Entwicklung von branchenspezifischen Anwendungen, etwa Optimierung des Kundensupports (Contact Center AI), Analyse von Dokumenten (Document AI) und optische Qualitätssicherung (Visual Inspection AI); M Plattform für Erstellen und Implementieren von ML-/KI-Modellen (Vertex AI); seit 2023 Chatbot Bard und weitere Generative-AI-Anwendungen auf Basis von neuem Large-Language-Modell PaLM 2; Duet AI für Programmieren von Anwendungen for Google Cloud und Workplace mithilfe von Bots |
Graphcore |
Cloud IPUs; Data Centre IPUs |
Britischer Anbieter von Intelligent Processing Units (IPUs) für KI und Machine Learning; in Zusammenarbeit mit Cloud-Serviceprovider Paperspace Zugang zu IPUs in Cloud-Umgebung; Erstellen, Trainieren und Implementieren von ML-Modellen; Unterstützung der gängigen ML-Frameworks wie Tensorflow, Pytorch, Keras, ONNX |
H2O |
H2O Cloud |
Cloud-Plattform für Automated Machine Learning (AutoML); Einbindung von Nvidia Rapids (Software-Bibliothek) und GPUs; App-Store für KI-Anwendungen; automatisiertes Konvertieren von Python/R-Artefakten in Java/C++; mit Open-Source-basierten Low-Code-Entwicklungs-Framework |
IBM |
IBM WatsonX; IBM Cloud Pak for Data; IBM Watson Studio; |
WatsonX als neue KI- und Datenplattform; Funktionen für Training, Validieren und Implementieren von ML-Modellen; Skalieren von KI-Workloads; Aufsetzen von transparenten datenbezogenen und KI-Workflows; Cloud Pak for Data als cloudnative Daten und KI-Plattform, inklusive Data Fabric für Verknüpfung von Daten aus unterschiedlichen Quellen und KI-basierten Analysefunktionen; als Cloud-Services oder On Premises verfügbar; IBM Watson Studio für Erstellen, Prüfen und Managen von KI-Modellen |
Infosys |
Infosys Applied AI Cloud; |
AI-Cloud-Plattform; Zugang zu KI-Hardware auf Basis von Nvidia-Systemen und -GPUs; Bereitstellung von KI-Cloud-Plattformen in Unternehmensrechenzentren in Verbindung mit Software-as-a-Servicemodellen (Hybrid Cloud); Edge-KI-Funktionen; auch Anbindung an Public Clouds möglich; Option, "Shared AI Infrastructure" aufzubauen mit unternehmensinternen KI-Kapazitäten für Deep und Machine Learning sowie Public-Cloud-Ressourcen für Zugang zu Trainingsdaten und KI-Services |
Ionos |
Infrastrukturlösungen für Machine Learning |
Cloud Compute Engine mit Rechenleistung; S3-basierter Objektspeicher; Datenbanken wie PostgreSQL; ML-Referenzarchitekturen über Partner wie Codecentric und B.Tellligent |
Jina AI |
Jina AI Cloud; |
Deutscher Anbieter mit Hauptsitz in Berlin; MLOps-Plattform für Entwicklung multimodaler KI-Anwendungen; Einsatzfelder u. a. Entwicklung von Suchanwendungen, Verlagern von KI-Hosting und -Wartung auf Jina-Cloud-Plattform; Feintuning von KI-Modellen |
Microsoft |
u. a. Azure Open AI Service, Azure Machine Learning; Azure Applied AI Service; Azure Cognitive Services; Azure Bot Service, Azure AI Infrastructure Services; Azure Databricks |
Vielzahl von Cloud-Services für diverse Anwendungsszenarien; Azure Open AI Service für Generative AI mit großen Sprachmodellen; Cognitive Computing, Machine Learning und Bereitstellung der KI-Infrastruktur; Aus-/Weiterbildungsangebote; über Azure Stack und Azure Stack Hub Implementierung und Betrieb von KI-/ML-Lösungen im Unternehmensrechenzentrum und an Edge-Standorten; Applied AI Service für anwendungsspezifische KI-Einsatzfelder; Databricks für Big Data-Analysen und KI in Apache Spark-Umgebung; dazu die erforderlichen Infrastrukturkomponenten as a Service |
Neural Designer |
Explainable AI Platform |
Spanisches Unternehmen; Plattform für Entwicklung von KI-Anwendungen; Schwerpunkt auf einfacher Bedienung, ohne spezielle Kenntnisse in Bereichen wie Coding und Erstellen von Blockdiagrammen; Basis: neuronale Netzwerke; branchenspezifische Use Case verfügbar etwa für Finanz- und Energiesektor, Industrie, Handel, Gesundheitswesen |
Nvidia |
Nvidia NGC; Nvidia AI Foundations; Nvidia DGX Cloud; |
NGC: Katalog mit Software und Managed Services für KI, maschinelles Lernen und High Performance Computing; Grundlage sind GPUs von Nvidia; Nvidia AI Foundations als Sammlung von Services, vorzugsweise für Generative AI; u. a. für Texte, visuelle Inhalte und KI-basierte Anwendungen in den Biowissenschaften; Nvidia DGX Cloud als Supercomputing-Dienst für KI, der über Web-Oberfläche zugänglich ist: DGX Cloud und AI Foundations zunächst über Oracle Cloud Infrastructure verfügbar, voraussichtlich auch über andere Cloud-Plattformen wie Azure |
Observe AI |
Observe.AI Platform |
Cloud-Plattform für KI-gestützte Analyse der Interaktionen von Kunden mit Unternehmen; Basis: Large Language Model (LLM) in Verbindung mit Generative-AI-Funktionen; auf Optimierung der Effizienz von Contact-Centern ausgelegt |
Oracle |
Oracle AI; Oracle Machine Learning |
Portfolio von Cloud-Services für Erstellen, Training und Implementierung von KI und ML-Lösungen auf Basis der Oracle Cloud Infrastructure (OC); mit Frameworks wie Pytorch und Tensorflow; vorgefertigte Modelle von Chatbots, Lösungen für Natural Language Processing, Anomalie-Erkennung, Bilderkennung; Kooperation mit Nvidia (GPUs); die OCI als Basis der Services kann auch On Premises genutzt werden; Kooperation mit DevSecOps-Plattform Gitlab |
OVHcloud |
AI Notebooks; AI Training; AI Deploy; Nvidia NGC Platform |
Anbieter mit Hauptsitz in Frankreich; AI Notebooks für Einrichten von Jupyter- und VS-Code-Notebooks für Nutzung von KI-Frameworks; AI Training mit Rechenleistung für Test und Pre-Production-Phase von KI-Lösungen; AI Deploy für Bereitstellen von KI- und ML-Modellen; NGC Platform für Container für KI auf Basis von Nvidia-Grafikprozessoren |
Pegasystems |
Pega Infinity; Pega Platform |
Integration von Generative-AI-Funktionen wie ChatGPT in Low-Code-Plattform; Einsatzbeispiel: Erstellen von Anwendungen mittels Eingabe von Anweisungen ("Erstelle XYZ-Anwendung); anschließend Auswahl von automatisch generierten Aufgabenelementen (Stages) und Workflow-Schritten durch Entwickler |
Petuum |
Petuum AI Workflow Library, Viewer und Solver |
Ausgründung aus Carnegie-Mellon-Universität; Ansatz: Automatisierte Entwicklung und Bereitstellung von KI-Anwendungen durch technisch weniger versierte Nutzer; Basis: Large Language Models (LLM) sowie MLOps-Verfahren; mit KI-Systemsoftware (AI OS) mit Low-/No-Code-Funktionen und Kubernetes-Unterstützung; automatisierte Optimierung von Entwicklungs-Pipelines von Modellen und Systemen |
Polyaxon |
Polyaxon Cloud |
Gemanagte Hybrid-Cloud-Version der KI- und ML-Entwicklungsplattform des Anbieters; Workloads, Daten, Artefakte und Modelle verbleiben in Clustern des Nutzers; kompletter Lebenszyklus von ML-Entwicklungsprozessen abgedeckt, inklusive Management von Modellen, Collaboration-Funktionen für Teams und Compliance; Unterstützung von Libraries wie Tensorflow, Keras, Caffe, DLMC Mxnet; Nutzung von Ressourcen der Cloud-Plattformen von AWS, Google und Microsoft möglich |
Rasa |
Rasa Platform |
US-Unternehmen; Plattform für Entwicklung von Conversational-KI-Anwendungen wie Chat-Bots; Implementierung und Nutzung über Private und Public Cloud, On Premises und Container; Rasa-as-a-Service als gemanagter Cloud-Service in der vom Nutzer gewünschten Region |
Red Hat |
Red Hat Openshift Data Science |
Machine-Learning-Plattform auf Open-Source-Basis für Hybrid-Cloud-Umgebungen; Basis: Red Hat Openshift; Data Scientists können KI-/ML-Modell erstellen, trainieren, testen und implementieren; Integration von Nvidia-CPUs und KI-Toolkits von Intel (AI Analytics; Openvino); in Planung ist Anbindung an Cnvrg.io-Plattform sowie Habana Gaudi für Deep-Learning-Workloads |
Run:AI |
Run:AI Atlas |
Unternehmen mit Hauptsitz in Israel; cloudbasierte KI-Plattform mit eignem "Betriebssystem", Control Plane und Anwendungsschicht; Nutzung On Premises sowie in Cloud-Umgebungen; Zugriff auf Infrastrukturkomponenten wie GPUs und Rechenleistung (CPUs); granulare Zuweisung von Ressourcen an KI-Entwickler und Operations-Teams auf Basis von Geschäftsstrategien; Anbindung an AWS, Azure und Google Cloud Platform möglich |
Salesforce www.salesforce.com/de |
Salesforce Cloud Einstein Platform |
Teil der Salesforce-Cloud-Plattform; Vermarktung als "persönlicher Data Scientist für Vertriebsmitarbeiter"; Funktionen u. a. Erstellen von Bots, Prognose- und Datenanalyseanwendungen, Bilderkennung, Sprachanalyse; Zielrichtung: Optimierung von Geschäftsergebnissen und Kundenbeziehungen sowie Identifizierung neuer Geschäftschancen; Integration von ChatGPT in Collaboration-Lösung Slack |
SAP |
Integrierte KI-Funktionen auf SAP Business Technology Platform; Embedded AI in diversen Produkten |
Integration (Einbettung) von KI-Funktionen in vielen Software-Angeboten; Beispiele: SAP Analytics Cloud als SaaS-Software für Business Intelligence und Predictive Analytics, KI-Funktionen in S/4HANA, SAP Fieldglasse, SAP Concur |
SAS |
SAS Viya AI Platform |
Cloud-Plattform für KI, Datenmanagement und Analytics; auch über Cloud-Plattformen von AWS, Microsoft und Google verfügbar; Funktionen u. a. Machine Learning und Deep Learning; Web-Interface für Erstellen und Verwalten von Modellen; interaktive Entwicklungsumgebung, die nach Self-Service-Prinzip arbeitet; Information- und Data-Governance-Funktionen |
Tencent |
Tencent Cloud TI Platform |
Unternehmen aus China; Plattform mit Services für Entwickler von Machine-Learning-Lösungen; gesamter Lifecycle von Projekten abgedeckt, von der Vorverarbeitung von Daten über da, Erstellen und Trainieren von Modellen bis zu deren Implementierung; AutoML-Funktion; Vielzahl von Algorithmen und Frameworks für Anwendungen wie Bild- und Objekt-Klassifizierung und Natural Language Processing; Daten-Labeling und -Management; interaktive Modellierung |
Wipro |
Wipro Holmes |
Unternehmen aus Indien; KI- und Automatisierungsplattform; für Erstellen, Implementieren und Verwalten von KI- und ML-Anwendungen; Beispiel: Cloud-Bot für Interaktion mit Kunden oder Mitarbeitern; unter anderem Nutzung von KI-Services von AWS möglich; besondere Berücksichtigung von Aspekten wie Governance und "vertrauenswürdiger KI" |
