Illustration Absmeier foto freepik

Vom lokalen Rechenzentrum über verschiedene Public Clouds bis hin zur Edge bietet Red Hat OpenShift AI neue Funktionen und Anpassungen, mit denen Unternehmen den Boom intelligenter Workloads bewältigen können.

Red Hat, der weltweit führende Anbieter von Open-Source-Lösungen, hat heute Erweiterungen von Red Hat OpenShift AI angekündigt, einer offenen hybriden Plattform für Künstliche Intelligenz (KI) und Maschinelles Lernen (ML), die auf Red Hat OpenShift aufbaut und es Unternehmen ermöglicht, KI-fähige Anwendungen in großem Umfang in hybriden Clouds zu erstellen und bereitzustellen. Mit den Updates unterstreicht Red Hat seine KI-Vision und erweitert die Wahlfreiheit der Anwender – von intelligenten Workloads über die zugrundeliegende Hardware bis hin zu den Services und Tools, etwa Jupyter oder PyTorch, die für die Entwicklung mit der Plattform verwendet werden. Damit ermöglicht Red Hat eine schnellere Einführung von Innovationen, eine höhere Produktivität und die Option, KI effektiv in das Tagesgeschäft zu integrieren. Die Grundlage dafür bildet eine flexiblere, skalierbare und anpassbare Open-Source-Plattform, die sowohl prädiktive als auch generative Modelle mit oder ohne Cloud-Umgebungen bereitstellt.

Wollen Anwender ihre KI-Modelle von der Testphase in die Produktion überführen, stehen sie vor zahlreichen Herausforderungen. Dazu gehören etwa steigende Hardwarekosten, Datenschutzbedenken und ein mangelndes Vertrauen in die gemeinsame Nutzung von Daten bei SaaS-basierten Modellen. Gleichzeitig entwickelt sich die generative Künstliche Intelligenz (GenAI) so schnell, dass viele Unternehmen Schwierigkeiten haben, eine zuverlässige KI-Kernplattform für den effizienten Betrieb on-premises oder in der Cloud aufzubauen.

Darüber hinaus müssen Unternehmen laut IDC¹ zunächst eine Reihe von Anforderungen erfüllen, um KI-Lösungen überhaupt erst erfolgreich einsetzen zu können. Neben der Modernisierung vorhandener Anwendungen und Umgebungen geht es vor allem darum, Barrieren zwischen bestehenden Systemen und Storage-Plattformen zu beseitigen, die Nachhaltigkeit der Infrastruktur zu verbessern und sorgfältig auszuwählen, wo verschiedene Workloads bereitgestellt werden – in der Cloud, im Rechenzentrum oder an Edge-Standorten. Für Red Hat ist dies ein Beleg dafür, dass KI-Plattformen flexibel an die Bedürfnisse und Ressourcen von Unternehmen angepasst sein und sie bei der Einführung von KI-Lösungen unterstützen müssen.

Die KI-Strategie von Red Hat ermöglicht Flexibilität in der Hybrid Cloud und bietet Anwendern die Möglichkeit, vortrainierte oder kuratierte Basismodelle mit Kundendaten zu erweitern sowie eine Vielzahl von Lösungen zur Leistungssteigerung von Hardware und Software zu nutzen. Die erweiterten Funktionen von Red Hat OpenShift AI erfüllen diese Anforderungen durch die neuesten KI/ML-Innovationen und die Unterstützung durch ein umfassendes KI-zentriertes Partner-Ökosystem. Die aktuelle Version der Plattform, Red Hat OpenShift AI 2.9, bringt folgende neue Features mit sich:

Model Serving am Edge erweitert die Bereitstellung von KI-Modellen an entfernten Standorten unter Verwendung eines einzigen OpenShift-Nodes. Es bietet Inferenzfunktionen in ressourcenbeschränkten Umgebungen mit intermittierendem oder lückenhaftem Netzwerkzugang. Diese Technology Preview bietet Unternehmen einen skalierbaren, konsistenten Betrieb vom Core über die Cloud bis zur Edge und verfügt über Out-of-the-box-Observability.
Enhanced Model Serving mit der Möglichkeit, mehrere Model Server zu verwenden, um sowohl prädiktive KI als auch GenAI zu unterstützen. Dies umfasst auch die Unterstützung von KServe, einer benutzerdefinierten Kubernetes-Ressourcendefinition, die das Serving für alle Arten von Modellen orchestriert. Neben vLLM, Text Generation Inference Server (TGIS) und Serving Engines für LLMs gilt dies auch für die Caikit-nlp-tgis-Runtime, die Modelle und Aufgaben der natürlichen Sprachverarbeitung (Natural Language Processing, NLP) verarbeitet. Mit dem Enhanced Model Serving können Anwender prädiktive KI und GenAI auf einer einzigen Plattform für mehrere Anwendungsfälle ausführen, was die Kosten senkt und den Betrieb vereinfacht. Dies ermöglicht Model Serving »out of the box« für LLMs und vereinfacht die Arbeitsabläufe der Nutzer.
Distributed Workloads mit Ray, unterstützt durch CodeFlare und KubeRay, ermöglichen die Nutzung mehrerer Clusterknoten zur Beschleunigung und Effizienzsteigerung der Datenverarbeitung und des Modelltrainings. Ray ist ein Framework zur Beschleunigung von KI-Workloads, KubeRay hilft bei der Verwaltung dieser Workloads auf Kubernetes. CodeFlare ist ein zentraler Bestandteil der verteilten Workload-Funktionen von Red Hat OpenShift AI und bietet ein benutzerfreundliches Framework, das die Orchestrierung und Überwachung von Tasks vereinfacht. Die zentralen Queuing- und Management-Funktionen sorgen für eine optimale Node-Auslastung und weisen Ressourcen wie GPUs den richtigen Benutzern und Workloads zu.
Verbesserte Modellentwicklung durch Projekt-Workspaces und zusätzliche Workbench-Images. Sie bieten Data Scientists die Flexibilität, IDEs und Toolkits zu verwenden, einschließlich VS Code und RStudio, aktuell als Technology Preview verfügbar, sowie erweitertes CUDA für eine Vielzahl von Anwendungsfällen und Modelltypen.
Visualisierung des Model-Monitorings für Performance- und Betriebs-Metriken, um die Leistung von KI-Modellen besser überwachen zu können.
Neue Accelerator-Profile, mit denen Administratoren verschiedene Arten von Hardware-Accelerator konfigurieren können, die für die Modellentwicklung und modellunterstützende Workflows zur Verfügung stehen. Dies ermöglicht den Anwendern einen einfachen Self-Service und Zugriff auf den geeigneten Accelerator-Typ für bestimmte Arbeitslasten.

Zusätzlich zu Red Hat OpenShift AI, das auch IBMs watsonx.ai unterstützt, nutzen Unternehmen aus verschiedenen Branchen Red Hat OpenShift AI, um ihre KI-Innovationen und ein größeres Wachstum voranzutreiben, darunter AGESIC und Ortec Finance.

Die Cloud ist hybrid. Das gilt auch für KI

Seit mehr als 30 Jahren sorgen Open-Source-Technologien für schnelle Innovationen, stark reduzierte IT-Kosten und niedrigere Innovationsbarrieren. Red Hat ist seit fast ebenso langer Zeit führend in diesem Bereich – von der Bereitstellung offener Enterprise-Linux-Plattformen mit RHEL in den frühen 2000er Jahren bis hin zur Entwicklung von Containern und Kubernetes als Fundament für die Open Hybrid Cloud und Cloud-natives Computing mit Red Hat OpenShift.

Dieser Trend setzt sich fort, indem Red Hat KI-/ML-Strategien in der offenen Hybrid Cloud vorantreibt, sodass KI-Workloads dort ausgeführt werden können, wo die Daten liegen, sei es im Rechenzentrum, in mehreren Public Clouds oder an der Edge. Die Vision von Red Hat für KI umfasst nicht nur die Workloads, sondern auch das Modelltraining und -tuning, um Einschränkungen in Bezug auf Datensouveränität, Compliance und betriebliche Integrität zu überwinden. Die Konsistenz, die die Plattformen von Red Hat über diese Umgebungen hinweg bieten, unabhängig davon, wo sie ausgeführt werden, ist entscheidend, um KI-Innovationen voranzutreiben.

Red Hat Summit

Nehmen Sie an den Keynotes des Red Hat Summit teil und erfahren Sie das Neueste von Führungskräften, Kunden und Partnern von Red Hat:

The cloud is hybrid. So is AI. – Dienstag, 7. Mai, 8 -10 Uhr MDT (YouTube, LinkedIn)
Optimizing IT for the AI era. – Mittwoch, 8. Mai, 8:30-9:30 Uhr MDT (YouTube, LinkedIn)

Ashesh Badani, Chief Product Officer and Senior Vice President, Red Hat
»Unternehmen fragen sich nicht mehr, ob sie KI einsetzen, sondern wann. Für die Implementierung benötigen sie eine zuverlässige, konsistente und flexible KI-Plattform – nur so können sie ihre Produktivität steigern, den Umsatz erhöhen und die Marktdifferenzierung vorantreiben. Die Antwort von Red Hat auf die Anforderungen der KI ist Red Hat OpenShift AI, mit dem IT-Entscheider intelligente Anwendungen überall in der Hybrid Cloud implementieren und gleichzeitig den Betrieb sowie die Modelle nach Bedarf erweitern und optimieren können, um die Realität von Produktionsanwendungen und -services zu unterstützen.«

Thomas Taroni, CEO, Phoenix Technologies
»Die Vision von Red Hat deckt sich perfekt mit unserem Ziel, Unternehmen eine zuverlässige und souveräne KI-Lösung zur Verfügung zu stellen. Mit Red Hat OpenShift AI profitieren unsere kvant-KI-Kunden von einzigartiger Flexibilität, Skalierbarkeit und Sicherheit. Mit kvant-KI in Verbindung mit Red Hat OpenShift AI sind Unternehmen bestens gerüstet, um prädiktive und generative Modelle mühelos zu integrieren. Damit sind alle Anwender in der Lage, vertrauenswürdige und agile KI-Anwendungen zu entwickeln.«

Jeff Fonke, Sr. Practice Manager AI & Data, World Wide Technology Holding Co.
»Da traditionelle IT-Modelle mit der Komplexität von KI zu kämpfen haben, ist WWT bestrebt, seine Kunden dabei zu unterstützen, schneller die richtigen technologischen Entscheidungen zu treffen, wenn es um die Einführung von KI geht, wie unser AI Proving Ground beweist. Mit Red Hat OpenShift AI als Basisplattform können unsere Kunden über den AI Proving Ground sichere KI-Lösungen testen, trainieren, validieren und diejenigen einsetzen, die einen echten Geschäftswert liefern.«

Joris Cramwinckel, Technologist, Ortec Finance
»Red Hat hat uns in den letzten zwei Jahren erfolgreich dabei unterstützt, maschinelle Lernmodelle für die Bewertung von Wohnimmobilien auf Azure Red Hat OpenShift bereitzustellen. Wir freuen uns darauf, Red Hat OpenShift AI zu implementieren, um unseren Wartungsaufwand zu reduzieren und in unseren Anwendungen den proprietären Code für die Bereitstellung von KI-Modellen zu ersetzen. Die Kombination der Leistungsfähigkeit von OpenShift AI und Azure Red Hat OpenShift wird es unserem Forschungs- und Entwicklungsteam ermöglichen, die Transformation unserer Kunden hin zu KI-basierten Lösungen zu beschleunigen. Sie wird uns dabei helfen, Risiken effizienter zu managen und Investitionen zu optimieren.«

¹ Quelle: IDC, The Future of Digital Infrastructure, 2024: AI-Ready Platforms, Operating Models, and Governance (#US50614724), 2024

Zusätzliche Informationen

KI bei Red Hat
Red Hat OpenShift AI
Neue Funktionen von Red Hat OpenShift AI
Ökosystem von ISV- und GSI-Partnern
Partnerschaft mit AI Sweden
Partnerschaft mit Elastic
Partnerschaft mit Run:ai
Partnerschaft mit Stability AI
Partnerschaft mit NVIDIA
Partnerschaft mit Intel
Partnerschaft mit AMD
Red Hat Summit
Alle Ankündigungen von Red Hat in dieser Woche im Red Hat Summit Newsroom
Folgen Sie @RedHatSummit oder #RHSummit auf Twitter/X für veranstaltungsspezifische Updates

3822 Artikel zu „KI Plattform“

NEWS | EFFIZIENZ | ERP | GESCHÄFTSPROZESSE | KÜNSTLICHE INTELLIGENZ | STRATEGIEN

Generative KI für zukunftsorientierte Unternehmen: IBM und SAP erweitern Partnerschaft

11. Mai 2024

Neue Partnerschaft »Value Generation« soll Kunden eine höhere Produktivität ermöglichen und Innovationen mit neuen Funktionen für generative KI und branchenspezifischen Cloudlösungen bieten. IBM und SAP haben heute ihre Vision für den Ausbau ihrer Partnerschaft angekündigt. In deren Rahmen sollen neue Funktionen für generative KI und branchenspezifische Lösungen entwickelt werden, damit Kunden zusätzlichen Mehrwert erschließen…

Vom lokalen Rechenzentrum über verschiedene Public Clouds bis hin zur Edge bietet Red Hat OpenShift AI neue Funktionen und Anpassungen, mit denen Unternehmen den Boom intelligenter Workloads bewältigen können.

Zusätzliche Informationen

KI bei Red Hat​

Red Hat OpenShift AI​

Neue Funktionen von Red Hat OpenShift AI​

Ökosystem von ISV- und GSI-Partnern​

Partnerschaft mit AI Sweden​

Partnerschaft mit Elastic​

Partnerschaft mit Run:ai​

Partnerschaft mit Stability AI​

Partnerschaft mit NVIDIA​

Partnerschaft mit Intel​

Partnerschaft mit AMD​

Red Hat Summit​

Alle Ankündigungen von Red Hat in dieser Woche im Red Hat Summit Newsroom

Folgen Sie @RedHatSummit oder #RHSummit auf Twitter/X für veranstaltungsspezifische Updates

3822 Artikel zu „KI Plattform“

KI bei Red Hat

Red Hat OpenShift AI

Neue Funktionen von Red Hat OpenShift AI

Ökosystem von ISV- und GSI-Partnern

Partnerschaft mit AI Sweden

Partnerschaft mit Elastic

Partnerschaft mit Run:ai

Partnerschaft mit Stability AI

Partnerschaft mit NVIDIA

Partnerschaft mit Intel

Partnerschaft mit AMD

Red Hat Summit