Quelle: Supermicro
Schlüsselfertige Datenspeicherlösung für Large Scale KI-Training und -Inferenz – Hunderte von Petabytes in einer Multi-Tier-Lösung unterstützen die für skalierbare KI-Workloads erforderliche enorme Datenkapazität und #Datenbandbreite.
Supermicro, ein Hersteller von IT-Gesamtlösungen für KI, Cloud, Speicherung und 5G/Edge, bringt eine optimierte Full-Stack-Speicherlösung für KI- und ML-Datenpipelines auf den Markt – von der Datenerfassung bis zur hochleistungsfähigen Datenbereitstellung. Die neue Lösung maximiert die Time-to-Value von KI, indem sie die GPU-Datenpipelines vollständig auslastet. Für das KI-Training können riesige Mengen an Rohdaten mit Kapazitäten im Petascale-Bereich gesammelt, umgewandelt und in die KI-Workflow-Pipeline eines Unternehmens geladen werden. Die Multi-Tier-Lösung von Supermicro liefert nachweislich Datenmengen im Bereich von mehreren Petabyte für AIOps und MLOps in Produktionsumgebungen. Die gesamte Multi-Rack-Lösung von Supermicro wurde entwickelt, um Implementierungsrisiken zu reduzieren, Unternehmen in die Lage zu versetzen, Modelle schneller zu trainieren und die daraus resultierenden Daten schnell für KI-Inferenzen zu nutzen.
»Mit 20 PB pro Rack an Hochleistungs-Flash-Speicher mit vier anwendungsoptimierten NVIDIA HGX H100 8-GPU-basierten luftgekühlten Servern oder acht NVIDIA HGX H100 8-GPU-basierten flüssigkeitsgekühlten Servern können Kunden ihre KI- und ML-Anwendungen im Rack-Format betreiben und beschleunigen«, sagt Charles Liang, President und CEO von Supermicro. »Die Lösung bietet einen Lesedurchsatz von 270 GB/s und 3,9 Millionen IOPS pro Speichercluster in der kleinsten Implementierung und kann problemlos auf Hunderte von Petabytes skaliert werden. Durch den Einsatz der neuesten Supermicro-Systeme mit PCIe 5.0- und E3.S-Speichergeräten und der WEKA Data Platform-Software können Anwender die Leistung von KI-Anwendungen mit dieser praxiserprobten Lösung im Rack-Format deutlich steigern. Mit unserer neuen Speicherlösung für KI-Training können Kunden die Auslastung unserer fortschrittlichsten Lösungen für GPU-Server im Rack-Format maximieren, ihre Gesamtbetriebskosten senken und die KI-Leistung steigern.«
Weitere Informationen über Supermicro Storage Solutions für KI finden Sie unter https://www.supermicro.com/en/products/storage
Petabytes an unstrukturierten Daten, die in der groß angelegten KI-Trainingsverarbeitung verwendet werden, müssen den GPU-Servern mit geringen Latenzen und hoher Bandbreite zur Verfügung stehen, damit die GPUs produktiv bleiben. Das umfangreiche Sortiment an Intel- und AMD-basierten Speicherservern von Supermicro ist ein wichtiges Element der KI-Pipeline. Dazu gehören die Supermicro Petascale All-Flash-Speicherserver, die eine Kapazität von 983,04 TB pro Server [1] an NVMe Gen 5-Flash-Kapazität haben und eine Lesebandbreite von bis zu 230 GB/s und 30 Millionen IOPS liefern. Diese Lösung umfasst auch die Supermicro SuperServer 90 Speicherserver mit Laufwerksschächten für die Objektspeicher-Kapazitätsschicht. Diese vollständige und getestete Lösung ist weltweit für Kunden aus den Bereichen ML, GenAI und anderen rechenintensiven Anwendungen mit hohen Workloads verfügbar.
Die neue Speicherlösung besteht aus:
- All-Flash-Ebene – Supermicro Petascale Storage Servers
- Anwendungsebene – Supermicro 8U GPU Server: AS -8125GS-TNHR und SYS-821GE-TNHR
- Objektebene – Supermicro 90 4U SuperStorage Server mit Laufwerksschacht mit Quantum ActiveScale Objektspeicher
- Software: WEKA Data Platform und Quantum ActiveScale Objektspeicher
- Switches: Supermicro InfiniBand und Ethernet Switches
»Die hohe Leistung und die große Flash-Kapazität der All-Flash Petascale Storage Server von Supermicro ergänzen die KI-native Datenplattform-Software von WEKA perfekt. Zusammen bieten sie die unvergleichliche Geschwindigkeit, Skalierbarkeit und Einfachheit, die von den heutigen KI-Kunden in Unternehmen gefordert wird«, sagt Jonathan Martin, President von WEKA.
Supermicro wird die optimierte Speicherarchitektur in einem Webinar näher vorstellen. Um am Webinar am 1. Februar 2024 live teilzunehmen oder das Webinar von Supermicro und WEKA auf Abruf zu sehen, gehen Sie auf: https://www.brighttalk.com/webcast/17278/604378