»KR1280V3« 1U-Server mit AMD EPYC™ 9965 Prozessor verdoppelt E/A-Leistung für effizientes LLM-Training und beschleunigt verschiedene KI- und HPC-Workloads.
KAYTUS, Anbieter von KI-basierten und flüssigkeitsgekühlten End-to-End IT-Infrastrukturlösungen, hat mit seinem KR1280V3 Dual-Socket Server der V3-Serie bei den neuesten SPEC CPU 2017 Benchmark-Ergebnissen Spitzenplätze belegt. Dank seiner fortschrittlichen IT-Architektur wurde der KR1280V3 von der international anerkannten Standard Performance Evaluation Corporation (SPEC) sowohl in der SPECrate® 2017 Ganzzahlen-Benchmark (Integer Rate) als auch in der SPECrate® 2017 Gleitkomma-Benchmark-Suite (Floating Point) mit dem ersten Platz ausgezeichnet. Im Vergleich zu den von den Vorgänger-Plattformen erzielten Spitzenwerten, bietet der KR1280V3 Server eine beeindruckende Leistungssteigerung von 70 %, was zu erheblichen Verbesserungen bei Datenkompression, Molekulardynamik, Modellierung und Rendering-Workloads führt.
Der KR1280V3 Server von KAYTUS wird von einem AMD EPYC™ 9965 Prozessor angetrieben und übertrifft die Baseline-Ergebnisse beim SPECrate® Ganzzahlen-Benchmark um das 3.350-fache und beim SPECrate® Gleitkomma-Benchmark um das 2.700-fache, was eine Verbesserung von 61 % beziehungsweise 70 % gegenüber den höchsten auf der vorherigen AMD-Plattform erzielten Leistungswerten darstellt. Als wichtiger Benchmark für den Systemdurchsatz bei paralleler Multi-Task-Verarbeitung unterstreicht die SPEC-Bewertung die außergewöhnliche Fähigkeit des KR1280V3 Servers, hoch-parallele, intensive Multi-Thread-Workloads zu verarbeiten. Der Server zeigt die beste Leistung seiner Klasse bei wichtigen KI- und HPC-Anwendungen (High Performance Computing) und bietet:
- 88 % Verbesserung des rekursiven KI-basierten Lösungsgenerators (Sudoku)
- 68 % Verbesserung bei der Alpha-Beta-Suche (Schach)
- 99 % Steigerung bei der Molekulardynamik
- 95 % Steigerung der 3D-Rendering- und Animationsleistung
So hat sich der KAYTUS KR1280V3 Server Spitzenplätze in mehreren rechenintensiven Anwendungsbereichen gesichert, etwa bei der Monte-Carlo-Suche (Go), in der Molekulardynamik sowie im Bereich 3D-Rendering und -Animation. Diese starke Leistung wird durch die beeindruckende Speicherkapazität und eine IT-Architektur mit hohem Datendurchsatz ermöglicht, die eine effiziente Unterstützung für High-Speed-Computing, Hochfrequenzhandel, Virtualisierung und andere anspruchsvolle Anwendungen bietet.
KR1280V3 CPU 2017 Ganzzahlen (Integer Rate) Leistungsvergleich
- Base Rate: Der KR1280V3 erreichte mit 3.150 Punkten den Spitzenwert unter sämtlichen AMD EPYC™ 9965 Dual-Socket-Servern
- Peak Rate: Der KR1280V3 stellte mit einem Spitzenwert von 3.350 einen neuen Leistungsrekord für AMD EPYC™ 9965 Dual-Socket-Server auf
- Leistungssteigerungen: Im Vergleich zur AMD-Plattform der vorherigen Generation, bietet der KR1280V3 eine Steigerung der Integer-Rate-Leistung um durchschnittlich 60 %, mit bemerkenswerten Verbesserungen in allen 10 Benchmarks. Zu den wichtigsten Fortschritten gehören eine 80 % Steigerung der Videokomprimierungsleistung und eine 57 % Verbesserung im Bereich Künstlicher Intelligenz: Beispiel – Rekursiver Lösungsgenerator (Sudoku)
KR1280V3 CPU 2017 Gleitkomma (Floating Point) Leistungsvergleich:
- Base Rate: Der KR1280V3 erreichte mit 2.440 Punkten den höchsten Wert für einen AMD EPYC™ 9965 Dual-Socket-Server
- Peak Rate: Der KR1280V3 stellte mit einem Spitzenwert von 2.700 einen neuen Rekord für AMD EPYC™ 9965 Dual-Socket-Server auf
- Leistungssteigerungen: Im Vergleich zur AMD-Plattform der vorherigen Generation, bietet der KR1280V3 eine um ca. 70 % höhere Floating Point-Leistung, mit Verbesserungen in 13 Benchmark-Tests. Zu den wichtigsten Fortschritten gehören: 352 % Steigerung bei der Explosionsmodellierung, 81 % Verbesserung bei der Bildbearbeitung und 99 % Verbesserung bei Molekulardynamiksimulationen
KAYTUS V3-Serie: IT-Architektur für vielfältige Szenarien
Der KAYTUS KR1280V3, ein 1U Dual-Socket High-Density-Server, wurde für rechenintensive Workloads wie High-Speed-Computing, Hochfrequenzhandel, Virtualisierung und Big-Data-Verarbeitung entwickelt. Er wurde für maximale Effizienz in Hochleistungs-KI- und HPC-Umgebungen konzipiert und unterstützt:
- Bis zu 12 x 2,5-Zoll-SAS/SATA/NVMe-Laufwerke mit Front-Zugriff
- 32 direkt an die CPU angeschlossene E1.S-Laufwerke, die 512 TB Flash-Speicher und 300 GB/s Speicherbandbreite in einem kompakten 1U-Formfaktor bieten
- Verbesserte GPU-Unterstützung und gesteigerte Workload-Effizienz, die die Datenlatenz um 13 % reduziert und so für eine reibungslosere, besser vorhersehbare Rechenleistung sorgt
Der KR1280V3 Server ist mit hocheffizienten Kühltechnologien ausgestattet, darunter luftgekühlte EVAC- und Cold Plate Liquid-Kühlungssysteme. Diese Flüssigkeitskühlungslösungen verbessern die Energieeffizienz erheblich und senken den PUE (Power Usage Effectiveness) -Wert des Rechenzentrums unter 1,1.
Die KAYTUS V3-Serverfamilie findet breite Anwendung in den Bereichen General-Purpose-, Multi-Node- und Mission-Critical Computing sowie in speicheroptimierten Anwendungen und Rack Scale-Systemen. Diese Server sind mit verschiedensten Computerplattformen kompatibel und integrieren intelligente Beschleunigungs- und fortschrittliche Kühltechnologien zur Unterstützung verschiedener KI-basierter Anwendungen. Die V3-Serie basiert auf einer innovativen Rechen- und Speicherarchitektur und bietet Optimierungen in den Bereichen:
- CPU-Verbindungsbandbreite, Speicherbandbreite und Gesamtkapazität
- Dual-Socket-Konfigurationen – mit Unterstützung für bis zu 576 Kerne mit maximal 5,0 GHz
- Steigerung der Speicherbandbreite – um bis zu 136 %
Testdaten zeigen, dass der V3 Server bei Llama2-KI-Inferenz-Workloads (Llama2 = eine Familie vorab trainierter und feinabgestimmter großer Sprachmodelle (LLMs)) eine um bis zu dreimal höhere Leistung im Vergleich zur vorherigen Servergeneration erreicht.