TechTalk: So verändern künstliche Intelligenz und HPC die IT-Infrastrukturen der Welt

Welche infrastrukturellen Veränderungen bzw. Anpassungen gehen mit dem Leistungshunger von KI- und HPC-Anwendungen und -Workloads einher, und was leistet Eviden in diesem Kontext? Darüber haben wir uns mit Julien Camiade vom französischen KI-Lösungsanbieter Eviden auf der ISC High Performance 2025 ausgetauscht. Herausgekommen ist dieses Video, in dem Julien unter anderem auf die Green 500-Liste der energieeffizientesten Supercomputer der Welt verweist.

 


Which infrastructural changes do you see due to HPC and Al?

So we see an extraordinary speed of change, an explosion of AI chips hitting the market. And the release is faster. Every 12 month now, compared to traditionally 18 to 24 months, and this puts an incredible amount of pressure on data center infrastructure to keep up with that.

The second one is the relentless hunger for more power. So more and more data center one more power needed. So an energy demand challenge. We also see now hyperscalers requiring so much power that they use nuclear power plant to fuel those. And this becomes an environmental challenge.

And finally, the operational costs of those to cool all those hungry chips. So you’ve seen in the last year the shift from air cooling to liquid cooling. Finally, the lack of expertise in AI is crying. And it’s big. And so more and more of the systems are complex to design, build, and operate. And so we need more experts. And we have a lack of those on the market right now.


What’s your contribution within this energy hungry area?

So Eviden has been building a comprehensive portfolio of hardware and software solutions for AI for different needs from inferencing all the way up to training of large language models. We’ve also developed for 15 years knowledge on how to build turnkey solutions for modular data centers.

And this is what we’ll develop and deploy for Jülich for the first European exascale system. We’ve also been a pioneer in direct liquid cooling. And now we have 100% direct liquid cooling solution for our high-end system. This is coupled with a software suite to optimize energy efficiency. And this makes us number one and number two system in the green 500 ranking.

 

Deutsche Übersetzung


 


Welche infrastrukturellen Veränderungen sehen Sie aufgrund von HPC und KI?

Wir sehen eine außerordentliche Dynamik des Wandels, eine Explosion von KI-Chips, die auf den Markt kommen. Und die Markteinführung erfolgt schneller. Jetzt alle 12 Monate, im Vergleich zu traditionell 18 bis 24 Monaten, und das setzt die Infrastruktur der Rechenzentren unter unglaublichen Druck, damit sie damit Schritt halten kann.

Der zweite Faktor ist der unablässige Hunger nach mehr Leistung. Je mehr Rechenzentren, desto mehr Energie wird benötigt. Also eine Herausforderung für den Energiebedarf. Wir sehen jetzt auch, dass Hyperscaler so viel Strom benötigen, dass sie Kernkraftwerke als Energiequelle nutzen. Und das wird zu einer ökologischen Herausforderung.

Und schließlich sind da noch die Betriebskosten für die Kühlung all dieser energiehungrigen Chips. So hat sich im letzten Jahr eine Verlagerung von der Luft- zur Flüssigkeitskühlung vollzogen. Und schließlich ist der Mangel an Fachwissen im Bereich der künstlichen Intelligenz zu beklagen. Und er ist groß. Daher sind immer mehr Systeme komplexer zu entwerfen, zu bauen und zu betreiben. Wir brauchen also mehr Experten. Und an denen mangelt es derzeit auf dem Markt.


Was ist Ihr Beitrag in diesem energiehungrigen Bereich?

Eviden hat ein umfassendes Portfolio an Hardware- und Softwarelösungen für die künstliche Intelligenz für unterschiedliche Anforderungen entwickelt – vom Inferencing bis hin zum Training großer Sprachmodelle. Darüber hinaus haben wir in den letzten 15 Jahren unser Wissen über den Aufbau schlüsselfertiger Lösungen für modulare Rechenzentren aufgebaut.

Und das ist es, was wir für Jülich als erstes europäisches Exascale-System entwickeln und einsetzen werden. Wir waren auch ein Pionier bei der direkten Flüssigkeitskühlung. Und jetzt haben wir eine 100%ige Lösung zur direkten Flüssigkeitskühlung für unser High-End-System. Dies ist gekoppelt mit einer Software-Suite zur Optimierung der Energieeffizienz. Und das macht uns zur Nummer eins und Nummer zwei im Green-500-Ranking.