EU presenteert snelste supercomputer van Europa met 24.000 Nvidia-chips

Jupiter, de snelste supercomputer van Europa, wordt officieel gepresenteerd in Duitsland. Het systeem beschikt over bijna 24.000 chips van Nvidia en staat daarmee op plek vier van de TOP500-ranglijst. Het systeem beschikt ook over een cluster met Europese Arm-cpu's.

De Jupiter-supercomputer staat in het Jülich Supercomputing Centre in Duitsland, meldt de Europese Commissie vrijdag. Het is de eerste zogeheten 'exascale'-supercomputer van Europa, wat betekent dat het systeem in theorie ruim 1 triljoen (1 miljard miljard) operaties per seconde kan uitvoeren. Het is daarmee ruimschoots de snelste supercomputer van Europa.

Het systeem bestaat uit meerdere clusters, waaronder een 'boostermodule' met in totaal bijna 24.000 Nvidia GH200-'superchips'. Deze levert het gros van de rekenkracht. Iedere GH200 bestaat uit een Grace-cpu met 72 Arm Neoverse V2-cores, een Hopper-gpu met 16.896 CUDA-cores en 96GB HBM3.

Deze boostermodule werd in juni al gebenchmarkt voor de TOP500-lijst met 's werelds snelste supercomputers. Daarin haalde het systeem Linpack-praktijkprestaties van 793,4 petaflops aan fp64-rekenkracht, goed voor een vierde plaats wereldwijd. De drie snelste supercomputers staan allemaal in de Verenigde Staten. Het systeem draait echter volledig op hernieuwbare energie en staat daarmee op de eerste plaats van de Green500-lijst als de efficiëntste supercomputer ter wereld, met prestaties van 72,7Gflops per watt, een totaal vermogen van 67kW per rack en een geschat totaal stroomgebruik van 11 megawatt.

De supercomputer krijgt daarnaast een 'universele' cpu-cluster, die voornamelijk gebruikt zal worden voor 'data-intensieve' taken. Deze cluster maakt voor het eerst gebruik van SiPearl Rhea1-cpu's, die volledig zijn ontworpen in Europa. De cpu's beschikken ieder over 80 Arm Neoverse V1-cores. In totaal zou de cluster beschikken over ruim 1300 van deze cpu's, ieder met 64GB aan HBM. De cpu-cluster haalt echter 'slechts' 5 petaflops aan fp64-rekenkracht, meldt The Next Platform, en is daarmee goed voor slechts een fractie van de totale rekenkracht die Jupiter te bieden heeft.

Er zijn binnen de Europese Unie al jarenlang ambities om eigen hpc-hardware te ontwerpen, om zo minder afhankelijk te worden van Amerikaanse chipbedrijven als Nvidia. Dat gebeurt als onderdeel van het European Processor Initiative, waarover Tweakers eerder een achtergrondverhaal schreef. Tot nu toe verliep dat moeizaam. De Rhea1-chips stonden bijvoorbeeld aanvankelijk gepland voor 2022, maar werden de afgelopen jaren al meermaals uitgesteld.

Toch wordt Jupiter nu dus in gebruik genomen; deels op basis van Europese hardware, maar grotendeels met Nvidia-chips. De supercomputer zal worden ingezet om AI-modellen mee te trainen. Het systeem gaat bijvoorbeeld bijdragen aan de onlangs aangekondigde plannen om Europese 'AI-fabrieken' te bouwen om llm's te trainen.

Reacties (125)

[OriginalFlyingdutchman]

Die 67 kW is verbruikt bij een test van 1 rack om te kijken hoeveel performance per watt hij levert. Er is daarmee getest met 192 GPU's.

https://www.eurohpc-ju.europa.eu/european-exascale-supercomputer-jupiter-sets-new-energy-efficiency-standards-1-ranking-green500-2024-05-13_en?utm_source=chatgpt.com

1 rack bevat 48 nodes, die hebben per stuk 4 gpu's. Er zijn 125 racks. Dan kom je op 24000 gpu's.

Op de website kun je vinden dat het systeem een installed power heeft van 38 megaWatt en gemiddeld zo rond de 12-15 mW/h (MEGA) zal verbruiken.

[Reactie gewijzigd door OriginalFlyingdutchman op 5 september 2025 14:05]

[AverageNL]

Oei, my bad! Dat moest inderdaad 'per rack' zijn. Ik zal het aanpassen, thanks

[ZinloosGeweldig]

Megawatt per uur?

Bedoel je 12-15 Megawattuur per uur (ook wel 12-15 Megawatt)?

[Reactie gewijzigd door ZinloosGeweldig op 5 september 2025 15:29]

[Verbruggen]

Er staat nu zelfs miliwatt per uur... Vermoed ook een typefout inderdaad, 11 megawatt is consistent met de rest van het verhaal

[phantom09]

Effe wat bitcoins er mee minen

[Zoijar]

Hoe wordt eigenlijk bepaald wie dat dat ding mag gebruiken en voor wat? Moet je proposals indienen ofzo aan een commissie?

[wildhagen]

Je kunt toegang aanvragen, via Supercomputers Access Calls - EuroHPC JU

Bovenstaande link is specifiek voor de nieuwe Jupiter, voor de andere bestaande systemen heb je hier links om resources/toegang aan te vragen: Apply for computing time

[BramVroy]

Hetzelfde geldt trouwens voor lokale clusters (bv. bij SURF (NL) of VSC (BE)). Vaak is het een kwestie van een goed voorstel schrijven dat al dan niet wordt goedgekeurd en je bent klaar.

[JustFogMaxi]

Dit al een cookie banner die geen Decline all knop heeft, hoppa...

[Blizz]

Accept all cookies vs. Accept only essential cookies

'Essentiële cookies' hoeft een website jou niet af te laten wijzen. Verder staat er een linkje naar een cookies policy page, waar helaas niet een duidelijk kort overzicht is, maar wel duidelijk per categorie cookie is aangegeven of ze je instemming nodig hebben, of het first-party is en wat het dient en nog meer details.

edit:
Overigens raad ik iedereen van harte aan om Consent-O-Matic op al hun apparaten in te stellen. Cross-platform, FOSS en erg gemakkelijk en transparant. Ik raad aan om Preferences and Functionality in te schakelen en de rest uitgeschakeld houden, zodat onschuldige voorkeuren zoals de cookie-acceptatie zelf bewaard blijven en je daar niet elke dag opnieuw doorheen hoeft.

[Reactie gewijzigd door Blizz op 5 september 2025 18:16]

[readefries]

OT/ Dat is ook niet nodig, niet alle cookies hoef je te vragen of zijn optioneel. Als je geen coockies wil, heb je daar een prima instelling voor om ze in je browser uit te zetten.

[SomerenV]

Zou je toegang krijgen zodat je CineBench kunt draaien en een insane hoge score kunt krijgen? Goed voor je e-peen

[goarilla]

Moet dat verbruik niet in MegaWatt zijn: 1xGH200 gebruikt immers volgens servethehome
https://www.servethehome....r-1u-server-review-arm/4/

In terms of power consumption, the GH200 system idled at around 680W. We were able to hit peaks in the 1.4-1.6kW range depending on what we were doing.

En er zitten hier 24.000 in ???

edit:
Ok nu begrijp ik het voor een bepaalde testload behaalde ze 67 kW maar volgens dit [https://www.eurohpc-ju.europa.eu/european-exascale-supercomputer-jupiter-sets-new-energy-efficiency-standards-1-ranking-green500-2024-05-13_en] zal het gemiddelde verbruik rond de 11 MW liggen

- During measurements for the Green500 ranking of the most energy-efficient supercomputers, the JEDI system achieved a computing power of 4.5 quadrillion floating-point operations per second, or 4.5 petaflops, with an average power consumption of 66 kilowatts. During optimised operation, the power consumption was reduced to 52 kilowatts.

- According to estimates, JUPITER’s energy requirements will average around 11 megawatts. Further measures will help to use energy even more sustainably. The modular data centre in which JUPITER will be housed is designed to extract the heat generated during cooling and to then use it to heat the buildings on the Forschungszentrum Jülich campus.

[Reactie gewijzigd door goarilla op 5 september 2025 13:30]

[GameNympho]

Ben ook benieuwd naar de "groene energie", als er geen zon schijnt, computer uitschakelen? Geen LLM`s draaien?

Hoe lossen ze dat op?

[watercoolertje]

Zelfde manier dat ik thuis ook groene energie heb, mijn verbruik in groen kopen maar uit mijn stopcontact komt gewoon een mix van groen en grijs, maar iemand die grijs koopt krijgt ook groen dankzij mij (en andere).

Daardoor wordt er dus meer groen het net in gepompt bij overschot en grijs van het net gehaald bij tekort. Zolang je netto maar zoveel groen inkoopt als je verbruikt ben je 'groen', daarvoor hoef je het dus niet zelf te gebruiken

[Reactie gewijzigd door watercoolertje op 5 september 2025 15:20]

[HyperioN]

Zonne-energie is verre van de enige vorm van hernieuwbare energie…

[m_snel]

Inderdaad het is eindig en je krijgt tot het einde steeds nieuwe energie.
Maar we kunnen er nog z’n vijf miljard jaar gebruik van maken. Nou ja als wij er dan nog zijn.

[ResuCigam]

"staat daarmee op de eerste plaats van de Green500-lijst als de efficiëntste supercomputer ter wereld, met prestaties van 72,7Gflops per watt en een totaal vermogen van 67kW."

67kw voor 24000 GPU's lijkt mij wat weinig?

[jurgen1976]

Dat kan inderdaad niet, daarmee kom je op 2.7 W per gpu, dat zou een hele prestatie zijn van Nvidia


Edit

Als ik in de top 500 lijst kijk dan staat daar ruim 13.000 kW voor dit systeem dus 13 mW, dat klikt realistischer. Daarmee kom je op 540 W per gpu.

[Reactie gewijzigd door jurgen1976 op 5 september 2025 13:26]

[josh-hill]

Ik snap wat je bedoelt, maar mW betekent milliwatt, een duizendste watt. Een miljoen watt, of megawatt, wordt aangeduid met MW (hoofdletter M).

[GameNympho]

In idle , maar in load?

[djexplo]

Daarin haalde het systeem Linpack-praktijkprestaties van 793,4 petaflops aan fp64-rekenkracht, goed voor een vierde plaats wereldwijd

Deze Top500 lijst is voor een systeem bestemt voor AI modellen eigenlijk onzin. Want deze gebruiken vaak bij training geen double precision (FP64) maar single precision (FP32) en bij interference zelfs maar FP8 of INT4.
Zelf rapporteerd NVIDIA 8x meer performance op Linpack FP8 dan op FP64, voor deze GH200-superchips, link.

[Reactie gewijzigd door djexplo op 5 september 2025 12:51]

[BramVroy]

Bij training vaak bf16 (of minstens mixed precision) en nu en dan steekt er ook iemand de kop op met native fp8 training. De impact van efficientie op deze schaal is enorm.

[Reactie gewijzigd door BramVroy op 5 september 2025 16:57]

[RobWest]

'Het systeem draait echter volledig op hernieuwbare energie'.

In het boek 1984 hadden ze het over 'nieuwspraak'. Ik zou bovenstaande tekst als 'deugspraak' betittelen. Ik wil het nut van een supercomputer absoluut niet in twijfel trekken. Het gaat mij alleen om deze tekst. Als deze supercomputer niet op hernieuwbare energie had gedraaid, dan had je die hernieuwbare energie voor iets anders in kunnen zetten. Dus dat is allemaal lood om oudijzer.

[DonCortizone]

Dat kan je over ieder nieuw duurzaam project zeggen. Ik snap het niet, je vindt supercomputers nuttig maar je hebt liever dat ze op steenkool draaien?

[Sissors]

Nee hij maakt het valide punt dat tenzij voor dit project specifiek groene energie wordt opgewekt, het onder de streep zorgt voor dat er meer grijze energie wordt gebruikt. Simpelweg omdat het puur administratief betekend dat wat van de vaste hoeveelheid groene energie hierheen gaat, terwijl er niet daadwerkelijk meer groene energie voor wordt opgewekt.

[ZinloosGeweldig]

Simpelweg omdat het puur administratief betekend dat wat van de vaste hoeveelheid groene energie hierheen gaat, terwijl er niet daadwerkelijk meer groene energie voor wordt opgewekt.

Als je daar extra voor betaalt, en dat geld gaat naar opwekkers van energie uit duurzame bronnen, maakt het op de lange termijn wel uit.

Op de korte termijn is het inderdaad een dooddoener, we bestaan niet in isolatie.

[rjmno1]

Deze computer is relatief zuinig maar omdat hij zoveel cores heeft brand hij veel wattage weg.

Dit ding word gebruikt door wiskundige om een ruimtevaart berekening te maken en is peperduur om hem in te huren voor een uur ofzo.hoe sneller hij is hoe goedekoper hij word of de prijs moet aangepast worden.

[svenk91]

Je hebt gelijk in dat het (vaak) vooral een boekhoudkundig dingetje is om je energie groen in te kopen. Echter, die vraag naar certificaten voor groene energie helpt wel met het realiseren van meer groene energie op het stroomnet en is daarmee ook zeker niet nutteloos.

[m_snel]

Zo gaat het in het echte leven natuurlijk niet, hoe meer klanten hernieuwbare energie willen des te meer er geleverd moet worden.
Je dwingt de leverancier dus om meer te investeren in niet fossiele energie.

[telenut]

Dus iedereen zonder zonnepanelen op zijn dak is ook energie aan het weggooien...

[familyman]

Lood en oudijzer zijn beiden recyclebaar

[dwkoster]

We hebben toch al AI? en al die agents doen het toch behoorlijk en overstijgen toch voor de meesten onder ons de verwachtingen?
Waar is dit dan precies goed voor?
Ai trainen gebeurt dus al... is het dan sneller trainen?
fake nog meer niet kunnen onderscheiden van realiteit?

Ik zie het nu alleen maar als geld verspillen. Gewoon spierballen vertoon.

[Silencer1981]

De EU moet ook onafhankelijk van andere landen hun ding kunnen doen. Een eigen supercomputer is noodzakelijk om mee te blijven doen op het wereldtoneel en ook onafhankelijk te kunnen zijn. Het is mooi dat deze beschikbaar is voor heel de EU om onderzoeken op te kunnen doen en dat het geen traag dingetje, maar hypermodern.

[watercoolertje]

Waar is dit dan precies goed voor?

Om niet/minder afhankelijk te zijn van anderen...

Waarom doe jij wat je doet? Want er zijn echt wel mensen die dat beter kunnen?

[Lieftalig]

Hoe wordt je minder afhankelijk van Nvidia met een supercomputer met 24000 nvidia chips?

[watercoolertje]

Iets in eigen bezig hebben maakt je toch echt onafhankelijker van andere dan dat je moet huren/lenen. Ookal koop je het van degene die het je anders zou verhuren/uitlenen...

[Reactie gewijzigd door watercoolertje op 5 september 2025 15:16]

[Blaz0r]

maar deze chips zijn dan weer gemaakt met ASML machines!

[ShadLink]

Oh daarom zijn die videokaarten zo duur.

[m_snel]

Dit zijn toch wel wat andere kaarten dan de huis tuin en keuken video kaarten.
Maar je hebt ze ook van 10 of 20 duizend per stuk.

[blorf]

Er zijn binnen de Europese Unie al jarenlang ambities om eigen hpc-hardware te ontwerpen, om zo minder afhankelijk te worden van Amerikaanse chipbedrijven als Nvidia.

O ja? Waarom worden er dan geen chips gemaakt? Beetje Nvidia opstapelen en dan competitie suggereren...
Anders proberen ze het eens zonder monolitische opzet. Die chips zijn allemaal onnodig torens omdat ze anders met een kwantiteit van zichzelf gaan concurreren