Nvidia's Vera Rubin-datacenterchips zijn in volledige productie

Nvidia is begonnen met de productie van zijn nieuwste Vera Rubin-datacenterchip. Die bestaat uit een geheel nieuwe cpu- en gpu-architectuur, wat volgens het bedrijf tot vijf keer betere prestaties levert dan voorganger Blackwell. Ze komen in de tweede helft van dit jaar officieel uit.

Nvidia-baas Jensen Huang bevestigde de productie van zijn Vera Rubin-chips tijdens zijn Computex-keynote in Taiwan. De chips zijn inmiddels in productie bij leverancier TSMC, en ook fabrikanten als Dell, HPE, Lenovo en Supermicro werken aan hun servers met deze nieuwe AI-chips.

De Vera Rubin-datacenterchips werden eerder dit jaar al aangekondigd tijdens de CES in januari. Het bedrijf zei toen dat deze chips tot tien keer minder tokens vereisen dan de voorgaande Blackwell-generatie. Ze hebben een nieuwe Vera-cpu met 88 door Nvidia ontworpen Arm-cores, aangevuld met een nieuwe Rubin-gpu.

Daarmee levert een compleet Vera Rubin-systeem tot 50 petaflops aan AI-rekenkracht per stuk, ten opzichte van 10 petaflops bij een vergelijkbaar Blackwell-systeem, aldus Nvidia. Dat is wel alleen bij gebruik van Nvidia's eigen NVFP4-floatingpointformat; bij gewone, universele FP4-data is dat verschil een stuk kleiner.

Hoewel de Vera Rubin-chips nu dus door de fabrieken rollen, zijn ze nog niet compleet beschikbaar. Volgens Nvidia beginnen de leveringen aan klanten 'deze herfst'.

Nvidia-ceo Jensen Huang toont een Vera Rubin-systeem tijdens zijn keynote. Foto: Tweakers

Reacties (9)

[Krankenstein]

Het bedrijf zei toen dat deze chips tot tien keer minder tokens vereisen dan de voorgaande Blackwell-generatie

Kan iemand deze zin duiden? Hoe kan een chip tokens vereisen? Zijn de berekeningen die uitgevoerd worden niet onafhankelijk van of ze voor AI zijn (tokens) of iets anders? Dus bijv. gewoon een matrix-/vector operatie?

[The-Source]

In de keynote link: "Vera Rubin delivers the POD-scale foundation for next-generation AI factories — with 10x agent throughput at scale compared with the previous-generation NVIDIA Grace Blackwell platform"

Dus vertaling lijkt mij uit de bocht te zijn gesprongen

[YopY]

Dus 10x hogere prestaties; tokens is een ding dat de AI aanbieders gebruiken om een soort "rate limit" toe te passen. In theorie kan 1 machine 10x zoveel werk verzetten waardoor in theorie ze 10x meer tokens per maand aan kunnen bieden aan klanten... maar in de praktijk zal het hun kosten drukken. Of corrigeren, aangezien de kosten nu veel hoger zijn dan de inkomsten.

[GeroldM]

Kosten blijven hoog, want een server gebaseerd op Rubin werkt niet in een datacenter rack dat net genoeg energie kan leveren voor een op Blackwell gebaseerde AI server.

Want 1 van de dingen van Rubin is namelijk dat het bijna 3 keer zoveel energie verbruikt dan Blackwell.

Dan kun je claimen: 10x de prestaties tegen 3x energie prestaties, dat is positief.
Logisch gezien wel. In theorie...

In de parktijk betekent dat alleen nieuwe datacenters met Rubin servers kunnen werken en dat al bestaande datacenters niet (meer) omgebouwd kunnen worden voor de enorme energie-behoeftes van Rubin.

Want Blackwell zuipt al energie als een kruisvaarder, Rubin zuipt 3 keer meer.

In oude(re) datacenters kun je server racks volbouwen met niet-AI servers, want deze hebben een veel lagere energiebehoefte (al zijn ook deze verre van zuinig te noemen).

Moderne datacenters hebben vaak al moeite om 1 Blackwell GPU server in 1 server rack van genoeg electriciteit te voorzien. Ook is het gewicht van zo'n server een probleem aan het worden.

Nu zijn servers voor server racks zowiezo niet licht en datacenters met verdiepingenzijn vaak ontworpen met een bepaald gewicht per rack in gedachten. AI servers gaan daar met gemak overheen. Koeling van zulke "heethoofdige" servers vereisen ook heel wat infrastructuur binnen een datacenter.

Dus bestaande datacenters ombouwen zodat deze geschikt worden voor Blackwell of Rubin servers, kost niet alleen klauwen met geld als dat uberhaupt al mogelijk is. Het houdt ook in dat men grote delen van een datacenter uit zal moeten schakelen tijdens deze verbouwingswerkzaamheden.

Dan is het vervelend als in die delen jouw server-apparatuur staat. Of de servers die aan jou/je bedrijf zijn verhuurt. Verplaatsen naar een andere locatie is in dat laatste geval jouw probleem niet. Ook al zal dat met de beste wil van de wereld gebeuren, vertrouw er niet op dat dit probleemloos zal zijn.

Echter, er worden niet (genoeg) nieuwe datacenters gebouwd die met deze Rubin GPU servers om kunnen gaan. Want ook nieuwbouw is stervensduur en vereisen hoogwaardige elektrische elementen die niet door zo heel bedrijven gemaakt kunnen worden en ook niet in de gewenste aantallen. Dus meer vraag dan aanbod, dus hogere prijs en je zal moeten wachten tot je alles hebt voordat je daadwerkelijk kunt beginnen met de bouw van je nieuwe datacenter.

Dat zijn dus enorme kosten waar datacenter uitbaters flink tegenop zien en de bouw van nieuwe datacenters aanzienlijk vertragen.

Een heel relaas om aan te geven dat het leuk is dat NVidia zegt nieuwe servers te bouwen. Wanneer deze daadwerkelijk in bedrijf genomen kunnen worden in datacenters, daarover zullen zij niets kunnen zeggen.

Zelf zie ik die situatie pas in 2030 enigzins goed komen...indien er geen problemen waren met olie in en rond de Straat van Hormuz.

Helaas zijn daar dus wel problemen. Niet alleen met olie, maar ook met helium distributie. Helium is een belangrijk onderdeel bij het produceren van chips. Dus ben ik bang dat de prijzen van cloud-LLMs niet snel omlaag kunnen. Ook al zouden de uitbaters van cloud-LLMs dat graag willen.

Niet alleen dat, ook denk ik dat NVidia voor langere tijd hun Rubin servers vooral in hun eigen magazijn zullen blijven liggen. Langer dan zij zullen denken of willen.

[Clemens123]

Kzou ook denken dat ze bv. bedoelen "tot 10x minder energie per token" of zo iets.

[Reactie gewijzigd door Clemens123 op 1 juni 2026 08:14]

[justinkb]

typisch gevalletje "not even wrong", oftewel "category error"

[TD-er]

Ik vermoed dat dit wellicht 'instructies' zou moeten zijn? Of kloktikken?

[Recursio]

"in volledige productie"?

--> "Nvidia's Vera Rubin-datacenterchips zijn in productie"

[Reactie gewijzigd door Recursio op 1 juni 2026 07:06]

[Help!!!!]

Phoronix heeft recent reeds een behoorlijk veelbelovende (weliswaar met ook een aantal opgelegde restricties) test gedaan.

NVIDIA Vera CPU Benchmarks: Olympus Cores Delivering The Best Performance Ever Seen On ARM