Samsung ontwikkelt GDDR6W-gpu-geheugen met verdubbelde capaciteit en bandbreedte

Samsung introduceert GDDR6W, een nieuw geheugentype dat gebruikmaakt van fan-out-packaging. Daardoor kan een GDDR6W-module met twee keer zoveel geheugen worden uitgerust als GDDR6, terwijl er minder ruimte in beslag wordt genomen.

Samsungs GDDR6W gebruikt volgens de fabrikant fan-out wafer-level packaging, waarbij het geheugen op een siliciumwafer wordt geplaatst in plaats van op een pcb. Daarbij wordt een redistribution layer aangebracht, wat fijnere bedrading mogelijk maakt. Die fijnere wiring, samen met de afwezigheid van een pcb, betekent dat de package minder dik wordt en de warmte beter kan worden afgevoerd.

Door het toepassen van fan-outpackaging en een dergelijke redistribution layer behouden GDDR6W-geheugenchips ongeveer dezelfde omvang, maar kunnen er binnen de package meerdere dram-chips op elkaar worden gestapeld. Daardoor wordt de maximale capaciteit van GDDR6W opgehoogd naar 32Gbit per module, wat neerkomt op 4GB. Dat is een verdubbeling van GDDR6, die worden geleverd in modules van maximaal 2GB per stuk. Ook de bandbreedte van GDDR6W wordt verdubbeld ten opzichte van gewoon GDDR6-geheugen.

Samsung claimt dat de bandbreedte van GDDR6W hiermee in de buurt komen van HBM2E, een soort geheugen dat voornamelijk is bedoeld voor hpc-toepassingen. GDDR6W heeft een bandbreedte van 22Gbit/s per pin. In een configuratie met in totaal 512 pinnen, verdeeld over acht GDDR6W-packages, komt dat neer op een systeembandbreedte van 1,4TB/s.

HBM2E heeft op zijn beurt een bandbreedte van 3,2Gbit/s per pin. In een configuratie met 4096 van dergelijke pinnen, verdeeld over vier HBM2E-packages, kan daarmee een systeembandbreedte van 1,6TB/s gehaald worden. GDDR6W kan verder goedkoper geproduceerd worden dan HBM2E, aangezien GDDR6W minder pinnen gebruikt en er daarmee geen noodzaak is om packagingtechnieken met microbumps of interposers in te zetten.

De Zuid-Koreaanse chipfabrikant heeft GDDR6W eerder dit jaar bij Jedec laten standaardiseren. Samsung wil het geheugentype onder meer gebruiken in kleine producttypes als notebooks en voor AI- en hpc-accelerators. Het is niet duidelijk wanneer het geheugentype in gpu's moet verschijnen.

Samsung vergelijkt GDDR6W met GDDR6

Reacties (20)

Misschien dat ik het niet helemaal begrijp, maar is dit ongeveer hetzelfde als Nvidia's GDDR6X geheugen of is dit iets totaal anders?

Volgens deze site gebruiken ze een extra frequentie voor hogere datarates: https://www.technipages.com/what-is-gddr6x.
GDDR6W maakt de packages kleiner waardoor er meer packages op kunnen, voor zo ver ik kan zien is er niet echt een verhoging van de snelheid, maar zijn er gewoon meer chips beschikbaar die de bandbreedte verhogen.

Edit: ik zie dat @youridv1 het artikel beter heeft gelezen dan mij. De snelheid is inderdaad hoger dan standaard GDDR6 (18Gbit/s).

[Reactie gewijzigd door vanthome op 29 november 2022 12:27]

Volgens deze site gebruiken ze een extra frequentie voor hogere datarates: https://www.technipages.com/what-is-gddr6x.

Dat is niet helemaal correct. Normaliter zijn er 2 logic levels die aangeven wat de staat van een pin is: 0 en 1. Hij is bijvoorbeeld in staat 0 als de spanning onder de 0.8V ligt, en in staat 1 als de spanning boven de 3.2V ligt. Bij PAM4 wordt er gebruik gemaakt van 4 logic levels waardoor er 2 toestanden bij zijn gekomen. Als de spanning op de pin bijvoorbeeld tussen de 0.8V en 2V is, staat de pin in stand 01. Als hij tussen de 2V en de 3.2V zit staat hij in stand 10.

De staat van de pin is een feite dus een analoge spanning. Vervolgens wordt de pin op een hele hoge snelheid geschakeld. De snelheid waarmee dit gebeurd wordt de frequentie genoemd.

Bedankt voor de uitleg!

Kleine opmerking: GDDR6X is niet “van nvidia” dit kopen ze ook gewoon in bij micron. Het is wel “in samenwerking ontwikkeld met nvidia” maar feitelijk is het gewoon nog steeds geheugen van een derde partij

verder zit gddr6x op 21 gbit/s per pin, waar gddr6w op 22 zit, dus w is sneller

[Reactie gewijzigd door youridv1 op 29 november 2022 12:18]

Het lijkt er wel op dat Nvidia een exclusief contract heeft met Micron, waardoor alleen zij dit geheugen krijgen. Het nadeel daarvan is dat ze ook verplicht zijn om al dat geheugen af te nemen. Dat lijkt bijvoorbeeld de reden te zijn voor de GDDR6X versie van de 3060 Ti. Dat is puur om dat geheugen maar ergens kwijt te kunnen.

De GDDR6X versie van de 3060Ti heeft enkel bestaansrecht omdat NVidia hun oude 3060Ti chips kwijt moet zien te raken. Het GDDR6X geheugen kunnen ze immers gewoon op alle huidige videokaarten kwijt.

Niet helemaal waar denkik. Want micron blijft produceren en nvdia gooit de productie van kaarten omlaag afgelopen 6 maanden. Daarbij nog eens uitstel van de releases. Om maar de schappen leeg te krijgen en zo lang mogelijk nog van de hoge winstmarges te kunnen genieten.

Zie elke 2 weken dalen de prijzen nog van de kaarten. Vooral aan AMD zichtbaar en iets minder aan nvdia, maar die gaan wel hard droppen als de mid tiers aankomen van beide nieuwe series.

Ik denk dat GDDR6X gemaakt wordt door micron en dat deze ook de enigste fabrikant is die dit soort memory maakt als ik me niet vergis. nvidia gebruikt deze GDDR6X up hun producten. Ik denk dat dit het tegen product wordt van samsung om te kunnen concureren met GDDR6X van micron.

Misschien is de bedoeling juist dat het 'beter' is. En dan vooral energiezuiniger, want volgens mij was GDDR6X behoorlijk hongerig.

Uiteindelijk gaat geheugen vooral om kostprijs icm de benodigde snelheid om de hardware die erop wil draaien goed te ondersteunen. Genoeg is genoeg, teveel is verspilling. Deze W-versie is duidelijk op lagere kosten gericht icm enkele voordelen.

[Reactie gewijzigd door Vayra op 29 november 2022 19:19]

En hoe heet wordt het

Hangt van de koeling af

Onzin...

Als ik een standaard GDDR6 chip gebruik en daar naast een GDDR6W chip plaats en ze een zelfde workload geef welke chip wordt er dan warmer. Dat hangt niet van de koeling af maar van de capaciteit van de chip om de hitte af te voeren. Als je de chips niet wil slopen plaats je op alle twee een zelfde heatsink, nog steeds hangt het niet van de koeling af maar van de chips mogelijkheid om de hitte efficient te transporteren.

Als ik het ontwerp bekijk denk ik dat de GDDR6W chips warmer zullen worden omdat er meerdere lagen worden gebruikt wat veel al niet echt lekker werkt als je een koele chip wil bouwen. Nu is de package flink anders en dat zou best nog wel eens een groot verschil kunnen maken natuurlijk. Maar gezien de press release en dus de marketing blaat niets meld over verbeteringen in hitte afvoer gok ik er op dat het op z'n best niet beter zal zijn dan GDDR6 en waarschijnlijk even minder waardoor deze chips warmer zullen worden dan standaard GDDR6. Al neem ik aan dat het niet heel veel warmer zal zijn omdat de GDDR6 chips al aardig wat warmte kunnen produceren.

Hoei bijna een 4090 Ti Super + gekocht ... toch maar weer even afwachten op de nieuwe versie!

Nvidia heeft een deal met micron voor hun geheugen, dus ik betwijfel dat ze zomaar gaan wisselen. Ze moeten wrss al het geheugen afnemen van micron daarom net zoals al ergens in de comments vermeld (@Ludewig) , maken ze al rare keuzes met gpu's omdat ze geheugen teveel hebben.

Eh... hij was niet helemaal serieus bedoeld... voor zover ik weet bestaat de 4090 Ti nog niet eens. Ik parodieerde mensen die op "de volgende " wachten.

Ohh mijn excuses, ik dacht dat je een 4090 had getypt, de TI super + was me niet opgevallen, ik denk dat ik best nog een koffie drink

Geniet van een lekker bakje!

edit: foute reactie

[Reactie gewijzigd door Tibo_Stans op 29 november 2022 14:53]

GDDR6W-gpu-geheugen

impliceert de G niet dat het altijd om geheugen voor een gpu gaat, aangezien ze in beiden voor "Graphics" staat en ik voor zover ik weet het nog nergens anders in ben tegen gekomen (aangezien datacenter-kaarten ook als gpu of gpgpu worden aanzien)