SK hynix ontwikkelt HBM3E-geheugen van 48GB, 16 in plaats van 12 lagen - update

SK hynix kondigt de ontwikkeling van HBM3E-geheugen van 48GB aan, wat mogelijk is dankzij de zestien lagen geheugen. In september kondigde het bedrijf al HBM3E-geheugen met twaalf lagen aan.

Het is voor zover bekend voor het eerst dat een fabrikant HBME-geheugen met zestien lagen ontwikkelt. Dergelijke hardware ondersteunt 3GB geheugen per laag, wat het totaal van 48GB verklaart. HBM, ofwel high bandwidth memory, is bedoeld voor datacenters voor bijvoorbeeld AI-toepassingen. SK hynix claimt dat dergelijke geheugenmodules de prestaties van AI-training met 18 procent verbeteren, terwijl zogenoemde inference-opdrachten tot 32 procent sneller verwerkt moeten worden, zo citeert Wccftech. Dergelijke AI-opdrachten maken gebruik van een 'afgetraind' model, dus niet van AI-modellen die nog getraind moeten worden.

SK hynix kondigde in september nog HBM3E-geheugen met 12 lagen aan, goed voor een capaciteit van 36GB. Momenteel is de gebruikelijke geheugencapaciteit van systemen met HBM-geheugen 24GB, wat de maximale capaciteit van zowel HBM3 als HBM2E is.

Update, 14.10 uur: Het oorspronkeljike artikel beschreef het betreffende HBM3E-geheugen als in productie. Voor zover bekend gaat het om een aankondiging van de ontwikkeling, niet om daadwerkelijke massaproductie.

Reacties (9)

[metalmania_666]

Het gaat snel met de ontwikkelingen:
In september wordt 12 laags aangekondigd, en nu al 16 laags.
Uiteindelijk sijpelt dit ook door naar de consumentenmarkt

[Vulcanic]

Het zal nog even duren voordat HBM weer voor consumentenkaarten gebruikt gaat worden. AMD heeft dit eerder geprobeerd, en dat was geen succes.

[spNk]

Nee, maar dat komt omdat er te weinig geheugen op de kaart aanwezig was. Nu dat probleem verholpen wordt kan het wél een succes worden.

[sympa]

Bij flash helpen de lagen om goedkoper geheugen te maken.
Ik vraag me af of dat bij DRAM ook zo is. Als het gestapelde [i][dies/i] zijn zal het vooral duurder zijn.
Wel compact, wat natuurlijk gunstig is voor HBM. Maar aangezien Intel voor de consument geen geheugen on-package gaat gebruiken...

[runeazn]

Volgens mij vooral nog sneller.
Net zoals een postbode bij een flat of een wijk.
Hij is veel sneller met 10 brieven bezorgen bij de flat dan 10 vrijstaande huizen.

[SPee]

Snelheid van het RAM zal niet anders zijn. Het moet immers nog naar de CPU/GPU voor gebruik en die verbinding blijft hetzelfde. Je heb alleen meer geheugen die je kunt gebruiken. Voor grote AI/LLM modellen is dat een (snelheids)voordeel omdat je dan meer van het model ingeladen kunt houden. Of game assets voor games.

[runeazn]

Nee de snelheid is wel hoger, bandbreedte. Ja die cpu blijft hetzelfde, maar dat is een ander verhaal toch? Zo werkt ontwikkeling niet. Als je iets niet maakt omdat het nu nog niet kan dan innoveer je niet.

Stel je hebt een formule 1 motor en je huidige banden zijn voor een Fiat panda. Dan ga je toch ook niet zeggen oh nee die motor kan niet in mijn auto omdat mijn banden dat niet aan kunnen. Nee dat geeft juist motivatie om beter banden te maken.

je laat klinken alsof je niks aan snelheid hebt en alleen aan meer geheugen, dat is niet waar want als je je geheugen 2x zo groot maakt wil je die ook 2x zo snel lezen. Zodat je dat in dezelfde tijd kan doen.

[SPee]

Grootte en bandbreedte zijn twee aparte dingen, net zoals de CPU.

Een betere stelling is: je hebt een externe ssd die je aansluit op je pc via USB3. Gaat een 1TB versie sneller dan een 4TB versie?
Ja, je wilt die 4TB sneller kunnen lezen, maar je zit momenteel gebonden aan de USB3 verbinding, dus dat kan op dit moment niet. Updaten naar een snellere/betere versie (USB4) is een andere update. Van beide kun je profijt hebben. Maar op dit moment heb je alleen de 4TB verbetering, zodat je grote bestanden niet meer in 4 losse acties hoeft over te zetten om toch winst te behalen. Later kun je dan die andere update doen, bv als je yield goed genoeg zijn.

[sympa]

Precies en dat komt dan door korte verbindingen. Maar als je geheugen op dimms blijft zitten maakt het voor die afstand niet genoeg uit.