Jedec publiceert HBM3-standaard met maximale bandbreedte van 819GB/s

Jedec heeft de JESD238 HBM3-standaard gepubliceerd, geheugen dat onder meer in grafische kaarten gebruikt wordt. De nieuwe standaard heeft een hogere maximale bandbreedte dan voorganger HBM2E, wat komt doordat de per-pin-datarate is verdubbeld.

De HBM3-standaard heeft een per-pin-datarate van 6,4Gbit/s, waardoor de maximale bandbreedte per geheugenmodule 819GB/s is, meldt Jedec. Daarnaast is het aantal onafhankelijke kanalen verdubbeld naar 16. Omdat elk kanaal uit twee pseudokanalen kan bestaan, ondersteunt HBM3 32 virtuele kanalen, zegt de standaardmaker.

De nieuwe geheugenstandaard ondersteunt 4-high-, 8-high- en 12-high-tsv-stacks, met de mogelijkheid om straks 16-high-tsv-stacks te ondersteunen. Tsv staat voor through-silicon via en verbindt geheugenlagen met elkaar, waarbij het cijfer aangeeft uit hoeveel geheugenlagen een module bestaat. In een 8Gbit-4-high-opstelling, waarbij er dus vier 8Gbit-geheugenlagen zijn, kan een enkele module 4GB geheugen hebben. HBM3 ondersteunt daarom in theorie maximaal 64GB, in een 32Gbit-16-high-opstelling. Bij een 32Gbit-12-high-opstelling, het huidige maximale, kan een HBM3-module uit maximaal 48GB geheugen bestaan. Jedec verwacht dat de eerste HBM3-apparaten 16Gbit-geheugenlagen gebruiken.

HBM3 heeft verder on-die-error-correction-code om de betrouwbaarheid en beschikbaarheid te vergroten. Daarnaast gebruikt de nieuwe standaard een lagere spanning van 1,1V, waardoor het geheugen efficiënter zou zijn.

Onder meer Micron, SK hynix en Synopsys zeggen HBM3 te willen gebruiken. SK hynix kondigde afgelopen oktober al een eerste HBM3-geheugen aan en zei toen met modules van 24GB en 16GB te komen. Wanneer het nieuwe geheugen moet verschijnen, is niet bekend. AMD gebruikte voorheen HBM-geheugen voor zijn Radeon R9 Fury- en Vega-kaarten, maar gebruikt bij de Radeon RX 6000-kaarten alleen nog maar GDDR6-geheugen. Nvidia gebruikt het HBM-geheugen voor zijn high performance computing-kaarten, zoals de A100-accelerator.

Wat vind je van dit artikel?

Geef je mening in het Geachte Redactie-forum.

Reacties (12)

Zo'n standaard is een protocol toch? Hoe gaat dat in zijn werk als het gaat om het daadwerkelijk maken van hardware? Publiceert JEDEC een standaard en is het aan fabrikanten om maar uit te zoeken hoe je een bepaalde bandbreedte kunnen halen en hoe ze het implementeren? Grenzen verleggen lijkt mij voornamelijk een creatief proces waar je niet zomaar een einddoel aan kan koppelen.

[Reactie gewijzigd door Sebazzz op 28 januari 2022 17:01]

Publiceert JEDEC een standaard en is het aan fabrikanten om maar uit te zoeken hoe je een bepaalde bandbreedte kunnen halen en hoe ze het implementeren?

Die fabrikanten zijn lid van JEDEC en zullen dus betrokken geweest zijn bij het ontwikkelen van de standaard. Het is dus niet zo dat JEDEC een standaard maakt en de fabrikanten zoeken het maar uit, eerder dat de fabrikanten dit soort geheugen op de markt willen zetten en de JEDEC is het clubje waarin ze met elkaar afspreken hoe de protocollen hiervoor gaan werken zodat dingen straks kunnen samenwerken.

Kopt dit leverde vele jaren geleden het RAMBUS schandaal op die hun eigen technologie in de standaard introduceerden met vele rechtzaken tot gevolg.

nieuws: Rambus opent SDRAM patent rechtszaak tegen Infineon
nieuws: Interview met David Mooring, directeur Rambus Inc.
nieuws: Hitachi in tegenaanval op Rambus rechtszaak

Zo rond de tijd begon ik Tweakers te lezen, naast Anandtech en Toms Hardware.

Het knapste hieraan is dat je je tweakers nieuws van 22 jaar geleden nog herinnerd en ernaar terug kan koppelen.

Ik denk ook dat dit uiteindelijk 1 van de oorzaken was voor de val van RAMBUS.

Ze bestaan nog steeds, ze leven van die patenten

https://en.wikipedia.org/wiki/Rambus

Maar ze staan voornamelijk bekend als Patent Troll.

Vraag me dan ook vooral af wat de latency is hiervan. Bij regulieren DIMMen is dat toch wel een siginificante factor. Dat maakt een stuk meer verschil dan of iets 90 GB/s kan pompen, of 900 GB/s.

Voor random access wel, maar voor toepassingen die simpelweg veel data moeten streamen is thoughput veel belangrijker en latency minder significant. Dit is niet bedoelt voor standaard werkgeheugen.

Aangezien HMB veel op GPUs voorkomt, waar bandbreedte veel belangrijker is dan latency, zit 't wel snor denk ik zo. Vergelijken met regulier ram is lastig. Vergelijk het met een rappere versie van GDDR.

Mooi dat dit zich ook verder ontwikkelt. Ik denk dat de 4000 serie te dichtbij staat om hier al gebruik van te maken? Wellicht implementatie bij de 5000 serie Hopelijk vallen de productie kosten mee zodat de kaarten hierdoor niet nog veel duurder worden. *Fingers crossed*

Waarom? AMD heeft laten zien dat slim omgaan met caching via infinity cache veel beter werkt. De high end GPUs komen ook met GDDR6X wel uit de verf. HBM is veel te duur voor dit doeleinde, daarom is AMD er ook mee gestopt. Nvidia heeft ook geen baat bij HBM voor desktop kaarten.

De enige plek waar HBM wel een meerwaarde heeft bewezen in desktops/laptops was in de Intel Kaby Lake G serie. Jammer dat ze daar niet mee verder gingen.

HBM is te duur voor op gewone gpu's (zie vega) en word alleen gebruikt op professioneel apparatuur die effectief gebruiken maken van de band breedte

HBM wordt ook gebruikt met FPGA's van Intel (voorheen Altera) en Xilinx (binnenkort AMD). Voorbeeld:

https://www.nextplatform....-new-ai-centric-fpga/amp/

[Reactie gewijzigd door likewise op 29 januari 2022 03:06]