SK Hynix kondigt HBM3-geheugen aan met bandbreedte van 819GB/s per module

SK Hynix heeft de ontwikkeling van zijn eerste HBM3-geheugenmodules afgerond. Dit geheugen zou een bandbreedte van maximaal 819GB/s per module bieden. Dat is een verbetering ten opzichte van HBM2E, dat een maximale bandbreedte van 460GB/s heeft.

SK Hynix meldt dat het HBM3-modules in twee verschillende capaciteiten gaat aanbieden. Het bedrijf komt met modules van 24GB en 16GB, die respectievelijk bestaan uit 'stacks' van twaalf en acht 16Gbit-lagen. Deze lagen worden met elkaar verbonden met tsv's en maken gebruik van een 1024bit-geheugenbus. De modules zouden verder een bandbreedte van 6,4Gbit/s per pin ondersteunen, schrijft Anandtech. Dat komt volgens de fabrikant neer op een maximale bandbreedte van ongeveer 819GB/s per module. HBM3 krijgt daarnaast on-die ecc, meldt de fabrikant.

SK Hynix claimt in zijn persbericht dat het het eerste bedrijf is dat de ontwikkeling van zijn HBM3-geheugentechnologie heeft afgerond. Opvallend is dat standaardisatieorganisatie Jedec zelf nog geen specificaties voor HBM3 beschikbaar heeft gemaakt. Het is nog niet bekend wanneer de eerste producten met HBM3 op de markt verschijnen. Micron liet vorig jaar al wel doorschemeren aan HBMnext te werken, wat op HBM3 zou kunnen duiden. Dat geheugen zou eind 2022 moeten verschijnen.

	SK Hynix HBM3	SK Hynix HBM2E	SK Hynix HBM2
Capaciteit	24GB of 16GB	16GB	8GB
Bandbreedte per pin	6,4Gbit/s	3,6Gbit/s	2,4Gbit/s
Totale bandbreedte per stack	819GB/s	460GB/s	370GB/s

Reacties (41)

[Fermion]

Apple M1 MAX is nu op een geheugen bandbreedte (CPU/GPU) van 400GB/s…
x86 moet vaart maken! Ryzen 9 zit nu pas rond de 47GB/s.

[Reactie gewijzigd door Fermion op 26 juli 2024 10:26]

[fapkonijntje]

Waarom? AMD heeft in de Xbox series x gewoon de zen 2 CPU en de GPU op 560GB/s geheugenbandbreedte draaien. Die modules verkopen ze ook nog eens los. Maar omdat er meer belangrijk is dan ruwe geheugenbandbreedte helpt dat in laptop/pc niet zoveel als je zou denken.

[Coolstart]

Kleine nuance:
1. Geheugen is snel maar heeft grote latency
2. apart geheugen vr cpu en gpu nodig
3. Geen geïntegreerde gpu.
4. Je kan die kit niet zomaar kopen, enkel systeembouwers hadden toegang.

Dat jij graag traag geheugen wil is fine maar experts zeggen dat het snelle geheugen nieuwe toepassingen toelaat, vooral in video editing. Denk aan meerdere 8K streams, video effecten in meerdere lagen live editen zonder prerender, dus directe feedback. Dan kan enkel als cpu/gpu verbonden zijn via extreem snel geheugen op een korte afstand + hardware acceleration. Het is geen toeval dat de M1 max 10core sneller video’s kan renderen & exporteren dan een 28-core mac pro xeon.

Ik wil wel eens zien hoe de X86 systeembouwers hier op gaan reageren. Als ze zo verder doen is de volgende Ipad Pro M2 sneller dan de meest krachtige x86 build van intel of AMD.

[fapkonijntje]

Dat jij graag traag geheugen wil is fine

Doe eens even niet zo raar. Dat staat namelijk nergens. Je leest/ziet dingen die er niet zijn en legt mij zodoende woorden in de mond.

[Reactie gewijzigd door fapkonijntje op 26 juli 2024 10:26]

[ntzv]

Ik heb hier nog nooit van gehoord, wat is dit eigenlijk en waarvoor wordt het gebruikt?

[glennoo]

een alternatief voor de standaard GDDR VRAM modules op videokaarten, voor zover ik weet is dit de enige toepassing.

[Belgar]

Nee hoor. HBM wordt industrieel veel toegepast in datacaching / throughput buffering. Tenminste in mijn deel van de industrie.

Het zou me niet verbazen als toepassingen zoals dataverwerking van de large hadron collider ook gebruik maken van HBM caches, maar dat ligt buiten mijn werkgebied.

Er zijn veel meer gebieden die noodzaak hebben aan enorme bandbreedte buiten grafische kaarten

[Louw Post]

Ik ben benieuwd of deze techniek uiteindelijk ook niet voor het gewone RAM geheugen in een computer gebruikt kan worden. Het enige wat ik tot nu toe gezien heb is op videokaarten inderdaad.

[KingFrogzz]

Dat zal upgrade mogelijkheden wel beperken vrees ik. Voor zover ik weet wordt HBM geheugen op de die van de rekenchip geplaatst. Door de fysiek kortere afstand tussen rekenaar en geheugen kan de boel sneller werken. Het lijkt me dat je dan dus een cpu koopt met 16gb ram (bijvoorbeeld), maar dat je een nieuwe cpu moet kopen als je twee jaar later liever toch 32 wil.

[Sp3ci3s8472]

Haast goed, er zit nog een interposer tussen.

Ik wil dit wel eens zien in combinatie met een krachtige APU

[procyon]

Volgens mij heeft Apple iets dergelijks (direct geheugen via interposer) met hun M1 pro/max.
De hele package heeft dan maximaal 400GB/s bandbreedte, voor zover is verwacht hebben zij de snelste "APU".

[verkoudenschaap]

Zou de apu van de ps5/ Xbox series x niet nog sneller zijn? Zou wel knap zijn als Apple dat weet te verslaan in zo'n klein pakketje

[procyon]

Dat gaan we zien. Qua Tflops is die M1 max gelijk aan de PS5 bij een verbruik van 100watt.

Nou zeggen Tflops niet alles dus of ie sneller is dat waag ik te betwijfelen. Maar snel en zuinig is ie absoluut

[verkoudenschaap]

Het is hoe dan ook indrukwekkend ja

[Sp3ci3s8472]

Ben benieuwd, want TFlops zeggen niks namelijk (kijk maar naar Vega vs Navi en alle andere voorbeelden). Die kan je alleen vergelijken tussen vergelijkbare architecturen en dan nog is het nog niet waar alles van afhangt (geheugen bandbreedte en het beschikbare geheugen).

[Wildfire]

Nee, het wordt niet als normaal RAM ingezet. Als het in een CPU zou worden toegepast dan is het als cache-geheugen.

[ssmt]

Nope, wordt ook gebruikt in netwerk ASIC (o.a. Broadcom/Cisco switch chips) als snelle packet buffer/uitgebreide tabel ruimte opslag en als System Level Cache/Near Memory in high end CPU's zoals de toekomstige Intel Sapphire Rapids XEON (halverwege volgend jaar) en verschillende DPU/IPU & FPGA (Intel/Xilinx/Mellanox) producten.

[Reactie gewijzigd door ssmt op 26 juli 2024 10:26]

[rjmno1]

Hbm geheugen heeft amd in de geschiedenis eens gebruikt voor de videokaarten maar de geheugen modules waren duurder dan bijv ddr3, ddr4 of 5 en werd dus geschrapt omdat betreffende geheugen modules gewoonweg veel te duur waren.Maar dit soort geheugen heeft wel veel bandbreedte en werden voor andere toepassingen gebruikt.Bij andere apparaten.Tevens is de architektuur anders.
Anders dan gewoon ddr geheugen.

[Reactie gewijzigd door rjmno1 op 26 juli 2024 10:26]

[watercoolertje]

Maar dan overal GDDR ipv DDR, gezien het om grafische (top) kaarten gaat. GDDR en DDR zijn namelijk ook wat anders.

[rjmno1]

Ja gddr bedoel ik sorry foutje van mij.

[TechnoCAT]

Dit maakt het niet veel goedkoper voor de consument zolang inflatie heerst en cryptocurrencies de volle toeren draaien en blijven stijgen zoals Ethereum etc zien we echt geen MSRP adviseerde adviesprijzen. Bovendien zitten we midden inde energiecrisis en coronamaatregelen dus we zullen nog lange tijd mogen wachten of serieus op tijd mogen zijn met reserveringen of preorders...

[Belgar]

Het is dan ook niet alleen voor consumenten, of zelfs maar de primaire doelgroep. HBM3 zal waarschijnlijk initieel naar industriële toepassingen gaan en custom chips. Het zou mij niet verbazen als dit pas veel later of zelfs nooit in consumenten producten terechtkomt.

[lezzmeister]

Als alles wat over kan naar HBM3 dat ook doet, en er is HBM2E genoeg, misschien dat het op een apu gezet kan worden. Dan is het geheugen geen bottleneck meer.

Maar zal inderdaad lang gaan duren.

[TechnoCAT]

Goeie opmerking, bedankt

[Roel1966]

Ik neem aan dat dit soort snel geheugen alleen nut heeft wanneer dit in combinatie gebruikt word met b.v. een snelle videochip. Neem aan dat het weinig nut heeft wanneer de videochip uiteindelijk toch niet alle aangeleverde data kan verwerken. Dus de volgende stap zal dan zijn dat er weer een snellere videochip aan zal komen gecombineerd met snel VRAM.

[Pim0377]

dat is vrij logisch.....dat valt wat dat betreft in dezelfde categorie als de hoeveelheid geheugen op een videokaart. iedereen weet dat het compleet nutteloos is bijvoorbeeld om 16GB aan ram op een geforce 710GT te plakken, die chip zal er NOOIT nuttig gebruik van kunnen maken. de resoluties die er voor nodig zijn om die 16GB voor een groter deel te gaan gebruiken zijn veel te zwaar voor die chip om speelbare framerates eruit te pushen.

[Scriptkid]

dus ze komen nu in de buurt van RAMBUS alleen dan bijna 5-10 jaar later,

[Pim0377]

ja, soort van, alleen was rambus voor cpus en is dit voor gpus

en rambus heeft nooit daadwerkelijk zelf iets geproduceerd, heeft alleen een nichtenstreek (sorry als iemand aanstoot neemt aan die term ) geleverd qua licensering, terwijl SK Hynix het daadwerkelijk wel geproduceerd heeft.

[fapkonijntje]

Toch is het nog best veel gebruikt, onder andere in de Nintendo64 en PS2. Ook Intel leverde een paar jaar moederborden met RDRAM support. Uiteindelijk leverde Intel zelfs tijdelijk twee RIMMetjes mee met de Pentium 4tjes en er zijn wat GPUs geweest die met RDRAM kwamen. Het had ook wel zo'n beetje de eerste commerciële variant van DDR en dual channel in ram, iets dat nu heel normaal is. Ja, misschien dure licenties, maar ze waren op sommige vlakken hun tijd vrij ver vooruit. Wat aparte situaties opleverde, want de Pentium 4 had niets aan dat snelle geheugen want die was zelf te traag.

[goarilla]

Het was destijds ook wel kiezen voor oftewel 512 MB DDR SDRAM of 256 MB RDRAM. Waarbij dat rambus nog altijd een pak duurder was. En rambus had soms 2 soorten modules nodig. Je moest banken opvullen in sets en je had loze modules nodig (continuity rimms) om het signaal te propageren ookal had je maar budget voor zeg maar 128 MB ram. Ik heb heel veel machines mogen wegsmijten omdat ze niet meer dan 256MB RDRAM konden hebben en dat was ook in die tijd (Windows XP) uiteindelijk niet goed genoeg.

[uiltje]

Ik weet nog dat we de memory uitbreiding destijds er eindelijk doorhadden voor onze PC's. En toen werd de gene met RDRAM ook geupgrade. Kostte evenveel als een nieuw systeem aanschaffen. Schofterig gewoon.

[Scriptkid]

Jij bent in de war met RDRAM,

Ik heb het over XDR en XDR 2 wat de opvolgers zijn

Rambus heeft wel degelijk heel veel hiervan geproduceerd en ook hun PHys zijn sneller dan enige concurent

[Aikon]

In welke zin komen ze in de buurt?

[Damic]

Djeez 16 of 24 GB in a single package (lees a toren stack) met een doorvoer van 819GB/s. Spijtig dat het zo kostelijk is om toe tevoegen aan graka's.

[BaBy-G]

Mooie ontwikkeling! Echter jammer dat dit geheugen zo weinig wordt toegepast bij de videokaarten voor consumenten.

[Rickah]

Ik vraag me iets af. AMD heeft in de RX Vega 56 en 64 ook HBM(2) memory gebruikt. Ik vraag mij echter af hoe zulke hoge bandwidth niet wordt gebottleneckt door de bandwidth en kloksnelheid van andere componenten. Een interne bus kan toch nooit zoveel data overbrengen per seconde/clocktick?

[Ome Ernst]

Hoewel slecht verwoord, heb je wel een punt. Maar je had ook zelf op onderzoek kunnen gaan.

Uit https://news.skhynix.com/...development-of-hbm3-dram/ :

HBM3 is expected to be mainly adopted by high-performance data centers as well as machine learning platforms that enhance the level of artificial intelligence and super computing performance used to conduct climate change analysis and drug development.

[Zomaareenmening]

Ik had het inderdaad wel wat opbouwender kunnen formuleren. Neemt niet weg dat het toch wel vreemd is dat als je een artikel schrijft dat je de toepassing van het onderwerp dan niet benoemd. Het lijkt dan of het alleen gaat om nieuws te posten. Het doel van zo'n artikel kan toch niet zijn dat de lezer denkt, geen idee waar dit artikel precies over gaat en wat de toepassingen zijn. Laat ik eens naar google gaan om uit te vinden wat nu de toepassing en relevantie is van dit artikel..

[Ome Ernst]

Het is inderdaad ook wel wat je van Tweakers.net mag verwachten. Artikelen hoeven niet perse in
Jip en Janneke taal geschreven te zijn, gezien de doelgroep. Maar iets meer duiding was wenselijk geweest.

[ATIradeon8500]

De toon van je reactie is niet echt opbouwend, echter, je hebt wel een punt.