Samsung ontwikkelt zijn eerste 12-laagse HBM3E-geheugenchips van 36GB - update

Samsung heeft HBM3E-geheugenchips van twaalf lagen ontwikkeld. Deze chips hebben ieder een capaciteit van 36GB en halen piekbandbreedtes van 1,28TB/s. Samsung deelt momenteel samples met klanten. Massaproductie begint in de eerste helft van 2024.

De Samsung HBM3E 12H-chips bestaan uit twaalf lagen. De voorgaande HBM3-chips van het bedrijf bestaan uit stapels van acht layers. Daarmee wordt de capaciteit met vijftig procent opgehoogd: van 24 naar 36GB.

De nieuwe modules worden geproduceerd met geavanceerde thermal compression non-conductive film, oftewel tc-ncf. Daardoor hebben ze dezelfde hoogte als de voorgaande modules van acht lagen. Deze tc-ncf moet ook de thermische eigenschappen van de geheugenmodules verbeteren, omdat tijdens het productieproces verschillende soorten bumps gebruikt kunnen worden. Samsung gebruikt kleinere bumps voor de signaling en grotere op plaatsen die warmteafvoer vereisen. Met deze productiemethode zijn ook de yields hoger dan voorheen, claimt de Zuid-Koreaanse techgigant.

De HBM3E-chips van Samsung komen beschikbaar onder de codenaam Shinebolt. De chipmaker deelde eerder al specificaties van deze geheugengeneratie. De fabrikant noemde toen snelheden van 9,8Gbit/s per pin, wat neer zou komen op een bandbreedte van ruim 1,25TB/s per module. De chipmaker noemt nu echter een maximale bandbreedte van 1,28TB/s per module.

Er zijn meer fabrikanten die werken aan HBM3E-geheugen. Micron deelde op maandag bijvoorbeeld details over zijn HBM3E-geheugenchips, die uit acht lagen bestaan en een capaciteit van 24GB hebben. Die Amerikaanse fabrikant komt overigens later dit jaar ook met HBM3E-modules van 36GB, die momenteel ook worden gesamplet. HBM wordt onder meer gebruikt in gpu's, en dan vooral in datacenterproducten.

Update, 18.37: In het artikel werd gesuggereerd dat Samsung de eerste fabrikant was die HBM3E-chips van twaalf lagen heeft ontwikkeld, maar Micron is onlangs ook begonnen met het samplen van dergelijke geheugenmodules. Het artikel is hierop aangepast.

HBM-geheugenaanbod van Samsung
HBM-generatie	HBM3E	HBM3	HBM2E	HBM2	HBM2
Naam	Shinebolt	Icebolt	Flashbolt	Aquabolt	Flarebolt
Capaciteit	36GB	24GB	16GB	8GB	4GB/8GB
Bandbreedte per pin	9,8Gbit/s	6,4Gbit/s	3,2Gbit/s	2,4Gbit/s	2,0Gbit/s	1,6Gbit/s
Bandbreedte per stack	1254,4GB/s	819,2GB/s	410GB/s	307,2GB/s	256GB/s	204,8GB/s

Bron: Samsung

Reacties (15)

[MetalSonic]

Wat is precies de toepassing hiervan voor consumenten? Is dit interessant voor game pc's als zijnde super snel werkgeheugen? Of wordt dit later weer gebruikt door GPU fabrikanten?

[dragonhaertt]

HBM chips worden vooral gebruikt voor bijvoorbeeld GPU's of AI processing units.
Dit is een SDRAM chip die meer bandbreedte heeft dan DDR5.

[MetalSonic]

Ah ok bedankt voor de informatie. En wanneer we die in de GPU's zien zal dan weer speculeren zijn stel ik mij voor. Ik heb de term HBM wel eens gelezen in combinatie met GPU's. Maar niemand weet natuurlijk of dat bij de Nvidia 5000 serie komt of niet (of de AMD tegenhanger).

[garriej]

AMD heeft een videokaart met HBM geheugen, een oudere versie dan hier over wordt gesproken, dat wel.

https://www.anandtech.com...radeon-r9-fury-x-review/6

De vraag is of er daadwerkelijk winst te halen valt t.o.v. DDR6 als we kijken naar games renderen. Daarnaast zal HBM een stuk duurder zijn om te maken.

[Balance]

We gaan HBM voorlopig niet in consumenten hardware zien. Het is eerder al geprobeerd door AMD met de Fury X, en dat was geen bijzonder groot succes (om diverse redenen). Op dit moment zijn de HBM-prijzen echt gigantisch, en in de geheugenindustrie duurt zo'n cyclus altijd minimaal 3 a 4 jaar.

• He Who Can Pay Top Dollar For HBM Memory Controls AI Training
• HBM chip prices skyrocket as AI boom fuels demand
• HBM prices have skyrocketed by 500% thanks to AI GPU demand, with no signs of slowing down

Voorlopig moeten we het doen met GDDR7 dus:

• nieuws: Samsung en SK hynix demonstreren binnenkort sneller GDDR7-vram voor n...

[Reactie gewijzigd door Balance op 24 juli 2024 13:28]

[vedercy]

Ze hebben het vier jaar later nog eens geprobeerd met de Radeon VII https://www.amd.com/en/su...ation-vega/amd-radeon-vii

[aminam]

AMD gebruikte het al in de fury, furyx, pro duo, vega56, vega64, vega FE en radeon7. Al met al toch weer 3 generaties waarin ze HBM gebruikt hebben. Volgens mij waren kosten het voornaamste nadeel van HBM, gddr6 had ook lagere latency dan hbm2 en de extra bandbreedte die HBM2 bood werd in gaming vaak niet aangesproken. In productie en datacenter toepassingen komt die bandbreedte veel beter tot zijn recht, daarom dat nvidia en amd het vooral daar zijn blijven gebruiken.

[flaskk]

Anzich is het goed dat er veel vraag naar is, productie gaat omhoog en prijzen dalen dan vanzelf een keertje als de demand niet meer hoog is. Wellicht springt Intel dan wel in het gat

[Rudie_V]

Als aanvulling op @garriej

nVidia heeft eens Titan vdeokaarten uitgebracht met HBM geheugen, Titan V (Volta) en Titan Xp (Pascal) GPU's. Volta was een datacenter GPU die men dan ook eenmaal voor de gaming heeft uitgebracht, dus er is geen versie met normaal GDDRx geheugen ter vergelijking. De Titan Xp is op Pascel gebaseerd en die is wel voor gaming gebruikt in de nVidia 1000 serie.

Nvidia Titan Xp 12GB Review
https://www.tomshardware....nvidia-titan-xp,5066.html
(vs 1080 Ti)

[blabla1234]

Het gaat om de busbreedte van het geheugen, ofwel met hoeveel lijntjes ze met de processor zijn verbonden. Normaal geheugen is met 64 (x een aantal channels) lijntjes verbonden terwijl HBM tot wel 4096 lijntjes kan gebruiken. Punt is wel, dat je enkel hele blokken geheugen kunt uitlezen. Dus je profiteert er vooral van als je alle data in die 4096 bits snel kunt gebruiken, wat véél waarschijnlijker is met gpu taken (waar je bijvoorbeeld te maken hebt met textures van miljoenen pixels of modellen van 1000en vertexen) dan met cpu taken (waar vaak van alles door elkaar heen in het geheugen staat). Helemaal als je je bedenkt dat een moderne GPU duizenden cores heeft die samen hetzelfde programma op dezelfde data draaien

[Reactie gewijzigd door blabla1234 op 24 juli 2024 13:28]

[Rudie_V]

Een HBM chip heeft een 1024-bits brede geheugenbus en als ik mij goed herinner is dat verdeeld in 8x 128-bits geheugencontroller. Je heb GPU's die 2, 4, 5 of 6 HBM chips gebruiken, resulterende in een 2048-bits, 4096-bits, 5120-bits of 6144-bits brede geheugenbus.

https://en.wikipedia.org/wiki/High_Bandwidth_Memory

HBM memory bus is very wide in comparison to other DRAM memories such as DDR4 or GDDR5. An HBM stack of four DRAM dies (4‑Hi) has two 128‑bit channels per die for a total of 8 channels and a width of 1024 bits in total. A graphics card/GPU with four 4‑Hi HBM stacks would therefore have a memory bus with a width of 4096 bits. In comparison, the bus width of GDDR memories is 32 bits, with 16 channels for a graphics card with a 512‑bit memory interface.[13] HBM supports up to 4 GB per package.

Met HBM2, HBM2E, HBM3 en HBM3E is eigenlijk de snelheid per pin verhoogd door de geheugenkloksneheid te verhogen waardoor de totale bandbreedte toeneemt.

Pas met HBM4 wil men een 2048-bits brede geheugenbus gaan gebruiken.

HBM4 2048-Bit Memory Could Dramatically Increase Bandwidth: Report
https://www.tomshardware....increase-bandwidth-report

[Xfade]

Micron is die dingen volgens jullie eigen berichten (en Micron zelf) die 12H varianten ook al aan het samplen aan fabrikanten. Is zo'n persbericht van Samsung dat ze de eerste zijn dan niet een beetje haantjes gedrag ?

[watercoolertje]

Micron is die dingen volgens jullie eigen berichten (en Micron zelf) die 12H varianten ook al aan het samplen aan fabrikanten.

Heb je het artikel wel gelezen want daar staat juist dat Micron nu 8H aan het samplen is en pas later dit jaar met 12H komen...

Micron deelde op maandag bijvoorbeeld details over zijn HBM3E-geheugenchips, die uit acht lagen bestaan en een capaciteit van 24GB hebben. Die Amerikaanse fabrikant komt overigens later dit jaar ook met HBM3E-modules van 36GB.

Het kan prima zijn dat het zo is als jij stelt maar je kan dan toch op z'n minst naar die informatie die we hier blijkbaar missen linken ter onderbouwing/bevestiging van wat je beweert?

[Reactie gewijzigd door watercoolertje op 24 juli 2024 13:28]

[Xfade]

Nee, ze zijn begonnen met volume productie van 8H, wat Tweakers gister over berichtte. Als je dan de link volgt naar micron zelf, zie je dat ze daar aangeven dat ze de 12H variant aan het samplen zijn.

[AverageNL]

Nu je het zegt! Ik had in m'n hoofd dat Micron daar later dit jaar mee zou beginnen, maar dat is productie. Slordig denkfoutje van me. Ik pas het aan en maak dat kenbaar met een update