AMD kondigt 8 november nieuwe EPYC-serverprocessors en Instinct-accelerators aan

AMD houdt op 8 november een livestream waarin het nieuwe EPYC-processors en Instinct-accelerators voor servers en supercomputers aankondigt. Vermoedelijk betreffen het EPYC Milan-X-cpu's met gestapeld 3D V-cache en de recent uitgelekte Instinct MI200-serie.

AMD houdt zijn presentatie op maandag 8 november om 17.00 uur Nederlandse tijd. Het bedrijf meldt in een persbericht dat het evenement is gericht op datacenterproducten; het bedrijf laat naar eigen zeggen zijn 'komende innovaties met EPYC-processors en Instinct-accelerators' zien. Het evenement wordt live uitgezonden op de AMD-website.

Het is niet bekend of AMD de producten direct na de presentatie uitbrengt. Het is ook mogelijk dat de fabrikant zijn komende producten alleen aankondigt, en ze op een later moment op de markt brengt. Er worden op 8 november geen nieuwe processors of videokaarten voor consumenten verwacht.

'AMD EPYC Milan-X-cpu's met gestapeld cache'

Vermoedelijk komt het bedrijf over twee weken met zijn EPYC Milan-X-cpu's, waarvan eerder al de vermeende specificaties uitlekten. Volgens bekende leaker ExecutableFix maken de processors gebruik van AMD's gestapeld 3D V-Cache, dat het bedrijf eerder dit jaar demonstreerde.

De komende server-cpu's zouden in totaal beschikken over 768MB L3-cache. Dat zou betekenen dat de acht 'core-complexen' van de komende EPYC-cpu's ieder beschikken over 32MB reguliere L3-cache, aangevuld met 64MB aan 3D V-Cache. De 'reguliere' AMD EPYC Milan-chips, die het bedrijf in maart uitbracht, beschikken over maximaal 256MB L3-cache.

Volgens dezelfde geruchten introduceert AMD vier Milan-X-modellen. Het bedrijf zou 280W-modellen met 64 en 32 cores en 240W-cpu's met 24 en 16 cores introduceren. Het model met 64 cores zou daarbij een kloksnelheid van 2,2GHz hebben. De cpu's met 32 en 24 cores zouden op 2,8GHz geklokt zijn en de variant met 16 kernen zou een base clock van 3,05GHz hebben.

Mogelijke AMD EPYC Milan-X-line-up (via ExecutableFix)
Model	Cores/threads	Kloksnelheid	Boostclock	Tdp	L3-cache
EPYC 7773X	64C/128T	2,20GHz	3,50GHz	280W	768MB
EPYC 7573X	32C/64T	2,80GHz	3,60GHz	280W	768MB
EPYC 7473X	24C/48T	2,80GHz	3,70GHz	240W	768MB
EPYC 7373X	16C/32T	3,05GHz	3,80GHz	240W	768MB

'AMD Instinct-accelerators met MCM-ontwerp'

AMD noemt in zijn persbericht ook de komst van nieuwe Instinct-accelerators. De bestandsnaam van een teaservideo op de AMD-website noemt specifiek de term 'Instinct MI200'. Het is al bekend dat de chipmaker aan een nieuwe CDNA 2-architectuur voor dergelijke accelerators werkt, hoewel die voor volgend jaar op de planning staat. Mogelijk kondigt AMD de accelerators op 8 november alleen aan, en brengt het bedrijf deze in 2022 daadwerkelijk uit, in lijn met de huidige datacenterroadmap van de fabrikant.

Afgelopen weekend verschenen al details en specificaties over de vermeende Instinct M200-serie, die zou bestaan uit een MI250 en MI250X. Die informatie is eveneens afkomstig van de betrouwbare leaker ExecutableFix. Die komende Instinct-kaarten worden gebaseerd op de Aldebaran-gpu, op basis van CDNA 2. De accelerators zouden een MCM-ontwerp krijgen, oftewel Multi-Chip-Module. Daarbij worden meerdere chips gecombineerd, net als bij de chiplets met cpu-cores in AMD's Ryzen-processors.

ExecutableFix meldde vorige week ook dat de MI250X op 7nm wordt geproduceerd en zou beschikken over 110 compute units met een boostclock van 1,7GHz. De chip zou ook 128GB aan HBM2e-geheugen en een tdp van 500W hebben. De MI250X zou FP64-rekenprestaties van 47,9Tflops halen, waarmee de accelerator aanzienlijk sneller zou zijn dan de huidige MI100 en de A100 van Nvidia. De reguliere MI250 beschikt vermoedelijk over minder cu's en lagere kloksnelheden, maar daarover zijn nog geen concrete details bekend.

AMD teaset zijn komende Instinct MI200-accelerators. Bron: AMD

Reacties (38)

[vanthome]

240W TDP lijkt wel heel hoog voor een 16/32 CPU. Iemand weet waarom?

Edit: 5950x is 105W

[Reactie gewijzigd door vanthome op 24 juli 2024 15:39]

[Damic]

Grotere geheugen controller, meer cache.

Het TDp bij een server is ook om aan te geven hoeveel koeling ze nodig hebben om dat de koeler een stuk kleiner is en niet direct 1 of meerdere fans opzitten.

[Dennism]

Dat is bij desktop cpu's niet anders, daar betekent een 105W TDP ook gewoon dat die cpu een koeler vereist die rated is om minimaal 105W aan hitte af te voeren om te garanderen dat de geadverteerde specificaties behaald worden.

[bbob]

Toch is het apart 32 cores 3,05ghz 240 watt
64 cores 2,8 ghz 2,8ghz 280 watt.

Naar verhouding lijken meer cores een minder hoge ghz snelheid te hebben maar verbruik neemt niet echt toe.

[Dennism]

Zo raar hoeft dat niet te zijn, kloksnelheid - power schaalt normaliter niet linear, maar die laatste paar Mhzén kosten juist vaak flink meer stroom.

Daarnaast heb je ook nog binning, duurdere cpu's zullen vaak ook de betere die's / chiplets krijgen en beter is bij server normaliter de meest energie efficiënte, terwijl dat bij desktop vaak de hoogst klokkende zijn bijvoorbeeld.

Ik zie jouw data echter niet terug in het overzicht, ik zie daar staan bij 32 cores een baseclock van 2.8Ghz bij een TDP van 240W en 64 cores een baseclock van 2.2Ghz met een TDP van 280W.

[Reactie gewijzigd door Dennism op 24 juli 2024 15:39]

[bbob]

Bedoelde 32 threads 240 watt en 3,05

[rjmno1]

Dit is dus de tegenhanger van deze xeon processor van intel.Ik denk dat die epic een stuk sneller zal zijn.
Alleen al omdat hij meer cores heeft

[The Reeferman]

Mede door het extra cache geheugen.

[vanthome]

Dat zou wel heel inefficiënt geheugen zijn dan . Ik weet dat TDP != verbruik maar het is wel een groot verschil. Misschien meten ze wel anders kan ook.

[MrFax]

TDP kan je zien als het gemiddeld verbruik bij 100% load. Want de heatsink moet immers die hoeveelheid warrmte and stroom aan kunnen.

[D4NG3R]

Nee, het TDP bij AMD is ook echt het maximum. Intel houd het gemiddelde bij 100% load aan als TDP.
Niet langer het geval, zie reactie van @Dennism

[Reactie gewijzigd door D4NG3R op 24 juli 2024 15:39]

[Dennism]

Nee, ook bij AMD geeft de geadverteerde TDP waarde niet het maximum verbruik aan, kijk maar naar de reviews die power consumption meten, verbruik is daar onder load hoger dan het gespecificeerde TDP.

Zie o.a. deze grafiek van Anand: https://images.anandtech....e-1-5950X-Total_575px.png

Waar het maximale verbruik 136W bij een TDP van 105W

5950X: https://images.anandtech....PerCore-1-5950X_575px.png
Zelfs als hierboven, maximaal 136W bij een 105 TDP

5900X: https://images.anandtech....PerCore-2-5900X_575px.png
Maximaal 142W bij een 105W TDP

5800X: https://images.anandtech....PerCore-3-5800X_575px.png
Maximaal 131W bij een 105W TDP

Sterker nog, in de formule die AMD gebruik het om TDP te bepalen komt 'verbruik' niet eens voor, zie bijvoorbeeld deze reddit post waarin AMD's Robert Hallock uitlegt hoe AMD het TDP bepaald:

https://www.reddit.com/r/...svy1a/tdp_vs_tdp/dlg8tn8/

The point, here, is that TDP is a cooler spec to achieve what's printed on the box. Nothing more, nothing less, and power has nothing to do with that. It is absolutely possible to run electrical power in excess of TDP, because it takes time for that electrical energy to manifest as excess heat in the system.

[D4NG3R]

Interessant, er werd mij in het verleden (lees; zeker 7-8 jaar geleden) altijd verteld dat Intel het gemiddelde gebruik onder load adverteerde als TDP, en AMD het verbruik onder 100% load.

Weer wat geleerd.

[vedercy]

Zeker interessant ja, wat mij ooit is geleerd is dat Intel de TDP baseerde op 100% load op base clock en AMD juist 100% load op maximale boost clock.

[MrFax]

Gek. Want stel je processor verbruikt 300W voor een seconde en daarna nog maar 100W voor een seconde dan hoeft je TDP geen 300W te zijn als die 300W alleen maar pieken zijn

[Dennism]

Uiteraard wel alleen wanneer je binnen spec draait zoals geadverteerd door de cpu fabrikant. Ga je buiten spec draaien zal het verbruik bij 100% al heel snel veel meer zijn dan het geadverteerde TDP.

[The Reeferman]

Cache stroomverbruik zat geloof ik ergens tussen de 15 en 30%. En aangezien deze CPUs een veel grotere cache hebben zal dat nog wel iets hoger uitkomen. Cache geheugen nam altijd een flink deel (50% is niet ongebruikelijk) van de die in beslag. Nu is dit 3D cache gestapeld dus het oppervlak hoeft in dit geval niet omhoog te gaan. Ook is het L3 cache, de langzaamste variant, dus ik vermoed ook de zuinigste.

[KuroHana]

Waarom verglijk je een server cpu met een gaming cpu ?
De epycs en threadrippers zijn 2 processors in een de gaming cpu zo als ryzen is een enkele cpu

[vanthome]

Het zijn toch dezelfde chiplets die worden gebruikt?

[Dennism]

Nee, alleen de compute chiplets zijn 'hetzelfde' (fysiek, binning zal immers anders zijn).
De I/O chip is wezenlijk anders en veel groter op Epyc, wat ook logisch is, aangezien Epyc veel meer I/O heeft.

Dit is de Zen 3 I/O chiplet (linker die) https://i.redd.it/rqwfu7derj921.jpg
En dit is die van Epyc (de middelste die) https://www.techpowerup.com/img/TDXWCURngfcFnNl8.jpg

[vanthome]

Dat had ik ook wel verwacht, mijn reactie was ook meer op dat ik ze niet kan vergelijken. Terwijl dat voor de cores wel mogelijk is, tuurlijk is er meer cache en I/O, maar de cores zijn in principe hetzelfde.

[sprankel]

Meer cache, véél meer pcie lanes (nog niet gekend maar ik verwacht ergens tegen de 100 waar een 5950X het met 24 moet doen) maar ook support voor 16 ram dimms ipv 4 alsook dual socket support. Uiteraard dan nog een heleboel server technologie die ook ondersteund moet worden.

Gezien memory en pcie controllers tegenwoordig in de CPU zelf zitten kan je daar dus op een serieus meerverbruik rekenen.

[ocf81]

Een kleine uitbreiding op het verhaal van de reacties hieronder: Het extra cache zorgt voor extra hitte van zichzelf, maar het zorgt er (mits data aanwezig is in het cache) ook voor dat de processor veel sneller over opgevraagde data kan beschikken, waardoor deze ook weer sneller door kan met het doen van bewerkingen van die data. De processor wordt dus intensiever belast dan een processor dat hetzelfde programma met minder cache probeert te draaien. Hierdoor wordt er dus ook meer warmte per tijdseenheid geproduceerd.

[demianmonteverd]

768MB voor de L3 cache... Ongeloofelijk hoe snel dat is gegaan in een paar jaar tijd.

[kondamin]

Ja, men eerste computer had ongeveer 1/50ste aan hardeschijf.

Ik vraag me af hoe het gebruikt zal worden

[Irsu85]

Zou je hier dan Windows XP op kunnen draaien zonder RAM geheugen?

[ginbuntu]

nee, dat kan niet. L3 is niet RAM

[zalazar]

Begin maart 2021 kwam de 7003 lijn uit en sinds die datum is bijvoorbeeld de EPYC 7313P niet algemeen verkrijgbaar. Server leveranciers zoals Dell kunnen deze CPU wel leveren maar er zijn er blijkbaar niet genoeg zodat ze ook algemeen beschikbaar komen.
Je kunt dan wel weer nieuwe CPU's uitbrengen maar men kan nog niet eens aan de huidige vraag voldoen.

[The Reeferman]

Ze kunnen de productie capaciteit de ze hebben ingekocht beter gebruiken voor een zo goed mogelijk product waar ze zo veel mogelijk geld voor kunnen vragen ipv CPUs gebaseerd op oudere ontwerpen blijven produceren. De vraag (of de waarde) naar die oudere CPUs loopt normaalgesproken terug naar mate ze ouder worden. (mits er betere CPUs blijven uit komen.)
Intel dacht ook, waarom betere CPUs maken als we de CPUs die we nu maken ook allemaal kwijt kunnen.

[manzonderdas]

lijkt toch vrij logisch: 4*105/2 (5950 heeft ook 2 chips) + cache en interconnects? Waarschijnlijk zijn gewoon een deel van de chip uitgeschakeld bij de lagere cores, en is dat niet aangepast.

Wou net ook een opmerking maken dat een athlon xp indertijd 768 MB ram ondersteunde, maar het was blijkbaar meer. Wel een gigantische hoeveelheid cache, ook tov huidge gemiddelde hoeveelheid ram in consumentenpc's.

Techspot maakte ook een artikel over hoe de generaties van intel eigenlijk alleen door toegenomen cache in snelheid toenamen in gamen - hoe zou deze 16/32 zijn tov een 5950x (op gelijke MHz).

[Reactie gewijzigd door manzonderdas op 24 juli 2024 15:39]

[localhost]

Dat wordt in Azure dus de Standard_D2as_v5 en de Standard_E2as_v5

[KuroHana]

Mooi , maar apple silicon schijnt beter te zijn en veel zuiniger,

[psychicist]

Ik zou wel een vergelijking willen zien van deze Epyc processoren met bijvoorbeeld die van Alibaba. Misschien kunnen daar later nog Ampere Altra (Max) en Graviton3 bij komen. Maar dat zul je dan eerder bij Anandtech of Phoronix zien.

[KuroHana]

Alibaba ? Maak die tegenwoordig ook cpus ?

[psychicist]

Die maken ze al jaren op basis van RISC-V en nu ook ARM. Iedere cloudgigant die controle wil hebben en houden over zijn datacentra en kosten, is inmiddels bezig met het ontwerpen van eigen CPU's en/of accelerators. Microsoft doet dat ook, maar is daar nog niet zo open over.

[ginbuntu]

Beter in wat; Het is allemaal Apple marketing.

[derikkert]

Misschien voor laptops, maar voor servers heeft Apple helemaal niks.

[Jack77]

Slimme marketing zet van AMD om maar enkele dagen na de introductie van AlderLake weer even de 3D V-cache onder de aandacht te brengen. Ok, het gaat om server-CPU's, maar de bijhorende prestatiecijfers gaan gewone consumenten/enthousiasts toch een voorproefje geven.

Ook qua GPU's presenteren ze hun MCM-product vlak voor Nvidia zijn aankondiging gaat doen.