AMD introduceert EPYC Embedded 9004-processors met maximaal 96 Zen 4-cores

AMD introduceert Embedded-versies van zijn nieuwe EPYC 9004-serverprocessors. Deze worden geleverd met maximaal 96 cores en DDR5-ondersteuning. De processors worden momenteel gesampled bij partnerbedrijven. In april moeten de productieversies geleverd worden.

De AMD EPYC 9004 Embedded-chips zijn gebaseerd op de eerder uitgebrachte EPYC 9004 Genoa-processors. De nieuwe varianten zijn bedoeld voor gebruik in embedded applicaties als telecom, iot en edgecomputing, waarbij efficiëntie belangrijk is. Het bedrijf introduceert EPYC Embedded-varianten die ondersteuning bieden voor twee sockets, naast processors met een P-achtervoegsel die maximaal één socket ondersteunen.

De chips maken gebruik van de Zen 4-microarchitectuur die ook wordt gebruikt in AMD's Ryzen 7000-desktopprocessors en de EPYC 9004-server-cpu's. De cpu-chiplets worden geproduceerd op TSMC 5nm, terwijl de i/o-die wordt gemaakt op 6nm. De Embedded-varianten beschikken over maximaal 96 cores en 192 threads per cpu. De fabrikant komt ook met modellen met 64, 48, 32, 24 en 16 cores. Daarbij beschikken de chips over maximaal 384MB L3-cache, twaalf DDR5-geheugenkanalen, 128 of 160 PCIe 5.0-lanes en tdp's van 200 tot 400W.

De processors worden verder voorzien van enkele Embedded-specifieke functies. De processors krijgen non-transparent bridging voor data-uitwisseling tussen twee redundant processors binnen een systeem. Dat werkt via PCIe-lanes en moet zorgen voor een betere betrouwbaarheid. Daarnaast krijgen de chips ondersteuning voor Nvdimm-geheugen. Dergelijke geheugenmodules zijn voorzien van extra flashgeheugen, dat als back-up dient in het geval van stroomuitval. De EPYC Embedded 9004-serie krijgt daarnaast dual-spi, zodat bedrijven hun eigen bootloader kunnen gebruiken om de systeembios te verifiëren.

AMD is begonnen met het leveren van EPYC Embedded 9004-samples aan bepaalde klanten. Volgens de chipontwerper volgen de productieversies naar verwachting in april. De chips worden binnenkort gebruikt in enterpriseapparatuur van onder meer Advantech en Siemens, schrijft AMD.

AMD EPYC Embedded 9004-line-up
Model	Cores/threads	Socket- configuratie	L3-cache	Tdp	Ctdp	Kloksnelheid	Boostclock
EPYC 9654	96C/192T	2P	384MB	360W	320-400W	2,40GHz	3,70GHz
EPYC 9554	64C/128T	2P	256MB	360W	320-400W	3,10GHz	3,75GHz
EPYC 9454	48C/96T	2P	256MB	290W	240-300W	2,75GHz	3,80GHz
EPYC 9354	32C/64T	2P	256MB	280W	240-300W	3,25GHz	3,80GHz
EPYC 9254	24C/48T	2P	128MB	200W	200-240W	2,90GHz	4,15GHz
EPYC 9124	16C/32T	2P	64MB	200W	200-240W	3,00GHz	3,70GHz
EPYC 9654P	96C/192T	1P	384MB	360W	320-400W	2,40GHz	3,70GHz
EPYC 9554P	64C/128T	1P	256MB	360W	320-400W	3,10GHz	3,75GHz
EPYC 9454P	48C/96T	1P	256MB	290W	240-300W	2,75GHz	3,80GHz
EPYC 9354P	32C/64T	1P	256MB	280W	240-300W	3,25GHz	3,80GHz

Reacties (38)

[blahenazo]

Ik kon mijn weinig voorstellen waarvoor je deze 'power' nodig hebt voor een 'embedded oplossing' .

De AMD site is ook niet echt duidelijk .... ik kan wij misschien wel iets voorstellen bij network and firewall
en waar de power wel kan gebruikt worden maar je toch embedded wilt voor die devices (tamper proof , weinig echt upgrade paths ? ) , maar voor cloud storage and entreprise waarom daar embedded ?

iemand die wat meer context kan geven ?

<knip>
The new 4th generation EPYC Embedded processors powered by “Zen 4” architecture provide technology and features for embedded networking, security/firewall and storage systems in cloud and enterprise computing as well as industrial edge servers for the factory floor.
</knip>

[Verwijderd]

https://new.siemens.com/g...sed/simatic-rack-ipc.html

Specsheet van zo'n server bedoeld voor embedded toestanden.

[Luchtbakker]

Ik kon mijn weinig voorstellen waarvoor je deze 'power' nodig hebt voor een 'embedded oplossing' .

virtualiseren

4 servers die nu door 1 server uitgevoerd kunnen worden is directe kostenbesparing op vele vlakken. Maar ook bedrijven als amazon AWS en Microsoft met Azure smullen hiervan. Reken er maar op dat er veel geld verdient wordt hiermee.

[Reactie gewijzigd door Luchtbakker op 27 juli 2024 13:01]

[mvds]

Maar ook bedrijven als amazon AWS en Microsoft met Azure smullen hiervan.

Zouden die ook voor de embedded versie gaan? Ik denk dat die eerder voor de "normale" serverversie gaan, toch?

[cHoc]

Kan de "normale" serverversie processor dan ook machinaal geplaatst en ingeklemd worden in de socket of is dat nog handen werk?
Want dan heb je daar een verschil te pakken.

Daarnaast is het dan ook mogelijk om een hogere koeler te plaatsen binnen dezelfde behuizing, omdat de processor niet in een socket zit maar direct op het moederbord is gesoldeerd, hierdoor is de hoogte lager.
Dat lijkt mij nog wel interessant als je tot max 400Watt per processor hebt af te voeren in de behuizing.

[dasiro]

hyperscalers zoals AWS en google gebruiken volledig custom moederborden, cases en racks, misschien dat ze hierdoor nog "simpelere" setups kunnen bouwen, aangezien een lagere BOM in de PR-slide staat.

[blahenazo]

mja , voor grote oplossinging , rijden ze de racks binnen op de pallet en aansluiten en weg en bij de volgende upgrade allicht , nieuwe ernaast en de oude weg en hoppa. Nooit upgraden nooit wijzigen.

en voor die racks heb je weinig aan none embedded (upgrade /flexibiliteit/ aanpassen ) neem ik aan

[StackMySwitchUp]

Ik denk dat je wel een punt hebt, voor hyperconverged oplossingen is hoe kleiner hoe beter, 96 cores op een moederbord gesoldeerd is nog platter en kan nog compacter in een rek gepropt worden. Als Microsoft in 1 rek 4 rekken aan hardware kwijt kan dan worden ze wel blij denk ik.

[RJG-223]

virtualiseren

4 servers die nu door 1 server uitgevoerd kunnen worden is directe kostenbesparing op vele vlakken. Maar ook bedrijven als amazon AWS en Microsoft met Azure smullen hiervan. Reken er maar op dat er veel geld verdient wordt hiermee.

Daarvoor gebruiken ze gewoon serverprocessoren. Het verschil tussen embedded en server is echt niet zo simpel als dat de ene vastgesoldeerd wordt, en de andere niet...

[YoMarK]

Echt bruut veel 'power' is welkom bij storage systemen (SAN's). Denk aan RAID(redundancy / parity) maar ook zaken als data deduplictie.

[StackMySwitchUp]

Lopen die dingen niet al jaren op ASICS, waarom zou je daar in hemelsnaam een x86 processor in proppen

[lezzmeister]

Volgens mij niet hoor. Software defined storage, lekker flexibel, maar op cpu's.

[Hatseflats]

@StackMySwitchUp heeft het over SAN. Die lopen wel degelijk op ASICS.

[YoMarK]

Hoe kom je daarbij? De meeste SAN's hebben gewoon CPU's in de vorm van Xeon's of Epyc.
Er draaien een heleboel andere dingen op zo'n SAN(behalve het aansturen van disken) die gewoon niet(lees: kosten/baten technisch gezien) met ASICS op te lossen zijn, API's, webinterfaces, replicatie jobs, data deduplictie jobs, berekengen multi-tier, etc.. Uiteindelijk kan een ASICS ook een bottleneck zijn als je deze tegenover een Dual 96core Epyc zet.
En uiteindelijk sluit het een het ander natuurlijk niet uit(ASICS worden vast ook wel gebruikt voor kleinere dingen), maar in de basis zijn storagecontrollers tegenwoordig gewoon apparaten die veel weg hebben van een server.

[StackMySwitchUp]

De SANs waar ik mee gewerkt heb zijn doorgaans enorm traag met alles wat niet direct met storage te maken had, de rest liep op dedicated black box hardware. Of daar een dikke xeon onder de motorkap ligt voor de storage betwijfel ik, maar zeker weten doe ik het niet, omdat ik ze helaas nooit heb mogen openschroeven

[Hatseflats]

Zo ook die van mij. Webinterface? Hebben ze, maar traag. Waar die snelle Epyc of Xeon zit vraag ik mij dan af? Dedup, kan, maar daar zeggen ze niks over welke CPU / ASIC dat verwerkt. Hetzelfde eigenlijk voor de andere dingen.

Sowieso zijn de meeste SAN (te) duur voor wat je ervoor krijgt, behalve de zogenaamde management garanties van SLA's en uptime. Ik vraag mij af of ze daar de duurste hardware dan ook instoppen. Meestal zijn het ASICS met een main CPU waar mijn stofzuiger nog niet eens jaloers op zou zijn.

[Reactie gewijzigd door Hatseflats op 27 juli 2024 13:01]

[StackMySwitchUp]

Dit dus.
met SANs betaal je voor de service, connectivity en het feit dat je bij een hoge queue depth nog steeds storage performance hebt. Niet omdat je er zoveel value added services op kunt draaien (daar zijn NASsen vaak beter in)

[d3x]

afh van type, er zijn er veel op asics maar ook een groot deel op Intel cpu of een combinatie van beide.

[Reactie gewijzigd door d3x op 27 juli 2024 13:01]

[RJG-223]

Ik kon mijn weinig voorstellen waarvoor je deze 'power' nodig hebt voor een 'embedded oplossing' .

De AMD site is ook niet echt duidelijk .... ik kan wij misschien wel iets voorstellen bij network and firewall
en waar de power wel kan gebruikt worden maar je toch embedded wilt voor die devices (tamper proof , weinig echt upgrade paths ? ) , maar voor cloud storage and entreprise waarom daar embedded ?

iemand die wat meer context kan geven ?

<knip>
The new 4th generation EPYC Embedded processors powered by “Zen 4” architecture provide technology and features for embedded networking, security/firewall and storage systems in cloud and enterprise computing as well as industrial edge servers for the factory floor.
</knip>

Zoals ik de quote begrijp, staat er niet dat ze de embedded processoren gebruiken voor cloud-systemen, maar voor de networking, firewall en storage systemen die je bij een cloud nodig hebt.

Dus: Cloud server: Epyc server processoren. Firewall, network storage server, load balancer (en zo) in de cloud omgeving: Epyc embedded.

Verder kan ik me voorstellen voor Epyc embedded: medische apparatuur, robots in fabrieken, processoren in vliegtuigen, voor besturing en/of het entertainment systeem. Etc. etc.

[TheAncientDovah]

Wordt 5200 MHz de geheugen specificatie voor deze nieuwe CPUs?

Ik verheug me namelijk al op de komst van DDR5 5200 MHz ECC modules zodat ik die met de Ryzen 7600 kan combineren voor een betrouwbare en betaalbare home server.

[oef!]

Home servers of homelabs hebben doorgaans niet zulke rappe hardware nodig. Als je geen specifieke zware gebruiksscenario's hebt is het interessant om naar een (veel) zuiniger systeem te kijken omdat het ding 24/7 aan staat.

[d3x]

4800Mhz is de huidige standaard

[ari2asem]

je hebt ecc-rdimm en ecc-udim.
ryzen heeft geen support voor ecc-rdimm (=ecc-reg). het is ecc-udimm voor ryzen.
wel misschien ecc-reg support als je jouw ryzen in een server-bord prikt (bijv asrock rack)

[Reactie gewijzigd door ari2asem op 27 juli 2024 13:01]

[mr.loepie]

Ben benieuwd wat deze cpu in R23 doet tov de intel

[Umbrah]

Ben niet helemaal op de hoogte van de laatste Embedded varianten, maar waarschijnlijk een stuk lager dan de laatste Xeon-W's. De Xeon-W's kun je bovendien uberhaupt niet met Epyc vergelijken, de eerlijkheid zit dan meer om een Threadripper te pakken, en die zijn er nog niet voor "genoa"-tier. Xeon Embeddeds waren in mijn ervaring traditioneel heel erg aan de kant van óf atom (zoals in NAS-en), óf meer richting de ASIC kant. Dit is ook waar deze epyc past. Dit zal niet in een server zitten, maar in die 100/100gbit switch met 40 SFP aansluitingen en QOS. Dit ding zal de controller zijn van een AI-blade waar het aansturen van de GPU's dusdanig veel overhead heeft dat de CPU krachtig moet zijn én veel lanes moet hebben, maar in het niets staat bij de GPU's zelf.

[dmantione]

Ik ben de weg kwijt, de modelnummers zijn gelijk aan de normale Epyc-processoren. Dus hebben we het hier nu wel over nieuwe processoren, of gewoon over een marketingpamflet dat Epyc 9004 ook embedded kan?

[RJG-223]

Ik ben de weg kwijt, de modelnummers zijn gelijk aan de normale Epyc-processoren. Dus hebben we het hier nu wel over nieuwe processoren, of gewoon over een marketingpamflet dat Epyc 9004 ook embedded kan?

Dit zijn (zover ik begrijp) andere processoren. Niet fundamenteel anders: de basis is waarschijnlijk grotendeels hetzelfde als de sever-processoren met hetzelfde versienummer, maar een aantal features is specifiek ingebouwd voor embedded. Zie ook onder 'Embedded specific features'. En ik ga er vanuit dat ze allemaal vastgesoldeerd worden, ipv een socket gebruiken.

[Verwijderd]

Denk niet dat ze volledig werkende EPYC's op kleinschalige bordjes plakken. Denk eerder dat bepaalde features gewoon gestript of geknipt zijn t.o.v een echte Epyc. Threadripper is hetzelfde.

En dat is normaal; niets m.b.t chips gaat verloren. Een defecte chip wordt net zo vaak opgeknipt totdat je er wel een werkende varient uit haalt. Denk bijv. aan een X4 AMD verkocht als X2.

Doen fabrikanten al jaren. Beste voorbeeld was al vanaf de Slot A Athlon 500Mhz ~ 600Mhz modellen. Het was goedkoper om voor AMD een 750Mhz model te maken en die terug te klokken dan een daadwerkelijk 500Mhz model eruit te vissen.

[Reactie gewijzigd door Verwijderd op 27 juli 2024 13:01]

[d3x]

gewoon de presentatie lezen helpt al veel om te zien wat de extra features zijn.

[theduke1989]

Is dit de antwoord op Intel (LTT) had het hier nog over een week geleden.
Toen was er nog niks van AMD kant, en nu opeens wel?

[Techtrade Dordt]

Maar hoeveel keer kan ik hier Crysis tegelijk op draaien?

[Cuqebaqer]

Is de L3 cache niet wat aan de lage kant voor zoveel cores? Of is dat niet zo van toepassing voor de doeleinde van deze cpu?

[ocf81]

Zijn deze processoren voor socket SP6 of SP5?

[RJG-223]

Zijn deze processoren voor socket SP6 of SP5?

In het soort systemen waar dit gebruikt wordt, heeft de (uiteindelijke) klant meestal geen behoefte om de processor te kiezen. Ze kopen een systeem met een bepaalde functie (combinatie van software en hardware - bijvoorbeeld een NAS systeem met tientallen drives), en de leverancier heeft daarbij de optimale processor uitgezocht. Ik zou verwachten dat die processor dan meestal/altijd (?) gewoon op de printplaat vastsgesoldeerd wordt. Printplaat is dan normaal ook custom ontworpen, met precies de features die nodig zijn. Bijv. tientallen SATA of SAS poorten, twee tot vier netwerkinterfaces van 2.5Gb of 10Gb, en een management-interface van 1Gb, eenvoudige graphics, en zo voort.

[ocf81]

Ik heb wel enige ervaring met dit soort systemen in mijn homelab. Als ik 2P en 96 cores zie, dan denk ik toch aan iets anders dan een NAS. Maar wellicht is er nu ook een BGA versie van deze chips. Dat wordt echter niet duidelijk uit het artikel, vandaar de vraag.

[RJG-223]

Als ik 2P en 96 cores zie, dan denk ik toch aan iets anders dan een NAS

Je moet ook niet aan NAS denken, maar aan SAN. Cloud bedrijven gebruiken echt niet een simpel NASje.

Ik heb wel enige ervaring met dit soort systemen in mijn homelab

Heb jij ook ervaring met bijvoorbeeld een systeem als dit, of iets als dit in je homelab ?

[ocf81]

Ik heb wel eens naar Ceph gekeken, maar dat was te duur. Dus toch maar een TrueNAS doos met iSCSI voor de VM's. Zelfs voor de meeste SAN toepassingen lijkt 2P 96C mij overkill. Maar goed, wellicht zijn er andere toepassingen die embedded draaien die dit soort processorkracht nodig hebben. Ik zou echter niet weten welke dat dan zijn.

[Reactie gewijzigd door ocf81 op 27 juli 2024 13:01]

[SCS2]

>De processors worden verder voorzien van enkele Embedded-specifieke functies. De processors krijgen non-transparent bridging voor data-uitwisseling tussen twee redundant processors binnen een systeem.<

Redundant, dus dubbel als reserve
Begrijp ik dat goed?
Dubbel om de berekeningen van de andere te controleren?
Of dubbel voor het geval de andere cpu uitvalt?
Embedded cpu in belangrijke apparatuur en moeilijk te vervangen ?