Intel presenteert derde generatie Xeon Scalable-serverprocessors

Intel kondigt de derde generatie van zijn Xeon Scalable-processors voor datacenters aan. Het gaat om de cpu's met de codenaam Cooper Lake en er zijn varianten met maximaal 28 cores. De 14nm-chips hebben een nieuwe bfloat16-instructieset voor deeplearning.

Intel kondigt elf nieuwe Xeon-processors aan. Het gaat om modellen in de Xeon Platinum- en Gold-series. De Xeon Scalable-processors van de Cooper Lake-generatie horen bij het Cedar Island-platform en zijn alleen geschikt voor systemen met vier of acht sockets. De processors werken met Intels C620A-chipset en gebruiken de lga4189-socket. Het platform ondersteunt zeskanaals geheugen, maximaal ddr4-3200. Het hoogst gepositioneerde model is de Xeon Platinum 8380HL met 28 cores, die aan 56 threads kan werken. Die cpu heeft een snelheid van 2,9GHz en een turbosnelheid van maximaal 4,3GHz.

Ten opzichte van de vorige generatie Xeon Scalable-processors zijn de nieuwe varianten iets hoger geklokt en ondersteunen ze sneller geheugen. De tdp is ook verhoogd naar 250W voor de topmodellen. Volgens Intel bieden de nieuwe processors een flinke prestatiewinst bij deep-learningtoepassingen, door de toevoeging van de nieuwe bfloat16-instructieset.

Opvolgers voor de Xeon Platinum 9000-processors, die tot 56 cores gaan, heeft Intel nog niet gepresenteerd. Intel laat op zijn roadmap wel zien dat later dit jaar het Whitley-platform met Ice Lake-serverprocessors uitkomt. Dat zijn de eerste Xeons die op 10nm worden gemaakt. Dit platform bestaat uit configuraties met maximaal twee sockets. Wellicht introduceert Intel in deze serie de Xeon-varianten met meer cores.

In 2021 komt Intel met het Eagle Stream-platform met de Sapphire Rapids-processors. Het aanbod bestaat dan uit één serie van processors, geschikt voor één tot acht sockets. Bij die generatie wordt ook de introductie van pci-e 5.0 en ddr5 verwacht.

Naast nieuwe Xeon-processors introduceert Intel ook de Stratix 10 NX-fpga, nieuwe Optane-dimms en server-ssd's. Tweakers heeft een achtergrondartikel gepubliceerd over Intels nieuwe introducties voor datacenters.

Model	Cores/threads	Baseclock	Max turbo (1 core)	Tdp	Cache	Geheugensnelheid	Max geheugen	Sockets
Xeon Platinum 8380HL	28/56	2,9GHz	4,3GHz	250W	38,5MB	ddr4-3200 (1dpc) ddr4-2933 (2dpc)	4,5TB	4s / 8s
Xeon Platinum 8380H	28/56	2,9GHz	4,3GHz	250W	38,5MB	ddr4-3200 (1dpc) ddr4-2933 (2dpc)	1,12TB	4s / 8s
Xeon Platinum 8376H	28/56	2,6GHz	4,3GHz	205W	38,5MB	ddr4-3200 (1dpc) ddr4-2933 (2dpc)	4,5TB	4s / 8s
Xeon Platinum 8376H	28/56	2,6GHz	4,3GHz	205W	38,5MB	ddr4-3200 (1dpc) ddr4-2933 (2dpc)	1,12TB	4s / 8s
Xeon Platinum 8354H	18/36	3,1GHz	4,3GHz	205W	24,75MB	ddr4-3200 (1dpc) ddr4-2933 (2dpc)	1,12TB	4s / 8s
Xeon Platinum 8348H	18/36	2,5GHz	3,8GHz	150W	24,75MB	ddr4-3200 (1dpc) ddr4-2933 (2dpc)	1,12TB	4s / 8s
Xeon Gold 6348H	24/48	2,3GHz	4,2GHz	165W	33MB	ddr4-2933 (2dpc)	1,12TB	4s
Xeon Gold 6328HL	16/32	2,8GHz	4,3GHz	165W	22MB	ddr4-2933 (2dpc)	4,5TB	4s
Xeon Gold 6328H	16/32	2,8GHz	4,3GHz	165W	22MB	ddr4-2933 (2dpc)	1,12TB	4s
Xeon Gold 5320H	20/40	2,4GHz	4,2GHz	150W	27,5MB	ddr4-2666 (2dpc)	1,12TB	4s
Xeon Gold 5318H	18/36	2,5GHz	3,8GHz	150W	24,75MB	ddr4-2666 (2dpc)	1,12TB	4s

Reacties (45)

Interessant te vermelden is dat Intel ook een geduchte concurrent heeft op FPGA gebied met een AI capability: Xilinx met het Versal platform. https://www.xilinx.com/pr...-devices/acap/versal.html
Ik heb nog geen harde vergelijkingen gezien, want Versal is nog niet breed te koop, maar ik denk dat Intel hier wel een puntje aan kan zuigen. https://www.xilinx.com/pr.../acap/versal-premium.html en https://www.xilinx.com/pr.../acap/versal-ai-core.html
Overigens zet Xilinx net zo hard in als Intel op cloud, cloud-edge, maar vooral ook op embedded. Xilinx is nagenoeg alleenheerser wanneer het gaat om grote high performance FPGAs in een embedded context. Dit heeft Intel laten vallen na de koop van Altera.
edit: AI series toegevoegd

[Reactie gewijzigd door WienerBlut op 18 juni 2020 15:09]

Toen ik 14nm las ben ik maar gestopt met lezen. Ze zouden deze nu toch wel op 10nm moeten kunnen aanbieden.

Dit zijn heel grote dies, die zitten vaak op oudere nodes dan de kleinere mainstream chips. Concurrenten met grote-die chips zitten ook niet op de kleinste node, bv de SPARC M8 (32-core, 256 threads, 20nm) en de POWER9 (24-core, 96-threads, 14nm).

AMD zit wel op 7nm voor de EPYC (64-core, 128 threads, 7nm), en krijgt dat voor mekaar door acht kleine chips te bakken en die met elkaar te verbinden.

Prestaties zijn op papier ietwat lastig te vergelijken aangezien de per-core en per-thread performance nogal verschilt tussen deze vier chipfamilies, en ze allemaal hun eigen extra co-processors/accelerators aan boord hebben die specifieke toepasingen moeten versnellen. We zullen de applicatie benches wel zien.

[Reactie gewijzigd door Dreamvoid op 18 juni 2020 15:38]

1-2 socket modellen komen dit jaar uit op 10nm, 4-8 socket modellen op 14nm.

Die 'dies' zijn bijna hetzelfde toch? Hoe kan de grootte van die chip dan verklaren dat de 1-2 socket versie' op 10nm worst gemaakt en de 4-8 socket versie' op 14nm?

Ik zou niet verwachten dat die dies hetzelfde gaan zijn, de 10nm Xeons krijgen andere cores (ice lake) en dus geen Skylake afgeleiden meer. PCIE4.0, volgens mij 8 channel geheugen, aandere aantallen cores e.d.

Ja klopt, STH heeft een mooi artikel hierover:

https://www.servethehome....eon-scalable-cooper-lake/

(Slecht geselecteere) samenvatting: Cooper Lake Xeon SP is slechts een 'refresh', alleen verbeterde interconnectiviteit tussen de kernen en bfloat16 is nieuw. Cooper Lake was te laat, daarom komen er geen 1 /2 socket versies van, en het is niet gelukt Cooper Lake op het vernieuwde Whitley platform te krijgen, dus gebruikt het het verouderde Cedar Island platform inc PCIe3.

Ice Lake Xeon SP zijn volledig nieuwe kernen; deze Cooper Lake gaat maar tot 28 kernen met PCie3, maar Ice Lake gaat waarschijnlijk tot 38 kernen met PCIe4 en hogere frequenties (wat interessant is omdat laptop-10nm tot nu toe 20% achterbleef op 14nm qua frequenties).

De voornaamste bestaansreden voor deze Cooper Lake is dus 4 socket configuraties (8P Is kennelijk niet zo gewild?), voor de klanten die 4 sockets nodig hadden en op bfloat16 zaten te wachten (oa FB). Alle andere klanten wachten kennelijk liever op Ice Lake; want dat gaat een zeer grote verbetering worden.

7nm is pas gereed in 2021, dus dan zullen ze nu nog 14nm gebruiken. 10nm was niet zo'n succes:
nieuws: Intel: 10nm is minder productieve chipnode dan 14nm en 22nm

Door hun eigen schuld zoals er in staat. Anderen varen er beter bij.

28 core's op 1 package! Het lijkt erop dat dit 2 die's per package betreft, zoals in de tijd van de Pentium D, en de Core 2 Quad. Deze zouden wel zijn geconfigureerd als master/slave (excuseer voor de term).
De die size is dan nog immens, 2x 694mm2
https://www.anandtech.com...-biggest-cpu-package-ever

[Reactie gewijzigd door g4wx3 op 18 juni 2020 15:29]

(excuseer voor de term)

Geen excuses nodig. Master-slave is een doodnormale tech term die nu gekaapt wordt voor politieke doeleinden. Als men zich zo druk maakt om die woordjes, zouden ze zich eens druk moeten gaan maken over de slavernij die gebruikt wordt om onze mobieltjes en andere tech in elkaar te knutselen.

28 core's op 1 package!

Ik zie niet direct hoe dit bijzonder is, AMD heeft 64 cores op een "pro-sumer"/consumenten processor.

Die 28 core package is gewoon 1 die, de cpu's met 2 dies per package hebben 32 / 48 / 56 cores en zitten in de 9000 range.

Zie o.a.
https://ark.intel.com/con...r-77m-cache-2-60-ghz.html
https://ark.intel.com/con...71-5m-cache-2-30-ghz.html
https://ark.intel.com/con...71-5m-cache-2-30-ghz.html

Zozo, 28 cores.

Heeft Intel het voor elkaar gekregen om AMD *helemaal* te negeren, of geloven ze echt dat men een 64-core Epyc niet interessanter vindt dan een veel duurdere 28-core Xeon?

Zolang Intel nog steeds alles verkoopt dat ze fabriceren zal dat inderdaad grotendeels het geval zijn.

En vergis je niet, AMD heeft hele interessante producten, echter zitten ze in het server segment "pas" op +-10% (althans dat is de doelstelling van AMD voor het lopende kwartaal), "pas" tussen aanhalingstekens omdat het natuurlijk al een hele prestatie is om überhaupt zover te komen en AMD zal ook nog wel een flinke periode doorgroeien.

Echter is de realiteit dat zelfs met AMD's veel betere producten +- 9 van de 10 verkochte server cpu's nog steeds een Intel is op dit moment.

Dan is de doelstelling van AMD in ieder geval gehaald

Als je alles kan verkopen wat je maakt dan wil dat zeggen dat er te Korten zijn. Dat is nefast voor een business. Op lange termijn heeft dit meer gevolgen want business gaat zich aanpassen naar andere platformen. Er zijn lange lead times voor sommige Xeon cpu en vooral bepaalde types. En kom nu weer niet zeggen dat jij zogezegd alles kan bestellen en meteen beschikbaar is want ik kan hier officiële oem documenten aanplakken die zelf toegeven dat Intel niet kan leveren...

Dat Intel lever problemen heeft is niets nieuws, en dat is inderdaad een probleem voor ze. Dat speelt trouwens al sinds 2018 uit mijn hoofd. Dat het niet handig is voor je business mag ook duidelijk zijn. Echter is het de simpele realiteit dat Intel meer vraag heeft dan capaciteit en chip fabrieken stamp je niet zo even uit de grond. Het is een luxe probleem waar AMD van kan profiteren.

Echter kan dat ook Intel weer helpen op termijn, zodra AMD meer marktaandeel pakt zal op een gegeven moment de capaciteit bij Intel ook weer voldoende zijn en zullen de supply issue's ook verdwijnen.

Er is nu in de huidige generatie een 56-core Xeon, daar zal tzt ook wel een opvolger van komen.

Maar of dat interessant is of niet, dat hangt er vanaf, als ze een groter deel van het oppervlak gebruiken voor de coprocessor/accelerator units en/of cache, dan is er minder ruimte op de die voor veel cores. Tis maar net wat past bij de workload.

Die 56core is eigenlijk 2*28 aan elkaar geplakt in een speciale socket. Er was zo weinig animo voor van klanten en oem dat Intel beslist heeft om deze speciale socket enkel aan te bieden aan speciale klanten.... Terug naar de tijd van itanium.

Het mag duidelijk zijn dat Intel de hete adem van AMD in zijn nek voelt. Hogere snelheden maar nog 14 nm en dus een hogere TDP. De toevoeging van bfloat16 is dan wel weer een leuk maar eigenlijk alleen interessant voor workloads met deeplearning in een datacenter en ik weet niet welk percentage van de markt dat is.

dit is een heel specifieke serie met ook andere geheugen limieten, niet de standaard reeks.
de cascade lake R voor 1-2s tijdje geleden (paperlaunch) had ook hogere clocks en tdp

als je de roadmap bekijkt kan je sterk afvragen wat het doel nog is van deze launch… tenzij ze net als met de R voor 1-2s ongeveer 30% van de prijs gedaan hebben tov de vorige generatie.

[Reactie gewijzigd door d3x op 18 juni 2020 17:19]

Het doel van deze serie is vooral marketing. Ze moeten weer in de spotlight komen.

Er is geen paper launch van 1s-2s Cooper Lake, die zijn immers gecancelled en nooit gelanceerd, zie o.a.
https://www.servethehome....-still-launching-1h-2020/

Misschien bedoel je Cascade Lake refresh, dat is echter geen paperlaunch, die waren gewoon verkrijgbaar.
https://www.anandtech.com...able-family-with-new-skus

idd de R serie

24febr launch - leverbaar juni...

hangt dus veel af van perceptie, ik noem dat zuivere paperlaunch

Waar haal je die leverbaar in juni vandaan, Cascade Lake R was in februari bij launch direct verkrijgbaar.

even realiteit: als ik begin maart orders zet bij een OEM en er staat voor cascade lake max 3 weken lead time en voor een R minimum wacht tijd tot midden mei - begin juni dan WEET je dat het een paper launch is ......

Hier een andere realiteit, HPE leverde deze machines vanaf begin maart. Geen idee waarom jij ze pas in mei zou kunnen krijgen. Wij hadden ze vlak na release in huis (eerste week maart).

Jammer dat je zo moet reageren wanneer je op een onwaarheid betrapt wordt en dus maar op de man moet gaan spelen. Treurig om te zien. Release was trouwens medio februari, eerste leveringen bij ons begin maart zoals ik al aangaf, daar zit dus de leadtime al in.

Release was niet medio. Het was 24e op de kop. HPE en anderen als Dell cisco etc laten geen enkele code los voor die datum dus kan je die NIET op voorhand bestellen. De enige die onwaarheden meegeeft ben jij.

Tja, ik kan er weinig aan doen dat ik begin maart enkele HPE servers met deze cpu's in huis had voor een PoC bij een grote klant van ons. Ik ben engineer, geen inkoper, dus hoe onze inkoop eraan gekomen is kan ik je verder niet bij helpen. Ik kan alleen aangeven dat ik ze beschikbaar had.

[Reactie gewijzigd door Dennism op 19 juni 2020 09:39]

Is PCIE4.0 geen gemis in dit segment? (SSD ea)

Ik ben vorig jaar op 'schoolreisje' bij NVIDEA geweest. Daar heb ik, samen met wat anderen, gezien en geleerd wat men bij NVIDEA allemaal al kan op het gebied van AI. Ze hebben hun GPU omgebouwd naar een AI-processor met werkelijk duizelingwekkende prestaties. En als je dan nog bedenkt dat deze vrijwel lineair kunnen schalen door meerdere parallel te stapelen.... werkelijk indrukwekkend.

Wij kennen ze alleen van de GPU's maar ze zijn echt mijlenverder dan wat wij als Pro-sumers denken.

Waarom wij kennen ze alleen van GPU's?
Ze zijn al een behoorlijke tijd bezig met AI hardware, net zoals met automotive hardware.

Ik vermoed dat jij bij een chineze kloon van NVIDIA bent geweest, want de officiele naam is niet met 'EA' aan het eind, nooit geweest ook.

Ik denk eerder NIVEA.

Vast in slaap gevallen tijdens de trip. De naam klopt niet

Zo... dus jij bent op 'schoolreisje' bij NOVIDEO geweest, NICE!

Meest belangrijke vraag is: Welke PCI-e standaard heeft het? Dat kan ik via paar simpele muisklikken niet vinden,

[Reactie gewijzigd door Xieoxer op 18 juni 2020 16:10]

PCIE gen3, is heel makkelijk terug te vinden op Intels ARK.

Hier het overzicht van deze Sku's: https://ark.intel.com/con...-scalable-processors.html

Kies een Sku, bijvoorbeeld deze: https://ark.intel.com/con...38-5m-cache-2-90-ghz.html

En kijk onder "expansion options".

Bedankt! ik had eerst gekeken op hun ark pagina, maar daar lijken niet alle pagina's bijgewerkt. Wel teleurstellend dat het nog steeds geen PCI-e 4 interface heeft.

Of welke vulnerabilities heeft deze CPU nu weer.

Ik zou wel eens een grafiek willen zien met een tijdlijn die per mitigation laat zien hoeveel % je aan performance inlevert (met een aantal verschillende soorten workloads). Denk dat Intel heel zenuwachtig zou worden, zeker als dat dat grafiekje een decidated site zou krijgen met hoge visibility.

Denk dat ze qua prestaties best redelijk meekomen met de epic van AMD...op de 64c epic na en t stroomverbruik.

Op de 7nm van amd haal je echter tot 4x meer chips dan op 14nm. Daar ze chiplets gebruiken bij amd zal dat met dezelfde yields nog meer bruikbare chips per wafer opleveren.

Dus de productiekosten en de daarbij behorende prijs(of gebrek aan winst)zal ook wel flink hoger liggen...

tijd voor 10nm/7nm intel