Intel Data Platforms-update

Vol inzetten op deep learning en ai

Derde generatie Xeon Scalable

Processors behoren tot de kernproducten van Intel en krijgen voor het datacentrum een update. De Data Platforms Group introduceert de derde generatie Xeon Scalable-processors. Deze Xeons zijn bedoeld voor datacentra en zouden met vier tot acht stuks in een server geprikt moeten worden.

Tot zover weinig nieuws onder de zon, maar deze derde generatie Xeons heeft een nieuwe instructieset, speciaal voor deep-learningtoepassingen. De instructie heet bfloat16, of bf16 in het kort, en moet neurale netwerken versnellen. Specifiek moet het trainen van zo'n netwerk worden versneld zonder dat het netwerk veel aan nauwkeurigheid inboet. Vorig jaar, met de introductie van de tweede generatie Xeon Scalable, voegde Intel de int8-instructie toe, eveneens voor neurale netwerken. Waar int8 echter alleen geschikt is voor inference, de resultaatstap dus, is bf16 geschikt om het netwerk te trainen. Daarvoor wordt tot dusver volgens Intel vooral fp32 gebruikt, wat nauwkeuriger is, maar ook langzamer. Met bf16 zou zowel het trainen als de inferencestap van een neuraal netwerk met bf16 ongeveer 1,9 maal zo snel zijn als met fp32.

Ook vergeleken met avx-512, de fp32-instructie die bij de eerste generatie Xeon Scalable voor neurale netwerken wordt gebruikt, is bf16 veel sneller. Net als int8 maakt ook bf16 deel uit van de features die Intel onder de noemer DL Boost schaart.

Het platform voor deze derde generatie Xeon Scalable heet Cedar Island en de processors staan onder de codenaam Cooper Lake bekend. Later dit jaar komt Intel nog met het Whitley-platform dat op Ice Lake wordt gebaseerd en voor kleinere servers met een of twee sockets is bedoeld. Volgend jaar moet het Eagle Stream-platform met Sapphire Rapids-Xeons volgen. Dat platform moet verenigend werken; het is geschikt voor een tot acht sockets en krijgt bovendien weer een verbetering in DL Boost met de AMX-instructie. Intel meldde dat het de zogeheten 'power on'-test voor Sapphire Rapids succesvol heeft voltooid.

Model	Cores/threads	Baseclock	Max turbo (1 core)	Tdp	Cache	Geheugensnelheid	Max geheugen	Sockets
Xeon Platinum 8380HL	28/56	2,9GHz	4,3GHz	250W	38,5MB	ddr4-3200 (1dpc) ddr4-2933 (2dpc)	4,5TB	4s / 8s
Xeon Platinum 8380H	28/56	2,9GHz	4,3GHz	250W	38,5MB	ddr4-3200 (1dpc) ddr4-2933 (2dpc)	1,12TB	4s / 8s
Xeon Platinum 8376H	28/56	2,6GHz	4,3GHz	205W	38,5MB	ddr4-3200 (1dpc) ddr4-2933 (2dpc)	4,5TB	4s / 8s
Xeon Platinum 8376H	28/56	2,6GHz	4,3GHz	205W	38,5MB	ddr4-3200 (1dpc) ddr4-2933 (2dpc)	1,12TB	4s / 8s
Xeon Platinum 8354H	18/36	3,1GHz	4,3GHz	205W	24,75MB	ddr4-3200 (1dpc) ddr4-2933 (2dpc)	1,12TB	4s / 8s
Xeon Platinum 8348H	18/36	2,5GHz	3,8GHz	150W	24,75MB	ddr4-3200 (1dpc) ddr4-2933 (2dpc)	1,12TB	4s / 8s
Xeon Gold 6348H	24/48	2,3GHz	4,2GHz	165W	33MB	ddr4-2933 (2dpc)	1,12TB	4s
Xeon Gold 6328HL	16/32	2,8GHz	4,3GHz	165W	22MB	ddr4-2933 (2dpc)	4,5TB	4s
Xeon Gold 6328H	16/32	2,8GHz	4,3GHz	165W	22MB	ddr4-2933 (2dpc)	1,12TB	4s
Xeon Gold 5320H	20/40	2,4GHz	4,2GHz	150W	27,5MB	ddr4-2666 (2dpc)	1,12TB	4s
Xeon Gold 5318H	18/36	2,5GHz	3,8GHz	150W	24,75MB	ddr4-2666 (2dpc)	1,12TB	4s

• Volgende pagina 3. Fpga's en opslag