Arm introduceert nieuwe Neoverse V3- en N3-cpu-cores voor servers

Arm introduceert zijn derde generatie Neoverse-platforms, die worden gebruikt voor datacenter- en serverchips. Het bedrijf komt onder meer met nieuwe V3-cores voor hoge prestaties en N3-cores die zijn geoptimaliseerd voor prestaties per watt.

De Neoverse V3-cores vormen de high-end-architectuur in Arms Neoverse-platform. Deze kernen worden normaliter gebaseerd op de Cortex-X-cores die ook wel gebruikt worden in smartphones, hoewel Arm niet bevestigt of dat ditmaal ook het geval is. Het CSS V3-platform, dat door chipmakers gebruikt kan worden als basis voor hun eigen ontwerpen, biedt maximaal 64 cores per die, of 128 cores per socket, zo meldt Arm op woensdagavond.

Dergelijke CSS-chips bieden ieder verder maximaal twaalf DDR5- of Lpddr5-kanalen en 64 PCIe 6.0-lanes. Het platform ondersteunt ook HBM3-geheugen en ondersteunt CXL 3.0, een standaard waarmee cpu's bijvoorbeeld verbonden kunnen worden met geheugen of andere apparaten.

Arm Neoverse CSS V3

Arm claimt dat de Neoverse CSS V3-chips 'tot 50 procent betere prestaties leveren' per socket, hoewel dat in vergelijking is met de Neoverse N2-chips uit de vorige generatie. Die N-cores zijn, in tegenstelling tot de V-serie, meer gericht op lager stroomverbruik en presteren dus minder goed. Bovendien deelt Arm niet bij welk stroomgebruik die betere prestaties worden gehaald. In de meeste workloads is de V3-serie gemiddeld 10 tot 16 procent sneller dan de V2-cores van de vorige generatie, meldt het chipbedrijf daarnaast.

De cores komen los beschikbaar voor chipmakers, hoewel Arm dus ook een Compute Subsystem op basis van de Neoverse V3-architectuur beschikbaar heeft gemaakt. Deze CSS-platforms zijn complete ontwerpen die chipmakers als basis kunnen gebruiken voor hun eigen chips. Zo kunnen ze sneller een Arm-soc ontwerpen. Microsoft deed dat eerder met zijn Cobalt-Arm-chips voor gebruik in datacenters.

Arm toont daarnaast dat Neoverse V3 CSS gecombineerd kan worden met een AI-accelerator op een enkele package. Nvidia deed eerder iets soortgelijks met zijn Grace Hopper Superchip. Daarop werd een Grace-cpu met 72 Arm Neoverse V2-cores gecombineerd met een H100-datacenter-gpu op een enkele package.

Arm Neoverse V3 en N3Arm Neoverse V3 en N3

N3-cores voor prestaties per watt: 32 cores met 40W-tdp

Arm toont verder nieuwe N3-cores, die zijn geoptimaliseerd voor prestaties per watt en dus energiezuiniger moeten zijn. Volgens Arm zijn die cores tot twintig procent betere prestaties per watt dan de voorgaande N2-kernen. De daadwerkelijke prestaties zouden negen tot dertig procent hoger liggen, afhankelijk van de workload.

Het bedrijf introduceert ook van deze N3-architectuur een CSS-platform voor chipmakers, dat beschikt over 8 tot 32 cores. Volgens Arm kunnen die CSS-chips met 32 kernen tdp's van 40W halen, afhankelijk van de configuratie door de chipmaker. Het chipbedrijf deelt weinig concrete details over de architectuur. Zo is niet bekend op welke Cortex-core deze N3-serie is gebaseerd. Het bedrijf meldt wel dat het N3 CSS-platform beschikt over 2MB L2-cache per core.

Arm Neoverse CSS N3

Door Daan van Monsjou

Nieuwsredacteur

21-02-2024 • 20:43

8

Submitter: Squee

Reacties (8)

8
8
8
0
0
0
Wijzig sortering
Volgens dit artikel van Forbes is het gebruik van ARM door publieke cloud aanbieders (zoals Amazon, Microsoft en Google) in 2022 van 4,6% naar 6% gegaan. Nog niet een bijzonder hoog aandeel, maar zeker een sterke groei.

Het energieverbruik en daarmee een van de grootste kostenposten voor de cloud zijn een stuk lager. In het artikel van Forbes wordt gerefereerd naar een studie waarbij een cloud-oplossing gerealiseerd is met 72% minder energieverbruik dan een vergelijkbare x86 oplossing. Het voordeel lijkt me dus wel duidelijk.

De adoptie zou ook vrij gemakkelijk moeten gaan. De code wordt op PaaS en serverless toch al via virtualisatie uitgevoerd dus merk je als eindgebruiker niet eens iets van de switch.

ARM chips zijn naar mijn weten ook niet duurder dan Intel of AMD chips. Dan lijkt me dat de prestaties ten opzichte van hun x86 tegenhangers de enige wezenlijke barrière zijn voor wijdverspreide adoptie door de grote cloud providers. Ik ben dus wel benieuwd hoe de prestaties van deze chips uitvallen ten opzichte van de x86 alternatieven.
Mijn n=1: ik doe voor een aantal middelgrote bedrijven in Nederland en west-Duitsland de VPS'en, en een migratie van DigitalOcean naar Hetzner, en dan specifiek naar hun ARM-optie, levert significant hogere performance voor minder geld. Dat het een US-vrije optie is was voor een aantal bedrijven (zonder goede reden, alleen maar onderbuik) de doorslaggevende reden, maar het levert dus echt veel op. Dat kan volgens mij onder andere omdat het zowel qua aanschaf als verbruik gewoon voordeliger is.
Interessant dat VPS afnemers de overstap ook al maken. Het lijkt me wel een drempel om je software stack naar ARM te moeten migreren. Nou zal er vast ook veel gebruik gemaakt worden van standaard software waar ondertussen gewoon ARM versies van zijn.
Deze en veel VPSen draaien volledig op Linux-distro’s, waarvan steeds meer de volledige repo ook voor ARM64 beschikbaar hebben. Als je verder alleen dingen als PHP/Ruby/Node etc. draait, maakt je CPU-architectuur niks meer uit. Zelfs voor .NET binnen bepaalde kaders doet dat er niet toe.
Middelgrote bedrijven in Nederland die je migreert naar “de” budgetaanbieder van Europa? De reviews liegen er niet om en het volledige netwerk van Hetzner (alsin alle gebruikte IP blokken) worden steeds meer volledig geblokkeerd door maildiensten en public cloudaanbieders vanwege de enorm belabberde reputatie. Er komt zo ontzettend veel rotzooi qua traffic (allerhande bots, crawlers, testen van exploits etc) van het hele hetzner subnet dat wij er ook over denken het volledig uit te sluiten. Is ook een automatisch gevolg van VPSen (en dedi servers) leveren tegen een paar euro.

Hoe werk je hier omheen dan?

Onze eigen tests met een 128core ARM@3Ghz lieten langzamere laadtijden voor PHP zien dan de nieuwste gen EPYC processoren (meende 30% langzamer), alleen het stroomverbruik is wel aanzienlijk lager. Dus puur naar performance gekeken is ARM nog niet zo interessant, maar over de gehele breedte qua kostprijs misschien wel. Maar dat is vooral interessant als je zelf servers naar het DC brengt, niet als je afneemt via een tussenpartij als Hetzner, AWS of DO.

[Reactie gewijzigd door eMiz0r op 23 juli 2024 12:11]

Ik had het inderdaad over prijs/performance. Voordat je bij een andere partij gegarandeerd op de nieuwste generatie EPYC draait, betaal je ook weer redelijk wat meer. Daarnaast draaien er geen maildiensten op deze servers, voor mail hebben al deze bedrijven een andere partner.
Prima als jullie het subnet uit gaan sluiten, er draait niks public-facing dus daar hoef ik niet omheen te gaan werken.

Klein addendum: je kan natuurlijk, als je gebruik maakt van bijvoorbeeld Cloudflare, gebruik maken van de DNS-proxy dienst om je server 'buiten zicht' te houden, dan maakt het volgens mij ook wenig uit of dat subnet geblokkeerd wordt, tenzij je er ook voor kiest Cloudflare te weren.

[Reactie gewijzigd door graey op 23 juli 2024 12:11]

Dat significant hogere performance is dan ook veelal omdat dit vergeleken wordt met een bestaande verouderde HW en SW architectuur. Verbruik idem dito, toch zeker op die kleinere spelers die nog infra vol met skylake en cascade lake achtige matige performance/hoog verbruik infra staan hebben.
Een VPS is sowieso al een dure cloud oplossing, een ARM based VPS of een SAAS wordt dan al snel gepositioneerd eronder.
Daarom dat er nu dus een beweging is in X86 naar zuinigere cores, vorig jaar AMD Bergamo, dit jaar Intel Sierra forest.

Die ARM verschuiving is trouwens vooral door AWS met hun eigen graviton, daarbij komt nog eens dat zij specifiek hun SW oplossing daar positioneren en dan ook nog goedkoper in de markt zetten.

Op dit item kan niet meer gereageerd worden.