Ampere presenteert serverprocessor met 80 ARM-cores

Ampere heeft zijn tweede serverprocessor met ARM-cores aangekondigd. De Ampere Altra wordt op 7nm gemaakt en heeft 80 cores met een turbosnelheid van maximaal 3GHz. De fabrikant levert configuraties met twee sockets voor in totaal 160 cores.

Ampere gebruikt voor de nieuwe Altra-serverprocessors de ARM Neoverse N1-cores die Amazon ook gebruikt in zijn Graviton2-soc. De chip van Ampere wordt op TSMC's 7nm-procedé gemaakt en geconfigureerd op een tdp van maximaal 210W.

Ampere levert twee platforms met de Altra-serverprocessor. Mt. Jade is een 2U-rackserver met dubbele socket en Mt. Snow is een variant in 1U- of 2U-uitvoering met een enkele socket. Per socket biedt het platform 96 pci-e 4.0-lanes en acht geheugenkanalen voor 4TB aan ddr4-3200.

Volgens Ampere biedt het Altra-platform veel meer cores per rack dan servers op basis van AMD Epyc- of Intel Xeon-serverprocessors. Ook stelt de fabrikant dat de prestaties hoger zijn. Daarbij baseert het bedrijf zich op de Spec cpu2017-benchmark.

Het bedrijf zegt dat het Ampere Altra-platform momenteel al geleverd wordt aan klanten wereldwijd, waaronder grote clouddiensten. Specifieke klanten noemt het bedrijf niet. Klanten zijn momenteel bezig met het testen en optimaliseren van hun software voor het platform.

De Altra is de tweede ARM-serverprocessor van Ampere. Twee jaar geleden bracht het bedrijf zijn eMAG-serverprocessors uit met 16 en 32 ARM-cores. Chipbedrijf Ampere wordt geleid door de voormalige Intel-topvrouw Renee James.

Reacties (41)

[RHoots]

Ben erg benieuwd wat voor applicaties hier uiteindelijk op draaien. Lijkt me een zeer specialistisch platform wat je niet zomaar even in gebruik neemt.

[raymondw]

Er is ondersteuning voor Linux ( betaald zelfs RedHat en Centos), docker en KVM.
Microsoft heeft ook al jaren ARM in het DC op specialistische Windows versies.
Btje plannen, maar gezien de performance en kosten best een leuk platform.

Voor de gemiddelde SOHO, MKB gebruiker met een VMware platform op x86 word het idd wel wat lastiger.

[klakkie.57th]

je kan het ook anders bekijken.

Bij mixed software zit je volgens mij safe met een x86 platform, ik ken niet zo meteen een courante software die niet draait op x86. Andersom wel en dan moet je dus verschillende hardware platformen ondersteunen wat ook niet gratis is.

[Jerie]

Tegenwoordig toch echt AMD64 ofwel x86-64, en niet x86 ofwel x86-32.

[Dreamvoid]

Het is ook geen ARM maar ARMv8.x-A, maar in de volksmond noemen we het ARM

[Jerie]

ARM kan van alles zijn, inclusief 32-bit of een verouderde architectuur. Het is prettig om dan specifiek te zijn.

[Darkstriker]

Denk je echt dat ze een CPU met ondersteuning voor 4TB RAM op een 32-bit architectuur bouwen?

[Jay-v]

Echt van alles, Redis, Memcached, Nginx, meerdere database platforms, Java, Node, Python, zoek maar eens van welke applicaties er ARM containers zijn op Docker hub.

Op dit moment zijn ARM workloads al iets voordeliger. Met verdere optimalisatie denk ik dat Intel en AMD hier een stevige concurrent aan gaan krijgen in de server markt.

[Reactie gewijzigd door Jay-v op 23 juli 2024 20:01]

[The Zep Man]

Echt van alles, Redis, Memcached, Nginx, meerdere database platforms, Java, Node, Python, zoek maar eens van welke applicaties er ARM containers zijn op Docker hub.

Eigenlijk alles wat opensource is en/of wat expliciet voor ARM gecompileerd wordt. Dat is tegenwoordig best wel veel.

Als je geen x86-expliciete code hoeft te draaien en geen extreme (piek) workloads hebt, dan is gebruik van ARM t.o.v. x86 een no-brainer.

[Reactie gewijzigd door The Zep Man op 23 juli 2024 20:01]

[ikweethetbeter]

Als je geen ... extreme (piek) workloads hebt, dan is gebruik van ARM t.o.v. x86 een no-brainer.

Wat heeft de workload te maken met de keuze tussen x64 (x86 is oud) en ARM?

[Dreamvoid]

Omdat de huidige ARM cores niet zo snel zijn als de beschikbare x86 cores in de huidige Intel/AMD serverchips, dus als je een server moet draaien met hoge workloads dan maakt dat uit. Niet dat het onmogelijk is om een snelle ARM core te maken (Apple heeft dat bv gedaan) maar in de huidige ARM server chips zie je vooral veel kleine, langzame cores. Idealer dus om een groot aantal kleine workloads als statische webservers op te draaien. Deze Ampere chip heeft ook weinig cache, dus bv database performance zal ook relatief traag zijn.

[Reactie gewijzigd door Dreamvoid op 23 juli 2024 20:01]

[PuzzleSolver]

Die snelheid is anders wel redelijk te vergelijken.

https://kinvolk.io/blog/2...r-cloud-native-workloads/

De nieuwste ARM generaties lopen niet zover meer achter op Intel / AMD.

[ikweethetbeter]

Omdat de huidige ARM cores niet zo snel zijn als de beschikbare x86 cores in de huidige Intel/AMD serverchips

Mijn eerste reactie was: heb je nog nooit van de Apple Ax implementaties gehoord? Maar...

Niet dat het onmogelijk is om een snelle ARM core te maken (Apple heeft dat bv gedaan)

Je wist dat al!

maar in de huidige ARM server chips zie je vooral veel kleine, langzame cores. Idealer dus om een groot aantal kleine workloads als statische webservers op te draaien. Deze Ampere chip heeft ook weinig cache, dus bv database performance zal ook relatief traag zijn.

Je hebt de ARM architectuur en de verschillende ARM implementaties.
Telefoons hebben vaak snelle cores voor het heftige rekenwerk, en langzamere (zuinigere) cores voor de achtergrondprocessen. Voor servers zou je hetzelfde kunnen doen, afhankelijk van het doel heb je een mix van snelle en zuinige cores. Wat de mix van de Altra is, word me niet duidelijk.
Intel Xeon heeft meestal gelijke cores, die wel verschillend kunnen worden geklokt. Wat dat betreft zit er niet zo heel veel verschil tussen ARM en Intel, het verschil zit 'm vooral in rekenkracht per Watt.

[Dreamvoid]

De instructieset bepaalt niet het stroomverbruik of de rekenkracht per Watt, ook dat is de implementatie. Historisch zijn er vooral kleine (en daardoor zuinige) cores gemaakt met ARM, en high-performance (en daardoor onzuinige) cores met x86 (en SPARC, en POWER). Maar dat is geen wetmatigheid, zie bv de zeer zuinige x86 cores uit de (voorheen) Atom serie en bv de onzuinige ARM cores waar Samsung een tijdje terug mee worstelde.

[ikweethetbeter]

Klopt. Alles draait om de implementatie.

ARM is RISC, x86/x64 is CISC.

Het is voor RISC makkelijker om dit efficient in siliconen te bakken dan voor CISC, alhoewel CISC zelf intern RISC kan gebruiken...

[Dreamvoid]

RISC en CISC is allang niet zo'n binaire tegenstelling meer, de ARMv8 instructieset heeft behoorlijk complexere instructies ("Thumb"), en inderdaad, moderne x86 en ARM chips breken complexere instructies op in micro-ops. Het hele idee is dat je met complexe instructies je pipeline en memory interfaces efficienter kan vullen (=je hebt minder instructies nodig voor hetzelfde algoritme), maar met simpele ops weer meer throughput kan behalen. Ook blijk je makkelijker snelle compilers te kunnen schrijven voor CISC(-achtige) instructiesets, dus uiteindelijk is er een continue push om de front-end complexe instructies te geven, net zo hard als je voor de compute units aan de back end het liefst zo weinig en zo simpel mogelijke instructies zou willen.

Ook hier weer is de implementatie leidend - Intel heeft bijvoorbeeld jarenlang met x86 server cpu's betere performance-per-watt gehaald dan zijn RISC concurrenten, het buitensporige stroomverbruik was zelfs de hoofdreden dat Apple van POWER chips afstapte.

[Reactie gewijzigd door Dreamvoid op 23 juli 2024 20:01]

[trogdor]

Misschien bedoel je bottlenecks in threads, waardoor processen afhankelijk zijn van de snelheid van een enkele core ?
Dat zie je inderdaad bijvoorbeeld bij database servers van de mysql/mariadb smaak nog wel eens, in dat geval is een architectuur met minder maar snellere cores inderdaad te prefereren.
In alle andere gevallen waar de werklast wel goed te verdelen is over meerdere cores is het vrij duidelijk dat meer cores = sneller = beter.

[Dreamvoid]

Dit, maar database servers hebben in de regel daarnaast ook profijt van veel cache. Maar dat kost dure/onzuinige transistors op de die, dus als je een chip wil maken met heel veel cores en niet te grote die size, dan ga je daarop bezuinigen, dat lijkt iig de design filosofie van deze Ampere chips te zijn geweest.

[trogdor]

Precies, daarom voor enkele toepassingen minder geschikt, maar er zijn vele toepassingen die van deze massa aan cores per U juist heel erg goed gebruik kunnen maken, met als uiterste voorbeeld grote reken clusters.

[CAPSLOCK2000]

Meer bang for buck. Je krijgt dezelfde gemiddelde performance voor een lagere prijs. Vergelijk het maar met een bestelbus en een Ferrari. De Ferrari heeft een hogere topsnelheid, dus als je over 1 uur aan de andere kant van het land wil zijn is dat de beste keuze, maar als geen haast hebt en 10 zakken cement wil meenemen dan kun je beter de bestelbus hebben.


Vaak gaat het daarbij niet eens om de aanschafprijs maar over de stroomrekening. In professionele omgevingen is het stroomverbruik (en de daarbij behorende infrastructuur en koeling) vaak duurder dan de prijs van de hardware.

[Uberprutser]

Super om containers op te draaien: https://aws.amazon.com/ec2/graviton/

[hooibergje]

Het meeste wat dat soort machines draaien is het oplossen van lineaire systemen. Hoe groter hoe beter, en dat schaalt als een tierelier.

[Squee]

Ben erg benieuwd wat voor applicaties hier uiteindelijk op draaien. Lijkt me een zeer specialistisch platform wat je niet zomaar even in gebruik neemt.

Als je kijkt naar de supporting quotes onderaan de originele press-release (die ook in het artikel gelinked werd), dan vind je daar commentaar van Microsoft, Oracle, Canonical, VMware en meer. Onder andere;

“We are pleased to see the launch of the Ampere Altra cloud optimized platform that helps bolster our hyperscale datacenter priorities around power efficiency, resiliency, telemetry and security. Ampere’s standards-based approach made it easy for us to bring up our software stack and we are actively evaluating their systems in our labs.”

Dr. Leendert van Doorn, Distinguished Engineer, Microsoft Azure, Microsoft Corp

“Oracle is thrilled to see the Ampere Altra processor being introduced today. A shared vision of innovation in cloud led to a deep technical engagement between the two companies soon after Ampere’s founding. Today, Oracle is in the final phases of developing Ampere Altra-based platforms, and we are excited to validate the performance, power and scalability benefits that Ampere Altra was designed to meet. Along with that platform work, we are optimizing our software including Oracle Linux, Oracle Java, Oracle Database for Ampere Altra. We look forward to deploying Ampere Altra in the Oracle Gen 2 Cloud.”

Edward Screven, Chief Corporate Architect, Oracle Corp

etc etc.. dus met dat software ecosysteem zit het wel goed

[Reactie gewijzigd door Squee op 23 juli 2024 20:01]

[foobar79]

Met een TDP van 210Watt is het redelijk vergelijkbaar met een AMD EPYC 7702.
Die heeft 64 Cores en 128 Threads in een 200Watt footprint en op basis van de benchmarks van de Amazon variant zal deze EPYC waarschijnlijk sneller zijn dan de Ampere Altra.

De grote vraag is dan wat deze gaan kosten tov van de AMD line-up.
Voor een vergelijkbare prijs (en slechtere performance per watt) heb je waarschijnlijk liever "standaard" x86 hardware.

[hooibergje]

Bedenk dat als je een cluster koopt, dat er dan eigenlijk drie bedragen zijn:

1: kopen van het cluster
2: stroom om het te draaien
3: stroom om het te koelen.

Die drie zijn grofweg even groot over een levensduur van 10 jaar. Als je zuinigere processoren hebt die minder stroom vreten en minder warmte produceren, is dat dus heel erg interessant. Als hij zuiniger is, zou hij zelfs duurder mogen zijn dat een vergelijkbare EPYC of Xeon.

edit: typos

[Reactie gewijzigd door hooibergje op 23 juli 2024 20:01]

[space-diver]

wat mij ook opviel is dat ze met de tdp van 210W tussen 2 versies van de epyc zitten de 7702 (200W) en de 7742(225W). waarbij de 7742 ong een 10% hogere base clock heeft.
Mijn vermoeden is dat ze bewust voor de 7702 hebben gekozen omdat ze met de andere op vergelijkbare performances per rack zouden uitkomen.
Ergo.
Mooie marketing

[bbob]

Volgens Ampere biedt het Altra-platform veel meer cores per rack dan servers op basis van AMD Epyc- of Intel Xeon-serverprocessors. Ook stelt de fabrikant dat de prestaties hoger zijn. Daarbij baseert het bedrijf zich op de Spec cpu2017-benchmark.

Zonder onafhankelijke geteste resultaten is bovenstaande pure marketing. Eerst de feiten zien dan pas conclusies trekken.

Voorlopig is het allemaal heel vaag, wie wat waar hoe, niemand weet waar de cpu's zitten.

[fastedje]

Deze test zegt niet alles, maar geeft wel een aardige indruk van de potentie van de ARM Neo cpu's: https://youtu.be/KLz8gC235i8

[bbob]

Test laat een xeon e5-2686 v4 2.3 ghz zien uit 2017.
8 cores en de arm versie die iets sneller is. Geen idee van wanneer het ontwerp van de Neo is.

[fastedje]

De E5-2686 is geen 8 core cpu maar een 18 core CPU van ca. $4000. Hoewel Amazon de graviton als 40% goedkoper neerzet, is de performance nog sterk afhankelijk van de toepassing. PHP presteert nog niet geweldig, maar 7zip daarentegen weer wel heel goed:
https://www.cnx-software....-a1-arm-cost-savings/amp/

Ik heb ook gelezen dat diverse software nog diverse optimalisaties nodig heeft om de performance op vergelijkbaar niveau te krijgen, een deel zal wellicht niet te optimaliseren zijn.

[Jerie]

Ampere's benchmarks (waar naar gelinkt worden, zie de screenshots die Tweakers heeft overgenomen) zijn oneerlijk omdat ze op de systemen die ze noemen verschillende compilers gebruiken (proprietary van Intel/AMD vs GCC). Zie de HN discussie voor details van o.a. Anandtech en STH.

[Reactie gewijzigd door Jerie op 23 juli 2024 20:01]

[Femme]

Als ik het goed begrijp heef Ampere de resultaten van Intel en AMD in de SPEC-benchmark zelf afgewaardeerd om te compenseren voor het feit dat Intel en AMD geoptimaliseerde compilers gebruikten voor hun entries en Ampere GCC. Dat is een gekke situatie. Open source zal wel vaak met gcc gecompileerd worden, maar ik kan me ook voorstellen dat commerciële enterprise software wel wordt gecompileerd met de beste compiler die er beschikbaar is voor een platform.

[Dreamvoid]

Op zich valt er wel wat voor te zeggen aangezien veel gebruikers met standaard gcc-compiled distro's en pakketten werken en zelf geen extra werk steken in compileren/optimaliseren. Maar idd, uiteindelijk wil je applicatieperformance testen, geen SPEC benches.

[kidde]

In de discussie waar @Jerie naar linkt, geven mensen juist weer aan dat SPEC een vrij nutteloze benchmark voor de commercie is, omdat het weinig betrekking heeft op 'enterprise software', en dat juist veel commerciele software niet op ICC / AOCC compileert.

Alleen HPC spul, en dat is niet commercieel maar institutioneel. Voor ThunderX2 bijv. is er dan weer de Cray-compiler als je per se hoog wil scoren op SPEC; dus het is wachten tot er een HPC-bedrijf als Cray komt die met de Altra aan de slag gaat.

[Remenic]

Waarom is dat niet eerlijk?

[Balance]

Arm Neoverse N1-cores die Amazon heeft ontwikkeld voor zijn eigen Graviton2-soc

@Xtuv Het ligt net iets anders: De Neoverse N1 is door Arm zelf ontwikkeld en onder licentie verstrekt aan verschillende klanten, waaronder Amazon en Ampere. Arm heeft zelf ook een reference design met 64 Neoverse N1-cores.

[Xtuv]

Scherp, aangepast

[D3ton4tor72]

Ik zat toch even raar tegen deze headline aan te kijken, dacht eerst dat het om Nvidia ging, aangezien de codenaam van de volgende -nog te lanceren- architectuur ook Ampere(schijnt) te heten.

[thomaskoel]

Niet schijnt te heten, het is al zeker dat die architectuur Ampere gaat heten.

[elisa9180]

Dat lijkt me een super evolutie .. naar arm processosrs.

[redtails]

AMD heeft wat losgemaakt zeg. Zelfs Amazon gaat zich er mee bemoeien.

in een paar jaar tijd cpu kracht voor datacenters x2~3

Ben benieuwd wat Intel's antwoord gaat zijn hierop. Kan alleen maar goed zijn.