Amazon start met EC2-instances gebaseerd op eigen ARM-processor

Amazon heeft instances aangekondigd die aangedreven worden door zijn zelfontworpen AWS Graviton-processors. Die processors zijn opgebouwd rond 64bit-cores die Amazon Neoverse-cores noemt.

Volgens Jeff Barr, chief evangelist voor AWS, begon Amazon al enkele jaren geleden met het ontwerpen van zijn eigen ARM-processors voor schaalbare werklasten met lage kosten. De plannen voor eigen chips begonnen in 2015, toen Amazon de Israëlische chipmaker Annapurna Labs overnam. Amazon startte begin 2016 al met de levering van ARM-chips van dat dochterbedrijf, toen nog voor netwerkapparatuur, maar inmiddels biedt het bedrijf dus instances op basis van de chips aan voor zijn EC2-clouddienst.

Het gaat om vijf EC2 A1-instances met virtuele machines met 1, 2, 4, 8 of 16 AWS Graviton-processors. Anders dan dat het om Neoverse 64bit-ARM-cores gaat, geeft Amazon geen details over de chips. De instances zijn gebaseerd op het AWS Nitro System, een combinatie van speciale hardware voor EC2 en een lichtgewicht hypervisor. De EC2 A1-instances zijn initieel beschikbaar in Amazon-regio's in het oosten en westen van de VS en Europa.

De instances zijn volgens Amazon onder andere geschikt voor webservers, containerized microservices, caching fleets, gedistribueerde data stores en ontwikkelomgevingen. "Als je voornamelijk opensourcepackages van je favoriete Linux-distributie gebruikt of je eigen applicaties vanaf de bron bouwt, moedigen we je aan de nieuwe A1-instances te proberen", aldus Amazon.

Reacties (25)

[jeroentje710]

Misschien om het even duidelijker te maken toe voegen wat "instences" nu eigenlijk in houdt.
Zoals ik het nu begrijp gaat amazon deze chips zelf gebruiken om goedkoop compute power te leasen aan derden?

Dit staat op hun eigen site:

"T2 instances are low-cost, General Purpose instance type that provide a baseline level of CPU performance with the ability to burst above the baseline. With On-Demand Instance prices starting at $0.0058 per hour, T2 instances are the lowest-cost Amazon EC2 instance option and are ideal for a variety of general-purpose applications like micro-services, low-latency interactive applications, small and medium databases, virtual desktops, development, build and stage environments, code repositories, and product prototypes."

Het lijkt ook alsof er al wel meer bekend is over de chips en de prijzen tenzij dit van een oudere generatie is.


Amazon omschrijving en prijzen

[Reactie gewijzigd door jeroentje710 op 1 augustus 2024 06:42]

[cavey]

Een instance is een instantie van een (micro)service die je hebt geschreven.

Waar je dan aan moet denken is dat je een docker container hebt gebouwd, met een simpele (node.js bijv) service/pagina om scores voor een spel bij tehouden bijvoorbeeld. Hier heb je niet veel specifieke cpu power voor nodig. Althans, niet iets waar je specifiek x64-achtige cpu power/programma's voor nodig hebt. Aangezien het allemaal op javascript draait, en node.js en dat is redelijk systeem agnostisch.

Zodra je dan meer nodig hebt, kan je met bijv. kubernetes aangeven dat er nog meer docker instances bijgespoold moeten worden in je pool. Met behulp van loadbalancing wordt alles netjes heen en weer geschopt.

Goed, ik verwoord het misschien niet 100% correct, maar dat is het zo'n beetje in een notendop.

De tweakers.net hands-on workshop enkele weken geleden bij Schuberg Philis was uiterst leerzaam, en maakte gebruik van AWS instances om alle workshop deelnemers hun instances mee te draaien.

[djwice]

Ook niet helemaal, maar bijna goed.

Een A1 instance is virtuele hardware, je kunt er een Amazon Machine Image (AMI) op draaien. Zo'n instance heet binnen AWS Elastic Compute: AWS EC2. Denk bijvoorbeeld aan een virtual machine image van een server met Linux of Windows, waarop je dan diverse software op kunt zetten, zoals bijvoorbeeld een webserver of een database.
Instances kun je in een autoscaling group hangen, zodat als er meer vraag is er automatisch meer van dezelfde machines worden gestart en ook weer automatisch worden uitgezet als je ze niet meer nodig hebt. Je betaald meestal per seconde dat de machines aanstaan.

Dockers kun je draaien op AWS ECS waar je betaald voor elke seconde dat je docker container draait maal het aantal dat er draaien.

Micro services kun je op Amazon Web Services (AWS) het beste draaien in AWS Lambda, je betaald voor elke 100ms dat je microservice ook echt iets doet, geen bezoek is geen kosten. Deze starten gemiddeld in 25ms en schalen automatisch tot 1000 parallel uit te voeren versies van jou service indien nodig. De meeste microservices die ik draai zijn binnen 1 tot enkele milliseconden klaar. Code voor AWS Lambda kun je schrijven in NodeJS, C#, Java, Python of GO. Je betaald ongeveer $0.40 per 1 miljoen API aanroepen, of een deel daarvan als je nog geen 1 miljoen gehaald hebt in een maand.

[Reactie gewijzigd door djwice op 1 augustus 2024 06:42]

[Bert2000]

Met als aanvulling dat er ook bovenstaande ook grotendeels geldt voor AWS Fargate. Fargate kun je ook binnen ECS draaien.

Daar kun je ook je instances op draaien, maar dan hoef je geen instance type te bepalen en managed je AMI.

https://aws.amazon.com/fargate/

[Reactie gewijzigd door Bert2000 op 1 augustus 2024 06:42]

[Verwijderd]

"Goed, ik verwoord het misschien niet 100% correct, maar dat is het zo'n beetje in een notendop."

Eerder 100% incorrect. Een instance heeft niets met een service of micro service te maken. Het is gewoon een virtual server die op een fysiek stuk hardware bij Amazon in het data center draait. Je kunt kiezen uit diverse types virtual server gebaseerd op capaciteit. Bijv T1.micro voor een zeer kleine virtual server. Als je op basis van die instance type een server lanceerd (of meerdere) dan heb je dus een draaiende instantie met die capaciteit.

Op die instance kun je alles draaien wat je zelf wil, je krijgt volledige admin access op het OS.

[cavey]

Dank voor de uitleg allen. Ik ben er nog niet al te lang mee bezig, dus het is nog redelijk zoeken in het jargon

Het principe heb ik redelijk (hoop ik) door, de exacte terminologie dus nog totaal niet

[kidde]

Als je doorklikt naar de eerst link in het artikel en naar T3; vind je:

'The instances are powered by custom high frequency Intel® Xeon® Scalable (Skylake) Processors featuring the new Intel® AVX-512 instructions'.

[jeroentje710]

Wat is de link tussen deze nieuwe ARM chips en de Xeon based T3 in dat geval?
Aangezien ik er vanuit ga dat de ARM chips op papier goedkoper zouden moeten kunnen draaien dan wanneer je high performance Xeon chips gebruikt?

Of komt er nu een combinatie uit met de T2 voor de low demand en T3 met nieuwe Xeon chips voor de high demand?

[kidde]

Wat is de link tussen deze nieuwe ARM chips en de Xeon based T3 in dat geval?

In principe geen* dus. Het is antwoord op uw nogal verwarrende opmerking;

Zoals ik het nu begrijp gaat amazon deze chips zelf gebruiken om goedkoop compute power te leasen aan derden?

Hierin verwijst u met 'deze chips' volgens mij naar de ARM chips, en vervolgens quote u over de T2-instanties die er dus totaal niets mee te maken hebben omdat ze Xeon-gebaseerd zijn, dat misverstand probeer ik uit de weg te helpen.

T2 / T3 is Xeon ('schaalbaar'), T2 schijnt Xeon E5 v2 / v3 te zijn, T3 is een thread op een Xeon Skylake Platinum 8000 (duurste van de duurste processors), bestaand(e) producten, mogelijke veiligheidsnachtmerrie,
A = ARM Server / Annapurna, realatief 'goedkoop'ding, hier krijg je een eigen 'core' (dus geen hyperthreading-veiligheidsrisico's!) nieuw product.

Bevestigd is dat de Graviton-chips werken op 2.3 gHz. Vermoedelijk gaat het om een TSMC16nm proces (lijkt me 16FFC? Of 12FFC?), want anders zou het nooit vandaag al beschikbaar zijn; en vermoedelijk gaat het om een aangepaste ARM Cortex A72 core.

ARM heeft ervoor gekozen, alles wat voor consumenten (je handpalm dus) is, te vermarkten als "Cortex", en alles wat niet voor consumenten is, voor datacenters dus vooral, als 'Neoverse'. Vandaar, dat een "ARM Cortex A72/A75” voor servers nu voortaan door het leven gaat als 'Neoverse'.

*Maar wel allebei 'opvolgers' van de T2, op hun eigen manier.
T3 is de 'beter presterende opvolger' van de T2.
A1 is de 'goedkopere' opvolger van de T2; Amazon zegt tot 45% goedkoper; maar nog niet precies bij welke taken. Dus het lijkt erop dat Intel voor 'de grote 7' (ik onthoud altijd de letters FABMATA, waarin 1 A is gereserveerd voor Amazon) de onderkant van de markt zal kwijtraken.

[Reactie gewijzigd door kidde op 1 augustus 2024 06:42]

[AndriesLouw]

[...]
Dus het lijkt erop dat Intel voor 'de grote 7' (ik onthoud altijd de letters FABMATA, waarin 1 A is gereserveerd voor Amazon) de onderkant van de markt zal kwijtraken.

FABMATA? Facebook, Alphabet, Microsoft, Amazon, (Apple?,) wie maakt het rijtje af?

[kidde]

De Chinezen;) Intel noemt die 7 samen 'de grote 7', zij lopen voorop in cloud datacenters. Het zijn de belangrijkste klanten van Intel, lopen altijd qua technologie voorop, en doordat ze de eerste zijn die met ARM en AMD beginnen ook de grootste bedreiging voor Intel.

Voor wie de 3 niet zo goed kent: (Zoekmachine) Baidu, (marktplaats) Alibaba en spelletjesboer / berichtenapp / micro berichtenservice Tencent ( zeg maar Whatsapp, Twitter, Facebook, Apple Pay en 'smartphone-steam' ineen, maar dan orden winstgevender dan Twitter en meer waard dan Facebook; goed voor meer dan de helft van het Chinese internet verkeer). Soms aangevuld tot 8 met China Mobile of Huawei.

Baidu is denk ik het verste en heeft een eigen AI chip op Samsung 14nm. De Google Tensor core onder de Chinezen; volledig onafhankelijk van de VS.

Alibaba volgt later. Tencent heeft de boot een beetje gemist.

https://asia.nikkei.com/B...-chips-as-trade-war-bites

Er is ook een 32 core ARM server waar de 7 vermoedelijk mee aan de slag gaan:

https://www.theregister.co.uk/2018/09/18/ampere_shipping/

Nu zijn die TSMC / Samsung 16/14 nm Arm server chips (gelijkwaardig aan Intel 22nm) alleen nog een bedreiging voor Intels goedkope meuk; als dat Arm en AMD spul echter op 7nm uitkomt eind volgend jaar (?) en Intel heeft niets op 10nm is het over en uit voor Intels marktaandeel.

Arm doet tegen Intel wat Intel tegen de concurrentie deed: Intel wordt de niche speler voor retesnel en reteduur spul dat nu IBM Power is en eerder Alpha en SPARC waren, x86 wordt de niche architectuur naast het met tientallen miljarden verkochte ARM mainstream spul (Want smartphones, IoT en wearable >> lap- en.desktops) . En tot overmate van ramp zit AMD daar, in de 'high performance' de komende 2 jaar met (goed mogelijk) betere en goedkopere producten;)

Nu ongeloofwaardig, ik weet het, maar geef het nog een paar jaar. Intel is het server-monopolie op z'n Saudi Arabiaans aan het uitmelken met prijsverhogingen dus boze en wanhopige klanten; want ze weten dat hun hoge-marge tijdperk in de mainstream voorbij is; en dat betaalde juist de proces voorsprong die ze hadden. De getreiterde klanten vluchten - geholpen door export verboden van Trump - wanhopig naar alle kieren en gaten om zo snel mogelijk uit het schip te springen, deze Amazon ARM actie betekent dat de muizenpoten leren zwemmen.

[Reactie gewijzigd door kidde op 1 augustus 2024 06:42]

[The Reeferman]

Twitter, Ali Baba?

[djwice]

https://aws.amazon.com/ec2/instance-types/a1/

[djwice]

Het artikel gaat over EC2 A1 instances:
https://aws.amazon.com/ec2/instance-types/a1/

Deze zijn gebaseerd op:
AWS Graviton Processors feature 64-bit Arm Neoverse cores and custom silicon designed by AWS delivering optimized performance and cost. AWS Graviton Processors are built exclusively for the cloud, utilizing AWS and Annapurna Labs' expertise in running hyperscale cloud platforms and cloud applications.

[fastedje]

Ik ben benieuwd wie/wanneer er voor het eerst benchmarks hierop gaat draaien en publiceren.

[djwice]

Het lijkt ook alsof er al wel meer bekend is over de chips en de prijzen tenzij dit van een oudere generatie is.

Komt AWS is altijd heel transparant over de hardware en software die ze gebruiken.
Bijvoorbeeld over welk grafisch geweld je daar kunt gebruiken:
https://aws.amazon.com/ec2/instance-types/p3/

hese instances provide up to 100 Gbps of networking throughput, 96 custom Intel® Xeon® Scalable (Skylake) vCPUs, 8 NVIDIA® Tesla® V100 GPUs with 32 GB of memory each, and 1.8 TB of local NVMe-based SSD storage.

Of welke open source Database engine in hun product zit:
https://aws.amazon.com/athena/

Amazon Athena uses Presto with ANSI SQL support and works with a variety of standard data formats, including CSV, JSON, ORC, Avro, and Parquet.

Je betaald $5,- per TB verwerkte data, dus voor een query uitvoerd over 10MB aan gzip csv bestanden (ongeveer alle data van Funda in CSV formaat) betaald je $0.00005.

[Reactie gewijzigd door djwice op 1 augustus 2024 06:42]

[DJBnJack]

Als je naar de GiB per machine kijkt, lijken ze steeds net iets duurder dan de T2 en T3 varianten:
https://aws.amazon.com/ec2/pricing/on-demand/

[Kiwivogel]

Maar je krijgt er dubbel zoveel vCPU's voor terug. Als je niet memory constrained bent lijkt me dat een goeie deal.

[MoonWatcher]

De ene vCPU is alleen de andere niet. Er zijn een hoop andere dingen die meespelen als het gaat om de daadwerkelijke snelheid van een cpu. ( cache, cpu cycles, paden over het moederbord, etc ). Desalnietemis kan dit wel degelijk interesant zijn. Als open source gebruiker is er ook niet echt een reden om vast te houden aan x86

Zo zijn o.a. Redhat en Ubuntu ook beschikbaar voor ARM.
https://www.ubuntu.com/download/server/arm
https://www.redhat.com/en...-red-hat-enterprise-linux

Dus je kunt hier wel degelijk een hoop software mee draaien.
Ga ik binnenkort zeker eens een keer mee spelen.

[Reactie gewijzigd door MoonWatcher op 1 augustus 2024 06:42]

[djwice]

En de ARM chips hebben niet al die Intel CPU beveiligingsproblemen die dit jaar boven water kwamen, een zeer groot pluspunt zou ik zo zeggen
nieuws: Onderzoekers openbaren details van lekken in moderne cpu's van Intel,...
(en alle ontdekkingen er na)

[Reactie gewijzigd door djwice op 1 augustus 2024 06:42]

[fastedje]

Spectre is volgens je link wel op ARM van toepassing, Meltdown niet. L1TF lijkt wel Intel specifiek: https://tweakers.net/nieu...l-processors-ontdekt.html

Er ik ook een CVE gevonden ivm hypertheading:https://www.techspot.com/...ding-based-intel-cpu.html.

De meeste ARM CPUs hebben dit niet, echter de ThunderX2 heeft wel SMT, namelijk 4 threads per core. Je kan je afvragen wat veiliger is, een niche ThunderX2 waarvan nog niet veel attacks bekend zijn of een Intel CPU die sneller wordt gepatched.

[djwice]

Dit artikel gaat over EC2 A1 instances met 64-bit Arm Neoverse cores, dat zijn dus geen ThunderX2 CPUs, ze hebben dus geen last van de hypertheading issues.

Op de Re:Invent in 2017 liet Werner Vogels al doorschemeren dat ze zelfs werken aan een virtualisatie laag die op ARM CPUs de virtuele intel CPUs aan kan bieden.

Deze Re:invent lanceren ze hun eigen open source virtualisatie laag firecracker in Q1@2019 komt deze ook uit op ARM.

Je kunt verwachten dat er dan te gelijkertijd of kort er na ook AWS Lambda en Fargate (voor docker) op ARM beschikbaar zullen komen.

[Reactie gewijzigd door djwice op 1 augustus 2024 06:42]

[fastedje]

Klopt, de referentie naar ThunderX2 was alleen als voorbeeld dat er ook ARM SMT processoren zijn.

[D_Jeff]

Gisteren merkte ik al dat ik voor de AWS Linux x64 de keuze had uit ARM of x64 (AZ Ireland)

Benieuwd wat er nog meer zit aan te komen

[Verwijderd]

Op zich wel interessant deze ontwikkeling: in de begindagen van cloud was het credo: alles op zo standaard mogelijke hardware en alles wordt verder via software en SDN geregeld. Maar nu zie je een sterke ontwikkeling naar hardware die is geoptimaliseerd voor cloud computing.