Google neemt Intel-chipontwerper in dienst om eigen server-socs te maken

Google zet een team op dat eigen socs voor servers gaat ontwerpen. Google heeft daarvoor Uri Frank aangesteld als vicepresident of engineering. Frank werkte ruim twintig jaar bij Intel, onder andere aan de Core-processors.

Google wil zich richten op het integreren van zoveel mogelijk onderdelen in één chip. Tot nu toe heeft de zoekgigant zich voornamelijk gefocust op het maken van componenten die op moederborden worden geplaatst, zoals de tensor processing units en de video processing units, die Google respectievelijk sinds 2015 en 2018 maakt.

Volgens Google is het maken van componenten voor moederborden niet langer voldoende. Om betere prestaties bij een lager verbruik mogelijk te maken, is verdere integratie van hardware nodig. Daarom wil Google socs maken die diverse onderdelen combineren. "De soc is het nieuwe moederbord", schrijft de zoekgigant.

Google wil zijn socs opbouwen met componenten van verschillende fabrikanten. "We kopen waar het zinvol is en bouwen het zelf als dat moet", schrijft het bedrijf. Google noemt een aantal voorbeelden van onderdelen die in de server-socs moeten komen. Naast de cpu en tpu zijn dat onderdelen voor video transcoding, encryptie, compressie, communicatie op afstand, beveiliging van data 'en meer'. Naar eigen zeggen wil Google ecosystemen maken waar 'de hele industrie' profijt van heeft. Het is nog niet bekend op welke cpu-architectuur Google zijn socs wil baseren.

Uri Frank is aangesteld als topman van het team dat de server-socs gaat ontwerpen. Dat zal gedaan worden door een nieuw team in Israël. Frank schrijft op zijn LinkedIn-pagina dat daar binnenkort vacatures voor uitgeschreven zullen worden. Volgens de Israëlische website Calcalistech wil Google 'honderden' chipontwerpers in dienst nemen. Gezien het team nu opgezet wordt, kan het nog jaren duren voordat Google daadwerkelijk eigen server-socs uitbrengt.

Met het maken van eigen server-socs volgt Google de strategie van Amazon, dat al enkele jaren eigen Graviton-socs maakt op basis van de Arm-architectuur, voor zijn AWS-platform. Volgens geruchten werkt Microsoft ook aan eigen Arm-chips voor zijn Azure-clouddiensten.

Google maakt sinds 2015 eigen tensor processing units voor deeplearning

Reacties (48)

[Platpoot]

Hebben bedrijven zoals intel en amd zitten slapen? Of is het zo specifiek wat al die bedrijven willen? Hoe kan een los team opzetten door google efficienter zijn dan tegen intel zeggen, doe mij even een setje servers die aan deze specs voldoen?

[dasiro]

Intel en AMD maken complete CPU's voor een heel brede markt met een instructieset die dat quasi volledig covert. Google, Amazon en Microsoft hebben elk hun specifieke subset nodig van wat die bevat en sommige dingen die er niet in zitten. Door hun schaalgrootte kunnen ze het zich veroorloven om inhouse die ontwikkeling te doen en enkel de dingen hardwarematig toe te voegen die ze nodig hebben, waardoor ze hun datacenters efficiënter kunnen laten werken en niet de marges te moeten betalen die de chipmakers rekenen voor dingen die ze niet ten volle gebruiken.

[xmenno]

Intel maakt geen servers, die maken alleen chips. Bijvoorbeeld Wiwynn maakt server designs voor Intel (Zie Junction City) en dat komt dan weer uit de Wistron fabriek. Intel en AMD maken chips die naast door Google ook door Facebook, Amazon en Microsoft worden gebruikt. En door vele andere partijen. Dus ze gaan misschien wel een SKU maken voor Google maar niet een hele eigen chip.

[Reactie gewijzigd door xmenno op 24 juli 2024 19:33]

[Platpoot]

Sorry, dit bericht gaat over socs, in mijn eerste reactie zou dat ook socs moeten zijn ipv servers.

Maar blijft de vraag hoe een partij als google dus eigen socs gaat maken terwijl een andere partij daar veel beter in is (of in ieder geval zou moeten zijn). En beter betekent hier dan efficienter en dus goedkoper etc.

[akooijman]

Omdat een cpu/soc/doos die deel uitmaakt van een farm met tienduizend vrienden aan heel andere eisen moet en mag voldoen dan eentje die op jouw en mijn bureau staat. Een specifiek ontworpen soc zou weleens veel beter en 9f goedkoper kunnen presteren dan een general purpose processor op een (min of meer) general purpose moederbord.

[toegevoegd]
Je kunt je ook afvragen hoe het kan dat Apple zijn M1 soc zo veel beter heeft kunnen maken dan alle specialistische toeleveranciers.

[Reactie gewijzigd door akooijman op 24 juli 2024 19:33]

[xmenno]

Omdat Google bijvoorbeeld iets zou willen waarbij een zwaardere encryptiemodule in de SOC zit, misschien willen ze er wel een Mellanox NIC vlak naast geplakt. Dat is niet iets dat Intel voor ze kan maken. En dan willen ze bijvoorbeeld AES weer uit de CPU laten, dat scheelt weer in de kosten en in het stroomverbruik.
Het enige dat Intel kan betekenen is bijvoorbeeld net als een i9 KF waar ze de GPU uit zetten, of een specifiek aantal cores of Ghz voor Google maken maar ze gaan echt geen hele SOC maken voor Google.

[johnkeates]

Dat kan Intel prima voor ze maken en dat doen ze ook, alleen is Intel gewoon een lomp gedrocht met andere prioriteiten wat niet zo snel kan bewegen als een intern team.

Amazon, Google, Azure, die krijgen allemaal al jaren eigen SKUs met eigen specs van Intel. Probleem is dat Intel daar simpelweg niet kosteneffectief in is.

[Reactie gewijzigd door johnkeates op 24 juli 2024 19:33]

[Carbon]

Intel maakt geen servers, die maken alleen chips.

Intel® Server Systems and Chassis

[xmenno]

Bijvoorbeeld Wiwynn maakt server designs voor Intel (Zie Junction City) en dat komt dan weer uit de Wistron fabriek.

[kdekker]

Intel maakt(e) heel veel. Heeft ook moederborden, NICs etc gemaakt, en zo te zien maken ze ook nog steeds servers: Intel Servers. Vele jaren geleden kregen we voor ontwikkeldoeleinden 'Merced' testsystemen (voorloper Itanium chip, die nu zo'n beetje wel als 'geflopt' gemarkeerd mag worden).

[xmenno]

Zoals ik in mijn reactie zeg, die maken ze niet zelf. Blijkbaar is begrijpend lezen moeilijk. Dat er een Intel logo op staat wil niet zeggen dat het uit hun ontwerp of fabriek komt.

[kdekker]

Ik weet niet of 20+ jaar geleden de Merced van de door jou genoemde fabrikanten kwam. Noch of dat geldt voor NICs en van alles en nog wat. Het is van Intel's website niet af te leiden dat de servers niet van henzelf komen. Als iets op de prijslijst staat van een fabrikant, is het al lastig te achterhalen of ze het zelf maken, of alleen iets verkopen wat door een 3e partij geassembleerd wordt. Dat laatste geldt w.s. voor alle computermerken, dus dan mag je ook nog nader specificeren wat 'zelf maken' is.

PS. Je reageert hartelijk ;-). Je hebt toch geen azijn in je koffie gehad vanmorgen?

[Zer0]

Ja, wat Google wil is inderdaad heel specifiek, ze willen hardware die helemaal op hun eigen gebruik afgestemd is. Vandaar dat ze al enige tijd zelf servers bouwen, en iet zomaar wat kopen bij Dell/HP/etc.

[erwinb]

en dat bouwen besteden ze dan weer uit aan Dell en vergelijkbare bedrijven die de fabrieken hiervoor hebben

[Zer0]

Nope, Google heeft dat ondergebracht bij fabrikanten in China. Zou ook dom zijn om dit via HP of Dell te doen, omdat die het bij diezelfde Chinese fabrikanten laten maken.
https://www.wired.com/2012/07/google-server-manufacturing/

[watercoolertje]

Staat toch in het artikel dat ze zelf al de specialistische processing units maakte? Die waren nu nog los maar willen ze in 1 chip bouwen, dat zie ik ze echt niet zomaar even uit handen geven aan Intel of AMD.

En de SoC zal wel ARM worden waar je gewoon licenties voor kan krijgen, daar heb je geen Intel of AMD voor nodig.

[Reinstein]

Zal idd wel ARM worden. Een x86 licentie kun je niet krijgen, alleen door een bedrijf te kopen die reeds een licentie heeft.

[Xanaroth]

Eerder andersom: als je groot genoeg bent wordt het financieel interessant om custom-made te overwegen omdat je de 'overhead' van eigen ontwerp kunt terugverdienen in hogere efficiëntie.
Waarbij je ook moet nadenken dat ze dit dan moeten laten produceren bij een Intel, TSMC, Samsung.. en dan praat je over 'batches' van al snel >100.000 chips per bestelling als minimum order quantity (anders gezegd of je er nu 1 of 10.000 besteld, die machine staat aan met jouw proces en maakt dus niet iets anders - daar betaal je dan ook naar rato want ze gaan hun winst wel beschermen).

Dus enerzijds moet je efficiëntie slag groot genoeg zijn tegenover eigen inhouse ontwerp investering, én anderzijds moet ook je volume groot genoeg zijn om de productiekosten beheersbaar te houden. Dan kom je al vrij snel uit bij de absolute top bedrijven waar die beide rekensommen de investering aan tijd en geld waard zijn.


Daarentegen Intel, AMD, zelfs ARM, maken juist iets dat een zo groot mogelijke groep aanspreekt. Dat betekend tot op zekere hoogte ook concessies in het ontwerp en prijs om het zo breed en algemeen inzetbaar/toepasbaar te houden. Die doen dezelfde rekensom maar juist andersom: met minimale R&D zoveel mogelijk volume afzetten, dus jack-of-all trades principe.


Zo zit op menige CPU combinatie ook zaken als GPU meegebakken. Wij tweakers interesseert dat niet met een dedicated GPU, en bedrade aansluiten voor beste verbinding. Gaan we daarom gelijk zelf een uniek ontwerp maken? Nee, financieel totaal niet interessant. Echter je betaald er wel voor al die functies cq kost ruimte op het ontwerp dat in andere zaken kan worden gestopt.

[Reactie gewijzigd door Xanaroth op 24 juli 2024 19:33]

[PPie]

Dt bericht laat (weer) zien waar de winst (en dus prioriteit) ligt van Google:
Servers voor advertenties.
Niet SoC's voor smartphones met Android.

[Werelds]

Want Google Cloud bestaat niet? Voor hun advertentie tak is dit echt niet nodig. Dit is voor GC, YouTube, dat soort dingen.

[PPie]

En jij denkt dat Google Cloud niet bedoeld is om hun advertentietak te ondersteunen?

[Qws]

Alle diensten van Google leunen op Google Cloud... Niet enkel de advertentie tak.

[Werelds]

Belangrijker nog: veel bedrijven. Meerdere van mijn klanten draaien op GC.

GC mag dan niet de cashcow zijn die de advertentie tak is, met 9+ miljard omzet is het ook geen projectje aan de zijlijn meer.

[Peterbaksteen]

Moet je nagaan....eigen gebruik en miljarden omzet combineren, gigant.

[Javaantje_75]

En er zijn nog mensen die er voor betalen, ook

[Bender]

Maar dat is toch niet zo vreemd?

Google heeft eigen servers, veel, heeeel veel. Voor zoekmachines, voor youtube, gameservers, hun clouddiensten en ja ook advertentieservers.
Maar Google heeft maar een paar smartphones en is niet echt core business te noemen.

In dit geval blijven ze dichter bij hun roots, dus ik snap de keuze wel.

[Reactie gewijzigd door Bender op 24 juli 2024 19:33]

[PPie]

Maar Google heeft maar een paar smartphones en is niet echt core business te noemen.

Inderdaad, Android is niet hun core business...

[Bender]

Dat is precies mijn punt.

Android is software, SoC is hardware.
Google 'verkoopt' android op grote schaal, Google verkoopt vrijwel geen smartphones. Waarom zou het dan smartphone SoC's gaan produceren als ze op veel grotere schaal behoefte hebben aan server SoC's.

[Reactie gewijzigd door Bender op 24 juli 2024 19:33]

[Yagermeister]

De hardware kant van Android zeker niet en dat is wat @Bender bedoelt.

Op zich vindt ik het wel een interessante ontwikkeling. Apple is dit tenslotte ook gaan doen dus ik ben eigenlijk wel benieuwd of dit ook vergelijkbaar gaat worden of dat dit puur server based hardware gaat worden.

[fapkonijntje]

Zijn er nieuwe of andere SoCs nodig voor smartphones dan? Tussen Mediatek, Qualcomm, Kirin en die Samsung dingen (en dan vergeet ik er nog een paar) zie ik niet veel ruimte voor nóg een SoC. Zeker niet omdat ze behoorlijk wat licenties en onderdelen vereisen om compleet genoeg te maken voor smartphones. Zeker voor smartphones is dat vervelend want je hebt extra's nodig als een mediacomponent dat AVC, h264/265 af moet kunnen spelen, een component dat de camera aansturing en processing moet doen (ISP en DSP), een NPU stukje, een specialistische GPU, een (5G) modem, een controller voor je bewegingssensor, lichtsensor, etc. en zo nog wat zaken. Dat is een héééél stuk lastiger dan een chippie voor een datacenter want die heeft de meeste dingen helemaal niet nodig, afhankelijk van wat je gaat doen.

[Horatius]

Want dat is iets wat ze zelf niet zeggen? Ze zijn een advertentiebedrijf, dat is hun core business. Wat had het artikel dan moeten laten zien?

[PPie]

Ze zijn een advertentiebedrijf, dat is hun core business

De meeste Tweakers vergeten dat (of willen dat niet weten).

[oef!]

We worden om de 2 seconden aan dat feit herinnert op Tweakers

[Vizzie]

Waarom zou Google dat als prioriteit hebben dan?

De markt voor smartphones met Android wordt prima bediend door anderen en die soc’s zijn er in soorten en maten.

Dit is iets wat Google nodig heeft voor hun core business (advertenties en tracking) wat niet zo specifiek als Google t wil te koop is.

Logisch om dan geen smartphone socs en wel deze socs te gaan ontwikkelen lijkt me.

[qless]

Apple heeft toch wat in beweging gezet, lijkt zo.

[oef!]

As if. De ontwikkeling van ARM server cpu's is al jaren gaande.

[qless]

Ik heb het meer over het integreren, zoveel mogelijk op cpu bord, dat al langer arm servers zijn weet ik.

[Zer0]

Ook dat gebeurt al jaren... de term SoC is niet nieuw...

[fastedje]

De ARM250 die in de Acorn Archimedes A3010 zat was de eerste SOC met cpu, video- en memory controller op 1 chip : https://www.retro-kit.co..../content/Acorn-BBC-A3000/

[watercoolertje]

Misschien het artikel eens lezen, dan zie je dat Google de verschuiving naar eigen SoC's/CPU's al langer aan het maken is in hun serverpark, niks nieuws en heeft niks met Apple te maken die dat toevallig ook doet voor consumentenhardware...

[Reactie gewijzigd door watercoolertje op 24 juli 2024 19:33]

[qless]

Ik heb het meer over het integreren, zoveel mogelijk op cpu bord zoals aparte onderdelen voor video encoding e.d., dat al langer arm servers zijn weet ik.

[fapkonijntje]

Dat is ook niet nieuw bij Apple, dat gebeurde al voor Apple z'n eerste iphone uitbracht.

Ik denk dat jij een beetje geschiedenis mist van ARM SoCs. Het enige dat nieuw is aan wat Apple doet, is dat ze een relatief snelle en grote chip hebben gebakken. Technisch hebben ze niets nieuws gedaan, wel een ander soort prioritering. Zoals focus op een snellere geheugencontroller.

[Carbon]

Apple is niet de reden maar levert wel een belangrijke schakel, snelle ARM computers voor developers.

Wat is dan wel de reden?
Als je Amazons Graviton (ARM) met x86 (Xeon) EC2 instanties vergelijkt dan valt het volgende op
1. Graviton is +/- 25% sneller
2. 20% goedkoper
3. Stroomverbruik wordt bijna gehalveerd.

Niet zo vreemd dat Amazon, Microsoft en Google bezig zijn met het waar mogelijk uitfaseren van x86

[Reactie gewijzigd door Carbon op 24 juli 2024 19:33]

[GENETX]

En wat als je Intel Xeon door AMD EPYC vervangt? ARM is zeker niet slecht bezig, maar x85 afserveren op basis van het gepruts van Intel is te kort door de bocht

[Carbon]

En wat als je Intel Xeon door AMD EPYC vervangt?

Geen idee, maar het zal lastig worden om de prijs/prestatie verhouding van ARM te evenaren.
Time will tell...

maar x85 afserveren op basis van het gepruts van Intel is te kort door de bocht

Het is niet voor niets dat ik schrijf 'waar mogelijk' want Windows gebaseerde services blijven voorlopig beperkt tot x86

[Bender]

Wat is de link met Apple dan?

[beerse]

Ergens weet ik dat google al jaren meer server-machines maakt dan hp, lenovo, dell en fujitusu. Misschien wel meer dan die leveranciers bij elkaar. Maar google levert niet aan anderen, ze worden alleen gemaakt voor eigen gebruik. Die ontwikkeling zetten ze nu blijkbaar door.

Misschien wel ingezet door de huidige chip tekorten: Met een eigen ontwerp kunnen ze naar een eigen chip-bakker om ze te laten maken. Of zelf zo'n chip-bakker opkopen en beslissen dat ze voor google moeten werken.

Misschien is het wel ingezet door de eigen servers zelf: Die gebruiken van de processors ook niet alles. En de delen die ze in zo'n processor niet gebruiken, hoeft er ook niet in, kan niet kapot en meer van dergelijke voor de hand liggende zaken.

Daarnaast heeft google voor onderdelen ook een eigen filosofie over de gewenste/vereiste kwaliteit. Bij harddisks weet ik dat ze 'gewoon' huis-tuin-en-keuken kwaliteit gebruiken en niet de top-server-kwaliteit. Het komt toch in een redundant-systeem en bij defect wordt het afgeschakeld of vervangen. Dat zouden ze ook bij cpu-s en cores kunnen doorzetten: Een cpu met veel cores waarvan een aantal niet meewerken kan gewoon gebruikt worden to er te veel cores niet meewerken. Dat moet dan wel gemeten en geregeld worden. Dat kan als je daar in je cpu ontwerp rekening mee houdt.

Het zou voor google dus wel eens een win-win-win situatie kunnen zijn.

[Knijpoog]

Word dit wel een SoC of praten we dan over SiP en is de M1 chip van Apple eigenlijk ook niet SiP?..