Microsoft kan niet genoeg stroom krijgen om zijn voorraad van gpu's om AI-modellen te trainen en te draaien aan te sluiten. Dat zegt ceo Satya Nadella. De grootste beperking voor ontwikkeling van AI is momenteel stroom.
Microsoft heeft momenteel een voorraad gpu's die het niet kan aansluiten vanwege stroomgebrek, zegt Nadella in de Bg2-podcast. "Eerlijk gezegd is het grootste probleem waar we nu mee kampen niet een overschot aan rekenkracht, maar stroom – het gaat erom de builds (om chips aan te sluiten, red.) snel genoeg af te ronden, dicht bij stroomverbruik. Dus als ik dat niet kan, heb ik een heleboel chips in mijn inventaris die ik niet kan aansluiten. Sterker nog, dat is mijn probleem nu. Het is geen kwestie van aanbod van chips; het is juist het feit dat ik geen warm shells heb om op aan te sluiten." Warm shells zijn datacenters met genoeg stroom- en watertoevoer om te functioneren.
Nadella zegt niet in welke landen het stroomtekort speelt, maar het ligt het meest voor de hand dat het in de Verenigde Staten is. In het thuisland staat veel van de infrastructuur van Microsoft, hoewel het bedrijf ook datacenters in bijvoorbeeld Nederland heeft staan. Ook is onbekend hoeveel gpu's Microsoft nu niet kan aansluiten.