Niet de hardware, maar het gebrek aan stroom om deze hardware volledig te gebruiken zorgt ervoor dat Microsoft op de rem moet drukken omtrent AI-groei aldus CEO Satya Nadella in een interview.
In een podcast van Brad Gerstner, waarbij Satya Nadella (Microsoft) en Sam Altman (OpenAI) te gast zijn noemt Nadella dat de grootste beperking van AI-ontwikkeling op dit moment stroom is. Zo laat hij weten dat Microsoft momenteel bergen ongebruikte videokaarten heeft liggen om AI-modellen te trainen. Die kunnen niet worden ingezet , omdat de stroomcapaciteit op bepaalde plekken niet voldoende is.
Om hoeveel videokaarten het precies gaat en in welke landen dat stroomtekort van toepassing is noemt hij niet. Het gaat waarschijnlijk om de Verenigde Staten, het thuisland van de bekende softwareleverancier. In de VS is veel infrastructuur te vinden van Microsoft, maar ook op andere plekken in de wereld zijn datacenters te vinden. Zo is er in Middenmeer een datacentercomplex te vinden, wat fungeert als hub voor clouddiensten van Microsoft in Europa, het Midden-Oosten en Afrika.
“Het grootste probleem waar we nu tegenaan lopen is niet dat we te veel rekenkracht hebben, maar juist een tekort aan elektriciteit — het gaat eigenlijk om het vermogen om datacenters snel genoeg te bouwen in de buurt van stroomvoorzieningen,” aldus Satya in de podcast.
“Als je dat niet voor elkaar krijgt, heb je mogelijk een hoop chips in je magazijn liggen die je nergens kunt aansluiten. Sterker nog, dat is precies mijn probleem op dit moment. Het gaat niet om een tekort aan chips; het probleem is dat ik geen gebruiksklare datacenters heb om ze in te pluggen.” Hij refereert daarbij aan zogenaamde ‘warm shells’, datacenters met genoeg voorzieningen voor stroom en water, waarbij dat laatste nodig is om te zorgen voor optimale koeling.