Dat gebrek aan geheugen geen gevangenen nemen. Zelfs Google is niet immuun.
AI-bedrijven concurreren om grotere aantallen geheugenchips. Het probleem? Deze sector heeft een zeer beperkt aanbod. De kosten zijn omhooggeschoten, de producten zijn aan banden gelegd en sommige bedrijven – vooral die op dit gebied – zijn aan banden gelegd consumentenelektronica – het verhogen van de prijzen.
Op het gebied van AI zegt Google DeepMind CEO Demis Hassabis CNBC dat fysieke uitdagingen ‘veel toepassingen belemmeren’. Google ziet “een veel grotere vraag” naar de Gemini en andere modellen dan het kan bedienen, zei hij.
“Bovendien beperkt het het onderzoek een beetje”, zei Hassabis. “Je hebt veel chips nodig om op voldoende grote schaal met nieuwe ideeën te kunnen experimenteren, zodat je echt kunt zien of ze werken.”
Onderzoekers willen chips, of ze nu bij Google, Meta, OpenAI of een ander Big Tech-bedrijf werken, en geheugen is een belangrijk onderdeel. Mark Zuckerberg zei dat het AI-onderzoekers waren vraagt twee dingen over geld: zo min mogelijk mensen die aan hen rapporteren, en zoveel mogelijk fiches.
Hassabis zei dat waar er capaciteitsbeperkingen zijn, er ook ‘knelpunten’ zijn.
“De hele toeleveringsketen staat een beetje onder druk”, zegt Hassabis. “We hebben geluk, want we hebben onze eigen TPU, dus we hebben ons eigen chipontwerp.”
Google heeft TPU dat al heel lang wordt gebouwd — Tensorverwerkingseenheid — voor intern gebruik. Het bedrijf verhuurt het ook aan externe klanten via zijn cloud, die ook voorziet Nvidia is nerveus.
Maar toegang tot hun eigen TPU zal Google er niet van weerhouden zich te moeten begeven op de zeer competitieve geheugenmarkt. “Uiteindelijk is het nog steeds afhankelijk van een paar leveranciers van enkele belangrijke componenten”, aldus Hassabis.
Drie leveranciers domineren de productie van geheugenchips: Samsung, Micron en SK Hynix. Deze bedrijven hebben moeite om aan de chipvraag van AI-hyperscalers te voldoen zonder hun bestaande elektronicaklanten te verliezen.
Het helpt niet dat AI-bedrijven een ander type geheugenchip willen dan pc-fabrikanten. Fabrikanten van grote taalmodellen willen HBM-chips (geheugen met hoge bandbreedte).
Verwacht niet dat de uitgaven van Google aan AI-infrastructuur en chips snel zullen dalen. In het winstrapport over het vierde kwartaal voorspelde het bedrijf kapitaaluitgaven met $175 miljard tot $185 miljard in 2026.
