Nieuwe gegevens over cloudgebruik laten dit zien, aangezien bedrijven miljarden dollars aan financiering besteden AI-infrastructuurhet grootste deel van de rekenkracht wordt niet gebruikt.
Cast AI, een geautomatiseerd cloudkostenbeheer- en optimalisatieplatform dat samenwerkt met bedrijven als BMW en Cisco, publiceerde gegevens in zijn Kubernetes Optimization Report 2026 waaruit blijkt dat de meeste organisaties gemiddeld twintig keer meer GPU-capaciteit bieden dan ze op een bepaald moment actief gebruiken.
Volgens gegevens verzameld van 23.000 clusters in duizenden bedrijven die de Cast AI AI-agent gebruiken, bedraagt het gemiddelde GPU-gebruik op bedrijfsservers 5%, wat betekent dat ongeveer 95% van de ingerichte GPU-capaciteit ongebruikt is. Het CPU-gebruik is volgens het rapport eveneens laag, namelijk 8% van de totale capaciteit.
Het rapport merkt op dat CPU’s, die basisfuncties zoals het openen van applicaties afhandelen, bij inactiviteit slechts een paar cent per uur verspillen, terwijl inactieve GPU’s die machine learning, simulatie en videoverwerking verwerken, enkele dollars per uur zullen verspillen. GPU’s kunnen 50 keer meer kosten dan vergelijkbare CPU-gebaseerde machines, aldus het rapport.
De bevindingen komen terwijl bedrijven zich haasten om zeldzame en schaarse producten te verkrijgen dure AI-chipsvooral voor premium GPU’s zoals die van Nvidia Blackwell-chipsdie prijsstijgingen ervaart omdat de vraag naar AI groter is dan het aanbod.
Cast AI CEO Laurent Gil vertelde Business Insider dat een gevoel van urgentie deel van het probleem is.
In tegenstelling tot traditionele cloud computing, waarbij bronnen kunnen worden aangepast aan de vraag, verbinden bedrijven zich vaak aan langlopende GPU-contracten vanwege het beperkte aanbod, zegt Gil. Dit leidt tot overmatig kopen, gedreven door bang om iets te missen.
“De handeling van het kopen heeft niets te maken met de vraag of je het nodig hebt of niet,” zei Gil. “Je koopt het niet omdat je het nodig hebt. Je koopt het omdat het beschikbaar is.”
Volgens het Cast AI-rapport ligt een gezonde GPU-benuttingsgraad rond de 50%.
“Ik wil dat CTO’s hun teams vragen: ‘Hé, we hebben al een paar duizend van die GPU’s. Hoe gebruiken we ze?'” voegde Gill eraan toe. “En als er maar 5% wordt gebruikt, beschikt u, voordat u een nieuwe machine koopt, twintig keer meer waarvan u niet wist dat het beschikbaar was in uw account.”
