CEO van Box Aäron Levie zegt dat technologiebedrijven niet de laatsten zullen zijn die de AI-budgetten zullen zien stijgen.
“Dit begint uiteraard in de engineering, waar we al weten dat ontwikkelaars meerdere agenten parallel kunnen draaien, of projecten van de ene op de andere dag kunnen uitvoeren”, schreef Levie in X. “Maar dit zal uiteindelijk ook gevolgen hebben voor ander kenniswerk.”
Levie noemde bijvoorbeeld de vakgebieden recht en verkoop als twee vakgebieden die grote tokengebruikers zouden kunnen worden.
Token bepalen hoe AI wordt gemeten en hoe het verbruik ervan wordt beoordeeld. Ze zijn een teksteenheid, een woord of een deel van een woord – in wezen de basiselementen van het Large Language Model, dat populaire chatbots als OpenAI aandrijft. GPT-chatClaude Antropisch, of Grok xAI. Belangrijk is dat tokens geen vast bedrag zijn, en AI-bedrijven hebben de neiging hogere kosten in rekening te brengen voor het gebruik van de meest geavanceerde modellen en het stellen van complexere vragen.
Het bericht van Levie was een reactie op de CEO van Nvidia Jensen Huangis van mening dat hij “zeer bezorgd” zou zijn als een ingenieur die $ 500.000 krijgt, geen AI-tokens zou gebruiken die gelijkwaardig zijn aan ten minste de helft van dat salaris.
“Die ingenieur van $ 500.000 aan het einde van het jaar, ik zou hem vragen hoeveel je aan tokens hebt uitgegeven? Als die persoon $ 5.000 zei, zou ik er nog een kopiëren”, zei Huang in een aflevering van de “All-In Podcast”, die donderdag werd gepubliceerd.
Levie zei: “Deze onderliggende concepten en trends zullen heel reëel worden, omdat werknemers die goed gebruik maken van AI alleen maar meer AI zullen consumeren.
“Hun computerbudgetten zullen in de loop van de tijd blijven stijgen”, schreef hij.
Het zijn niet alleen arbeiders, zegt Levie. Agenten, die 24 uur per dag actief kunnen zijn, zijn waarschijnlijk de grootste verbruikers van tokens.
“Dit zijn geen chatbot-workflows die eenvoudige vragen beantwoorden, maar agenten die grote hoeveelheden gegevens op grote schaal verwerken en verwerken, en alle vormen van nieuwe informatie genereren”, schreef hij.
Niet iedereen zal blij zijn met zijn AI-computerbudget. Durfkapitalist Chamath Palihapitiya zei dat hij 8090, zijn startende softwarebedrijf, moest vertellen om te stoppen met het gebruik van Cursor, een populaire AI-coderingstool, nadat hij had gezien hoeveel het bedrijf aan tokens uitgaf.
“Onze kosten zijn sinds 25 november meer dan verdrievoudigd”, zei Palihapitiya in een eerdere aflevering van de “All-In Podcast.” “Tussen de gevolgtrekkingskosten die we aan AWS betalen, die enorm zijn, tussen onze vergoedingen bij Cursor en tussen Anthropic, geven we slechts miljoenen uit.”
Levie zei dat bedrijven “moeten nadenken over hoe ze dit budgetteren.”
“Dit zal in de loop van de tijd waarschijnlijk geen IT-budget worden, maar zal uiteindelijk eigendom zijn van en toegewezen worden door het bedrijf”, schreef hij. “Misschien is de CFO uiteindelijk het hoofd van AI :-).”
