Durfkapitalist Chamath Palihapitiya zei dat hij niet kon geloven hoeveel zijn softwarestartup aan AI uitgaf.
“Onze kosten zijn sinds 25 november meer dan verdrievoudigd”, zei Palihapitiya in een aflevering van de “All-In Podcast” die vrijdag werd gepost. “Tussen de gevolgtrekkingskosten die we aan AWS betalen, die enorm zijn, tussen onze vergoedingen bij Cursor en tussen Anthropic, geven we slechts miljoenen uit.”
Palihapitiya zei dat 8090, waarmee hij begon met “het doel om alle oudere software ter wereld te vervangen/herschrijven”, waarschijnlijk 10 miljoen dollar per jaar aan AI-kosten zal kosten. Zijn zorgen over de stijgende rekeningen komen omdat de technologie-industrie blijft begrijpen hoe AI gevestigde velden zoals software-engineering verandert.
De grootste angst die Palihapitiya uitte, is dat hoewel de AI-kosten stijgen, de inkomsten van 8090 niet in hetzelfde tempo stijgen.
“Het probleem is dat mijn kosten elke drie maanden drie keer zo hoog worden”, zegt hij. “Mijn inkomen niet.”
Het huidige systeem, zo zei Palihapitiya bij Sommigen in de technologiesector, twijfelt aan de duurzaamheid van de huidige aanpak, en vergelijkt deze met de tarieven van Uber, die goedkoop beginnen en vervolgens in de loop van de tijd in prijs stijgen.
“Bedankt aan de durfkapitaalfondsen die deze onbeperkte tokenconsumptie zullen financieren via hun enorme investeringen”, schreef hij.
Palihapitiya noemde Cursor, een populaire AI-coderingstool, als de grootste bron van AI-kosten in 8090. Hij zei dat Anthropic Claude Code een veel betere deal was.
‘We moeten weg van Cursor migreren’, schreef hij
Er blijven zorgen bestaan over de stijgende rekeningen voor AI-gebruik. Maker van OpenCode Dax Raad zei onlangs dat CFO’s zich bewust beginnen te worden van de kosten van AI-rekeningen.
“Uw CFO is zoiets als: wat bedoel je met, elke ingenieur krijgt nu $ 2000 per maand extra aan LLM-rekeningen”, schreef Raad in X.
Palihapitiya zei dat hij vermoedt dat sommige AI-ladingen van de 8090 mogelijk zijn veroorzaakt door een Ralph-lus, een bijnaam voor een gebruikstechniek die in essentie dezelfde prompt terugstuurt naar het AI-model totdat het probleem is opgelost. Deze aanpak is vernoemd naar het personage “The Simpsons”. Ralph Wiggumeen geliefde doofus die heel volhardend kan zijn.
“Iedereen is gek op wat wij Ralph Wiggum-loops noemen, zoals iets sturen en het zal iets opleveren”, zei Palihapitiya tijdens de podcast. ‘A, het levert nooit iets op. En B, je hebt zojuist een enorme rekening van Cursor gekregen.’
In de toekomst zei Palihapitiya dat er meer flexibiliteit moet zijn om tussen modellen te wisselen. Hij zei dat het antropisch was onlangs in botsing gekomen met het Pentagon illustreren waarom dit nodig is.
“We hebben meer flexibiliteit nodig om tussen modellen te kunnen wisselen zonder alles kapot te maken”, schreef hij in X. “Ik denk dat dit een kwestie van kosten per nummer 1 is, maar ook een kwestie van strategische flexibiliteit na de gebeurtenissen tussen Anthropic en DoW.”
