Home Nieuws ‘Tokenmaxxing’ is het nieuwe AI-debat in Silicon Valley

‘Tokenmaxxing’ is het nieuwe AI-debat in Silicon Valley

1
0
‘Tokenmaxxing’ is het nieuwe AI-debat in Silicon Valley

Vergeet geschreven coderegels, ingenieurs hebben nieuwe manieren om met elkaar te concurreren.

Welkom in het tijdperk van “tokenmaxxing”.

Uitgerust met coole nieuwe AI-coderingstools hebben softwareontwikkelaars in de hele technologie-industrie een portemonnee vol tokens om uit te geven. Tokens, een rekenmaatstaf die bepaalt hoe AI-werk wordt geprijsd, zijn verstrekt als een vorm van compensatie voor ingenieurs en verschijnen zelfs in functiebeschrijvingen voor ingenieurs. AI-beurzen bij OpenAI en Anthropic.

Maar zijn tokenuitgaven een goede maatstaf voor de productiviteit van ontwikkelaars?

Deze vraag kwam deze week op sociale media ter sprake toen techneuten daarna debatteerden over het concept van tokenmaxxing Informatie meldt dat sommige Meta-ingenieurs racen om de tokens te gebruiken om te rangschikken op een door medewerkers gemaakt ‘Claudeonomics’-dashboard dat het gebruik bijhoudt en medewerkers in staat stelt te strijden om titels als ‘Token Legend’. Het bedrijf reageerde niet op het verzoek van Business Insider om commentaar.

Sommigen zeggen dat dit een nuttige markering is voor werknemers om nieuwe tools te gebruiken; Anderen zeggen dat dit het inefficiënte gebruik van AI binnen bedrijven zou kunnen stimuleren – wat zou leiden tot performatief gamen op die maatstaven.

“Het rangschikken van ingenieurs op basis van tokenuitgaven is net als ik mijn marketingteam rangschikken op basis van wie het meeste geld uitgeeft”, schreef Linear COO Cristina Cordova op X. “Verwar een hoog verbrandingspercentage niet met een hoog succespercentage.”

Wat is tokenmaxxing?

Om tokenmaxxing te begrijpen, moet je er eerst van op de hoogte zijn wat is een teken. Grote taalmodellen splitsen woorden op in numerieke invoer, waarbij elk token ongeveer als ¾ van een woord wordt beschouwd. Het AI-model brengt kosten in rekening op basis van het aantal gebruikte tokens.

Tokenmaxxing is dus de drang om zoveel mogelijk tokens uit te geven. Meta en OpenAI zijn slechts enkele van de technologiebedrijven met token-klassementen, zei The New York Times eerder gerapporteerd.

Hoewel het moeilijk in te schatten is hoe wijdverspreid tokenmaxxing is geworden, nemen de AI-uitgaven van bedrijven duidelijk toe. Dat fintech-bedrijf Ramp noemt het een ‘blinde vlek van $ 1 biljoen’ op Xciteerde gegevens van Gartner waaruit bleek dat de maandelijkse AI-uitgaven onder bedrijven het afgelopen jaar zijn verviervoudigd.

Het is ook flexibel. Oprichters en toekomstige ingenieurs posten hun tokenuitgaven op X om aan te geven hoe goed ze zijn in AI. Eén xAI-medewerker schrijf het technologie verandert elk goed idee ‘in theater’.

Y Combinatie CEO Gary Tan blijkbaar een liefhebber. Citaat van een vorig bericht Tan berispte bedrijven die “gierig” zijn met tokens: “We zijn langer aan het tokenmaxxen dan de meeste.”

Is tokenmaxxing een goede stimulans?

Sommigen in de technische wereld beweren dat tokenmaxxing een effectieve maatstaf is; anderen noemden het roekeloze uitgaven.

Khosla Ventures-partners Johannes Chu noemt het meten van tokenuitgaven een “volkomen dom beleid” op X.

“Veel van mijn Meta-vrienden vertellen me dat mensen vanwege dit beleid bots hebben gemaakt die in een lus draaien en tokens zo snel mogelijk verbranden”, schreef hij.

Cursor-medewerker Edwin Wee Arbus biedt een krijgt een metrisch gevoelnoemde het een “nuttige en snelle, maar enigszins gebrekkige proxy”. Hij vergeleek het met de body mass index of BMI, die inzicht kan geven in de gezondheid, maar geen spier- of botmassa vastlegt.

Hoewel Nvidia-CEO Jensen Huang zich niet direct heeft uitgesproken over ‘tokenmaxxing’, benadrukte hij het belang ervan ingenieurs gebruiken veel tokens, zei dat als een ingenieur van $ 500.000 niet voor minstens $ 250.000 aan tokens zou verbruiken, hij “zeer bezorgd” zou zijn.

De auteur van de nieuwsbrief “The Pragmatic Engineer” Gergely Orosz noemt de praktijk nutteloos. “Ontwikkelaars spelen met alles en nog wat zij als doelwit zien om meer bonussen of promo’s te krijgen”, schreef hij. “Dit is niet anders.”

BEP Research-oprichter Ben Pouladian heeft een andere kijk op deze trend en noemt computergebruik als een barrière voor innovatie. “In het tijdperk van AI wordt elke werknemer een consument van computers”, schreef hij op X.

“Tokenuitgaven zijn altijd een output, geen input”, schrijven Persona-software-ingenieur Arush Shankar, werkte eerder bij Square en Microsoft, aldus zijn LinkedIn. “Het is de moeite waard om naar te kijken, maar nooit geïsoleerd. Het is een signaal, geen signaal.”

Houdt uw bedrijf de tokenuitgaven of het tokengebruik bij? Neem contact op met de verslaggever via niet-werk-e-mail en apparaten op hchandonnet@businessinsider.comof op Signal op henrychand.30

LAAT EEN REACTIE ACHTER

Vul alstublieft uw commentaar in!
Vul hier uw naam in