Home Nieuws Binnen de AI Boom met AI Fireworks CEO Lin Qiao

Binnen de AI Boom met AI Fireworks CEO Lin Qiao

1
0
Binnen de AI Boom met AI Fireworks CEO Lin Qiao

Dat AI de groei vertraagt ​​niet; het wordt sneller.

Lin Qiao, voormalig Meta ingenieurs die hielpen bouwen PyTorchdraait nu Fireworks AI, een startup van $4 miljard die elke dag 15 biljoen AI-tokens verwerkt, en hij zegt dat de vraag nog maar net begint.

“Dit is het jaar waarin de tokenconsumptie exponentieel zal groeien”, vertelde Qiao me in een recent interview.

Het Fireworks AI-cloudinferentieplatform verwerkt nu ongeveer 15 biljoen AI’s teken per dag, vergeleken met 13 biljoen een paar maanden geleden en 10 biljoen eind 2025. (Het model splitst woorden en andere invoer op in numerieke tokens om ze gemakkelijker te verwerken en te begrijpen. Eén token komt overeen met ¾ van een woord. Het model wordt ook gebruikt om het gebruik van AI-modellen te prijzen, via de industriestandaard kosten per miljoen tokens.

Qiao was hier eerder geweest. Lang vóór de huidige generatieve AI-hausse was hij binnen Meta bezig met het bouwen van PyTorch, het open source-framework dat de eerste golf van moderne AI-adoptie aandreef. Die waren er destijds niet GPU’s geoptimaliseerd voor AI, geen volwassen tools en geen duidelijke routekaart.

“We moesten alles vanaf nul opbouwen”, zei Qiao.

De omvang van de groei weerspiegelt volgens Qiao hoe snel AI wordt ingebed in dagelijkse workflows in verschillende sectoren.

Het gebruik van tokens is niet beperkt tot technologieteams. Qiao beschreef financiële afdelingen die AI gebruikten om prognoses te automatiseren, zijn eigen juridische team dat interne AI-tools bouwde, en zelfs gig-medewerkers die muziek on-demand creëerden met generatieve AI-modellen. Zijn dochter van middelbare leeftijd gebruikt verschillende AI-systemen tegelijkertijd: één om antwoorden te genereren en een andere om ze te verifiëren.

“Dat is de wereld waarin we leven”, zei Qiao. “Letterlijk iedereen gebruikt deze tool.”

Deze golf vernietigde de hele technologie. Beperkt GPU-aanbod, prijzen stijgenen zelfs de elektriciteitsinfrastructuur staat onder druk nu bedrijven zich haasten om meer AI-capaciteit in te zetten.

“Het hele systeem is verzadigd”, zei Qiao, waarmee hij een knelpunt beschrijft dat zich uitstrekt van halfgeleidercomponenten tot het energienetwerk.

Zijn geloofwaardigheid met deze trend komt voort uit zijn rol bij het opbouwen van PyTorch, dat heeft bijgedragen aan de democratisering van de AI-ontwikkeling bij bedrijven, van Tesla tot Walmart. Deze vroege blootstellingen laten zien hoe snel AI zich buiten Silicon Valley kan verspreiden naar sectoren als de landbouw en de productie.

Nu ziet hij een soortgelijke, maar veel snellere, golf optreden.

Waarom is er?

Een kernvraag achtervolgt bedrijven als Fireworks AI echter nog steeds: waarom bestaan ​​ze? Als hyperscalers Amazon, Google, Microsoft en Oracle al GPU’s leasen, waarom zouden we dan niet rechtstreeks naar hen toe gaan?

Het antwoord van Qiao is complexiteit en snelheid. Bedrijven, zei hij, hebben moeite om de snelle veranderingen in modellen en hardware bij te houden, van nieuwe Nvidia-chips die elke paar maanden arriveren tot nieuwe AI-modellen om de paar weken. Fireworks zorgt voor dat verloop – door de prestaties te optimaliseren, de infrastructuur te beheren en klanten te helpen snel te migreren – zodat ze niet hoeven te migreren.

Voor Qiao zijn de lessen van PyTorch en Fireworks consistent: zodra AI bruikbaar is, zal de adoptie dramatisch toenemen. En op basis van de huidige tokenvolumes is die versnelling nog maar net begonnen.

Meld u aan voor de Tech Memo BI-nieuwsbrief Hier. Neem contact met mij op via e-mail op abarr@businessinsider.com.

LAAT EEN REACTIE ACHTER

Vul alstublieft uw commentaar in!
Vul hier uw naam in