Fintech Brex gokt erop dat de toekomst van zakelijke AI niet een betere orkestratie is, maar minder orkestratie.
Terwijl generatieve AI-agenten overstappen van copiloten naar autonome systemen, zegt James Reggio, CTO van Brex, dat traditionele agentorkestratieframeworks eerder een beperking dan een enabler worden. In plaats van te vertrouwen op een centrale coördinator of rigide workflows, heeft Brex een zogenaamde ‘Agent Mesh’ gebouwd: een netwerk van smalle, rolspecifieke agenten die in duidelijke taal communiceren en onafhankelijk opereren – maar met volledige zichtbaarheid.
“Ons doel is om AI te gebruiken om Brex effectief te elimineren”, vertelde Reggio aan VentureBeat. “Wij streven naar totale automatisering.”
Brex realiseerde zich dat agenten, om haar doelen te bereiken, in beperkte, specifieke rollen moesten werken om modulairer, flexibeler en controleerbaarder te zijn.
Reggio zei dat het doel van de architectuur is om elke manager in een bedrijf “één enkel aanspreekpunt binnen Brex te laten hebben dat het scala aan verantwoordelijkheden afhandelt, of het nu gaat om het beheren van uitgaven, reisaanvragen of het goedkeuren van aanvragen voor bestedingslimieten.”
De reis van de Brex-assistent
De financiële dienstverleningssector maakt al lang gebruik van AI en machine learning om de enorme hoeveelheden gegevens die zij verwerkt te verwerken. Maar als het gaat om het presenteren van AI-modellen en -agenten, dan wel de sector bewandelt een voorzichtiger pad aan het begin. Nu hebben steeds meer financiële dienstverleners, waaronder de Brex, dit lanceerde een AI-aangedreven platform En meerdere agentworkflows.
Brex’s eerste uitstapje naar generatieve AI was met Brex Assistant, uitgebracht in 2023, waarmee klanten bepaalde financiële en uitgaventaken kunnen automatiseren. Het biedt suggesties voor het invullen van uitgaven, vult automatisch informatie in en volgt uitgaven op die in strijd zijn met het beleid.
Reggio geeft toe dat de Brex-assistent werkt, maar dat is niet genoeg. “Ik denk dat dit tot op zekere hoogte nog steeds een technologie is waarvan we de grenzen niet volledig kennen”, zei hij. “Er zijn nogal wat patronen die de industrie moet ontwikkelen naarmate de technologie volwassener wordt en meer bedrijven erop voortbouwen.”
Brex Assistant gebruikt veel modellen, incl Claude van Antropisch en aangepaste Brex-modellen, evenals de OpenAI API. De Assistent automatiseert sommige taken, maar is nog steeds beperkt in hoe laag deze kan zijn.
Reggio zei dat Brex Assistant nog steeds een grote rol speelt in de autonomie van het bedrijf, vooral omdat het Agent Mesh-product in de app stroomt.
Agent Mesh om orkestratie te vervangen
De consensus in de sector is dat ecosystemen met meerdere agenten, waar agenten communiceren om taken uit te voeren, een orkestratieraamwerk nodig hebben om hen te begeleiden.
Reggio daarentegen heeft een andere mening. “Deterministische orkestratie-infrastructuur… is de oplossing voor het probleem dat we twee jaar geleden zagen, namelijk dat agenten, net als modellen, vaak hallucineren,” zei Reggio. “Ze zijn niet erg goed met veel tools, dus je moet ze dit niveau van vrijheid geven, maar dan in een meer gestructureerd en rigide systeem. Maar naarmate de modellen beter worden, denk ik dat ze het steeds groter wordende scala aan mogelijkheden gaan belemmeren.”
Meer traditionele agent-orkestratie-architecturen richten zich op één enkele agent die alles doet, of, vaker, op een coördinator/orkestrator plus een tool-agent die expliciet de workflow definieert. Reggio zei dat beide raamwerken te rigide zijn en problemen oplossen die vaker voorkomen bij traditionele software dan bij AI.
De verschillen zijn volgens Reggio structureel:
-
Traditionele orkestratie: vooraf gedefinieerde workflows, centrale coördinator, deterministische paden
-
Mesh-agent: gebeurtenisgestuurde agenten, aangepaste rollen, op berichten gebaseerde coördinatie
Agent Mesh is afhankelijk van het samenbrengen van een netwerk van vele kleine agenten, die elk gespecialiseerd zijn in één enkele taak. De agenten communiceren, wederom met een mix van hybride modellen zoals in Brex Assistant, ‘in het Engels’ via een gedeelde berichtenstroom met andere agenten. Het routeringsmodel bepaalt snel welke tool moet worden gebruikt, zei hij.
Eén enkel onkostenvergoedingsverzoek activeert meerdere taken: nalevingscontrole om af te stemmen op het onkostenbeleid, budgetvalidatie, matching van ontvangstbewijzen en vervolgens betalingsinitialisatie. Hoewel agenten zeker kunnen worden gecodeerd om dat allemaal te doen, zijn deze methoden ‘fragiel en foutgevoelig’ en reageren ze nog steeds op nieuwe informatie die via berichtenstromen wordt gedeeld.
Reggio zei dat het de bedoeling is om al die afzonderlijke taken te verduidelijken en ze aan kleinere instanties toe te wijzen. Hij vergelijkt de architectuur met een Wi-Fi-netwerk, waarbij geen enkel knooppunt het systeem bestuurt; de betrouwbaarheid komt voort uit vele kleine, overlappende bijdragers.
“We vonden in principe een goede match met het idee om een specifieke rol als agent te belichamen bovenop het beste platform voor het beheren van specifieke verantwoordelijkheden, zoals hoe je crediteuren delegeert aan het ene team versus het onkostenbeheer aan een ander team”, aldus Reggio.
Brex definieert drie kernideeën in de Agent Mesh-architectuur:
-
Configuratie, waarbij agentdefinities, modellen, tools en abonnementen worden toegepast
-
MessageStream registreert elk bericht, elke tooloproep en elke statusovergang
-
Klok, die zorgt voor deterministische ordening
Brex neemt ook evaluaties op in het systeem, waarbij LLM’s als rechters optreden en auditagenten de beslissingen van elke agent beoordelen om ervoor te zorgen dat deze voldoen aan de nauwkeurigheid en het gedragsbeleid.
Succes tot nu toe
Brex zegt dat het enorme efficiëntieverbeteringen heeft gezien bij zijn klanten in zijn AI-ecosysteem. Brex biedt geen benchmarks van derden of klantspecifieke gegevens om deze voordelen te valideren.
Maar Reggio zei dat zakelijke klanten die Brex Assistant en de machine learning-systemen van het bedrijf gebruiken “in staat zijn om 99% automatisering te bereiken, vooral voor klanten die echt afhankelijk zijn van AI.”
Dit is een duidelijke stijging ten opzichte van de 60 tot 70% van de Brex-klanten die vóór de lancering van Brex Assistant hun bestedingsprocessen konden automatiseren.
Het bedrijf bevindt zich nog in de beginfase van zijn autonomiereis, zei Reggio. Maar als de aanpak van Agent Mesh succesvol is, kan het meest succesvolle resultaat onzichtbaar zijn: werknemers zullen helemaal niet meer nadenken over uitgaven.
