Ik heb de toekomst van AI gezien en wij zijn er allemaal de beheerders van.
Wij vertellen ze waar ze heen moeten. Wat te zien. Wij beantwoorden hun vervolgvragen. Wij corrigeren ze als ze fouten maken.
Dit waren enkele van de gespreksonderwerpen op de AI Engineer-conferentie van vorige week in Londen, waar mensen uit de hele branche samenkwamen, waaronder Google, Anthropic en OpenAI.
De lezingen zijn gevarieerd, zeer technisch en samengesteld voor mensen die tegenwoordig diep in de AI verdiept zijn.
Wat verrassend was, was het aantal presentaties en discussies dat niet ging over de kwaliteit en mogelijkheden van AI-modellen en agenten – software die taken semi-autonoom kan uitvoeren – maar over de mensen die ze beheren.
Ryan Lopopolo, lid van de technische staf van OpenAI, noemde het moment aan het begin van de show. Hij zegt codering is dramatisch veranderd tegen eind 2025 als gevolg van de vooruitgang op het gebied van AI-instrumenten. De rol van software-ingenieurs vandaag de dag, zei hij, is het aansturen en deblokkeren van agenten.
Dit roept een aantal terugkerende vragen op: hoeveel controle moeten we afstaan aan agenten? Hoe moet een makelaar eruitzien? Moeten ze het delegeren aan een andere subagent? Is menselijke taal te beperkend om agenten te vertellen wat u wilt?
David Soria Parra van Anthropic zegt dat agenten zullen overstappen van coderen naar andere banen. Hugh Langley
Dit evenement begon al snel te voelen als een MBA voor AGI’s. Iedereen heeft een visie op hoe agenten moeten worden beheerd. Woorden als ‘guardrails’ en ‘context engineering’ (plannen waarmee agenten optimaal kunnen presteren terwijl ze minder tokens verbranden) zijn overal.
Dit detail is belangrijk omdat er een groeiende consensus bestaat dat 2026 een keerpunt zal zijn, wanneer agenten van een experimentele fase overgaan naar een fase waarin ze betrouwbaarder zijn en van coderen naar andere domeinen gaan.
“Ik denk dat 2025 over exploratie gaat, en 2026 over het in productie krijgen van deze middelen”, zei David Soria Parra van Anthropic op het podium. Het zijn niet alleen programmeurs die over deze dingen moeten nadenken: Parra zei dat hij verwacht dat we binnenkort meer ‘algemene agentschappen zullen zien die kenniswerkersdingen doen’, zoals financiële analyse en marketing.
In deze utopische toekomst van werk doen agenten het zware werk voor ons – maar ze hebben nog steeds toezicht nodig. Dit betekent dat ze de juiste documentatie, context en begeleiding nodig hebben, zodat ze niet van hun koers afwijken en dingen doen die ze niet zouden moeten doen.
Wat een ironie vandaag de dag die bedrijven — waaronder Meta, Google en Amazon — is het doorbreken van managementlagen maar het kan ook van iedereen een AI-supervisor maken. Individuele bijdragers bij technologiebedrijven, die ooit codeerden zonder zich zorgen te maken over hun directe ondergeschikten, zijn nu individuele bijdragers werk delegeren en beoordelen uitgevoerd door AI.
Een ander groot onderwerp van discussie is de hoeveelheid controle die we agenten moeten geven – vooral als je bedenkt hoe kwetsbaar ze zijn voor misbruik. Er is meer dan één onderzoek gedaan naar de recente verstoringen in het Amazonegebied veroorzaakt door AI-coderingsassistent.
Mario Zechner, de maker van de Pi-codeeragent, gaf een voorzichtiger boodschap dan de meeste sprekers. Agenten leren op internet, dat veel onzincode bevat, zei hij. Hij stelt een model voor voor software-ingenieurs die met bureaus werken: gebruik ze spaarzaam en laat ze geen beslissingen voor u nemen. “Alle genomen beslissingen worden van internet geleerd”, zei hij.
agenten ambacht
Naar een agent kijken betekent dat je hem of haar kunt zien, wat vervolgens een andere interessante vraag oproept: hoe zou een agent moeten zijn?
Eén antwoord komt via een prestatiemoment van Ido Salomon van Monday.com, die een programma heeft gebouwd met de naam Agentcraft dat, ja, agenten bevat die functioneren in een op “Warcraft” geïnspireerde omgeving.
Gebruikers kunnen nieuwe agenten spawnen, ze ondervragen zoals ze dat in elke andere AI-interface zouden doen, en er is een handige manier om te zoeken naar agenten met vervolgvragen of agenten die jouw goedkeuring nodig hebben om taken uit te voeren. Heatmaps laten zien of uw agenten het risico lopen met elkaar in botsing te komen; een probleem dat kan optreden wanneer meerdere agenten parallel worden uitgevoerd. Dit kan gebeuren als twee agenten tegelijkertijd hetzelfde bestand bewerken, of als beide verschillende codefuncties wijzigen die van elkaar afhankelijk zijn.
Hoe maak je het controleren van agenten leuk? Maak er een videogame van. Hugh Langley
Sommige van de deelnemers waarmee Business Insider sprak, kwamen niet uit grote AI-laboratoria, maar eerder uit grote en kleine bedrijven die agenten op de werkplek gebruiken.
Yann Mainier, een senior engineer bij Sky UK die het evenement bijwoonde, vertelde Business Insider dat hij meer wilde weten over hoe hij en zijn team betere agenten konden bouwen.
“Het gaat meer om de vraag: als je eenmaal een agent hebt, hoe zorg je er dan voor dat hij of zij goed werk levert? Je kunt ze niet op dezelfde manier onderzoeken als met traditionele software”, zegt hij. Als u een agent bijvoorbeeld vraagt om twee keer dezelfde functie te schrijven, kan de agent het anders doen. ‘Je moet een andere manier hebben,’ zei Mainier.
Het kan zijn dat de beheerder delen van het web opnieuw moet ontwerpen om het leesbaarder te maken.
Vercel CTO Malte Ubl zei dat in de week voorafgaand aan de AI Engineer-conferentie meer dan 60% van de pageviews op Vercel.com afkomstig was van agenten.
“We moeten andere veranderingen overwegen, waarbij de software zelf nu door agenten zal worden gebruikt”, zei hij. Wanneer een medewerker een nieuwe functie of interface voorstelt, stelt Ubl nu een nieuwe vraag: “Hoe kunnen agenten dit gebruiken?”
Heeft u iets te delen? Neem contact op met deze verslaggever via e-mail op hlangley@businessinsider.com of Signaal op 628-228-1836.
