Een groeiend verhaal in de technologie-industrie suggereert dat AI-agents de traditionele SaaS-applicaties zullen vervangen – waarbij ze bedrijfssoftwareworkflows autonoom zullen afhandelen, terwijl ze hele categorieën zullen comprimeren.
Maar hoewel AI-agenten snel in ondernemingen worden ingezet, begrijpen deze raamwerken verkeerd hoe bedrijfssystemen eigenlijk werken.
Artikel gaat hieronder verder
Senior Directeur Customer Engineering, Internationaal bij Elastic.
Zonder relevantie en een goede operationele basis kan AI zijn taken slecht uitvoeren. In plaats van betrouwbare en nauwkeurige resultaten te produceren, leidt dit in plaats daarvan tot hallucinaties, d.w.z. resultaten die redelijk lijken, maar onvolledig, misleidend of ronduit onjuist zijn.
Dit is een riskante onderneming. Fouten kunnen zich snel door de bedrijfsvoering verspreiden: verkeerd ingeschatte kredietrisicomodellen kunnen frauduleuze transacties goedkeuren, waardoor bedrijven worden blootgesteld aan financiële verliezen en toezicht door de toezichthouders. Hulpverleners in de gezondheidszorg kunnen aanbevelingen opvolgen die onbedoeld de privacyregels schenden of gevaarlijke medische richtlijnen geven.
Zelfs strategische beslissingen, zoals inkoop in de toeleveringsketen, kunnen ontsporen als voorspellende modellen markttrends verkeerd interpreteren, wat resulteert in omzetverlies, verspilling van middelen en publieke reacties.
Kortom, zonder de juiste context kan AI onjuiste oordelen vellen en slechte beslissingen nemen. En de gevolgen zijn reëel: financiële verliezen, overtredingen van de regelgeving en schade aan de merkreputatie.
Dit onderstreept het belang van menselijk toezicht en een oordeelkundige inzet. AI-systemen vereisen meer dan alleen ruwe modelleringsmogelijkheden. Dit vereist een omgeving die de relevantie bevordert, de operationele afstemming waarborgt en het bestuur handhaaft.
Om dit aan te pakken moeten organisaties zorgvuldig overwegen hoe ze AI voorbereiden op hun werk en hoe ze AI op zijn best kunnen laten presteren. Voor velen ligt de oplossing in een aanpak die bekend staat als ‘context engineering’.
Wat er werkelijk ontbreekt bij AI-agenten
Bij context-engineering gaat het erom AI-agenten te geven wat ze nodig hebben om betrouwbaar te kunnen werken in echte bedrijfsomgevingen. Analisten bij Gartner definiëren het als “het ontwerpen en structureren van relevante gegevens, workflows en omgevingen, zodat AI-systemen de bedoelingen kunnen begrijpen, betere beslissingen kunnen nemen en resultaten kunnen opleveren die contextueel zijn en afgestemd zijn op de onderneming.”
Overweeg een klantenservicemedewerker die factureringsgeschillen afhandelt. Om een nuttig antwoord te kunnen geven, is toegang nodig tot de accountgeschiedenis van de klant, recente transactielogboeken, productdocumentatie en het huidige terugbetalingsbeleid van het bedrijf – allemaal in één keer en in de juiste volgorde van prioriteit. Zonder een dergelijke technische context zullen zelfs zeer capabele modellen antwoorden opleveren die op zijn best generiek en in het slechtste geval misleidend zijn.
Veel AI-agenten beschikken tegenwoordig over krachtige modellen, maar ontberen consistente toegang tot de operationele context. Ze vervangen niet de onderliggende platforms, dataopslag of operationele systemen waar bedrijven op vertrouwen; ze zijn op hun hoogtepunt en zullen alleen functioneren binnen de context die het systeem biedt.
Het oplossen van dit probleem gaat niet alleen over betere modellen. Dit vereist een platform dat gestructureerde en ongestructureerde gegevens kan verenigen, de meest relevante signalen uit verschillende systemen kan vastleggen en ingenieurs inzicht kan geven in de manier waarop output wordt gegenereerd, zodat ze hiaten kunnen identificeren en met vertrouwen kunnen herhalen.
Organisaties die context-engineering effectief implementeren, kunnen veel van de knelpunten elimineren die worden veroorzaakt door het beheren van meerdere tools, terwijl ze ervoor zorgen dat AI-agenten betrouwbaar opereren in complexe, echte omgevingen.
Kortom, context-engineering omvat elke laag van de stapel. Wanneer dit succesvol is, wordt AI een krachtige en betrouwbare laag bovenop bestaande bedrijfssystemen, en geen vervanging ervan.
Zorg voor de juiste context en AI ondersteunt uw hele organisatie
Context engineering gaat niet alleen over het verminderen van hallucinaties of het vergroten van de betrouwbaarheid, hoewel die wel belangrijk zijn. Als dit goed wordt gedaan, zal dit ontwikkelaars in staat stellen om complexe, uit meerdere stappen bestaande AI-workflows te bouwen, waarbij agenten worden aangepast voor specifieke domeinen zoals medische, juridische en financiële diensten, terwijl de output voldoet aan de toon, de redeneerstijl en de nalevingsvereisten.
Dit geeft de mens ook een belangrijke, blijvende rol. Relevantie en context zijn niet statisch; ze evolueren naarmate de bedrijfsomstandigheden, regelgeving en gebruikersbehoeften veranderen. Daarom hebben AI-leiders human-in-the-loop feedbackloops, monitoring en toezicht nodig, zodat agenten zich kunnen aanpassen, naleving kunnen handhaven en waarde kunnen blijven leveren.
De conclusie is duidelijk: zorg voor de juiste context en je verbetert meer dan alleen de AI-output. Je verbetert de besluitvorming, efficiëntie en veerkracht van de mensen en teams waarmee ze werken, zonder de onderliggende systemen te vervangen.
Ik heb meer dan 70 beste AI-tools geprobeerd.
