In zijn recente publieke ruzie met het Pentagon waarschuwde Dario Amodei, CEO van Anthropic, daarvoor AI kan er niet aan wennen doden zonder dat er mensen bij betrokken zijn. De technologie is daartoe in staat, zei hij. Waartoe het niet in staat is, is omgaan met het onverwachte, de rommelige realiteit waar geen enkel algoritme rekening mee kan houden. Deze lessen zijn van toepassing in oorlog en in bijna elke hoek van het werk en het leven.
Een paar weken geleden leek AI niet meer te stoppen. Tegenwoordig worstelt bijna elke organisatie met wie ik spreek met betrouwbaarheid, bruikbaarheid en meetbare impact. De reden is simpel. Deze modellen blinken uit onder gecontroleerde omstandigheden, maar falen in de echte wereld. Die kloof, die wij de ‘executiegrens’ noemen, is wat voor mensen het belangrijkst is.
Mijn eigen ingenieur legt het duidelijk uit. AI is sterk qua ideeën en uitvoering met een goede reikwijdte. Het middelste deel, waar goed gedefinieerde ideeën en uitvoering in bestaande systemen worden ingevoerd om op betrouwbare wijze te worden gerealiseerd, vereist nog steeds menselijk werk. Dit vereist context, oordeelsvermogen, domeinexpertise en voortdurende herijking. Het laatste werkgelegenheidsrapport van Anthropic laat hetzelfde zien. De banen die het minst aan AI worden blootgesteld, zijn de banen die fysieke aanwezigheid en een onvoorspelbaar beoordelingsvermogen vereisen. Denk aan koks en strandwachten; mensen die aanwezig moeten zijn als geen enkel systeem kan anticiperen op wat er gaat gebeuren.
WAAR MENSEN IN DE LUS MOETEN ZIJN
Dit is waar de meeste bedrijven stilletjes mee worstelen. Buiten het coderen of het maken van inhoud kunnen er maar heel weinig taken plaatsvinden zonder menselijke tussenkomst. De landingsbaan voor betrouwbare AI in de rommelige echte wereld is nog lang. Maar het probleem is niet dat AI geen vooruitgang boekt. Het probleem is hoe bedrijven de infrastructuur om hen heen ontwerpen.
De afgelopen twaalf maanden heeft ons model de automatiseringsdekking met meer dan 60% uitgebreid. Bij bijna elke taak zijn nog steeds mensen nodig. AI vervangt de mens niet. Dit minimaliseert wat ieder mens bij elke taak doet, waardoor elke interventie kleiner, preciezer en effectiever wordt. Alleen al deze dynamiek heeft ons bedrijf van zeer negatieve naar positieve brutomarges gebracht, terwijl de resultaten en tevredenheid voor klanten en werknemers zijn verbeterd. Elke overdracht was een leermoment. Elke taak leert het systeem waar de volgende overdracht moet plaatsvinden. De cirkel breidt zich uit.
Hier is een belangrijk inzicht dat veel mensen missen: de grens is geen vaste lijn waarlangs AI zich zal bewegen. Naarmate de zaken vorderen, verdwijnen banen die menselijk oordeel vereisen niet. Het migreert. De vorm van mensenwerk verandert en de infrastructuur verandert mee. Als u uw systeem bouwt voor het overdrachtspunt van vandaag, zal het over zes maanden verouderd zijn.
MENS/AI-BALANS
De echte vraag is dus niet hoe we AI dit kunnen laten doen zonder mensen. De vraag is hoe je een relatie tussen AI en mensen opbouwt die elke keer dat er verandering plaatsvindt, beter wordt. Dat is waar we bij Duckbill al jaren aan bouwen: een infrastructuurlaag die de interface vormt tussen AI en de echte wereld. Er zijn ingenieurs, operators en miljoenen datapunten nodig om betrouwbare resultaten te krijgen van echte telefoongesprekken, echte transacties, echte taken in de fysieke wereld. AI organiseert, mensen voeren uit wanneer werk het scherm verlaat.
En dan gebeurt het interessante: elke herhaling leert het systeem waar het volgende overdrachtspunt moet zijn. Het stokje veranderde van eigenaar, en de volgende keer op een andere manier, en daarna op een andere manier. Hierdoor ontstaat een betrouwbaarheid die in de loop van de tijd toeneemt. De betrouwbaarheid zit niet in het model; het is in een cirkel.
De race die iedereen denkt te lopen, gaat over het bouwen van capabelere modellen. Het echte ras dat er toe doet, is het opbouwen van een groeiende cirkel. We kwamen vroeg aan. De kloof is reëel. En het zal niet worden gedekt door een beter model. Het zal worden gesloten door mensen die er een cirkel omheen kunnen bouwen.
Meghan Joyce wel CEO en oprichter van Duckbill.
