De huidige AI-uitdagingen gaan over de coördinatie, context en samenwerking van agenten. Hoe zorg je ervoor dat ze echt samen kunnen denken, met alle contextuele begrip, onderhandeling en gedeelde doelen van dien? Dit is een belangrijke volgende stap op weg naar een nieuw soort gedistribueerde intelligentie die mensen up-to-date houdt.
Tijdens de laatste stop in de AI Impact Series van VentureBeat gaan Vijoy Pandey, SVP en GM van Outshift by Cisco, en Noah Goodman, Stanford-professor en mede-oprichter van Humans&, praten over hoe we kunnen overstappen van alleen verbonden agenten naar agenten die doordrenkt zijn van collectieve intelligentie.
De behoefte aan collectieve intelligentie, niet aan gecoördineerde actie
De grootste uitdaging, zei Pandey, is dat “agenten vandaag de dag wel met elkaar in contact kunnen komen, maar niet samen kunnen denken.”
Hoewel protocollen als MCP en A2A elementaire connectiviteitsproblemen hebben opgelost, en AGNTCY problemen aanpakt van ontdekking tot identiteitsbeheer tot communicatie tussen agenten en observatie, kunnen ze alleen het equivalent aan van een telefoongesprek tussen twee mensen die niet dezelfde taal spreken. Maar het team van Pandey heeft iets diepers geïdentificeerd dan het technische: de noodzaak voor agenten om tot collectieve intelligentie te komen, en niet alleen tot gecoördineerde actie.
Hoe gedeelde intenties en gedeelde kennis collectieve innovatie mogelijk maken
Om te begrijpen waar multi-agent AI naartoe gaat, wezen beide sprekers op de geschiedenis van de menselijke intelligentie. Hoewel mensen ongeveer 300.000 jaar geleden individueel intelligent werden, ontstond echte collectieve intelligentie pas ongeveer 70.000 jaar geleden met de opkomst van geavanceerde taal.
Deze doorbraak maakt drie cruciale capaciteiten mogelijk: gedeelde intentie, gedeelde kennis en collectieve innovatie.
“Als je eenmaal dezelfde intentie hebt, hetzelfde doel, je beschikt over kennis die je kunt aanpassen, ontwikkelen en waarop je kunt voortbouwen, dan kun je richting collectieve innovatie gaan”, zei Pandey.
Goodman, wiens werk een brug slaat tussen informatica en psychologie, legt uit dat taal meer is dan alleen het coderen en decoderen van informatie.
“Taal is dit soort coderen dat vereist dat je de context begrijpt, de intentie van de spreker, de wereld, en hoe dat van invloed is op wat mensen gaan zeggen, om te weten wat mensen bedoelen,” zei hij.
Het is dit geavanceerde begrip dat de basis vormt van menselijke samenwerking en cumulatieve culturele evolutie, en het is wat momenteel ontbreekt in interacties tussen actoren.
Het aanpakken van de kloof met het Internet of Cognition
“We moeten de menselijke evolutie imiteren”, legt Pandey uit. “Naast het slimmer maken van agenten, net als individuele mensen, moeten we een infrastructuur bouwen die collectieve innovatie mogelijk maakt, wat betekent dat we intentie en coördinatie delen en vervolgens kennis of context delen en die context ontwikkelen.”
Pandey noemt het het Internet of Cognition: een drielaagse architectuur ontworpen om collectief denken tussen heterogene agenten mogelijk te maken:
Protocollaag: Naast basisconnectiviteit maken deze protocollen begrip, afhandeling van intentie-uitwisseling, coördinatie, onderhandeling en ontdekking tussen agenten van verschillende leveranciers en organisaties mogelijk.
Stoffen voering: Een gedeeld geheugensysteem waarmee agenten een collectieve context kunnen opbouwen en ontwikkelen, waarbij eigenschappen voortkomen uit hun interacties.
Cognitiemotorlaag: Accelerators en vangrails die agenten helpen sneller te denken terwijl ze binnen de noodzakelijke beperkingen op het gebied van compliance, beveiliging en kosten opereren.
De moeilijkheid is dat organisaties collectieve intelligentie moeten opbouwen over de grenzen van de organisatie heen.
“Denk op een heterogene manier aan gedeelde herinneringen”, zei Pandey. “We hebben agenten van verschillende partijen die samenkomen. Dus hoe ontwikkel je die herinneringen en laat je eigendommen ontstaan?”
Nieuw basistrainingprotocol om agentverbindingen te verbeteren
In Humans& heeft het team van Goodman, in plaats van eenvoudigweg te vertrouwen op aanvullende protocollen, de manier waarop het basismodel wordt getraind fundamenteel veranderd, niet alleen tussen mensen en agenten, maar ook tussen mensen en meerdere agenten, en vooral tussen agenten en meerdere mensen.
“Door de training die we bieden te veranderen naar een basismodel en de training te richten op interacties op de lange termijn, zullen ze begrijpen hoe interacties moeten verlopen om de juiste langetermijnresultaten te bereiken”, zei hij.
En, voegde hij eraan toe, dit is een bewuste afwijking van het langere pad van autonomie dat door veel grote laboratoria wordt nagestreefd.
“Ons doel is niet meer autonomie. Maar steeds betere samenwerking”, zei hij. “Human& bouwt agenten met een diep sociaal inzicht: entiteiten die weten wie wat weet, samenwerking kunnen stimuleren en de juiste specialisten op het juiste moment met elkaar kunnen verbinden.”
Het bouwen van vangrails die de cognitie ondersteunen
Guardrails blijven een grote uitdaging bij het inzetten van multifunctionele agenten die elk onderdeel van het systeem van een organisatie raken. De vraag is hoe beperkingen kunnen worden afgedwongen zonder innovatie te belemmeren. Organisaties hebben strikte, regelachtige grenzen nodig, maar mensen werken niet op die manier. In plaats daarvan handelen mensen op basis van het principe van het minimaliseren van schade, of nadenken over de toekomstige gevolgen en het maken van contextuele oordelen.
“Hoe bieden we vangrails op een manier die compliant is, maar ook resultaatgerichte cognitie ondersteunt wanneer het model daarvoor slim genoeg wordt?” vroeg Goodman.
Pandey breidt deze denkwijze uit naar de realiteit van innovatieteams die regels zorgvuldig moeten toepassen, en ze niet simpelweg mechanisch moeten volgen. Uitzoeken wat voor interpretatie vatbaar is, is “een zeer collaboratieve taak”, zei hij. ‘En je weet het niet via een reeks predikaten. Je weet het niet via een document. Je weet het door begrip en gemeenschappelijke basis, ontdekking en onderhandeling.’
Gedistribueerde intelligentie: het pad naar superintelligentie
Ware superintelligentie zal niet voortkomen uit steeds krachtigere individuele modellen, maar uit gedistribueerde systemen.
“Terwijl we steeds betere modellen en betere agenten bouwen, hebben we uiteindelijk het gevoel dat echte superintelligentie zal plaatsvinden via gedistribueerde systemen”, aldus Pandey.
Intelligentie zal zich langs twee assen ontwikkelen, namelijk verticale, of beter gezegd individuele agenten, en horizontale, of meer collaboratieve netwerken, op een manier die sterk lijkt op traditioneel gedistribueerd computergebruik.
Maar, zei Goodman: “We kunnen niet op weg naar een toekomst waarin AI alleen kan werken. We moeten naar een toekomst toe met een geïntegreerd ecosysteem, een gedistribueerd ecosysteem dat mensen en AI naadloos combineert.”
