eigendom van Amazon De AI-boom creëert nieuwe chaos: toenemend gebruik van interne tools en gegevensduplicatie.
Sommige teams bouwen snel hun eigen teams AI-aangedreven app om workflows te automatiseren en informatie te organiseren. Maar de creatieve uitbarsting leidde ook tot problemen, zoals duplicatie van software en gegevens, zo blijkt uit interne documenten verkregen door Business Insider.
“AI verergert ons probleem van duplicatie van tools”, zegt het document. “Er worden sneller meer duplicaten gemaakt en er worden minder duplicaten opgeruimd.”
Deze trends wijzen op een bredere verschuiving in het Amerikaanse bedrijfsleven. Generatieve AI zorgt voor wat sommigen ‘AI-wildgroei’ noemen, een golf van AI-tools en autonome agenten die het risico loopt het gecentraliseerde toezicht en de veiligheidscontroles van bedrijven te overweldigen.
Steeds meer werknemers hun eigen gereedschap draaienSoms kunnen organisaties binnen enkele minuten met AI-assistenten het zicht verliezen op welke systemen worden gebruikt, waar gevoelige gegevens zich bevinden en hoeveel overtollige software ze beheren.
Cloud -> SaaS -> AI-uitbreiding
Het is een bekend verhaal met een twist. Toen cloud computing twintig jaar geleden opkwam, openden malafide medewerkers zonder toestemming Amazon Web Services-accounts. Vervolgens verspreidde de ‘SaaS-wildgroei’ cloudsoftware door de hele onderneming, zonder aanvankelijk weinig toezicht.
In beide gevallen reageerden bedrijven uiteindelijk door extreme maatregelen te nemen, surveillance uit te voeren en nieuwe systemen te ontwerpen om te profiteren van deze krachtige nieuwe technologie. Generatieve AI bevindt zich nog in de beginfase, met dezelfde patronen, maar gaat veel sneller.
De impact van deze creatieve en weerbarstige AI-hausse is wellicht het sterkst voelbaar bij Amazon. Het bedrijf heeft AI in zijn hele bedrijf geïmplementeerd, inclusief de CEO Andy Jassy werknemers aansporen om technologie te adopteren of het risico lopen achter te blijven.
‘Verlaagt dramatisch de drempel’
Amazon worstelt al jaren met teams die soortgelijke tools parallel bouwen, zo blijkt uit documenten verkregen door Business Insider. Deze overlap vergt grote kosten, maar is nog steeds beheersbaar. Het bouwen van software vergt veel tijd en technische middelen, en het onderhoud ervan brengt een last met zich mee die zo groot is dat sommige overbodige tools uiteindelijk worden stopgezet.
AI verandert die vergelijking.
Volgens het document verlaagt AI “de barrières voor het bouwen van nieuwe tools dramatisch”, waardoor teams veel sneller software kunnen prototypen en verzenden. In plaats van te zoeken naar bestaande oplossingen kunnen ingenieurs in korte tijd hun eigen oplossingen creëren en deze tegen veel lagere kosten onderhouden.
Het resultaat is een golf van overlappende systemen, waardoor er minder druk is om ze te consolideren. “AI verergert dit probleem nu van beide kanten”, zegt het document.
Het document, gemarkeerd als ‘Amazon vertrouwelijk’, werd in februari opgesteld door een team dat verantwoordelijk is voor het evalueren en verbeteren van AI-tools die worden gebruikt in de enorme detailhandelsactiviteiten van Amazon, waartoe duizenden ingenieurs behoren. Het bedrijf moedigt een open dialoog over uitdagingen aan, een aanpak die het bedrijf in het verleden heeft geholpen problemen te overwinnen.
In een e-mail aan Business Insider zei Amazon-woordvoerder Montana MacLachlan dat het document het perspectief van één team weerspiegelt en dat het “inaccuraat” is om de standpunten van één groep te gebruiken om de ervaring van het bredere personeelsbestand van het bedrijf te karakteriseren.
‘Artefacten bestaan nog steeds’
Het probleem is meer dan alleen een overbelasting van het gereedschap. Dit introduceert ook nieuwe risico’s in de manier waarop gegevens worden verwerkt en opgeslagen.
Veel van de AI-systemen van Amazon gebruiken interne gegevens en zetten deze om in nieuwe formaten, zoals kennisbanken en samenvattingen. De uitvoer wordt vaak afzonderlijk van de originele bron opgeslagen, waardoor feitelijk een nieuwe kopie van dezelfde informatie ontstaat, afhankelijk van het document. Als de oorspronkelijke gegevens later worden verwijderd of de toegang wordt beperkt, is de afgeleide versie niet altijd actueel.
In één intern geval bleef een systeem genaamd Spec Studio details weergeven van software die privé was gemaakt in de interne coderepository van Amazon, aldus het document. Het bedrijf moedigt teams nu aan om beter te documenteren hoe zij omgaan met toestemmingswijzigingen en het verwijderen van gegevens.
“Elk systeem dat gegevens opneemt, transformeert via AI en de uitvoer afzonderlijk opslaat, wordt geconfronteerd met hetzelfde probleem: wanneer bronrechten veranderen of gegevens worden verwijderd, blijven er verouderde artefacten achter”, zegt het document.
AI gebruiken om AI-problemen op te lossen
De snelle verspreiding van door AI gegenereerde tools creëert ‘schaduw-AI’ in organisaties, waar ongeautoriseerde toepassingen risico’s met zich meebrengen, zoals blootstelling van gevoelige gegevens en overtredingen van de regelgeving, vertelde Debo Dutta, chief AI officer bij cloudbedrijf Nutanix, aan Business Insider.
“Als dit niet goed wordt beheerd, kan dit data- en systeemverstoring veroorzaken”, zegt Dutta.
Het antwoord van Amazon kan meer AI zijn.
Het bedrijf onderzoekt hoe AI kan worden gebruikt om dubbele tools te identificeren, risico’s te signaleren en teams aan te moedigen om vroegtijdig te consolideren, voordat overlappingen moeilijk op te lossen worden, aldus het document.
De uitdaging is om snelheid in evenwicht te brengen met coördinatie. Amazon hecht al lang waarde aan autonomie, met kleine, onafhankelijke teams die snel handelen en zelf beslissingen nemen, via een aanpak die vaak wordt omschreven als een ‘team van twee pizza’s’-model. Deze cultuur heeft snelle experimenten aangewakkerd, maar kan er ook voor zorgen dat problemen moeilijker op te lossen zijn.
“Teams die op maat gemaakte AI-systemen bouwen, zullen waarschijnlijk dezelfde problemen herhalen”, zegt het document.
Heeft u een tip? Neem contact op met deze verslaggever via e-mail op ekim@businessinsider.com of Signal, Telegram of WhatsApp aan 650-942-3061. Gebruik persoonlijke e-mailadressen, externe WiFi-netwerken en externe apparaten; hier is onze gids voor het veilig delen van informatie.
