Het is moeilijk om de conclusie te vermijden die de markt wil kunstmatige intelligentie en aanverwante industrieën kenden buitensporige inflatie. Tegen 2025 zullen slechts vijf hyperscalers (Alphabet, Meta, Microsoft, Amazon en Oracle) kapitaalinvesteringen doen van $399 miljarddie de komende jaren zal toenemen tot meer dan 600 miljard dollar per jaar. Gedurende de eerste negen maanden van vorig jaar was de reële bbp-groei in de VS hetzelfde 2,1%maar zonder de bijdrage van AI-investeringen zou het 1,5% zijn.
Deze afhankelijkheid is gevaarlijk. In een recente nota van Deutsche Bank werd de vraag gesteld of deze winsten daadwerkelijk een… belgezien de ongekende concentratie van de sector, die nu ongeveer 35% van de totale Amerikaanse marktkapitalisatie voor zijn rekening neemt, waarbij de top 10 Amerikaanse bedrijven meer dan 20% van de mondiale aandelenmarktwaarde voor hun rekening nemen. Als dergelijke investeringen geen voordelen opleveren, zal het een ongekende mislukking zijn.
In hen boek Kracht en vooruitgangNobelprijswinnende economen Daron Acemoglu en Simon Johnson beschrijven de mislukking van het Franse Panamakanaalproject aan het einde van de 19e eeuw. Duizenden investeerders, groot en klein, verloren hun fortuin, en 20.000 mensen die aan het project werkten, stierven zonder er voordeel uit te halen. Het probleem, zo schrijven Acemoglu en Simon, is dat de visie op vooruitgang niet iedereen omvat – en het onvermogen om feedback van anderen op te nemen resulteert in besluitvorming van slechte kwaliteit. Zoals zij opmerken: “wat u met technologie doet, hangt af van de richting van de vooruitgang die u in kaart wilt brengen en wat u als aanvaardbare kosten beschouwt.”
In de daaropvolgende 150 jaar was een groot deel van de Amerikaanse economie ook afhankelijk van een kleine groep visionairs, ambitieuze investeerders en technologische optimisten. Hun vermogen om kritiek te negeren en degenen die de kosten van hun missie moeten dragen buitenspel te zetten, riskeert enorme gevolgen. Betrouwbare AI-systemen kunnen niet worden betoverd marketing magie. We moeten ervoor zorgen dat degenen die deze systemen bouwen, implementeren en ermee werken, inspraak hebben in de manier waarop we de vooruitgang van deze technologieën sturen.
Wantrouwen en algemeen gebrek aan optimisme
Uit de gegevens blijkt dat er dringend een nieuwe koers moet worden uitgezet. Zelfs een diepgaande analyse van de markt voor generatieve AI-producten zou waarschijnlijk moeite hebben om aan te tonen hoe realistisch het rendement op zo’n enorme kapitaalinvestering is. A laatste rapport van MIT ontdekte dat ondanks bedrijfsinvesteringen van $30 miljard tot $40 miljard in GenAI, 95% van de organisaties geen enkel voordeel zag. Het is moeilijk voor te stellen dat een andere bedrijfstak zoveel kapitaal kan aantrekken, ondanks dat hij zo weinig produceert. Maar dit lijkt de echte superkracht van Sam Altman te zijn, net als die van Brian Merchant breed gedocumenteerd.
Dit gaat gepaard met een aanzienlijk wantrouwen en gebrek aan optimisme onder het grote publiek over het potentieel van deze technologie. Uit het meest uitgebreide mondiale onderzoek onder 48.000 mensen in 47 landen blijkt KPMG ontdekte dat 54% van de respondenten aarzelde om AI te vertrouwen. Ze willen ook meer regulering: 70% van de respondenten zegt dat regulering noodzakelijk is, maar slechts 43% is van mening dat de huidige wetten adequaat zijn. Het rapport concludeert dat de meest veelbelovende manier om het vertrouwen in AI te vergroten het versterken van waarborgen, regelgeving en wetten is om het veilige gebruik van AI aan te moedigen.
Dit staat in schril contrast met het standpunt van de regering-Trump, die herhaaldelijk naar sectorregulering heeft verwezen belemmeringen voor innovatie. Het vertrouwenstekort kan echter niet zomaar worden weggewerkt. Dit vormt een aanzienlijke structurele barrière voor het gebruik en de implementatie van waardevolle nieuwe technologieën.
Een van de belangrijkste conclusies van het MIT-rapport is dat een klein percentage van de bedrijven er daadwerkelijk naar kijkt productiviteit De voordelen van generatieve AI-producten bereiken dit omdat “ze adaptieve ingebedde systemen bouwen die leren van input.” Sterk gecentraliseerde beslissingen met betrekking tot de aanschaf van goederen en diensten zullen er waarschijnlijk toe leiden dat werknemers kant-en-klare producten moeten gebruiken die niet geschikt zijn voor de bedrijfsomgeving en die output produceren die werknemers niet vertrouwen, vooral voor taken met een hoog risico, wat resulteert in de voltooiing van het werk of een verminderde bezettingsgraad. Het probleem is dat deze tools er niet in slagen om te leren en zich niet aan te passen. Op zijn beurt zijn er te weinig mogelijkheden voor leidinggevenden om die feedback te ontvangen of op zinvolle wijze te verwerken in de ontwikkeling en aanpassing van modellen.
Het verhaal van politici en mediacommentatoren dat de AI-industrie gevuld is met visionaire leiders benadrukt onbedoeld de hoofdoorzaak van het falen van deze producten. Vertrouwen in AI-systemen kan alleen worden gewonnen als er feedback wordt gevraagd en ernaar wordt gehandeld. Dit is een grote uitdaging voor hyperscalers, omdat hun onderliggende modellen minder goed in staat zijn zich aan te passen aan en te reageren op unieke en diverse contexten. Tenzij we de ontwikkeling en het beheer hiervan decentraliseren, kunnen de voordelen ervan ongrijpbaar blijven.
De mening van werknemers
Er zijn nuttige ideeën die kunnen helpen bij het navigeren door verschillende paden van technologische vooruitgang. Instituut voor Menselijke Technologie aan de Technische Universiteit van Sydney gepubliceerd onderzoek over hoe werknemers worden behandeld als onzichtbare waarnemers bij de implementatie van AI-systemen. Door middel van diepgaande, kwalitatieve consultaties met verpleegkundigen, winkelpersoneel en ambtenaren om feedback te verzamelen over geautomatiseerde systemen en hun impact op hun werk.
In plaats van een achterlijke of nutteloze houding ten opzichte van AI aan de dag te leggen, gaven werknemers uiting aan hun constructieve bijdrage aan de impact van AI op hun werkplek. Werknemers in de detailhandel spraken bijvoorbeeld over de problemen van geautomatiseerde systemen die werknemers de macht ontnemen en hun discretie beperken: “In tegenstelling tot een productielijn is de detailhandel een onvoorspelbare omgeving. Er zijn dingen die klanten worden genoemd en die een gestage stroom in de weg staan.”
Een verpleegkundige merkte op dat “de toenemende acceptatie van geautomatiseerde systemen en waarschuwingen ernstige alarmmoeheid onder verpleegkundigen veroorzaakt. Wanneer een alarm (AI-systeem) afgaat, hebben we de neiging dit te negeren of niet serieus te nemen. Of we negeren het onmiddellijk om het alarm te stoppen.”
Je zou kunnen denken dat grotere investeringen in dergelijke systemen het probleem van alarmmoeheid zouden aanpakken. Maar zonder inbreng van werknemers kan dit gemakkelijk als een probleem over het hoofd worden gezien. Het resultaat is dat, zoals een ambtenaar het uitdrukte, op werkplekken die geen feedbackkanalen voor werknemers hebben, de vereiste kwaliteit van werknemers “het geschenk van de oplossing” is.
Dergelijke raadpleging en betrokkenheid vinden doorgaans plaats via werknemersorganisaties. Maar nu het percentage vakbondsleden in de VS is gedaald tot onder de 10%, is dit niet alleen een probleem voor werknemers, maar ook voor werkgevers, die over weinig methoden beschikken om op grote schaal betekenisvol met hun personeel om te gaan.
Niettemin zijn sommige vakbonden leiders op dit gebied, en bij gebrek aan politiek leiderschap kunnen vakbonden de beste hoop op verandering zijn. De AFL-CIO heeft veelbelovende modelwetgeving ontwikkeld die erop gericht is werknemers tegen ziekten te beschermen gevaarlijk AI-systeem. Deze voorstellen zijn gericht op het beperken van het gebruik van werknemersgegevens om modellen te trainen, en op het opwerpen van barrières voor het automatiseren van cruciale besluitvorming, zoals dienst en schieten. Het benadrukt ook dat werknemers het recht moeten krijgen om te weigeren de aanwijzingen van een AI-systeem op te volgen – in wezen door een feedbacklus in te bouwen wanneer de automatisering misgaat. Het recht om te weigeren is een belangrijke failsafe die ook een cultuur van kritische betrokkenheid bij technologie kan bevorderen en als basis voor vertrouwen kan dienen.
Bedrijven mogen de standpunten van werknemers negeren, maar werknemers kunnen op andere manieren van zich laten horen. Uit een recent onderzoek blijkt dat 31% van de werknemers dit toegeeft actief sabotage uitvoeren de AI-strategieën van hun bedrijven, en voor jongere werknemers zijn de cijfers zelfs nog hoger. Zelfs bedrijven die er niet in slagen feedback van hun werknemers te krijgen, kunnen dit nog steeds accepteren.
Onze huidige technologische vooruitgang is afhankelijk van een beperkt begrip van expertise en het stellen van te veel vertrouwen in een klein aantal zeer grote bedrijven. We moeten gaan luisteren naar de mensen die elke dag met deze technologie werken om echte problemen op te lossen. Deze decentralisatie van de macht is een belangrijke stap als we technologie willen die betrouwbaar en effectief is.
