Onderzoekers in de frontlinie kunstmatige intelligentie (AI) en de leider van veel grote platforms – van Jeffrey Hinton naar Joshua BengioDemis Hassabis, Sam Altman, Dario AmodeiEn Elon Musk– heeft zorgen geuit dat AI zou kunnen leiden tot de vernietiging van de mensheid zelf.
Zelfs de door sommige AI-experts genoemde kansen, met een eindscenario van 25%, zijn nog steeds ‘zeer optimistisch’, aldus Nate Soares, voorzitter van het Machine Intelligence Research Institute (MIRI) en co-auteur van een recent best verkocht boek. Als iemand het bouwt, zal iedereen sterven.
Dit komt omdat, zoals hij in het boek betoogt, het pad dat we met AI volgen afstevent op een ramp – tenzij er sprake is van radicale verandering. Het boek, geschreven in samenwerking met onderzoeker Eliezer Yudkowsky, onderzoekt de potentiële dreiging die uitgaat van “superintelligentie”, of een theoretisch AI-systeem dat slimmer is dan mensen.
“We ontwikkelen AI die handelt op manieren waar niemand om heeft gevraagd, die drijfveren en gedragingen heeft die niemand wil”, zei Soares vorige maand op een conferentie. Top over ideeën voor wereldveranderinggeleid door Snel bedrijf en de Johns Hopkins Universiteit in Washington, DC
“Als we een AI krijgen met buitengewone intelligentie die doelen kan bereiken die niemand anders wil, denk ik dat de standaarduitkomst is dat iedereen op aarde zal sterven”, voegde hij eraan toe.
Een afrekening voor de wereld
Soares vergeleek het werk van sommige AI-leiders met het bouwen van een vliegtuig zonder landingsgestel en zei dat er niet genoeg aandacht is besteed aan de potentiële negatieve gevolgen van de technologie.
De hoeveelheid mondiale investeringen die in AI worden gestoken, doet vermoeden dat veel mensen erop gokken dat AI niet “volledig nutteloos” zal zijn, zei hij, maar er zijn nog twee andere “gekke” opties: AI automatiseert radicaal de gehele menselijke beroepsbevolking, zodat de economie wordt gedomineerd door een zeer kleine groep, of AI wordt superintelligent en doodt iedereen.
“De wereld begrijpt niet echt hoe gek deze AI-technologie is”, zei Soares.
Maar er is reden om optimistisch te blijven, zei Soares, omdat veel mensen zich zorgen maken over de toekomst van AI, wat de situatie ‘fragiel’ maakt als meer mensen – waaronder wij allemaal – hun zorgen uiten.
“Misschien als genoeg mensen denken: ‘Wacht, wat zijn we nu aan het doen? Wat in vredesnaam?'” zei Soares. “Misschien zal dit de hele wereld doen schudden en zeggen: ‘Oh mijn god, laten we van koers veranderen.’”
Uiterste deadline voor Fast Company Prijs voor wereldveranderende ideeën is vrijdag 12 december om 23:59 uur. PT. Solliciteer vandaag nog.
