“Heel verdrietig.”
Dat is hoe Geoffrey Hinton, de computerwetenschapper die algemeen bekend staat als de ‘Godfather of AI’, zijn gevoelens beschrijft over de technologie die hij heeft helpen creëren en wat volgens hem het onvermogen van de wereld is om hiervan te profiteren. groter risico ernstig.
“Ik ben erg verdrietig omdat ik mijn hele leven heb gewijd aan het ontwikkelen van deze dingen en deze dingen zijn nu erg gevaarlijk en mensen nemen deze gevaren niet serieus genoeg”, vertelde Hinton aan BBC Newsnight in een interview dat dinsdag werd vrijgegeven en eerder deze maand werd opgenomen.
Hinton, die hielp bij het pionieren van de neurale netwerken die de moderne kunstmatige intelligentie aandrijven, is een van de meest uitgesproken critici geworden nu AI-systemen steeds geavanceerder en wijdverspreider worden.
Hij had voorspeld dat AI zou kunnen triggeren wijdverbreid banenverliesbrandstof sociale onrusten uiteindelijk mensen te slim af zijn – en zegt dat onderzoekers zich meer moeten concentreren op de manier waarop geavanceerde systemen worden getraind, en er ook voor moeten zorgen dat ze daarvoor zijn ontworpen menselijke belangen beschermen.
Op BBC Newsnight zei Hinton dat de mensheid een keerpunt nadert nu onderzoekers dichter bij het creëren van machines komen die intelligenter zijn dan mensen.
“We hebben nog nooit in een situatie als deze gezeten voordat we iets slimmers dan onszelf konden produceren”, zegt Hinton, eraan toevoegend dat veel experts geloven dat AI de menselijke intelligentie de komende twintig jaar zal overtreffen – en op veel terreinen is dat al gebeurd. Wanneer dit gebeurt, zei hij, kan het controleren van dergelijke systemen veel moeilijker worden dan veel mensen verwachten.
“Het idee dat je het zomaar kunt uitschakelen gaat niet werken,” zei Hinton, eraan toevoegend dat dat voldoende zou zijn Geavanceerde AI kan mensen ervan overtuigen om het niet te sluiten.
Hinton zegt dat de grootste fout die de mensheid vandaag de dag kan maken, is dat ze niet investeert in onderzoek naar hoe mensen kunnen samenleven met de intelligente systemen die ze creëren.
‘Als we ze zo creëren dat ze niet om ons geven,’ waarschuwde hij, ‘zullen ze ons waarschijnlijk wegvagen.’
Hij betoogde dat catastrofale gevolgen onvermijdelijk zijn, en dat de risico’s afhangen van hoe geavanceerde systemen worden ontworpen en gereguleerd, en dat mensen nog steeds “veel keuzes hebben over hoe ze te creëren” terwijl AI zich nog in de ontwikkelingsfase bevindt.
Waarom het reguleren van AI moeilijker is dan ooit
Hinton uitte echter ook zijn bezorgdheid over het feit dat AI begint te worden toegepast in een tijd waarin de mondiale samenwerking verzwakt en de autoritaire politiek in opkomst is, en daardoor een aanzienlijke impact heeft op de samenleving. Regelgeving is moeilijker te realiseren.
Hij vergeleek de behoefte aan AI-governance met internationale verdragen over chemische en kernwapens.
Ondanks zijn zorgen zei Hinton dat hij zijn werk in AI niet zou opgeven.
‘Zonder mij zal het wel goed gaan’, zei hij. “Ik denk niet dat ik beslissingen heb genomen die ik niet op dezelfde manier zou hebben genomen als ik dezelfde kennis had.”
Hij blijft hoopvol over het potentieel van AI om het onderwijs en de geneeskunde te verbeteren, en wijst op AI-docenten en de vooruitgang op het gebied van medische beeldvorming als voorbeelden van het potentieel ervan. Maar voorlopig, zei Hinton, is urgentie het allerbelangrijkste.
‘We bevinden ons op een heel belangrijk punt in de geschiedenis waarop we binnenkort dingen slimmer zullen ontwikkelen dan wijzelf’, zei hij. “We hebben nog geen onderzoek gedaan om te weten of we vreedzaam met hen kunnen samenleven. Het is belangrijk dat we dat onderzoek doen.”
