Ik rapporteer vanuit Davos, Zwitserland, waar duizenden leiders uit het bedrijfsleven en politici zijn gearriveerd voor de conferentie Wereld Economisch Forum om elkaar de hand te schudden, te kletsen en misschien zelfs te gaan skiën.
Verschillende leidinggevenden die ik deze week sprak, hadden grote zorgen over AI, maar geen van hen had er iets mee te maken potentiële zeepbel.
Raj Sharma, managing partner van mondiale groei en innovatie bij EY, zei dat er niet veel wordt gesproken over AI-beveiliging – met name over het beheer van AI-agenten en hun levenscyclus.
“Hij heeft toegang tot uw gegevens. Hij heeft geen naam, dus er is geen identiteit of iets anders aan verbonden”, zei Sharma.
Vergelijk dat eens met mensen, waarbij elk computersysteem en de gegevens die ermee in aanraking komen vaak worden bijgehouden.
“We moeten bouwen op industrieel niveau beveiliging voor AI-agenten in dat specifieke gebied. Voor mij is dit nog steeds een leemte die moet worden aangepakt’, zei Sharma. ‘Iedereen praat over een goed spel. Maar als je onder de dekens kijkt, is het nog onvolwassen.”
“Het houdt me ’s nachts wakker”, voegde Sharma eraan toe.
Hij is niet de enige. Tim Walsh, CEO van KPMG US, vertelde me dat het grootste probleem waar hij vaak over praat met CEO’s het cyberrisico is, vooral als het om AI gaat.
AI-agenten vormen de nieuwste zorg voor leidinggevenden op het gebied van cyberbeveiliging, en blijken een bijzonder uitdagend probleem te zijn. Ironisch genoeg is de enige manier om deze bedreigingen te bestrijden het gebruik van… meer AI.
In sommige gevallen worden de risico’s zo groot dat ze de tijdlijn van de AI-plannen van een bedrijf veranderen.
“Het is niet dat ze geen vooruitgang boeken, maar ze nemen even de tijd om ervoor te zorgen dat hun omgeving veilig is en laten de gegevens misschien zelfs nog wat langer op hun locatie staan, zodat ze erop kunnen vertrouwen dat hun gegevensbeveiliging op orde is”, vertelde Walsh me.
Walsh zei dat een andere “echte zorg” bedreigingen zijn kwantumcomputers vanuit een veiligheidsperspectief.
Hoewel hij toegeeft dat we nog enkele jaren verwijderd zijn van de volledige ontwikkeling van de technologie, is de kracht ervan buitengewoon.
“Quantum vernietigt alles”, zei Walsh. ‘Ik bedoel, alle encryptie.’
Dit zorgt ervoor dat bedrijven naar hun systemen moeten kijken en dingen opnieuw moeten coderen, wat geen gemakkelijke taak is.
“We besteden ook behoorlijk wat tijd aan het helpen van bedrijven om na te denken over: hoe ziet het eruit? Hoe structureer je het? Hoe lang gaat het duren?” zei Walsh.
