AI-risicobeheer is een teaminspanning
Het beheren van AI-risico’s moet gepaard gaan met functieoverschrijdende onderhandelingen binnen de organisatie. Het kan niet alleen vanuit een klinisch of technologisch perspectief zijn. Juridisch, marketing, operations – de meeste afdelingen moeten op één lijn liggen, omdat het aanpassen van een nieuwe oplossing een financiële impact kan hebben op de organisatie, dus er moet duidelijke communicatie zijn over de risico’s.
Leiders moeten risicogebieden onder controle houden en de zichtbaarheid hebben om te weten wanneer de implementatie van de oplossing afwijkt van wat door alle belanghebbenden is overeengekomen. Verandert het beleid voor acceptabel gebruik van de leverancier plotseling? Voert de organisatie op enig moment risicobeoordelingen uit, of moet de organisatie een reeks controles instellen voor compliance en voortdurende risicometing?
Dit is waar organisaties kunnen beginnen met het opstellen van enkele belangrijke risico-indicatoren rond AI-oplossingen, zodat ze altijd en overal beschikbaar zijn. Als dit slechts een momentopname is die door de organisatie moet worden beoordeeld, is dit niet relevant. Deze oplossingen zullen waarschijnlijk sneller veranderen dan we verwachten, dus ze moeten in realtime worden beheerd.
Uiteindelijk is het begrijpen en beheersen van risico’s in de gezondheidszorg van het allergrootste belang. Als organisaties dit niet goed doen en patiënten een melding krijgen dat hun gegevens zijn gecompromitteerd, zullen ze elders hulp zoeken. Deze vertrouwensbreuk zal op de lange termijn gevolgen hebben voor de dienstverlener.
Op dezelfde manier moet er meer vertrouwen komen in de bestaande AI-risicokaders in de gezondheidszorg. Als aanbieders elk gevestigd raamwerk willen overnemen en aanpassen, of dat nu van een onafhankelijke instantie of een overheidsinstantie is, is er meer samenwerking en transparantie nodig met betrekking tot de manier waarop deze controles in de gezondheidszorg werken.
Als iemand met tientallen jaren ervaring in de beveiliging van de gezondheidszorg, weet ik hoe snel de houding van een organisatie kan veranderen. Het ene moment is de dienstverlener veilig en het volgende moment vindt er een inbreuk plaats. Vertrouwen wordt niet alleen verdiend, het wordt ook gedemonstreerd. Dit is een van de grootste factoren van een risicobeheerraamwerk en het platform waarop het zich bevindt.
