NHS England heeft nieuwe richtlijnen gepubliceerd over het gebruik van AI-aangedreven ambient scraping-tools in gezondheidszorg- en zorgomgevingen, waarin wordt uitgelegd hoe organisaties de technologie veilig kunnen adopteren en tegelijkertijd kunnen voldoen aan de eisen op het gebied van gegevensbescherming en patiëntenrechten.
Ambien scribe is een AI-tool die passief naar klinische gesprekken luistert en automatisch output genereert, zoals consultatienotities, samenvattingen of brieven. Deze technologie helpt de administratieve lasten te verminderen en zorgt ervoor dat artsen meer tijd aan patiënten kunnen besteden.
Deze richtlijn, ontwikkeld op basis van input van de Information Commissioner’s Office (ICO) en de National Data Guardian (NDG), bevat secties voor patiënten, gezondheidswerkers en IG-professionals.
In deze gids wordt uiteengezet hoe met informatie wordt omgegaan bij het gebruik van deze technologieën, evenals de belangrijkste overwegingen rond transparantie, keuzevrijheid en waarborgen om de privacy te beschermen.
De belangrijkste boodschap in deze richtlijn is dat hoewel er geen expliciete toestemming vereist is om Ambien Scribe te gebruiken bij individuele behandeling, transparantie essentieel is.
Artsen moeten patiënten aan het begin van elke interactie vertellen of dergelijke technologie wordt gebruikt, en patiënten moeten de kans krijgen om te weigeren, zei hij.
De richtlijn voegt eraan toe dat “als iemand een andere mening heeft, je de tool niet kunt gebruiken”, waarbij wordt benadrukt dat de keuze van patiënten belangrijk blijft ondanks de introductie van AI.
In een bericht op LinkedIn zei George Onisiforou, lid van het Responsible AI Adoption Committee bij NHS England en verantwoordelijke AI-adoptieadviseur van NHSE en het ministerie van Volksgezondheid en Sociale Zorg, dat de richtlijnen “een belangrijke mijlpaal waren, aangezien sterk informatiebeheer van cruciaal belang is voor het behoud van het vertrouwen van de patiënt, de veiligheid en de naleving van de wetgeving”.
“Hartelijk dank aan iedereen die betrokken is bij het ontwikkelen van deze richtlijn – collega’s van NHS Engeland, onze IG-experts en de Health and Care Information Governance Working Group”, voegde hij eraan toe.
Beroepsbeoefenaren in de gezondheidszorg worden er in deze richtlijn ook aan herinnerd dat zij de volledige verantwoordelijkheid nemen voor de juistheid van klinische dossiers.
De door de Ambien-schrijver gegenereerde uitvoer moet worden gecontroleerd en verfijnd voordat deze aan het patiëntendossier wordt toegevoegd, waarbij aanvullende validatie wordt aanbevolen in complexere scenario’s zoals vertaling.
Voor organisaties benadrukt deze richtlijn de noodzaak van robuuste bestuursprocessen, waaronder het uitvoeren van gegevensbeschermingseffectbeoordelingen, het duidelijk definiëren van de rollen van gegevensbeheerders en -verwerkers, en het garanderen dat leveranciers voldoen aan strenge beveiligings- en nalevingsnormen.
Dataminimalisatie is een ander belangrijk thema, waarbij de NHSE benadrukt dat audio-opnamen en transcripties doorgaans moeten worden verwijderd zodra een geverifieerde samenvatting is gemaakt, tenzij er een duidelijke reden is om ze te bewaren, bijvoorbeeld om de prestaties van de tool te monitoren.
Hoewel ambient scribes worden gepositioneerd als een hulpmiddel om de klinische besluitvorming te ondersteunen en niet te vervangen, benadrukt NHS England dat de implementatie ervan nieuwe risico’s met zich meebrengt. Organisaties worden dringend verzocht ervoor te zorgen dat hun personeel de juiste training heeft gevolgd en dat er beleid is opgesteld om veilig en effectief gebruik te garanderen.
De nieuwe richtlijnen komen omdat de belangstelling voor generatieve AI-tools binnen de NHS toeneemt. Vorige maand werd onthuld dat de East Lancashire Hospitals NHS Trust een programma uitvoerde om ambient sound-technologie (AVT) te implementeren in de hele NHS in Engeland.
Dit komt nadat NHSE een zelfgecertificeerd nationaal register voor AVT-leveranciers heeft gelanceerd om bewijs van naleving te tonen.
