Met eerdere hulpmiddelen voor klinische besluitvorming, zei hij, was er een beter begrip van de toegepaste algoritmen en duidelijkere gegevensbronnen. Maar met de nieuwste generatie AI-tools “is het als een zwarte doos in een klinische context. Dus als ik een patiënt zie en er komt een of andere vorm van beslissingsondersteuning aan, weet ik misschien niet welk algoritme op de achtergrond staat. Ik weet misschien niet of de gegevens die in dat algoritme worden ingevoerd, accuraat zijn”, zei hij.
Hij vroeg zich ook af wat voor soort feedback er was voor de tool. “Als er een probleem is, hebben we dan een manier om het te melden? Gaan we het oplossen als we het melden? Wat zijn de mechanismen? En ik denk dat het hebben van een proces heel belangrijk zal zijn voor ons om ons op ons gemak te voelen bij het gebruik van deze hulpmiddelen in een klinische omgeving. We erkennen de voordelen. We weten dat deze hulpmiddelen zeer nuttig kunnen zijn in een klinische omgeving. Maar er moet vertrouwen worden gewonnen als we ze blijven toepassen.”
Lozovatsky voegde eraan toe dat organisaties moeten letten op hallucinaties en fouten als het model bedoeld is om de patiëntenzorg te beïnvloeden.
Kathryn King, hoofd medische informatie en mededirecteur van het nationale telezorgcentrum van uitmuntendheid aan de Medical University of South Carolina Health, zei dat de implementatie van AI in klinische omgevingen waarschijnlijk een herconfiguratie van de workflows zal vereisen, te beginnen met elektronische medische dossiersystemen.
“De onvolwassenheid die ik zie in AI-oplossingen in de klinische ruimte is dat ze op een bepaald moment in een lange klinische workflow, meestal in het EPD, een wondermiddel zijn”, aldus King. “Eén ding in die workflow lost niet echt alle problemen van een arts op.”
Hoewel de HITECH Act van 2009 een integraal onderdeel was van het aanmoedigen van gezondheidszorgorganisaties om EPD-systemen te adopteren, was het primaire proces de digitalisering van papieren dossiers. Een aantal EPD-kenmerken zijn een erfenis van papieren kaarten.
“Ik denk dat de volgende iteratie hiervan het stellen van de vraag is: waarom doen we de dingen zoals we ze al jaren doen, en hoe kunnen we overschakelen naar een andere workflow die misschien meer gebruik maakt van de stem, maar op een manier die voor elk individu zinvol is? En voor mij ligt de focus op ‘dit is het hulpmiddel, dit is het coole’, in plaats van een stap terug te doen en de manier waarop we diensten leveren echt opnieuw uit te vinden”, aldus Lozovatsky.
