Mensen gecentreerd houden in AI-gesprekken
In een sessie over het herdefiniëren van mens-AI-partnerschappen in de gezondheidszorg zei Matt Troup, hoofd van artsendocumentatieoplossingen bij Abridge, dat toen hij als arts werkte, een van zijn grootste uitdagingen was om uit te zoeken hoe hij zijn tijd het beste kon gebruiken, zodat hij aan de behoeften van zijn patiënten en families kon voldoen. AI kan artsen helpen hun werklast te verschuiven en hen in staat te stellen patiënten en hun families de tijd te geven die ze verdienen.
Pallavi Ranade-Kharkar, bedrijfsdirecteur onderzoeksinformatica en genomica bij Intermountain Health, vertelt hoe haar organisatie artsen de tijd geeft om zich weer op patiënten te concentreren door AI te gebruiken om berichten in de Epic-bucket af te handelen. Deze tool construeert antwoorden op basis van vragen of opmerkingen van patiënten en wordt ondersteund door de context van het medisch dossier van de patiënt. De arts kan het bericht bekijken voordat het wordt verzonden.
“Deze interventie heeft de workflows gestroomlijnd en gestroomlijnd, en er zijn realtime besparingen van 20 tot 30 seconden per bericht gerealiseerd”, zei hij. “Dit vermindert de ‘pyjamatijd’ en helpt artsen zich te concentreren op waar ze het beste in zijn.”
Als het gaat om de implementatie van AI, benadrukt Russell Yeager, senior vice-president en CIO bij Encompass Health, dat meer intelligentie en mensen moeten samenwerken. Zijn organisatie richt zich op echte intelligentie in plaats van AI.
“We gebruiken AI en combineren het met onze klinische en zakelijke intelligentie om echte informatie te bieden aan de mensen die betrokken zijn bij de besluitvorming”, zei hij. Yeager wijst erop dat AI weliswaar autonoom kan zijn in IT-activiteiten, maar dat er vangrails nodig zijn bij gebruik in de patiëntenzorg.
Hoewel AI een groot potentieel biedt voor de gezondheidszorg, brengt het ook risico’s met zich mee. Ranade-Kharkar zei dat onnauwkeurigheden in gegevens, gebrek aan transparantie en toenemende kwetsbaarheden op het gebied van beveiliging en privacy enkele van de grootste risico’s zijn.
“De mens, de patiënt, staat centraal in de gezondheidszorg. Menselijke interactie vormt de kern van een positieve patiëntervaring. Met dat in gedachten moeten we grenzen stellen om een verantwoord gebruik van AI te garanderen”, zei hij, eraan toevoegend dat het identificeren van belangrijke prestatie-indicatoren en het meten ervan een groot deel is van wat AI-succes betekent.
Tracey Touma, cybersecurity business liaison bij Cleveland Clinic, legt uit dat AI-governance een andere belangrijke factor is in het succes van AI.
DUIK DIEPER: Data governance is een menselijke uitdaging, niet alleen een technologische.
“Daar moeten we beginnen. De samenleving wil glimmend nieuw speelgoed en gaat snel vooruit. AI beweegt snel en furieus, maar we moeten ervoor zorgen dat we over het bestuur beschikken om AI veilig in te zetten”, zei hij. “We hebben allemaal gehoord van hallucinaties en valse positieven. Gegevens zijn slechts zo goed als wat er in het systeem staat. Zorg ervoor dat het goed en veilig is.”
Risicobeoordeling en documentatie zouden volgens Ranade-Kharkar een sleutelrol moeten spelen in het AI-beheer. Het hebben van een AI-governancecommissie waarmee organisaties interne en externe producten evalueren, is de eerste stap in de adoptie van AI. Algoritmische vooringenomenheid kan optreden en vooringenomenheid veroorzaken. Het is dus van cruciaal belang dat organisaties voortdurend kwaliteitsmonitoring uitvoeren van hoe goed hun AI-tools presteren. Organisaties zouden ook een inventaris moeten hebben van hun tools, met transparantie over hoe leveranciers algoritmen testen en valideren, voegde hij eraan toe.
Intermountain Health heeft onlangs zijn elektronische medische dossiers naar Epic gemigreerd, en de organisatie vertrouwde erop om deze te helpen implementeren en operationeel te maken, vooral als het ging om de lange lijst met beschikbare AI-tools.
“We hebben niet alles geactiveerd. We doen het op een doelbewuste en doordachte manier”, zei hij. “We zullen ze één voor één activeren omdat we er vertrouwen in hebben dat we ze kunnen monitoren en het kwaliteitsniveau kunnen handhaven.”
Touma benadrukte de noodzaak van intentie bij de adoptie van AI in de gezondheidszorg. Het is belangrijk om belanghebbenden uit alle afdelingen en bedrijfsgebieden te hebben om ervoor te zorgen dat de organisatie niets mist. En organisaties moeten niet zomaar een glimmend nieuw hulpmiddel kopen; de tool moet kostenbesparingen aantonen of zorgen over patiëntervaring, patiëntresultaten of zorgervaring wegnemen.
“Uiteindelijk zijn we bezig met de zorg voor patiënten”, voegde hij eraan toe. “Als AI deze drie problemen kan oplossen, moeten we weten hoe, wat de impact, de kosten en de zakelijke use cases zijn.”
Houd deze pagina bij uw favorieten voor onze berichtgeving over het CHIME Fall Forum 2025. Volg ons op X op @HealthTechMag en neem deel aan het gesprek op #BEL25.
