Professor Hatim Abdulhussein, CEO van Kent Surrey Sussex Health Innovation
Er is een initiatief gelanceerd met de naam TrustX om AI van agenten te helpen verifiëren, implementeren en testen voor gebruik binnen de NHS en sociale diensten.
Het is bedoeld om het tienjarige NHS-gezondheidsplan van de regering te ondersteunen, waartoe wordt opgeroepen adoptie van AI-tools op grote schaal, inclusief technologie ter ondersteuning van diagnose, automatisering van administratieve taken, het voorspellen van serviceverzoeken en ambient voice-agents voor taken zoals het maken van aantekeningen.
TrustX heeft tot doel het risico van vooringenomenheid, mogelijke fouten en desinformatie van AI-agenten aan te pakken door te evalueren hoe zij zich gedragen in reële situaties, hoe ze omgaan met technologie en andere gegevensbronnen, en hoe dat in de loop van de tijd kan veranderen.
Het initiatief wordt uitgevoerd via een partnerschap tussen Kent Surrey Sussex (KSS) Health Innovation, Cambridge University Trusted AI Lab, Responsible AI Institute en The King’s Fund.
Professor Hatim Abdulhussein, CEO van KSS Health Innovation, er staat: “NHS-frontlijnteams hebben AI nodig die veilig, praktisch en klaar is om de druk in de echte wereld aan te kunnen.
“TrustX verbindt innovatie met wat het belangrijkst is, waardoor artsen en operationele leiders een krachtige manier krijgen om Agentic AI te testen, evalueren en adopteren.
“Dit partnerschap zal de NHS helpen sneller te handelen, wrijving te verminderen en betekenisvolle verbeteringen in de productiviteit en patiëntenzorg te realiseren.”
Van TrustX wordt verwacht dat het de ontwikkeling van een gedeeld ecosysteem voor veilig experimenteren, snel leren en schaalbare adoptie binnen de NHS zal informeren en ondersteunen.
Er wordt een ‘vertrouwde AI-technologie’-badge geïntroduceerd om professionals en het publiek het vertrouwen te geven dat softwaresystemen in de loop van de tijd onafhankelijk zijn geverifieerd en gemonitord op veiligheid, nauwkeurigheid en afstemming.
Sarah Woolnough, CEO van The King’s Fund, zei: “We zijn zeer verheugd om deel uit te maken van het partnerschap om TrustX te lanceren en een rol te spelen bij het ondersteunen van de ontwikkeling, validatie en implementatie van agent AI binnen de NHS-omgeving.
“Het tienjarige gezondheidszorgplan stelt terecht dat innovatie en het gebruik van geavanceerde technologie een cruciale rol kunnen spelen bij het aanpakken van enkele van de druk en operationele uitdagingen waarmee onze gezondheidszorg- en dienstverleningssystemen worden geconfronteerd.
“Op de lange termijn is er een enorm potentieel voor AI – als het goed wordt geïmplementeerd – om de manier waarop de NHS werkt te veranderen en de diensten voor patiënten te verbeteren en de manier waarop mensen NHS-diensten ervaren.”
TrustX wordt ondersteund door de oprichters van Britse gezondheidstechnologiebedrijven, waaronder dr. Dom Pimenta van TORTUS, dr. Haris Shuaib van Newtons Tree, Carmelo Insalaco van Rapid Health, dr. John Jeans van CLEARnotes, Amna Askari en Rachel Finegold van Frontier Health AI en Seb Barker van Beam.
In een gezamenlijke verklaring zeiden de oprichters: “Als oprichters van toonaangevende AI-bedrijven in de gezondheidszorg delen we de toewijding aan het bouwen van technologie die veilig en vertrouwd is en is afgestemd op de behoeften van artsen en patiënten.
“Door bij te dragen aan TrustX willen we een maatstaf zetten voor verantwoorde innovatie en helpen we een ecosysteem te creëren waarin AI meetbare voordelen oplevert zonder de veiligheid in gevaar te brengen.”
Ondertussen werd in september door de Medicines and Healthcare products Regulatory Agency een nationale commissie opgericht om de toegang tot de nieuwste AI-tools te versnellen, waaronder AI-omgevingsgeluidstechnologie voor klinische opnames.
