Elke maand bekijken ongeveer twee miljard mensen het AI Overzicht, de AI-aangedreven zoekfunctie van Google die samenvattingen van gebruikersvragen genereert. Nu onthult een nieuwe studie een alarmerend patroon in sommige van deze reacties: wanneer er gezondheidsgerelateerde vragen worden gesteld, lijkt Samenvatting AI vaker naar YouTube te gaan dan vertrouwde medische sites.
Sinds de oprichting heeft AI Overview veel controverses gekend, te beginnen vanaf de eerste rapporten van het product antwoorden geven die nergens op slaan voor een reeks rechtszaken uit het bedrijfsleven En uitgeverij groep bewerend dat de functie organische verkeerspatronen schaadde. De nieuwste zorgen met betrekking tot AI-overzicht komen via een onderzoek van Bewaker op 2 januari, bewerend dat de tool de neiging heeft om valse, misleidende en potentieel schadelijke gezondheidsrichtlijnen aan gebruikers te geven. Google ontkende deze claims destijds.
Uit een nieuw onderzoek van de AI SEO-tool SE Ranking, gepubliceerd op 14 januari, blijkt dat het twee tot drie keer zo waarschijnlijk is dat AI Overview YouTube-video’s citeert dan ‘vertrouwde medische sites’ in antwoorden op gezondheidsvragen, maar Google zegt dat dit niet het volledige beeld is.
“Vanuit AI-perspectief bevindt al deze inhoud zich in dezelfde pool.”
Om te begrijpen hoe Overview AI zijn gezondheidsgidsen op internet verzamelt, hebben onderzoekers van SE Ranking meer dan 50.000 gezondheidsgerelateerde Google-zoekopdrachten van gebruikers in Duitsland geanalyseerd. Volgens de auteurs van het onderzoek is voor deze locatie gekozen omdat het gezondheidszorgsysteem sterk gereguleerd is.
“Als AI-systemen zelfs in dergelijke omgevingen sterk afhankelijk zijn van niet-medische of niet-gezaghebbende bronnen”, schrijven de auteurs in een gepubliceerd rapport“Dit laat zien dat dit probleem zich mogelijk niet alleen in één land voordoet.”
SE Ranking ontdekte dat van alle AI Review-resultaten slechts ongeveer 34% afkomstig was van ‘vertrouwde medische bronnen’ (gedefinieerd als sites zoals medische instellingen, academische tijdschriften, overheidsinstanties en andere), terwijl de overige 66% afkomstig was van ‘algemene of niet-deskundige bronnen’ (zoals commerciële sites of blogs).
Sterker nog, YouTube is dé bron voor alle gezondheidsgerelateerde vragen; goed voor 4,43% van alle citaten uit het AI-overzicht. Volgens het rapport is dat 3,5 maal zoveel citatie als netdoktor.de, een van Duitslands grootste consumentengezondheidsportalen, en meer dan het dubbele van het aantal citaties naar de MSD Manuals, een gevestigde medische referentie. In totaal werd YouTube geciteerd in 20.621 van de 465.823 resultaten van het AI-overzicht.
“Dit is belangrijk omdat YouTube geen medische uitgever is”, aldus het rapport. “Het is een videoplatform voor algemene doeleinden. Iedereen kan daar inhoud uploaden (bijvoorbeeld gecertificeerde artsen, ziekenhuiskanalen, maar ook gezondheidsbeïnvloeders, levenscoaches en makers van inhoud zonder enige medische opleiding). Vanuit AI-perspectief bevindt al deze inhoud zich in dezelfde pool.”
In een verklaring aan Snel bedrijfGoogle betwist de bevindingen van SE Ranking. Het bedrijf zei dat de definitie van betrouwbare bronnen in het onderzoek ‘gebrekkig en overdreven simplistisch’ is en voegde eraan toe dat ‘het onderzoek bijna tweederde van de bronnen als ‘minder betrouwbaar’ classificeert door alles te combineren, van commerciële sites tot blogs met meerdere onderwerpen. Dit negeert het feit dat artikelen geschreven door experts op ‘blogs met meerdere onderwerpen’ bronnen van hoge kwaliteit kunnen zijn.
Google merkt op dat een nadere beschouwing van de tien meest geciteerde domeinen in het rapport – waartoe naast YouTube ook de Duitse Hartstichting en de op een na grootste ziektekostenverzekeraar van het land behoren – blijkt dat deze domeinen “bijna allemaal gerespecteerde en gezaghebbende informatiebronnen zijn, wat lijnrecht in tegenspraak is met het hoofdverhaal van het rapport.”
Bovendien, zo voegde hij eraan toe, negeert de bewering dat AI Overview YouTube twee tot drie keer vaker bezoekt dan vertrouwde medische sites “het feit dat een grote verscheidenheid aan geloofwaardige gezondheidsautoriteiten en erkende medische professionals inhoud op YouTube creëren.” Google wijst op het feit dat, op basis van de bevindingen van dit onderzoek, 24 van de 25 meest geciteerde YouTube-video’s afkomstig zijn van medisch-gerelateerde kanalen zoals ziekenhuizen, klinieken en gezondheidsorganisaties. (Hoewel SE Ranking-onderzoekers in hun rapport opmerken dat deze 25 video’s “slechts een klein deel” vormen van alle YouTube-video’s waarnaar Overview AI feitelijk linkt).
Over het geheel genomen zei een woordvoerder: “De implicatie dat AI Overview onbetrouwbare informatie biedt, wordt gelogenstraft door de eigen gegevens van het rapport, waaruit blijkt dat de meest geciteerde domeinen in AI Overview gerenommeerde websites zijn. En uit wat we in de gepubliceerde bevindingen zien, citeert AI Overview deskundige YouTube-inhoud van ziekenhuizen en klinieken.”
