Ik wil het niet toegeven, maar ik heb dit kerstinkopenseizoen veel geld online uitgegeven. En het is niet verrassend dat sommige van die aankopen niet aan mijn verwachtingen voldeden. Een fotoboek dat ik kocht, raakte tijdens het transport beschadigd. Daarom heb ik een aantal foto’s gemaakt, deze naar de verkoper gemaild en mijn geld teruggekregen. Online winkelplatforms vertrouwen al lang op foto’s die door klanten zijn ingediend om te bevestigen dat een terugbetalingsverzoek legitiem is. Maar Generatieve AI nu begint het dat systeem af te breken.
Een beetje te verdacht
In China RedNote sociale media-appWIRED vond minstens een dozijn berichten van e-commerceverkopers en vertegenwoordigers van de klantenservice die klaagden over terugbetalingsclaims die zij zogenaamd van AI hadden ontvangen. In één geval klaagde een klant dat de door hem gekochte lakens gescheurd waren, maar dat de Chinese karakters op het verzendlabel eruitzagen als wartaal. Op een andere foto stuurde een koper een foto van een koffiekopje dat gebarsten was als een stuk papier. “Dit is een keramische beker, geen kartonnen beker. Wie kan een keramische beker in zulke lagen scheuren?” schreef de verkoper.
Verkopers melden dat er verschillende productcategorieën zijn waar door AI gegenereerde schadefoto’s het meest worden misbruikt: verse voedselingrediënten, goedkope schoonheidsproductenen breekbare voorwerpen zoals keramische kopjes. Verkopers vragen klanten vaak niet om het artikel te retourneren voordat ze een terugbetaling uitvoeren, waardoor ze kwetsbaarder zijn voor retourfraude.
In november ontving een handelaar die levende krabben verkocht op Douyin, de Chinese versie van TikTok, een foto van een klant waarop het leek alsof de meeste krabben die hij kocht dood aankwamen, terwijl twee anderen waren ontsnapt. De koper stuurde zelfs een video waarop te zien was dat de dode krab met een menselijke vinger werd neergestoken. Maar er was iets mis.
“Mijn familie kweekt al meer dan dertig jaar krabben. We hebben nog nooit een dode krab gezien met de poten naar boven gericht”, zegt Gao Jing, de verkoper, in een video die hij later op Douyin plaatste. Maar wat uiteindelijk een aanwijzing oplevert, is het geslacht van de krab. Er zijn twee mannen en vier vrouwen in de eerste video, terwijl de tweede clip drie mannen en drie vrouwen bevat. Eén van hen had ook negen poten in plaats van acht.
Gao deed vervolgens aangifte van de zwendel bij de politie, die vaststelde dat de video inderdaad nep was en hield de koper acht dagen vast, volgens een politiebericht dat Gao online deelde. De zaak trok veel aandacht op de Chinese sociale media, deels omdat het de eerste AI-terugbetalingszwendel was die aanleiding gaf tot een reactie van de toezichthouders.
Barrières verlagen
Dit probleem doet zich niet alleen in China voor. Forter, een in New York gevestigd bedrijf voor fraudedetectie, schat dat het aantal door AI verwerkte afbeeldingen die worden gebruikt bij terugbetalingsclaims sinds begin dit jaar met meer dan 15 procent is toegenomen, en dat dit cijfer wereldwijd nog steeds blijft stijgen.
“Deze trend begon medio 2024, maar heeft zich het afgelopen jaar versneld doordat tools voor het maken van afbeeldingen breed toegankelijk en zeer eenvoudig te gebruiken zijn geworden.” zei Michael Reitblat, CEO en mede-oprichter van Forter. Hij voegde eraan toe dat AI niet alles goed hoeft te doen, omdat winkelmedewerkers in de frontlinie en restitutiebeoordelingsteams misschien niet de tijd hebben om elk beeld nauwkeurig te onderzoeken.
