Vijf jaar lang, Caitlyn Jones wel met behulp van Pinterest elke week om recepten voor haar zoon te vinden. In september ontdekte Jones een slowcookerrecept voor romige kip en broccoli, gegarneerd met gouden cheddar en een beetje peterselie. Hij keek meteen naar de ingrediënten en voegde ze toe aan zijn boodschappenlijstje. Maar toen hij op het punt stond te gaan koken, nadat hij alles al had gekocht, viel één ding op: de recept vertelde hem dat hij moest beginnen met het ‘doen’ van de kip in de slowcooker.
Verward was hij geklikt receptenblog “Over” pagina. Een perfect geklede vrouw staarde hem aan, terwijl het gouden licht weerkaatste op haar schort en haar warrige haar. Jones realiseerde zich onmiddellijk wat er leek te gebeuren: de vrouw was gegenereerd door AI.
“Hallo, ik ben Souzan Thorne!” de pagina wordt gelezen. “Ik ben opgegroeid in een huis waar de keuken het hart van alles was.” De bijbehorende foto’s zijn perfect maar vreemd, de biografie vaag en algemeen.
“Het lijkt stom dat ik dit niet eerder wist, maar omdat ik haastig naar de supermarkt ging, dacht ik niet eens dat het een probleem zou zijn”, zegt Jones, die in Californië woont. Terug in de culinaire hoek maakte hij een twijfelachtig gerecht, en het bleek verschrikkelijk: de waterige, flauwe kip liet een slechte smaak achter in zijn mond.
Omdat hij zijn hart wilde luchten, wendde hij zich tot de r/Pinterest-subreddit, die een stadsplein is geworden voor ontevreden gebruikers. “Pinterest verliest alles waar mensen van houden, namelijk echte pins en echte mensen”, schreef hij. Hij zei dat hij had beloofd de aanvraag volledig te zullen laten varen.
‘AI-slop’ is een term voor in massa geproduceerde, door AI gegenereerde inhoud van lage kwaliteit die het internet verstopt. video’s naar boek naar post op Medium. En Pinterest-gebruikers zeggen dat de site er vol mee staat.
Het is “een onsmakelijke brij die ons met geweld wordt gevoed”, schreef Alexios Mantzarlis, directeur van het Security, Trust, and Safety Initiative bij Cornell Tech, in zijn onlangs gepubliceerde boek. taxonomie van het vuile water van AI. En ‘Souzan’ – waarvoor een Google-zoekopdracht geen resultaat opleverde – was slechts het topje van de ijsberg.
“Alle platforms hebben besloten dat dit deel uitmaakt van het nieuwe normaal”, vertelde Mantzarlis aan WIRED. “Het is een groot deel van de inhoud die over de hele linie wordt geproduceerd.”
“Enshitificatie”
Pinterest werd in 2010 gelanceerd en op de markt gebracht zichzelf als een ‘visuele ontdekkingsmachine voor het vinden van ideeën’. De site is jarenlang advertentievrij gebleven en heeft een loyale creatieve gemeenschap opgebouwd. Sindsdien volwassen aan ruim een half miljard actieve gebruikers. Volgens sommige ontevreden gebruikers beginnen hun feeds tegenwoordig echter een heel andere wereld te weerspiegelen.
De feed van Pinterest bestaat voornamelijk uit afbeeldingen, wat betekent dat het gevoeliger is voor AI-fouten dan sites met video’s, zei Mantzarlis, omdat modellen doorgaans gemakkelijker realistische afbeeldingen kunnen maken dan video’s. Het platform leidt gebruikers ook naar externe sites, en met die uitgaande klikken kunnen gemakkelijker inkomsten worden gegenereerd door inhoudsbundels dan door volgers op de site.
