Originele versie van dit verhaal verscheen erin Kuanta-tijdschrift.
Stel je een stad voor met twee widgethandelaren. Klanten geven de voorkeur aan goedkopere widgets, dus verkopers moeten concurreren om de laagste prijs vast te stellen. Ontevreden over hun schamele winsten ontmoeten ze elkaar op een avond in een met rook gevulde taverne om een geheim plan te bespreken: als ze samen de prijzen verhogen in plaats van te concurreren, kunnen ze allebei meer geld verdienen. Maar doelbewuste prijsafspraken, collusie genoemd, zijn lange tijd illegaal geweest. Widgethandelaren hebben besloten geen risico te nemen en iedereen kan genieten van goedkope widgets.
Al meer dan een eeuw volgt de Amerikaanse wet dit basispatroon: verbied dergelijke geheime transacties en eerlijke prijzen moeten worden gehandhaafd. Tegenwoordig zijn de zaken niet zo eenvoudig. In een groot deel van de economie vertrouwen verkopers steeds meer op computerprogramma’s die leeralgoritmen worden genoemd en die herhaaldelijk prijzen aanpassen als reactie op nieuwe gegevens over de toestand van de markt. Deze algoritmen zijn vaak veel eenvoudiger dan de ‘deep learning’-algoritmen die de moderne kunstmatige intelligentie aandrijven, maar ze zijn nog steeds gevoelig voor onverwacht gedrag.
Dus hoe kunnen toezichthouders ervoor zorgen dat algoritmen eerlijke prijzen bepalen? Hun traditionele aanpak zal niet werken omdat deze berust op duidelijke samenzwering. “Het algoritme drinkt absoluut niet met elkaar”, zei hij Aäron Rotheen computerwetenschapper aan de Universiteit van Pennsylvania.
Echter een een veel geciteerd artikel uit 2019 laat zien dat algoritmen kunnen leren om in het geheim samen te werken, zelfs als ze daar niet voor geprogrammeerd zijn. Een onderzoeksteam zette twee exemplaren van een eenvoudig leeralgoritme tegenover elkaar in een marktsimulatie en liet hen vervolgens verschillende strategieën verkennen om de winst te vergroten. In de loop van de tijd leert elk algoritme door vallen en opstaan te reageren wanneer een ander algoritme de prijzen verlaagt, waardoor de prijs met een onevenredig groot bedrag wordt verlaagd. Het eindresultaat zijn hoge prijzen, ondersteund door de dreiging van prijzenoorlogen.
Impliciete bedreigingen als deze liggen ook ten grondslag aan veel gevallen van menselijke samenzwering. Dus als je eerlijke prijzen wilt garanderen, waarom zou je dan niet van verkopers verlangen dat ze algoritmen gebruiken die inherent niet in staat zijn om bedreigingen bloot te leggen?
In de een recent artikelRoth en vier andere computerwetenschappers laten zien waarom dit misschien niet genoeg is. Ze bewijzen dat ogenschijnlijk onschuldige algoritmen die voor hun eigen winst optimaliseren, soms slechte resultaten voor kopers kunnen opleveren. “Je kunt nog steeds hoge prijzen krijgen op een manier die er van buitenaf redelijk uitziet”, zei hij Natalie Collinaeen afgestudeerde student die samenwerkte met Roth en co-auteur was van de nieuwe studie.
Niet alle onderzoekers zijn het eens over de implicaties van deze bevindingen; veel hangt af van hoe je ‘redelijk’ definieert. Maar het laat zien hoe subtiel de vragen rondom algoritmische prijsstelling zijn, en hoe moeilijk het is om deze te reguleren.
