Elon Musk nam X over en verdubbelde zijn winst op Grok, zijn generatieve zusterbedrijf AI dit instrument, met als doel het sociale-media-ecosysteem een meer tolerante ruimte te maken en “de vrijheid van meningsuiting te maximaliseren”. Waar hij uiteindelijk mee te maken kreeg, was de dreiging van meerdere onderzoeken door toezichthouders nadat mensen Grok begonnen te gebruiken om zonder hun toestemming expliciete afbeeldingen van vrouwen te maken – en soms overgingen op afbeeldingen van minderjarige kinderen.
Het probleem, dat de afgelopen week naar voren kwam toen mensen de mogelijkheid begonnen te gebruiken om Grok-afbeeldingen te genereren op onschadelijke berichten die voornamelijk door vrouwelijke X-gebruikers waren geplaatst, heeft tot bezorgdheid geleid bij toezichthouders over de hele wereld. Ofcom, de Britse communicatietoezichthouder, heeft “dringend contact” gehad met X over het imago, terwijl de Europese Unie dat wel heeft gedaan heet de mogelijkheid om Grok te gebruiken op zo’n manier dat het ‘verschrikkelijk’ en ‘walgelijk’ is.
In de drie jaar sinds de lancering van ChatGPT heeft generatieve AI te maken gehad met talloze uitdagingen op regelgevingsgebied, waarvan er vele nog steeds onderwerp zijn van rechtszaken, waaronder vermeende inbreuk op het auteursrecht bij AI-modeltraining. Maar het gebruik van kunstmatige intelligentie op een gevaarlijke manier om vrouwen aan te vallen, vertegenwoordigt een belangrijk moreel moment voor de toekomst van de technologie.
“Het gaat niet om naaktheid. Het gaat om macht, en het gaat om het vernederen van vrouwen, en het gaat om laten zien wie de leiding heeft en plezier of opwinding krijgen door het feit dat ze er niet mee instemmen”, zegt Carolina Are, een Britse onderzoeker die de schadelijke impact van sociale-mediaplatforms, algoritmen en AI op gebruikers, inclusief vrouwen, heeft bestudeerd.
Van zijn kant, X heeft gezegd: “Iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te creëren, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt”, in lijn met de woorden van de eigenaar, Elon Musk, die hetzelfde gepost op 3 januari.
Het feit dat het maken van dergelijke afbeeldingen mogelijk is, laat zien hoe gevaarlijk het zou zijn om de beperkingen op generatieve AI weg te nemen, zodat gebruikers kunnen doen wat ze willen. “Dit is opnieuw een voorbeeld van de enorme verschillen, ongelijkheden en dubbele standaarden in het tijdperk van de sociale media, vooral in deze periode, en ook van de straffeloosheid in de technologie-industrie”, aldus Are.
Eerder
Hoewel de omvang en kracht van de door AI gegenereerde beelden ongekend lijken, zijn sommige experts het er niet mee eens dat de beelden de eerste echte test van de moraliteit voor generatieve AI vormen.
“AI – die ik hier als overkoepelende term gebruik – is lange tijd een instrument geweest voor discriminatie, vrouwenhaat, homofobie en transfobie, maar ook voor directe schade, waaronder het ertoe aanzetten van mensen om hun leven te beëindigen, het veroorzaken van depressie en lichaamsdysmorfie, en meer”, zegt Ari Waldman, hoogleraar rechten aan de Universiteit van Californië, Irvine. “Het creëren van deepfakes tegen vrouwen en meisjes is werkelijk gruwelijk, maar dit is niet de eerste keer dat AI moreel verwerpelijke acties pleegt”, voegde hij eraan toe.
Maar de vraag wie de juridische verantwoordelijkheid draagt voor de productie van deze beelden is minder duidelijk dan de verklaring van Musk.
Eric Goldman, een professor aan de Santa Clara University School of Law, wees erop dat de onlangs uitgevaardigde Take It Down Act – die vereist dat platforms de komende maanden stappen ondernemen om illegale of inbreukmakende inhoud binnen 48 uur te verwijderen – nieuwe strafrechtelijke bepalingen toevoegt tegen ‘intieme visuele afbeeldingen’, een categorie die door AI gegenereerde afbeeldingen omvat. Maar of daar ook bikinifoto’s zoals die van Grok bij horen, is nog maar de vraag.
“De wet is niet in de rechtbank getest, maar het gebruik van Grok om synthetische seksuele inhoud te creëren is precies wat de wet moest voorkomen”, aldus Goldman. “Aangezien we niet weten of de Take It Down Act de regelgevende oplossingen heeft geboden die nodig zijn om bestaande problemen op te lossen, is het voorbarig om meer wetgeving uit te vaardigen.”
Experts als Rebecca Tushnet, een First Amendment-wetenschapper aan de Harvard Law School, zeggen dat de noodzakelijke wetten al bestaan. “Het probleem is de rechtshandhaving tegen degenen die wangedrag begaan, terwijl onder de overtreders ook politiek machtige mensen zijn of degenen die de wet niet respecteren”, zei hij.
De afgelopen jaren zijn er in de VS veel nieuwe anti-deepfakes- en expliciete beeldwetten aangenomen, waaronder een federale wet die de verspreiding van seksueel expliciete digitale vervalsingen bestraft, legt Mary Anne Franks uit, een expert op het gebied van intellectueel eigendom en technologie aan de George Washington Law School.
Maar de laatste ontwikkelingen in Grok laten zien dat de huidige maatregelen niet goed genoeg zijn, zei hij. “We moeten technologieontwikkelaars gaan behandelen zoals we makers van andere gevaarlijke producten behandelen: hen verantwoordelijk stellen voor de schade veroorzaakt door hun producten die ze hadden kunnen en moeten voorkomen.”
Belangrijkste verantwoordelijkheden
Deze vraag over de uiteindelijke verantwoordelijkheid blijft onbeantwoord. En dat is een vraag die Musk misschien probeert te vermijden door zijn afkeer te uiten voor wat zijn gebruikers doen.
“De moeilijkere juridische vraag is welke eventuele aansprakelijkheid Grok zou kunnen hebben gehad bij het faciliteren van de creatie van intieme visuele beelden,” legde Goldman van Santa Clara University uit, wijzend op de “vrijwillige” implementatie van vangrails als onderdeel van de vertrouwens- en veiligheidsprotocollen van het bedrijf. “Het is volgens de Amerikaanse wet onduidelijk of dergelijke vangrails de wettelijke aansprakelijkheid verminderen of elimineren,” zei hij, eraan toevoegend dat “het onduidelijk is of de aansprakelijkheid van het model zou toenemen als het model duidelijk onvoldoende vangrails had.”
Waldman van UC Irvine stelt dat wetgevers in Washington wetgeving moeten aannemen die bedrijven wettelijk verantwoordelijk maakt voor het ontwerpen en bouwen van AI-instrumenten die kinderpornografie of neppornografie van vrouwen en meisjes kunnen creëren. “Momenteel wordt er nog steeds gedebatteerd over de juridische verantwoordelijkheden van technologiebedrijven”, voegde hij eraan toe.
Hoewel de Federal Trade Commission de wettelijke bevoegdheid heeft om actie te ondernemen, vreest Waldman dat dit niet het geval zal zijn. “AI-bedrijven hebben zich achter de president geschaard en de FTC lijkt niet te voldoen aan haar mandaat voor consumentenbescherming.”
