Dinsdag heeft de Senaat unaniem een wetsvoorstel aangenomen dat slachtoffers in staat stelt makers van niet-consensuele seksueel expliciete deepfakes aan te klagen voor een minimumbedrag van $150.000.
De DEFIANCE Act dringt nu door naar het Huis van Afgevaardigden, waar de leiding er de afgelopen zittingsperiode niet over heeft gesproken. Maar er is een nieuw momentum rond de kwestie, nu voorstanders er bij Google en Apple op aandringen om Grok uit app-winkels te verbannen nadat de chatbot het maken van intieme afbeeldingen zonder wederzijds goedvinden toestond.
Op 20 december sprak Elon Musk, CEO van het sociale mediaplatform
Gebruiker X besefte al snel dat dit mogelijk was expliciete afbeeldingen maken door Grok aan te moedigen vrouwen en meisjes ‘uit te kleden’. Verschillende oplossingen hebben geresulteerd in onbedoeld intieme afbeeldingen van echte mensen op verschillende platformsinclusief materiaal over seksueel misbruik van kinderen en vals beeld van moslimvrouw met hun hijaabs verwijderd.
Op 3 januari verscheen het officiële account van het beveiligingsteam van X een korte verklaring geplaatst zei dat het platform illegale inhoud verwijdert. “Iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te maken, zal met dezelfde gevolgen worden geconfronteerd als wanneer hij illegale inhoud uploadt”, aldus de verklaring.
Op de vraag of er wijzigingen zijn aangebracht aan de chatbot om het maken van niet-consensuele afbeeldingen te voorkomen, antwoordde het xAI-mediateam The 19th, opgericht in 2020, “Legacy Media Lies.” xAI, eveneens opgericht door Musk, is de ontwikkelaar van Grok. X, het sociale mediaplatform dat formeel bekend staat als Twitter, reageerde niet onmiddellijk op vragen per e-mail.
Op of rond 9 januari lijkt het erop dat X de mogelijkheden voor het maken van afbeeldingen van Grok achter een betaalmuur heeft geplaatst. Deze stap werd grotendeels bekritiseerd door experts op het gebied van technologiebeleid en voorstanders van overlevenden, die zeiden dat de bedrijven nu profiteerden van misbruik. (The Verge meldde ook de betaalmuur nog niet voorkomen bevrijdt gebruikers van het genereren van expliciete afbeeldingen.)
“Seksuele intimidatie is geen premiumdienst. Het is een misdaad”, zegt Jenna Sherman, campagnedirecteur van UltraViolet, de belangenorganisatie voor genderrechtvaardigheid.
Nadat hij het bedrijf in 2022 had overgenomen, nam Musk heeft de door vrijwilligers gerunde Trust and Safety Board van Twitter ontbonden, het aanzetten tot een intimidatiecampagne druist in tegen het hoofd van vertrouwen en veiligheid en vernietig het team verantwoordelijk voor het modereren van de inhoud.
Senator Dick Durbin, een van de sponsors van de Senaatsversie van de DEFIANCE Act, haalde het Grok-schandaal en de matte reactie van X aan toen hij dinsdagochtend over de wetgeving ter stemming bracht.
“Zelfs nadat deze gruwelijke, valse en schadelijke beelden aan Grok waren getoond
“Daarom is deze wet zo belangrijk, omdat er staat dat als ze zich schuldig maken aan een roekeloos misdrijf, ze voor de rechter kunnen worden gebracht en civiel aansprakelijk kunnen worden gesteld voor de schade die ze veroorzaken.”
Durbin noemde de passage een unanieme goedkeuring omdat gepolariseerde partijen zich verenigden in een tweeledige kwestie. Het wetsvoorstel wordt mede gesponsord door de Democratische Partij van Illinois en senator Lindsey Graham, een Republikein uit South Carolina.
Het is nog steeds onduidelijk of de DEFIANCE Act het bedrijf kan vasthouden
De DEFIANCE-wet is dat wel geïntroduceerd in de DPR tijdens de laatste sessie door vertegenwoordigers Alexandra Ocasio-Cortez, een democraat uit New York, en Laurel Lee, een republikein uit Florida. Ocasio-Cortez heeft dit probleem consequent onder de aandacht gebracht en haar ervaringen gedeeld als doelwit van deepfake-intimidatie.
Het is geen toeval dat vrouwelijke parlementsleden deze kwestie verdedigen, aangezien zij het meest waarschijnlijke doelwit zijn van dit soort digitaal seksueel geweld. A Rapport 2024 van het Amerikaanse Sunlight Project vond 35.000 vermeldingen van intieme afbeeldingen zonder wederzijds goedvinden, waarop 26 leden van het Congres te zien waren. Vijfentwintig van de wetgevende leden zijn vrouwen.
Martone merkte op dat de House-versie sinds begin dit jaar zes medesponsors heeft gehad, waaronder drie vrouwen, gelijk verdeeld over de partijen.
Vorig jaar, Het congres keurt de Take It Down Act goeddie niet-consensuele intieme afbeeldingen verbiedt, ongeacht of ze echt zijn of door de computer zijn gegenereerd. Platforms zullen in mei van dit jaar binnen 48 uur een proces moeten implementeren voor het verwijderen van intieme afbeeldingen zonder wederzijds goedvinden.
De DEFIANCE Act en de Take It Down Act zijn altijd gezien als een dubbele oplossing voor het probleem van deepfake-misbruik, zei Martone. De Vereniging ter Voorkoming van Seksueel Geweld was betrokken bij het opstellen van beide wetsvoorstellen.
De Take It Down Act machtigt rechtbanken en officieren van justitie om actie te ondernemen tegen afbeeldingen zonder wederzijdse toestemming en oefent ook druk uit op socialemediabedrijven en zoekmachines om schadelijke inhoud te verwijderen, zei Martone. De DEFIANCE Act is bedoeld om overlevenden de macht te geven, die kunnen beslissen of ze de daders rechtstreeks voor de rechter willen brengen.
“Het meest empowerende wat je voor overlevenden kunt doen, is hen een keuze geven, en dat is waar de DEFIANCE Act over gaat”, zeiden ze.
Martone’s pleidooi tegen digitaal seksueel geweld leidde ertoe dat vreemden hen aanvielen met expliciete deepfakes. De intimidatie was specifiek gericht tegen Martone en hun organisatie als geheel. Martone moest vrij nemen van haar baan en huur en boodschappen betalen om hulp te krijgen bij het verwijderen van de afbeeldingen.
Als de DEFIANCE Act tot wet wordt ondertekend, hoopt Martone deze te gebruiken om niet alleen de emotionele schade te dekken, maar ook de zeer reële kosten van het omgaan met dit soort misbruik.
Zowel de DEFIANCE Act als de Take It Down Act werden geïntroduceerd nadat een seksueel expliciet, door AI gegenereerd beeld van Taylor Swift in januari 2024 viraal ging op X. Het bedrijf blokkeerde zoekopdrachten naar haar naam en verwijderde uiteindelijk de afbeelding. deelt dat het plaatsen van intieme afbeeldingen zonder wederzijds goedvinden “ten strengste verboden” is en ze hebben een ‘nultolerantiebeleid tegen dergelijke inhoud’.
404 Media herleidde de deepfake van Swift tot een bestaande Telegram-groep profiteren van mazen in de wet in de Microsoft Designer-afbeeldingsgenerator. Microsoft onmiddellijk actie ondernemen om deze uitbuiting aan te pakken.
“Het gaat over de mondiale convergentie van de samenleving in de richting van bepaalde normen, en dat kunnen we doen, vooral als je wetten, wetshandhavings- en technologieplatforms hebt die samen kunnen komen”, zegt Satya Nadella, CEO van Microsoft. zei in een interview met NBC-nieuws.
“Ik denk dat we meer kunnen beheren dan we onszelf toeschrijven.”
Correctie: in een eerdere versie van dit artikel werd het district vertegenwoordigd door Laurel Lee verkeerd weergegeven.
