“Zuidpark” staat bekend om zijn opdringerige karakter, maar de laatste aflevering werd door fans online omschreven als ‘nachtmerriebrandstof’.
In een van de meest verontrustende afleveringen van het jaar onderzoeken ‘South Park’-makers Trey Parker en Matt Stone hoe gemakkelijk het is om video’s te maken die zijn gegenereerd door kunstmatige intelligentie – en hoe gemakkelijk het voor sommige mensen is om erin te trappen, of ervan overtuigd te raken dat echte video’s nep zijn.
Het gesprek over de aflevering van woensdag draaide grotendeels om het feit dat president Trump en vice-president JD Vance werden afgebeeld terwijl ze seks hadden. Ze vertelden verslaggevers dat de gelekte video van hun affaire nep was, gemaakt met Soera 2nieuwste versie van OpenAI-videogenerator.
In dezelfde aflevering, getiteld ‘Sora Not Sorry’, maken de kinderen uit South Park een wraakporno-video waarin Sora wordt gebruikt als middel om elkaar terug te pakken. Butters maakt een expliciete video van Red met Santa, en vervolgens maakt hij een soortgelijke expliciete video met Butters en Totoro Klassieke Studio Ghibli ‘Mijn buurman Totoro.’
Er ontstaat dan chaos wanneer de kinderen enthousiast worden over een door AI gegenereerde video met beroemde (en auteursrechtelijk beschermde) geanimeerde personages. De politie van South Park was verbijsterd door de video en geloofde dat deze echt was.
Droopy Dog, Rocky, Bullwinkle, Popeye en zelfs het geliefde kleuterpersonage Bluey worden genoemd of verschijnen in de aflevering. Er verscheen ook een vertegenwoordiger van Studio Ghibli, die de waanzin toelichtte en zei: “Je kunt niet doen wat je wilt met het IP-adres van iemand anders.”
Dit weerspiegelt de schijnbare reactie die Studio Ghibli had toen Sora 2 verscheen, met het argument dat OpenAI waarschijnlijk de inhoud en andere Japanse kunstwerken gebruikte als machine learning-gegevens. De Content Overseas Distribution Assn., een anti-piraterijorganisatie die Japanse houders van intellectueel eigendom vertegenwoordigt, heeft een bericht vrijgegeven brief zei eind oktober dat de organisatie gelooft dat de acties van OpenAI “een inbreuk op het auteursrecht kunnen vormen.” CODA eiste dat OpenAI zou stoppen met het gebruik van Japanse inhoud voor machinaal leren en vroeg dat het bedrijf met “oprechtheid” zou reageren op claims wegens inbreuk op het auteursrecht.
De nieuwste update voor Sora, die eind september werd uitgebracht, is “fysiek nauwkeuriger, realistischer en beter controleerbaar dan eerdere systemen”, aldus OpenAIen beschikt ook over gesynchroniseerde dialoog en geluidseffecten.
Het bedrijf veroorzaakte terugslag toen het de nieuwe versie lanceerde, omdat het opereert onder een systeem waarbij eigenaren van intellectueel eigendom zich moeten afmelden voor de app, wat betekent dat gebruikers video’s kunnen maken met populaire acteurs, personages, stemmen en gelijkenissen totdat rechthebbenden een opt-outverzoek indienen.
Deepfakes van beroemdheden, dode figuren en ongeautoriseerde auteursrechtelijk beschermde personages begonnen snel te circuleren, waaronder video’s van Robin Williams, Michael Jackson en Martin Luther King jr. in wat het bedrijf een ‘respectloze weergave van Dr. King’ noemde. OpenAI en King’s Estate hebben een gezamenlijke verklaring zei in oktober dat de app de mogelijkheid zou blokkeren om een generatie te creëren met King als een bedrijf dat ‘de vangrails voor historische figuren versterkt’.
Nadat veel Hollywood-studio’s en -agentschappen hun frustratie over dit beleid hadden geuit, zei OpenAI-topman Sam Altman schrijf in een blogpost dat het AI-bedrijf rechthebbenden “meer gedetailleerde controle zal geven over het creëren van karakters, vergelijkbaar met een opt-in-model voor gelijkenissen, maar met extra controles.”
Verschillende studio’s hebben, samen met Disney Chief Executive, interesse getoond in de ruimte voor door gebruikers gegenereerde inhoud Bob Iger zei in een recent winstrapport dat het bedrijf ‘productieve gesprekken’ had met niet bij naam genoemde AI-bedrijven in een poging een deal te bereiken die ook ‘onze behoefte zou weerspiegelen om intellectueel eigendom te beschermen’.
Terwijl op South Park Elementary de strijd tegen verontrustende, door AI gegenereerde video’s heviger wordt, vraagt Kyle zich af hoe het maken van dergelijke inhoud, vooral met auteursrechtelijk beschermde personages, legaal is. ‘Niets is heilig, Kyle,’ zegt Butters tegen hem. “Het enige wat je kunt doen is vuur met vuur bestrijden.”
Deze aflevering lijkt tegemoet te komen aan de frustratie van Parker en Stone over het repliceren van hun werk, zoals blijkt uit een zin van de miljardair Peter Thieldie ook in de aflevering verschijnt: “Met Sora 2 kan ik de South Park-kinderen alles laten doen.”
