OpenAI zegt dat de overeenkomst met het Ministerie van Oorlog “beter” is en meer vangrails kent dan Anthropic, dat op de zwarte lijst stond omdat het weigerde hieraan te voldoen.
In een zaterdag gepubliceerde blogpost deelde OpenAI een deel van de contractuele taal uit zijn overeenkomst Afdeling Oorlogbevat clausules die aangeven dat de technologie niet kan worden gebruikt voor grootschalige binnenlandse surveillance of voor het aandrijven van autonome wapens of risicovolle besluitvormingssystemen zoals “social credit”-scores.
“Wij denken dat onze overeenkomst meer beperkingen kent dan eerdere overeenkomsten geheime toepassing van AIinclusief Anthropic”, schreef OpenAI in zijn post. “In onze overeenkomst beschermen we onze rode lijnen door middel van een bredere, meergelaagde aanpak. We behouden volledige discretie over onze beveiligingsstack, we implementeren deze via de cloud, we zorgen ervoor dat OpenAI-personeel onder toezicht staat en we hebben sterke contractuele bescherming. “Dit komt allemaal bovenop de sterke bescherming die in de Amerikaanse wetgeving bestaat.”
De deal van OpenAI met de federale overheid komt nadat zijn AI-concurrent, Anthropic, op de zwarte lijst werd gezet en tot een risico’s voor de toeleveringsketen nadat hij had geweigerd te voldoen aan de eisen voor militair gebruik van de grensmodellen van het bedrijf, Claude.
Anthropic zei vrijdag in een verklaring dat “geen enkele hoeveelheid intimidatie of bestraffing van het Ministerie van Oorlog ons standpunt hierover zal veranderen.” massale binnenlandse surveillance of volledig autonome wapens” en beloofde “elke bepaling van het risico in de toeleveringsketen voor de rechter aan te vechten.”
OpenAI betoogde zaterdag in een post dat Anthropic niet als een risico voor de toeleveringsketen moet worden beschouwd en zei dat het zijn standpunt “duidelijk aan de regering” had gemaakt. Zijn deal met het Ministerie van Oorlog vloeide gedeeltelijk voort uit de wens om “de spanningen tussen het DoW en de Amerikaanse AI-laboratoria te verminderen.”
“Een goede toekomst vereist echte, diepgaande samenwerking tussen overheden en AI-laboratoria”, schreef OpenAI in zijn post. “Als onderdeel van onze overeenkomst hier vragen we dat dezelfde voorwaarden worden toegepast op alle AI-laboratoria, en in het bijzonder zal de regering proberen dit probleem op te lossen met Anthropic; de huidige stand van zaken is een zeer slechte manier om de volgende fase van samenwerking tussen de overheid en AI-laboratoria te starten.”
Vertegenwoordigers van OpenAI en Anthropic reageerden niet onmiddellijk op het verzoek van Business Insider om commentaar. Het is nog niet duidelijk of Anthropic, of andere toonaangevende AI-bedrijven, contractvoorwaarden hebben gekregen die vergelijkbaar zijn met de voorwaarden waarmee OpenAI zegt te hebben ingestemd.
OpenAI zei dat het, als onderdeel van de overeenkomst met het Ministerie van Oorlog, “volledige controle” zou behouden over de beveiligingsstack die het implementeert, en sterke “vangrails” om misbruik te voorkomen. Als de regering de voorwaarden van de overeenkomst schendt, zegt OpenAI dat zij het contract “kan” beëindigen.
“We verwachten niet dat dit zal gebeuren”, zei OpenAI in zijn bericht.
Het geschil tussen de regering en de AI-gigant heeft geleid tot wijdverbreide kritiek, waarbij critici zich zorgen maken over de ethische implicaties van het gebruik van AI door het Ministerie van Oorlog en de overeenkomst van OpenAI om de overheid toegang te geven tot haar technologie.
OpenAI zei zaterdag dat het gelooft dat AI “nieuwe risico’s in de wereld zal opleveren” en, door regeringen toe te staan zijn modellen te gebruiken, mensen die de nationale veiligheid verdedigen de “beste instrumenten” zal geven om dat te doen.
Dit meldde Business Insider eerder Antropisch model, Claudestonden zaterdag bovenaan de app-winkels, en veel mensen op sociale media, waaronder beroemdheden als Katy Perry, hebben openlijk gepost over het opzeggen van hun ChatGPT-abonnementen in de nasleep van OpenAI’s overeenkomst met de overheid.
