OpenAI-CEO Sam Altman blijft deze week op de eerste plaats nadat zijn bedrijf een deal heeft getekend met het Amerikaanse leger. Medewerkers van OpenAI hadden kritiek op de stap, die kwam nadat Anthropic ongeveer $ 200 miljoen aan financiering had ontvangen contract met het Pentagon implodeerdeen vroeg Altman om meer informatie over de overeenkomst vrij te geven. Altman gaf toe dat hij “slordig” overkwam op sociale media na.
Hoewel dit incident groot nieuws heeft gehaald, is het misschien wel het nieuwste en meest publieke voorbeeld van OpenAI die onduidelijk beleid creëert over hoe het Amerikaanse leger toegang kan krijgen tot zijn AI.
In 2023 verbiedt het gebruiksbeleid van OpenAI expliciet dat het leger toegang krijgt tot zijn AI-modellen. Maar sommige OpenAI-medewerkers ontdekten dat het Pentagon was begonnen te experimenteren met Azure OpenAI, een versie van het OpenAI-model aangeboden door Microsoft, zeggen twee bronnen die bekend zijn met de zaak. Op dat moment had Microsoft al tientallen jaren contracten gesloten met het ministerie van Defensie. Het bedrijf is ook de grootste investeerder van OpenAI en beschikt over een ruime licentie om de technologie van de startup te commercialiseren.
Datzelfde jaar zagen medewerkers van OpenAI Pentagon-functionarissen langs de kantoren van het bedrijf in San Francisco lopen, aldus de bronnen. Ze spraken op voorwaarde van anonimiteit, omdat ze niet bevoegd waren commentaar te geven op zaken van particuliere bedrijven.
Sommige medewerkers van OpenAI waren ongerust over de omgang met het Pentagon, terwijl anderen simpelweg niet wisten wat het gebruiksbeleid van OpenAI inhield. Is het beleid van toepassing op Microsoft? Hoewel bronnen aan WIRED vertelden dat dit destijds voor de meeste werknemers niet duidelijk was, zeiden woordvoerders van OpenAI en Microsoft dat de Azure-producten van OpenAI niet onderworpen waren en niet zijn aan het OpenAI-beleid.
“Microsoft heeft een product genaamd Azure OpenAI Services dat in 2023 beschikbaar is voor de Amerikaanse overheid en valt onder de servicevoorwaarden van Microsoft”, zei woordvoerder Frank Shaw in een verklaring aan WIRED. Microsoft weigerde specifiek commentaar te geven op wanneer het Azure OpenAI beschikbaar zou maken voor het Pentagon, maar merkte op dat de dienst niet is goedgekeurd voor “heel geheimWerklast overheid tot 2025.
“AI speelt al een cruciale rol in de nationale veiligheid en wij vinden het belangrijk om deel te nemen aan de onderhandelingen om ervoor te zorgen dat AI veilig en verantwoord wordt ingezet”, zei OpenAI-woordvoerder Liz Bourgeois in een verklaring. “We zijn transparant tegenover onze medewerkers als we dit werk benaderen. We bieden regelmatig updates en een speciaal kanaal waar het team vragen kan stellen en rechtstreeks contact kan opnemen met ons nationale veiligheidsteam.”
Het ministerie van Defensie heeft niet gereageerd op het verzoek van WIRED om commentaar.
In januari 2024 heeft OpenAI zijn beleid bijgewerkt om het algemene verbod op militair gebruik op te heffen. Sommige OpenAI-medewerkers leerden over de beleidsupdate via een artikel in The Intercept, aldus bronnen. De leiders van het bedrijf bespraken vervolgens de veranderingen tijdens een bijeenkomst met alle hens aan dek en legden uit hoe het bedrijf in de toekomst voorzichtige stappen op dit gebied zou ondernemen.
In december 2024 kondigde OpenAI een partnerschap aan met Anduril om AI-systemen te ontwikkelen en in te zetten voor ‘nationale veiligheidsmissies’. Voorafgaand aan de aankondiging vertelde OpenAI zijn werknemers dat het partnerschap een beperkte reikwijdte had en alleen niet-geclassificeerde werklasten zou verwerken, aldus dezelfde bron. Dit staat in contrast met de deal die Anthropic sloot met Palantir, waarbij de AI van Anthropic zou zijn gebruikt voor geheim militair werk.
Palantir benaderde OpenAI in het najaar van 2024 om deelname aan hun ‘FedStart’-programma te bespreken, bevestigde een woordvoerder van OpenAI tegenover WIRED. Het bedrijf heeft het uiteindelijk afgewezen en de werknemers verteld dat het een te groot risico zou zijn, vertelden twee bronnen die bekend waren met de zaak aan WIRED. OpenAI werkt nu echter op andere manieren met Palantir samen.
Rond de tijd dat de Anduril-deal werd aangekondigd, sloten enkele tientallen OpenAI-werknemers zich aan bij een openbaar Slack-kanaal om hun zorgen over de militaire partnerschappen van het bedrijf te bespreken, zeiden bronnen en werden bevestigd door een woordvoerder. Sommigen waren van mening dat het model van het bedrijf te onbetrouwbaar was om de creditcardgegevens van gebruikers te verwerken, laat staan om Amerikanen op het slagveld te helpen.
