Caitlin Kalinowski, een OpenAI-medewerker die toezicht hield op de hardware in de robotica-divisie, zal het bedrijf verlaten. De beslissing van Kalinowski kwam kort na OpenAI deal met het Pentagon aangekondigd eind februari.
In een posten op sociale mediaKalinowski legde uit dat de beslissing over “principe” ging in het licht van de recente deal. “Ik geef veel om het Robotics-team en het werk dat we samen opbouwen. Dit was geen gemakkelijke beslissing”, schreef Kalinowski. “AI speelt een belangrijke rol in de nationale veiligheid. Maar toezicht op Amerikaanse burgers zonder juridisch toezicht en dodelijke autonomie zonder menselijke toestemming zijn zaken die meer aandacht verdienen dan ze krijgen.”
De deal van OpenAI met het Pentagon kwam tot stand nadat een soortgelijke deal met Anthropic mislukte. Anthropic weigerde het gebruik van zijn producten toe te staan massale binnenlandse surveillance en autonome wapensystemen zonder goed toezicht.
Nadat Anthropic een deal met het Pentagon had afgewezen, verklaarde het Pentagon het bedrijf een “risico’s voor de toeleveringsketen” en dreigde het bedrijf te straffen, waarvan Dario Amodei, CEO van Anthropic, zei dat hij voor de rechtbank zou vechten. Nadat de deal met het Pentagon niet doorging, kwam de chatbot van Anthropic, Claude, op de proppen. Nummer 1 in de Apple App Store-ranglijst van gratis apps.
Andere AI-stafmedewerkers, zowel van OpenAI als Google, steunden ook de beslissing van Anthropic om geen deal te sluiten met het Pentagon. A open brieven en online petities getiteld “We Will Not Be Divided” spoort leiders van de kunstmatige intelligentie aan om de eisen van het ministerie van Defensie te verwerpen. Tot nu toe heeft de petitie bijna 1.000 handtekeningen ontvangen van werknemers van beide bedrijven. “Ze proberen het bedrijf te verdelen omdat ze bang zijn dat andere bedrijven het zullen opgeven”, aldus de petitie.
De verklaring vervolgde: “We hopen dat onze leiders hun meningsverschillen opzij zullen zetten en samen zullen blijven doorgaan met het afwijzen van het huidige verzoek van het Ministerie van Oorlog om toestemming om ons model van binnenlandse massabewaking te gebruiken en mensen autonoom te doden zonder menselijk toezicht.” (Afgelopen september ondertekende Trump een uitvoerend bevel om de naam van het Ministerie van Defensie te hernoemen naar Afdeling Oorloghet Congres heeft echter niet gehandeld om de naam officieel te veranderen.)
Ondanks hun tegenstand hield OpenAI zich aan de deal en zei dat deze daarin was opgenomen extra beveiliging erin. Dat zei een woordvoerder van het bedrijf Snel bedrijf per e-mail: “Wij geloven dat onze overeenkomst met het Pentagon een werkbaar pad creëert voor het verantwoorde gebruik van AI in de nationale veiligheid, terwijl onze rode lijnen worden verduidelijkt: geen binnenlands toezicht en geen autonome wapens.”
De verklaring vervolgde: “We erkennen dat de samenleving een uitgesproken mening heeft over deze kwesties, en we zullen discussies blijven voeren met werknemers, overheden, het maatschappelijk middenveld en gemeenschappen over de hele wereld.” De woordvoerder voegde eraan toe dat het bedrijf geen plannen heeft om Kalinowski te vervangen.
Sommige deskundigen voorspellen echter dat dergelijke ontslagen waarschijnlijk zullen voortduren. AI-governanceleider Zahra Timsah, CEO van i-Gentic AI, aandelen Snel bedrijf: “Het publiek moet niet verbaasd zijn dat sommige AI-onderzoekers zich ongemakkelijk voelen bij militaire partnerschappen.” Timsah zegt dat dit vooral waar is, gezien het feit dat “velen van hen het veld in zijn gegaan omdat ze veel waarde hechten aan veiligheid en sociale impact. Dus als AI zich in de defensie- of surveillancecontext begeeft, wordt het voor veel mensen in het veld een persoonlijk pad”.
Toch zei Timsah dat we kunnen verwachten dat AI vooruitgang zal blijven boeken in termen van gebruik door overheden. “De verantwoorde weg vooruit is niet te doen alsof deze technologieën niet zullen worden gebruikt; het is het opbouwen van een sterk bestuur rond de manier waarop ze worden gebruikt.” Hij voegde eraan toe dat die vangrails eruit zouden kunnen zien als “gedefinieerde toegang, duidelijke autorisatielagen en volledige traceerbaarheid van wat het AI-systeem doet en wie het gebruikt.”
Wat Kalinowski betreft, de leider op het gebied van de robotica is van plan zijn werk in de industrie voort te zetten. “Ik neem wat tijd, maar ik blijf gefocust op het bouwen van verantwoorde fysieke AI”, zei hij antwoord op een vraag in zijn bericht.
