5 interessante inzichten uit de OpenAI-Pentagon-deal Sam Altman AMA

De Pentagon-deal kwam snel tot stand in “een poging om de situatie onschadelijk te maken”, schreef Altman in X.

Hij voegde er in een aparte post aan toe dat de deal ‘gehaast’ was.

“De optica ziet er echter niet goed uit” voor OpenAI, schreef hij.

“Als we gelijk hebben en dit leidt tot de-escalatie tussen de DoW en de industrie, zullen we eruitzien als genieën en een bedrijf dat de moeite heeft genomen om dingen te doen die de industrie hebben geholpen”, schreef hij.

‘Anders zullen we als haastig en onzorgvuldig worden gezien’, schreef hij.

Altman voegde eraan toe dat hij “veelbelovende tekenen” ziet van waar dit allemaal richting OpenAI gaat.

Altman werd gevraagd waarom het Ministerie van Oorlog OpenAI verkoos boven Anthropic. Hij zei dat hij niet namens zijn concurrenten zou spreken, maar speculeerde waarom OpenAI het contract eerst tekende.

“Ten eerste zie ik berichten dat ze dicht bij een deal zijn, en vaak willen beide partijen echt een deal bereiken”, schreef Altman. “Ik heb gezien wat er gebeurt tijdens gespannen onderhandelingen als de zaken stressvol worden en snel verslechteren, en ik weet zeker dat dit een groot deel is van wat hier is gebeurd.”

Hij voegde eraan toe dat OpenAI en het Ministerie van Oorlog ook “zich op hun gemak voelden met de contracttaal.”

“Ik denk dat Anthropic waarschijnlijk meer operationele controle wil dan wij”, voegde hij eraan toe.

Altman zei dat OpenAI heeft “drie rode lijnen”. Maar deze grenzen kunnen veranderen – en er kunnen er meer zijn – naarmate de technologie zich ontwikkelt en er ‘nieuwe risico’s’ ontstaan.

“Maar er is één heel belangrijk ding: we zijn niet gekozen. We hebben een democratisch proces waarin we onze leiders kiezen”, schreef Altman. “We hebben expertise op het gebied van technologie en begrijpen de beperkingen ervan, maar ik denk dat je bang moet zijn dat particuliere bedrijven beslissen wat ethisch is en wat niet op de belangrijkste gebieden.”

“Het lijkt ons goed om te beslissen hoe ChatGPT moet reageren op controversiële vragen”, voegde hij eraan toe. “Maar ik wil echt niet dat we beslissen wat we moeten doen als er kernwapens naar de VS komen.”

Altman zei dat OpenAI al “maanden” met het Ministerie van Oorlog had gesproken over niet-geclassificeerd werk, voordat “de zaken aan de geheime kant een wending namen naar de hogere kant.”

“We vonden dat DoW flexibel was in wat we nodig hadden, en we wilden hen ondersteunen bij hun zeer belangrijke missie”, schreef hij.

“Ik denk dat het huidige pad gevaarlijk is voor antropisten, eerlijke concurrentie en de VS”, schreef Altman ook in X. “We hebben onderhandeld om ervoor te zorgen dat vergelijkbare voorwaarden aan alle andere AI-laboratoria zouden worden aangeboden.”

Hij riep ook op tot ‘empathie’ jegens het Ministerie van Oorlog, gezien zijn ‘zeer belangrijke missie’.

En, in de woorden van Altman:

Onze industrie vertelt hen: “De technologie die we bouwen zal een belangrijk onderdeel zijn van het geopolitieke conflict. China gaat vooruit. Jullie lopen zo ver achter.”

En toen zeiden wij

‘Maar we willen je niet helpen, en we denken dat je een slecht mens bent.’

Ik denk niet dat ik in zo’n situatie goed zou reageren.

Ik geloof niet dat leiders van particuliere bedrijven die niet zijn gekozen, evenveel macht zouden moeten hebben als een democratisch gekozen regering. Maar ik denk dat we ze moeten helpen.

Altman zei dat AI op twee fronten nuttig kan zijn. Ten eerste “het vermogen van de VS om zich te verdedigen tegen grote cyberaanvallen”, met name tegen aanvallen die het elektriciteitsnet van het land zouden kunnen uitschakelen.

Ten tweede is bioveiligheid een gebied waarop AI kan helpen.

“Ik denk niet dat we op dit moment voldoende voorbereid zijn om de dreiging van een nieuwe pandemie op te sporen en erop te reageren”, zei Altman.