- Sam Altman dringt er bij de regering en Anthropic op aan om de spanningen weg te nemen en samen te werken op het gebied van AI-beheer
- Hij stelt dat regeringen de macht moeten behouden over AI en nationale veiligheidsbeslissingen
- Hij zei dat hij de regering nog steeds grotendeels vertrouwt, maar accepteert dat velen dat niet doen
De relatie tussen Anthropic en de Amerikaanse regering is een buitengewoon brandpunt geworden in de bredere strijd om de regulering en controle van AI. Het escalerende geschil begon toen de onderhandelingen met het Pentagon over de manier waarop de AI-modellen van Claude Anthropic konden worden gebruikt, mislukten vanwege de weigering van het bedrijf om de bescherming tegen volledig autonome wapens of massaal binnenlands toezicht op te heffen.
De reactie van Washington, waaronder uitvoerende richtlijnen die federale agentschappen verbieden om antropische technologie te gebruiken en het bedrijf bestempelen als een ’toeleveringsketenrisico’, leidde tot rechtszaken wegens schending van de grondwet, en een federale rechter heeft sindsdien de actie van het Pentagon tijdelijk geblokkeerd.
OpenAI-CEO Sam Altman lijkt afstemming aan beide kanten van het argument noodzakelijk te achten.
Artikel gaat hieronder verder
“Vind een manier om samen te werken, zoals stoppen, stop dingen aan beide kanten, stop de escalatie aan beide kanten en vind een manier om samen te werken”, zei Altman in een interview met Laurie Segall.
AI-beveiligingseisen
AI-bedrijven hebben het potentieel van de technologie op gebieden als de nationale veiligheid vergroot, ook al lobbyen ze voor een klein regelgevend tintje. Altman kwam blijkbaar tot de conclusie dat bedrijven niet beide konden doen. Als AI de geopolitieke gevolgen heeft waarvan iedereen zegt dat het die zal hebben, dan zullen regeringen hierbij hulp nodig hebben.
“Ik denk niet dat het nuttig is voor onze industrie om te zeggen: Hé, dit is de krachtigste technologie die de mensheid ooit heeft gecreëerd,” zei Altman. “Dit zal het allerbelangrijkste zijn in de geopolitiek. Dit zal het grootste cyberwapen zijn dat de wereld ooit heeft gemaakt. Weet je, dit zal de game changer zijn voor toekomstige oorlogen en bescherming. En we gaan het je niet geven.”
Of het publiek zich er prettig bij voelt dat de overheid zulke belangrijke technologie controleert, is natuurlijk een andere vraag. Altman zei dat hij nog steeds sterk gelooft in het systeem van checks and balances, hoewel hij erkende dat veel mensen tegenwoordig “de overheid niet echt vertrouwen om de wet te volgen.”
Dit is een prominente positie vergeleken met sommige AI-leiders die wantrouwiger staan tegenover de overheid. Volgens hem zou het echter een vergissing zijn om de regering niet te helpen op het gebied van de nationale veiligheid, vooral op het gebied van de cyberinfrastructuur.
“Ik denk dat we moeten samenwerken met de overheid, maar de intensiteit van het wantrouwen dat er nu heerst, heeft ervoor gezorgd dat ik verkeerd gekalibreerd ben en daar begrijp ik nu iets van”, zei hij.
Vertrouw op AI-controle
In wezen willen Altman en anderen die met hem verbonden zijn, samenwerken met de overheid, zelfs nu het publieke wantrouwen tegen AI-misbruik groeit.
“Een van de belangrijkste vragen die de wereld het komende jaar zal moeten beantwoorden is: zijn AI-bedrijven of overheden machtiger? En ik denk dat het erg belangrijk is dat regeringen meer macht hebben”, aldus Altman. “De toekomst van de wereld en beslissingen over de belangrijkste elementen van de nationale veiligheid moeten worden genomen via een democratisch gekozen proces. En de mensen die zijn aangesteld om deel uit te maken van dat proces, niet ik, en niet de CEO’s van andere laboratoria.”
Altman keert terug naar de vraag hoe de kracht van AI sneller groeit dan instellingen, overheden of de meeste mensen kunnen kalibreren. Deze systemen worden steeds capabeler en hun potentieel voor misbruik neemt toe.
De inzet wordt steeds hoger en serieuzer. De grote strijd tussen degenen die geacht worden veilige regelgeving te ontwerpen en de bedrijven, althans theoretisch, die de technologie in een ethische richting proberen te sturen, is een enorm probleem.
Een diplomatieke houding die de oproepen van tegengestelde partijen negeert om “manieren te vinden om samen te werken” zal het probleem waarschijnlijk niet oplossen. Het betekent echter in ieder geval dat Altman wist dat het antwoord niet duidelijk zou zijn, ook al formuleerde hij het als een verzoek aan ChatGPT.
Volg TechRadar op Google Nieuws En voeg ons toe als voorkeursbron om nieuws, recensies en onze deskundige meningen in uw feed te krijgen. Klik dan zeker op de knop Volgen!
En jij kunt dat natuurlijk ook Volg TechRadar op TikTok voor nieuws, recensies, unboxings in videovorm en ontvang regelmatig updates van ons Wat is het Ook.
