Een spanning die zelfs in de meest op veiligheid gerichte AI-industrie voorkomt: principe of winst?
OpenAI, een toonaangevende AI-startup, is opgericht om kunstmatige intelligentie te bouwen waar de hele mensheid profijt van heeft. Veel AI-waarnemers en voormalige werknemers twijfelen echter aan de toewijding ervan aan de missie haasten om inkomsten te genereren om grote investeringen in het bedrijf te rechtvaardigen.
Anthropic, een van de belangrijkste concurrenten van OpenAI, werd opgericht door voormalige OpenAI-medewerkers die zich zorgen maakten over waargenomen afwijkingen van de missie. Ze proberen een AI-bedrijf te runnen dat zich boven alles op veiligheid richt.
Zelfs Anthropic heeft moeite om op het goede spoor te blijven.
Antropische CEO Dario Amodei zei dat zijn bedrijf onder enorme druk stond om zijn verplichtingen na te komen potentiële AI-risico’s te beperken en toch winst te genereren.
“We staan onder enorme commerciële druk en we maken het onszelf moeilijker omdat we alle veiligheidszaken hebben die we doen, wat we volgens mij meer doen dan andere bedrijven”, zei Amodei in een recente aflevering van de “Dwarkesh”-podcast.
Vorige week kondigde Anthropic, dat pas vijf jaar geleden werd gelanceerd, een Series G-financieringsronde van $30 miljard aan met een post-money waardering van $380 miljard, waardoor het een van de meest waardevolle particuliere bedrijven ter wereld is.
In zijn persbericht benadrukte het bedrijf de omzetgroei.
“Het is minder dan drie jaar geleden dat Anthropic zijn eerste dollar aan inkomsten verdiende”, aldus het bedrijf. “Vandaag bedraagt onze gemiddelde omzet $14 miljard, waarbij dit cijfer de afgelopen drie jaar meer dan tien keer per jaar is gegroeid.”
Een dergelijke groei gaat vaak gepaard met stijgende verwachtingen.
“De druk om economisch te overleven met behoud van onze waarden is ongelooflijk”, zei Amodei in de podcast. “We proberen deze omzetcurve van 10x te handhaven.”
Amodei is de voormalige vice-president van onderzoek van OpenAI, gericht op veiligheid. Hij richtte Anthropic in 2021 op samen met zijn zus, Daniela Amodei, en vijf andere voormalige OpenAI-medewerkers, gedreven door de wens om prioriteit te geven aan veiligheid naarmate AI-systemen geavanceerder worden.
Amodei is niet de enige die zegt dat de missie van Anthropic moeilijk vol te houden is naarmate het bedrijf groeit. Mrinank Sharma, een voormalig veiligheidsonderzoeker bij Anthropic, zei vorige week dat hij ontslag nam vanwege de spanning.
“Gedurende mijn tijd hier heb ik keer op keer gezien hoe moeilijk het is om waarden onze daden te laten dicteren”, schreef Sharma in zijn ontslagbriefhij deelde op
Zelfs in bedrijven die geen basis-AI-modellen ontwikkelen, belooft een verantwoorde implementatie van AI vaak geen efficiëntie en hogere winsten.
Verantwoordelijk gebruik van AI op de werkvloer gaat “niet zo snel als het zou moeten zijn”, vertelde Tad Roselund, managing director en senior partner bij Boston Consulting Group, in 2024 aan Business Insider.
Hetzelfde geldt voor het hele durfkapitaalecosysteem.
“De durfkapitaalomgeving weerspiegelt ook een onevenredige focus op AI-innovatie versus AI-governance”, vertelde Navrina Singh, oprichter en CEO van AI-governanceplatform Credo AI in 2024 aan Business Insider. “Om AI op een verantwoorde schaal en in een verantwoord tempo te adopteren, moet gelijke nadruk worden gelegd op het ethische raamwerk, de infrastructuur en de hulpmiddelen om een duurzame en verantwoorde integratie van AI in alle sectoren te garanderen.”
