Hij hielp bij het bouwen van enkele van de krachtigste AI-systemen ter wereld. Nu heeft hij de stekker uit het stopcontact gehaald.
Een voormalig OpenAI- en xAI-medewerker zei dat het razend tempo in toonaangevende AI-laboratoria hem uitgeput maakte en dat hij naar huis ging in Vietnam om te herstellen.
Hieu Pham kondigde donderdag zijn vertrek bij OpenAI aan in een post op X, waarin hij zijn tijd bij OpenAI en xAI omschreef als een ‘once-in-a-lifetime ervaring’.
“Bij deze bedrijven heb ik geholpen ongelooflijk intelligente entiteiten te creëren die ons leven op betekenisvolle wijze zullen verbeteren. Dit werk maakt me trots”, schreef hij.
De intensiteit van het werk eiste een persoonlijke tol, voegde hij eraan toe.
“Ik kan niet geloven dat ik dit op een dag ga zeggen, maar ik ben uitgeput”, zei Pham.
“Alle tegenslagen op het gebied van de geestelijke gezondheid waar ik de spot mee dreef, zijn reëel, verdrietig, beangstigend en gevaarlijk”, voegde hij eraan toe.
Pham startte xAI in augustus 2024, voordat hij in augustus vorig jaar overstapte naar OpenAI. Volgens zijn LinkedIn-profiel werkte hij vóór de aankondiging van donderdag ongeveer 7 maanden bij OpenAI.
Pham zei dat hij met zijn gezin zou terugkeren naar zijn geboorteland Vietnam.
Daar is hij van plan “iets nieuws te proberen, en ook een remedie voor mijn aandoening te vinden”, zei hij.
“Hopelijk kan ik herstellen. Tot die tijd”, voegde hij eraan toe.
Een golf van ontslag
Het vertrek van Pham kwam als een serie AI-onderzoeker blijf uit de buurt van grenslaboratoria.
Eerder deze maand kondigde Mrinank Sharma, die leiding gaf aan het Safeguards Research Team bij Anthropic, zijn vertrek uit het bedrijf aan.
“Het lijkt erop dat we een drempel naderen waarop onze wijsheid moet groeien in verhouding tot ons vermogen om de wereld te beïnvloeden, anders zullen we de gevolgen onder ogen zien”, schreef Sharma in zijn brief aan X.
“Gedurende mijn tijd hier heb ik keer op keer gezien hoe moeilijk het is om onze waarden onze daden te laten dicteren.”
Jacob Silverman van Business Insider meldde eerder deze maand dat er een patroon was waarin vooraanstaande onderzoekers afstand namen en openlijk worstelden met hun ongemak over de technologie die zij hielpen bouwen.
Scandinavische Dylandie eerder deze maand Anthropic verliet om zich bij OpenAI aan te sluiten als hoofd paraatheid, schreef op LinkedIn: “AI maakt snel vorderingen. De potentiële voordelen zijn enorm – net als de risico’s van extreme en zelfs onomkeerbare schade.”
Sommige AI-onderzoekers zeggen ook dat de industrie begint te lijken op het beroemde Chinese ‘996’-schema – een afkorting voor werken van 9.00 uur tot 21.00 uur, zes dagen per week.
Nathan Lambert, een senior onderzoeker bij het Allen Institute for AI, zei in een aflevering van de “Lex Fridman Podcast” die deze maand werd gepubliceerd dat een dergelijke intensiteit de norm is geworden bij bedrijven als OpenAI en Anthropic.
“Dat is hoe OpenAI en Anthropic zijn,” zei Lambert, die een cultuur van hoge druk beschrijft waarin lange uren vaak alleen worden gemaakt. Veel werknemers, vooral programmeurs, zijn het daarmee eens omdat ze het werk willen doen, voegde hij eraan toe.
