Nogmaals hallo, en welkom terug Snel bedrijf‘S Aangesloten.
Blogpost van 9 februari over AIgerechtigd “Er gebeurt iets groots”, schoot deze week over het internet op een manier die me deed denken aan de gouden eeuw van bloggen. Elke persoon het leek alsof ze erover praatten – hoewel, zoals in het verleden vaak is gebeurd, de viraliteit ervan werd aangewakkerd door een krachtige mix van bewondering en spot. De reacties varieerden van “Stuur dit naar iedereen van wie je houdt” tot “Ik heb dit helemaal niet gekocht.”
De auteur, Matt Shumer (die zijn bericht de volgende dag op X deelde), is de CEO van een startup genaamd OthersideAI. Hij legde uit dat hij dit ter sprake had gebracht bij “mijn familie, mijn vrienden, mensen om wie ik geef, die mij steeds maar vragen: ‘Wat is er zo erg aan AI?’ en een oneerlijk antwoord krijgen op wat er werkelijk is gebeurd.
Volgens Shumer is de deal met AI dat de nieuwste modellen – vooral OpenAI’s Codex GPT-5.3 en Anthropic’s Claude Opus 4.6 – radicale verbeteringen zijn ten opzichte van alles wat eerder kwam. En AI is plotseling zo bekwaam geworden in het schrijven van code dat de hele software-engineering een nieuw tijdperk is binnengegaan. En AI zal binnenkort beter zijn dan mensen in kernbanen in een verscheidenheid aan andere beroepen: “Rechten, financiën, geneeskunde, boekhouding, advies, schrijven, ontwerp, analyse, klantenservice.”
Aan het einde van de post, met kortademigheid die me aan doet denken schepper van de Y2K-bug-apocalyps van 1999Shumer adviseert lezers om te sparen, schulden te minimaliseren en hun kinderen misschien aan te moedigen om AI-experts te worden in plaats van zich te concentreren op de universiteit, in de hoop dat dit tot een solide carrière zal leiden. Hij suggereerde dat iedereen die de komende zes maanden geen AI ontwikkelt, waarschijnlijk als irrelevant zal worden beschouwd.
De snit – die van Shumer op de hoogte gebracht New YorkBenjamin Hart schreef het met veel hulp van AI – niet zonder betekenis. Sommige mensen die zich vandaag de dag vervelen met AI zullen zeker verrast zijn door de impact ervan op werk en leven in de komende jaren. Daarom ondersteun ik van harte de aanbeveling van Shumer dat iedereen deze technologie beter leert kennen door er een uur per dag mee te spelen. Veel slimme mensen in Silicon Valley delen de bewondering van Shumer voor de recente enorme sprong voorwaarts in codeervaardigheden van AI, waarvan ik denk dat schreef over afgelopen week. Je afvragen wat er zou gebeuren als dit op andere gebieden zou worden herhaald, is een volkomen redelijke mentale oefening.
Uiteindelijk zou Shumer echter een veel betere zaak hebben gehad als hij zichzelf niet met 70% had overschat. (Ik moet opmerken dat hij de laatste keer dat hij in het nieuws was een claim maakte over de benchmarkprestaties van een AI-model waarbij hij betrokken was. het bleek niet waar te zijn.) Zijn post vertoont een veel voorkomende tekortkoming in gesprekken over AI: ze zijn zo gefascineerd door de technologie dat ze weigeren de ernstige beperkingen te erkennen die deze nog steeds heeft.
Shumer stelt bijvoorbeeld dat hallucinaties – AI die reeksen woorden aan elkaar rijgt die feitelijk klinken maar dat niet zijn – een opgelost probleem zijn. Hij schreef dat ChatGPT nog maar een paar jaar geleden “vol vertrouwen dingen zei die nergens op sloegen” en “in het tijdperk van AI is dat eeuwenoude geschiedenis.”
Het is waar dat het nieuwste model geen illusies heeft over het verlaten van zijn voorganger. Maar ze zijn het nog steeds aan het verzinnen. En in tegenstelling tot eerdere modellen klinken hun hallucinaties eerder plausibel dan belachelijk, wat een stap in de verkeerde richting is.
Dezelfde dag dat ik het werk van Shumer las, praatte ik met Claude Opus 4.6 over krantenstrips – een onderwerp dat ik vaak gebruik om AI te beoordelen omdat ik er genoeg van weet om reacties snel te kunnen beoordelen – en het blijkt dat heel slecht over het associëren van cartoonisten met de strips waaraan ze daadwerkelijk werken. Hoe meer we praatten, hoe minder accuraat het werd. Ze blinken in ieder geval uit in het toegeven van hun fouten: toen ik ze erop wees, zeiden ze tegen me: “Dus eigenlijk heb ik stukjes echte informatie door elkaar gegooid en gepresenteerd met vals vertrouwen. Niet goed.”
Nadat hij mijn stripgerelateerde vragen had verijdeld, zei Claude: ‘Ik begeef me hier eigenlijk op een wankel terrein en heb wat details door elkaar gehaald’, en vroeg me hem te helpen in de goede richting te sturen. Het is een interessant sprankje zelfbewustzijn over zijn voorliefde voor fantaseren, en een soort vooruitgang. Maar totdat AI stopt met deze onzin, is het belachelijk om het te omschrijven als ‘slimmer dan de meeste PhD’s’, zoals Shumer doet. (Dat blijf ik geloven menselijke capaciteiten zijn geen goede maatstaf voor AIdie in sommige opzichten al beter zijn dan wij en in andere opzichten permanent achter kunnen blijven.)
Shumer is ook te snel met het maken van aannames over de toekomstige positie van AI op de korte termijn, wanneer het het menselijke denken en werken kan vervangen. Toen hij schreef over de soorten complexe werktaken waarvoor hij aanbeveelt om met AI te experimenteren, zei hij: “Als dat zo is liever vandaag de dag werkt, kun je er bijna zeker van zijn dat dit systeem over zes maanden perfect zal werken.” Dit lijkt hoogst onwaarschijnlijk, aangezien alle soorten generatieve AI verstrikt zijn geraakt in de ‘GoedEen goede vuistregel: geloof niet dat een AI iets goed kan, totdat hij het ook daadwerkelijk kan.
Uiteindelijk was de conclusie uit de post van Shumer die ik me het meest herinner niets van wat hij schreef. In de geest van AI-experimenten heb ik het artikel ingediend bij ChatGPT, Gemini en Claude met de boodschap “Geef me een analyse/kritiek op dit essay. Laat me weten of het te voorzichtig is, niet zorgvuldig genoeg, wat je vindt van de besproken onderwerpen, enz.” Ik was erop voorbereid dat ze allemaal zouden reageren met iets eenvoudigs maar oppervlakkigs, meer een samenvatting van opsommingen dan iets anders. ChatGPT en Gemini maken deze verwachtingen waar.
Claude ging echter verder met het onderwerp, dat binnen enkele seconden ter sprake kwam, en dat kan ook lees hier meer– verraste mij. Het gaat in op enkele van dezelfde dingen in het werk die mij storen, maar het brengt ook andere tekortkomingen aan het licht waar ik nog niet aan had gedacht. Ik voelde me slimmer nadat ik het had gelezen, en dit is iets wat ik nog steeds niet verwacht van AI-proza.
Enkele goudklompjes:
Codering is een uniek domein dat de voorkeur geeft aan AI: de output is verifieerbaar, de feedbackloop is strak, de trainingsgegevens zijn overvloedig en de omgeving is volledig digitaal. Advocaten, geneeskunde en management brengen kwalitatief verschillende dubbelzinnigheden, institutionele contexten, menselijke relaties, regelgevende verantwoordelijkheid en vijandige dynamiek met zich mee. Hij erkende dit even en haalde toen zijn schouders op.
….
Ja, veel mensen hebben GPT-3.5 geprobeerd en het hele veld verwijderd. Dat is een reëel probleem. Toch worden veel serieuze gebruikers vandaag de dag – inclusief mensen die voor de beste modellen betalen – nog steeds geconfronteerd met aanzienlijke beperkingen: hallucinaties (verminderd maar niet geëlimineerd), kwetsbaarheid bij nieuwe problemen, onvermogen om een samenhangende context over zeer lange projecten te behouden, slechte kalibratie van de eigen onzekerheden, en moeilijkheden bij taken die verankering in de echte wereld vereisen. Shumer beschouwt alle scepticisme als achterhaald en intellectueel oneerlijk.
….
Hij gaat ook niet serieus in op de mogelijkheid dat economische prikkels niet zo soepel zullen werken als “AI zijn werk kan doen, dus die banen verdwijnen.” Adoptiewrijving is reëel. Zorgen over aansprakelijkheid zijn reëel. Organisatorische inertie is reëel. De geschiedenis van de technologie laat zien dat zelfs transformatieve instrumenten meer tijd nodig hebben om industrieën te herstructureren dan pure capaciteitstijdlijnen. Het kostte elektriciteit tientallen jaren om de productie opnieuw vorm te geven, zelfs nadat de productie ervan duidelijk superieur was aan stoom.
…
Ik denk dat de onderliggende signalen die Shumer laat zien reëel zijn. De mogelijkheden van AI ontwikkelen zich sneller dan de meeste mensen buiten de sector verwachten, en de kloof tussen de publieke perceptie en de realiteit is momenteel enorm. Hij heeft gelijk als hij zegt dat de meeste mensen deze hulpmiddelen serieuzer moeten nemen dan voorheen.
Maar ik denk dat het essay doet wat maar al te vaak voorkomt in Silicon Valley: misverstanden potentieel traject voor kan niet worden vermeden traject, en het comprimeren van tijdlijnen op basis van trillingen en extrapolatie in plaats van serieus te worstelen met de vele fricties in de echte wereld die de adoptie vertragen. Het stuk leest alsof het onmiddellijk is geschreven nadat je onder de indruk was geraakt van de release van een nieuw model – en die momenten hebben de neiging om een gevoel van snelheid en overmoed te veroorzaken.
Om samen te vatten: diezelfde dag ontdekte ik dat Claude Opus 4.6 iets schreef over het werk van Shumer dat niet alleen coherent maar verhelderend was, maar ook hallucinogeen bleek te zijn. Dat is hoe AI vandaag de dag is: zowel geweldig als verschrikkelijk. Dit feit is voor veel waarnemers moeilijk te aanvaarden. Maar elke analyse die dit negeert, riskeert een verkeerde inschatting van wat er daarna gebeurt.
Je hebt gelezen Geïnstalleerd, snel bedrijfWekelijkse technologienieuwsbrief van mij, mondiaal technologieredacteur Harry McCracken. Als een vriend of collega dit probleem naar u doorstuurt (of als u het op fastcompany.com leest), kunt u dat doen bekijk eerdere uitgaven en meld u aan om het zelf te krijgen elke vrijdagochtend. Ik hoor graag wat je ervan vindt: Stuur mij een bericht hmccracken@fastcompany.com met uw input en ideeën voor toekomstige nieuwsbrieven. Ik kom ook blauwe lucht, mastodontenEn draaden dat kan volgen Aangesloten op Flipboard.
Nog een toptechverhaal van Fast Company
Ontwikkelaars wegen nog steeds de voor- en nadelen van AI-codeermiddelen af
Deze tools blijven moeite hebben met het verwerken van grote hoeveelheden context in complexe projecten. Lees verder →
AI-expert voorspelt dat AI in 2027 een einde zal maken aan de mensheid – nu verandert hij de tijdlijn
Voormalige OpenAI-medewerkers hebben het einde van de wereld verplaatst. Lees verder →
Discord vraagt om je identiteitsbewijs. De reactie gaat over meer dan alleen privacy
Critici zeggen dat verplichte leeftijdsverificatie een diepere verschuiving weerspiegelt in de richting van routinematige identiteitscontroles en digitale surveillance. Lees verder →
Mede-oprichter van Palantir steunt de groep die Alex Bores aanvalt vanwege zijn werk met . . . Palantir
Huidige en voormalige werknemers vertelden Fast Company dat de advertentiecampagne werd aangestuurd door verzet tegen de steun van de Democratische kandidaten voor AI-regulering. Lees verder →
De nieuwe profielanimatiefunctie van Facebook is een Boomerang voor het AI-tijdperk
Deze functie maakt deel uit van een bredere drang naar AI-inhoud in meta-apps. Lees verder →
Het zakenimperium van MrBeast omvat niet alleen virale video’s op YouTube
Bankapps, snacks, streaminghits en datatools maken allemaal deel uit van Jimmy Donaldsons groeiende portefeuille van $ 5 miljard onder Beast Industries. Lees verder →
