Dit veelzeggende essay is gebaseerd op een gesprek met Anni Chen, die ongeveer drieënhalf jaar bij Amazon-software-engineering heeft gewerkt. Dit is bewerkt voor lengte en duidelijkheid. Business Insider heeft zijn arbeidsverleden geverifieerd.
AI helpt me bij het coderen, maar wat nog belangrijker is, het helpt om er producten van te maken. Het was de combinatie van het begrijpen van AI en het vertalen ervan naar een schaalbaar product dat ervoor zorgde dat ik sneller promotie maakte.
Ik ben in 2022 begonnen als Software Engineer I, een instaprol. Ik zat in het aanbevelingsteam en werkte aan het aanbieden van aanbevelingswidgets.
Ongeveer twee jaar geleden begon ik te werken aan een AI-bijproduct. Het werd groot en werd uiteindelijk ondergebracht in een eigen team, waarvan ik de oprichtende ingenieur was.
Ik werd gepromoveerd in het aanbevelingsteam tot Software Engineer II, en daarna werd ik gepromoveerd in het huidige team tot senior engineer.
Ik concentreer me op wat wij geheugen noemen, namelijk personalisatie van macht in generatieve AI-ervaringen op Amazon.
AI schreef 95% van mijn code
Ik begon AI als bijproject te gebruiken om pakkende titels voor aanbevelingswidgets te genereren toen ChatGPT en Claude langskwamen. Ik zag hoe krachtig het was om iets echt creatiefs te produceren.
Ik begon te denken: elke keer als ik een vraag heb of iets wil coderen, zal ik eerst de AI om hulp vragen voordat ik het probeer.
Ik zag dat de oplossing die naar voren kwam het verbeteren van mijn eigen code was, en dit hielp me ook om meer te coderen. Nu zou ik zeggen dat bijna 95% van de code die ik schrijf, door AI is geschreven.
Ik gebruik niet alleen AI om te coderen; Ik integreer ook AI-output in het product. Ik heb een diep begrip nodig hoe AI werktwelke werken, en welke niet.
Ik moet open en ontvankelijk zijn voor nieuwe modellen en hulpmiddelen die kunnen helpen het product te herhalen en het product te verbeteren.
Ik werk als technisch leider op grootschalige LLM-gebaseerde systemen in productieomgevingen, dus ik heb een plek op de eerste rij om te zien hoe AI-ondersteunde workflows zich gedragen, niet alleen in prototypes maar ook op echte schaal en samenwerking tussen teams.
Toptips voor trillingscodering
De eerste tip is om te begrijpen hoe LLM’s werken en waar ze mogelijk falen.
LLM’s zijn vooraf getraind: ze zijn getraind op grote corpora, en het zijn probabilistische spellen. Daarna volgt een begeleide verfijning, zodat het model antwoord geeft op basis van de vraagstructuur en het antwoordformaat. Ten slotte wordt het gevolgd door RLHF: versterkend leren van menselijke feedback.
Door deze drie stappen te begrijpen, kunt u bijvoorbeeld zien wanneer een LLM niet begrijpt waar u het over heeft, en wanneer een LLM domeinkennis van u nodig heeft. U weet wanneer u een nieuw venster moet gebruiken of waarom hallucinaties optreden.
Door begrip zijn beperkingen vanuit het contextvenster weet u wanneer u problemen moet oplossen. Je leert hoe je een structuur volgt om dingen op te splitsen naar lagere niveaus, en dan concentreer je je langzaam op elk onderdeel en produceer je het.
Door de innerlijke werking te begrijpen, weet je ook dat je dingen moet uitleggen aan collega’s. Als u niet in detail gaat, zullen al deze aannames standaard de meest voorkomende patronen volgen, maar passen ze mogelijk niet bij uw gebruiksscenario.
Mijn tweede tip: Denk na voordat je trillingen codeert.
Als u eerst het antwoord controleert, worden uw gedachten beïnvloed door het antwoord. Vergelijk uw denken met de LLM en zie de hiaten: wat u niet weet en waarom de antwoorden verschillend zijn. Van daaruit weet u welke impliciete aannames u niet aan de LLM hebt overgebracht.
Ten derde: stel lastige vragen. Stel vragen als: wat is een terugval als er iets misgaat, of hoe schaalt dit? Dit is hetzelfde als een leraar die een leerling vraagt, of een senior ingenieur die een junior ingenieur vraagt om ervoor te zorgen dat de moeilijke gevallen worden behandeld. Als je wilt dat het product opschaalt, denk er dan vanaf de eerste dag over na en wees je bewust van het stellen van die schaalvragen.
Ten slotte: bekijk en begrijp. Controleer altijd bij elke stap, in plaats van alleen maar te beoordelen nadat alle code is gemaakt. Dit zorgt ervoor dat de fout vroegtijdig stopt in plaats van door te gaan tot het einde, waardoor u de hele zaak opnieuw moet doen.
Het genereren van onjuiste code is zeer gevaarlijk. De aanwezigheid van code doet mensen denken: “Oké, dit is goed, het werkt.” Maar de code klopt niet productie ingaan kan meer schade veroorzaken dan gebrek aan functionaliteit.
Het begrijpen van code is nog steeds belangrijk
Je moet het begrijpen uw eigen code. AI verlaagt de barrière bij het schrijven van code, maar niet de verantwoordelijkheid om deze te begrijpen.
Als er een fout optreedt en de code door u wordt ingevoerd, bent u verantwoordelijk.
Stel je voor dat je code kapot gaat in de productie, en je moet het repareren, en je zegt: “Ik weet het ook niet, de AI heeft het me verteld.” Dat is niet de juiste manier.
Ik denk niet dat we AI zulke risicovolle taken nog kunnen toevertrouwen.
Begrijpen wordt gemakkelijker met AI, omdat het ook een perfecte leermogelijkheid is. U kunt eenvoudigweg een ander venster openen en hem vragen het concept uit te leggen.
Als je in hetzelfde venster vraagt wat het oplevert, wordt het alleen in die context uitgelegd. Maar je wilt het concept algemener begrijpen en kijken of het zinvol is om het in dit geval toe te passen.
Heeft u een verhaal te delen over coderen met AI? Neem contact op met deze verslaggever via cmlee@businessinsider.com.
