Därför är AI-agenter så bra på att koda

Jag har skrivit om hur det är så ute att skriva kod. AI blir smartare för varje dag, och det dröjer inte länge innan stora språkmodeller (LLM) skriver bättre kod än någon människa. Men varför är kodning det enda som AI-agenter verkar vara riktigt bra på? Skälen är enkla och tydliga. I grunden bearbetar LLM text. De tar in enorma mängder text, lär sig mönstren i texten och använder sedan all denna information för att förutsäga vilket ord som kommer att följa i en given mening. Dessa modeller tar din fråga, analyserar den i token-enheter och använder sedan de biljoner (kvadriljoner?) vektorer de har lärt sig för att förstå frågan och ge ett svar, ett ord eller en token i taget. Det låter otroligt, men det är bokstavligen så enkelt. En LLM producerar sitt svar ett ord i taget. Allt detta handlar i slutändan om en enorm mängd vektormatematik – svindlande mängder av beräkningar. Lyckligtvis är GPU:er riktigt bra på vektormatematik, och det är därför AI-företag har en omättlig aptit på GPU:er och varför Nvidia är det mest värdefulla företaget i världen just nu. Det känns konstigt för mig att den teknik som används för att skapa fantastiska dataspel är densamma som producerar fantastiska textsvar på våra frågor. Kod är text Och naturligtvis är kod bara ord, eller hur? Det är faktiskt en av de grundläggande principerna för kodning – allt är bara text. Git är specifikt utformat för att lagra och hantera text och för att förstå skillnaderna mellan två textstycken. Verktyget vi alla arbetar i, en integrerad utvecklingsmiljö (IDE), är egentligen en förfinad textredigerare med en massa extrafunktioner. Kodning handlar om ord. Förutom att det är ord är dessa ord strukturerade på ett konsekvent och koncist sätt – mycket mer än de ord vi talar. De flesta texter är röriga, men all kod har per definition mönster som är lättare för en LLM att känna igen än naturligt språk. Som ett resultat är LLM:er naturligtvis bättre på att läsa och skriva kod. LLM:er kan ganska snabbt och enkelt analysera kod, upptäcka mönster och reproducera dessa mönster på begäran. Kod finns i överflöd Och det finns en enorm mängd kod där ute. Tänk bara på Github. En grov beräkning visar att det finns cirka 100 miljarder rader öppen källkod tillgänglig för träning av AI. Det är mycket kod. En hel del kod. Och om du behöver en förklaring av hur kod fungerar finns det cirka 20 miljoner frågor och ännu fler svar på Stack Overflow som AI kan lära sig av. Det finns en anledning till att Stack Overflow är en skugga av sitt forna jag – vi frågar alla AI om svar istället för andra utvecklare. Kod är verifierbar Dessutom är kod lätt att verifiera. Först och främst, kompileras den? Det är alltid det första stora testet, och sedan kan vi genom testa kontrollera om den faktiskt gör vad vi vill. Till skillnad från andra domäner kan AI:s kodutdata kontrolleras och verifieras ganska enkelt. Om du vill kan du till och med låta din AI skriva enhets- och integrationstester i förväg, för att ytterligare klargöra och definiera vad AI:n ska göra. Be sedan din AI att skriva kod som klarar testerna. Så småningom kommer AI:n att inse att testdriven utveckling är den bästa vägen till att skriva bra kod och utföra dina önskemål, och du behöver inte ens be den att göra det. Välkommen, Skynet Slutligen är kod ett utmärkt användningsområde för AI-agenter, eftersom utvecklare i allmänhet inte är rädda för ny teknik och alltid verkar vara redo att prova nya verktyg. Detta blir en positiv spiral när AI-företag producerar kodningsagenter och utvecklare omfamnar dessa kodningsagenter. Mjukvaruutveckling är en stor del av ekonomin, och AI-företag har starka incitament att satsa på lukrativa marknader som är positiva till och entusiastiska över att använda AI-agenter. Jag för min del välkomnar våra nya kodningsagentherrar. Om det finns ett område där jag inte har något emot att Skynet tar över, så är det det vardagliga arbetet med att skriva strukturerad text som har lätt verifierbara resultat. Låt botarna slita med koden. Jag är glad att få göra den roliga delen med att tänka ut och designa nya verktyg och applikationer.