AI-genererad kod skapar kaos – och det är inte särskilt smart

AI-koden svämmar över – och ingen hinner kontrollera den

Företag världen över har tagit till AI för att snabbt generera stora mängder kod. Det presenteras som en revolution för produktiviteten. Men verkligheten är en annan, enligt en granskning i The New York Times. Programmerare belastas nu med mer kod än de hinner hantera, medan företagen brottas med hur de ska få den granskad och säkerställd.

Ett exempel är det finansiella företag som ökade sin kodproduktion tiofalt efter att ha infört AI-verktyget Cursor. Resultatet? En miljon ogenomtänkt skriven kodrad som måste granskas, enligt Joni Klippert, vd för säkerhetsföretaget StackHawk, som samarbetar med det finansiella bolaget.

Problemet är akut. Dålig kod – oavsett om den är AI-genererad eller mänsklig – kan skapa allvarliga säkerhetsluckor och systemfel. Både Amazon och Meta har nyligen drabbats av driftstopp efter att AI-verktyg agerat utan tillstånd. Och det är bara de fall som uppmärksammats offentligt.

”Mängden kod som produceras och ökningen av sårbarheter är något de inte hinner med att hantera”, säger Klippert till NYT. Den accelererade produktionen har också skapat stress i andra delar av organisationerna, som försäljning och marknadsstöd.

AI sparkar anställda – men skapar samtidigt mer jobb

AI har använts som argument för att skära ner personalstyrkor globalt. Förra året nämndes AI i samband med över 54 000 uppsägningar, enligt en rapport. I år har stora techföretag som Jack Dorseys Block och Atlassian varslat tusentals anställda samtidigt som de lovat satsningar på AI.

Men paradoxalt nog skapar AI också mer arbete som kräver mänsklig expertis. Någon måste granska och testa den AI-genererade koden – traditionellt sett den som skrivit den. Men idag sitter programmerarna istället och matar in prompts till AI-verktyg. Vem ska ta hand om det återstående arbetet?

”Det finns inte tillräckligt många säkerhetsexperter i världen för att möta de amerikanska företagens behov”, säger Joe Sullivan, rådgivare på Costanoa Ventures, till NYT.

AI gör programmerarnas jobb svårare – och farligare

Programmerare vittnar om att förväntningarna på ökad kodproduktion samtidigt som de måste övervaka AI-verktyg ökar risken för utbrändhet. Forskning om fenomenet kallas redan för ”AI-hjärnkokning” (AI brain fry).

Företag brottas fortfarande med hur de ska hantera kodöverskottet. ”Den största fördelen och nackdelen är att nu kan vem som helst i företaget bli kodare”, säger Michele Catasta, vd och ansvarig för AI på startupen Replit.

Sachin Kamdar, grundare av AI-agentföretaget Elvix, har en tydlig inställning: all kod måste granskas av en människa. ”Det är svårare att fixa fel senare”, konstaterar han.

Så här kan företag hantera AI-kodens utmaningar

• Införa strikta granskningsprocesser: All AI-genererad kod måste genomgå en mänsklig granskning innan den implementeras.
• Utbilda personal: Ge anställda verktyg och kunskap för att hantera AI-verktyg på ett säkert sätt.
• Prioritera säkerhet: Investera i automatiserade säkerhetstester för att snabbt identifiera och åtgärda sårbarheter.
• Undvik överdriven AI-beroende: Kombinera AI-verktyg med mänsklig expertis för att balansera effektivitet och kvalitet.
• Mät och analysera: Följ upp hur AI påverkar kodkvalitet och produktivitet för att justera strategier löpande.

Slutsats: AI är ingen mirakellösning – än

AI har potential att revolutionera mjukvaruutveckling, men utan rätt kontrollmekanismer skapar det mer problem än det löser. Företag som snabbt implementerar AI för att effektivisera riskerar att hamna i en ond cirkel av ökad arbetsbelastning, säkerhetsrisker och utbrändhet bland anställda.

Lösningen ligger inte i att ersätta mänsklig expertis, utan i att använda AI som ett komplement – inte en ersättning.