AI-genererade appar läcker känsliga användardata – säkerhetsbristerna är allvarliga

AI:s snabba genombrott skapar osäkra appar

Sedan ChatGPT lanserades 2022 har artificiell intelligens förändrat många branscher, men ingen sektor har påverkats så tydligt som mjukvaruutveckling. Både erfarna utvecklare och nybörjare använder AI-verktyg för att snabbt generera kod utifrån enkla instruktioner. Denna metod, ofta kallad "vibe coding", gör det möjligt för vem som helst att skapa fullt fungerande appar – även utan djupare teknisk kunskap.

Allvarliga säkerhetsbrister i AI-genererad kod

Men vad som till en början verkade som en revolution har nu visat sig ha allvarliga baksidor. En ny rapport från cybersäkerhetsföretaget RedAccess avslöjar omfattande säkerhetsluckor i appar skapade med hjälp av AI. Företaget undersökte tusentals webbappar utvecklade på plattformarna Lovable, Replit, Base44 och Netlify och fann oroande resultat:

• 5 000 appar hade nästan ingen säkerhetskontroll eller autentisering över huvud taget.
• 40 procent av apparna exponerade känslig användardata, inklusive:
• Medicinsk information
• Finansiella uppgifter
• Företagsdokument
• Loggar från privata chattkonversationer

Dor Zvi, medgrundare till RedAccess, varnar för konsekvenserna:

"Resultatet är att organisationer läcker privat data via AI-genererade appar. Detta är en av de största händelserna någonsin där känslig information exponeras för vem som helst i världen."

Plattformarna skyller på användarna

När undersökningsresultaten presenterades reagerade plattformarna med bristande engagemang. Netlify ignorerade helt rapporten, medan övriga plattformar skyllde på användarna och menade att de borde ha säkrat sina appar bättre.

En talesperson för Lovable kommenterade enligt följande:

"Vi behandlar detta som en pågående fråga. Det är också viktigt att notera att Lovable tillhandahåller verktyg för säker utveckling, men hur en app konfigureras ligger slutligen på skaparen."

Även om påståendet till viss del är korrekt, är det också en paradox. Plattformarna marknadsför AI-utveckling som så enkelt att vem som helst kan skapa säkra appar genom att bara beskriva vad de vill ha. Verkligheten är dock att AI fortfarande är långt ifrån felfritt, och den genererade koden innehåller ofta brister som bara erfarna utvecklare eller säkerhetsexperter kan upptäcka.

Risken med ogenomtänkt AI-utveckling

Zvi förklarar problematiken vidare:

"Vem som helst i ett företag kan när som helst generera en app utan att den genomgår någon utvecklingscykel eller säkerhetskontroll. Människor börjar använda den direkt i produktion utan att fråga någon – och det gör de också."

Denna utveckling riskerar att underminera yrkesverksamma utvecklare och säkerhetsexperter, samtidigt som den skapar en osäker digital miljö för användarna. AI:s snabba framfart inom mjukvaruutveckling kräver därför tydliga riktlinjer och bättre säkerhetsrutiner för att förhindra allvarliga dataläckor.