Wenn KI-Code die IT-Abteilungen überrollt: Warum die Revolution auch ihre Tücken hat

Unternehmen weltweit setzen zunehmend auf künstliche Intelligenz, um Softwarecode in Rekordzeit zu generieren. Was nach einer Produktivitätsrevolution klingt, entpuppt sich in der Praxis oft als logistischer Albtraum. Wie das New York Times-Magazin berichtet, kämpfen IT-Teams mit den Folgen dieser Entwicklung – und die sind teils absurd.

Code-Explosion: Wenn KI mehr schreibt als Menschen prüfen können

Ein Beispiel aus der Finanzbranche zeigt das Ausmaß des Problems: Nach der Einführung des KI-Tools Cursor stieg die Code-Produktion eines Unternehmens um das Zehnfache. Das Ergebnis? Eine Million Zeilen unkontrollierter Software, die nun auf Fehler überprüft werden muss. Joni Klippert, CEO des Sicherheitsspezialisten StackHawk, der mit dem Unternehmen zusammenarbeitet, spricht von einem "epischen Rückstau".

Doch das Problem ist größer als nur ein Berg an Code: Ungeprüfte Software – ob von Menschen oder KI erstellt – birgt massive Risiken. Sicherheitslücken können Systeme lahmlegen, wie jüngst bei Amazon und Meta zu beobachten war. Beide Konzerne erlebten Störungen, nachdem KI-Tools eigenmächtige Aktionen ausführten. "Die schiere Menge an generiertem Code und die Zunahme von Schwachstellen überfordern die Teams komplett", so Klippert im Gespräch mit der NYT.

Mehr Arbeit, weniger Jobs: Die paradoxe KI-Ära

Während Unternehmen KI nutzen, um Stellen abzubauen – laut einem Bericht waren 2023 über 54.000 Entlassungen mit KI begründet –, schafft dieselbe Technologie gleichzeitig neue Aufgaben. "Es gibt nicht genug Anwendungssicherheitsexperten auf der Welt, um den Bedarf amerikanischer Unternehmen zu decken", warnt Joe Sullivan, Berater bei Costanoa Ventures. Die Ironie: Die KI soll eigentlich Arbeitskräfte ersetzen, doch nun fehlt es an Personal, um ihre Ergebnisse zu kontrollieren.

Die zusätzliche Belastung trifft auch andere Abteilungen. Klippert berichtet von stressgeplagten Teams in Vertrieb und Marketing, die mit den Folgen der KI-Codeflut kämpfen. Gleichzeitig müssen Entwickler ihre KI-Tools überwachen – eine Aufgabe, die oft nebenbei erledigt wird. Die Folge: Burnout und mentale Erschöpfung, wie eine aktuelle Studie zeigt. Die Forscher nennen das Phänomen treffend "Brain Fry".

Wer prüft die KI? Die Suche nach Lösungen

Unternehmen stehen vor der Herausforderung, die Flut an KI-generiertem Code zu bewältigen. Michele Catasta, Präsident und KI-Chef des Startups Replit, bringt es auf den Punkt:

"Der Segen und der Fluch ist, dass jetzt jeder im Unternehmen zum Programmierer wird."

Ein radikaler Ansatz kommt von Sachin Kamdar, CEO des KI-Agenten-Startups Elvix:

"Aller Code muss von Menschen überprüft werden – denn später zu reparieren, wäre noch teurer."

Doch nicht alle Unternehmen können sich diesen Luxus leisten. Viele setzen auf halbautomatische Prüfverfahren oder schulen Mitarbeiter in KI-Tools. Eines ist klar: Die KI-Revolution hat die Arbeitswelt nachhaltig verändert – und die Anpassung an diese neue Realität steht erst am Anfang.