KI-Riesen warnen vor Risiken – doch ihre Warnungen sind auch ein Verkaufstrick

Die Warnungen vor einer drohenden «Intelligenzexplosion» durch künstliche Intelligenz (KI) häufen sich – und kommen ausgerechnet von den Unternehmen, die diese Technologie entwickeln. Anthropic, der Schöpfer des KI-Modells Claude, veröffentlichte kürzlich ein Positionspapier, in dem es um die Bewältigung der vielfältigen Risiken geht, die mit KI verbunden sind. Dazu gehört auch die Befürchtung, dass KI-Systeme sich selbst verbessern könnten, ohne menschliches Zutun.

«Ich prognostiziere, dass bis Ende 2028 die Wahrscheinlichkeit hoch ist, dass wir ein KI-System haben, dem man sagen kann: ‹Entwickle eine bessere Version von dir selbst› – und das dann vollständig autonom umsetzt», erklärte Jack Clark, Mitgründer von Anthropic, gegenüber Axios.

Doch während Anthropic vor den Gefahren warnt, sammelt das Unternehmen gleichzeitig Milliarden an Investitionen ein. Erst im Januar veröffentlichte Anthropic-CEO Dario Amodei einen Essay mit dem Titel «The Adolescence of Technology», in dem er die KI-Entwicklung als «definierenden Scheideweg der Menschheit» beschreibt. Er warnt vor fünf existenziellen Risiken: unkontrollierbare autonome KI-Systeme, Missbrauch für Massenvernichtungswaffen, autoritäre Kontrolle, wirtschaftliche Verwerfungen und extreme Vermögenskonzentration.

Doch nur siebzehn Tage nach Veröffentlichung des Essays gab Anthropic bekannt, 30 Milliarden US-Dollar an neuer Finanzierung eingesammelt zu haben – eine Bewertung von 380 Milliarden US-Dollar. Und erst letzte Woche berichtete der Financial Times, dass das Unternehmen plant, diesen Sommer weitere Dutzende Milliarden einzusammeln, um eine Bewertung von 1 Billion US-Dollar zu erreichen – und damit OpenAI mit einer Bewertung von 852 Milliarden US-Dollar zu überholen.

Warnungen als strategisches Instrument

Die scheinbare Diskrepanz zwischen Warnungen und Geschäften ist kein Zufall. Kritiker werfen den KI-Unternehmen vor, ihre Risikoappelle gezielt einzusetzen, um Investoren zu mobilisieren und politische Unterstützung zu gewinnen. «Die Botschaft lautet: Wir sind die Verantwortlichen – und gleichzeitig die Einzigen, die diese Technologie sicher entwickeln können», analysiert ein Branchenkenner.

Auch OpenAI steht in der Kritik: Während das Unternehmen mit ChatGPT die KI-Revolution vorantreibt, warnt es gleichzeitig vor unkontrollierbaren Entwicklungen. Erst kürzlich ermöglichte OpenAI Mitarbeitern und ehemaligen Angestellten, Anteile im Wert von bis zu 30 Millionen US-Dollar zu verkaufen – über 600 Personen nutzten die Gelegenheit und erzielten gemeinsam 6,6 Milliarden US-Dollar.

Die Rolle der Politik und globalen Konkurrenz

Die Widersprüche reichen bis in die Politik: Regierungen weltweit integrieren KI in Militär, Bildung und Verwaltung – obwohl sie die Risiken öffentlich betonen. «Kein Land kann es sich leisten, bei der KI-Entwicklung zurückzubleiben», heißt es in einer Stellungnahme des US-Verteidigungsministeriums. Gleichzeitig warnen dieselben Stellen vor den Gefahren einer unkontrollierten KI.

Anthropics Essay ist dabei nicht nur eine Warnung, sondern auch ein «Pitch Deck» für Investoren. Die Botschaften sind klar: «Diese Technologie ist die wichtigste der Menschheitsgeschichte» – sowohl als Warnung als auch als Verkaufsargument. «China holt auf» – ein Argument, das sowohl geopolitische Bedenken schürt als auch nationale Investitionsbereitschaft fördert.

Fazit: Die KI-Riesen inszenieren sich als Hüter der Verantwortung, während sie gleichzeitig um Marktmacht und Kapital kämpfen. Ob ihre Warnungen ernst gemeint sind oder strategisch genutzt werden, bleibt eine offene Frage.