Google giver Pentagon adgang til AI-modeller – hemmelig aftale vækker bekymring

Google og Pentagon indgår hemmelig aftale om AI-adgang

Google har indgået en hemmelig aftale med det amerikanske forsvarsministerium (Pentagon), der giver forsvaret ubegrænset adgang til firmaets AI-modeller til ethvert lovligt formål. Det fremgår af en rapport fra The Information, men de præcise vilkår for aftalen er ikke offentliggjort.

Ifølge en anonym kilde inden for Google er der dog fastsat visse betingelser: AI-teknologien må ikke anvendes til intern masseovervågning eller autonome våben uden tilstrækkelig menneskelig kontrol. Samtidig understreger kilden, at Google ikke har nogen indflydelse på, hvordan forsvaret bruger teknologien – det amerikanske forsvar skal blot holde sit ord om ansvarlig anvendelse.

Google: Aftalen følger ansvarlige retningslinjer

En talsmand for Google udtaler til Reuters:

«Vi mener, at det at give adgang til vores kommercielle AI-modeller – herunder via Googles infrastruktur – med branchestandardiserede praksisser og vilkår, repræsenterer en ansvarlig tilgang til at støtte national sikkerhed.»

Talsmanden tilføjer, at Google fastholder, at AI ikke bør anvendes til masseovervågning eller autonome våben, uanset om der er menneskelig kontrol. Kritikere mener dog, at teknologien overhovedet ikke bør bruges til sådanne formål.

Over 560 medarbejdere protesterer mod aftalen

En gruppe på næsten 600 Google-medarbejdere har underskrevet et åbent brev til administrerende direktør Sundar Pichai og opfordret til, at aftalen med Pentagon bliver annulleret. Medarbejderne frygter, at teknologien kan blive anvendt på uhumane eller ekstremt skadelige måder.

«Menneskeliv går allerede tabt, og civile rettigheder bliver sat på spil både hjemme og ude som følge af misbrug af den teknologi, vi er med til at bygge,» hedder det i brevet. «Som mennesker, der arbejder med AI, ved vi, at disse systemer kan centralisere magt og begå fejl.»

Andre tech-giganter følger trop

Google er ikke ene om at indgå hemmelige aftaler med det amerikanske forsvar. Også OpenAI og Elon Musks xAI har tidligere indgået lignende kontrakter. Anthropic havde også en aftale, men nægtede at fjerne beskyttelsesmekanismer mod våben og overvågning, hvilket førte til, at firmaet blev sortlistet af den amerikanske regering.

Præsident Trumps administration reagerede med at forbyde Anthropic at deltage i statslige kontrakter, hvilket har rejst yderligere tvivl om regeringens engagement i ansvarlig AI-udvikling.

Google forventes at svare på kritikken

Engadget har forsøgt at få yderligere oplysninger fra Google, men firmaet har endnu ikke kommenteret detaljerne i aftalen. Artiklen vil blive opdateret, såfremt Google kommer med en reaktion.