Google ger Pentagon obegränsad tillgång till AI-modeller i hemligt avtal

Google har undertecknat ett hemligt avtal med USA:s försvarsdepartement som ger militären obegränsad tillgång till företagets AI-modeller för "alla lagliga ändamål". Enligt uppgifter från The Information omfattas dock inte detaljerna i avtalet av offentlighet.

En anonym källa inom Google uppger att parterna har kommit överens om att företagets AI-teknik inte ska användas för inhemsk massövervakning eller autonoma vapen utan "lämplig mänsklig tillsyn och kontroll". Samtidigt framgår det att Google inte har någon rätt att påverka eller stoppa hur försvarsdepartementet använder tekniken. I praktiken innebär detta att Google förlitar sig på att den amerikanska regeringen agerar ansvarsfullt.

Google:s officiella uttalande:

"Vi anser att tillhandahållande av API-åtkomst till våra kommersiella modeller, inklusive via Googles infrastruktur, med branschstandardiserade villkor och rutiner, utgör ett ansvarsfullt sätt att stödja nationell säkerhet."

En talesperson för Google underströk även att företaget anser att AI inte bör användas för massövervakning eller autonoma vapen, oavsett om det finns mänsklig tillsyn eller inte.

Över 560 anställda vid Google har skrivit under ett öppet brev till VD Sundar Pichai och uppmanar honom att avbryta samarbetet med försvarsdepartementet. De oroar sig för att tekniken ska användas på "omänskliga eller extremt skadliga sätt".

Ur brevet:

"Mänskliga liv går redan förlorade och medborgerliga friheter riskeras både i hemlandet och utomlands på grund av missbruk av den teknik vi är med och utvecklar. Som människor som arbetar med AI vet vi att dessa system kan centralisera makt och att de gör misstag."

Google är inte ensamt om att ingå hemliga AI-avtal med den amerikanska regeringen. Även OpenAI och Elon Musks xAI har liknande överenskommelser. Anthropic, däremot, vägrade att ta bort säkerhetsåtgärder relaterade till vapen och övervakning, vilket ledde till att företaget svartlistades från federala projekt av president Trump och försvarsdepartementet.

Detta beslut ifrågasätter regeringens påstådda engagemang för "lämplig mänsklig tillsyn och kontroll" av farlig militär AI-teknik.

Engadget har kontaktat Google för ytterligare upplysningar men har ännu inte fått svar.