Google technologie massasurveillance Pentagon AI-modellen AI-toepassingen ethiek defensie autonome wapens geheim contract

Google geeft Pentagon toegang tot AI-modellen

Het Amerikaanse ministerie van Defensie krijgt via een nieuw, geheim contract toegang tot de AI-modellen van Google. Dat meldt The Information, die verwijst naar een anonieme bron binnen het bedrijf. De volledige voorwaarden van het contract zijn niet openbaar gemaakt.

Volgens de bron heeft Google afgesproken dat de AI-technologie niet mag worden ingezet voor binnenlandse massasurveillance of autonome wapensystemen, tenzij er adequate menselijke controle is. Toch behoudt het Pentagon volledige vrijheid in het gebruik van de technologie. Google heeft geen vetorecht of controle over de toepassingen.

«Wij geloven dat het aanbieden van API-toegang tot onze commerciële AI-modellen, inclusief op Google-infrastructuur, met standaard industriële voorwaarden, een verantwoorde benadering is om nationale veiligheid te ondersteunen.»

— Woordvoerder van Google, tegenover Reuters

De woordvoerder benadrukte ook dat AI volgens Google niet gebruikt mag worden voor massasurveillance of autonome wapens, zelfs niet met menselijke controle. Critici vinden dat dergelijk gebruik sowieso verboden moet worden, ongeacht de mate van toezicht.

Duizenden Google-medewerkers protesteren

Ruim 560 medewerkers van Google hebben een open brief ondertekend aan CEO Sundar Pichai, waarin ze het bedrijf oproepen om het contract met het Pentagon te blokkeren. Zij vrezen dat de technologie wordt ingezet voor «onmenselijke of extreem schadelijke toepassingen».

«Mensenlevens gaan al verloren en burgerrechten worden zowel in eigen land als daarbuiten bedreigd door misbruik van technologie waar wij een sleutelrol in spelen», aldus de brief. «Als mensen die aan AI werken, weten we dat deze systemen macht kunnen centraliseren en fouten maken.»

Google niet de enige: andere techbedrijven volgen

Google sluit zich aan bij OpenAI en xAI van Elon Musk, die eerder al geheime AI-contracten met de Amerikaanse overheid hebben afgesloten. Anthropic had ook een deal, maar weigerde de eis van de overheid om beveiligingen tegen wapens en surveillance te verwijderen.

Die weigering leidde tot een boycot van Anthropic door de federale overheid, wat vragen oproept over de toewijding van de regering aan «adequate menselijke controle» over gevaarlijke militaire AI.

Engadget heeft Google gevraagd om meer details over het contract, maar heeft op het moment van publicatie nog geen reactie ontvangen.

Bron: Engadget
Resident Evil Requiem: Mercenaries-modus komt binnenkort beschikbaar
← Vorige

Resident Evil Requiem: Mercenaries-modus komt binnenkort beschikbaar

 Zuckerberg vlucht naar Florida om miljardairbelasting in Californië te ontwijken
Volgende →

Zuckerberg vlucht naar Florida om miljardairbelasting in Californië te...