De amerikanske techgiganter Google DeepMind, Microsoft og xAI, ejet af Elon Musk, har indgået en aftale med den amerikanske regering om at give myndighederne mulighed for at gennemgå nye AI-modeller før de bliver gjort tilgængelige for offentligheden.
I en meddelelse tirsdag oplyser Center for AI Standards and Innovation (CAISI), som hører under Handelsministeriet, at man vil samarbejde med virksomhederne om at udføre præ-deployments evalueringer og målrettet forskning for at bedre kunne vurdere avancerede AI-systemers kapaciteter og potentielle risici.
CAISI, som siden 2024 har evalueret modeller fra blandt andet OpenAI og Anthropic, har allerede gennemført 40 gennemgange af AI-modeller. Begge selskaber har desuden genforhandlet deres eksisterende samarbejdsaftaler med centret for at sikre bedre alignment med præsident Donald Trumps prioriteringer på AI-området.
Dette initiativ markerer en betydelig udvidelse af det amerikanske regerings engagement i at regulere og overvåge udviklingen af kunstig intelligens, hvilket kommer på et tidspunkt, hvor AI-teknologien udvikler sig hurtigt og stiller nye udfordringer til både sikkerhed og etik.