AI 규제 마이크로소프트 AI 안전성 xAI 미국 정부 구글 딥마인드 CAISI AI 모델 검토 프론티어 AI AI 표준

미국 정부가 신규 인공지능(AI) 모델을 공개 전에 검토할 수 있도록 구글 딥마인드, 마이크로소프트, 일론 머스크의 xAI가 동의했습니다. 미국 상무부 산하 AI 표준 혁신 센터(CAISI)는 26일(현지시간) 이 같은 협력 체계를 발표했습니다.

CAISI는 이 협력을 통해 AI 모델의 ‘사전 배포 평가 및 한계 AI 능력 분석’을 수행할 계획입니다. 특히, 2024년부터 오픈AI와 앤트로픽의 모델을 평가해온 CAISI는 현재까지 40건의 검토를 완료했다고 밝혔습니다. 오픈AI와 앤트로픽은 CAISI와의 파트너십을 재협상해 정부 우선순위에 맞춰 협력을 강화했습니다.

이번 협력은 AI 모델의 안전성과 위험성을 사전에 점검하기 위한 정부의 노력의 일환으로, AI 기술의 책임 있는 개발과 배포를 촉진하는 데 중점을 두고 있습니다. 특히, 미국은 AI 규제 강화와 국제 표준화 협력을 통해 글로벌 AI 시장에서의 리더십을 강화하고자 합니다.

CAISI의 역할과 향후 계획

CAISI는 AI 모델의 기술적 능력과 잠재적 위험을 평가하는 데 중점을 두고 있습니다. 특히, ‘프론티어 AI’(최첨단 AI)로 분류되는 모델에 대해서는 더 엄격한 검토를 실시할 계획입니다. 이는 AI 기술이 사회에 미치는 영향을 최소화하고, 기술 발전과 안전 사이의 균형을 맞추기 위한 조치로 볼 수 있습니다.

미국 정부는 이번 협력을 통해 AI 기술의 투명성과 책무성을 높이는 동시에, 글로벌 AI 규제 프레임워크의 표준화를 주도하고자 합니다. 특히, AI 모델의 사전 검토는 기술 개발 초기 단계에서 위험을 식별하고 완화하는 데 도움이 될 것으로 기대됩니다.

업계 반응과 전망

  • 구글 딥마인드: “AI 기술의 안전한 발전과 사회적 책임을 위해 정부와의 협력이 중요하다”며 이번 협력을 환영했습니다.
  • 마이크로소프트: “AI의 책임 있는 개발을 위해 정부와 민간 부문의 협력이 필수적”이라고 강조했습니다.
  • xAI: “AI 기술이 사회에 긍정적인 영향을 미치도록 노력하겠다”며 협력 의사를 밝혔습니다.

이번 협력은 AI 기술의 발전과 규제 사이의 균형을 맞추기 위한 중요한 전환점으로 평가됩니다. 특히, 미국은 AI 규제 강화를 통해 글로벌 AI 시장에서의 경쟁력을 높이고, 기술 발전의 리스크를 관리하고자 합니다.

출처: The Verge
레고 배트맨: 다크 나이트의 유산, 팬 서비스와 오픈 월드의 조화
← 이전

레고 배트맨: 다크 나이트의 유산, 팬 서비스와 오픈 월드의 조화

 맥마스터 사우스캐롤라이나 주지사, 트럼프의 중간선거 조작 요구 거부
다음 →

맥마스터 사우스캐롤라이나 주지사, 트럼프의 중간선거 조작 요구 거부