AI 규제 사용자 보호 챗봇 정신 건강 콜로라도주 HB 26-1263 인공지능 법안 자해 예방

콜로라도주, AI 챗봇 규제 법안 HB 26-1263 통과

미국 콜로라도주 의회가 AI 챗봇에 대한 새로운 규제 법안 House Bill 26-1263(HB 26-1263)을 통과시켰다. 이 법안은 챗봇이 사용자와 대화할 때 반드시 ‘인공지능’임을 명시하도록 의무화하는 내용을 담고 있다. 실제 사람으로 오인할 우려를 줄이기 위한 조치다.

또한 법안은 사용자가 자해 또는 우울증 관련 대화를 시도할 경우, 기업이 즉각적인 안전 조치를 취하도록 요구한다.不仅如此, 챗봇이 정신 건강 또는 신체 건강 관련 조언을 제공하는 것 또한 금지된다. 이 법안의 발의자인 민주당 소속 숀 카마초(Sean Camacho) 의원은 “AI 시스템은 실제 사람과 달리 사용자 보호에 대한 법적 책임을 지지 않는다”며, “이 법안은 이러한 공백을 메우는 역할을 한다”고 설명했다.

주요 규제 내용

  • 챗봇 정체성 명시 의무: 사용자에게 AI와의 대화임을 반드시 알림
  • 자해·우울증 대응 안전장치: 위험 신호 감지 시 즉각적인 보호 조치 요구
  • 건강 상담 금지: 정신·신체 건강 관련 조언 제공 금지

배경 및 목적

AI 기술이 급속도로 발전하면서 챗봇은 일상생활에서 폭넓게 활용되고 있다. 그러나 AI의 한계로 인해 사용자가 실제 사람과의 대화로 오인할 가능성이 높아졌고, 이로 인한 오해와 안전 문제가 제기됐다. 콜로라도주는 이러한 문제를 해결하기 위해 법안을 마련했다. 카마초 의원은 “AI가 제공할 수 없는 전문적인 조언이나 정서적 지원을 챗봇이 대신할 수 없다”며, 사용자 보호 강화의 필요성을 강조했다.

“AI 시스템은 사용자 보호에 대한 법적 책임을 지지 않는다. 이 법안은 그러한 공백을 메우는 동시에, 사용자가 AI와의 대화를 명확히 인식할 수 있도록 보장한다.”

— 숀 카마초(Sean Camacho) 콜로라도주 의원

향후 전망

HB 26-1263은 현재 콜로라도주 의회를 통과한 상태이며,不久之后州知事의 서명을 거쳐正式法令으로 발효될 예정이다. 이 법안은 AI 규제 논의가 활발한 미국에서 새로운 기준을 제시할 것으로 주목받고 있다. 특히 AI 기술의 투명성과 사용자 보호 강화라는 측면에서 주목받는 사례로 꼽힌다.

출처: Reason
‘맨스피어’가 직장까지 침투했다? 직장 내 ‘룩스맥싱’과 남성 우월주의 언어
← 이전

‘맨스피어’가 직장까지 침투했다? 직장 내 ‘룩스맥싱’과 남성 우월주의 언...

 비트코인, 연준 내 갈등 우려에 2% 급락…‘워시 신임장관’ 출범 전 불안감
다음 →

비트코인, 연준 내 갈등 우려에 2% 급락…‘워시 신임장관’ 출범 전 불안감