Colorados representanthus har godkänt House Bill 26-1263, en ny lag som ställer hårdare krav på AI-drivna chattjänster. Enligt lagen måste AI-chattar tydligt informera användare om att de interagerar med en maskin och inte en människa. Syftet är att öka transparensen och förhindra missförstånd i digitala samtal.
Utöver detta inför lagen flera viktiga säkerhetsåtgärder. Företag som tillhandahåller AI-chattar måste upprätta rutiner för att hantera situationer där användare uttrycker självmordstankar eller självskadebeteende. Dessutom förbjuds chattarna helt att ge råd eller stöd avseende psykisk eller fysisk hälsa, eftersom de saknar den juridiska och professionella skyldighet som legitima vårdgivare har.
Lagens initiativtagare, Rep. Sean Camacho (D–Denver), understryker att lagen fyller en kritisk lucka i delstatens lagstiftning. "AI-system har inte samma skyldigheter att skydda användare som människor har. Den här lagen säkerställer att användarna inte luras att tro att de pratar med en människa när de i själva verket kommunicerar med en maskin," säger Camacho.
Om lagen träder i kraft kommer Colorado att bli en av de första delstaterna i USA att reglera AI-chattar på detta sätt. Förslaget har redan fått både beröm och kritik, där vissa hävdar att det är nödvändigt för att skydda konsumenter, medan andra menar att det kan hämma innovationen inom AI-utvecklingen.