Ny lov foreslår totalforbud mot AI-venner for barn – med tvungen ID-kontroll

Senatets nye lovforslag: AI-chatboter forbudt for barn under 18

Senator Josh Hawley (R) har sammen med senator Richard Blumenthal (D) foreslått en ny lov kalt GUARD Act (Guidelines for User Age-verification and Responsible Dialogue). Forslaget har nylig blitt vedtatt i Senatskomiteen for rettsvesen, til tross for skepsis fra flere hold.

Kritikere: «Et trojansk trekk for universell ID-kontroll»

Organisasjonen Fight for the Future kaller lovforslaget for «et trojansk trekk for universell ID-kontroll på nettet». Ifølge organisasjonen vil loven kreve at alle som bruker AI-chatboter må oppgi bevis på alder, og barn under 18 får forbud mot å interagere med mange typer AI.

I motsetning til tidligere forslag om aldersverifisering på sosiale medier, gir ikke GUARD Act foreldre mulighet til å fravike reglene for barnas teknologi. Forslaget har fått støtte fra begge sider av det politiske spekteret, men flere senatorer har uttrykt bekymring for personvern og potensielle utilsiktede konsekvenser.

Senatorer: «Loven trenger justeringer»

Selv om komiteen stemte for å fremme lovforslaget, kom det tydelige advarsler fra flere senatorer:

• Senator Alex Padilla (D-California) stemte for, men påpekte «potensielle personvern- og sikkerhetsrisikoer» knyttet til aldersverifiseringen og sa at den må «finjusteres».
• Senator Ted Cruz (R-Texas), som vanligvis støtter lovgivning for barns nett-sikkerhet, sa at han ville stemme for, men at loven trenger «revideringer». Han var bekymret for at forslaget ville føre til et fullstendig forbud mot AI-chatboter for barn, til tross for deres potensielle nytte.

Hawley har imidlertid forsøkt å dempe bekymringene ved å påpeke at loven ikke forbud alle AI-chatboter for barn, men kun de som «promoterer seksuelt eksplisitt innhold, selvskading eller selvmord».

For bred definisjon av AI-venner

GUARD Act definerer en AI-venn som ethvert AI-system som:

• Gir tilpassede, menneskelignende svar på brukerens input
• Er designet for å oppmuntre eller legge til rette for simulering av mellommenneskelig interaksjon, vennskap, selskap eller terapeutisk kommunikasjon

Loven krever at AI-selskaper må forby alle under 18 år fra å bruke slike AI-venner. Dette går langt utover å hindre barn i å snakke med roboter om sex eller vold. Det tar også fra dem retten til å snakke med AI om andre emner.

Definisjonen er så bred at den kan omfatte enhver AI-chatbot som kommuniserer på en vennlig eller familiær måte. Dette kan føre til at unge mister tilgang til nyttige verktøy, som:

• AI-terapi for psykisk helse
• Språkøving med AI
• Støtteverktøy for læring
• Utvikling av nye ferdigheter

Eksperter frykter at en slik lov kan hindre barn i å dra nytte av positiv teknologiutvikling.

Bipartisansk støtte – men med advarsler

Til tross for bekymringer har lovforslaget fått bred støtte i Senatskomiteen. The Hill rapporterer at det «lett ble vedtatt i komiteen», selv om flere senatorer har uttrykt tvil.

Kritikere mener at loven kan føre til utilsiktede konsekvenser, som økt overvåking av barns nettaktivitet og begrensninger på tilgang til nyttige digitale verktøy. De spør også om det er nødvendig med så omfattende tiltak når det allerede finnes andre måter å beskytte barn på nettet.

«Dette er ikke bare et spørsmål om aldersverifisering – det er et spørsmål om hvordan vi balanserer sikkerhet og frihet i den digitale tidsalderen.»
Jibran Ludwig, Fight for the Future

Hva skjer videre?

GUARD Act må nå gjennom flere avstemninger i Senatet før den eventuelt blir lov. Hvis den blir vedtatt, vil den representere et betydelig skritt mot strengere regulering av AI og barns tilgang til digitale tjenester.

Samtidig gjenstår spørsmålet om loven faktisk vil beskytte barn bedre, eller om den vil føre til unødvendige begrensninger og overvåking.