Ny lovgivning om aldersverifikation kan føre til omfattende online ID-kontroller

Senatet har netop sendt Guidelines for User Age-verification and Responsible Dialogue (GUARD) Act videre fra Senatskomiteen for retsvæsenet. Lovforslaget, fremsat af senatorerne Josh Hawley og Richard Blumenthal, kræver, at alle, der bruger AI-chatbots, skal verificere deres alder. Derudover foreslås det at forbyde unge under 18 år at interagere med mange former for AI-chatbots.

Jibran Ludwig fra organisationen Fight for the Future kalder lovforslaget for "en trojansk hest for universel online ID-kontrol". Kritikken retter sig især mod, at forældre ikke får mulighed for at fravælge de føderale regler for deres børns teknologi. Lovforslaget er blevet beskrevet som et eksempel på bipartisan samarbejde, der blot skjuler en dårlig idé.

Selvom nogle senatorer udtrykte bekymring for privatliv og potentielle utilsigtede konsekvenser, stemte komiteen alligevel for at sende lovforslaget videre. The Hill rapporterer, at det gik let igennem i komiteen, på trods af advarsler om privatlivsrisici. Senator Alex Padilla (D-Calif.) påpegede eksempelvis, at aldersverifikationssystemet kan have "potentielle privatlivs- og sikkerhedsrisici" og foreslog, at det skal finjusteres. Senator Ted Cruz (R-Texas), som normalt støtter lovgivning om børns online sikkerhed, støttede også forslaget, men understregede, at det "har brug for revisioner".

Cruz udtrykte bekymring for, at lovforslaget i sin nuværende form ville forbyde alle AI-chatbots for unge, på trods af de potentielle fordele, de kan have. Hawley forsøgte at imødegå kritikken ved at præcisere, at lovforslaget blot forbyder AI-chatbots, der udsender seksuelt eksplicit materiale til unge eller opfordrer til selvskade. Kritikere mener imidlertid, at Hawleys formulering er misvisende.

Hvad indebærer lovforslaget reelt?

Ud over de nævnte begrænsninger ville GUARD Act:

• Forbyde unge under 18 år at bruge venlige AI-systemer: Lovforslaget definerer en AI-ven som ethvert AI-system, der "giver adaptive, menneskelignende svar på brugerens input" og er designet til at "fremme eller facilitere simulering af interpersonel eller emotionel interaktion, venskab, kammeratskab eller terapeutisk kommunikation". AI-virksomheder skal herefter forbyde unge under 18 år at bruge sådanne systemer.
• Indføre omfattende aldersverifikation: Alle brugere af AI-chatbots skal verificere deres alder, hvilket potentielt kan føre til universel ID-kontrol online.
• Begrænse adgangen til nyttige AI-værktøjer: Lovforslaget kan forhindre unge i at bruge AI til eksempelvis online undervisning, sprogtræning eller færdighedsudvikling.

Eksperter og borgereettighedsgrupper frygter, at lovforslaget går for vidt og kan have utilsigtede negative konsekvenser for unge, der har gavn af venlige og støttende AI-systemer.

Kritikere: Lovforslaget er for bredt og skadeligt

Kritikere påpeger, at definitionen af en AI-ven er så bred, at den potentielt omfatter alle AI-chatbots, der kommunikerer på en venlig eller fortrolig måde. Dette kan føre til, at unge bliver forhindret i at bruge AI til harmløse formål, såsom at øve sig i et fremmedsprog eller modtage støtte i hverdagen.

"Dette lovforslag er ikke blot et overgreb på unges privatliv, men det fjerner også muligheden for at bruge teknologi, der kan støtte deres udvikling og trivsel. Det er en farlig præcedens, der kan føre til endnu mere indgribende overvågning online." – Jibran Ludwig, Fight for the Future

Selvom lovforslaget endnu ikke er blevet vedtaget, har det allerede sat gang i en debat om balancen mellem sikkerhed og privatliv online. Med senatorernes støtte i komiteen er der risiko for, at lignende lovgivning kan blive en realitet i den nærmeste fremtid.