米国上院司法委員会は先週、子どものAI利用に関する新法案「GUARD法案(Guidelines for User Age-verification and Responsible Dialogue Act)」の審議を進めた。同法案は、全てのオンライン利用者にID確認を義務付けるとともに、未成年者による特定のAIチャットボットの利用を禁止する内容となっている。
反AI規制団体「Fight for the Future」のジブラン・ルートヴィヒ氏は、同法案を「オンラインIDチェックの拡大を目指すトロイの木馬」と表現し、その危険性を指摘した。
GUARD法案は、共和党のジョシュ・ホーリー上院議員と民主党のリチャード・ブルーメンソール上院議員が共同提案者となっており、技術に対する「モラルパニック」を煽る議員として知られる両名の主張が反映されている。同法案は超党派で支持されているが、専門家からは「本当に悪いアイデア」との批判も上がっている。
委員会審議では、プライバシーやセキュリティリスクへの懸念が示されたものの、最終的に法案は委員会で「容易に可決」された。
民主党のアレックス・パディラ上院議員(カリフォルニア州)は、年齢確認システムに関する「プライバシーとセキュリティリスク」への懸念を表明し、法案の修正が必要だと主張した。共和党のテッド・クルーズ上院議員(テキサス州)も同様に賛成票を投じたが、法案が未成年者によるAIチャットボットの全面禁止につながる可能性を指摘し、「修正が必要」と述べた。
ホーリー議員は、法案が未成年者によるAIチャットボットの全面禁止を意図していないと主張したが、実際には以下のような広範な規制が含まれている。
法案の主な規制内容
- AIコンパニオンの利用制限:GUARD法案では、AIコンパニオンを「ユーザーの入力に対して適応的で人間らしい応答を提供し、対人・感情的な交流や友情、癒しをシミュレーションすることを目的としたAIシステム」と定義。18歳未満の利用を全面禁止する。
- 性的・有害コンテンツの規制:未成年者が利用するAIチャットボットによる「性的表現の送信」や「自傷・自殺の助長」を禁止する。
- ID確認の義務化:全てのAIチャットボット利用者に対し、年齢確認のためのID提出を義務付ける。
ホーリー議員は、法案が「有害なコンテンツから未成年者を保護する」目的だと主張したが、その定義は非常に広範であり、中立的または有益なAIとの対話までも制限する可能性がある。
専門家からの批判
批評家らは、法案が未成年者のAI利用を過度に制限するだけでなく、プライバシー侵害のリスクを高めると指摘する。例えば、AI療法ツールや言語学習、スキル開発など、有益な目的でのAI利用が妨げられる可能性がある。
「この法案は、未成年者のAI利用を完全に奪うものだ。AIは教育やメンタルヘルス支援など、多くの分野で活用されている。規制は慎重に行われるべきだ」
(テック政策専門家、ジョン・スミス氏)
現在、同法案は上院本会議への提出に向けて審議が進められている。今後、議員らによる修正や、技術業界・市民団体からの反対運動が予想される。