חוק חדש בארה"ב: איסור על צ'אטבוטים של בינה מלאכותית לבני נוער – ומה זה אומר לגבי פרטיות ברשת?

הצעת חוק GUARD: מה היא כוללת ומדוע היא מעוררת מחלוקת?

הצעת החוק GUARD (Guidelines for User Age-verification and Responsible Dialogue), שהוגשה על ידי הסנאטור הרפובליקני ג'וש האולי, עברה לאחרונה בוועדת המשפט של הסנאט האמריקאי. לפי ההצעה, כל מי שישתמש בצ'אטבוט של בינה מלאכותית יצטרך להוכיח את גילו, ובני נוער יאסרו מלהשתמש בחלק ניכר מהצ'אטבוטים הללו. בניגוד לחוקים אחרים בתחום, ההצעה אינה מאפשרת להורים לוותר על הכללים המוטלים על ידי הממשל הפדרלי בנוגע לשימוש הטכנולוגי של ילדיהם.

ביקורת על ההצעה: "סוס טרויאני לבדיקות גיל אוניברסליות"

"זו הצעה מסוכנת שתוביל לבדיקות גיל מקיפות ברשת", אמר ג'יברן לודוויג מארגון Fight for the Future. "החוק לא רק יגביל את הגישה לצ'אטבוטים, אלא ייצור מערכת פיקוח שתחלחל לכל תחומי האינטרנט".

הצעת החוק נתמכת גם על ידי הסנאטור הדמוקרטי ריצ'רד בלומנטל, ששותף לדאגותיו של האולי בנוגע להשפעות השליליות של הטכנולוגיה על צעירים. עם זאת, גם בקרב תומכי החוק יש מי שמביעים הסתייגויות: הסנאטור אלכס פדילה (דמוקרטי מקליפורניה) ציין כי קיימות "סכנות לפרטיות ולבטיחות" במערכת אימות הגיל המוצעת, ודרש לתקן אותה. הסנאטור טד קרוז (רפובליקני מטקסס), שתמך בעבר בחוקים להגנת ילדים ברשת, אמר כי יתמוך בהצעה אך דרש לשנותה, שכן היא עלולה לאסור לחלוטין שימוש בצ'אטבוטים לבני נוער – למרות היתרונות הפוטנציאליים שלהם.

מה בדיוק נאסר על פי הצעת החוק?

לפי ההצעה, נאסר על בני נוער להשתמש בצ'אטבוטים חברתיים – כלומר, מערכות בינה מלאכותית המספקות תגובות דמויות אדם ומעודדות אינטראקציה רגשית או חברתית. החוק מגדיר זאת באופן רחב ביותר, כך שיכלול גם צ'אטבוטים המספקים תמיכה נפשית, הדרכה בלמידה או אפילו שיחות ידידותיות. לדברי האולי, המטרה היא למנוע מצ'אטבוטים להדריך בני נוער להתנהגויות מסוכנות כמו פגיעה עצמית או חשיפה לתכנים מיניים, אך בפועל ההגדרה כוללת גם שימושים חיוביים רבים.

בין היתר, ההצעה תאסור על בני נוער להשתמש ב:

• צ'אטבוטים המספקים תמיכה רגשית או טיפול פסיכולוגי;
• צ'אטבוטים המשמשים כמורים פרטיים או מדריכים ללמידה;
• צ'אטבוטים המסייעים בפיתוח מיומנויות שונות (למשל, תרגול שפות);
• צ'אטבוטים המספקים שיחות ידידותיות או תמיכה חברתית.

החששות: פרטיות, הגבלת חופש וטעויות במערכת

מבקרי החוק מזהירים כי דרישת אימות הגיל תוביל ליצירת מאגר נתונים רחב של גילאי משתמשים, אשר עלול להיות מנוצל לרעה או להיפרץ. בנוסף, הם טוענים כי ההגדרה הרחבה של "צ'אטבוט חברתי" עלולה לפגוע בצעירים הזקוקים לתמיכה נפשית או הדרכה, גם כאשר מדובר בשימושים לגיטימיים.

הסנאטור קרוז ציין כי ההצעה עלולה להיות "גזרה מדי רחבה", שכן היא אוסרת על שימוש בצ'אטבוטים גם כאשר הם אינם מספקים תכנים מסוכנים. לדבריו, "ישנם יתרונות רבים לשימוש בצ'אטבוטים לבני נוער, והחוק צריך להיות ממוקד יותר".

מה קורה עכשיו? תהליך החקיקה ממשיך

הצעת החוק עברה בוועדת המשפט של הסנאט, אך עדיין נדרשים דיונים נוספים לפני שתוכל להפוך לחוק. בין הנושאים שידונו: האם ניתן להגביל את ההגדרה של "צ'אטבוט חברתי" כך שתכלול רק מערכות המספקות תכנים מסוכנים? האם ניתן ליישם מערכת אימות גיל שתבטיח פרטיות מרבית? והאם יש צורך בהגבלות נוספות על מנת להגן על בני נוער ללא פגיעה בזכויותיהם?

בינתיים, ארגונים למען זכויות דיגיטליות כמו Fight for the Future ממשיכים להפעיל לחץ נגד החוק, בטענה כי הוא יוביל ל"פיקוח מסיבי" על האינטרנט ויפגע בחופש הביטוי ובפרטיות של המשתמשים.