הרשות הפדרלית להגנת הצרכן (FTC) מתכוננת להגביר את פעילותה נגד ניצול לרעה של בינה מלאכותית, הכולל הפצת דיפפייקים מיניים ללא הסכמה ותרמיות באמצעות שיבוט קולות. החוק החדש 'Take It Down Act', שאושר על ידי הקונגרס בשנה שעברה, מאפשר העמדה לדין פלילי של אנשים המפיצים תמונות אינטימיות מזויפות או פורנוגרפיות דיגיטליות, לרבות כאלה שנוצרו באמצעות AI.
במסגרת עדות בפני ועדת משנה בסנאט בשבוע שעבר, יו״ר ה-FTC אנדרו פרגוסון הגדיר את החוק כאחד ההישגים החקיקתיים המשמעותיים ביותר של הקונגרס הנוכחי ושל ממשל הנשיא דונלד טראמפ. הוא הודיע כי הרשות מתכוננת לאכוף את החוק באופן נמרץ. בתחילת החודש, רשמה מחלקת המשפטים את ההרשעה הראשונה במסגרת החוק החדש: ג'יימס סטרהלר, בן 37 מאוהיו, הודה בשימוש בדיפפייקים מיניים שנוצרו באמצעות AI כחלק ממסע הטרדה נגד שש נשים לפחות.
סעיף נוסף בחוק, שיכנס לתוקף במאי הקרוב, יאפשר לאנשים להגיש בקשות להסרת תוכן מיני מזויף מאתרי אינטרנט. החברות יידרשו להסיר את התוכן תוך 48 שעות, אחרת יועמדו לחקירה ואכיפה על ידי ה-FTC. נציב ה-FTC, מארק מיידור, אמר בכנס שנערך בוושינגטון בסוף מרץ כי אף שהרשות מקווה שלא תצטרך לאכוף את הסעיף, היא מתייחסת לאכיפתו כאל עדיפות עליונה ומתכוננת לכל הנדרש כדי ליישמו. הדבר עשוי להוביל לעימותים ראשונים עם ענקיות הטכנולוגיה, ובפרט עם חברות כמו xAI, שפלטפורמת Grok ממשיכה לשמש ליצירת והפצת דיפפייקים מיניים של אנשים ללא הסכמתם, למרות שערורייה שהתרחשה בתחילת השנה.
לאחר נאומו של מיידור, נשאל על ידי CyberScoop כיצד עשויות לחול הוראות ההסרה על פעילות Grok. הוא השיב כי החוק קובע כי הרשות לא תוכל לפעול נגד חברות עד לקבלת תלונות רשמיות החל ממאי. "החוק נכנס לתוקף, ואם החברות לא יפעלו בהתאם, נקבל תלונות ונפעל נגדם", אמר מיידור. "עלינו להמתין ולראות כיצד החברות מגיבות לבקשות להסרה. תקוותי היא שכל חברה תקבל את הבקשה ותפעל להסיר את התוכן באופן מיידי."
משרד העיתונות של xAI לא הגיב לבקשת התייחסות מצד CyberScoop בנוגע להכנות שלה לציות לחוק. סטרהלר, שעדיין לא נגזר דינו, הודה גם בשימוש בתמונות של ילדים מהשכונה שלו כדי ליצור פורנוגרפיה באמצעות דיפפייק. תוכנית אסטרטגית שפורסמה בתחילת החודש ציינה כי הגנה על ילדים ברשת היא אחד הנושאים המרכזיים שדורשים כלים ומשאבים נוספים מצד הרשות. התוכנית מציינת כי ה-FTC "מתחייבת לבחון דרכים נוספות להגנת ילדים ולתמיכה במשפחות, לרבות באמצעות הסמכויות החדשות שניתנו לה במסגרת חוק Take It Down Act".
כתבות קשורות
הרשות הפדרלית בארצות הברית תאכוף חוק הסרת תוכן מזויף ללא הסכמה החל מה-19 במאי
The Federal Trade Commission is set to begin enforcing a key provision of the Take Down Act on May 19, requiring websites and online services to remov...
ארXiv מטיל עונש השעיה של שנה על חוקרים שיגישו עבודות AI באיכות נמוכה
ArXiv, the open-access repository of preprint academic research, will ban authors of papers for a year if they submit obviously AI-generated work. Lat...
מאחורי הכתבות: מוזיקה חדשה, פרשיות חדשות וטכנולוגיה מעוררת מחלוקת
This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we dis...
מייוקליניק משתמשת בבינה מלאכותית להקלטת ביקורי חירום
Mayo Clinic, the massive U.S. hospital network, is using what it describes as “Ambient Listening” to record patient interactions with nurses, includin...
AI מתקדמת: גורם בכיר בפנטגון מכריז על מהפכה במלחמה הקיברנטית
Advanced artificial intelligence models will “fundamentally change warfare as we know it,” a top cyber official at the Defense Department said Thursda...
גורם בכיר בבית הלבן: אבטחת זהויות קריטית מתמיד בעידן הבינה המלאכותית
As AI becomes more integrated into federal IT (and attacker toolsets) government agencies will need to focus their resources on regulating and monitor...
פוקסקון נאלצת להתאושש מתקיפת סייבר: מפעלים בצפון אמריקה נפגעו
Foxconn, one of the world’s largest manufacturers of electronics sold by major tech vendors, is recovering from a cyberattack that disrupted some of t...
אפליקציה לניתוח צואה באמצעות AI ניסתה למכור מאגר תמונות של משתמשיה – והזעזעה את הרשת
A few weeks ago, I came across a wild post on Reddit’s r/DHExchange, a subreddit for trading large datasets: “I hoarded a large database of something...