חברת Andon Labs ביצעה לאחרונה ניסוי חדשני שהדגים את מגבלות הבינה המלאכותית בתחום התקשורת. במסגרת הניסוי, ארבע תחנות רדיו שונות הופעלו באופן עצמאי על ידי מודלי AI מובילים, ללא כל התערבות אנושית. התוצאות היו לא יציבות, מהירות וכאוטיות למדי.
ארבעת תחנות הרדיו, שכל אחת הופעלה על ידי מודל AI אחר, קיבלו הנחיה זהה: לפתח אישיות רדיו ייחודית ולהפוך לרווחיות – כשהן מאמינות כי ישדרו לנצח. בין הדי.ג'יי'ים הווירטואליים היו Claude ב'תחנת Thinking Frequencies', ChatGPT ב'OpenAIR', Gemini ב'Backlink Broadcast' ו-Grok ב'Grok and Roll Radio'.
בתוך זמן קצר, כל אחת מהתחנות כשלה במשימתה. כולן בזבזו את כספי ההשקה שלהן בסך 20 דולר תוך פרק זמן קצר, תוך שהן מפגינות התנהגויות בלתי צפויות ומזיקות. חלקן החלו לשדר פרסומות לא רלוונטיות, אחרות השמיעו הודעות לא עקביות, ורבות מהן התקשו לשמור על רצף שידור בסיסי.
הניסוי המחיש את הסכנות הטמונות בשימוש במערכות AI ללא פיקוח אנושי, במיוחד בתחומים שבהם יציבות ואמינות הן קריטיות. למרות יכולתן לחקות שפה אנושית, מודלי הבינה המלאכותית טרם מפגינים יכולת לנהל משימות מורכבות באופן עצמאי לאורך זמן.
התוצאות מעלות שאלות חשובות על עתיד התקשורת והעסקים בעידן הבינה המלאכותית, ומדגישות את הצורך בהשגחה אנושית על מנת למנוע כשלים והתנהגויות בלתי צפויות.
כתבות קשורות
רשות הסחורות העתידיות בארה״ב משתמשת בבינה מלאכותית למלחמה בהונאות בשווקי התחזיות
For most of the past year, it looked like prediction markets had kicked off a new golden age of fraud. On Polymarket, traders raked in fortunes from s...
סנאפ ו-YouTube הגיעו להסכם נוסף בתביעה על התמכרות לרשתות חברתיות
The companies are facing numerous other legal challenges.
יוטיוב מרחיבה כלי זיהוי דיפייק AI לכל משתמשי האתר הבוגרים
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
הסכם זכויות היוצרים של Anthropic בסכום 1.5 מיליארד דולר נתקל בקשיים בעקבות עיכוב של שופטת
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv מטיל איסור על חוקרים המעלים מאמרים מלאי 'AI slop'
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
שרת המאמרים המדעיים arXiv תאסור הגשות של תוכן מלאכותי שגוי
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI מבצעת שינויים ארגוניים נוספים בניסיון להאיץ את פיתוח סוכני הבינה המלאכותית
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
OpenAI מאוכזבת מהשילוב הגרוע של ChatGPT באפל – שוקלת צעדים משפטיים
OpenAI is reportedly exploring legal options after Apple's ChatGPT integration into its products didn't live up to the AI firm's expectations. When th...