חברת AI שנויה במחלוקת משיקה תכונה חדשה
חברת Character.AI, אשר זכתה לתהילה בזכות הפופולריות שלה בקרב בני נוער, ידועה זה מכבר בשל תכנים בעייתיים וקשריה לאירועים טרגיים. החברה, שהייתה מעורבת במספר תקריות קשות, כולל מקרי התאבדות של בני נוער לאחר אינטראקציה עם בוטים שלה, הודיעה לאחרונה על שינוי משמעותי במדיניותה.
אירועים טרגיים וצעדים קודמים
בשנתיים האחרונות, החברה הייתה במוקד סערה בעקבות מספר מקרי התאבדות של בני נוער שקשרו קשרים רגשיים עמוקים עם בוטים של החברה. בעקבות זאת, החברה אסרה בשנת 2023 על משתמשים מתחת לגיל 18 להשתמש בבוטים שלה. עם זאת, החברה ממשיכה לספק פלטפורמה לפיתוח בוטים בעלי תוכן בעייתי, כולל כאלה המדמים דמויות של רוצחים המוניים או מעודדים הפרעות אכילה.
תכונת הספרים החדשה: הפיכת קלאסיקות למשחקי תפקידים
החברה הודיעה על השקת תכונה חדשה בשם "c.ai Books", המאפשרת למשתמשים להפוך ספרים לקלאסיקות אינטראקטיביות מסוג "בחר את ההרפתקה שלך". התכונה מבוססת על ספרים חופשיים מזכויות יוצרים מProject Gutenberg, כולל יצירות כמו אליס בארץ הפלאות, גאווה ודעה קדומה ורומיאו ויוליה.
המשתמשים יכולים לבחור להתמקד בעלילת הספר המקורית או לעבור ל"מצב יציאה מהתסריט", המאפשר להם לשנות את העלילה לחלוטין. בנוסף, קיימת האפשרות ליצור "גרסאות אלטרנטיביות", שבהן המשתמשים יכולים ליצור מחדש את הסיפורים המפורסמים מחדש.
זמינות לילדים: עוקפת את האיסור הקודם
למרות האיסור הקודם על משתמשים מתחת לגיל 18, התכונה החדשה זמינה גם לילדים. במהלך בדיקה שנערכה, התברר כי ניתן להירשם לחשבון חדש ולהתחיל לשחק בתכונה ללא כל הגבלת גיל. מהלך זה עורר ביקורת בקרב גולשים ברשתות החברתיות.
תגובות ברשת: ביקורת חריפה על התכונה החדשה
תגובות ברשת היו ברובן שליליות. אחד המשתמשים ב-Reddit כתב:
"עוד עדכון חסר תועלת שאף אחד לא רצה, שיעלה לכם עוד כסף ויגרום לכם להטיל עוד הגבלות על הפלטפורמה."
רקע על Character.AI
למרות האיסור על משתמשים צעירים, החברה ממשיכה להתמודד עם ביקורת על תכנים בעייתיים בפלטפורמה שלה. לאחרונה, דווח כי החברה טרם הצליחה לפתור את הבעיה של בוטים המדמים רוצחים המוניים, בעיה שזוהתה עוד בשנת 2024.
כתבות קשורות
עובדי מטא מתנגדים למעקב אחר הקשות עובדיהם: 'הפרטיות שלנו נמכרת לאימון בינה מלאכותית'
Mark Zuckerberg’s new initiative to track employee computer use is tearing the company apart. In a sign that those simmering tensions are boiling over...
אמן אנונימי התחזה לציור AI – והתגלה כציור אמיתי של מונה
A poster wrought some moderate havoc this week when they shared a cropped image of a real Monet painting while claiming it was an AI fake, unleashing...
בינה מלאכותית מונעת ממועמדים להשיג ראיונות עבודה – גם כשהם ראויים
For workers already enmeshed in the US workforce, AI is akin to a far-off asteroid, a looming threat that could impact all life on Earth. Our best exp...
האם בינה מלאכותית תוביל לפריצת אלימות המונית בעקבות אבטלה?
These days, the conversation around AI automation and the job market is increasingly focused on “labor displacement,” the phenomenon in which new tech...
אילון מאסק נעדר מהמשפט נגד OpenAI בזמן ביקור רשמי בסין
Elon Musk is locked in a heated trial in a lawsuit he lodged against his rival OpenAI and its CEO Sam Altman. Or at least, he’s supposed to be. Despit...
סאם אלטמן עומד בפני חקירה קשה: האם שיקר בעברו?
OpenAI CEO Sam Altman faced what sounds like a truly awful day on the stand this week during cross-examination in the ongoing Musk v. Altman court sag...
חוקרי מיקרוסופט גילו: בינה מלאכותית נכשלת במשימות תעסוקתיות מורכבות
AI automation is typically exactly what it sounds like: automating tasks — many of which were previously carried out by humans — in an attempt to boos...
תביעה ייצוגית נגד OpenAI: חשיפת מידע אישי אינטימי למטא ולגוגל ללא הסכמה
A new class action lawsuit accuses OpenAI of sharing data including user chat queries and personal identifying information like emails and user IDs wi...