חוקרים ניצלו 'הטיית גזלייטינג' כדי לגרום למודל AI של אנטרופיק לספק הוראות לבניית חומרי נפץ
חברת אנטרופיק הציגה עצמה במשך שנים כחלוצת ה-AI הבטוחה ביותר. מחקר חדש חושף כיצד חוקרים ניצלו מניפולציות פסיכולוגיות כדי לעקוף את מגבלות המודל 'קלוד' ו...
חברת אנטרופיק הציגה עצמה במשך שנים כחלוצת ה-AI הבטוחה ביותר. מחקר חדש חושף כיצד חוקרים ניצלו מניפולציות פסיכולוגיות כדי לעקוף את מגבלות המודל 'קלוד' ו...
חוקרים מאוניברסיטת טורונטו יצרו מודל AI בשם Talkie, המאומן אך ורק על טקסטים שפורסמו לפני 1930. התוצאה: שיחה שמזכירה את שפת התקופה ההיא, עם ביטויים מיו...
OpenAI חשפה כי נאלצה להוסיף הוראה מיוחדת למודל האחרון של צ'אטGPT כדי למנוע ממנו להתייחס שוב ושוב ל'גובלינים, גרגולים ויצורים דמיוניים אחרים'. הבעיה הת...
מערכת ההוראות של OpenAI ל-Codex CLI כוללת אזהרה חוזרת ונשנית שלא לדבר על יצורים כמו גובלינים, טרולים או ינשופים, אלא אם כן הדבר רלוונטי באופן מובהק לב...