חברת Anthropic, המפתחת מודלי בינה מלאכותית מתקדמים תוך דגש על בטיחות ואתיקה, נקלעה למבוכה מקצועית לאחר שמודל ה-AI שלה, Claude Mythos, שהוצג כמסוכן מדי לפרסום לציבור בשל יכולותיו הגבוהות בתחום אבטחת הסייבר, הודלף למרות ההגבלות הקפדניות.
לפי דיווח של Bloomberg, קבוצת משתמשים לא מורשית הצליחה לקבל גישה למודל כבר ביום ההכרזה על תוכנית Anthropic לשתף אותו באופן מוגבל עם קבוצת חברות נבחרות לצורך בדיקות. החברה הודיעה כי היא חוקרת את הפרצה, אך הנזק לתדמיתה כבר נגרם.
הפרשה מעוררת שאלות קשות לגבי יכולתה של Anthropic לשמור על סודיות המודלים המתקדמים שלה, במיוחד לאור ההכרזות החוזרות ונשנות של החברה על מחויבותה לבטיחות AI. המודל, שנחשב לאחד המתקדמים בתחום אבטחת הסייבר, הוצג ככזה שיכול לזהות ולחזות מתקפות סייבר מורכבות, אך כעת התברר כי הוא נמצא בידי גורמים שלא היו אמורים לקבל אליו גישה.
הפרשה מעלה חששות בקרב מומחים לגבי האבטחה של מודלי AI מתקדמים, ומאתגרת את הטענות של חברות הטכנולוגיה לגבי יכולתן לשמור על סודיות המידע הרגיש שלהן. Anthropic, שגייסה לאחרונה מיליארדי דולרים למימון פיתוח המודלים שלה, נאלצת כעת להתמודד עם ביקורת על כשלי האבטחה שלה.
כתבות קשורות
רשות המסים הבריטית מאמצת בינה מלאכותית לאיתור הונאות מס
Human staff members will still check the AI's findings.
מחקר בינה מלאכותית: מאמרים מדעיים הופכים לטובים יותר – וזה בעייתי לחוקרים
Last summer, Peter Degen's postdoctoral supervisor came to him with an unusual problem: One of his papers was being cited too much. Citations are the...
מנהל המוצר של Claude Code מדבר על מגבלות שימוש, שקיפות והתאמה ל'חליפהLean'
SAN FRANCISCO—Amid an ever-expanding array of surfaces, growing demand for tokens and compute, and a rapidly evolving user base, Anthropic doesn't hav...
xAI מציגה את Grok Build: כלי חדש ליצירת קוד עבור מנויי SuperGrok Heavy
It's in early beta and only available to SuperGrok Heavy subscribers right now.
תביעה נגד מייסדי OpenAI: התביעה של מייסד X נגד מנהלי OpenAI יורדת לסוף דברים
Today was closing arguments in the Musk v. Altman trial, and I almost feel bad writing about the unbelievable demolition derby I just witnessed. Steve...
Meta משיקה תכונות חדשות למשקפי Ray-Ban חכמים: כתיבה באמצעות מחוות ידיים
Meta is rolling out new features to its Meta Ray-Ban Display smart glasses, including bringing the ability to write messages just with hand gestures t...
תאומי ההאקרים שפוטרו שכחו לסיים הקלטה בווטסאפ והפלילו את עצמם
Perhaps you remember Muneeb and Sohaib Akhter, the 34-year-old twin brothers we profiled earlier this week. Although they had the tech chops to commit...
הפרס המוזר של אילון מאסק: 'לעולם אל תפסיק להיות חצוף'
Yesterday, in Musk v. Altman, before the jurors came in, Sam Altman's team passed up what looked - from a distance - like a little league trophy. It w...