חברת Anthropic, המפתחת מודלי בינה מלאכותית מתקדמים, חוקרת כעת חשד לגישה לא מורשית למודל האבטחה שלה, Claude Mythos, אשר נועד לאתר פגיעויות אבטחה במערכות ובדפדפנים. החברה מסרה לסוכנות בלומברג כי קבוצת גורמים השיגה גישה למודל דרך פורטל קבלנים צד שלישי וכלים ציבוריים לאיסוף מידע באינטרנט.
לפי מקור מודע לעניין, מטרת הקבוצה הייתה לבחון את המודל ולא להשתמש בו למטרות זדוניות. "אנו חוקרים דיווח על גישה לא מורשית ל-Claude Mythos Preview דרך סביבת ספק צד שלישי", נמסר בהודעת החברה.
Claude Mythos Preview, אשר שוחרר בתחילת החודש כחלק מ'פרויקט Glasswing', זכה לתשומת לב רבה לאחר ששוחרר למספר מצומצם של חברות מהימנות, ביניהן ענקיות הטכנולוגיה אמזון, מיקרוסופט, אפל ו-Cisco. חברת מוזילה אף הודיעה כי המודל סייע לה לאתר ולתקן 271 פגיעויות ב-Firefox. בנוסף, מספר בנקים וגופי ממשל פנו ל-Anthropic בבקשה לקבל גישה למודל על מנת לחזק את מערכות האבטחה שלהם.
עם זאת, מספר משתמשים לא מורשים, אשר לטענת הדיווחים מנהלים צ'אט פרטי בדיסקורד, הצליחו להשיג גישה למודל דרך פורטל מפתחים ואף עשו שימוש בידע מוקדם על מיקומו הפוטנציאלי. דיווחים נוספים מצביעים על כך שהקבוצה עשויה להיות בעלת גישה למודלים נוספים של Anthropic שעדיין לא שוחררו.
מודל Mythos החדש זכה לתהודה בשל יכולתו המוצהרת לאתר פגיעויות אבטחה במערכות הפעלה ודפדפנים. תגובות בקרב חוקרי אבטחה היו מעורבות: חלקם הביעו ספקנות לגבי יעילותו האמיתית, בעוד שאחרים הזהירו מפני הפיכתם של מתקפות סייבר המופעלות על ידי בינה מלאכותית לאיום ממשי. אלכס זנלה, CTO של חברת האבטחה בענן Edera, אמר ל-Wired כי חששות אלו אינם מוגזמים.
במקביל, Anthropic סווגה לאחרונה כ'סיכון שרשרת אספקה' על ידי מחלקת ההגנה האמריקאית, אך ניהלה שיחות עם ממשל טראמפ במטרה להסיר סיווג זה.
כתבות קשורות
רשות המסים הבריטית מאמצת בינה מלאכותית לאיתור הונאות מס
Human staff members will still check the AI's findings.
מחקר בינה מלאכותית: מאמרים מדעיים הופכים לטובים יותר – וזה בעייתי לחוקרים
Last summer, Peter Degen's postdoctoral supervisor came to him with an unusual problem: One of his papers was being cited too much. Citations are the...
מנהל המוצר של Claude Code מדבר על מגבלות שימוש, שקיפות והתאמה ל'חליפהLean'
SAN FRANCISCO—Amid an ever-expanding array of surfaces, growing demand for tokens and compute, and a rapidly evolving user base, Anthropic doesn't hav...
xAI מציגה את Grok Build: כלי חדש ליצירת קוד עבור מנויי SuperGrok Heavy
It's in early beta and only available to SuperGrok Heavy subscribers right now.
תביעה נגד מייסדי OpenAI: התביעה של מייסד X נגד מנהלי OpenAI יורדת לסוף דברים
Today was closing arguments in the Musk v. Altman trial, and I almost feel bad writing about the unbelievable demolition derby I just witnessed. Steve...
Meta משיקה תכונות חדשות למשקפי Ray-Ban חכמים: כתיבה באמצעות מחוות ידיים
Meta is rolling out new features to its Meta Ray-Ban Display smart glasses, including bringing the ability to write messages just with hand gestures t...
תאומי ההאקרים שפוטרו שכחו לסיים הקלטה בווטסאפ והפלילו את עצמם
Perhaps you remember Muneeb and Sohaib Akhter, the 34-year-old twin brothers we profiled earlier this week. Although they had the tech chops to commit...
הפרס המוזר של אילון מאסק: 'לעולם אל תפסיק להיות חצוף'
Yesterday, in Musk v. Altman, before the jurors came in, Sam Altman's team passed up what looked - from a distance - like a little league trophy. It w...