בחודש שעבר הצהיר CTO של מוזילה כי טכנולוגיית הבינה המלאכותית לזיהוי פגיעויות הופכת את 'הימים של ימי האפס' למספרים קטנים יותר, ומעניקה ל'מגינים' סיכוי סופי לנצח במאבקם. הצהרה זו עוררה ספקות בקרב מומחי אבטחה רבים, שהכירו את הדפוס החוזר של פרסום תוצאות מרשימות של AI תוך התעלמות מהפרטים הקטנים שעשויים להאיר את התמונה באור שונה.
בתגובה לביקורת, חשפה מוזילה ביום חמישי האחרון את פרטי השימוש במודל הבינה המלאכותית Mythos של חברת Anthropic לזיהוי פגיעויות באבטחה. במהלך חודשיים, זוהתו 271 פגיעויות אבטחה בדפדפן פיירפוקס. מהנדסי החברה הסבירו כי ההצלחה נובעת משתי התקדמויות עיקריות: שיפור משמעותי במודל עצמו ופיתוח 'מסגרת עבודה מותאמת אישית' שתמכה ב-Mythos במהלך ניתוח קוד המקור של פיירפוקס.
פחות דיווחים שגויים כמעט לחלוטין
במהלך השנים, ניסיונות קודמים של מוזילה להשתמש בבינה מלאכותית לזיהוי פגיעויות נתקלו בקשיים רבים. לרוב, המודל היה מספק דיווחים שנראו אמינים במבט ראשון, אך לאחר בדיקה מעמיקה של מפתחים אנושיים התברר כי חלק ניכר מהדיווחים היו מבוססי 'הזיות' של המודל. כתוצאה מכך, נדרש מאמץ רב לסנן את הדיווחים השגויים ולטפל בפגיעויות האמיתיות בדרך המסורתית.
לעומת זאת, טוענים מהנדסי מוזילה כי השימוש ב-Mythos הביא להפחתה דרמטית בכמות הדיווחים השגויים. הם כינו את התוצאות כ'כמעט ללא תוצאות חיוביות שגויות', מה שמאפשר למפתחים להתמקד בפגיעויות האמיתיות ולטפל בהן ביעילות רבה יותר.
כתבות קשורות
ArXiv מטיל איסור על חוקרים המעלים מאמרים מלאי 'AI slop'
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
שרת המאמרים המדעיים arXiv תאסור הגשות של תוכן מלאכותי שגוי
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI מבצעת שינויים ארגוניים נוספים בניסיון להאיץ את פיתוח סוכני הבינה המלאכותית
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
תחנות רדיו בינה מלאכותית נכשלו – והראו מדוע אי אפשר לסמוך על AI לבדו
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
גוגל מעדכנת את כללי הספאם: ניסיונות להשפיע על תוצאות הבינה המלאכותית ייחשבו כספאם
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...
OpenAI מאפשרת לצ'אטGPT גישה לחשבונות הבנק שלכם – מה זה אומר למשתמשים?
ChatGPT will even know how much credit card debt you have. | Image: OpenAI Your trust in AI is about to be put to the test: OpenAI will soon let you g...
פודקאסט חדש: מה באמת חשוב ב-Android 17?
We also dive into all the new features in Android 17.
רשות המסים הבריטית מאמצת בינה מלאכותית לאיתור הונאות מס
Human staff members will still check the AI's findings.