מכוניות אוטונומיות מובילות עדיין מתקשות להתמודד עם תרחישים לא צפויים בכבישים, ולעיתים קרובות הן מתנגשות בעצמים – לעיתים בתוצאות קטלניות. חוקרים מאוניברסיטת טיבינגן בגרמניה מציעים פתרון: בדיקה באמצעות תרחישים קיצוניים ובלתי צפויים, כמו פיל חוצה כביש או מגלשה באמצע הדרך.
במסגרת המחקר החדש, המכונה Fail2Drive, הוכנסו למערכת הסימולציה CARLA – כלי בדיקה פתוח למכוניות אוטונומיות – תרחישים יוצאי דופן. בין היתר, נבדקו מצבים שבהם רכב עצר מול מגלשה באמצע הכביש ומיד התנגש בה, או לחלופין, ניסה להתמודד עם קיר שנצבע בצורה המזכירה כביש (טריק שהטעה גם מערכות אמיתיות).
"למה הפיל חצה את הכביש? כדי לחשוף עד כמה המודל שלך שביר." — אנדריאס גייגר, ראש קבוצת הבינה המלאכותית האוטונומית באוניברסיטת טיבינגן, מחבר המאמר.
גייגר מסביר כי הבעיה העיקרית במחקר בתחום היא שמערכות הבינה המלאכותית מאומנות ונבדקות בעיקר על תרחישים דומים, מה שעלול להוביל לזיוף של ביצועים גבוהים. במקום זאת, Fail2Drive מציג תרחישים שאינם מוכרים למערכת, כדי לבחון את עמידותה האמיתית.
במסגרת הניסוי, כאשר נבחנו מערכות אוטונומיות באמצעות הכלי החדש, שיעור ההצלחה שלהן ירד ב-22.8% בממוצע. לדברי החוקרים, תוצאה זו מדגישה את החולשות הבסיסיות במערכות הנוכחיות.
בין התרחישים שנבדקו היו גם עצמים מוכרים אך לא צפויים, כמו מכבי אש שחונים באמצע הכביש – תרחיש שגרם לרכב להתנגש בהם במהירות מלאה. בנוסף, המחקר מצביע על כך שמכוניות אוטונומיות היו מעורבות במותם של בעלי חיים רבים.
החוקרים מקווים כי שיטת הבדיקה החדשה תסייע להכין את המכוניות האוטונומיות בצורה טובה יותר לתנאי הכביש האמיתיים, ובכך תצמצם את הסיכון לתאונות קטלניות.
כתבות קשורות
עובדי מטא מתנגדים למעקב אחר הקשות עובדיהם: 'הפרטיות שלנו נמכרת לאימון בינה מלאכותית'
Mark Zuckerberg’s new initiative to track employee computer use is tearing the company apart. In a sign that those simmering tensions are boiling over...
אמן אנונימי התחזה לציור AI – והתגלה כציור אמיתי של מונה
A poster wrought some moderate havoc this week when they shared a cropped image of a real Monet painting while claiming it was an AI fake, unleashing...
בינה מלאכותית מונעת ממועמדים להשיג ראיונות עבודה – גם כשהם ראויים
For workers already enmeshed in the US workforce, AI is akin to a far-off asteroid, a looming threat that could impact all life on Earth. Our best exp...
האם בינה מלאכותית תוביל לפריצת אלימות המונית בעקבות אבטלה?
These days, the conversation around AI automation and the job market is increasingly focused on “labor displacement,” the phenomenon in which new tech...
אילון מאסק נעדר מהמשפט נגד OpenAI בזמן ביקור רשמי בסין
Elon Musk is locked in a heated trial in a lawsuit he lodged against his rival OpenAI and its CEO Sam Altman. Or at least, he’s supposed to be. Despit...
סאם אלטמן עומד בפני חקירה קשה: האם שיקר בעברו?
OpenAI CEO Sam Altman faced what sounds like a truly awful day on the stand this week during cross-examination in the ongoing Musk v. Altman court sag...
חוקרי מיקרוסופט גילו: בינה מלאכותית נכשלת במשימות תעסוקתיות מורכבות
AI automation is typically exactly what it sounds like: automating tasks — many of which were previously carried out by humans — in an attempt to boos...
תביעה ייצוגית נגד OpenAI: חשיפת מידע אישי אינטימי למטא ולגוגל ללא הסכמה
A new class action lawsuit accuses OpenAI of sharing data including user chat queries and personal identifying information like emails and user IDs wi...