Как симуляция слонов и другие неожиданные испытания помогут улучшить безопасность беспилотных автомобилей

Даже самые передовые системы автопилота не застрахованы от ошибок. Они нередко путаются и врезаются в препятствия, что в худших случаях приводит к трагическим последствиям. Возможно, дело в том, что симуляции для их тестирования слишком предсказуемы.

Группа исследователей из Германии представила новый подход к проверке беспилотных автомобилей. В его основе — экстремальные и абсолютно случайные сценарии, которые модели не встречали ранее. Например, на дорогу может выйти слон, или посреди проезжей части окажется детская горка. В одном из роликов, предоставленных учёными, автомобиль на полном ходу врезается в припаркованную пожарную машину.

«Почему слон перешёл дорогу? Чтобы показать, насколько хрупкой может быть ваша модель», — написал Андреас Гейгер, глава группы автономного зрения в Тюбингенском университете, в своём посте на LinkedIn. Он также является соавтором новой научной работы, опубликованной в виде препринта.

В другом тесте автомобиль останавливается перед детской горкой, а затем почему-то резко въезжает в неё. Ещё один сценарий — дорога, нарисованная в стиле мультфильмов «Looney Tunes», которая сбивает с толку даже реальные системы автопилота.

На первый взгляд, эти сцены могут показаться шуткой или даже издевательством над игроками в GTA Online. Однако у них есть серьёзная цель, подчёркивает Гейгер.

«В исследованиях автономного вождения существует тихая, но серьёзная проблема: большинство моделей обучаются и тестируются на одних и тех же сценариях», — объясняет он. «Кажущаяся высокая точность на тестах может быть всего лишь результатом запоминания данных».

Новый бенчмарк, получивший название Fail2Drive, призван решить эту проблему. Он вводит множество нестандартных ситуаций в открытый симулятор CARLA, который широко используется в индустрии. Некоторые сценарии выглядят абсурдно, как слон на пешеходном переходе, но другие вполне реалистичны — например, припаркованная пожарная машина, в которую автомобиль врезается на полной скорости.

При тестировании существующих моделей автопилота с использованием Fail2Drive исследователи выявили тревожную тенденцию. В среднем, их точность упала на 22,8%, что свидетельствует о серьёзных проблемах с устойчивостью текущих подходов.

Хотя неизвестно, поможет ли этот метод лучше подготовить беспилотники к хаосу реальных дорог, он может хотя бы спасти жизни нескольким заблудившимся слонам.

Читайте также: Элон Маск признался, что годами обманывал клиентов Tesla насчёт автопилота