Система прогнозирует ошибки беспилотников на дороге

Исследователи из Массачусетского технологического института и компании Motional создали систему, которая объясняет решения беспилотных автомобилей. Эта новая технология, получившая название Concept-Wrapper Network (CW-Net), предназначена для повышения понимания действий автопилота водителями и пассажирами. Об этом пишет сайт Togliatti24.

Беспилотные автомобили используют модели глубокого обучения, которые могут допускать ошибки в нестандартных дорожных условиях. Например, они могут неожиданно затормозить, что может помешать проезду экстренного транспорта. В таких ситуациях пассажиру важно быстро осознать, почему автомобиль ведет себя именно так, чтобы при необходимости вмешаться.

CW-Net преобразует внутренние процессы управления в понятные формулировки, такие как «приближение к остановившемуся автомобилю» или «близко к велосипедисту». Эти пояснения отображаются одновременно с рассчитанной траекторией движения в реальном времени. Разработчики подчеркивают, что модуль не должен ухудшать работу исходной модели управления.

Для обучения системы был использован набор из 130 миллионов примеров дорожных сцен, собранных беспилотными автомобилями. В каждом эпизоде отмечались различные ситуации и объекты, что позволяет CW-Net распознавать важные факторы движения в различных условиях.

Испытания на закрытой трассе с роботакси Motional показали, что пояснения помогают водителям точнее предсказывать действия автомобиля. В одном случае автомобиль останавливался рядом с велосипедистом не из-за корректного распознавания, а после срабатывания экстренного торможения. Получив такую информацию, водитель мог заранее снизить скорость или переключиться на ручное управление.

Схожие результаты были получены в компьютерном исследовании с участием пользователей, где использовались реальные дорожные ситуации из Лас-Вегаса. Участники с пояснениями CW-Net лучше прогнозировали поведение беспилотного автомобиля. Авторы исследования, опубликованного в журнале Nature, уверены, что данная технология может помочь инженерам выявлять ошибки в системах искусственного интеллекта и повысить безопасность автономного транспорта.