Беспилотные автомобили все чаще управляются нейросетями, но их решения остаются «черным ящиком». Никто не может объяснить, почему машина вдруг затормозила или свернула не туда. Инженеры разработали систему CW-Net, которая в реальном времени переводит внутреннюю логику автопилота на человеческий язык — и помогает заранее предсказывать его ошибки.
Ученые создали модуль CW-Net — он не вмешивается в управление, но переводит внутренние «размышления» алгоритма на человеческий язык. Вместо непонятных чисел на экране появляются простые подсказки: «приближается к велосипедисту» или «останавливается перед другим автомобилем».
Система построена так, чтобы они действительно соответствовали реальным причинам маневров. Это не дает водителю ложного чувства понимания — он видит точную картину происходящего.
В ходе испытаний на реальном роботакси CW-Net помог тест-пилотам заранее предугадывать нестандартные действия машины. Например, автомобиль постоянно тормозил рядом с велосипедистами. Сначала водитель решил, что это стандартная реакция на уязвимого участника движения. Но система показала: на самом деле нейросеть просто не узнавала велосипедиста как объект и выбирала опасную траекторию, а торможение срабатывало уже как аварийная защита. Зная это, водитель мог заранее сбросить скорость или взять управление на себя.
Похожие результаты получили и в онлайн-экспериментах с обычными пользователями на основе реальных ситуаций с дорог — объяснения CW-Net заметно улучшали их способность предсказывать, что сделает машина в следующий момент.
Авторы отмечают, что когда речь идет о безопасности, важно не просто создать умную систему, а сделать так, чтобы ее поведение можно было предвидеть и проверять. Этот метод дает инженерам обратную связь для доработки алгоритмов, а в перспективе может укрепить доверие к беспилотному транспорту.
Читайте также:
В США проверяют беспилотное такси Tesla — регулятор усомнился в безопасности Cybercab
Испытания подтверждают, что беспилотный транспорт безопаснее машин с водителем
Радарный чип BYD различает препятствия за 400 м и паркуется с точностью 5 см