Первая жертва робокара: кого винить?

Мы все знали, что однажды это произойдёт, но — давайте начистоту! — надеялись, что случится по крайней мере не так скоро. В конце прошлой недели стало известно о гибели первого человека в автомобиле, управляемом автоматикой, а именно в электромобиле Tesla Motors Model S с включенным автопилотом. Событие это безусловно войдёт в историю, так что ничего удивительного, что СМИ перемывают кости участникам трагедии и самой машине. Неприятно поразило то, что сошлись они на вине в равной степени самого погибшего и робокара. Лично мне видится здесь чудовищная несправедливость. В этой истории, полной нестыковок, умолчаний, чрезмерных упрощений и безосновательных обвинений, мы говорим не о том и виним не тех…

Так что же случилось? 7 мая 2016 года на автомагистрали с разделёнными полосами во Флориде, США, произошло столкновение двух транспортных средств: автомобиля Model S и 18-колёсного большегруза с прицепом. Последний совершал поворот налево, намереваясь съехать с магистрали. И как раз в тот момент, когда он пересекал полосу встречного движения, в него влетел электромобиль. Прицеп располагался сравнительно высоко над землёй, а удар пришёлся прямо по его центру — так что седану снесло крышу, после чего он проехал ещё несколько сотен метров. Находившийся за рулём электромобиля 40-летний Джошуа Браун погиб (очевидно, в момент столкновения). Водитель фуры рассказывал потом, что Браун, видимо, не следил за дорогой, а смотрел фильм на портативном DVD-плеере; по крайней мере он слышал что-то такое, когда подошёл к автомобилю после аварии, да и полиция сообщила, что плеер найден.

Как мог Браун не следить за дорогой, летя «на всех парах»? Очень просто: машиной управлял автопилот. 30 июня это фактически подтвердила сама Tesla Motors (имеющая записи с каждого своего автомобиля). Кстати, обратите внимание на разницу в датах: почти два месяца прошло со дня трагедии. Tesla предала историю огласке лишь когда Национальное управление по безопасности на трассах (NHTSA) начало предварительное расследование, то есть утаить случившееся от общественности более не представлялось возможным.

040716-1

Такова общая картина случившегося — и уже она выставляет Брауна и Tesla в невыгодном свете. Почему автопилот не заметил явной преграды? Якобы, потому что камера, на которую он полагается, «приняла белый бок прицепа за яркое небо» (именно такая формулировка кочует из статьи в статью). Дефект! Кто разрешил выпустить на дорогу автомобиль с программным обеспечением, явно требующим доработки? Кто позволил ставить эксперименты на людях?

Конечно, инструкция к автомобилям Tesla Motors предписывает, чтобы водитель следил за дорогой и не убирал рук с руля даже когда автопилот включен. Но контроль за выполнением возложен на самого человека. И это тоже явная недоработка! Почему нельзя было сделать так, чтобы система требовала держать руки на руле? Наконец, само поведение Tesla Motors — имеющей записи с каждой аварии, охотно комментирующей мелкие инциденты, вроде дурака, въехавшего в стену, но два месяца замалчивавшей гибель человека — наводит на мысль о виновности производителя.

Именно такой приговор и вынесен журналистами в минувшие выходные: по водителю не плачьте (ССЗБ!), а автопилот надо запретить. Однако присмотритесь и окажется, что здесь всё перевёрнуто с ног на голову.

Во-первых, оцените, как никто не задаётся вопросом о вине водителя фуры. Ведь это он совершал поворот налево на неконтролируемом перекрёстке и это его обязанностью было проследить, что ничто не ударит ему в правый бок. Тот факт, что электромобиль, по его выражению, «летел» (я, мол, и не заметил, как он прошил прицеп), его не оправдывает: дело было на хайвэе, не на просёлочной дороге! Впрочем, водитель фуры (мужчина за 60) и в прошлом неоднократно штрафовался за нарушение правил движения и эксплуатацию своего транспортного средства в ненадлежащем состоянии, так что можно представить, о ком идёт речь.

040716-4

Во-вторых, именно такая магистраль и является чуть ли не единственным местом, где разрешено и рекомендовано применять тесловский автопилот (который всё чаще неофициально называют «продвинутым круиз-контролем»). Конечно, водитель должен был следить за дорогой, но в данном случае стоит принять во внимание его личность. А Браун был не только отставным военным технарём (сапёр), но и в своём роде знаменитостью «на гражданке»: энтузиаст электротранспорта и робокаров в частности, он много экспериментировал с автопилотом своей «Теслы» и один из снятых им роликов (автоматическое уклонение от бокового удара) как-то процитировал в твиттере сам Элон Маск. Так вот друзья отзываются о Брауне как о человеке, хоть и любившем скорость, но осторожном, предусмотрительном, понимавшем ограничения технологии, которой он доверял жизнь. Вероятно, в последний раз он доверился слишком — но если уж это сделал такой водитель, девять из десяти рядовых пользователей автопилота повели бы себя точно так же. Поэтому не стоит валить всё на погибшего.

Значит, остаётся автопилот — и здесь скрывается третья деталь, которой мало кто придал значение. Почему автоматика не заметила явной преграды? Уж конечно не потому, что «полагалась только на камеру». Самые совершенные камеры и близко не стоят к человеческому глазу по динамическому диапазону, и конечно они не всегда смогут различить белое на фоне неба. Но автомобили Tesla и не полагаются только на камеру. Автопилот в той же Model S — это прежде всего радар дальнего действия, направленный вперёд. Плюс ультразвуковые сенсоры кругового обзора, но они «бьют» всего на пять метров и на большой скорости против лобового столкновения бесполезны.

Так вот про радар у Маска спросили — и он ответил в том смысле, что компьютер принял картинку, нарисованную радаром, за знак над проезжей частью. Это, конечно, недоработка и её, конечно, устранят (вопрос сводится только к распознаванию образов, то есть чисто софтверный). Однако это и не повод обвинять компанию в выпуске «сырого» продукта. Только так, эксплуатацией на настоящих дорогах, в реальных условиях, и можно выявить все или хотя бы большинство ошибок в работе автопилотов. Скорее уж здесь вина Брауна, проигнорировавшего настоятельную рекомендацию производителя следить за дорогой даже при включенном автопилоте — да, всё тот же извечный человеческий фактор, конфликт человека и машины, не способных поделить полномочия!

Джошуа Браун за рулём своего Model S. Ведёт автопилот.
Джошуа Браун за рулём своего Model S. Ведёт автопилот.

Самое же важное в этой истории, как ни парадоксально, не смерть человека, а цифра, выражающая количество смертей на условный километр пробега. Для автомобилей Tesla Motors с включенным автопилотом это пока 130 миллионов миль (209 млн. км). В сравнении со статистикой по Соединённым Штатам, это, грубо, в полтора раза лучше среднего, а в сравнении с развивающимися странами — вдвое.

И даже зная, что данных пока недостаточно, даже понимая, что тут не учтена более высокая безопасность электромобиля по сравнению с бензиновым авто, тенденция всё-таки очевидна: робокары есть и будут безопасней автомобилей с водителем за рулём. Просто потому, что в большинстве ситуаций компьютер способен среагировать быстрее и правильней человека. И с каждым новым витком технологий — улучшится распознавание образов с радаров и лидаров, придёт V2V, появятся трассы со спецразметкой и т.д. — ситуация будет всё выгодней для автоматики.

Да, смерти на дорогах неизбежны, увы. Но если технология позволяет уменьшить их число, её надо холить и лелеять, а не открещиваться, не пытаться похоронить в зародыше. Так что смотрите на случившееся правильно. Трагедия? Бесспорно. Но сколько таких трагедий автопилот позволил и позволит избежать!

P.S. В статье использована иллюстрация Electrek, Florida Highway Patrol.

Что будем искать? Например,ChatGPT

Мы в социальных сетях