Возможность выбирать: в кого будут биться робокары?

Технологии
автор: Евгений Золотов  14 мая 2014

Наши взаимоотношения с электронными машинами не всегда удаётся свести к цифрам. Коллизии, возникающие в пограничных областях информационных технологий, часто имеют и нравственный аспект: вспомните проблему человеческого отношения к роботам, феномен апскирта или осложнения, вызываемые лёгкостью копирования информации в цифровом виде. И этим список, конечно, не ограничивается. Теперь уже очевидно, что не сегодня завтра нам предстоит столкнуться с ещё одной дилеммой, где технологическая грань противостоит моральной. В центре её — робоавтомобиль и простой вроде бы вопрос: если столкновение с другими участниками движения неминуемо, но имеется возможность совершить последний манёвр, как должен поступить бортовой компьютер?

Вообразите следующую дорожную ситуацию. Вы катите по хайвею в новеньком робокаре — и вдруг оказываетесь в безвыходном положении, когда аварии не избежать. Увы, какой бы совершенной ни была электронная и механическая часть, такое случается: желаете вы того или нет, кинетическую энергию придётся гасить в следующие доли секунды. И — надо же такому произойти — у вас (точнее, у вашего робоавто) есть выбор: выкрутить баранку влево и врезаться в сравнительно тяжёлый внедорожник либо выкрутить вправо и ударить относительно лёгкий «компакт». Для простоты предположим, что движутся они в том же направлении, что и мы; наша масса средняя, и оцениваем мы только энергию удара, не задумываясь о пассажирах.

Robocar-2

Водители из плоти и крови в подобные ситуации, естественно, тоже попадают, но человек действует здесь интуитивно — и обвинять его, что в последние миллисекунды он поступил так, а не иначе, никому и в голову не приходит: мы физически не успеваем продумать действие. Иное дело компьютер. Он не ограничен несколькими решениями в секунду, не страдает от туннельного зрения в критические моменты, избавлен от страха. Он видит картину во всей полноте и имеет возможность выбирать, куда направить колёса. А значит, будет действовать так, как его запрограммируют конструкторы.

Что ж, последствия столкновения можно предсказать с достаточной точностью. Массы транспортных средств известны, скорости — тоже (когда же «случится» всеобщий V2V, речь пойдёт даже не о приблизительных оценках, а о точных цифрах, плюс дополнительно будет известно, какое ТС оснащено лучшими средствами защиты, и прочее подобное), а физика диктует, что при столкновении с телом большей массы энергия движения будет погашена эффективней. Вывод? Тормозить нужно о внедорожник.

Не спешите указывать на очевидный просчёт. Да, вы совершенно правы: по статистике, наши шансы погибнуть после столкновения с внедорожником в разы выше, чем после столкновения с «компактом». Однако повторю: наш мысленный эксперимент сильно упрощён, это своего рода сферический конь в вакууме, нужный, чтобы проиллюстрировать возникающую принципиально новую проблему. Суть её вот в чём. Если бы мы управляли автомобилем самостоятельно, вероятности подвергнуться удару с нашей стороны для внедорожника и «компакта» были бы (статистически) равны. Иначе говоря, бал правила бы случайность. А вот для робопилота внедорожник оказывается предпочтительной целью. Понравится ли такая «дискриминация» производителям внедорожников? Понравится ли она их покупателям и пассажирам?

Robocar-3

Усложнение опыта — путём изменения состава участников движения и добавления в уравнение человеческих жизней — повлияет на стратегию робокара, но не устранит дискриминацию. Скажем, если робопилот беспокоится за жизни своих пассажиров, будет логично бить машину меньшей массы. И, получается, конструкторы робоавто умышленно заложат в свои продукты идею убийства менее защищённых участников движения.

Ещё более неприглядной картинка выходит, если заменить внедорожник и «компакт» мотоциклистами: один пусть будет в шлеме, другой — без него. Бить, естественно, лучше того, который в шлеме — но тогда получается, что само по себе ношение шлема увеличивает риск попасть под колёса!

А представьте, что перед робокаром оказался случайный пешеход. Сбить его и наверняка убить — или тормозить о бордюр и другие автомобили, рискуя жизнью людей в салоне?

Эту головоломку можно крутить и так и эдак, но какой бы стороной мы её ни повернули, в конце концов получим один и тот же вопрос: кто дал конструкторам робоавто право решать, кем и чем пожертвовать? Тему эту поднял на днях в журнале Wired исследователь из США, занятый, в частности, робоэтикой. Но поднималась она и до него, так что к настоящему моменту накопилась хорошая подборка аргументов за и против. Главный контраргумент: исходить нужно не из этических соображений, а только и исключительно из правил дорожного движения.

140514-3

Логика в этом есть: раз уж автомобиль имеет возможность манёвра, он должен прежде всего соблюсти правила, запрещающие, к примеру, выезд на левую полосу, когда она занята. К сожалению, в ситуациях, подобных рассмотренным выше, ориентироваться на правила будет плохой идеей. Что если, оценив все мгновенные факторы, робопилот решит, что наилучшим с точки зрения минимизации вреда будет вариант, требующий нарушения правил? Разве можно будет конструкторов за это осудить?

Такое рассуждение приводит к пониманию, что действия робоавтомобиля в критических ситуациях, скорее всего, будут диктоваться математикой — а именно решением системы уравнений, с поиском точки минимальных повреждений для техники и людей. Однако это лишь подтверждает ранее сделанный вывод: исход дорожно-транспортного происшествия с участием робокара не будет случайным! Кто-то из его участников неизбежно окажется в систематически менее выгодном положении по сравнению с другими.

И тогда… Мотоциклиста без шлема (из примера выше) можно будет обвинить в провоцировании смерти или увечий мотоциклиста в шлеме (и всё равно безопасней станет ездить без шлемов). Программистов, писавших софт для робокара, который затормозил о «компакт», обвинят в преднамеренном убийстве пассажиров «компакта». Если же робоавтомобили будут предпочитать биться о более тяжёлые и лучше защищённые авто, могут пострадать продажи внедорожников и ультрабезопасных седанов, ибо пропадёт стимул к их развитию.

Всего этого можно избежать, если запретить робопилоту принимать «осознанные» решения перед столкновением. Но в таком случае не будут продаваться уже сами робокары: кто же купит автомобиль, который не ценит жизнь своих пассажиров, не ставит её выше чужих?

В статье использованы иллюстрации Lore Denizen, Soumyadeep Paul, Becky Stern.
Поделиться
Поделиться
Tweet
Google
 
Читайте также
Если можем — не значит должны! Как выкрали рассказы Джерома Сэлинджера и обязана ли информация быть свободной?
Если можем — не значит должны! Как выкрали рассказы Джерома Сэлинджера и обязана ли информация быть свободной?
Если птице отрезать крылья… или О человеческом отношении к роботам
Если птице отрезать крылья… или О человеческом отношении к роботам
Безопасность прежде всего: Хомо сапиенс как главная помеха для автомобилей будущего
Безопасность прежде всего: Хомо сапиенс как главная помеха для автомобилей будущего
  • Бумбараш

    «…физика диктует, что при столкновении с телом большей массы энергия движения будет погашена эффективней. Вывод? Тормозить нужно о внедорожник.»

    Ога. Если забить на мощность, выделяемую при ударе. Хотя именно этот параметр определяет останетесь вы живы ли нет. А то получается, что бетонная стена предпочтительнее деревянного забора. А встречная машина предпочтительнее попутной или стоящей.

    • Sentinel

      Ну блин! Ну не дёргайте из контекста. Прочтите хоть на абзац дальше!

      • Бумбараш

        Виноват(

      • Александр Сверинов

        Евгений, спасибо за умную статью. Поднял проблемы, о которых большинство не задумывается…

      • Злой

        Независимо от содержимого дальнейших абзацев, физика нигде не диктует, что при столкновении с телом большей массы энергия движения будет погашена эффективней.

  • А почему робот может думать в момент ДТП, но не может думать до ДТП, чтобы его предотвратить или вообще исключить?
    Например, если хочешь ехать быстро, то только на автопилоте.

    • Александр Сверинов

      Потому что не только данная машина может быть источником ДТП. Например, перед тобой едет Газель, ты держишь нормальную дистанцию, но вдруг у машины встречного направления отваливается колесо — ты этого еще не видишь. Этот встречник вылетает на твою полосу, врезается во впередиидущую Газель, из которой на дорогу сыпятся стальные трубы. Все, ты не можешь избежать столкновения, у тебя только варианты уменьшения ущерба. И не только для момента столкновения с Газелью, но и для более поздних столкновений, ведь в тебя, возможно, влетит кто-то сзади, кого ты еще пока не видишь. Или уже видишь хоть кого-то, кто будет участвовать в этой каше, но не всех.

      • Полностью исключить — это я еду на танке и только на автопилоте. :) Автопилот не делает действий, которые могут привести к ДТП, а танк защищает от любых действий других участников.

        • Бумбараш

          Не «еду», а «сижу»)

          • Почему?

          • Бумбараш

            Так еще меньше вероятность ДТП.

          • Физически — да, «сижу». Но говорим — «еду». Например, «доехать на автобусе/метро/попутке» (не за рулём»).

      • Инженер

        Отсюда вытекает необходимость обмена данными между автомобилями. Тогда перед роботом будет стоять, например, задача выбрать между вариантами 1) убить своего пассажира об самосвал
        2) спасти своего пассажира ценой смерти двоих детей на заднем сиденье впередиидущей микролитражки.

  • halyavin

    Автомобиль скорее всего просто врежется в того, кто перед ним в этой же полосе. Если водитель считает иначе — может взять управление на себя, если успеет. В любом случае такие ситуации будут происходить достаточно редко (по сравнению с общим количеством ДТП), чтобы это ни на что не влияло.

    Дополнительно, не забывайте про страховку. Если водителю Седана заплатят за ущерб, то какая разница врезались в него или нет? Один случай на миллион в стоимости страховки будет ничтожен.

    • Artem Artemenko

      На перекрестке на низкой скорости у авто отказали тормоза, дешевле было остановится в самосвал, но инстинкт самосохранения выбрал для торможения меня. По деньгам вышло не сравнено больше. Да и чутка курс другой бы был мог и меня травмировать. В общем робот всяко не хуже будет.

  • Artem Artemenko

    как бы не вижу противоречий. автопроизводители введут стандарт под кодовым названием «проактивная система безопасности движения» пропишут логику и утвердят в союзе автопромышлеников и включат в систему обязательных требований Евро-12. Далее програмисты не уязвимы, пользователи довольны цифра безопасности больше. Автопроизводители поставляя в страны, где стандартная логика несколько конфликтует с местными особенностями будут разводить руками и кивать на введеный стандарт который вяжет руки.

    • Александр Сверинов

      Противоречие в том, что стандарты всегда принимаются на основе опыта практического использования систем. И пока стандарт не принят, никто не понимает даже какие положения должны лечь в основу этого стандарта.И даже когда стандарт принят, шишки будут сыпаться. Пусть не на программистов, а на тех, кто подписал стандарт. Т.е. надо будет еще как-то убедить людей этот стандарт подписать, ибо ответственность за малейшие непродуманные моменты этого документа — человеческие жизни, огромные бабки, репутации компаний и т.д. И соответственно ставкам будет и давление на тех, кто его будет принимать.
      Ты бы поставил свою подпись под таким документом? :)

      • Mykola Yaroshenko

        Но ничто не мешает принять предварительную версию и потом ее уточнить на опыте практического применения.

        Задача стандарта — унификация решений. Кого бить при угрозе ДТП к примеру.

        Изначальные пожелания будут формироваться на основе опыта нероботизированных авто с учетом уже имеющего опыта эксплуатации роботизированных (экспериментальной). Но это только первая прикидка… Безусловных требований в начале может быть мало, могут быть рекомендации.

        В общем, нельзя сказать, что отправной точки нет. Начать сложно, это да. Но нужно.

        • Alex

          >> Задача стандарта — унификация решений. Кого бить при угрозе ДТП к примеру.
          — совершенно верно. Должен быть унифицированный стандартизированный ответ на вопрос: кого убить?
          — ребенка
          — афроамериканца
          — еврея
          — you say

          • Инженер

            Все трое — люди и их жизни равноценны. Могут быть более сложные этически ситуации. Например, после ДТП с тремя пострадавшими — 3 калеки, либо двое здоровых и труп. Но мне кажется, даже просто железное исполнение ПДД + простейшая система предотвращения столкновений без всякой этики уже даст сильное сокращение жертв.

      • Artem Artemenko

        Коллективная ответственность она такая. Начальник кивает на экспертов — эксперты на начальника. Разработка систем безопасности довольно проторенная область. Опытно-промышленые испытания регламентированные законом и вуаля. отвечать некому.

    • Alex

      ага. А потом я поставлю хак, который увеличит мою безопастность за счет окружающих…:-)

      • Artem Artemenko

        При аварийной ситуации разберутся припишут попытку убийства. Если еще не обязуют подключать машины к инету и ежедневно получать апдейт.

  • Konstantin Khlebnikov

    чтож самая интересная комбинация не проработана: когда у всех троих робот и могут договориться

    • Александр Сверинов

      и как робот сможет предсказать, что у него сейчас отвалится (лопнет) колесо и он в любом случае вылетит на встречку?
      Всегда есть неподконтрольные факторы… В этом и вся проблема, о том и суть статьи

      • Вероятно имелась в виду возможность договориться в момент начала ДТП. Т.е. они договорятся в кого врезаться, когда ясно, что ДТП неизбежно.

        • Тут интереснее другое. Если они перетрут все это дело и придут к выводу что как не крути но виновника дтп лучше убить чем спасти ценой огромного урона. Условно, если водила дальнобоя понял что у него отказали тормоза и принял решение что лучше с обрыва чем замес на дороге и десятки жертв, то водитель вроде как герой. Если такое решение принял за водителя робот то это РОБОТЫ УБИЙЦЫ ЗАПОЛОНИЛИ ВСЮ ПЛАНЕТУ как то так, хоть и бесконечно глупо, будут многие которые будут кричать о необходимости запрета таких машин

          • «Лучше убить, чем спасти» — вряд ли такое будет, даже «ценой огромного урона». Любая жизнь, вроде как, бесценна.
            А то, что принял решение робот — это, может, в начале будет возмущение, да и только среди «отсталых слоёв населения». Потому что логику робота можно будет легко объяснить. Если всех слушать, то уже сейчас в машине присутствует целая куча разных «мини-роботов» (например, ABS) — может и от них отказаться? :)

          • Алексей

            //»Лучше убить, чем спасти» — вряд ли такое будет, даже «ценой огромного урона». Любая жизнь, вроде как, бесценна.//
            Все это романтично, но в те доли секунды между осознанием ситуации и столкновением, человеком руководит исключительно инстинкт самосохранения.
            Именно поэтому самым безопасным местом для пассажира является «за водителем».

          • Речь идёт не о человеке.

          • Алексей

            Я, честно говоря, не подумал что Вы всерьез говорили «любая жизнь безценна» применительно к «мышлению» робота. Вся эта дилемма из статьи, из разряда филосовских кино и литературных милодрам про душувные терзания ИИ. Роботы и ИИ — инструмент, и его душевные терзания, тоже самое что и «троение» двигателя, скрепение двери, и.т.д. Говорит это только о плохом конструировании и содержании этого инструмента.
            Вообще плюшки робота за рулем будут проявляться во взаимодействии их между собой. И этот пример из статьи окончился бы вовсе без крэша, если по просьбе виновника, внедорожник и маленькая машинка просто примут немного в стороны дав коридор.
            Что касается автономного режима, то в экстренном случае, робот должен действовать основываясь на том принципе что жизнь его пассажиров важнее всего. Что бы не вносить неразбериху.

          • На счёт «троения» — согласен.
            Принцип правильный, но неточный: важна жизнь не только пассажиров, но и всех ближайших людей. И именно это я и имел в виду под «любая жизнь бесценна».

          • вы слишком хорошего мнения о человечестве. Человечество вот прямо сейчас в африке похищает 200 девушек за то что они учатся «западным наукам», лидер движения организовавший это самое деяние считает что земля не может быть круглой и вода не совершает круговорот. До сих пол существуют страны где девушкам режут клитора, до совсем недавнего времени существовали люди считавшие что лучше дать родному умереть чем допустить переливание крови, до сих пор люди кричат про то что надо закрыть все АЭС, что нельзя есть глутамат, что от гмо мы все превратимся в рыб, что у монитора надо ставить кактусы и это защитит от излучения а рак — неизлечимая штука так что лучше о нем не знать и получать удовольствие вместо того чтобы проходить периодический скрининг. Короче не, люди в глубочайшей степени не разумные и эмоционально-движимые существа. Как только произойдет первый инцидент со спорным решением машины — тут же по всему миру пойдут демонстрации с требованием запретить такие машины. И во многих странах такой запрет пройдет, ибо аллах велик а иисус пришел с мячем ну и т.д. и т.п.

          • Всех перечисленных я как раз и считаю «отсталыми слоями населения». Да, они существуют, но прогресс же идёт. :)

          • с т.з. эволюции отсталые слои имеют преимущество. Ну вон как в турции с курдами. Курды были отсталыми, их притесняли. В итоге турки стали благополучным почти европейским народом… и как все благополучные народы, перестал плодиться как кролики, потому что теперь от наличия детей не зависит то что ты не умрешь в старости от голода. А курды не перестали. В итоге щас курдов дофига и скоро будет еще больше, а турков становится все меньше.
            Если экстраполировать на весь мир, какая то очень грустная картина выходит на самом деле…

          • Алексей

            //Если экстраполировать на весь мир, какая то очень грустная картина выходит на самом деле…//
            Уж не знаю как к этому относиться, но работа по решению обозначенной Вами проблемы, явно идёт. Кто-то делает это гуманными способами, Бил Гейтс с супругой например активно продвигают средства контрацепции в третий мир. Кто-то, в общем бесчеловечными и подлыми способами, в Израиле репатриантам женского пола из Африки обманом делали стерилизующие инъекции, особую циничность этой ситуации придаёт история и судьба самого народа Израиля.
            На мой взгляд, более честным методом решения гиперрождаемости в третьем мире, служит пример Швейцарии, где ограничивают въезд граждан третьего мира в их страну. О том-же заговорили и в Англии и других европейских странах, но там сложней, ЕС как ни как — тотальная толерастия. Хотят плодиться как кролики — ради Бога, только у себя дома, а там природа сама отрегулирует.

          • Алексей

            //Короче не, люди в глубочайшей степени не разумные и эмоционально-движимые существа.//
            Очень надеюсь что так и останется, до некоторой степени конечно.
            Вам не приходило в голову, что например, эмоции движут не только боевиками Боко Харам, убивающих и захватывающих заложников, но и вашим (и надеюсь большинства) возмущением этим. И что абсолютно разумному не эмоциональному существу, было как минимум наплевать на население Африки, а скорей всего сочло бы необходимым несколько сократить это самое население.

          • Эмоции — штука сложная. Но за ними стоит довольно сложная конструкция, зачастую являющаяся той же логикой, только запрятанной очень глубоко и подкрепленной не явными аргументами. Для боевиков Боко Харам в высочайшей степени логично не допускать западного учения, ведь аллах за это покарает, так что они всех спасают, даже тех девочек которых убьют. Такая же фигня и с теми кто боится машин, в их пониманаа глубоко логично не давать машинам решать кого убивать а кого нет, иначе они завтра всех убьют.
            Беда, как видите, в том что люди изначально оперируют не полной картиной мира и всячески на основании своего невежества делают дурные выводы. Эмоциональность тут в том что они имеют внутреннее подкрепление своей правоты в своем невежестве, тогда как общество в идеальных сферических условиях с детства должно человеку расширять горизонты и тогда будет меньше таких вот идиотских перегибов. Но почему то общество считает что к тупым и повернутым на религии надо относиться толерантно… как то так

    • В связи с тем, что тут замешана угроза жизни, то встраивать механизмы обмана в роботов будет чревато. Например, робот будет говорить другим роботам, что его машина не застрахована, поэтому в него врезаться не надо. :) По чёрному ящику всё потом восстановят.
      Следовательно алгоритм «договора» в данном случае будет очень простым.

    • Garruz

      >>> у всех троих робот и могут договориться

      – Мой хозяин важнее!
      – Нет, мой!
      – Ни фига, мой важнее ваших!
      Пауза. Электронный вздох…
      – Ну чё, давайте в «камень-ножницы-бумага», что ли…
      =)

  • Геннадий Лебедев

    Вой по этому поводу однозначно будет.
    И, самое печальное, он будет лишен смысла самого начала. Потому что позиция вопрошающего подразумевает, что и внедорожник и компакт равны в некоем условном наборе критериев, хотя это изначально не так. Никто ж не ноет и не подает в суд на то, что какой-нибудь хаммер ест по 25-30л на 100км. Это последствия выбора — и ей богу, не вижу причин почему бы им не быть и такими.

    • Garruz

      Угу. Последствия выбора… Так и вижу рекламные ролики: «Хочешь защитить себя от робокаров? Покупай Хаммер! Нет денег на Хаммер? Сдохни, нищеброд!»

      • Геннадий Лебедев

        Лишь бы что-то сказать?

        • Garruz

          Лишь бы показать, что критерий равенства внедорожника и компакта вовсе не «условен», а вполне себе реален – в обоих находятся люди. Внезапно, правда?

          • Геннадий Лебедев

            Люди, внезапно, тоже не одинаковы.
            Напоминаю байку из другого поста про спасение людей от неизбежной гибели и последствия.

          • Garruz

            По какому же критерию люди «неодинаковы», если не секрет?

          • Геннадий Лебедев

            Например, по ответу на вопрос «одинаковы ли люди?»

          • Garruz

            Увы, это не ответ, тем более для робокара. =)
            Таки повторю вопрос – по какому критерию люди «неодинаковы»? И уточню – с точки зрения робокара.

          • Геннадий Лебедев

            Если серьезней, то при одинаковости некоего критерия для всех альтернатив — его просто нет смысла учитывать.
            Выбор в ситуации «в кого въехать?» должен определяться путем оценки, что в целом безопаснее, а не из соображений лживой дискриминации.

          • Garruz

            Вопрос в том – для кого безопаснее?
            Усложним задачу, для лучшего понимания… Въехать в тяжёлый Хаммер с одним водителем, либо в лёгкий компакт с водителем и четырьмя пассажирами? Въехать в столб или в школьный автобус?
            Есть ли смысл учитывать эти моменты, как вы считаете?

          • Геннадий Лебедев

            Смысл есть при наличии информации, да.
            Но хочу обратить внимание, что это вопрос по-прежнему не про людей как таковых, а про сугубо численное сравнение вероятностей и тяжести травм.

            Для веселья предлагаю еще подумать над таким сценарием: в одной машине тяжелораненый дипкурьер, везущий сведения государственной важности, в другой — молодая семья с детьми. Сделаем допущение, что технологии развились настолько, что эти факты доступны для авто и они имеют вес при принятии решения. В кого стоит въехать робоавтомобилю?

          • Garruz

            Иначе говоря, вы предлагаете всё же учитывать эти моменты, вопреки своему предыдущему мнению о том, что постоянное предпочтение в качестве «цели» компакта – всего лишь «последствия выбора» владельца компакта?
            И, таки да – это всё к нашему ста-а-арому спору о несовершенстве любых систем ИИ, разработанных в рамках текущих парадигм их моделирования и функционирования. Ну, и про «философские/моральные/этические модули» тут более чем уместно вспомнить… =)))

            P.S. Лично я при данном уровне вводной информации – пожертвовал бы курьером.

  • bujhm

    В настоящей V2V-инфраструктуре не должно быть травм не только при поломках и оплошностях, но и при явном намерении участников ДД. Dixi.

    • Александр Сверинов

      Угу. А при коммунизме все будет… Надо только ждать. Почитай комменты ниже.
      Техника способна улучшить жизнь, но идеал никогда не достижим, как и сферический конь в вакууме

      • bujhm

        Сооснователь и глава Tesla Илон Маск верит в то, что управляемые человеком автомобили в конце концов будут вне закона – их заменят роботизированные собратья. http://geektimes.ru/post/247436/

  • jno

    Много у нас судов было над авторами/подписантами стандарта GSM?
    А вот преступлений, связанных с незаконным перехватом GSM-коммуникаций — хватает.

    Продавят нужные стандарты (полуанонимные, как водится) и всё.

    Это ещё Sentinel чегой-то обошёл вниманием вопросы «безопасности» с т.з. государства: как будет тормозить робот, получив приказ немедленно остановиться от (вроде как) полицейского? А если это — прямой путь к аварии?

    Короче, поехали на метро… тут, кстати, и ежедневно 3.14здят вещают, что «безопасности много не бывает»…

    • Sentinel

      Кстати, да — кнопка принудительного торможения по приказу ДПС просматривается…

      • jno

        Чё уж там — первым делом имплементят.
        Киллинг апп для всей этой в2в фигни.

        • пМВ

          Цепь АПР, как встарь…

          • Sentinel

            АПР?

          • пМВ

            Аварийный подрыв ракеты, разрушение боеголовки, чтобы свои части не поджарила, если изделие сходит с траектории…

      • jno

        кстати, не только!

        ещё и команды, вроде «освободить дорогу спецтранспорту» и «всем стоять»…
        и как её освободить, если для этого нет технической возможности?
        и можно ли для пропуска членовоза проехать по тротуару?
        а по пешеходам?
        а почему нет?

        и всё тот же вопрос: чем отличается команда (вроде той же «стоять!»), полученная от легитимного источника, от точно такой же, но полученной от злоумышленника?

        • Garruz

          >>> чем отличается команда (вроде той же «стоять!»), полученная от легитимного источника, от точно такой же, но полученной от злоумышленника?

          Сигнатурой, вестимо…
          Да, понятно, что на всякую хитрую сигнатуру найдётся хакер с левой резьбой. Но на то и всяческие IT-отделы «в штатском» свой хлеб едят, чтоб беспрестанно совершенствовать.
          «Я так думаю»… ©

          • jno

            какой, в пень, сигнатурой? :)
            надо стойкое крипто.
            а кто это делать будет?
            никто!
            потому как — экспортные регуляции, национальные заморочки…

          • Garruz

            Ну а чем та же сигнатура спецсредств для робокаров отличается от ксивы? То же самое ведь, по сути. Ксивы, конечно, подделывают – но достаточно редко, если уж «совсем припёрло»… =)

            Тема экспортных вариаций будет, согласен. Но, с другой стороны – чем эта схема так уж принципиально отличается от тех же локальных прошивок для смартфонов?

          • jno

            Ксивы лепят по мере надобности.
            Да и «настоящую» добыть не сложно…

            А в смартфонах крипто нету :)
            Ну, не считая GSM’ного барахла…

          • Garruz

            А зачем вообще какой-то хитро…особенный крипто для банального вещания в окружающий эфир сообщений вроде: «Я – машина скорой помощи, номер такой-то, имею приоритет» или «Я – членовозка, номер такой-то, имею приоритет»?
            Плюс, как защита от «слишком умных» – регистраторы на каждом перекрёстке, читающие ID каждого транспортного средства и выявляющие потенциальных «хитрецов» уже методами простейшего сравнения по базе данных, либо визуального сходства с обладателем настоящего ID.

          • jno

            затем, что завтра *все* станут «скорой помощью».
            а ID можно и свой вклеить…

          • Garruz

            А системы регистрации на что? Ближайший стационарный уличный приёмник (вкупе с камерой) фиксирует «спец-сигнал» и его обладателя, сверяет его с базой данных спецсредств и выдаёт результат – фальшивка или нет. Если фальшивка – умника останавливает ближайшая полицейская машина, дальнейшее регулируется административным кодексом…

          • jno

            это уже прикладная фаллометрия пошла — антирадары с выключателем передатчика, потом какие-нибудь пассивные средства обнаружения, потом обнаружители пассивных средств…

          • Garruz

            Why not? Ничего сложного в этой схеме не вижу. Действуют ведь стационарные системы фоторегистрации нарушителей с распознаванием номеров. А когда-то их идея тоже казалась «прикладной фаллометрией»… =)

          • jno

            ну так и сейчас номера прячут по всякому

          • Garruz

            В том-то и дело, что широковещательный (!) спецсигнал – не номер, его не «спрячешь». Либо он действительно широковещательный (в том числе и для стационарных регистраторов), либо от него вообще никакого профита не будет. =)

        • Инженер

          Электронной подписью

    • пМВ

      «Кого давить, бабушку или внучку?
      Старушку…
      Тормоз давить надо, тормоз!!!»

      • jno

        Это ежели ещё тормоз будет в списке целей для выбора…

        • пМВ

          С нынешних станется его исключить вообще…
          И умеет ли робот тормозить мотором?

          • jno

            Все умеют: когда не вышло затормозить бампером, решёткой, радиатором и вентилятором — начинается торможение мотором!

          • пМВ

            Неужели они учатся в нынешних автошколах…

          • jno

            про ботов пока не слышал, но конструктора-то с программёрами…

          • пМВ

            Дааа…

          • jno

            меня вот сильно занимает спецификация «реакции на мигалку»…

          • пМВ

            Если скорая или пожарная — то позитивная…

          • jno

            кстати, интересно: будет ли «представляться» приближающийся спецтранспорт с мигалкой?
            т.е. будет ли борт знать, КОМУ он уступает дорогу?

          • пМВ

            И скидывать в сеть…

          • jno

            только прохаченные :)

          • пМВ

            Но — на сайт ведерок…

          • jno

            не, тут новый ресурс какой-то был — специализированный :)

          • пМВ

            Надеюсь не на твиттере…

          • jno

            что-то типа http://avtohamu.net/

          • пМВ

            Поэтому я и люблю гулять с Маглайт 6Д — его вид парализует владельца монтировки…

          • jno

            а вес — владельца :)

          • пМВ

            А кто обещал, что будет легко…

          • Garruz

            А почему бы и нет?

          • jno

            и кому быстрее надо будет уступать?
            скорой или членовозу?
            а в РФ?

          • Garruz

            Это уж как в ПО пропишут.

          • jno

            пропишут, что скажут

          • Garruz

            Ну, это ясен пень. Без этого никуда, даже робокарам. =(

    • kue

      «- Жора, куда ты идешь?
      — На остановку автобуса…
      — Что, куда-нибудь едешь?
      — Нет, жена попросила насобирать там пуговиц.»

  • Алексей Ларионов

    Это статья конечно правда, но только с точки зрения философии. Если покопаться в истории уверен были такие рассуждения при внедрении первых авто, Лошадь испугается ит.д. Притом что они тоже были теоретически. Триплекс, каленое стекло, ремни безопасности, подушки ит.д ит.д были придуманы далеко не сразу и ничего, жили же.

    Правозащитники не бомбят исками компанию «Форд», с тем что Форд Т был без ремней, подушек безопасности…

    Статья чисто философски интеллектуальная, уверен что при практической реализации таких метаний не будет, договорятся об определённом порядке действий в такой ситуации и будут его придерживаться, корректируя при необходимости.

    Вспомните фильм, «Я-робот», когда ГГ спас робот вместо девочек в ДТП из-за большего шанс на выживания у ГГ, это именно оно.

    • Evgeney Fiskin

      Не все так просто, машины лишь просчитывают варианты, решения они принимают на основе указаний, полученных от людей.
      А по поводу первого абзаца — не только жили, но и умирали.

      • Алексей Ларионов

        И? Кто-то бомбил исками Форда, из-за того, что кто-то хреново водит его машины и разбивается? Как раз есть шанс исключить, или крайне ограничить человеческий фактор на дороге.
        Процент аварий по вине водителя зашкаливает все другие причины! А робокары ещё и на нарушение ПДД человеком-водителей стучать просто обязаны априори.

        Уверен, что примерно будет так:
        Первые робоавто — обычные водители шарахаются от них. «О боже, это робот! Я не знаю, как он себя поведёт! Он всех нас убьёт!»
        50-50 — нормальная кооперация машин и людей. Дело считаных десятилетий.
        Доминация робоавто — зона отчуждения вокруг человека-водителя, люди непредсказуемые, жесткие правило для человека-водителей, бесконечные ограничения для них.

  • Hmmm

    При всём богатстве выбора, включить рандом и никому об этом не сказать. Потребителям заливать про улучшение безопасности в критические дни.

    • Alexander Glukhovtsev

      это не баг — а фича (зачем хороших способов алгоритмизации стесняться;)

  • stalinets

    В робокар надо ставить одноразовые мощные твердотопливные тормозные двигатели. В описанном случае он сможет с их помощью остановиться очень быстро, и только компьютер успеет грамотно их задействовать.

    • плотник

      Белковое содержимое робокара (пассажиры) после перегрузки в 14g выглядят как живые

      • jno

        Заливать герметичный салон-бронекапсулу силиконом каким и дышать через трубочки :)
        Комфорт, конечно, будет тот ещё, но мы ж тут все за безопасность?!

  • Garruz

    Отличная статья!

    А вывод можно сделать один – массовое применение автоматизированных систем невозможно без предварительной «подготовки почвы», без решения критических недостатков самих носителей подобных систем (таких, как безопасность автомобилей, в частности).

    Ведь, посудите сами – сейчас суть проблемы, описанной в статье, практически полностью вытекает из абсолютного приоритета безопасности пассажиров робокара, прописанного в логике бортового компьютера.
    В случае же, если аварийные системы безопасности автомобиля будут гарантировать хотя бы 90-95% защиту при любых столкновениях – в сложных ситуациях бортовой компьютер сможет перенести приоритет с безопасности собственных пассажиров (считая их априори защищёнными) на решение задачи причинения минимального вреда окружающим участникам ДТП.
    ИМХО, только таким долгим и сложным методом возможно решить эту проблему…

  • Вадим

    «Программистов, писавших софт для робокара, который затормозил о «компакт», обвинят в преднамеренном убийстве пассажиров «компакта». »
    Мне кажется автор передергивает. Програмисты должны писать софт который будет минимизиовать ущерб для здоровья людей. И если этот ущерб минимизирован то нужно медаль за спасение дать, а не обвинять в убийстве. Подумайте головой, если бы подобные решения принимал человек, его бы стали обвинять в убийстве? Конечно нет.

    • jno

      Программисты пишут по ТЗ.
      Точка.
      Но крайних, как водится, найдут и назначат…

  • Жабот

    А если учесть стоимость страховки, то все будет еще интереснее!

  • AlexHa

    Проблема высосана из пальца, а связано это возможно с тем что автор явно далек от автоматизации транспортных средств. Робот не может определить массу препятствия, он может лишь определить его наличие. Пенопластовый куб, оклеенный фольгой или бетонный блок для него одно и то же. Системы распознавания образов не определяют в шлеме мотоциклист или без него. Им на это наплевать. Максимум что им требуется — отличить мотоцикл от пешехода, легкового авто, грузового, трактора или неподвижного препятствия. Это необходимо для расчета возможных траекторий движения объектов. Если справа внедорожник слева малолитражка, они едут прямо с определенной скоростью, а спереди внезапно вставшая фура, робот просчитает траектории, и если получится, что в случае торможения ни слева ни справа ТС продвинутся на нужное расстояние не успеет, руль крутить не станет. Если же шанс что ТС освободит полосу справа или слева до столкновения есть, то руль будет выкручен в ту сторону, где этот шанс больше, т.е. в случае движения в общем потоке и равных скоростей в сторону малолитражки, т.к. она короче. Здесь габарит важен и маневрирование, а не масса, которую робот не знает и знать не может.

  • Алексей Макаренко

    Правила дорожного движения запрещают маневрирование. Только экстренное торможение.

    • AlexHa

      Для беспилотных авто в США разрабатывают свои ПДД. На сайте их министерства транспорта http://www.nhtsa.gov/ висит анкета для сбора предложений и примерный список требований к водителям беспилотников.

  • Jean Baptist Emmanuel ZOrg

    >а физика диктует, что при столкновении с телом большей массы энергия движения будет >погашена эффективней. Вывод?
    Всегда тормозите об камаз.

    • jno

      Об Землю.

  • Alexey Zharikov

    Не знаю, как сейчас, а в советских ПДД был специальный пункт «Обеспечение безопасности движения», по которому любые действия водителя, необходимые для ОБД имели безусловный приоритет перед конкретными ПДД.

  • Alexey Zharikov

    У Казанцева в «Планете Бурь» робот, принимающий решение куда сажать планер, озвучивал его для пассажиров и теоретически они могли вмешаться.

  • kue

    Показал колонку жене — получил одобрение на покупку нового литиевого аккумулятора для эл.-велосипеда ! Спасибо !

  • zZzzZzzZzzZzyzZzzZzzZzzZzzZz

    Тема, конечно, лишь слегка приоткрыта — в кого врезаться — в большую машину или малолитражку, со шлемом или без.
    Также надо определять статус пассажиров — в одной машине едет одинокий пенсионер /ранее осужденный (с уточнением вплоть до статьи) / и т. п., а в другой, скажем, молодой чиновник или просто хороший налогоплательщик, у которого жена-красавица и уже трое детей. Или просто паренек, которому еще идти в армию, работать, жить долго…
    Также учитывается число пассажиров в машине и их статус. Что важнее — вся семья или директор металлургического завода?
    Также следует учитывать возраст и стоимость машин, в которые планируется врезаться.
    Парковки и пробки — насущная проблема. Можно решить отключением части автопарка в определенные дни или его направлением на обходные маршруты. Да, кое-где кое-кому запарковаться элементарно не удастся.
    Долго тут можно продолжать.
    Еще можно рассмотреть вариант оборудования средствами катапультирования пассажиров или даже, на крайняк, реактивно коррекции курса машины какими-нибудь пиропатронами для ее увода в менее опасный кювет. Да, я в курсе про возрастающие риски в связи со взрывчаткой на борту. Это в порядке бреда.

    • Инженер

      Парковку разрешить только на стоянках. Робот остановился у магазина, хозяева вышли, забрали сумки и он уехал, получив команду быть здесь через час. Съездил на мойку, оттуда уехал на стоянку. Через час он подъехал к магазину, забрал хозяев и поехал домой.

  • Artem Artemenko

    Уже боевые боты с моральным кодексом на подходе -)

  • Denis Solovjev

    Запретить нероботизированные авто и все проблемы решаться сами-обезьяну за руль пускать нельзя!

  • Alex

    Предлагаю финансовый вариант решения проблемы:
    але Форд слева и Джип впереди, я сейчас кого-то стукну, ваши предложения?
    (Форд) — $1К
    (Джип) — $5К
    — Джип, ваш платеж принят, спасибо. Форд, извините, в этот раз вам несвезло.
    Бум.

    Хочешь безопастности — купи ее! Заложи зараннее в свою машину большой лимит и будешь жить!
    Дальше можно совершенствовать. Можно например аукцион устроить с бидами — кто больше. Форд может успеть сходить в свой банк и заложить дом и получить кредит на выживание.
    Пределов совершенству нет.

  • MargEnAl

    Думаю большая часть проблемы надумана. В любом случае наибольшую долю ответственности несет владелец ТС (транспортного средства). Разумно ему и передать права по финальной настройке интеллекта робота. Кроме того законодатели тоже не дураки. Кто спровоцировал ДТП, должен и нести ответственность. Стратегия максимального снижения потерь и максимального перекладывания оставшихся на виновного. Если в течение какого-то времени выяснится, что мотоциклисты в шлемах стали страдать больше, условно говоря, нужно откорректировать правила, или настройки роботов.

  • Дмитрий Стрельников

    Мне кажется пример высосан из пальца. Если все авто оснащены автопилотами, то данной ситуации не произойдёт вовсе. Если одна из машин потеряла управление и ей приходится решать в какую из машин «въехать» — то разработчики ПО автопилота очень нехорошие люди. Каждая из машин должна заботиться в первую очередь о сохранении жизни пассажиров внутри нее. Но при поломке должна предупреждать всех вокруг радиосигналом или еще каким-нибудь образом. Идеальное поведение автопилотов в данной ситуации:
    — Автомобиль А теряет сцепление с дорогой (автопилот сигнализирует об этом всем участникам движения), но может слегка скорректировать траекторию — в сторону внедорожника Б или в сторону «компакта» В. Выбирает траекторию В как наименее опасную.
    — Внедорожник Б получает сигнал автомобиля А и, хотя в данный момент его пассажирам ничего не угрожает, снижает скорость и уходит с опасной траектории.
    — «Компакт» В получая сигнал и видя, что в него сейчас въедут, уходит с опасной траектории, занимая место внедорожника.

    • Garruz

      Да, но это справедливо лишь в том случае, если все автомобили-участники ДТП – робокары…
      Речь же идёт о «переходном периоде», в течение которого робокары будут соседствовать на дорогах с «аналоговыми» ТС, управляемыми людьми. И, думаю, этот «переходный период» продлится лет 30-40, как минимум…

  • TvpHuman Sapiens

    Вот же блин дилемма — «кого обвинить?» Да никого или судебную систему и устранить ее нахер.

    В данном случае минимизация вреда — инженерная задача и решать её инженерам. А неандертальцы в мантиях тут причем? Они чем блин занимаются? Ищут виноватых мучают и издеваются над людьми. — В этом блин их работа и она должна исчезнуть как, например, в прошлом профессия лифтера и в ближайшем будущем — водителя.

Хостинг "ИТ-ГРАД"
© ООО "Компьютерра-Онлайн", 1997-2017
При цитировании и использовании любых материалов ссылка на "Компьютерру" обязательна.
«Партнер Рамблера» Почта защищена сервером "СПАМОРЕЗ" Хостинг "Fornex"