Первая жертва робокара: кого винить?

Умные машины
автор: Евгений Золотов  04 июля 2016

Мы все знали, что однажды это произойдёт, но — давайте начистоту! — надеялись, что случится по крайней мере не так скоро. В конце прошлой недели стало известно о гибели первого человека в автомобиле, управляемом автоматикой, а именно в электромобиле Tesla Motors Model S с включенным автопилотом. Событие это безусловно войдёт в историю, так что ничего удивительного, что СМИ перемывают кости участникам трагедии и самой машине. Неприятно поразило то, что сошлись они на вине в равной степени самого погибшего и робокара. Лично мне видится здесь чудовищная несправедливость. В этой истории, полной нестыковок, умолчаний, чрезмерных упрощений и безосновательных обвинений, мы говорим не о том и виним не тех…

Так что же случилось? 7 мая 2016 года на автомагистрали с разделёнными полосами во Флориде, США, произошло столкновение двух транспортных средств: автомобиля Model S и 18-колёсного большегруза с прицепом. Последний совершал поворот налево, намереваясь съехать с магистрали. И как раз в тот момент, когда он пересекал полосу встречного движения, в него влетел электромобиль. Прицеп располагался сравнительно высоко над землёй, а удар пришёлся прямо по его центру — так что седану снесло крышу, после чего он проехал ещё несколько сотен метров. Находившийся за рулём электромобиля 40-летний Джошуа Браун погиб (очевидно, в момент столкновения). Водитель фуры рассказывал потом, что Браун, видимо, не следил за дорогой, а смотрел фильм на портативном DVD-плеере; по крайней мере он слышал что-то такое, когда подошёл к автомобилю после аварии, да и полиция сообщила, что плеер найден.

Как мог Браун не следить за дорогой, летя «на всех парах»? Очень просто: машиной управлял автопилот. 30 июня это фактически подтвердила сама Tesla Motors (имеющая записи с каждого своего автомобиля). Кстати, обратите внимание на разницу в датах: почти два месяца прошло со дня трагедии. Tesla предала историю огласке лишь когда Национальное управление по безопасности на трассах (NHTSA) начало предварительное расследование, то есть утаить случившееся от общественности более не представлялось возможным.

040716-1

Такова общая картина случившегося — и уже она выставляет Брауна и Tesla в невыгодном свете. Почему автопилот не заметил явной преграды? Якобы, потому что камера, на которую он полагается, «приняла белый бок прицепа за яркое небо» (именно такая формулировка кочует из статьи в статью). Дефект! Кто разрешил выпустить на дорогу автомобиль с программным обеспечением, явно требующим доработки? Кто позволил ставить эксперименты на людях?

Конечно, инструкция к автомобилям Tesla Motors предписывает, чтобы водитель следил за дорогой и не убирал рук с руля даже когда автопилот включен. Но контроль за выполнением возложен на самого человека. И это тоже явная недоработка! Почему нельзя было сделать так, чтобы система требовала держать руки на руле? Наконец, само поведение Tesla Motors — имеющей записи с каждой аварии, охотно комментирующей мелкие инциденты, вроде дурака, въехавшего в стену, но два месяца замалчивавшей гибель человека — наводит на мысль о виновности производителя.

Именно такой приговор и вынесен журналистами в минувшие выходные: по водителю не плачьте (ССЗБ!), а автопилот надо запретить. Однако присмотритесь и окажется, что здесь всё перевёрнуто с ног на голову.

Во-первых, оцените, как никто не задаётся вопросом о вине водителя фуры. Ведь это он совершал поворот налево на неконтролируемом перекрёстке и это его обязанностью было проследить, что ничто не ударит ему в правый бок. Тот факт, что электромобиль, по его выражению, «летел» (я, мол, и не заметил, как он прошил прицеп), его не оправдывает: дело было на хайвэе, не на просёлочной дороге! Впрочем, водитель фуры (мужчина за 60) и в прошлом неоднократно штрафовался за нарушение правил движения и эксплуатацию своего транспортного средства в ненадлежащем состоянии, так что можно представить, о ком идёт речь.

040716-4

Во-вторых, именно такая магистраль и является чуть ли не единственным местом, где разрешено и рекомендовано применять тесловский автопилот (который всё чаще неофициально называют «продвинутым круиз-контролем»). Конечно, водитель должен был следить за дорогой, но в данном случае стоит принять во внимание его личность. А Браун был не только отставным военным технарём (сапёр), но и в своём роде знаменитостью «на гражданке»: энтузиаст электротранспорта и робокаров в частности, он много экспериментировал с автопилотом своей «Теслы» и один из снятых им роликов (автоматическое уклонение от бокового удара) как-то процитировал в твиттере сам Элон Маск. Так вот друзья отзываются о Брауне как о человеке, хоть и любившем скорость, но осторожном, предусмотрительном, понимавшем ограничения технологии, которой он доверял жизнь. Вероятно, в последний раз он доверился слишком — но если уж это сделал такой водитель, девять из десяти рядовых пользователей автопилота повели бы себя точно так же. Поэтому не стоит валить всё на погибшего.

Значит, остаётся автопилот — и здесь скрывается третья деталь, которой мало кто придал значение. Почему автоматика не заметила явной преграды? Уж конечно не потому, что «полагалась только на камеру». Самые совершенные камеры и близко не стоят к человеческому глазу по динамическому диапазону, и конечно они не всегда смогут различить белое на фоне неба. Но автомобили Tesla и не полагаются только на камеру. Автопилот в той же Model S — это прежде всего радар дальнего действия, направленный вперёд. Плюс ультразвуковые сенсоры кругового обзора, но они «бьют» всего на пять метров и на большой скорости против лобового столкновения бесполезны.

Так вот про радар у Маска спросили — и он ответил в том смысле, что компьютер принял картинку, нарисованную радаром, за знак над проезжей частью. Это, конечно, недоработка и её, конечно, устранят (вопрос сводится только к распознаванию образов, то есть чисто софтверный). Однако это и не повод обвинять компанию в выпуске «сырого» продукта. Только так, эксплуатацией на настоящих дорогах, в реальных условиях, и можно выявить все или хотя бы большинство ошибок в работе автопилотов. Скорее уж здесь вина Брауна, проигнорировавшего настоятельную рекомендацию производителя следить за дорогой даже при включенном автопилоте — да, всё тот же извечный человеческий фактор, конфликт человека и машины, не способных поделить полномочия!

Джошуа Браун за рулём своего Model S. Ведёт автопилот.

Джошуа Браун за рулём своего Model S. Ведёт автопилот.

Самое же важное в этой истории, как ни парадоксально, не смерть человека, а цифра, выражающая количество смертей на условный километр пробега. Для автомобилей Tesla Motors с включенным автопилотом это пока 130 миллионов миль (209 млн. км). В сравнении со статистикой по Соединённым Штатам, это, грубо, в полтора раза лучше среднего, а в сравнении с развивающимися странами — вдвое.

И даже зная, что данных пока недостаточно, даже понимая, что тут не учтена более высокая безопасность электромобиля по сравнению с бензиновым авто, тенденция всё-таки очевидна: робокары есть и будут безопасней автомобилей с водителем за рулём. Просто потому, что в большинстве ситуаций компьютер способен среагировать быстрее и правильней человека. И с каждым новым витком технологий — улучшится распознавание образов с радаров и лидаров, придёт V2V, появятся трассы со спецразметкой и т.д. — ситуация будет всё выгодней для автоматики.

Да, смерти на дорогах неизбежны, увы. Но если технология позволяет уменьшить их число, её надо холить и лелеять, а не открещиваться, не пытаться похоронить в зародыше. Так что смотрите на случившееся правильно. Трагедия? Бесспорно. Но сколько таких трагедий автопилот позволил и позволит избежать!

P.S. В статье использована иллюстрация Electrek, Florida Highway Patrol.

Поделиться
Поделиться
Tweet
Google
 
Читайте также
Заблудившиеся насмерть: с GPS пора завязывать?
Заблудившиеся насмерть: с GPS пора завязывать?
(Почти) робокар: приключения автопилота Tesla Motors
(Почти) робокар: приключения автопилота Tesla Motors
Робокары: первая кровь. Кто виноват и что делать?
Робокары: первая кровь. Кто виноват и что делать?
  • rey

    написано — «система тестовая», написано «обязаны контролировать», и «на свой страх и риск», — какие вопросы могут быть про «кто виноват»?

    Но чисто психологически — трудно не согласится с тем, что недоделанный продукт выпускать в таком виде (и таком антураже (не пресекать разговоров о «робот-автомобиль», и «автопилот» достаточно эффективно (вплоть до блокирования ф-ции, когда стало ясно, как публика реагирует))) — трудно оценить как положительное действие со стороны компании. И — опять-таки психологически трудно услышать голос разума — «статистика смертности в полтора раза ниже, чем у людей (в штатах, в сравнении с менее развитыми — еще больше разрыв).

    ____
    Отдельно — хотелось более подробную информацию из достоверных источников, что именно известно про детекторы в Тесле.

    По мне так не стоит выпускать робоавто, которые не будут уметь ориентироваться по тем же каналам и принципам, что и человек, речь о би(или больше)нокулярных камерах, как минимум в оптическом диапазоне, а лучше еще и в SWIR (что даст видимость в ночи, в тумане, задымлении, частично — в запылении, и при некоторых видах осадков) (кроме того, SWIR позволит быстро разрешать неоднозначности определения объема/расстояния, подсвечивая (импульсом) непонятную область в том же (SWIR) диапазоне. Хотя для этого проще ToF-камеру поставить, работающую именно только в случае опасных неоднозначностей).

    Тут в основном камень в огород Google авто (и прочих, строящих ориентацию машины на сканирующем лидаре) — сканирующий лидар — это не только точка отказа (источник ошибок), но и опасность для окружающих, и технология с проблемой масштабирования на большое количество авто (радаров последнее тоже касается, кстати).

    • Влад

      SWIR в тумане? проблема не в сенсорах, а в алгоритмах, ну и в том, что человек нашел хайвей, где фура может свернуть налево.

      • rey

        я не понял всей сути вашего сообщения. Хотя, подозреваю, это именно вы меня не поняли.

      • rey

        вы уверены, что нашел — человек? Впрочем, это вообще не важно.

        Важно то, что машина должна уметь видеть препятствия не хуже, чем человек (а лучше — лучше, чем человек), адекватно распознавать их как опасные (ну, те, которые реально опасны) и, конечно же, адекватно на них реагировать.

  • Владимир

    «чтобы система требовала держать руки на руле»
    -бессмыслица. руля не должно быть вообще.
    А это все болезни роста; неолуддиты, правда , могут постараться статистику умышленно подпортить,
    но рано или поздно робокары победят.
    С уважением, Владимир.

    • Sentinel

      А вы готовы довериться машине без руля??

      • Владимир

        да, больше, чем человеку (статистика!)
        когда пройдут «болезни роста» ;)
        С уважением, Владимир.

      • Andrei Komelkov

        Я — нет.

      • Garruz

        Я вполне готов. Но только если и хотя бы половина окружающих машин будут такие же – вряд ли даже самый лучший автопилот сможет защитить от дебила, вылетающего тебе в бок из переулка…

        • Александр

          Вы так говорите, как-будто человек, в случае «дебила, вылетающего тебе в бок из переулка» справляется на ура )))

          • Garruz

            Человек мыслит как человек – и допускает наличие таких дебилов. Робот же «считает» всех участников движения такими же правильными как он сам. И в этом его слабость, на мой взгляд. До тех пор, пока все остальные участники движения действительно не будут такими же правильными. То есть – роботами.

            Я, например, около таких переулков всегда снижаю скорость, будь у меня хоть трижды зелёный и трижды главная дорога. И смотрю не перед собой, а в переулок. Именно потому, что опасаюсь появления дебилов – помню даже районы и улицы, где такая опасность особенно высока. =)

            Понятно, что полной гарантии нет ни у кого. Но всё же…

          • Жабот

            сделать робота с пессимистичным прогнозом на всех окружающих несложно. но он будет ездить, как ученик автошколы, и не уедет никуда.
            Дело пахнет адаптивностью, и это непросто, потому что в мегаполисе и на сельской дороге водят слишком по-разному. Человеку и то трудно.

          • Garruz

            Ну, так или иначе, «учиться» роботу всё равно придётся. Но общий принцип всё равно тот же – чем меньше будет на дорогах белковых водителей, тем выше будет общая безопасность движения.
            Но сегодня, при соотношении роботов к остальным участникам движения в соотношении 1:1000 (если не меньше) – лично я бы пока не рискнул. Особенно в наших условиях. =)

          • Алексей Ларионов

            «тем выше будет общая безопасность И СКОРОСТЬ движения.»

          • Инженер

            Уедет. И привезет с уровнем безопасности лифта. Правда, с его же скоростью.

          • AlexHa

            Так ездят же, в Лос Анжелесе, уже не первый год. Жители квалифицируют стиль вождения «водят как старушки». Но это только до появления технологии v2v, с ней рассчитывают на увеличение скорости по сравнению с ручным вождением. Но ручное вождение в зонах робокаров тогда, возможно, придётся запретить.

      • IF

        в качестве бета-тестера?

    • AlexHa

      Победят электровертолеты с автопилотом. Китайцы уже испытывают один такой в Неваде. Поднимает вес до 100 кг, высота полета 200 м, скорость 100 км/ч, время полета на одной зарядке 25 минут, время зарядки 2 часа. Цена опытных образцов 200000 баксов.
      Автомобильный автопилот — пузырь вроде доткомов.

      • Владимир

        Автомобильный автопилот-реальность.
        и (себе)стоимость его близка к 0.
        200 тыс… хе хе.
        С уважением.

        • AlexHa

          Ну не скажите за стоимость, один активный лазерный локатор, на котором в Тесле сэкономили, стоит более 10000 баксов. К тому же датчик этот недолговечен из-за движущихся частей и не всегда работоспособен в условиях плохой видимости (в густом тумане, например).
          Но вопрос не в стоимости, а в самом принципе перемещения. Вертолёту не нужны дороги, ГИБДД, знаки, светофоры, разметка. Полёт от пункта к пункту всегда по кратчайшему пути и с максимальной скоростью. Никаких пробок. Очень мало проблем с парковкой. Автопилот для авиации намного проще, чем для наземного транспорта.
          Кстати, 200000 тыс, это цена вертолёта, а не автопилота на нём.

          • Инженер

            Все это так, пока вертолетов немного. Когда их число сравняется с числом автомобилей, аварийность достигнет того же уровня. Плюс каждое «ДТП» в воздухе над городом будет приводить еще и к разрушениям и жертвам на земле. Ну и есть зоны, закрытые для полетов.

          • AlexHa

            Потенциально — и сотой доли не будет. Подавляющего большинства автокатастроф можно было бы избежать в случае взаимодействия между авто. Вертолёты такое взаимодействие будут осуществлять изначально. Ручного управления там нет вообще и ставить не планируется. Что же касается отказов техники, то в числе автокатастроф эта причина занимает немного, а в случае полных роботов будет и ещё меньше — неисправный робот откажется лететь, и регулярно автоматически будет летать на техобслуживание.

          • IF

            а как легкие вертолеты на погоду реагируют? ну там — ветер, снег.

          • AlexHa

            Снег-дождь-туман вряд ли повлияют, там же автопилот, оптическая видимость значения не имеет. А в ураган летать не будут, заблокируют централизованно. Но ураганы, надо полагать, бывают реже пробок от снежных заносов :) Или даже просто пробок :)

          • IF

            я не столько о навигации, сколько об устойчивости — легкая же штуковина

          • AlexHa

            Ну уж если автомат моноколесо стабилизирует, то с вертолётом точно справится :)

          • IF

            и будет его мотать строго вертикально носом на восток?

          • AlexHa

            Почему мотать? Зависит от постоянной времени системы регулирования.

          • IF

            порыв ветра налетит — как целое разве не сдвинится? хотя и может остаться правильно ориентирован.

          • AlexHa

            Зависит от коэффициента в петле обратной связи. На сколько-то сдвинется, может, на миллиметр, а может и на метр.

          • Владимир

            -вот вот. а теперь представим, что 3 млн. машин поднялись в воздух над мегаполисом…
            и нужен уже не просто автопилот, а система, понавороченнее, чем наземная…
            ***
            но в целом да, согласен, наземный транспорт уступит таки свое место воздушному, но это вы уж слишком оптимистично… это как вот мы к примеру, хотели срезу на водород дизель речного судна перевести, ан нет- надо на сжиженный метан вначале… и то скептиков полно…
            С уважением.

          • AlexHa

            Распределенная вычислительная система из связанных вычислителей автопилотов справится с задачей. Которая, в общем, не слишком сложна — допустим, площадь мегаполиса 10000 кв км, распределим на 10 ярусов по высоте, получим всего по 30 беспилотников на квадратный километр. Представьте 30 машин на километре дороги — плотныйтрафик, но вполне приемлемый. А здесь ещё и в горизонтальной плоскости разнесение.

          • JayK

            ну дык и пусть ставят лидар опцией, покупатели тесл человеки небедные…

          • AlexHa

            Возникнет вопрос, можно ли с лидаром будет убирать руки с руля.

          • JayK

            в данном случае проблема в том что ИИ не смог адекватно определить что это за фигня такая прямо по курсу, лидар дает больше информации

          • AlexHa

            Дает больше информации, да. Но хватит ли этой информации, чтобы гарантировать безопасность?

          • Doctor Y. Doodle

            Там нет никакого «ИИ», там «ИИ» немногим более «И» — в лучшем случае, — чем в прошивке моноколеса Евгения или моего электросамоката.

          • Алексей Ларионов

            «Вертолёту не нужны дороги, ГИБДД, знаки, светофоры, разметка.»
            Это вы так думаете. Пока в небе этих вертолётов нет. А если их будет много, будет и ГИБДД, и светофоры и разметка. В Пятом Элементе это хорошо показано :)

          • AlexHa

            Как в Пятом Элементе не будет, потому что не будет ручного управления, совсем.

  • Andrei Komelkov

    Насчет вины фуры. Надо смотреть, что там слева по дороге, откуда Тесла приехала. Если фуровод убедился в пределах видимости, что его маневр никому не мешает и начал поворот, а Тесла успела доехать, то тут либо + вина дорожников за такую ситуацию, либо надо больше данных.

    • Garruz

      Вот это место – трасса там на несколько километров в обе стороны прямая как стрела.

      • ds

        Если судить по гугловской «панораме» перекрестка — то там явный перелом по высоте виден. И для поворачивающего налево водителя обзор по встречке невелик. Так же и для быстроедущей по своей полосе «Теслы», похоже, не был виден перекресток до того момента, пока не стало поздно.

        • Garruz

          Да, тоже «походил».
          Даже с учётом перепада высоты, прямая видимость от перекрёстка, на глазок – метров триста, как минимум. ИМХО, даже на скорости в 200 км/ч можно было успеть отреагировать, торможение было бы аварийным, но смертельного исхода скорее всего удалось бы избежать.

          Но, судя по тому, что «Тесла» окончательно остановилась лишь метрах в 300 (!) от точки столкновения (и это ещё по полю и через два забора!) – торможения вообще не было, под фурой она пролетела на полной скорости…

          • Инженер

            Причем в момент удара обязаны были сработать датчики подушек безопасности и, хотя бы постфактум, дать команду на торможение.

          • Garruz

            Да, тут странно. Судя по траектории движения после удара – похоже на то, что автопилот вообще просто отрубился, иначе удержал бы авто на прямом шоссе. Возможно, водитель отключил в последнюю секунду…

            А подушки безопасности действительно могли не сработать. На высокой скорости и при ударе в «мягкую» крышу – в момент удара перепад скорости и замедление авто, возможно, были ниже пороговых значений, поэтому датчики могли не опознать такую ситуацию как аварийную.

          • Алексей Ларионов

            «Похоже на то, что автопилот вообще просто отрубился»
            А как Тесла реагирует на потерю сигналов всех датчиков? Если автопилот лишился всей входящей информации, он мог автоматически передать управление водителю с соответствующей сигнализацией, но водителя уже не было.

          • Garruz

            Возможно и так (жаль, что неизвестны подробные детали тесловской электроники и софта).

  • Garruz

    ИМХО, стечение обстоятельств и вина всех трёх сторон (точнее, двух с половиной)):
    • Дальнобойщик видел приближающуюся «Теслу», но начал поворот, думая успеть проскочить – и надеясь, что в крайнем случае его видят и притормозят, если вдруг не успеет завершить манёвр;
    • Водитель «Теслы» отвлёкся и не следил за дорогой – думая, что на хайвее ему уж точно ничто не грозит;
    • «Автопилот» в силу каких-то причин не заметил опасность. Либо, всё же, заметил (?), но бортовые системы сработали неправильно.

    Что касается безопасности – думаю, наибольшее снижение аварийности даст распространение V2V. Будь подобная система на обоих авто – разбираемого в статье случая точно бы не было…

    • Жабот

      Кроме того, у американских фур, как я прочитал на реддите в обсуждении этой темы, нет противоподкатных брусьев по бокам.

      • Garruz

        Да, этот момент тоже сыграл роль. Но, ИМХО, вины водителей это не отменяет…

    • Artem Artemenko

      Общение то как будет проходить? Дальность вайфая -150м. + скорость реакции и оценка. 150м это не о чем на скоростях выше 160. Только умная дорога..

      • JayK

        почему именно вайфай, есть полно куда более подходящих для этого промышленных протоколов… тут не скорость нужна а надежность

      • Garruz

        Там DSRC (802.11p) – в городе дальность до 300 метров, на трассах аж до 800, вроде бы…

        Ну, а в сочетании с развитой V2I-сетью – ещё меньше проблем.

  • Жабот

    >. Только так, эксплуатацией на настоящих дорогах, в реальных условиях, и можно выявить все или хотя бы большинство ошибок в работе автопилотов.

    Не согласен. Я бы запускал его виртуальном режиме — пусть он смотрит, и записывает как бы он реагировал на дороге, но руль с педалями пускай у водителя. По итогам «испытаний» (n лет эксплуатации) можно смотреть — сколько настоящих аварий у человека, сколько виртуальных у железки, и как эти множества пересекаются.

  • AlexHa

    У авторадара ширина обзора не более 15 градусов по горизонтали и около 2 градусов по вертикали. Причем, по горизонтали он встречные отсеивать должен. В данном случае радар помочь не мог. А на лидаре в Тесла сэкономили.

    • Sentinel

      А это у вас откуда такие данные по радарам и по тесловским в частности?

      • AlexHa

        Авторадары стандартизованы, их выпускают миллионами. Не думаю, что в Тесле стоит самопал, он обошелся бы им дороже лидара.

  • Жабот

    Требование «страховать» автопилота нереальное. Секундное отвлечение внимания в хорошем потоке — и всё, контекст потерян, надо еще несколько секунд чтобы сориентироваться.

  • Злой

    У меня есть компьютеризованная скороварка-мультиварка, так в ней ах 4 (четыре!) уровня защиты от перегрева, чтобы не рванула на кухне, если давление превышено. А в «источнике повышенной опасности», которым является автомобиль — всего два уровня защиты от столкновения? Да их должно быть не менее 5-ти, и все независимые.

  • Евгений Овод

    Меня удивляет то, что оказавшись буквально вплотную к Азимовским проблемам, все весело их игнорируют.
    Ну допустим в этом случае ещё можно свалить всё на недобросовестного водилу, который смотрел видео. Но ведь прям завтра что-то случится — и в машине не будет водилы совсем.
    И что?
    Да вот Вам пример. На дороге вдруг оказался человек. И авто должно сделать один из двух маневров. В первом случае неизбежно погибнет пассажир. Во втором — пешеход. И кто будет решать кого машина будет убивать? Машина? Программист?
    А Вы согласны купить машину, запрограммированную в определённой ситуации убить Вас?
    А не окажутся ли в дешевых авто и в дорогих авто компьютеры, настроенные по-разному? Скажем, градация «ценности выживания»?

    • Denis Terebiy

      В правилах четко написано — экстренное торможение и никаких резких манёвров.

    • Абдулла Израилевич фон Шталь

      Софт-то изкоробочный у всех одинаковый будет, стандартизированный. А вот левые прошивки с абсолютной ценностью выживания водителя-пассажира будут нарасхват.

      • Garruz

        Вот где действительно пригодится банхаммер DMCA… =))

      • riy

        Какой пласт проблем подняли!

        Самое интересное будет у госчиновников: ведь ясно, что жизнь второго помощника пятого заместителя какого-нибудь местного «самого» важнее, чем жизнь простого смерда. Но вот вопрос: как градуировать ценность жизни чиновников разных ведомств?! Карательные органы, конечно, важнее всех, но вот какой-нибудь минсельхоз и минрыбторг — кто круче?

        • Инженер

          Ну, это просто. Машину будут вызывать из какого-либо аналога ГОН при местном ФСБ. Соответственно, прошивки у всех авто из этого гаража будут одинаковые, и чиновники в авто будут говорить только о погоде, зная, что находятся под присмотром.

    • Garruz

      В самых крайних случаях – машина должна оценивать риски для каждого из участников ДТП и пытаться минимизировать ущерб. Что-то вроде: «Пусть лучше один или оба окажутся в больнице, чем один из них погибнет».
      Но, да – думаю, пешеход будет иметь больший приоритет, как наименее защищённый участник аварийной ситуации. И, кстати, «убить вас» в подобной ситуации может и таксист, и личный водитель, и даже находящийся за рулём близкий родственник – поэтому эмоциональный пассаж про «машину-убийцу» совершенно неуместен.

      А в целом правила стандартны, как верно заметил Денис постом ранее…

      • Евгений Овод

        Да. Убить Вас может и обычный водитель. Но в отличии от «обычного водителя» машина сама по себе не несёт никакой ответственности за свои поступки.

        А почему пешеход? Я купил машину. Сижу в ней. Никаких правил я не нарушаю. Я перед этим пешеходом ни в чём не виноват. С какой стати моя машина будет меня убивать? Я не виноват, что он решил пешком прогуляться.

        • Garruz

          После всех разбирательств – ответственность вполне может понести разработчик автомобиля (если выяснится, что это произошло конкретно вследствие недоработок). Если же экспертиза покажет, что у «робо-водителя» просто не было иного выхода и что он не нарушал никаких правил – ответственности не понесёт никто. Как и в случае с обычными водителями, кстати.

          Пешеход должен иметь больший приоритет потому, что при ударе вы имеете на порядок больше шансов выжить и не остаться инвалидом – вы в достаточно прочной «коробке», плюс системы активной/пассивной безопасности автомобиля. Поэтому, отворачивая от пешехода на препятствие – предварительно выбранное как «наименее опасное», разумеется, – робокар будет гораздо больше рисковать «убить» самого себя, чем вас.
          По крайней мере, общей алгоритм видится мне именно так.

        • AlexHa

          Тем более, что это может быть не пешеход, а лось. Всегда можно выдумать проблему из пустого дела.

    • maax

      Имея образование инженера (технология машиностроения),
      я несколько лет проработал на двух автобазах токарем(на кавказе и на крайнем севере,
      строительная и автотранспортная). Поэтому сажусь в машину только к профессионалу,
      и покупать машину даже не думаю.(я уж не говорю о ТБ для токаря).
      Последние лет двадцать работаю оператором-наладчиком-технологом-программистом
      (да и механиком и слесарем) станков с чпу.Один раз меня буквально спас экран.
      Поэтому ,естественно ,(с таким опытом) я и близко не подойду к машине без водителя.
      И буду по(пере)читывать на досуге фантастику(например «Макс выполняет свой долг»)
      И только тут начинаются Азимовские проблемы.
      Кто то доверяет свою жизнь статистике,а кто то никому .
      Молодёжь и вовсе не задумывается.Для них это данность.
      Все ваши вопросы резонны,но их будут игнорировать и топить в псевдонаучном трёпе.

      • Garruz

        Ну, давайте «псевдонаучно потрепемся», если уж вы это так окрестили… =)))

        Начнём с того, что «азимовские» проблемы существуют только для «азимовских» роботов (изначально полу-мыслящих, и только в более поздних произведениях действительно мыслящих, но лишь в единичных экземплярах). В данный момент никакого «машинного мышления» нет и не предвидится – нынче это просто очень развитые автоматы, обладающие довольно банальной экспертной системой принятия решений. Поэтому никакая фантастика тут совершенно неприменима в качестве критериев суждения. Таким образом, именно ваше суждение в этом вопросе псевдонаучно.

        Продолжим тем, что ЧПУ-станки и робокары – несколько разные (мягко говоря))) системы. В первом случае имеем почти «тупой» автомат. Во втором случае – тоже автомат, но на порядки более сложный и с на порядки более развитой системой обратных связей. Таким образом, ваше сравнение станков с робокарами также совершенно псевдонаучно.

        И, наконец, завершим «машинами без водителя». Как уже писал ранее – подавляющее большинство аварий вызвано именно «человечностью» водителей. А вот машина не может ошибиться, она следует инструкции как трамвай по рельсам (именно потому, что неспособна мыслить). И даже все ошибки машины – это ошибки людей, её программирующих.
        Тут вы, конечно, можете возразить, что именно в человеческом программировании, со всеми его ошибками, и есть главное зло. Но то же самое вам можно ответить и на тезис о «вызывающих у вас доверие» водителях – это такие же люди, такие же профессионалы, как и те программисты, которые в любой момент могут ошибиться. Следовательно, и здесь ваши выводы совершенно псевдонаучны.

        P.S. Страшно любопытно – вы службами такси принципиально не пользуетесь, или перед каждым вызовом требуете у диспетчера полную историю водителя, начиная с момента получения им прав? А в общественный транспорт как садитесь – ведь там тоже куча незнакомых водителей с неизвестным опытом и стажем?.. =)))
        UPD/P.P.S. Дабы не почудились противоречия в моей позиции… Чуть ранее уже писал тут о том, что именно дорожное движение – «самое оно» для нынешних систем ИИ. Именно потому, что там требуется лишь неукоснительное соблюдение правил и почти ноль «мышления». А вот во множество прочих областей пускать машины нельзя никоим образом, там действительно требуется только человек…
        И, да, кстати – а откуда вы, если не секрет?

        • maax

          Трепитесь с Коносевичем.

          • Garruz

            Люблю оппонентов, умеющих вести дискуссии.
            Спокойной ночи! =))

          • Алексей Ларионов

            Гарруз, мне кажется, что мы с вами похожи :)

        • Asmigor

          «Продолжим тем, что ЧПУ-станки и робокары – несколько разные (мягко говоря))) системы.»
          — откуда инфа? Вы анализировали сложность СПО для каждого подвида?? или профессионально разбираетесь в этом вопросе??? (если честно, удивляет Ваша категоричность в суждениях);

          «Тут вы, конечно, можете возразить, что именно в человеческом программировании, со всеми его ошибками, и есть главное зло. Но то же самое вам можно ответить и на тезис о «вызывающих у вас доверие» водителях – это такие же люди, такие же профессионалы, как и те программисты, которые в любой момент могут ошибиться. Следовательно, и здесь ваши выводы совершенно псевдонаучны.»

          — IMHO принятие решения таксистом в конкретной ситуации отличается от мнения некоего программиста на эту ситуацию в удобном кресле.
          А вообще, считаю, что пока вся система дорожного движения не попадет в ведение ИИ, пока существует непрогнозируемый фактор в лице Человека-водителя все ВПУСТУЮ.

          • Garruz

            Пространство «самостоятельных» решений и случайных (!) переменных (факторов) для ПО станка несоизмеримо меньше, чем для ПО робокара. Отсюда и вполне очевидный, на мой взгляд, вывод – это совершенно разные по сложности системы.

            Про специалистов речь шла в контексте возможности ошибки даже у самого лучшего профессионала. Поэтому стопроцентной гарантии не может дать ни профессионал за рулём, ни профессионал за монитором. Человеческий фактор ведь…
            А что касается решений таксиста – они должны быть продиктованы строго ПДД, плюс анализ окружающей обстановки. Это вполне под силу роботу. Не думаете же вы, что ПО для робокаров разрабатывают только лишь сами программисты? Там ведь целая команда, в которой, кроме непосредственно программистов, ещё куча экспертов непосредственно по вопросам вождения.

            Но с вашим выводом полностью согласен, уже писал об этом неоднократно – максимально безопасным дорожное движение станет лишь тогда, когда за рулём (если это можно будет так назвать)) останутся только лишь роботы.

    • rey

      где-то открыли («для выхода наружу») место компактного поселения размещения писателей желтых текстов комментов?

      О боже, боже, тот, кто управляет транспортным средством может в какой-то ситуации принять решение пожертвовать вами. «Breaking news», блдж.

      • Евгений Овод

        Может. Только он является человеком. Он отвечает за свои поступки. Его можно судить и наказать за принятое решение. Машина ответственности не несёт.
        Далее. По какому критерию машина выберет — кто должен жить, а кто нет?
        Кстати, если Вам чем-то не нравятся «желтые комменты» — так Вас никто не заставляет их читать.

        • rey

          дада — «не заставляет». Вы так и воздух портить в общественном месте можете намеренно, с такой же _якобы_ оправдывающей вас (на самом деле — нет) оговоркой — «не хотите — не нюхайте». Уже перестаньте чушь нести, или же перестаньте взрослым прикидываться, — либо трусики, либо крестик, IYKWIM.

          По теме:
          Так вы беспокоитесь о том, что машина вас, любимого, может «намеренно» (насколько это слово к машине применимо) вас убить.

          Не подскажите источники вдохновения вас на этот желтушный позор? А то я в ПДД (которому и робот-машина должна следовать) пункта, который заставляет водителя самоубиться, сходу и не припомню.

          С точки зрения убиваемого по большому случаю не важно, можно ли покарать того, что сделал фатальное «бо-бо». Тема кар важна в «повторяющейся ситуации», и нужна для снижения частоты случаев «неправильного» (караемого) поведения.

          В машинах последнее прекрасно решаемо, и без бития моря плетьми, и прочих наказаний машин, etc.

          • Евгений Овод

            Абсолютно верно. Портить или не портить воздух — это моё право. Поскольку не нарушает ни одного закона. А Ваше право — нюхать или выметаться.

            По теме:

            Да. А Вы считали, что я беспокоюсь о Вас? Не переживайте, оно того не стоит.

            Не подскажу. Вам это всё равно не поможет. Прочитайте ПДД ещё раз. Только внимательнее. Не нужно придумывать «сходу».

            На досуге загляните в морг, и скажите это родственникам покойного. Узнаете много полезного.

  • riy

    Давайте попробуем представить эту историю с классическим ДТП с точки зрения водителя грузовика. Итак, поворот налево с пересечением встречной полосы. Водитель смотрит, не едет ли кто навстречу, видит вдалеке легковушку, примерно оценивает её скорость. «Затормозит» — уверенно думает он, и выезжает на поворот.

    Автор совершенно зря пытается бросить тень на дальнобоя. Разве он поворачивал в неположенном месте? — нет. Разве автомобиль «Тесла» пытался тормозить (это было бы, если бы водитель грузовика неверно оценил скорость и/или дистанцию до «Теслы»)? — тоже нет, по крайней мере об этом нигде не слова. Возраст за 60? — так это плюс, представьте себе какой у него опыт, подобные люди могут водить с закрытыми глазами! Штрафы? — а у кого их нет?
    Сырая прошивка «Теслы». Интересно, сколь же халтурно проводились испытания, если такая в общем-то штатная ситуация стала причиной трагедии. Статистика, которая говорит о том, что робокары таки безопаснее водителей-людей. Правда, мертвецу от этого не легче. И рекомендации производителя держать руки на руле — ну примерно то же самое, что речи лечащего врача о необходимости вести здоровый образ жизни: все их с пониманием слушают, но выходя от доктора идут в кабак.

    Я не из тех людей, кто проповедует «только олдскул, только хардкор». Я не Б-г весть какой хороший водитель (хотя и плохим, смею надеяться, меня не назовут). Я даже не знаю доподлинно, доверился бы я автопилоту!

    Я знаю только одно: чисто психологически человек привык отвечать за свои поступки и их последствия (и то не всегда, но упростим здесь для ясности). В других случаях он способен обвинить и покарать кого или что угодно, хоть то самое море. Поэтому фирмам-производителям подобного оборудования предстоит выдержать много, очень много боёв.
    Ситуация кажется сходной с тем, что у нас происходит вокруг прививок: статистика говорит о том, что они спасают жизней куда больше, чем уносят. Но попробуйте объяснить это родственникам тех, кому не повезло. И разным гнусным личностям, спекулирующим на чужом горе. Уверен, такие незамедлительно появятся и здесь.

    • Garruz

      >>> Итак, поворот налево с пересечением встречной полосы. Водитель смотрит, не едет ли кто навстречу, видит вдалеке легковушку, примерно оценивает её скорость. «Затормозит» — уверенно думает он, и выезжает на поворот.

      Во-первых – «помеха справа» же, нерегулируемый перекрёсток. Уже безусловное нарушение правил со стороны дальнобоя…
      Во-вторых – то, что там дальнобой «думал», не имеет значения. Если уж переползаешь скоростную полосу на таком монстре (да ещё и против правил) – изволь хотя бы просигналить при появлении других участников движения. У этих шайтан-агрегатов сигнал как иерихонская труба, уж точно все заметят…

      P.S. В целом моя позиция выше – виноваты все, каждый по-своему.

    • Victor Ivlichev

      От держания рук на руле стресс будет гораздо больше, чем от управления.

    • rey

      демагогия какая-то. «А у кого их нет», «сырой» и прочий буллшит. Желтизна и в комменты пробралась, дОжили.

      И да, если судить по заявлениям родственников именно в этом, конкретном случае, родственники там на редкость адекватно среагировали.

  • Aleh Alisevich

    по поводу, цитирую: «Кто разрешил выпустить на дорогу автомобиль с программным обеспечением, явно требующим доработки? Кто позволил ставить эксперименты на людях?».
    Все программное обеспечение в мире именно так и распространяется (т.н. «As Is…»)

    • rey

      это вообще «разрешаторство», типично российская черта.

      Даже понятно в историческом контексте, откуда у нее ноги растут.

  • Aleh Alisevich

    по поводу, цитирую «Просто потому, что в большинстве ситуаций компьютер способен среагировать быстрее и правильней человека» — неверно.
    Если Человек смотрит на дорогу, «Оценивает Ситуацию» (чего никогда не делают ни один комп и ИИ) — он всегда лучше реагирует в том числе и превентивно, т.е. не влазит в ситуацию.
    Правда в том, что большинство людей не смотрят, не оценивают, не знают что происходит вокруг и не способны принимать правильные, обдуманные, решения — и в частности на дороге. наличие прав на управление ничего не гарантирует с точки зрения Умения, так же как и Диплом о высшем образовании ничего не говорит об умственных способностях носителя.
    Вы зря ставите знак равенства между ИИ и человеческим разумом, и также зря ставите знак равенства между человеческим Разумом и содержимым черепной коробки любого Homo Sapiens. Это не одно и тоже.

    • Garruz

      ИИ, разумеется, никогда не сравнится с человеческим разумом. И согласен в том, что в экстремальных ситуациях на дороге человек в большинстве случаев «превентивно» проявит гораздо большую сообразительность, чем машина.
      Но вот непосредственно в момент аварийной ситуации – вряд ли человек будет быстрее.

      А самое главное – ИИ вполне способен свести к минимуму само количество экстремальных ситуаций на дорогах. Просто потому, что лишён человеческих недостатков (лихачество, агрессия, страх, «слоупокство», усталость, рассеянность, и т.д.).
      Просто представьте, что совершенно все участники дорожного движения ездят аккуратно и полностью по правилам…

      • Aleh Alisevich

        тут да. ИИ лишен человеческих недостатков (я это тоже имел ввиду) как и человеческих достоинств. поэтому, если мы заменяем с помощью ИИ человека с недостатками то это Хорошо. А если мы заменяем человека С достатками, то это «Хуже». Я против однозначности оценки. Думаю в этом случае так и случилось — чел расслабился а ИИ не Оценил. Итог известен.

        • Garruz

          ИМХО, тут в гораздо большей степени промашка не самого ИИ «Теслы» (который в остальных случаях вёл себя весьма достойно, к слову), а датчиков и/или бортовых систем обработки сигнала. Иначе говоря, ИИ просто «не увидел» препятствие, поскольку конкретно в данной ситуации по независящим от него причинам оказался «слеп».

          Но представьте, если бы та фура тоже была роботизирована. Уж её-то ИИ смог бы «увидеть» аварийную ситуацию и за доли секунды успел бы послать сигнал несущемуся прямо на него другому робокару. Либо вообще не допустил бы создания такой ситуации (выше я указал конкретные нарушения ПДД, допущенные водителем фуры).

          Ведь главнейший недостаток ИИ является главнейшим его достоинством в случае конкретно робокаров – робот неспособен мыслить, неспособен ни на какую «самодеятельность», он слепо и безукоризненно следует правилам и инструкциям. А ведь в дорожном движении – это именно то, чего так не хватает. =)
          Поэтому, ИМХО, если хороший водитель на дороге сможет справиться почти с любой аварийной ситуацией – то «тотальный» ИИ на дороге устранит саму проблему в принципе, озвученные вами человеческие «достатки» просто станут больше не нужны…

          • Aleh Alisevich

            я не думаю что можно все ситуации свести к Известным — т.е. программируемым. в этом и проблема. Собственно опыт развития Программирования как способа описания Мира до сих пор не дал результата. Даже в дорожном движении.
            Всегда будет Хаос и непредсказуемость — и вот такого рода ошибки. Собственно когда вы пишите «ИИ просто «не увидел» препятствие» — это не датчики, он ИИ именно НЕ УВИДЕЛ (т.е. не понял) то что впереди него Препятствие.

          • Garruz

            Разумеется, к «известным» сводятся не все ситуации. Но подавляющее их большинство. Согласитесь ведь – «стандартных» ДТП на порядки больше, чем «нестантдартных». В данном случае под «нестандартными» я понимаю те ДТП, в которых экспертам приходится действительно очень-очень долго ломать голову, выясняя истинную причину случившегося.
            А «стандартные» ДТП, в свою очередь – в подавляющем большинстве случаев вызваны именно человеческим фактором.

            P.S. Если я пишу, что ИИ «не увидел» – то это недостаток конкретно датчиков, а не самого ИИ. Примерно так же, как нельзя винить слепого человека в том, что он натолкнулся на вас – это не недостаток его разума либо моральных качеств, это недостаток сугубо его физических органов восприятия, банальная нехватка информации для понимания…

          • Aleh Alisevich

            с чего вы взяли что это именно датчики в данном случае? не верю что матрица взяла и дала сбой. скорее сигнал с нее был получен — но (видимо) не понят. тут имхо вся проблема в «интертрепации» ситуации машиной (не буду ее называть ИИ). то что она «увидела» — т.е. тот набор входных сигналов, не дал ей повода усомниться в том что дорога свободна. и это о том что всего не опишешь. а для неописанного — надо как то пытаться определить ситуацию — и вот у машины больше пробелов. ИИ в отличии например от ребенка, все еще «водится за ручку». Ребенка всегда сначала обучают , показывают как, но с какого то момента времени он Идет и делает сам, на базе полученных знаний, навыков. Вот этого перехода — от ведомого к ведущему состоянию я не вижу у ИИ. нигде.

          • Garruz

            Нет, тут не сбой, а именно недостатки датчиков.

            Если верить словам представителей «Теслы» – система визуального контроля «не увидела» белый прицеп на фоне яркого неба, а радар «проглядел» препятствие в высокий дорожный просвет прицепа.
            Вот и получается, что это недостаток камеры и радара, а не ПО в целом (т.е. самого ИИ). Повторюсь – особенно с учётом того, что во множестве других ситуаций автопилот показывал более чем достойные результаты. И с учётом того, что «казус» с радаром тоже повторился – другая «Тесла» на парковке «забилась» под грузовик с далеко выступающим назад грузом.

          • rey

            часть проблем решается/ радикально упрощается именно датчиками.

            Сделайте две (а лучше — минимум три, чтобы базу разнести и по вертикали) камеры.

            Сделайте камеры с поляризационными фильтрами, если правильно подобрать, то спутать что-то с небом будет задачей практически невозможной; и заодно хорошая привязка к бекграунду у машины «только по камерам» сразу появится (небо в некоторые фильтры очень хорошо раскрашивается, см., например «как видят небо пчелы/ как ориентируются пчелы» http://player.slideplayer.org/8/2336651/data/images/img60.png )

            Сделайте SWIR камеры, с импульсной подсветкой в том же диапазоне «сеточкой» (это старый способ помощи получения «3D-модели сцены» при помощи только камеры), или даже просто подсветкой импульсом, в случае возникновения неоднозначности/ большого значения оценки вероятности ошибки. (Импульс — чтобы другим не мешать). Кстати, можно просто ToF камерой, тоже очень быстро, «оглядеться», что широкофокусной, что узкоугольной.

            SWIR заодно поможет ночью аки днем кататься, + в туман и даже дождь/ снег (последние — «в некоторые»), видеть куда лучше человека будет.

            В общем, есть очень много достаточно простых методов _радикально_ снизить ошибки распознавания уже на уровне подачи данных (включая и их первичную обработку).

  • Alex Rybakov

    Хохма с робокарами заключается в простом условии: либо все, либо никто. Коробку с проводами не научишь учитывать наличие возможного идиота на дороге.

  • JayK

    Я не понял двух вещей.
    — Скорость с которой авто шло на автопилоте
    — На каком расстоянии автопилот должен был начать тормозить, и вообще имел ли он реальные шансы это сделать.

    ЗЫ. Считаю применение всех мыслимых и немыслимых автопилотов на трассах не имеющих «умной» разметки, а еще лучше выделенной полосы для таких аппаратов (при этом аппараты должны уметь общаться между собой по стандартизированному протоколу) нецелесообразным…

    • Александр Елсуфьев

      Вот именно. Всё таки скорость теслы могла быть и 60 км/ч, и 60 миль/ч, а судя по проеханному после аварии расстоянию — порядка 200км/ч — то есть порядка 60 м/c.
      А далее — за какой промежуток времени разворачивалась фура? Идеально — если за 2-3 сек. Вполне нормально за 10 сек (с учётом старта из неподвижного состояния), и иногда наблюдаемо в похожих условиях — за 15-20 сек (всякое может водителю помешать).
      А теперь перемножаем — 60м/cек * 15сек = почти километр. Ну ладно, ограничимся полукилометром.
      Безопасно ли водителю разворачиваться, если до ближайшего авто более полукилометра? Абсолютно и несомненно да. Более того, если трасса имела изгибы по вертикали, и как раз видимость те самые полкилометра (а ещё бывают разные мосты, аналогично ограничивающие дальность видения), то водитель фуры принципиально не смог бы увидеть легковушку (и соответственно наоборот). Так что, по любому это баг в ПО.
      Да. А ещё у фуры могло бы лопнуть колесо, прямо на повороте. И вне зависимости от изначального расстояния между машинами, авария была бы неизбежна. А ещё могла быть не фура, а упавший фонарный столб, зависший в полутора метрах над землёй… вариантов тьма.

    • Илья Шпаньков

      а еще лучше выделенной полосы для таких аппаратов

      Именно. А ещё лучше, как я уже писал когда-то, автоматический транспорт только тогда станет безопасным, как лифт, когда вся транспортная система будет полностью изолирована от влияния человека. Человек должен быть только грузом, вошедшим в капсулу перемещения и указавшим координаты доставки. Всё остальное — автоматика. При этом даже сами магистрали также должны быть максимально изолированы от влияния извне — и от пешеходов тоже.

      • JayK

        это нереально. а после того как количество робокаров превысит 20-30 процентов выделить им полосу на шестиполосном шоссе вполне реально…

        • Илья Шпаньков

          За несколько лет — да, нереально. А за 50? А за 100? Но начинать-то уже можно сейчас. Хорошие примеры — монорельс и метро. Здесь до полной автоматизации один шаг. Например, вчера делал пересадку в аэропорте Парижа. Там между терминалами ходит полностью автоматизированный электрический микропоезд. И вот эта система полностью изолирована от человека, который выступает лишь пассажиром. Система работает уже девять лет и, как нетрудно догадаться, за всё это время в ней не было ни одной человеческой жертвы. И не будет.

          • Victor Ivlichev

            И на рельсы нельзя упасть на всем протяжении пути? И нога не может попасть в щель между платформой и вагоном? И женская коса не может застрять в двери?

          • Илья Шпаньков

            Если не пытаться всё это сделать принудительно — нет, всё это невозможно. Причём, пытаться нужно очень сильно, т.к. безопасность там продумана очень хорошо.

          • JayK

            вы это якушеву скажите, что где то поезда сами по себе ходят))))

    • Алексей Ларионов

      Почему нет роботизированных поездов? Там полоса настолько выделена, насколько это возможно!

      • Как это, нет? А как же метро в Дубае? Наверняка, есть и другие примеры.

      • JayK

        потому что «оптимизация и инновации» в исполнении оао рыжыды автоматом трансмутируют в «распил и откат», а также «а давайте еще один миллиард отстегнем САПу за его красивые арийские глаза»…
        Вообще сделать роботизированную железную дорогу можно даже силами кружка юнных техников, а якушева и всех «топменеджеров» разжаловать в шпалоукладчики

        • Алексей Ларионов

          Так причем тут РФ? Робопоездов нет нигде в мире!

  • Cerafim1

    И хотелось бы ещё от себя добавить, это всего навсего прототип, софт можно доработать только в реальных боевых условиях, так же как программисты дорабатывают ПК игры на ОБТ, после чего переводят её на платную основу в большинстве случаев. Так же и тут, как IT могу сказать, без боевого крещения софт версии 1.0 всегда очень забагованный, но и довольно простой в обращении и в самостоятельной доработке. А учитывая то что ТЕСЛА обладает функцией удалённого обновления ПО, и при всём этом двухстороннее обновление. Если хозяин машины программист, и внёс какие то изменения в ПО то его увидят и разработчики а после будут следить за необходимостью патча как и в Windows 10.

  • маргинлефт

    кто сможет объяснить за каким бесом лидар не увидел фуру поперек дороги? и при чём тут «спутал со знаком»? знак стоящий поперек дороги можно сбивать? как оценивается толщина знака?

    • VIP_DC

      Очень просто, на Тесле нет Лидара.

      • маргинлефт

        охренеть, да они инноваторы однако, использовать одну переднюю камеру для автопилота, удивительно что труп только один. https://www.quora.com/What-is-the-difference-between-Teslas-Autopilot-system-and-Googles-driver-less-car

        • rey

          для круиз-контроля. Продвинутого. Давайте называть вещи так, как их называет автопроизводитель, а не так, как тете Глаша из третьего подъезда любит называть по веселым дням.

          Еще раз, — для круиз-контроля.
          Вот у вас в тарантейке (если есть) с большой вероятностью если и есть круиз-контроль, то ни камеры, ни сонара, ни радара, ни лидара не имеющий.

          • маргинлефт

            автопроизводитель знает риски и отмазывается заранее, если вы не в курсе посмотрите что такое круиз контроль (https://ru.wikipedia.org/wiki/%D0%9A%D1%80%D1%83%D0%B8%D0%B7-%D0%BA%D0%BE%D0%BD%D1%82%D1%80%D0%BE%D0%BB%D1%8C). он предполагает наличие рук на руле, то есть на дорогу нужно смотреть. в тесле круиз-контроль рулит сам, скажите зачем мне смотреть на дорогу в таком случае? производитель заявляет, что штука надежная и аварий с ним нет.

  • Victor Ivlichev

    В каждой нейронной сети есть «слепые пятна» в том смысле, что
    существуют наборы входных данных, очень близкие к тому, чтобы быть
    классифицированными правильно, которые при этом распознаются неверно.

    С самого начала исследования нейронных сетей предполагалось, что
    нейронные сети умеют делать обобщения. То есть, если вы обучите сеть
    распознавать изображения котов, используя определённый набор их
    фотографий, она сможет, при условии, что была обучена правильно,
    распознавать котов, которых до этого не встречала.

    Это предположение включало другое, ещё более «очевидное», согласно
    которому если нейронная сеть классифицирует фотографию кота как «кота»,
    то она будет классифицировать так же и слегка изменённую версию этого
    изображения. Для создания такого изображения нужно немного изменить
    значения некоторых пикселей, и пока эти изменения небольшие, человек не
    заметит разницы. Предположительно, не заметит её и компьютер.

    Было доказано, что для различных наборов нейронных сетей и исходных
    данных можно с большой вероятностью сгенерировать такие «противоречащие
    примеры» из тех, что распознаются правильно.

    (Пример в картинках и статью можно нагуглить по словам Cлепые пятна нейронные сети).

    Нейронные сети выявили новый тип нестабильности, и не похоже, что могут
    принимать решения последовательно. И вместо того, чтобы «латать дыры»,
    включая противоречивые примеры в обучающие выборки, наука должна
    исследовать и устранить проблему. Пока этого не произойдёт, мы не может
    полагаться на нейронные сети там, где безопасность критически важна…

    • rey

      нейронные сети, внезапно, разные бывают.

      Вот вы с нейронной сеткой живете, и ничего, не крякаете. Даже право получить право управлять авто имеете.

      Что, вообще-то на какие-то мысли должно было бы вас натолкнуть, мысли и понимания, которые не позволили бы вам такой коммент.

      Кстати, кто вам сказал, что в Тесле нейросетка распознает образы? Откуда тут вдруг тема нейросетей, то есть?

  • Nik

    Почему не сработали тормоза на легковушке, конечно, тут не разберешься, пусть спецы выясняют. Что касается грузовика, если на схеме все изображено в соответствующем реальности масштабе, то от перекрестка до автомобиля Tesla было расстояние примерно в 2 длины фуры. Водитель явно сошел с ума, если решил в это время повернуть налево, не пропустив авто.

  • alexrayne

    чем обсуждать технологические извивы, мог-немог, баг-небаг. стоит подумать что произошло то? это убийство, или несчастный случай? есть ли иновный или тут типо природная стихия налетела и порвала?
    смерть есть, а ответчика за кровь нет? амеры давно уже убивают роботами граждан других государств, вот теперь имеют прецендент на своей земле.

  • Злой

    Кстати, вчера в Пенсильвании ещё одна Tesla Model X разбилась в режиме автопилота. Вроде бы никто не пострадал, но машина сильно повреждена, перевернулась на крышу.

    • маргинлефт

      насколько я понял разбилась она не вчера, но известно стало об этом вчера. http://auto.newsru.com/article/06jul2016/tesla_newcrash
      вообще интересно сколько таких неизвестных аварий ещё всплывёт, ведь по каждому случаю, по-хорошему, маск должен дать ответ и врать будет всё сложнее и сложнее

    • маргинлефт

      судя по всему труп на счету тесловского автопилота только один исключительно благодаря жесткости конструкции)

  • Doctor Y. Doodle

    Феерическая расстановка точек. :)
    http://www.atraining.ru/trainers/karmanov/myths-and-truth-elon-musk/

    • Саша Про

      Решено — куплю на «Авито» эти несчастные S-90 за 2 кР, хм.

      • Doctor Y. Doodle

        не только ценная медь, но киловатт диетическаго звука!

        • Саша Про

          Большие, карасивые… Ну и что, что на «Лурке» расчихвощены — «берёшь в руки, маешь вещь». И к ним, для прикола (кВт не нужен), типа того — http://ru.aliexpress.com/item/Lepy2020A-small-high-fidelity-Class-D-digital-amplifier-20W-DC12-5V3A-5A-HIFI-enthusiast-digital-amplifier/32644449446.html?btsid=b85e4cc3-4176-48aa-af3f-42b939cc1195&s=p&ws_ab_test=searchweb201556_8%2Csearchweb201602_1_10048_10047_10017_301_407_10046_10045_406%2Csearchweb201603_8&spm=2114.03020208.3.111.2uWHWC

          • Doctor Y. Doodle

            джек 3,5 мм есть — берем!)
            (я остановился на ушах за 10к (правда, синезубъ), когда понял, что это все внешнее, наносное…))

          • Саша Про

            Мне ни черта не нужно (остановился лет 10 назад с покупкой приличного ресивера и колонок); мне интересно вспомнить, чего хотел (ведь мечтал о чём-то, типа «Мелодии-106» и к ней «Ноты-203», что ли). Это сейчас ничего не возбуждает — ни «Нива», ни «Тесла»; видать, лучше заняться коллекционированием оперной классики или записаться в баптисты какие-нибудь, «от первого лица», :)

          • Doctor Y. Doodle

            +1, за исключением «баптистов», не люблю такие квесты. :)

          • Саша Про

            А почему, кстати? Тоже занятие — вон, самому пМВ не мешает сеять туда-сюда, киношки всякие припанкованные смотреть, зайцев добывать. Хорошо, обойдусь бэз шутера, тут велосипеду ТО пришла пора исполнить; хм, ИФ рядом жжёт со ссылкой на талмуд по «Тесле».

          • Doctor Y. Doodle

            Я агностик и зайцев жалко)) Ну хоть не веган…

          • Саша Про

            Все мы агностики, за неимением «мене текела»; а ну как являемся плодом воображения разумного лишайника с Пандоры какой или ещё какие-нибудь фигеле-мигели? «Кодер Пахом в метафизику впал…»

          • Doctor Y. Doodle

            — …куе мемес в народ запускал)

          • Саша Про

            «запускал-зубоскал» Признаться, думал, возникнет некая почтенная традиция, но, кажется, не прижилось, на фоне идеологических битв и сомнительного качества исходных «пиэс» (либо перегиба с художественным приёмом). Жаль.

          • Doctor Y. Doodle

            Как учат нас сетевые сообщества, такова незавидная судьба чуть менее чем всякого плохо зафорсенного унылого цугундера.)

          • Саша Про

            Иногда, случайным образом, заглядываю на «Стихи.ру» — но он однопроцентный, невыносимо вычитывать наименее графоманских авторов из числа откровенных дубин.

          • Doctor Y. Doodle

            Меня слишком в свое время «пари Паскаля» впечатлило, так что да.)

          • Саша Про

            Круто, чо. Я не читал, но мне высоколобый приятель давно ещё упоминал; а критики интересно ругают начальные условия (в Вики заглянул).

          • IF

            временами обуйовывает желание апгрейда. усилок, акустика, уши, даки… провода опять же. а потом… присылают после не помню чего купленного каталоги аудио, смотришь и — вот я придумал на самом деле перспективное направление — солнечные панели и батареи для аудиофилов. пришло в голову при просмотре силовых кабелей ценой в теслу. ну, понятно, городская сеть — километры незнамо как проложенного кабеля и последний метр на спасет. но! ведь можно сделать источник с полным контролем — аудоифильского качества панель и всего-то десяток метров проводов. о, как можно развернуться! одних кошерных инвертеров можно продать и контролировать синусоиду до последних долей процента. слепое прослушивание прямого (от солнца) тракта должно заиграть новыми красками. лунная соната, запитанная от лунного света, это наше все…

            (надо стрельбищные наушники купить)

          • Doctor Y. Doodle

            Идея для стартапа. Кстати, без щюток; хотя не для нашей суровой почвы, конечно, как Tchernov Cables)

          • Саша Про

            И заземление непосредственно в почву, «мать сыру-землю»…

          • Doctor Y. Doodle

            Через серебряный бескислородный лом.

          • Саша Про

            Вот Вам смешно, а знакомого буддиста чуть током не убило — тот вертушку на батарею заземлял, поскольку обнаружил на несчастной «Веге» сзади заземляющий контакт, чудак.

          • Doctor Y. Doodle

            Карма.

          • Злой

            Вот этот «усилитель» по ссылке — потрясающее дерьмо… Друг в магазин брал пару для перепродажи, мы послушали, и пришли к выводу — своих денег стоит. Но не больше. 20 Вт там нет и в помине. И полосы 20-20К тоже. Для S-90 надо всё-таки что-то получше.

          • Саша Про

            Ну, старенький «Амфитон» или «Радиотехнику» тоже можно отыскать, а этот — чисто озвучить, мне ж не симфонии слушать, — говорю же, дизайн олдовый приятен )) А так — есть Pioneer 2 x 100Вт, трёхполосники Kenwood с ФИ — куда больше.
            Живу в такое время (и в таком возрасте), когда возможностей больше, чем желаний.

          • Злой

            Через этот китайский усилитель только mp3 с битрейтом 128 можно слушать. На колонки типа 6-АСЛ-1. У него реальная мощность где-то по 5 Вт на канал, и полоса примерно 80-14К.

          • Саша Про

            Признаться, первая попавшаяся на «Али» модель — разумеется, не куплю просто так, тем более, говорите о несоответствии характеристик заявленным. О — тут отсортировал некие цены на усилители «по убыванию» — http://www.spl.ru/cat/sort1/audio/amplifiers/_pw_/0/&w=0

          • Doctor Y. Doodle

            > Тип усилителя

            моно усилитель мощности
            10 лямов на канал?! ULTRALAMPOVO

          • Саша Про

            И 65 кг на канал, хм.
            Мне у McIntosh’ей нравится стрелочный индикатор, да и вообще дизайн прикольный, не то, что прочие коробки — http://www.mcintoshlabs.com/us/Pages/Home.aspx#

          • Doctor Y. Doodle

            ага, меня тоже цепляет)

          • Злой

            На Али такого г-на, как г-на в деревенской выгребной яме… Хотя есть там и приличные варианты, имеет смысл смотреть по ценам от $200 и выше. Причём оконечники в основном ламповые, и что особенно забавно — на лампах российского производства (правда попадаются их китайские подделки).

          • Саша Про

            Ну, варианты есть любые — на том же «Авито» что-нибудь вроде https://www.avito.ru/moskva/audio_i_video/usilitel_pioneer_a-307r_806296015
            или музцентр какой — тут, правда, встаёт вопрос о нужности собственно S-90 :)
            https://www.avito.ru/moskva/audio_i_video/muzykalnyy_tsentr_technics_sc-eh50_806233755
            Да это так, больше «фантазии на тему» — одна из комнат пустует, так там можно «концертный зал» организовать.
            Интересно, кстати, как Вы с «Али» вопросы с гарантией решаете, там — цена обратной пересылки, время ожидания, манибэк, или «у волшебника Сулеймана всё по-честному, без обмана»?

          • Злой

            Вопросы гарантии решаются через поддержку службы защиты клиентов АлиЭкспресс. Она находится на стороне покупателей, и принимает решения чаще в их пользу. Манибэк — это называется refund — без проблем, если к покупке есть претензии. Оплату обратной пересылки берут на себя продавцы, если возврат по их вине или производителя. Но если просто хочется вернуть товар, потому что вдруг не нужен — за обратную пересылку платит покупатель. Время ожидания зависит от выбранной службы доставки. EMS привозит за несколько дней. В общем — практически всё то же самое, что на eBay.

          • Саша Про

            Спасибо, интересно — ни разу не пользовался, там всё коллега раздобывал; причём, ни на что серьёзное ему не хватало (снимает квартиру и ухаживает за стильными девицами, хм, молодой), а вот конвертики с россыпью и платками ему регулярно доставляют, и только раз «что-то пошло не так», просил меня отредактировать ругательный отзыв. А так, в отделе красовалось множество мини-индикаторов его производства, с самыми разнообразными функциями, чаще всего мерять напряжения — для этого он выписывал индикаторные панельки и АЦП-шечки всякие; его фирменный «показометр» — сквозной измеритель параметров сигнала hdmi, уж не знаю, как там с частотными делами, а некие наглядные циферки отображал, диагностика ускорялась в разы. Ну, держите сомнительное видео с относительно пристойным звуком, знаменитая «самогонка»: https://www.youtube.com/watch?v=QV7FWJ-5itM
            Или дискотэку — https://www.youtube.com/watch?v=PdKLzmpeGXs
            Или один из лучших албумов ELO — https://www.youtube.com/watch?v=eDAcbxz0fuQ

    • Феерическая расстановка точек. :)
      Да ужж, любопытный текст.

  • Дмитрий Стафеев

    Скоро мы не только ездить перестанем сами, за нас даже убираться и делать ремонт в квартире будет робот. Что уж там.

  • lock4gate_ru

    Решение проблемы в исключении человеческого фактора.

  • Интересно как бы этот автопилот в России показал себя. Где по правилам ездит половина от силы. Где на встречке могут догнать сзади, а на своей полосе вообще откуда угодно прилететь может.

Хостинг "ИТ-ГРАД"
© ООО "Компьютерра-Онлайн", 1997-2017
При цитировании и использовании любых материалов ссылка на "Компьютерру" обязательна.
«Партнер Рамблера» Почта защищена сервером "СПАМОРЕЗ" Хостинг "Fornex"