Если птице отрезать крылья… или О человеческом отношении к роботам

Роботы
автор: Евгений Золотов  25 октября 2013

Я не смогу дать точный ответ на вопрос о своём самом любимом фильме, зато кино, которое смотрел чаще всего, назову сразу же. Это легко, потому что случилось это до интернета, DVD и даже до видеокассет — во второй половине 80-х, когда один или с друзьями я посетил совершенно неприличное количество сеансов «Короткого замыкания». Если каким-то чудом вы его не смотрели, отправляйтесь немедленно на ближайший трекер и качайте это достояние мирового кинематографа, а заодно и его вторую часть: они запросто сделают ваше воскресное настроение. А если смотрели, то поверите, что и по сей день, случайно наткнувшись на эту мордашку (фото ниже), я переживаю бурю эмоций, словно пятнадцатилетняя девчонка.

И мне, взрослому мужику, не стыдно за такую реакцию! Потому что фильм этот подарил не только понятное эстетическое удовольствие, но и в самом раннем детстве познакомил с проблемой, которая только в последнее время начала оформляться в массовом сознании. Это проблема человеческого отношения к роботам, долго считавшаяся надуманной, киношной, но вдруг оказавшаяся самой что ни на есть всамделишной, психологической проблемой, не роботов — человека!

«Жизнь — не ошибка!»

«Жизнь — не ошибка!»

Что такое робот? Электромеханическое устройство, управляемое компьютерной программой или электронными схемами: такое определение даёт Википедия. Отсекая лишнее в контексте нашего разговора, можно сказать так: робот — набор деталей. Всё равно что утюг или телевизор. Конечно, можно сделать его похожим на человека или другое живое существо, но… Поменяйте облик, добавьте транзисторов, измените программу — железка останется железкой. Неживой. Мы и относимся к ним как к железкам: два из трёх законов робототехники постулируют «должен», и ни один не говорит «имеет право»! Да и не глупо ли относиться к устройству как к живому существу?

Но скажите это людям, самая жизнь которых зависела от роботов! Они стали первыми, кто проверил на себе фундаментальные положения робоэтики — странной науки, зародившейся ещё в середине XX века и до последнего времени рассматривавшей только обязательства робота перед человеком, но не наоборот.

Представьте, что сапёр, эксплуатирующий, скажем, симпатяжку TALON — серийного трудягу, помогшего обезвредить уже десятки тысяч взрывных устройств, — вдруг решает отправиться на очередную операцию сам, лично, чтобы не подвергать риску «электронного товарища». Нелогично? А это как посмотреть! Теоретически человек может привязаться к роботу, который много раз выручал его, — а значит, и совершить однажды такой вот нелогичный поступок. По-научному это называется эмоциональной привязанностью. И заслуживает внимания уже потому, что способно повлиять на течение и исход опасной для человеческой жизни операции.

TALON спасает жизни.

TALON спасает жизни.

А практически эти умозаключения проверили на себе американские военнослужащие. Кажется, у каждого президента США за последнюю четверть века была своя война, а потому опыт накоплен богатейший. И вот с месяц назад психолог Джули Карпентер из Вашингтонского университета опросила несколько десятков сапёров, регулярно пользующихся роботами в своей практике, и выяснила, что при тесном постоянном контакте люди таки да — привязываются к своим электронным подопечным и начинают демонстрировать обширную гамму переживаний. От расстройства, злобы, огорчения и ощущения потери при выходе робота из строя до такой тонкой штуки, как сочувствие от осознания, что робот — сравнительно с нами — ограничен в подвижности и интеллекте (в мирной жизни мы, наверное, испытываем нечто похожее, когда видим прикованного к инвалидной коляске нестарого ещё человека). Так что солдаты уподобляют роботов домашним животным, дают им имена, наделяют воображаемыми свойствами вроде пола, интуиции, везучести. Устраивают похороны. Короче говоря, привязываются к ним, словно речь идёт не о бездушной электронной машине, а о живом существе!

Историям, накопившимся за это время у вояк, право, стоит посвятить отдельную книгу. Вот сапёр, потерявший в бою рободруга, приносит техникам россыпь шестерёнок и требует от них не «другого такого же», а именно этого! Вот наблюдатель прекращает испытания робота-многоножки — которому оторвало минами все конечности, кроме одной, и он, обгоревший, корчащийся, пытается продолжить выполнение задачи, цепляясь уцелевшей лапой за землю: и человек не выдерживает, командует «стоп», сочтя продолжение (!) бесчеловечным. А робоиндустрия не знает дороги назад и, бесстыдно копируя отточенные эволюцией формы, всё больше уподобляет машины живым существам, выдавая конструкции, по облику и поведению повторяющие их почти идеально. (Вспомните продукты Boston Dynamics. А вы видели их чудесного замарашку RHex? Безумно хочется погладить, приласкать!) А значит, стимул для человека пожалеть робота будет только сильней.

Нам свойственно наделять неодушевлённые предметы воображаемой живой силой, все мы язычники по натуре. Но в быту это безвредно, а вот что написать семье погибшего сапёра, пошедшего на обезвреживание фугаса вместо своего «раненого» электромеханического «товарища»? Карпентер видит здесь инженерную задачу: придумать как помешать формированию эмоциональной привязанности к машине у человека. Пока этого не только никто не знает, но никто и не задумывался! Как? Сделав машину «злой»? Заставив её показать, что ей не «больно»? Сохраняя состояние электронного мозга на флешку для старта «с того же места» после холодного ребута?

Увы, как хорошо пошутил какой-то остряк на «Слешдоте», наши чувства к роботам не взаимны. Отправляя человека в ад, машина не будет колебаться.

Увы, как хорошо пошутил какой-то остряк на «Слешдоте», наши чувства к роботам не взаимны. Отправляя человека в ад, машина не будет колебаться.

А мы, не разобравшись с роботами, пытаемся взобраться уже на следующую ступеньку, к киборгам. В ноябре начинаются продажи забавного нейроэлектронного конструктора (хорошее название, правда?) RoboRoach. Это дешёвая (всего-то сто баксов) система дистанционного управления мелкими насекомыми, «установив» которую (в данном случае на… простите, в таракана) можно управлять живым существом со смартфона на расстоянии нескольких метров: жамкаете кнопку на экране, сигнал отправляется по Bluetooth в чип на спинке таракана, а там уже формируется лёгкий электрический разряд, передаваемый прямиком в нервную систему через взрезанные усики. В работе штука выглядит устрашающе (вот ролик). Ещё страшнее инструкция, по сути представляющая собой мануал для проведения простейшей нейрохирургической операции. О возрасте потенциальных покупателей, на которых ориентируются авторы, и говорить не хочется: дети от 10 лет…

Вы не подумайте, я не против популяризации науки, даже таким вот методом, кажущимся многим изуверским. Меня волнует другое. Смесь живой плоти и электроники убийственна для этики. Если робота мы ещё можем назвать машиной и относиться к нему соответственно (ну, оторвало робосапёру колёса, так это всё равно что сломался телевизор!), то как быть с киборгами? Как предлагаете квалифицировать их?

По процентному содержанию электронных компонентов от общего веса тела? Пожалуй, для RoboRoach такой метод сгодится. Но ведь завтра те же ребята выпустят конструктор, где мозгом станет уже настоящая, выращиваемая в чашке Петри нейросеть, — и что тогда? Живое или нет? Что считать эксплуатацией машины, а что — издевательством над живым существом? Где, как провести границу между жизнью и ошибкой (привет, Номер Пятый!)? Как, наконец, разделить аварийный останов и останов биологический, то есть смерть? Не слишком ли мы широко замахнулись?

Поделиться
Поделиться
Tweet
Google
 
Читайте также
Программирование: с чего начать, или Незаменимый бейсик
Программирование: с чего начать, или Незаменимый бейсик
Знай своё место, человек! Почему не уступить космос роботам?
Знай своё место, человек! Почему не уступить космос роботам?
Робокар в три года! Элон Маск взялся за постройку самоуправляемого авто
Робокар в три года! Элон Маск взялся за постройку самоуправляемого авто
  • xarkonnen

    значит, фтопку эту этику, ибо устарела и больше не работает. нужна новая.

    • Георгий Николаев

      Ха! Говорите, эту этику в утиль? Это вы не из лаборатории какой-нибудь Boston Dynamics сбежали?

      • xarkonnen

        у вас есть более другие предложения?

        • Георгий Николаев

          Написать соответствующую программу киборгу куда естественнее, нежели переделывать человека, создавая из него монстра с неопределяемой этикой.

          • xarkonnen

            кардиостимуляторам сто лет в обед. кохлеарным имплантам поменьше, но тоже прилично. на подходе искусственные глаза. искусственные руки-ноги фактически на пороге массового запуска. про искусственные суставы я уж и не говорю.

            так что, сворачиваем все эти направления, запрещаем соотв медицинские процедуры, а инвалидам говорим, разводя руками — «извините-с, никак нельзя, этика не велит-с»?..

          • LTTLSSM

            речь как бы не об этом

          • xarkonnen

            это направление медицины прямо и непосредственно ведёт именно к появлению «смеси живой плоти с электроникой» в товарных количествах. так что — как раз об этом.

          • LTTLSSM

            и что? если по твоей логике это нужно запретить, то проблема конкретно в твоей голове. демагогия самого низкого сорта

          • xarkonnen

            то есть, Вы согласны с моим первым комментарием: если технологические разработки, способные улучшить и облегчить жизнь человека или хотя бы избавить от заметной части страданий, противоречат некой этике, то эту этику нужно сдать в утиль и разработать новую. так?

          • LTTLSSM

            мне не о чем дискутировать с человеком воспринимающим «Смесь живой плоти и электроники убийственна для этики.» буквально и в отрыве от контекста. такой человек либо тролль либо идиот, извините.

          • xarkonnen

            как нетрудно заметить, я обсуждаю эту проблему в контексте «применениe электронных протезов и имплантов в медицине». чем этот контекст Вас не устраивает?

          • LTTLSSM

            лол, ну и обсуждайте дальше сами с собой, в вами же прикрученном к теме контексте. медицину никто и не трогал, речь о киборгах-рабочих/помошниках/игрушках и слугах эксплуатируемых человеком, а не о модифицированном HOMO SAPIENS

          • xarkonnen

            то есть, убить таракана тапком этично, а прикрутить к нему микросхему — уже нет?

          • LTTLSSM

            смерть и причинение излишних мук — вещи разные. никто ведь не ощипывает курицу живьём, например. если вы боитесь инфекции — вы убиваете таракана (он подвергает угрозе вашу жизнь, причиняет дискомфорт) — причинять же ему муки, бессмысленно и не этично.

          • xarkonnen

            с этим да, согласен. но если, например, нужно будет зверски замучать миллион тараканов для, скажем, отработки технологии устойчивого коннекта электроники с нервной тканью — то хрен с ними, с этими тараканами.

          • LTTLSSM

            лол. не боитесь, что когда-нибудь какой-нибудь бесстрастный лишённый биопроблем и смешных и не нужных антропоморфных этических норм Т-1000 скажет другому Т-1000 что-нибудь в духе вашего, как-нибудь так:

            но если, например, нужно будет зверски замучать миллион людей для, скажем, отработки технологии устойчивого коннекта электроники с нервной тканью — то хрен с ними, с этими людьми.

          • xarkonnen

            есть животных можно, куртки и ботинки из животных делать можно, но эксперименты ставить на животных нельзя. так?

          • LTTLSSM

            я вам не господь бог и не знаю, что можно, а что нельзя, я человек и что-то мне противно, а что-то нет. эксперименты над животными мне противны вот и всё, хотя я прекрасно понимаю, что без них я бы наверное уже давно сдох. да и речь не о экспериментах, а о киборгах-рабочих/помошниках/игрушках и слугах эксплуатируемых человеком, но вы от этой темы уходите, отвечаете вопросом на вопрос, а я вас кормлю. мне это надоело. чао.

    • LTTLSSM

      малолетний ЦИННЕК И МИЗОНТРАП И НИГГЕЛИССТ пожаловал.

      • xarkonnen

        то есть, по существу вопроса Вам сказать нечего.

    • Альфа

      > значит, фтопку эту этику, ибо устарела и больше не работает. нужна новая.

      Тут проблема в том, она частично обусловлена инстинктами, которые так просто не перепрограммируешь. Разве что длительной селекцией людей.

      • xarkonnen

        хорошая этика отличается от плохой тем, что плохая этика инстинкты подавляет, а хорошая — канализирует и утилизирует в созидательном направлении. так что вполне можно обойтись без селекции, достаточно вдумчивого социального инжиниринга.

        • Альфа

          Да, разумеется. Например, можно этих сапёров заставлять роботов менять, чтобы не было привыкания к конкретному механизму; периодически взрывать муляжи роботов, чтобы не видеть в этом чего-то особенного. Ну как людей тренируют на то, чтобы легко убивать других людей.

          Но ещё неплохо бы делать по возможности роботов, которых ни за что не перепутать с животными. Чтобы в результате такой тренировки не получались жуткие живодёры.

          ——————————————————
          Ну и этику надо менять, разумеется. В общем, в комплексе работать.

          • Alex Vader

            всё надо менять, всё перепашем по-своему, пофигу, надо это кому-то или нет) Может кто-то хочет к роботам привязываться.

      • Alex Vader

        а я таки не понял, что порочного и плозого в привязывании к чему угодно? Зачем это перепрограммировать? Да человек может привязаться к плюшевому медвежонку, к любимой чашке, как тут уже сказали… к роботу, или к любимому маршруту по аллейке. Я не понимаю, что здесь местные ценники и негелизды менять собрались?

        • Альфа

          Спасибо, было смешно. Пешыте ышщо. :-)

          • Alex Vader

            Ну хз, что у вас с чувством юмора, вы скажите, зачем человеку избавляться от этого, если от этого много удовольствия, эмоций и вообще если можно обойтись без бездумного «обрезания всего лишнего»?
            Я не вижу, например, что плохого в том, чтобы эмоционально привязываться к чему-либо. Если вы видите — можете сообщить, если хотите. Проблема надумана

      • Stavr Ognev

        Нету у людей инстинктов. Стадное метаполе навязанной предками «морали» — не нуждается в селекции, а только во внешней систематической параметризации.

    • Alex Vader

      смесь живой плоти и электроники НЕ убийственна для этики, вот где ошибка. Этику не надо фтопку. Фтопку надо некоторые ошибки в понимании некоторых моментов этики.
      Плохо ли привязываться к роботам и киборгам? Нет, не плохо — это нормально.
      Менее ли человечен организм, частично искусственный, но обладающий эмоциями, сознанием и человеческими качествами, такими, как дружба, привязанность и т.д.? Нет, он такой же, как и мы.
      Я не вижу проблем для этики вообще. Пусскай в тараканов что угодно вживляют, главное, чтобы над людьми и такими же сознательными существами не издевались.

      А то вот так поймут одно, другое не правильно — и пожалучайте — придурки-трансгуманисты, мечтающие избавиться ото всего человеческого, или вовсе технофашики, те, кто считают всё, кроме машинной логики религией — этого говна навалом, особенно в подобных обсуждениях.

  • kue

    Сто сорок шесть процентов
    Осталось позади.
    Вперед идут солдаты —
    Ведь триста впереди !

    Убрать пехоту с чувствами
    Добавить капитал !
    И киборгов к приборам
    Процент чтоб не упал.

    Уже пятьсот процентов —
    Гори Земля огнем !
    Фалангой к новым землям
    Без этики махнем.

    • REnZi74

      А ни чего такой стишок, мне понравился)))

      • kue

        Спасибо ! Я всегда рад любым отликам. Попробуйте спародировать — я не обижусь, но это расслабляет от рутины )

        • jno

          безногие птицы фалангой грядут
          кибОрги на приборы процентом упадут
          бесчувственна пехтура и выверен маршрут
          ещё слогов добавить и будет всем капут :Р

          • kue

            Не трогайте пингвинов
            И стерхов не тревожьте,
            И голубятню жалко —
            Пускай там пиксель бьется

          • jno

            в голубятне пиксель били
            где-то стерхи бились сами
            всё равно на дельтаплане
            недофыркать до пингвинов!

          • Dmitriy_Sergeevich

            Еще чуть-чуть и хокку))

          • jno

            Дто к куе. Я в размерах путаюсь. :)

  • REnZi74

    Статья полный бред, это я вам как инженер говорю, за такую писанину ещё и бабло платят не слабое, а за реальную работу мизирный оклад. Читать противно.

    • NameuserNameuser

      Сразу видно — отечественный инженер в самом дубовом смысле этого слова.

      • REnZi74

        А вы наверное менеджер или экономист или юрист, скорее вы юморист! Если бы не дубовые инженеры как вы сказали да ещё и отечественные, нечем было бы похвастаться на авиавыставках и армейских полигонах.

        • NameuserNameuser

          Пальцем в небо. Я инвалид умственного труда.
          Ну, расскажите, чем могут похвастаться российские инженеры:
          Гражданские самолеты у нас все импортные бэушные. Цены на полеты в России просто окуительные (сравните с ценами того же Vueling).
          Железные дороги… Сапсана кто проектировал и производит?
          Автопром… Нашенские инженеры все еще «кастомизируют» фиат киянкой? Конечно, уазиковские бобики и буханки — легендарные машины, но что дальше?
          Бытовая электроника… Полная жопа.
          ИТ… Практически полная жопа.
          Чем хвастаются на выставках… вы считаете, что танки — это круто? А видели как одна кассетная бомба разносит за раз все танки на площади с сотню футбольных полей?
          «на авиавыставках»… — это все моддинг советского авиапрома.

          • kue

            Зря Вы.. Надо сосредотачиваться на причине, а не последствиях. А основная причина у нас, надеюсь, сами знаете где и какая..

          • NameuserNameuser

            Когда образование упразднят, можно будет сосредотачиваться хоть на причине, хоть на последствиях.
            Об основной причине не в курсе. Просветите, пожалуйста.

          • kue

            В первой итерации это те, кто образование и упразднит. Дальнейшие итерации приведут к этике, что, собственно, и является сабжем.

          • NameuserNameuser

            Понятно, понятно.
            Что посоветуете тем, кому до пенсии еще лет 30? Куда крестьянину податься? И стоит ли подаваться?

          • jno

            это при совке мыло и верёвку профсоюз мог выделить — теперь всё за свой счёт! :)

          • kue

            Проблема «другого глобуса» всегда очень актуальный вопрос )

          • jno

            народец не тот?
            гондурасом не то назвали?
            :)

          • kue

            Да тут вот кое-кому евразийцы почему-то не нравятся.. )

          • jno

            а чё нравится? африканцы или австралийцы?

          • jno

            эээ… таки, одна бомба — не разносит и крайний «полтинник» Погосяна — уже более-менее честно пост-советский (аж три летают).
            а так — всё верно :)

          • NameuserNameuser

            Хорошо, броня крепка и всякое такое. Но, простите, это все на глиняных ногах стоит. Что станется с нашей инфраструктурой в случае более менее серьезного конфликта?
            К тому же, пушечки и самолетики — это, скорее, для малых военных игр. Реально сдерживает от полного аллес капута только ядерный арсенал, который за годы позднего СССР и ранней РФ изрядно поредел. Что сейчас с ним?
            «одна бомба — не разносит» — она кассетная. Конечно, если техники будет больше, чем всего снарядов, кому-то повезет.

          • jno

            Что с того, что «кассетная»? :)
            Ну, кулёк с суббоеприпасами, да.
            Среди них есть и кумулятивные ПТАБы.
            А из новых — и самоприцеливающиеся даже.
            И чо?
            ПВО уже отменили? Средства снижения сигнатур БТВТ нету?
            Вы хоть площадь накрытия карандашом посчитайте!
            «сто полей»… ага.
            и вероятность попадания = 1!
            такую даже в рекламе не пишут! :D

            Эх, пМВ на Вас нет! :D

            C ЯО, оно конечно, не так весело: БЖДРК успешно похерены приватизацией ЖД (ЕБН на это не пошёл, а вот ВВП — запросто!) и мобильность теперь — тока грунтовая да подводная, СПРН тоже не в лучших чуйствах (на своевременный встречный лучше не расчитывать), да.
            Но.
            Эта большая дубинка хороша пока не применяется.
            И то — не для всех (нам, скажем, пугать Китай нашим ЯО глупо — им «размен» будет выгоден полюбому).

            А со всякими разборками а ля 08-08-08 — так и вовсе мимо кассы.
            Не говоря уж о «миротворстве», «контртерроризьме» и прочем таком.

            А вот тезис о «станется с нашей инфраструктурой» я, пардон, просто не понял :(

          • Dmitriy_Sergeevich

            Да и «Бобик» как бы не был кастомизацией Виллиса…

    • kue

      Роботов делаете ? Учите их стрелять только по п#дарасам с миллиардом. Формула может уточняться, но не меньше нуля.. ))

      • REnZi74

        Сам пошутил и сам посмеялся? Это уже диагноз.

        • kue

          Да, смайлик называется.. ) Впрочем, я отвлек Вас от важного дела, извините

          • REnZi74

            Ну хоть с юмором всё нормально как оказалось))))))))))))))

    • Sentinel

      Статья полный бред, это я вам как инженер говорю

      А вы так спешите поставить печать «бред» потому что боитесь, что без вас не разберутся? ;-)

      • Альфа

        Тов. инженер не умеет глядеть на вещи системно. Такое бывает.

        За статью спасибо — очень хороший уровень .

  • Artem Artemenko

    Тут с легкой руки одного комментатора смотрю «призрак в доспехах». Там один из роботов-танков другому говорил нас специально делают не похожими на людей чтоб не возникало чувство сопереживания. (2002г.) Так что есть еще порох в пороховницах у футурологов.

  • NameuserNameuser

    Этика, говорите?
    Как одна нация может спокойно жить, зная, что просто так сбросила на другую нацию пару ядерных бомб? В свою очередь, как та нация, на которую сбросили эту пару ядерных бомб, может спокойно жить, зная, что проводила бесчеловечные опыты (засовывание живых людей в барокамеры и т.п.) над своими, по сути, соплеменниками? Как кое-какая нация в Европе может спокойно спать, зная, что она, по просьбе одного усатого, вырезала десятки миллионов других людей, угнала их в рабство, засунула их в печь, сделала из их жира мыло, а из их кожи абажуры себе в дом, заражала беременных сифилисом и потом наблюдала как корчатся в муках их дети?
    Со Сталиным (Одна смерть – трагедия, миллион смертей – статистика), крупным специалистом в области этики, тоже пока не все понятно. Почему не могут определиться — «плохой» он, или «хороший» (или и вовсе не виноватый)?
    Как спится миллерам и прочим якуниным, набивающим себе карманы за счет распродажи страны? Я понимаю, что родина у них не Россия. Но как такое вообще произошло, что они оказались на этих местах?
    До одноногих многоножек ли тут?

    ЗЫ: » отправляйтесь немедленно на ближайший трекер и качайте это достояние мирового кинематографа» — а как же «фильм Федора Бондарчука»?

    • I.F.

      любопытно, а как все эти нации должны жить и спать, если не спокойно?

    • LTTLSSM

      что за нашествие бугуртнутых школьников? что вам от автора-то надо, лол? он ведь совершенно прав. вот я как-то достаточно долго работал на HITACHI ЕX 400 — это, знаете ли, такая огромная полуторакубовая стальная ящерица 88 года выпуска. она проработала 9 последних лет КРУГЛОСУТОЧНО. феноменальная машина. да, ломалось то одно, то другое, но основные агрегаты (оригинальные) работали как часы. старая ящерка была вся в стальных латках, но по мощности и скорости уделывала всех новеньких корейцев вокруг. кончилось всё, как всегда и кончается в этой стране — пьяный сменщик несколько раз перегревал мотор и кончил его. ремонт был слишком дорог и ящерку порезали на металл. чувство было такое, словно отправили на убой большое и любимое живое существо. а что бы чувствовал человек, отправляющий на «убой» машину с нейронной сетью обладающей каким-никаким, но интеллектом? какой бы глупостью кому это ни казалось, но этот человек столкнётся с этическими проблемами, хотите вы этого или нет.

      • I.F.

        да что машина с нейронной сетью — чашку любимую разобьешь и то настроение может испортиться…

        • Alex Vader

          да вот же. Не просто испортиться, а можно и серьёзно расстроиться. Вот мне кружку подарила любимая в первые месяцы отношений, если я её разобью — я сильно расстроюсь.
          Странно, что некоторые очень умные люди в данном обсуждении называют прекраное человеческое свойство привязываться «признаком низкого уровня образования и религией».
          Ну да, тогда высокий уровень образования — это полное отсутствие эмоций, человеческих качеств, инстинктов (их же надо утилизировать, как говно, как тут предложили!) и чистая логика. Как в моём калькуляторе.

          Чёрт, может я, как программист и уже давно не студент и не школьник чего-то хуже понимаю, чем все эти люди?

      • LTTLSSM

        Я верю, что когда-то на Земле безраздельно
        властвовали T.REXкаваторы. Это было
        великое и славное время. Потом, конечно, упал
        этот проклятый астероид; наступила
        ядерная зима; а когда, под занавес, взорвался
        огромный вулкан, несчастные, остекленевшие от мороза T.REXкаваторы
        разлетелись к чертям на тысячи ничтожных
        стальных осколков, поражая на смерть
        вечно путавшихся под
        ногами, глупых, благополучно обросших
        шерстью ящериц
        над костями которых
        сейчас ковыряются палеонтологи. Так оно
        и было. Вы конечно спросите: «А где
        доказательства!? Где хоть один окаменевший
        след гуски древнего T.REXкаватора?» Я
        вам как истинный T.REXкаваторщик отвечу: Да
        всё это есть. Нужно просто… глубже
        копать.

        * * *

        глубже копать…

        * * *

        Ты видел хоть раз
        Чтобы небо изнанкой?
        В неправильном сне
        Где тоскливо большие
        Где-то злобно молчат
        Облака КУЧЕВЫЕ

        Их КУЧА на КУЧЕ
        Голодный карьер
        Голодное утро
        В холодный апрель

        Голодное утро
        Холодного сна
        В неправильном месте
        Где небо — скала

        Голодные камни
        Голодная вечность
        Я их разбиваю
        Гружу бесконечно

        Гружу без конца
        Для других дураков
        Машина моя
        Голодней облаков

        Огромные зубы;
        Жестокою шеей
        Качает под утренней
        Дохлой луной

        Нам скучно обоим
        Мы в лунном карьере
        Шипит и расходует
        Ящер стальной

      • NameuserNameuser

        Тут вопрос выживания, а вы тут сопли по столу размазываете.
        Манекены, например, боковым зрением воспринимаются как люди. И что, теперь им паспорта выдавать и пенсию платить?
        Ну так вот, кому какое дело до причудливо изготовленного куска ни на грамм неживой материи, когда речь идет о выживании других людей?
        HITACHI ЕX 400, конечно, жалко. В том смысле, что механизм сломался.

        • LTTLSSM

          ну-ну. это с точки зрения логики. но всё же субъективное впечатление никто не отменял. это природа человека такая, дело не в сопливой романтике.

  • Сергей Зыкин

    Думаю, что вопрос решается просто — система где решения принимают биологические компоненты — живая, где электронные — механизм.

    А отношение к технике как к живому существу можно рассматривать как псевдорелигию основанную на низком уровне образования. Мы (человечество) создаем механизмы для решения задач, а не для того чтобы жертвовать ради них жизнью и не для того чтобы служить им.

    • jno

      хотите пример RNG на основе бактерий, скажем?
      и фиг ли радости с «живости» там?

      • Сергей Зыкин

        Собственно был вопрос в терминологии «Что считать живой системой». Я написал что считаю. Вопрос об уровне этой системы вроде как не поднимался…

        • jno

          забавно, но общим знаменателем будет «система с принятием решений».
          при этом религиозность отношения будет определяться исключительно природой отдельных компонент системы?
          заметьте, тоже без обсуждения уровня!

    • xarkonnen

      допустим, я заменил себе один из нейронов головного мозга на его электронный аналог. я живой или механизм?

      • I.F.

        у курцвейля есть аналогичное рассуждение — допустим вы меняете часть своего организма, одну за другой. причем делаете это постепенно, так что в каждый момент не возникает вопроса, вы это или не вы после операции (допустим мы такие крутые технологи, что электронная замена частей мозга полностью сохраняет память-реакци-т.д. то есть функционально неотличима). вы меняете и в конце концов от вашего исходного тела ничего не остается — получилась железка. теперь, допустим, мы может воспроизвести железку сразу, одним движением. на выходе в обоих случаях — идентичные железки. какая из них вы?

        • xarkonnen

          одна из них я, вторая — мой брат-близнец.

          • I.F.

            а если тот же вопрос задать не вам? как отличить?

          • xarkonnen

            элементарно: тот, кто создан «одним махом» — не я. соответственно, я — не он. мы похожие, но разные.

          • I.F.

            так кто вникать-то будет — сказано же, на уровне железки вы идентичны

          • xarkonnen

            идентичность как таковая мало что значит: однояйцевые близнецы тоже идентичны на уровне генотипа и очень похожи на уровне фенотипа, однако никаких этических проблем тут не возникает. с чего бы им появиться в случае «техно-близнецов»?

          • I.F.

            >идентичность как таковая мало что значит
            не, ну если мало, то да

          • Sentinel

            Дискуссия-то какая получилась!!!

        • deep

          Похоже на историю «Железного дровосека».

        • Dmitriy_Sergeevich

          Прям парадокс Тесея:

          http://ru.wikipedia.org/wiki/Корабль_Тесея

          • I.F.

            типа того. у курцвейля это было только в рамках рассуждений о сознании — его переносимости и том, что могло бы являться свидетельством наличия у машины сознания.

        • Artem Artemenko

          Если плоского червя разрубить по полам то каждая часть регенирирует в целого. Вот кого из них считать настоящим -). тут все решит практика. червей не спросить. Другой пример скопировать подобным образом компьютер не подключаясь к интерфейсам а собирая такие же железки и наводя магнитные поля на винчестеры уже не тривиальная задача и получится ли хоть какая то идеентичеость. Почему считается что с человеком проще то.

    • Alex Vader

      «А отношение к технике как к живому существу можно рассматривать как
      псевдорелигию основанную на низком уровне образования. Мы (человечество)
      создаем механизмы для решения задач, а не для того чтобы жертвовать
      ради них жизнью и не для того чтобы служить им.»

      Ну, допустим, жертвовать жизнью ради механизма — это слишком.
      Но вот я не вижу ну ничего религиозного в отношении к чему угодно, как к живому. Если постараться, можно так всё вывернуть, что мы с вами окажемся механизмом, и тупым ничем. Но разве это годится? Ну вот я вроде как атеист, и с образованием у меня всё в порядке (хоть я ВУЗ и бросил, т.к. самообучение и работа эффективнее), а люблю относиться ко многим вещам, как к живым. Да я даже ветер живым, музыку живой могу воспринимать, ну это же не значтит, что они биологически живые?! Как выше сказано, я могу привязаться и к чашке. Да я вот расстроился, когда умерла моя старая, служившая мне уже много лет флешка, с памятными царапинками и кучей ассоциаций.

      По-моему, без этого всего, мы, люди — превратимся в каких-то бездушных тварей, которым нужна лишь выгода и чтобы нам всё и все служили.
      ИМХО.

  • jno

    …если ноги отрезать тоже
    эта сволочь помрёт со скуки
    потому что сидеть не сможет

    кажись, у Иванова так было…

  • Альфа

    Большое спасибо, Евгений!

    Интересная статья, интересная проблема. Дело реально крайне серьёзное и чреватое людскими жертвами.

  • ZarrrazA

    >вдруг решает отправиться на очередную операцию сам, лично, чтобы не
    подвергать риску «электронного товарища». Нелогично? А это как
    посмотреть!

    Так и вижу фрагмент из простоквашено, когда кот Матроскин рассуждает о ездовых сабаках: ни у кого не возникало желание погягать за собой авто из привязанности к оному? Что — нет? Странно…

  • deep

    «а вот что написать семье погибшего сапёра, пошедшего на обезвреживание фугаса вместо своего «раненого» электромеханического «товарища»?».

    Что написать, что написать, да просто написать:
    «Дебилы не должны размножаться».

    • deep

      «Дебилы» обиделись…
      А я всего лишь написал открытым текстом то, что в предыдущем сообщении было завуалировано (про премию Дарвина), но видимо образование не позволило понять…
      Проще, надо относиться, проще…
      Вещи созданы для Человека, а не Человек для Вещей.
      Вот и вся суть.

  • пМВ

    Про привязанность к машинам — Дэвид Вебер, Bolo!

    • Sentinel

      Спасибо!

  • Wesha

    Классный рассказец на эту тему…

    http://www.serann.ru/text/robot-drug-cheloveka-8775

    Робот и человек, рискуя собой, попеременно спасают друг друга…
    ————————————————

    […]

    — Плохо дело, — сказал Андрей. — Не знаю, что и предпринять.

    — Можно попробовать сбить вершину скалы направленным взрывом… — начал робот.

    — Точно! Ты — голова! — перебил его Андрей и ринулся к шлюзу.

    Он вернулся спустя минуту, нагруженный свинцовым
    цилиндром ядерного фугаса и связкой радиоуправляемых взрывателей.
    Двинулся было к скале, но робот удержал его за плечо:

    — Тебе туда нельзя. Слишком большой риск.

    — Ты что? Не дури, времени мало.

    — Нет, — жестко сказал робот. — Инструкция запрещает человеку работать в местах с категорией опасности выше второй.

    — Это прямо-таки забавно! А вся планета какой, по-твоему, категории? Что же ты раньше не вспоминал об этой инструкции?!

    Робот не ответил. Андрей шагнул вперед, но его остановила суставчатая железная рука.

    — Ты что, совсем спятил? Отпусти сейчас же, тебе говорю!

    — По положению в подобной обстановке все работы надлежит
    выполнять кибернетическим устройствам. Следовательно, на скалу полезу я.

    Андрей задохнулся от возмущения и, махнув рукой, зло крикнул:

    — Валяй! Иди, бюрократ, перестраховщик! — и устало опустился на песчаный бугорок.

    Робот аккуратно уложил фугас и детонаторы в свою грузовую нишу и двинулся в путь.

    [….]

    Андрей заблокировал оборванные связи и дал ток высокой
    частоты. Индикатор блока возбуждения замигал и наконец залился ровным
    неоновым светом. Двигательная часть была почти полностью разрушена,
    смятые обрубки манипуляторов торчали из корпуса, как щупальца
    искалеченного акулой осьминога.

    — Повреждения первой степени, — сказал робот. — Ремонт в полевых условиях невозможен.

    — Да, попал ты в переделку. Когда я нашел тебя там,
    горящего, засыпанного щебнем, подумал, что все… Мозг уцелел просто
    чудом. Пока вез тебя на станцию, в голове крутилась одна мысль: вдруг
    блок возбуждения не потянет? Ведь это как у нас клиническая смерть; кто
    знает, справится ли сердце? Но теперь, слава богу, все позади. Прилетим
    на Землю, отдам тебя в ремонт. Выйдешь оттуда лучше прежнего. Мы с тобой
    еще такого наворотим…

    Робот перевел фотоэлементы на человека и сказал:

    — Андрей, об этом не может быть и речи. По положению ты
    обязан меня демонтировать. Из-за аварии у нас резкий дефицит
    электроэнергии. Ее может не хватить до прибытия смены. Не мне тебе
    объяснять, что значит оставить без энергии систему кислородной
    регенерации. Если меня не обесточить или не демонтировать, то одну треть
    аварийных аккумуляторов можешь сразу вычеркнуть из баланса. Задумайся:
    рисковать собственной жизнью ради робота-калеки! Конечно,
    киберустройству небезразлично, жить или умереть. Ведь у нас, наверное,
    это тоже похоже на то, что вы называете смертью. Но здравый смысл
    заставляет поступить именно так. Без меня электроэнергии хватит
    наверняка.

    Человек вплотную подошел к роботу:

    — Почему именно ты должен жертвовать собой? Почему ты
    должен умереть, чтобы жил я? Почему не наоборот? Чем я лучше тебя? Ну,
    скажи! Чем? Ты — робот, я — человек. Ты сделан из металла, пластика,
    синтетики, я — из других материалов. Ты видишь мир по-своему, я —
    по-своему. Ну и что?! Главное — мы оба живые! Ты — не человек, ты просто
    другой: ты — робот! Так почему же наконец не поставить крест на роботе
    как на рабе, машине, бездушном работнике? Человек создал живое существо и
    должен относиться к нему как к живому существу. Если хочешь, обсудим
    такой вариант: я подключаю тебя к аккумуляторам и вырубаю систему
    кислородной регенерации. Нравится тебе такой выход? Ах не нравится?
    Тогда молчи! Так вот, не будет ни демонтажа, ни обесточивания. Ничего
    этого не будет. А будет третий вариант: все останется как есть. На Земле
    разберемся.

    […]

    Ночью на Андрея накатился горячий липкий бред. Ему
    грезились раскаленные, раскалывающиеся горы, песчаные воронки и
    бездонные пропасти, в которые он падал и падал. Его преследовали пустые
    кислородные баллоны, к которым он приникал спекшимися губами. Андрей
    вскакивал, кричал, бился на смятой комом постели. На него нападало
    удушье, и он пытался разорвать на груди прочную скафандровую ткань.

    Робот сразу все понял: песчаная лихорадка! Необходима инъекция.

    Обрубок щупальца пополз к шкафчику аптечки. Дверца не
    поддавалась, и робот проломил ее ударом стального сустава. В секции
    лежала продолговатая ампула. Он попытался захватить ее сплющенными
    щупальцами, но гладкий цилиндрик соскользнул с манипулятора. Робот
    протянул к пролому вторую искалеченную руку, и тут же вышли из строя два
    моторных предохранителя. Разорванные контакты искрились, приваривались
    друг к другу.

    Зажав ампулу концами манипуляторов, робот осторожно
    вытащил ее из шкафчика и понес к постели Андрея. Он крепко сжимал
    цилиндрик, стараясь в то же время не раздавить его неуклюжими обрубками.
    Но длина манипуляторов не позволяла дотянуться до человека: тридцать
    сантиметров непреодолимой воздушной преграды отделяли Андрея от
    спасения.

    Человека выгнуло дугой, и он дико закричал. Мозг робота
    заволокло жесткими немодулированными сигналами, и с сухим треском
    перегорела вся левая половина блока управления.

    Робот начал сокращать суставы торса и неустойчиво
    закачался на инструментальном столе. Раскачиваясь вперед-назад, он
    набирал амплитуду, потом с грохотом рухнул на пол.

    Запахло горелой изоляцией, из-под корпуса вырвались языки
    пламени. Щупальца потянулись к Андрею и крепко прижали ампулу к его
    шее.

    […]

    …Перед дверью с синим крестом Андрей замедлил шаг и, повернувшись к загорелому бородачу, спросил:
    — Значит, сделаешь?
    — Успокойся. Сказал — значит, сделаю, — ответил тот и поскреб в затылке. — Только вот никак не пойму, зачем тебе этот музейный экспонат? Давай сдадим его в переплавку, а ты возьмешь себе новенького, а?.. Ну ладно, шучу, — добавил он, заметив, как судорожно задергалась щека приятеля.
    Андрей подошел к тележке и, положив руку на обгоревший корпус, тихо сказал:
    — Слышишь? Это я, Андрей. Давай ремонтируйся и сразу ко мне. Буду ждать.

  • Alex Vader

    А по-моему, истерия. Вообще в последнее время новости науки напоминают какую-то истерию вокруг роботов, людей и трансгуманистического бреда. Если подумать, роботы — круто, возможность лечить болезни и улучшать что-лтбо технологически — круто. Но вступают в дело журналисты или адепты религии технологий (трансгумы) — сразу всё приобретает невыносимую вонь пафоса, драмы и ТОТАЛЬНОГО ИЗМЕНЕНИЯ МИРА И ЧЕЛОВЕКА.
    А я скажу — как «тогда» были шумы вокруг компьютеров и мобильников, так и сейчас вокруг этого. Главное, чтобы мы людьми остались — эмоции, жизнелюбие, творчество, привязанности, секс и так далее. А как, что и где — уже не важно.

    Легче надо к теме относиться, и работать над улучшением жизни, а не над избавлением от инстинктов, переделывании человека в железяку (а тем более, с утерей человеческих свойств) и прочее полу-религиозное говно.

  • Alex Vader

    Препятствовать привязанности нужно лишь тогда, когда эта привзяанность может навредить.
    А в других случаях — это нормально, и ничего в этом «псевдо-религиозного» или глупого нет.

  • Sheitan

    Спокойствие, дадут денег — и все завертится, независимо от стонов высокоморальных и этичных..

  • Anatolij Petrakovskij

    Спасибо за статью! Да… было время, я… ну с ума что ли сходил от этого фильма.

    Жаль, но при нашей жизни это «будущее» не настанет.

    • Sentinel

      А я ещё верю.

Хостинг "ИТ-ГРАД"
© ООО "Компьютерра-Онлайн", 1997-2017
При цитировании и использовании любых материалов ссылка на "Компьютерру" обязательна.
«Партнер Рамблера» Почта защищена сервером "СПАМОРЕЗ" Хостинг "Fornex"