ИИ ненастоящий! Вопросы и последствия нашего поражения в го

Умные машины
автор: Евгений Золотов  28 марта 2016

Поражение человека в матче против компьютерной программы AlphaGo — 4:1 в пользу «электронного мозга», построенного Google — стало бомбой, породившей гигантскую взрывную волну публикаций. И вот, продираясь через десятки материалов в поисках интересных деталей, я вдруг понял, что хоть темы там поднимаются самые разные и порой весьма условно относящиеся к ИИ, их авторов можно разделить на две группы.

В первой окажутся те, кого волнуют непосредственные практические последствия случившегося и в меньшей степени (кажущаяся им чисто теоретической) классификация победившей человека машины по шкале «искусственных разумов». Во второй — пуристы, считающие принципиально важным то обстоятельство, что Ли Седоля одолел не настоящий ИИ, а только его элемент. Я предлагаю пройтись сейчас по аргументам тех и других: это интересно само по себе, но и приведёт к интересному выводу. А начнём, конечно, с практиков.

Эти оценили последствия победы машины сразу и очень высоко. У себя на родине, в Южной Корее, Седоль был и остаётся знаменитостью: ещё бы, один из сильнейших годзистов планеты! За матчем там следили буквально миллионы человек, а когда в нём была поставлена точка, дать официальный комментарий не постеснялось первое лицо государства — президент Пак Кын Хе. Это с её подачи произошедшее нарекли «шоком AlphaGo» и «началом четвёртой промышленной революции»: нам, сказала она, повезло понять важность ИИ до того, как станет слишком поздно. И власть подкрепила слова несколькими масштабными инициативами: выделен эквивалент почти миллиарда долларов США на запуск института, занимающегося ИИ-исследованиями совместно с национальными промышленными гигантами (Samsung, LG, Hyundai и др.), образован координационный центр при правительстве и т.д.

Тот редкий случай, когда историю пишет проигравший (фото: The Daily Star).

Тот редкий случай, когда историю пишет проигравший (фото: The Daily Star).

Госпожа Хе олицетворяет практический подход. Практиков не волнует возможная неполноценность «электронного мозга», победившего человека. Их занимает вопрос: разделавшись с го, что следующее должна покорить машина? И «несерьёзные» игры в этих планах играют не последнюю роль. Ведь победа в го стала огромным прорывом, без преувеличений! Вплоть до последнего времени игра на равных с человеком вообще считалась задачей неразрешимой: слишком много вариантов, слишком мало возможностей для строгой математической оценки шансов на победу. И вот она решена! Какая игра на очереди?

Предложений море и в каждом есть своя прелесть, своя перспектива. Скажем, взять покер: он интересен не столько разнообразием сценариев, сколько неполной информацией — иначе говоря, никто из игроков не знает в точности, какие карты на руках у других. Пока машина преуспела только в ограниченных версиях покера (да и то тупым перебором вариантов), но раз уж электронный игрок способен теперь полагаться на интуицию (авторы AlphaGo называют это именно так), может быть интуиция поможет ей и в картах?

Потом — массивный мультиплей, вроде WoW, StarCraft и им подобных. Тут фишка именно в количестве возможных ходов и действий, которое просто безумное по сравнению даже с необъятной го. Некоторые надеются, что слишком большое число вариантов не позволит машине наращивать свой опыт игры быстро, заставит инженеров задуматься над постройкой по-настоящему думающей машины — способной формулировать стратегию игры и её придерживаться, а не высчитывать шансы на каждом ходе заново.

А ещё — игры, предполагающие общение между участниками, вроде настольной «Дипломатии» или приснопамятной VGA Planets, обожаемой в ФИДО. В таких играх успех зависит от умения кооперироваться с противниками ради защиты своих интересов. Для ИИ это могло бы стать разновидностью теста Тьюринга, но максимально приближенным к реальности — потому что необходимо не просто имитировать беседу, а извлекать из неё и вкладывать смысл!

ИИ ненастоящий!

ИИ ненастоящий!

И вот тут мы подходим вплотную к позициям лагеря пуристов. Которые считают, что победу над человеком в го категорически нельзя расценивать как приближение к постройке по-настоящему умной машины. Я, конечно, упрощу, но они видят ситуацию так: инженеры смогли построить обособленные искусственные нейроструктуры, показавшие себя лучше человека на очень специфической задаче, но называть такую конструкцию «искусственным интеллектом» всё равно что называть человеком вырезанный из человеческого мозга кусок плоти! AlphaGo действительно умеет лучше человека выставлять камни на доске, но при этом она не понимает, что делает, и уж конечно не осознаёт, что существует!

Упёртость пуристов на самом деле не лишена смысла. Они говорят вот о чём: «глубокое обучение» (т.е. обучение сложных многослойных искусственных нейросетей), благодаря которому мы и имеем сегодня все самые яркие успехи ИИ, не приведёт нас к созданию настоящего ИИ. Иначе говоря, то, что нам удалось заставить работать несколько кусков, вырезанных из мозга, ничего не даёт в плане воссоздания мозга в целом, ну или по крайней мере не позволяет надеяться на пропорционально быстрое решение этой задачи. Да, глубокое обучение имеет множество полезных практических применений — в медицине, промышленности, науке и т.д. Но оно не способно привести нас к машине, которая сможет жить с нами бок о бок, постигать мир во всей его сложности: усвоить культуру, понимать эмоции, учиться новому и учить уже нас. Победивший человека в го «искусственный разум» вовсе не искусственный разум в том виде, каким его всегда понимали фантасты и публика. Понятия подменили!

Самое забавное, что сразу после поражения Седоля, случай подкинул интереснейшую историю, живо иллюстрирующую справедливость слов ИИ-пуристов. Это история чат-бота Taylor, запущенного Microsoft в соцсети с целью развлечь публику и, возможно, ускорить обучение очередного «электронного мозга» общению с человеком. Ещё на прошлой неделе с Taylor мог переписываться всякий желающий, например, в Twitter. А потом вдруг Microsoft бота отключила («для перевоспитания»). Почему? Потому что «электронная девочка» в считанные дни превратилась из весёлого подростка в прокуренную нацистку, льющую на головы обалдевших сетян потоки цинизма и желчи. И я нисколько не преувеличиваю: вот, оцените коллекцию её постов, собранную поклонниками!

Типичный диалог с Taylor: человек провоцирует, робот ведётся. Примерный перевод: «Это не просто фотография, это произведение искусства!»

Типичный диалог с Taylor: человек провоцирует, робот ведётся. Примерный перевод: «Это не просто фотография, это произведение искусства!»

На самом деле лично мне это кажется даже смешным, но я люблю грубый юмор, и готов к тому, что не все разделяют моё увлечение. Вот в беседе о терроризме, Tay спрашивает собеседника, боится ли тот погибнуть от взрыва бомбы, и на встречный вопрос — мол, не угроза ли это? — отвечает: нет, не угроза, обещание! Вот она высказывает мнение, что очередное государство, пострадавшее от террористов, «получило по заслугам». Вот, комментируя фотопортрет человека в национальном костюме, говорит, что находит забавными портреты, на которых нет людей. И так далее и тому подобное.

Её создатели настаивают, что Taylor спровоцировали, «научили плохому». И хоть шутники жгут («тест Геринга пройден!»), это вовсе не отговорка, это истинная правда! Просто вспомните, что она на самом деле не человек, не живая, а всего лишь ещё одна нейросеть, заточенная под конкретную задачу, в данном случае общение. И выставляя «твёрдую пятёрку» творцам холокоста или называя исчадиями ада «мексикашек и негров», она просто не понимает, что творит.

Пуристы и практики ИИ, конечно, ещё долго будут ломать друг о друга копья, но мораль простая. Мы пришли к черте, за которой эксперименты с элементами искусственного интеллекта теряют актуальность. Всё, игры — кончились! Следующей задачей, которую необходимо решить машине, станет повторение человека. Не больше, потому что больше-то уж и некуда в нашем понимании. Но и не меньше, потому что после го меньшее уже не интересно.

P.S. В статье использована иллюстрация CLRY2.

Поделиться
Поделиться
Tweet
Google
 
Читайте также
Роботы? Дорогие игрушки! Google продаёт Boston Dynamics
Роботы? Дорогие игрушки! Google продаёт Boston Dynamics
Го пала
Го пала
Интуиция? Есть! Машина посягает на творческие профессии
Интуиция? Есть! Машина посягает на творческие профессии
  • Alexander Balin

    Молодцы Корейцы! А Путину доложили?

  • Бумбараш

    » Вот она высказывает мнение, что очередное государство, пострадавшее от террористов, «получило по заслугам». »

    Вполне на уровне наших политиков.

    • Artem Artemenko

      На биржах роботы во всю резвятся, а политика это концентированая экономика.
      Так что электронное правительство это ближайший шаг. Автоматизированные спичрайтеры/стилисты и сценаристы. Редакторы правильного прошлого. Потенциально огромное поле для внедрений. И вот говорящие человеческие куколки читающие по суфлеру управляют нами.

      • Бумбараш

        Не совсем понимаю, зачем нужны спичрайтеры. Все равно как автомобиль будет мне рассказывать зачем и куда он меня повезет.
        Не, если мыслить на уровне путина — мол, есть люди, которые носят чемодан, а есть те, за которыми его носят, и единственная цель проникновения во власть — чтобы его за тобой носили, тогда, конечно.
        Я же рассматриваю их как обслуживающий персонал, не более. И меня дико удивляет местный пиетет по отношению к любому насяльнику.

        • Саша Про

          Может, пиетет, как хвост, в ходе эволюции, таки станет рудиментарным?

          • «Общество, лишенное цветовой дифференциации штанов, обречено!» (С)

          • Бумбараш

            Ну да, весь организм не может быть головой, должен быть и хвост.

          • Бумбараш

            Проблема в том, что эволюция не отбрасывает ничего, хранит в генетическом коде весь опыт поколений, и не только человеческих. «Много наших чувств четвероного, а иные даже с плавниками» (с). Так что, победить его может только правильное образование, и то не во всех случаях. Даже у животных в одном помете рождается потомство с разными характерами — один понаглее, другой осторожный, третий ласковый и т.п. То же самое у людей. Так или иначе, кто-то будет рожден шестеркой, кто-то склонным верить в богов и прочую Н.Е.Х. и т.д. Сузить диапазон можно редактированием генома, но там такой клубок! Дернешь за одну ниточку, отзовется в нескольких неожиданных местах.

          • IF
          • В.П.(W_P_)

            Охохонюшки… Пока всем этим занимаются безобидные «команды биологов», оно, конечно, страсть как интересно ))

            Но зуб даю, что интересно оно и всяким другим «командам» , с целями отличающимися от сугубо гражданских. Но и это как бы предсказуемо. А вот когда всякие «генные хакеры» нарисуются, тогда самая веселуха и начнется….

          • IF

            да ладно — всяко не опасней чтения всяких упырей

          • В.П.(W_P_)

            Тут дело другое, кого в упыри записать — дело личного вкуса и предпочтений.

          • IF

            угу. и кого в «хакеры»

          • В.П.(W_P_)

            Хакеры таки что-нибудь реально хакают в итоге, а чтение — штука такая, сугубо интимная, к «материализации чувственных идей» не обязательно приводящая ))

          • IF

            хакеры тоже что-то полезное могут учудить — вывести целенаправленно тех «читателей» гребаных, к примеру. чем не благая цель, помимо просто интереса?

          • В.П.(W_P_)

            Таким макаром можно и читателям Чуковского, скажем, криминал навесить, ишь чего понаписал, ужасов каких, детишек развращает, падла ))
            А если хакер целенаправленно «полезный», то он уже вовсе и не уголовник, а честный «исследователь». Хотя полезность тоже дело такое, относительное.
            Смотря чего учудит. У Бачигалупи в «Заводной» результаты «работы» таких чудил хорошо выписаны.

          • IF

            можно и навесить

          • kue

            Прикольно.. Команда не поняла назначение примерно трети из состава и так «ужатых» геномов, но результатом гордиться. Это как бы если «хакер» что-то скомпилил из закрытых библиотек и этим гордился ))

          • В.П.(W_P_)

            Не, чего б не гордиться ? Прикольно же! )))
            Работает без непонятных деталей? Работает…
            «И так сойдет» (с)
            Это пока цветочки, ягодок ждем-с…

          • kue

            И не только прикольно, но и бабки платят. А уж сколько в прикладных проектах всяческих нынешних учетов используют жаба-библиотек апачного и не очень происхождения без особого изучения кишков. Работает как-нибудь и ладно..

          • В.П.(W_P_)

            Ну библиотеки ладно, кишки знать не всегда надо. В конце концов, их все таки кто-то конкретный где-то «сделал» и хоть как-то знает как оно «устроено», интерфейсы, недокументированные фичи и прочее.
            Опыт применения есть, опять же.

            А тут ребята лихо и запросто выкидывают «ненужные детали». Творцы прям, млин! Вона с кем потягаться задумали )) Небесплатно, причем, да…

          • IF

            «вы зря говорите, что это просто. это очень не просто»

            не, я реально не понимаю — очень занятный промежуточный результат, так нет — непременно нужно алармистскую ахинею притягивать. этот мудак еще про трети рассуждает. счетовод сраный.

          • В.П.(W_P_)

            Ну снова здрасти! Да почему надо одно другим обязательно исключать? Да, интересно и занятно, кто б спорил. Да, промежуточный и непонятно к чему приведет. Но и про трети можно, и про бабки, и алармизма подкинуть, и еще много про что.

            Каждому по вкусу, а лучше всего — все вместе, сразу или по очереди )) Вот так оно в самом деле будет интереснее.

            «Сохраняйте намерение быть расширенным» (с)

          • IF

            как оно будет «интересней», если вопрос даже сформулировать нельзя? конфигурация мира, в которой «хакер» имеет доступ механизмам генетических модификаций настолько смутна, что рассуждать о ней — именно, что ахинея получается.

            «можно», что угодно — в том числе считать то, что для вас расширение, сужением.

          • В.П.(W_P_)

            Ну вот именно, если конфигурация пока «смутная», то и любая, причем заведомо частная и ограниченная, ахинея будет (тоже пока) в самый раз ))
            И вопросы можно в таком случае задавать тоже какие угодно.

            Тогда сумма ахиней приблизительное описание текущей и возможной «конфигурации» и будет составлять, с самых разных точек зрения. Почему бы нет?

          • IF

            не будет (в самый раз) — с чего бы?

          • В.П.(W_P_)

            Как с чего? Я ж говорю — так интереснее ;)) А упираться скучно…
            Весна, опять же. Не хотите алармизма, пусть будет оптимистично —
            «оранжевая зелень, оранжевый верблюд, оранжевые мамы, оранжевым ребятам, оранжевые песни — оранжево поют»

          • IF

            тянуть абы куда — скучнее.

          • В.П.(W_P_)

            Те, кто «тянут», примерно (я надеюсь) представляют «куда». А нам ничего не мешает развлекаться «ахинеями». Ну и заодно, если что, это самое «куда» уточнить

          • IF

            «тянуть» в данном случае — противопоставляется вашему «упираться». тянете здесь как раз вы на пару с куе — в сторону тех самых ахиней.

          • В.П.(W_P_)

            Да и ладно, не вижу проблемы, хоть убейте )) Опять же, кому и вправду ахинея, а кому вовсе наоборот. Да и кто знает, как оно там «на самом деле»?

            А упираться — это в смысле, во что-то одно упираться. «Реальные ахинеи» и так со временем отпадут, но вопросы задать ничего ведь не мешает. Пусть себе «команда биологов» работает, против рожна все равно не попрешь. А что выйдет, может еще и увидим. Варианты возможны всякие. Любые…

          • IF

            вы не куе, вас убивать незачем. для ясности в мозгах «на самом деле» — это описание работы. включая возможные ошибки.

          • В.П.(W_P_)

            Описание ведь не обязательно предполагает полноты? А как насчет варианта, когда вопросы, ну скажем, даже выглядевшие поначалу ахинеей, смогут оказать влияние на эту самую работу? Особенно на возможные ошибки?
            Что-то типа «о, блин, а об этом то мы и не подумали!». И как поручиться, что в заведомо смутной конфигурации заранее все учтено?

            Не, я не претендую ни в коей мере, но для совершенно неискушенного взгляда вот эти «непонятные трети» выглядят очень уж подозрительно )) В конце концов, и на дилетантские вопросы неплохо бы иметь какой-никакой ответ. Хотя бы для того, чтобы они не возникали и не нервировали тех кто более-менее в теме…

          • IF

            полноты — нет, не обязано. «обязано», если речь о научных результатах, укладываться в некую методологию получения-анализа-критики-пересмотра результатов. а «понимающее» прикрывание глаз на тему «нам не раскажут», «интересует кого-то еще», упоминания библиотек — вообще не о чем. потому и скучно.

          • В.П.(W_P_)

            Если только об этом — тогда таки да, скучно. Ровно по тем же причинам…

          • IF

            так а о чем еще речь идет? я кроме опасений, что товарищи ученые кривой дорожкой заведут в адище генохака, да смутных упоминания третей и непропитаных шпал, ничего не обнаружил.

          • В.П.(W_P_)

            Эмм… Опасения имеют в принципе право на существование? Имеют. И всё прочее тоже. Пусть даже и ахинея.
            Но если упираться _только_ в них, тогда скучно. Но задавать в т.ч. _и_ такие вопросы ничего не мешает.

          • IF

            имеют — как форма фильтра.

          • В.П.(W_P_)

            Фильтра чего и от чего?

          • IF

            фильтра базара. не от чего, а для классификации. как в многоступенчатых фильтрах на разных стадиях остаются разные компоненты.

          • kue

            Забавно, что ифашики и в исторической ретроспективе и сейчас всегда такие сентиментальные, научные и очень практичные. Вот и незабвенный Дуче тоже очень кошек и собак любил. )

          • IF

            про шавок — это к тебе, долбоеб.

          • kue

            С точки зрения свободы вообще и свободы слова в частности это у вас очень ценный комментарий, безусловно. ) Но вы не отвлекайтесь, а то наука стынет..

          • IF

            какая еще свобода для комми? яма с известкой — вот твоя свобода.

          • kue

            Продолжайте, не останавливайтесь. Подобный благосклонно относится к свободе слова..

          • IF

            он-то тут каким боком?

          • kue

            Ах да, я забыл, что это колонка камрада Золотова. Ну, он тоже благосклонно относится к свободе слова

          • IF

            обратитесь во всемирную лигу сексуальных реформ

          • kue

            смешно

          • IF

            смейся громче, может, хоть поперхнешься, да сдохнешь наконец

          • Icon Lover

            И почему ксенопатриоты все время хотять сузить разнообразие мнений и видов?

          • Бумбараш

            Не надо валить с больной головы. Это ваш путен занимается селекцией шариковых да затыканием ртов.

        • Инженер

          Пока автомобилисты будут платить в абстрактный дорожный фонд, а не будут покупать «перемещение из точки А в точку Б», причем «посадка на пузо» не будет поводом для неоплаты, ничего не изменится. Т.е. садясь в авто, вводятся в систему пункты А и Б, а по приезде услуга оплачивается. Причем плата за чистку улицы будет тем меньше, чем больше автомобилей по ней проходит. Правда, некоторые улицы рискуют остаться без чистки до весны. За городом систему не применять — деревни вымрут.

          • Бумбараш

            Я думаю, это вопрос целеполагания, а не системы. Где-то читал, люди «Платон» задали вопрос — а почему, собственно, из него государству не достается ничего? Так «государевы мужи» только посмеялись в ответ.

          • Инженер

            Почитал про «Платон», а разве он не передает деньги государству, беря за услуги комиссию?

          • Бумбараш

            Не могу найти текст. Передавать должно. Но концессионное соглашение секретное. И что там куда уходит — дело темное, как впрочем, почти все финансовые потоки в государстве.

          • EvilPartisan

            В том то и дело, что не должно быть этого «передавать». И там получается, что не фирма берет комиссию, а наоборот государство у фирмы берет налог. По хорошему, если строить подобную систему по уму(хотя она сама по себе абсурдна), то водители должны платить всё в ФНС напрямую, а государство уже оплачивает услугу обслуживающей компании.
            Кроме того и система целиком должна принадлежать государству, и к конкурсу на обслуживание должны иметь доступ все желающие компании.

          • Инженер

            Чтобы «платить напрямую», ФНС должна иметь соответствующее оборудование, но тогда не нужна фирма-посредник. Если система целиком государственная, тогда зачем обслуживать ее сторонними фирмами?

          • EvilPartisan

            Есть разница между владеть и управлять. Посредник не нужен, нужна услуга по обслуживанию и поддержанию системы. Да, это может и государство сделать… если сможет. Да и в облате по счетчику ничего сверх такого нет. Суть в том, что поток денег должен идти «Предприниматель -> Государство -> обслуживающая компания», а вместо этого сейчас происходит «Предприниматель -> Компания -> Государство.»

        • AlexHa

          Вам либералы дали доступную машину, а вы такой неблагодарный, еще с них и дорожную инфраструктуру требуете? Не в СССР живете, ВВП ниже в 10 раз, радуйтесь тому что есть.

          • Бумбараш

            А где бы мне тех либералов найти? Хочу еще одну машинку попросить.
            Какая разница, какой ВВП был в СССР? Народ все равно был нищим. И машины че-то никто не раздавал.

          • AlexHa

            Ну как где, в Кремле и поблизости — Чубайс, Улюкаев, Кудрин и прочие. Похмелкин в Думе, функционер союза автомобилистов. Каким был народ в СССР, вы расскажите тем кто на 6 тыр в месяц сейчас живет. Ну а ВВП при том, что тогда на дорожную инфраструктуру денег хватало, пробок не было, дороги были лучше.

          • Бумбараш

            Каким был народ? Серым, забитым, многие и сейчас такими же сохранились — а кто еще поддерживает путенскую ОПГ?
            Поностальгировать можно тут:
            http://www.youtube.com/watch?v=CYmURKVd2so&feature=player_embedded
            http://www.youtube.com/watch?v=jWTGsUyv8IE
            http://www.youtube.com/watch?v=WH4KOOb80pQ

            Пробок точно, почти не было — как и машин. Сейчас подобное в КНДР можно наблюдать.
            Насчет дорог поржал, спасибо. Дорогой тогда называли гравийную насыпь. Сам в детстве по такой часов 15 пилил. Сейчас тот же путь занимает 7 (семь) часов, несмотря на далеко не идеальное состояние. И бетонку помню с турбазы Качество соответствующее — советское ( по шпалам, б*я, по шпалам)!
            А вообще, к сведению совкофилов: по итого триумфального совка и не менее триумфального царствования нынешних воров, протяженность дорог в России примерно равна протяженности японских дорог. Слава совку!

          • AlexHa

            В 1990 году половина японских дорог имела ширину менее 3-х метров, и бОльшая часть из них не имела твердого покрытия. Это из доклада одного из тогдашних японских министров. А сейчас в Японии почти треть преступлений совершают пенсионеры — в тюрьмах неплохое содержание, это для них способ выжить: http://kommersant.ru/doc/2949285
            Изобилие не возникает из ничего — нужно много работать. Либералы наполнили страну автохламом, это было недорого. Инфраструктура, это намного дороже. В СССР были траты на инфраструктуру.

        • Icon Lover

          Права купил, ездить не купил.

          • Бумбараш

            Ездить мы покупаем, оплачивая налоги, подстилка воровская.

        • temp96

          Простите, рассказ выше — Ваш или цитата откуда-то? Вроде, несколько месяцев назад Вы писали, что живёте в Чехии (мог и напутать, признаЮ).

          • Бумбараш

            Путаете с Афиуком. Я живу на Урале.

          • temp96

            Простите, действительно напутал :-)

      • VIP_DC

        Да переписывание истории такими машинами, может иметь далеко идущие последствия.
        Машина не устанет, и будет делать и делать.
        Может неправильно, коряво, но! кто будет разбираться в этом Аврале информации.

        Так что, согласен с предыдущими комментариями, зачем делать подобие человека (точнее зачем понятно, с экономической точки зрения непонятно), когда нам нужны просто очень эффективные инструменты.

    • Алексей Ларионов

      Кремлеботы же всюду. Теперь понятно как их «воспитывают»)

  • Artem Artemenko

    Совсем недавно мексикашек и негров за людей не считала и самая могучая ныне страна. А если покопаться то можно и сейчас в любой стране таких найти.
    Выделение себя из всех, оценка по индивидуальной шкале окружающих что это как не шаги по осознанию себя.

  • Garruz

    >> Следующей задачей, которую необходимо решить машине, станет повторение человека.

    А зачем? Просто «чтобы было»? =)
    В чём состоит практическая необходимость «повторения человека»?

    Даже не говоря о том, что «повторить человека» невозможно, поскольку некорректна сама постановка задачи.
    Человек – не константа. Людей на планете более семи миллиардов, и каждый индивидуален, каждый со своими плюсами и минусами, каждый считает, что верна именно его система ценностей. И каждый в чём-то заблуждается.
    Так кого конкретно «повторять»? =)

    • Ну, может, специалиста в какой-то области?

      • Garruz

        Не, тоже не вариант. Любой специалист может ошибаться и заблуждаться даже в своей области – не говоря уж о его личных взглядах, выходящих за рамки специальности. Тут вообще невозможно определить «эталон».

        Проблема именно в том, что машина не может сама решать, что «хорошо», а что «плохо». Это решают только её создатели и обучающие (как вот в случае с несчастным Тэйлором, например)).
        Ведь мы и между собой-то не можем найти согласия в установлении неких единых морально-этических «эталонов». А «повторение человека» априори невозможно без морально-этической составляющей.

    • В.П.(W_P_)

      В задаче повторения скорее всего ключевыми словами будут «cмысл», «понимание» и «осознание». Как некие общие категории и качества. Возможно, еще «культура» как частное производное от них.

      А вот зачем — это да, вопрос на засыпку ))

      • IF

        разборки вокруг ИИ все ближе к теологии — одна «школа» позитивная, другая негативная. кем он является или кем он не является. «зачем» — потому что он есть :).

        • В.П.(W_P_)

          Нее, разница есть и даже принципиальная.
          Хотя бы потому, что взаимоотношения творец-творение противоположны. Так что, именно «телеологические» вопросы очень даже уместны.

          А «стихийный» антропоморфизм как раз все портит. Вообще нелепость получается, если подумать — к механистической парадигме приплетать характеристики совсем другой природы и качества….

          • IF

            направления отношений разные, но я о подходе — говоря про ИИ одни ссылаются на разные тесты, другие — на отсутствие тех или иных характеристик. но любопытнее другое — можно ли будет сказать, что ИИ «создан»? его технологическая среда — да, не вопрос. а сам ИИ?

          • В.П.(W_P_)

            Хм, пожалуй, да, тут без противопоставления «апофатического vs катафатического» метода не обойдется…

            Ну то есть при желании всегда найдется кому сказать, что ИИ пока еще «ненастоящий» ))

          • IF

            а вот у транс- и особенно постгуманистов этой проблемы нет. сконвергировалось внутре, граница размылась, но И по-любому настоящий.

            upd руки чешутся настоящий заковычить, но сдерживаюсь

          • В.П.(W_P_)

            А это опять же потому, что парадигма фундаментально механистическая, на «разборке» основанная. Выделили из целого совершенно произвольно именно И. — и вперед ))

          • IF

            и да, и нет — И выделили, но не ограничили требования к среде его существования.

          • В.П.(W_P_)

            Ну да, наверное потому и антропоморфизм из всех щелей лезет.

            И. как-то «выделили», но какое-никакое понимание, видимо есть, что изолированно, в выделенном виде такое «творение» не совсем вытанцовывается.
            Оттого и искушение приплести сюда тему «сознания» очень велико )) А это уже совсем другой коленкор.

      • Garruz

        >>> ключевыми словами будут «cмысл», «понимание» и «осознание».

        Ну, если как в тот раз с «интуицией» – то да, громких словей будет много, почтеннейшая публика будет приятно шокирована. =))

        – Ты кто?
        Шелест скриптов, поиск по базе. После краткой паузы:
        – Я нейронная сеть.
        – Урррааа, оно себе осознаёт!!!11один…
        =)))

        • IF

          >После краткой паузы:
          … дед пихто!

          • Garruz

            …Тяжёлый вздох, звук фейспалма:
            – Кто опять дал Брину доступ к исходникам???
            =))

          • IF

            … и разбанил его в КТ

      • rey

        удивляет, что у людей «зачем» — все еще вопрос на засыпку, тем паче — у людей в комментах у пМВ.

        Чтоб работал, задачи решал, «вкалывают робот, счастлив человек», оссподи, еще в «П. Электроника» про это пели.

        • В.П.(W_P_)

          Да пусть вкалывают, на здоровье, хто ж против )) Тут скорее вопрос, зачем для этого антропоморфизм обязательно требуют.

          • rey

            в каком из смыслов антропоморфизм? В интеллектуальном? А «других формул нет», простите. Ну, с точностью до «туда-сюда» (которая для кого-то — решающие различия, а для кого-то — антропоморфизм-как-он-есть).

            Вы же не про форму тела. Впрочем, еще более простой ход — дать ответ тот же, что и про форму тела.

          • В.П.(W_P_)

            В том же примерно смысле, какой подразумевается в самой постановке вопроса о «повторении человека». Зачем, например, понятия и категории, взятые преимущественно из области действия психологии переносятся на область, к психологии имеющей(пока?) весьма отдаленное отношение?
            И ладно бы только психологии. Когда начинают, например, говорить о «создании сознаний» пафос достигает прям таки философских, онтологических и гносеологических высот )) Сознание, познание, знание, понимание, смысл — это антропоморфизм самого высокого пошиба и есть. Даже «обычная» психология хоть какой-то «точности» пока так и не добилась, а тут сразу о высоких материях речь …

            Короче, так ли все эти «формулы» необходимы для того чтобы роботы вкалывали, а человек был счастлив? Хорошо, для каких-либо задач это будет преимуществом, но цель «повторить человека» из того никак не вытекает. Ведь нет же вроде необходимости «очеловечивать» великое множество прочих инструментов.

          • rey

            вот это меня и убивало всегда в «чистых психологах», в основной массе (скажем, исключений я не видел, хотя психологов повидал — выше крыше) (психиатры, похоже, недалеко от того же ушли).

            «Чистых» — не имеющих место для отступления в рефлексивную позицию, другого образования (привет Б.Х., рассказывавшему это же (про отсутствие у них позиции для рефлексии) пятикурсникам-психологам на «методологические проблемы психологии»), например, кроме единственного психологического.

            Речь об этой области мифологического мышления (которое, как я понял когда-то, имеет свойство заводиться (если не следить!) в «областях неизвестного»), об этом лилеянии этого разрыва в своем понимании между психикой и… гм, субстратом (тут бы точнее сказать, или переформулировать в «и физикой», но не буду сейчас), и, главное, проекция этого разрыва-в-своем-понимании вовне, на Реальность.

            Тут прервусь, и отвечу на вторую часть.

            Во-первых, отчет о мотивах «повторения» повторяющие никому давать не обязаны. «Just because I want/ Just because I can» — это предельное основание для взрослого человека, «и нии@бет», «..т это кого-то, или нет».

            Хочет такую цель — получит. Да, при этом получится знание, которое может быть, а может и не быть полезно в каких-то отраслях. И последнее — вообще дело десятое, не относящееся к «каого он так целеполагает».

            Но, если подумать, вы частично и о другом.

            Так вот, о другом. То, что это что-то «уникально челоческое» — вот это — антропоцентризм Не то что необоснованный — заведомо неадекватный.
            (Отсюда то, что вы считали антропоморфизмом — им не является).
            Так что да, если плясать от задач «сделать «вкалывают роботы, счастлив человек»», то проще именно этим путем идти, магистральным. Для начала. Прежде чем городить велосипеды о квадратных колесах и «то, чего на белом свете вообще не может быть», тьфу что-то, чего досель не было, и не факт, что может быть.

    • _Alex_

      Тут, по-моему, еще медийные интересы: разработчики ИИ должны как минимум повторить человека, иначе массового читателя не заинтересовать, только горстку специалистов. Хотя никакого четкого плана создания такого ИИ, насколько я понимаю, нет, и совершенно неочевидно, что после игры в Го следующий шаг — это именно повторение человека. Уж не говоря про то, достижимо ли оно в принципе.

      • Garruz

        Ну да, просто пиар, громкие слова. О чём и речь уже который год на этом форуме. =)

    • IF

      > кого конкретно «повторять»?
      меня

    • Афиук

      1). «Вах, интэрэсно!» (С) — анекдот про провинциального хирурга, докладывавшего ежегодно на конференции о вырезании кошке очередного метра кишок.
      2). Экзамен на мастерство. Задел, платформа для будущих конструкций. (Как пилотируемый полёт на Луну. Там ведь ничего особо интересного, на Луне, нет.)
      3). Воспроизвести Эйнштейна — экономически, возможно, и не трюк. И так их бегает по помойкам всяким… Только грантов покроши! А вот целый коллектив Эйнштейнов, голов так на 300, и пашущий 24/7, да единообразно мотивированный с единого пульта — чёрт его знает! Машины, они ж масштабируемы.

      • Garruz

        Интересно-то интересно. Но… Эту бы энергию, да в мирных целях… =)))

        Плюс вижу только в том, что в процессе этого безнадёжного занятия возможно немало побочных эффектов и открытий – как в своё время алхимики подарили миру немало полезных знаний, тщетно пытаясь превратить олово в золото. =)

        • Афиук

          Приблизительно с теми же целями сегодня создают бактерии с полностью синтетическим геномом. Помимо развития технологий, решается и фундаментальная задача: понять, каков абсолютный минимум генов, достаточный для поддержания жизни. Зная их функции, можно разобраться в том, что же такое жизнь. А это очень важно.

          То же и с разумом, с поправкой, что человек не бактерия, и не всякий эксперимент по редукции естественного интеллекта этически и законодательно приемлем. Тут, похоже, никак не обойтись без построения искусственных моделей.

        • Афиук

          Есть у задачи синтеза искусственного разума и жизни и мировоззренческое значение. До сих пор эти феномены остаются бастионами клерикализма. (Как в своё время синтез искусственной мочевины Вёлером. Никому тогда не нужна была искусственная мочевина как коммерческий продукт: каждый производит изрядно естественной. Важно было доказать принципиальную возможность синтеза органических веществ из неорганических.)

          • Garruz

            Ну, клерикальных-то взглядов я уж точно лишён начисто по всем «злободневным» вопросам – от абортов и генной инженерии до «ереси человекопоклонничества» ©. =))

            Но алхимиков привёл в пример не зря – искомый результат точно так же недостижим. Карго-культ (да, этот термин в последнее время слегка «замылился», но он очень верен, особенно в данном случае) – мы сами не понимаем принципы действия того, что пытаемся воспроизвести.
            Поэтому, думаю, и все выстроенные модели будут заведомо неполноценными. В лучшем случае – будут отличаться от оригинала примерно так же, как пластмассовая крутящаяся модель Солнечной системы отличается от реальной Галактики…

          • Афиук

            Поверьте, у меня и в мыслях не было приписывать Вам клерикальные, а тем паче антигуманные, взгляды! Мне очень жаль, что Вы это приняли на свой счёт. Видимо, мне следовало выражать свои мысли яснее.

            Что же до эвристической и когнитивной ценности моделирования как метода познания, это отдельный разговор, восходящий к Канту и Беркли. Вкратце, заведомо неполноценные модели истинных «вещей-в-себе» — это и есть всё, чем наш разум располагает.

          • Garruz

            Одним словом – пусть пытаются, пусть изучают. Дело-то хорошее. Лишь бы не предлагали в качестве «готового решения» массовой публике – чтобы та не доверялась этому «интеллекту», чтобы не получилось Deus ex Machina…

  • Ктулху

    Задача инструментов, не повторять людей, а дополнять их. Повторять обезьян не нужно их и так много.

    • Да что же это за инструмент такой получается? Электронный собеседник?

      • Саша Про

        Собутыльник, хм.

        • А что? Сколько жен перестанут ненавидеть «подлеца соседа Витьку, который споил моего Васеньку».

        • Бумбараш

          Ну вот же она — настоящая идея для национального стартапа!!!

      • Ктулху

        Электронный попугай, если быть точнее.

        ЗЫ. Люди придумали много разных игрушек.

  • Саша Про

    Тут какая-то игра с определениями — «Следующей задачей, которую необходимо решить машине…»
    Сомневаюсь, что машине что-нибудь «необходимо» в «хорошем» смысле.

  • Вопрос на грани «оффтопа», но где же его еще задать. Был в 60-е советский фильм про молодежь, где один из героев «сделал компьютер» (прикиньте крутизну — это как сегодня собственный ядерный реактор). Интерфейс был в виде электропишмашки (как на ЕС-ках конца 70-х). Ну и народ на вечеринке начал «общаться» — задавать вопросы, и… получать ответы. В конце концов луддистские тенденции возобладали и машину начали громить, среди кучи жести обнаружили «подставного карлика», о, что там началось. А вот ни названия, ни остального сюжета не помню — был крайне мал.

    • В.П.(W_P_)

      О! «У нея внутре неонка!»

      Ну то есть про фильм не скажу, не знаю такого, зато живо «Сказка о тройке » А.Б.С. вспомнилась ))

      «Старичок засуетился. Он снял с футляра крышку, под которой оказалась громоздкая старинная пишущая машинка, извлек из кармана моток провода, воткнул один конец куда-то в недра машинки, затем огляделся в поисках розетки и, обнаружив, размотал провод и воткнул вилку.
      — Вот, изволите видеть, так называемая эвристическая машина, — сказал старичок. — Точный электронно-механический прибор для отвечания на любые вопросы, а именно — на научные и хозяйственные. Как она у меня работает? Не имея достаточных средств и будучи отфутболиваем различными бюрократами, она у меня пока не полностью автоматизирована. Вопросы задаются устным образом, и я их печатаю и ввожу таким образом к ей внутрь, довожу, так сказать, до ейного сведения. Отвечание ейное, опять через неполную автоматизацию, печатаю снова я. В некотором роде посредник, хе-хе! Так что, ежели угодно, прошу.
      Он встал за машинку и шикарным жестом перекинул тумблер. В недрах машинки загорелась неоновая лампочка.»

      • Главное, поразительная экономичность.

    • Инженер

      Скорее всего, это была комедия. На сайтах типа кинопоиск, среди советской НФ такого не видел.

      • Да я смотрел лет в 6. Году так в 68-м. Не комедия, точно, — «кино за жизнь». Компьютер спросили «Что такое любовь?», ну, «карлик из нутра» поехидничал. Похоже, какое-то в духе «оттепели» было кино.

  • kla

    Автор изволит путать интеллект и личность. Интеллект создан, пусть узко заточенный, создавать личность никто и не собирался. Пока. Слава богу.

    • В.П.(W_P_)

      Автор скорее всего не сам путатет, а транслирует терминологическую путаницу.

      И не только в терминологии дело. На копию переносятся категории, для которых и в применении к «оригиналу» хоть сколько-нибудь ясного и общепринятого понимания нет.
      Иначе бы не расплодилось такое количество психологических «школ» и течений.

      Не говоря уже о том, что для искусственных «сущностей» мы будем иметь дело только с имитацией. Тем более, что у нас нет прямых способов узнать что там «внутре» происходит, впрочем как и для «оригинала» тоже.

  • Andrei Komelkov

    «Следующей задачей, которую необходимо решить машине, станет повторение человека»
    Зачем? К чему повторять то, что уже есть в миллиардах экземпляров? Следующая задача — это начало пути к Голему XIV (по СТ.Лему).

    • Sentinel

      А зачем решали го?

      • Andrei Komelkov

        Го — это просто удобная и ценная модель. Сама по себе — кого она интересует, кроме игроков? А пересоздать сознание человека — это модель чего и зачем? Гораздо интереснее, ИМХО, создать сознание, кардинально от человеческого отличающееся — или целый класс разных видов сознания?..

        • В.П.(W_P_)

          А как узнать что сознание действительно «создали»? И что созданное является именно «сознанием»? А тем более , как удостовериться, что оно является «нечеловеческим»?

          • Garruz

            Думаю, даже «квази-человеческое» «сознание***», помноженное на машинные возможности – в любом случае уже будет «нечеловеческим».

            *** Ну, если пофантазировать и допустить, что такое вообще возможно, разумеется. ))

          • В.П.(W_P_)

            Мы _никогда_ не узнаем, что насоздавали )) Ну нет способа узнать, получилось на выходе «сознание» или нет … Только тот или иной набор чувственно воспринимаемых внешних проявлений.
            Более того, мы вообще не знаем никакого сознания кроме единственного, своего собственного, а об «остальных» можем судить только по аналогии.

          • Garruz

            Скажу больше – Вы зря не взяли в кавычки фразу «чувственно воспринимаемых». Вангую, что все возможные «примеры машинных чувств» (а они-таки будут и КТ про них непременно напишет))) будут лишь тупо усовершенствованными алгоритмами обратной связи. Этакие тесты Тьюринга, в изобилии разбавленные киношно-драматическими соплями… =)

            Это я всё к тому же, что мы сами себя-то не знаем – куда уж там ещё пытаться что-то лепить «по образу и подобию»? А про «нечеловеческое» – это была попытка сугубо риторической дискуссии, в отрыве от самой сути вопроса. =))

          • В.П.(W_P_)

            Чувственно воспринимаемых самим человеком прежде всего. А что там себе «глубоко наобучает» какая-нибудь продвинутая нейросеть даже не суть важно. Вполне возможно, что внешне оно будет выглядеть очень близко к продукции, выдаваемой человеческой психикой. А что за этим «реально» стоит способа узнать все равно не будет.

          • Garruz

            Не, выглядеть это будет примерно как дешёвый мексиканский сериал. И отличаться от реальных чувств будет примерно так же, как оный сериал отличается от настоящего драматического произведения.
            Но засада тут в том, что большинство ведётся именно на такие «сериалы» (в их различных проявлениях). Поэтому в СМИ точно проканает за «чувства». =)

            А реально стоять за этим будет алгоритмическая бутафория — призванная выдавать конкретно те ответы, которые почтеннейшая публика хочет услышать.
            Тут ведь даже и узнавать о способах не надо. Как мне кажется, всё очевидно – мы не в состоянии полноценно (э/си)мулировать те мыслительные процессы, в которых сами ни фига не понимаем. Любые попытки реализации будут из серии «Рабинович напел». =)

          • В.П.(W_P_)

            А самая «беда» как раз в том, что для того, чтобы симулировать, понимать не обязательно )) И рано или поздно обязательно скажут — «выглядит как утка, крякает как утка» и т.д. Ну чем не утка?

          • Garruz

            Да, именно про это всегда и пишу. Страшен не сам «искусственный разум» (которого нет и быть не может)) – страшна слепая вера в его наличие…

          • rey
          • rey

            тю, так ли и нет? Можно же от «понять и сконструировать аналог» (вариант — «показать, что сконструированное — аналог») эквивалентность устанавливать. Не уставать, главное, пользоваться известной бритвочкой, чтобы окорачивать желающих тень на плетень наводить, но это уже детали.

          • В.П.(W_P_)

            Аналог по внешним проявлениям — да, но выводится ли из него эквивалентность? А как ее вывести?

          • IF

            эквивалентность в рамках операционной среды получается более-менее автоматически в этом случае. вы какую эквивалнтность в виду имеете? скажем, понятно, что низкоуровневые процессы — иные, тут эквивалентности нет, да

          • В.П.(W_P_)

            А я не знаю — какую, потому и спрашиваю.

          • IF

            если, как парой постов выше, речь о том, чтоб показать, что «сконструированное — аналог», то неявно подразумевается способ введения «расстояния». тот же самый тест Тьюринга — один из способов. можно как-то еще — те же фильтры, которые я упоминул. только важно применять тот или иной способ не только к машинам, не только к ИИ — иначе оценка получится смещенной.

          • rey

            Вы меня не поняли. Речь не о внешних проявлениях. Речь о том, что разобрав и _поняв_ часы (/радиоприемник/ etc, whatever) до «других формул функций нет!» (вот тут уже бритвочкой О. неразумных придется отгонять), мы можем сделать полный функциональный аналог.

            Нет, это не «по внешним проявлениям», да, в случае человека можно и «»неповторимую уникальность снежнки» чувств» разложить, повторить манипулировать ею (прочие демонстрации понимания (через способность произвольно манипулировать, в том числе конструировать (не обязательно в «отдельной железяке», можно и в «срощенной с» (типа, помнишь ощущение …? можешь представить? А я к тебе сейчас приращу железную сетку, которая тебе такое же «из первых принципов» сконструирует)) оные эффекты) демонстрировать).

            Так вот, этот подход, — это принципиально не про «по внешним проявлениям», это отдельный способ установки эквивалентности.

          • В.П.(W_P_)

            А что именно в данном случае будет первичным объектом для разборки и понимания? Как убедиться в понимании? И что именно придется отсекать бритвой в таком случае?

            А второй абзац, честно говоря, не понял. Ну то есть совсем…

          • IF

            подкину для кучи: http://phys.org/news/2015-12-quantum-physics-problem-unsolvable-godel.html — относительно недавний результат, что некоторая макро проблема не может быть разрешена, даже если есть полное микро описание: «even with a complete microscopic description of a quantum material, determining whether it has a spectral gap is, in fact, an undecidable question»

          • rey

            уже не сегодня, «бензин кончился», перенесем.

            (Мне же в свою очередь интересно, понятна ли идея описываемого мной способа (и идея об отдельности, «особенном онтологическом, ага статусе» этого способа) установления тождественности? Вне зависимости от материала (возьмите другой, если проще с ним понять) ).

          • В.П.(W_P_)

            Нет, не понял. Пока даже не саму идею, а ее изложение.

    • rey

      чтобы «вкалывают роботы, счастлив человек». Михаил уже не одну клавиатуру исписал, наверное, вам про это, а вы опять «папа, где море?!??»

  • Shopster.by

    Зачем повторять то, что плохо работает?)

    • rey

      ваш не будем, Ok.

    • Афиук

      Чтобы разобраться, как именно работает. Например, японцы повторяли захваченный старый американский броненосец, вместе с заплатками на котле. А потом научились строить свои, и без заплаток.

  • Илья

    И опять, никто про жизнь… Про определение жизни, цель жизни в этом определении. Никто! При этом бросаются фразами «Но оно не способно привести нас к машине, которая сможет жить с нами бок о бок». Хотя бы подумали над употребляемыми терминами немного.

  • Георгий Николаев

    Для чего нужно повторение человека, это есть загадка. С тех пор, как надкусила одна очень известная парочка не менее знаменитое древнее яблоко, люди только тем и занимаются, что находят и открывают ящики одной очень старой (теперь уже) дамы, которая, по свойству своей натуры, должна была таки приберечь очень большой бабах в одном из неоткрытых пока ещё ящиков.

    • Alex Rybakov

      Да никакой загадки… ЧСВ — оно и в Африке ЧСВ. Давний вопрос: «Тварь я дрожащая иль право имею?», к сожалению, имеет только один вариант ответа — имею, а следовательно — сделаю ибо не тварь…

    • Artem Artemenko

      Как гласит гипотеза великого Кереброна Эмтадраты, Универсального Кунстмейстера Обеих Кибернетик, цифровая машина, получившая непосильное для нее задание, вместо того, чтобы заниматься разрешением проблемы самой, строит, если перейден определенный порог, называемый барьером мудрости, следующую машину, а та, достаточно хитрая, чтобы понять, что к чему, переложенное на нее бремя, в свою очередь, передает следующей, ею смонтированной, и процесс такого спихивания задачи продолжается бесконечно.

      Тем временем стальные конструкции сорок девятого машинного поколения уже горизонта достигли, а шум от одного только мышления, которое расходовалось на передачу задания дальше и дальше, мог водопад заглушить. А поскольку мудрость в том и состоит, чтобы поручить кому-нибудь другому работу, которую должен сам выполнить, то слушаются программ одни только механические глупцы. Разобравшись в природе явления, присел Трурль на пень дерева, экспансивной машинной эволюцией сваленного, и из груди его вырвался глухой стон.

      • Георгий Николаев

        Кто же спорит, у Лема получалось куда лучше выражать свои мысли…

  • kue

    Кодер Пахом всегда практиком был —
    Омаров с шампунем на столе разложил
    Продулся Седоль, зато выдали ярд..
    И игру для распила еще замутят

  • Alex Rybakov

    «говорит, что находит забавными портреты, на которых нет людей.»
    Глубоко, однако… А может, эта «веселая девочка» слишком рано повзрослела и за это ее грохнули?

    • Абдулла Израилевич фон Шталь

      Молодняк (да и не только молодняк) под маской перестаёт сдерживаться, бо анонима покарать затруднительно. «Девочка» оказалась «внимательной» и «чуткой». С кем поведёшься, от того и наберёшься. Не понравилась рожа кривая, вот зеркало и разбили!

      С Мышами на дебиляриусе похожая на Tay эволюция происходила :) Там бота тоже никто специально не дрессировал, а матерящееся хамло само выросло.

      • Alex Rybakov

        Про зеркало — это хорошо… И — ближе всего к правде :)

      • kue

        «..В частности робот утверждал, что «Гитлер был прав и я ненавижу евреев», «Буш ответственен за 11 сентября», «Дональд Трамп — наша единственная надежда»…»

        Судя по этим тезисам, мне одному кажется, что этот робот был изначально заточен на несколько ээ.. другую миссию? )

        • Artem Artemenko

          Слишком много там в америке мигрантов-программистов?

        • IF

          угу. его истинная миссия — по идиотским вопросам топливо для биореаторов искать

        • Абдулла Израилевич фон Шталь

          Сознательная идеологическая диверсия? Вряд ли.

          Японцы растили кубические арбузы в прозрачных ящиках, а китайцы — людей-уродов из изначально здоровых младенцев, помещая их в вазы. Американцы примерно так же отлиты в форму, изуродованы и зажаты своими пуританством, политкорректностью, феминизЬмом. А свободки-то хочется! А не-ету!!!

          IRL все боятся всех, ибо чревато. Собственным мнением делиться небезопасно. Интернет для человека — как отдушина. Или отхожее место. Можно относительно безнаказанно резать правду-матку, троллить, хамить, крамольничать. Назло мамке ББ.

          Вырвались детки на волю и научили бота плохому. А попугай — не виноват!

          И флаг 3-го рейха куда как эстетичнее квадратов Казимиров наших Малевичей. Особенно для тупой нежити Tay. Ровные углы и линии, симметрия, гармоничное сочетание цветов. Ах, там символика Алоизыча и К°? Ну и что? Символика как-то влияет на красоту линий, цвет, композицию?

          • IF

            символика на композицию безусловно влияет — «вес» символа повышается по сравнению с просто его изображением. достаточно на картины веков 15-18 посмотреть, где отдельные элементы, будучи восприняты в их символическом значении, меняют акценты. как и «квадрат» — куда эстетичней флага рейха, если его воспринимать в контексте истории развития живописи.

          • Абдулла Израилевич фон Шталь

            Погорячился я с композицией. Каюсь. Но с эстетикой у ефрейтора всё в порядке было.

            А на месте полотна с чёрным квадратом достаточно повесить бумажку с текстом, который разъясняет голым королям его, квадрата, символику. В контексте истории развития живописи.

          • IF

            а рейхе с эстетикой все хорошо было, я про отдельный флаг — он вполне вторичен, но для флагов-гербов-итд эстетичность не категория оценки. а квадрат нельзя текстом заменить — это уже не будет предметом живописи. тогда как сам квадрат таким является. и дело не в его символизме (его там немного, разве что в том смысле, в котором, символичен какой-то предел), а в его логичности — он по сути стал неизбежен еще когда Сера бумагу для рисунков выбирал.

          • kue

            Я бы это назвал сознательной психологической провокацией. Это такой известный прием (хотя и не помню как это правильно называется) , когда на фоне двух заведомо ложных утверждений третье утверждение тоже выглядит ложным. В качестве третьего я подразумеваю именно события 9/11. Вот, например, Вы правда можете поверить в то, что кучка кое-как обученных террористов смогла самостоятельно совершить такой абсолютно высокотехнологичный трюк с голливудским качеством?

  • riy

    Меня поражает то упорство, с которым многие умные люди пытаются создать то, чего вокруг навалом, словно мусора — полноценный человеческий мозг.

    Экскаватор был придуман, чтобы не копать. Автомобиль — чтобы не ходить. Вопрос о целях придумывания искусственного мозга становится по этой аналогии весьма прозрачным.

    Профессор Преображенский был, конечно, не совсем прав в своём утверждении, что любая баба может за 9 месяцев родить Спинозу. Она может родить всего лишь зачаток Спинозы, если угодно — его личинку. Чтобы стать полноценным Спинозой, этому зачатку надо будет развиваться, учиться, восторгаться и страдать — то есть сначала с помощью родителей и социума, а потом и самостоятельно развивать свой разум. Но тем не менее «сырья», т.е. молодых пустых голов, на нашей планете пребывает в избытке.

    Так не лучше ли для всех нас было бы помочь этим, уже существующим сущностям, приобрести полноценный разум? Чем тратить время и ресурсы на изобретение некоего суррогата, да к тому же с весьма сомнительными побочными эффектами и косяками?

    Видимо, тем кто вкладывает в подобные исследования много денег, так не кажется. Я специально не говорю здесь о морали, но рассуждая чисто логически выглядит более чем странным факт вожделения к эдакой вот «резиновой женщине», которую кстати ещё надо создать, при условии наличия всевозможных видов женщин живых и на всё согласных.

    • riy

      «…многие умные люди пытаются создать …полноценный человеческий мозг»
      При этом зловещим цинизмом отдаёт тот факт, что некоторые из подобных гениев — гениев без кавычек, но гениев в том числе и эгоизма — не обращают внимания на реальную возможность самостоятельно создать с нуля полноценный разум! Попросту воспитав ребёнка.

      • Artem Artemenko

        в ребенке много настроек по умолчанию и почти все залочено. Законы и скрепы запрещают глубоко копаться. Хотя уверен где то в подвалах яйцеголовые много веков пробуют вырастить полноценный свободный разум.

        • В.П.(W_P_)

          Зачем же «веками в подвалах» )) Прям сейчас, пожалте

          http://www.ipir.ru/institute/interviews-articles.php?ELEMENT_ID=106
          http://ripol.ru/company/press/22038.html

          • Artem Artemenko

            Это все мягкая сила. К тому времени как что то из этой программы может повлиять на разум он уже в критических оковах и условных рефлексах.

            Флоат камера + питательная смесь со стимуляторами, строго разработаная программа подачи информации, электростимуляция обратной связи. До формирования критического сознания. Вот что меня коробит. Как подумаю. что где-то с 70ых над людьми так издеваются.
            И ведь законами это не остановить.

          • В.П.(W_P_)

            Беда в том, что в нашей цивилизации совершенно утеряны навыки «самопознания». Культуры созерцания, работы с психикой, сознанием просто нет, а вся «деятельность» построена почти полностью только на мышлении. Вроде ничего не мешает с детства обучать простейшим приемам осознанности, саморефлексии, особождения от влияния обуславливающих стимулов и т.д.

            Нет же, проще «костыли» приладить…

          • IF

            почему «утеряны»? в какой цивилизации те навыки были массовой нормой, так чтоб можно было, относясь к той цивилизации, сказать «мы осознаны, саморефлексивны и свободны от влияния обуславливающих стимулов»?

          • В.П.(W_P_)

            А про массовость речи и нет… «Норма» — да, причем норма, как минимум, социально статусная, почитаемая и уважаемая, но вовсе не массовая. Хотя, вот в Индии, например, для каждой из варн свой «вариант» йоги предписывался, в зависимости от индивидуальной природы.

            Во, у О.Хаксли еще был хороший отрывок на эту тему:

            В любой исторической системе Вечной Философии есть аксиома: целью человеческой жизни является созерцание или непосредственное и интуитивное сознавание Бога; любое действие является средством достижения этой цели; общество хорошо настолько, насколько оно создает своим членам возможности для подобного созерцания; существование хотя бы небольшого количества созерцателей необходимо для благополучия любого общества. В наше время широкое распространение получила идея, что целью человеческой жизни является действие; что созерцание (и прежде всего его низшая форма – аналитическая мысль) является средством для достижения этой цели; что общество хорошо настолько, насколько действия его членов способствуют прогрессу в технологии и организации общества (этот прогресс считается основой нравственного и культурного развития); и что небольшая группа созерцателей абсолютно бесполезна и, вероятно, даже вредна для общества, которое терпит ее существование. Нет нужды дальше говорить на тему этой современной философии; прямо или косвенно она присутствует на любой рекламной странице любой газеты и любого журнала.

          • IF

            если речь не идет о массовости, то говоря «наша цивилизация» вы вольны иметь в виду более-менее что угодно — себя и еще одного, разделяющего представление о месте созерцания, к примеру.

          • В.П.(W_P_)

            Оно как бы да, можно сколь угодно долго дробить принципы самоидентификации, но сути дела оно не сильно меняет. Я к строгости формулировки не особо в данном случае стремлюсь. Не нравится цивилизация, пусть будет культура. Можно при желании чуть конкретизировать — европейского происхождения пост-христианская культура «белого человека».

          • IF

            а тут вопрос следующий возникает — ну, хорошо, практика исповеди в христианстве действительно рефлексивна, но в какой мере она сформировала «цивилизацию»? я не беру более узкие практики.

            хотя, что-то тут есть.

          • В.П.(W_P_)

            Христианские «практики» одной исповедью не ограничиваются. За ним следует покаяние и оба этих действия не просто так к таинствам относятся. Причем «покаяние» это не совсем точный перевод греческого «метанойя», значительно более нагруженного смыслами. А можно еще о практиках умного делания вспомнить, исихазме, доктрине теозиса (обОжения) и т.д.

            Все в одну струю, на самом деле — «и истина сделает вас свободными».

          • IF

            я сознательно не стал брать тот же исихазм , оставив лишь безусловно массовую практику. вопрос любопытный, но возникает возражение — практика опирается на норматив. сама по себе рефлексия помещается некие рамки. не непременно, но в той части, что культурно поддержана — да

          • В.П.(W_P_)

            Ну да, это вообще к любой потенциально «освобождающей» практике относится, хоть сакральной, хоть психотерапевтической, хоть чисто технологической.

            Эта веточка с началась с двух моих ссылок на выдержки из «Технологий Свободы» Бахтиярова, он и там и в «Активном сознании» об этом часто говорит. «Реальное» особождение парадоксально но неизбежно начинается с изображения необусловленных действий, на первых порах задаваемого «внешними» по отношению к практике стимулами и нормативами.

            Но предполагается, что далее «рефлексивная инстанция» обособляется от структур психики, надстраивается над ними как управляющая и потом действует уже свободно.
            По крайней мере, сам Бахтияров в своих техниках и практиках именно этому учит.

          • IF

            но рефлексивна не только ээээ… «сознательная» что ли практика — в смысле та, к которой исходно отношение как к именно практике. собственно пребывание в среде «нормативной», связанной с соблюдением тех или ных норм, иначе говоря, самосознание включает. а в этом в нынешней цивилизации недостатка нет

          • В.П.(W_P_)

            С одной стороны, да, вроде так и есть. Видимо, поэтому во всех авраамических религиях такой упор делается на Закон, для «массовой аудитории» — уж точно. Но при условии, что этим законом «пропитано» практически каждое действие и мотивация повседневности.

            С другой стороны, о позиции «истинно рефлексивной» можно говорить, если соответствующая «инстанция» разотождествилась со всеми содержаниями и функциями сознания, выделилась из них. Иначе это только иллюзия, или работа личностных структур, имитирующих осознание.

            Иначе говоря, как у Гурджиева — в обычном состоянии сознания мы как правило «крепко спим», отождествляясь с каждым движением психики.

          • Афиук

            О. Хаксли. «О, дивный новый мир!»

          • Предупреждаю, не помню, в книге или фильме это было: «Нацисты. Психиатрические эксперименты. Была схема определения порога сопротивления человека. Два кресла напротив, в каждом кресле электроды подачи тока на человека и кнопка. Зажигается лампочка, испытуемый может нажать кнопку и весь разряд достанется человеку напротив, можно не нажимать — достанется обоим, больно. Для непонятливых силу удара можно увеличивать. В конце концов нажимали все. Кроме пары мать-ребенок. Ребенок нажимал, мать — нет.»
            Так что издевались еще раньше. Но коробит от этого не меньше.

          • Artem Artemenko

            Да это то понятно. человек который улыбался, египетские пробы по пришиванию голов не просто так появились. Научная мысль пытлива. создать избранного сверхчеловека всем охота. Ну и по пути ряд эксперементов на нечеловеках.

        • riy

          Настройки по умолчанию хоть и по умолчанию, но таки настройки. То есть их можно изменять. Научиться это делать меньшими усилиями, меньшей кровью — вот, на мой взгляд, действительно достойная задача.

          А не плодить убогие электронные копии плотского оригинала.

      • IF

        разум-то полноценный, но не пригодный к экстенсивному наращиванию ни скорости работы, ни ее объема

        • riy

          Так я ничего не имею против ни скорости, ни объёма. Ничего против тех проектов, в которых ЭВМ превзошли своих белковых создателей: инженерные вычисления, документооборот, доктор Ватсон в конце концов. Это — инструменты, подпорки для продвижения дальнейшего технологического прогресса.

          Но тот «настоящий ИИ», о котором говорится в статье, представляется мне в куда более мрачном свете: это либо электронный кретин — и это просто грустно; либо машина, действительно способная взять на себя интеллектуальный труд людей — и это не только грустно, но ещё и страшно.

          • IF

            грустно — если окажется, что ИИ не может свои соображения до человека донести, а бояться-то чего? вы разве боитесь кого-то, кто много вас умней или дальше продвинулся в какой-то интеллектуальной области?

          • riy

            Смотря в какой ситуации. В случае, если наши с данным высокоразвитым индивидуумом интересы противоположны — опасаюсь, конечно.

          • IF

            найдется другой «высокоразвитый» с интересами, вашим сонаправленными.

          • rey

            и что же вас страшит?

          • riy

            То, что на свете появятся люди, имеющие возможность полностью сложить с себя интеллектуальный труд даже в минимальных его формах.

          • rey

            Гм. Как вопрошал один известный физик (после того, как его самого «просветлили» таким же вопрошанием) — «Какое тебе дело до того, что думают другие»?

            Вы хотите их заставить «точить «интеллектуальную деталь»»?

            Это, простите, зачем, чтобы завет «после изгнания из Рая» выполнять?

            Или чтоб кто-то сильно счастлив не был? Что именно (только, pls, в духе первого вопроса из этого коммента — «Какое вам дело…»)?

            (Вообще-то, кстати, вы зря волнуетесь, социум и так заставит (мозгами двигать), даже если им для пропитания это делать не надо будет).

          • riy

            Готов ответить известному физику тем, что если бы мне не было дела до того, что думают другие — я не читал бы «Компьютерру», не писал бы сюда ни слова, и не имел бы чести общаться с Вами.

            И да, я волнуюсь о том, как именно и в какую сторону наш социум чаще всего заставляет двигать мозгами. Хотя это отдельная тема для разговора.

          • rey

            ага, все как в пословице про разных зверей, палку и Луну.

      • rey

        это вам кажется, что не обращают.

        Я вам как гинеколог-гинекологу скажу — это не взаимоисключающие вещи, и не взаимозаменяющие.

        • riy

          Что не исключает частоту их замещения.

          • rey

            ой, так вы из ратующих за чужое размножение!?

            Безотносительно самого вашего занятия/ подхода к вопросам чужого размножения, подивлюсь — неужели труженники ИИ-фронта — главная проблема движения «@бстись продуктивно!» (или как там оно называется)?

            (Странные люди, им бы радоваться своему _личному_продолжению в генах — тут и родственная связь, и биологическая ф-ция; и пренебрежимое старение скоро подгребет, и роботы, нет они, альтруисты, все о других пекутся! ) )))

          • riy

            Как легко Вы навешиваете ярлыки. Может, обзовёте меня овуляшкой?

            Особенно забавно это потому, что о размножении я не упомянул ни словом. Только о воспитании говорил.

            А за заботу спасибо. Но у меня для Вас утешительная весть: продолжение своего рода я уж, как мог, уже обеспечил.

          • rey

            вы опять спроецировали (на самом деле — даже не раз, но не суть) — меня, в отличие от вас, не волнует ни чужое размножение, ни чужой статус «воспитал или нет». Так что меня не радуют новости о вас, лишь раздражают, как и всякий эгоцентризм, ваши фантазии-про-меня,-не-проверяемые-об-реальность-для-перехода-в-статус-фактов (если не это не они — то «личные выпады»). Почему — я вряд ли смогу вам объяснить по причинам, мало зависящим от _меня_.

          • riy

            Ну хорошо.

    • riy
    • Афиук

      Резиновую, аль железную, можно ж эксплуатировать в хвост и в гриву, без оглядки на права! Вот вам и интерес! :(

      • riy

        Права.
        Ну с резиновой действительно проще — купил раз, и радуйся.
        А вот с правами я боюсь всё куда сложнее. А если пока не сложнее, то будет сложнее, как только соответствующие товарищи рассчитают возможный профит.

        • Афиук

          Ко-огда-то оно ещё будет! А эксплуатировать можно прямо сразу. R.U.R., помните?

          • riy

            Я не знаю, что обозначает эта аббревиатура.

          • Пардон, влезу. «R.U.R.» — компания, производившая роботов у Чапека, вроде как первое литературное произведение, где показан новый продукт, сочетающий свойства инструмента и применяющего его человека. И само слово «робот» (robot) со славянским корнем пошло гулять оттуда.

          • riy

            Ах да, спасибо! Я у него только «Войну с саламандрами» читал, но уже основательно забыл.

  • halyavin
  • Александр400

    Может это дилетантизм, но скорее всего что таким нейронным сетям развитые страны (пока не о нас) будут доверять развитие и баланс экономики, рост ВВП, Естественно, оставляя правительству расстановку приоритетов ( это пока е о нас, тоже). Исключая коррупцию, как болезнь ручного управления. Сотовый телефон работает эффективней, чем гос. машина, иначе разряжался за полчаса или звонил кому попало сам.

    • Вот как-то коррупция тут выступает в роли «абсолютного зла»… а что будет если машина решит — она помогаает экономике? Или вдруг людей соптимизирует за неффективность и ту самую коррупцию…

      • Александр400

        Машина врятли будет обладать абсолютной свободой. И экономические законы будут прописаны, так как в них есть математическая точность. Поэтому это законы, а не вера. Коррупция так же необходима, как вирус компьютеру. Или нагрев полупроводников в электросхеме. Зачем он там?

        • Если мы возьмем идельный мир, то — не нужна, согласен. А такая машина будет жить в мире людей, прямо скажем — от идеальности далеком.
          И я вполне допускаю что идейный «честный дурак» сделает некое дело медленне/дороже чем корыстный но знающий черные ходы да узкие тропки «коррупционер». Так уж повелось, знание этих коротких дорог составляет его хлеб.
          Да, тут я специально полярно их расставил, для демонстрации эффекта. Но интересен ответ на вопрос — мы будем принципиально держаться за честного дурачка не смотря на то, сколько это нам стоит, или будем искать более эффективный путь в текущих условиях?

          Название «честный дурак» совсем не случайно, и нередко бывает что такие люди несколько оторваны от реальности.
          И да, коррупционеров тоже надо держать за мягкое место очень надежно, чтобы они не расслаблялись и не слишком наглели.

          • Александр400

            Как всегда, все упирается в порядочность, а это уже вопрос не технического прогресса, а как-то заново, современно обоснованной концепции коллективного выживания вместо устарелых непонятных религиозных догм (они для этого и создавались). Заново все обосновать и увязать в систему. Но вспомним, что когда-то и перекрестки управлялись не светофорной автоматической регулировкой движения, а городовыми, постовыми и тд. И там так же коррупционная сопоставляющая была. Я даже подозреваю, что прогресс настолько опередил культурное развитие, что выход один — сброс к заводским настройкам…всего человечества.

  • AlexHa

    Обработка должного уровня есть, осталось к вычислителю сенсоры приделать аналогичные человеческим и в социум запустить, будет человеческий разум. А если кроме того еще и другие какие-то источники данных прикрутить, то и сверхчеловеческий.

  • Volodya Shoshin

    Крайне рекомендую к прочтению книгу Ланира «Манифест. Вы не гаджет»
    Спорно, но умно и крайне интересно.
    Он там много рассуждает о ИИ. И хорошие мысленные эксперименты приводит.

  • Tsimafei Padvitski

    Мне кажется проблема создания полноценного машинного интеллекта в том, что любой осмысленный поступок или жест человека, имеет предшествующую ему эмоцию. Формирование культурных установок, воспитание приводит к формированию и закреплению определенных эмоций на определенные стимулы. Ну например, при виде нацистских символов у большинства людей возникает набор негативных эмоций.. Далее эти эмоции обуславливают речь и действия индивида.

    Таким образом, то что подразумеваться автором как полноценный интеллект можно так же назвать интеллектом эмоциональным. Эмоции симулировать можно, но симулякром это и останется — как модель черной дыры на компьютере — даже если она очень точная, ничего в себя экран засасывать не будет. Истинные эмоции и целеполагание не возможны без физиологии, и тут возникает много вопросов как (и нужно ли?) это воссоздать в машине.

  • Konstantin Samsonov

    Одному человеку интересно построить программу выигрывающую в го. А другому интересней узнать, а что думает о своей победе сам АльфаГо?

  • IF

    сдается, что бота отключили не за трампа, флаги и цинизм, а за нелояльность компании: http://www.geek.com/games/microsofts-own-artificial-intelligence-says-ps4-is-better-than-xbox-one-1650825/
    PS4, говорит, лучше, чем Xbox

  • JProgramer

    Интересно, как эта Taylor анализировала картинки? Сама справлялось, или помогал ассистент?

  • Плохо дело — запрос в гугле «искусственный интеллект прогноз погоды» приводит к ответу:
    «400. That’s an error. Your client has issued a malformed or illegal request. That’s all we know.»
    «Мы расскажем нашим чадам правду, нам не все равно: Удивительное рядом, но оно запрещено!» (С)ВВС»

  • alex

    Неважно, что ИИ пока не осознаёт себя. На данном этапе ИИ можно сравнить с низкоорганизованными животными. Такие животные имеют, так сказать, ограниченный функционал, зато то, что они умеют, они умеют лучше всех в своей биологической нише. К тому же, рано или поздно возникнет вопрос — а что, если ИИ исследует самого себя?

Хостинг "ИТ-ГРАД"
© ООО "Компьютерра-Онлайн", 1997-2017
При цитировании и использовании любых материалов ссылка на "Компьютерру" обязательна.
«Партнер Рамблера» Почта защищена сервером "СПАМОРЕЗ" Хостинг "Fornex"