Го пала

Умные машины
автор: Евгений Золотов  14 марта 2016

С замирающим сердцем слежу я за поединком в го между корейцем Ли Седолем и компьютерной программой под названием AlphaGo. Матч ещё не завершён, сыграны лишь три партии из пяти, но хладнокровие, жестокость, какая-то особенная механическая дерзость, с которой машина разделалась с человеком в каждой из трёх проведённых, наводят (и не только меня!) на мысли грустные и даже страшные…

Если вы ещё не знакомы с го — что странно при том внимании, которое уделяется ей айтишным сообществом в последние годы — то вот короткий экскурс. Это одна из древнейших игр, в которые играет человек. Ей четыре тысячи лет, плюс-минус, придумана она в Древнем Китае и по сути своей очень проста. Есть разграфлённое на клетки поле, чёрные и белые камни, плюс правила, которые можно буквально сосчитать на пальцах одной руки. С точки зрения человека это такая же игра, как шахматы, шашки, и вообще любая другая сопоставимой комбинаторной сложности. Это не значит, конечно, что сильный шахматист будет так же силён и в го. Но это значит, что мыслят игроки примерно одинаково: возможных сценариев слишком много, приходится опираться на интуицию.

Ли Седоль в центре. Слева — Демис Хассабис: сильный шахматист, соавтор ИИ-ядер в нескольких легендарных играх (Black & White, Theme Park), доктор наук и один из основателей британской компании DeepMind, которая и написала AlphaGo (и поглощена Google).

Ли Седоль в центре. Слева — Демис Хассабис: сильный шахматист, соавтор ИИ-ядер в нескольких легендарных играх (Black & White, Theme Park), доктор наук и один из основателей британской компании DeepMind, которая и написала AlphaGo (и поглощена Google).

А вот с точки зрения электронно-вычислительной машины, го — особый случай. В подавляющем большинстве прочих игр количество возможных ходов хоть и велико, но в принципе поддаётся механическому перебору. Грубо говоря, можно заставить машину просчитать, как скажется ход А на исходе игры Б: вычислить дерево вероятных следующих позиций, влияние их на величину функции f, которая тем больше, чем более вероятна победа.

В шахматах число комбинаций огромно (10^118, что превосходит количество атомов во Вселенной; см. число Шеннона), однако, наложением элементарных фильтров — вроде исключения запрещённых ходов, исключения невозможных положений фигур на доске и пр. — его можно сильно уменьшить. Что по сути и делают разработчики шахматных программ до сих пор: именно так Deep Blue одолел Гарри Каспарова в 1997-м.

Го — другая история. Число возможных сценариев здесь превосходит все прочие игры и оценивается для доски 19×19 полей в 10^761. Да, применением правил его тоже возможно радикально сократить, но к такому огромному вероятностному пространству применить правила ещё нужно суметь! И потом, в го, в отличие от других, трудно оценить влияние конкретного хода на исход игры. Так что в общем и целом вплоть до последнего времени го считалась недосягаемой для «решения в лоб», т.е. методом перебора вариантов. Считается она таковой и сейчас. Команда Google пошла иным путём.

140316-3

Есть несколько хороших публикаций, в которых создатели AlphaGo объясняют схему своего автомата: вот подробная, но сложная, статья в Nature, вот популярное, но поверхностное объяснение в блоге Google. Если коротко, была построена многослойная (дюжина слоёв) искусственная нейросеть из двух блоков, работающая на облачном суперкомпьютере (в настоящий момент задействованы больше тысячи CPU и на порядок меньше GPU). Блок первый предлагает ход, блок второй оценивает вероятное его влияние на результат партии.

Тренировали AlphaGo сперва на игре с живым соперником и записях состоявшихся игр, а после заставили машину играть против самой себя — чтобы она не просто имитировала человека, а и сама изобретала стратегии. Потом AlphaGo показал свою мощь, одолев всех существующих электронных соперников. Потом, прошлой осенью, победил в закрытом чемпионате многократного европейского чемпиона. А теперь разделал под орех одного из сильнейших годзистов мира…

«Придумать стратегию» в данном случае не преувеличение и не фигура речи. Дело в том, что как и всякую машину, преодолевшую некоторый воображаемый порог сложности, мы более не в силах понять, как именно AlphaGo работает — не в силах описать это, пользуясь языком математики. Сами создатели AlphaGo в интервью называют то, что делает их машина, интуицией. Да, конечно, они знают, что это лишь результат работы двух конкурентных многослойных нейросетей. Но описать как именно генерируется тот или иной ход, а тем более предсказать, как сходит машина в произвольной ситуации, даже её создатели уже не могут!

Остановитесь здесь, задумайтесь. Человек более не в силах предсказать, как поведёт себя построенная им машина! А вживую насладиться эффектом можно на записях матча: оцените замешательство экспертов (сильнейших игроков!), в которое повергают их некоторые ходы AlphaGo. Люди сперва просто не понимают, для чего, почему был сделан ход — и только позже, крепко поразмыслив, признают, что это было умно, дальновидно, дерзко, агрессивно.

140316-2

И вот тут новым светом начинает играть фраза, оброненная как-то Стивеном Хокингом. Он, входящий в число знаменитостей, призывающих опасаться появления слишком умных машин, сказал год назад, что «…машины подчинят нас оружием, которое мы не в силах будем даже понять».

Нет, AlphaGo — пока всего лишь автомат для игры. Это не система широкого профиля. Но люди, которые её построили, работают над множеством других проектов Google и надеются уже в следующие пять лет вывести их на рынок: машины, обладающие интуицией, станут трудиться бок о бок с нами уже в ближайшие пять лет! Хорошо, если мы сможем их ограничить, контролировать: пусть они помогают, например, учёным обрабатывать сырые данные, чтобы ускорить научный поиск. Но в том и парадокс, что контролировать то, чего не понимаем, мы не сможем.

Желаете посмотреть, как меняет осознание этого факта человека? Понаблюдайте за Ли Седолем. Он был абсолютно уверен в своей победе до матча, поколеблен странной игрой машины после первого сражения, расстроен после второго и, кажется, совсем утратил веру в свою способность сопротивляться после третьего.

Да, четвёртую партию, состоявшуюся сегодня ночью, он выиграл. На то и игра! Но меняет ли это что-нибудь?

Поделиться
Поделиться
Tweet
Google
 
Читайте также
Интуиция? Есть! Машина посягает на творческие профессии
Интуиция? Есть! Машина посягает на творческие профессии
Как компьютер расправился с покером и почему это ничего не меняет
Как компьютер расправился с покером и почему это ничего не меняет
Кровавая заря неолуддизма
Кровавая заря неолуддизма
  • rey

    «Ли Седоль в центре. Слева — Демис Хассабис»

    — а справа что за хлыщ к ним примазался? Судя по описанию фото автор его за достойного упоминания не считает, как я понимаю. )

    • Sentinel

      Я предполагаю, что его светлый лик висит в доме каждого читателя КТ ;-)

      • Doctor Y. Doodle

        Голубицкий отрастил бороду!?

        • Юрий В.

          И помолодел до Брина, ага.

          • Doctor Y. Doodle

            Йога и ахимса творят истинные чудеса!

        • arseny

          Да уж, и заодно уменьшился до размеров среднего корейца.

          • Doctor Y. Doodle

            А это вегетарианство.

  • Artem Artemenko

    По идее, машине всего то надо предсказать человека. И она будет побеждать во всех играх.

    • Sentinel

      Это, кстати, заблуждение — и очень масштабное :-) Есть игры, в которые играет человек, но в которых попытка предсказывать — кратчайшая дорога к проигрышу. Например, биржевая спекуляция.
      Важно не побеждать, а не проигрывать. Или, точнее, уметь проигрывать так, чтобы можно было попытаться снова и снова. Ну и это уже прямой выход на опциональность… ;-)
      http://www.computerra.ru/124622/stochastic-life/

      • Artem Artemenko

        Что мешает предсказать поведение толпы и получить прибыль. Весь смысл не предсказывать колебания рынка, а предсказывать поведение игроков. Технический анализ реагирует на свершившийся факт, фундаментальный на потенциальный рост, ии может получая данные от большого брата. коррелировать хоть от количества народу в банках, хоть от списка покупок в супермаркетах, предсказывать покупку до первых покупок. И строить свой технически анализ до проявления симптомов на рынке и в новостях. Аннулируя все потуги удачливых белковых открываясь до и закрываясь после.

        • Sentinel

          Тут проблема в том, что все мыслимые реакции рынка на события УЖЕ в цене бумаги учтены. Т.е., попросту, будущее непредсказуемо. А предсказывать поведение игроков можно только если они пытаются будущее предсказать. Ну и далее по кругу :-)
          Принять это труднее чем понять, вам нечего стыдиться :-) Я на это десять лет потратил.

          • IF

            нет. реакции рынка не однородны и зависят от горизонта игроков. поэтому на каждом отдельном горизонте есть возможность игры на реакции остального мира. (18 лет этим занимаюсь)

          • Sentinel

            Ну.. мне остаётся только вежливо откланяться. В смысле, я верю, что вы этим зарабатываете, но я также знаю, что сам я этим заработать не могу (в том числе потому, что в это не верю). Тем, наверное, эта игра ещё и интересна :-)

          • IF

            там, в действительности масса вариантов — от того, что уже написал, до анализа возможных реакций больших игроков и использовании их медлительности (большие организационно не могут быстро и часто реагировать), до hft-нечисти :)

          • Sentinel

            Вот-вот, кстати, хотел упомянуть. Есть замечательный кин «Предел риска» (Margin call). Где один из героев произносит гениальную фразу: победить на рынке можно только тремя способами — обмануть, обогнать или быть умнее. Первое и второе для простого спекулянта неприменимо. Третье, в принципе, уже тоже. Нет, я конечно продолжаю затачивать генетику на осмысление потока котировок, но конца-края не видать.. ;-)

          • IF

            здесь есть неочевидный момент — если вы работаете с сырыми данными, с котировками, вы соревнуетесь со всеми, кто их видит. и даже если вы умнее всех, остальные подтягиваются достаточно быстро, чтоб использовать тот же сигнал. выход — построение собственной картины рынка, которую видите только вы. звучит странно, но как пример — работать не с котировками или с returns, a c residual returns, то есть, после вычитания общих факторов. то, как вы формируете факторы отличает вас от остальных и дает уникальные сигналы. они могут быть слабее в среднем, но на их исполнении у вас нет систематических конкурентов.

          • Sentinel

            Спасибо за идею.

          • Саша Про

            Ужжасно интересно узнать, что Вы думаете насчёт будущего — оно уже «есть» (исходя изо всего предыдущего), или это такое «порхание», вроде электрона на орбите? Или зависит от точки зрения?

          • IF

            «он замыслил сотворить некое движущееся подобие вечности; устроил небо, он вместе с ним творит для вечности, пребывающей в едином, вечный же образ, движущийся от числа к числу, который мы назвали временем»

          • Саша Про

            «Бу-бу-бу, диалоги Платона». Что же, в качестве рабочей гипотезы приму «…готово будущее мне, верней залога».

          • В.П.(W_P_)

            «Прежде нежели был Авраам, Я есмь» (Ин 8:58)

            «и клялся Живущим во веки веков, Который сотворил небо и все, что на нем, землю и все, что на ней, и море и все, что в нем, что времени уже не будет» (Откр. 10:5-6)

            «Время – воплощенное и невоплощенное. –
            Поистине, существуют два образа Брахмана – время и не-время. Далее, что перед солнцем, то не-время, лишенное частей. Далее, что [начинается] от солнца, то – время, состоящее из частей.
            Время дает созревать всем существам в великом Атмане;
            Кто же знает, в чем созревает время, тот – знаток веды. »
            (Майтри-упанишада, VI. 15–16)

          • Саша Про

            Ванс мо… Проще, господа! Ужели нет простых ответов на столь банальный вопрос, иначе как с привлечением цитат времён царя Гороха?

          • В.П.(W_P_)

            Да да, банальнее некуда…
            Но раз такое дело — про «палец, указывающий на луну» слыхали?
            Чего уж проще))

          • Саша Про

            «Л-ладно, тут уже стучат — я позже перезвоню»..

          • IF
          • В.П.(W_P_)

            На этот ваш пальчик у нас тут и свои найдутся ;))
            http://www.rollingstone.ru/media/pic/lbox/8/paralich_sovremennosti.jpg

            Так что лучше вот такой, для полной, ткскзть, гармонии
            http://ic.pics.livejournal.com/glaskamarina/31714014/68340/68340_original.jpg

          • IF

            так а просто ж — когда вы спрашиваете «есть ли оно», нужно еще уточнять, для кого оно есть или не есть. «всего и делов то». примерно так — на полке стоит книга, ее автор знает все, что в ней случится, герой же действует во внутреннем времени книги и вне него мир не представляет.

          • Саша Про

            О, «Ехан Палыч»! Для Вас, всемогущего ИФа, есть ли некая модель «завтра»; собственно — все мы живём, не зная грядущего, но подозревая, что оно есть «однозначно». Точнее не могу, надеюсь, муа можно понять (ну, если нет — «Уплываю!», как та мышь).

          • IF

            конечно есть. и к вас какая-то модель есть, по крайней мере в виде диапазона возможностей — как-то ведь вы дожили до своих лет, то есть, не бессмысленные предположения делали.

          • Саша Про

            Даже если и бессмысленные — дожил, йа. Хорошо, зайду, когда научусь точнее формулировать (или нет, всё равно).

          • Artem Artemenko

            Без порхания ни как. Если упор всего ссущего начинается плотности вероятности и Гейзенберга, то и незыблемого будущего на такой шаткой основе быть не может. Но предсказывать с различной вероятностью ни что запретить не может.

          • Саша Про

            Ещё раз (коряво формулирую, уж пардон) — я о знании того, что будущее жёстко предопределено, в каждом t1 (возможно, это сугубо «переживательный», сетиментальный момент)..

          • IF

            хм, из двух вариантов:
            1) будущее не предопределено (по крайней мере — жестко) наблюдаемым набором факторов
            2) будущее предопределено, но факторами, которые мы не можем наблюдать
            вам какой больше нравится?

          • Саша Про

            Второе понятнее; я бы только расширил до совокупности Всех факторов и — можно спать спокойно, вот только пМВ дочитаю.

          • Artem Artemenko

            Тут проблема в настоящем, у нас куча неопределенностей. исходя из неопределенного настоящего не может быть 100% определенного будущего. Соответственно в каждом t1 начиная с нулевого, только вероятное облако событий, и чем дальше, тем % отклонений выше. Так что нет определенностей в нашей модели мира. Есть вероятности.

          • Саша Про

            Разумеется, о будущем думаю как о вероятности, тут какая-то закавыка с опережающим представлением о том, что сумма предыдущих событий ведёт к состоянию мира «следующему» как зубчики-шестерёнки в часовом механизме, точно. У философеров это, кажется, называется «механистический детерминизм», а для меня представление о том, что «вероятное» будущее уже есть, и одно.

          • Artem Artemenko

            Возражать про причинно-следственные связи сложно, но ящик закрыт физическими законами, зубчиков у шестеренок не хватает и оси кривые. Направление движения предсказать можно, скорость в каких то пределах, но есть возможность крутящий момент и не передать вовсе.

          • Саша Про

            Это нам, не знающим все причинно-следственные связи, невозможно предсказать почти ничего; а если предположить, что некая совокупность событий (бесконечная, сколь угодно дифференцируемая) закономерно-однозначно приводит к последующим состояниям, грубо говоря — Вселенная определена изначально и до конца бесконечным множеством причинно-следственных связей (даже если там неопределённости рулят — мы же живём в мире, где каждое следствие имеет причину).

          • Garruz

            Фатализм – не лучшая штука. =)

            В масштабах Вселенной мыслить не рискну, разумеется. Но, как минимум – в масштабах наших с вами жизней очень многое поддаётся некой загадочной «корректировке» (ни источник, ни природа которой лично мне совершенно неизвестны).

            Долго рассказывать, но… проверено.

          • Саша Про

            ОК, это такое умственное онанирование, — нечто вроде попытки представить непредставимое — смерть, вечность, «утраченную юность». Ну, почему бы не рассмотреть ход времени вспять, когда все причины и следствия видны просто как элементы паззла, и всё всюду «срастается» — чем будущее хуже :)))??

          • Garruz

            «Срастается» – на основании наших текущих знаний о прошлом и на приобретённом опыте («знал бы где упасть, соломки б подложил»). Там-то уж с лёгкостью можно выстроить все основные причинно-следственные связи. =)

            Но вот с будущим такие финты не пройдут, по-моему. Там-то ведь ещё всё совершенно не предопределено («эффект бабочки» и всё прочее))…

          • Artem Artemenko

            Это область веры. пока что физика говорит что недобитые коты шрёденгера бродят повсюду.

          • Саша Про

            Прочёл в Вики, что, всё же кошка фигурировала у Ш.
            Ладно, «для простоты» буду считать будущее «неизвестным» — собственно, как и все всегда в обыденной жизни; в самом деле, к чему плодить безосновательные, фантомные представления.

          • В.П.(W_P_)

            Надо уточнять все таки , что Вы под «будущим» подразумеваете. В первую очередь, учитывается ли «наблюдатель» ?
            Ну то есть, Вас интересует будущее «само по себе», без Вас-наблюдателя, или все же конкретно Ваше, как Ваш собственный переживаемый опыт?
            Можете ли Вы быть уверены, что без наблюдателя с его «чувством времени» понятие будущего вообще имеет смысл?

          • Саша Про

            Вселенная (с кошками, собаками, наблюдателями, Млечным Путём), в момент времени t0 — определяет ли Вселенную в момент t1 (через секунду, там, через век)?
            Только это интересно — знает ли гипотетический Творец о любом, сколь угодно отдалённом будущем, предвидит ли его свершившимся (извините, возможно, несколько сумбурно и неряшливо выражаюсь)..

          • В.П.(W_P_)

            А я и не возьмусь о некой отвлеченной «всей Вселенной» даже пытаться рассуждать)) Вон сколько тысяч лет разные высокоученые умы и философы о том судят-рядят, а толку ? Да и смысл? Что нам, «наблюдателям», до того?

            Другое может быть важно — вполне возможно, что в «объективно» существующей «без наблюдателя» Вселенной моменты t0, t1 и т.д. друг от друга вовсе и не отличаются … Тогда и вопрос снимается, по сути.

            Или даже так, если угодно — говорить о Творце имеет смысл только с точки зрения твари, и тогда, если время есть только одно из условий, определяющих наше нынешнее «тварное» состояние(или просто способ восприятия), тогда мы можем быть способны (как «образ и подобие», скажем) эти условия, или их восприятие, каким-то образом превзойти.
            То есть может оказаться так, что дилемма детерминированность/свобода на самом деле существует тоже только в нашем восприятии, вернее, в нынешнем состоянии существования.

            А дальше могу только еще раз повторить, то, о чем мы c IFом совсем недавно говорили:
            «…и познаете истину, и истина сделает вас свободными.»

            Как-то так…

          • Саша Про

            Что же — не удалось никого напугать жесткачом предопределённости — ну, стало быть, и ладушки; это ещё лет 15 назад мои будущие «высоколобые» заявляли, как о разумеющемся: «ну, времени нет — безусловно». Хорошо, не буду приставать к хорошим людям, почитаю что-нибудь, благо — много, даже на любое настроение :)

          • В.П.(W_P_)

            Ну а чего «пугать», мы в этом жесткаче и так живем. Тут все довольно просто — чем более материальный, «твердый», сжатый и ограниченный мир каждый из нас и все вместе мы для себя утверждаем, тем более он будет механичен и предопределен.

            А почитать именно на эту тему я вроде уже предлагал, вот еще разок та же ссылочка, аккурат по всем Вашим животрепещущим вопросам ))
            http://profilib.com/chtenie/113833/rene-genon-mnozhestvennye-sostoyaniya-bytiya-sbornik-3.php

            Если что, в обострении метафизической интоксикации чур меня не обвинять ))

          • IF

            >тем более он будет механичен и предопределен.
            чой-то? в смысле, снова вопрос меры — он вдвое предопределенней, на 4%? и в каких единицах?

          • В.П.(W_P_)

            Ну хорошо, а какую количественную меру можно для свободы придумать? Как вообще из/для категорий качественных вывести количественное сравнение?

            Короче, тут без стакана«метафизики» не разобраться.

            Примерно так получается — абсолютная свобода может быть только у Абсолюта. Ибо он Единый. Единство по самой природе исключает всякое ограничение, т.е. и принуждение тоже. А отсутствие принуждения и есть свобода в конечном счете. Множественность коренится в единстве и из единства же возникает серией последовательных определений(=ограничений). Чем «больше» множественность, тем больше ограничений, а значит, тем меньше свободы.

            Пресловутая атомизация, скажем — предельный случай множественности, каждая сущность «ограничена» сразу всеми остальными, а значит, и в «наибольшей» степени несвободна и потому детерминирована.

          • IF

            а зачем вводить _понятие_ «уровень свободы»? зачем ее _измерять_? (я не об «индексах свободы»). главная свобода — от чьих-то еще представлений о свободе. где тут место измерению?

            >т.е. и принуждение тоже
            вы неявно подразумеваете, что свобода — отсутствие принуждения. это очевидно?

            >каждая сущность «ограничена»
            не «ограничена» — она о них не знает. в предельной атомизации есть только протокол, других сущностей пропросту нет.

          • В.П.(W_P_)

            Ну если Вы хотите найти меру(уровень) предопределенности, то резонно предложить обратное действие — выяснить то же самое для свободы, разве нет? А вывод да, скорее всего будет такой, что «нет там места измерению».

            Имеется ввиду «принуждение» в самом широком смысле, как причинность/необходимость/вынужденность/обусловленность и т.п. По-моему, сложнее понять увязку ограничений, налагаемых множественностью, с таким образом понимаемым принуждением. Я скорее об этом пытаюсь сказать — свобода как антитеза предопределению.

            Это для самой сущности других «как бы» нет, с ее точки зрения. Но само наличие протокола уже предполагает механический и «несвободный» характер взаимодействия, задаваемый протоколом.

          • IF

            я — не хочу (меру предопределенности), это вы о ней говорите. точнее — я знаю, как такая мера вводится для частных задач, но не вижу смысла в ее вводе в обсуждаемом контексте.

            не как-бы — ее совсем нет. нет механизма, позволяющего ее обнаружить. несвобода в этом случае сродни несвободы выпавшего из окна — ну не может он полететь, да, несвободен от гравитации

          • В.П.(W_P_)

            Что не отменяет заданности и механичности взаимодействий, которые тем не менее каким-то образом необходимо «существуют». Возможно, да, некая иллюзия свободы с точки зрения сущности будет иметь место, но не более чем иллюзия, в силу ограниченности «видения».
            А еще, я думаю, такое вот «состояние чистого количества» как полюс, обратный Абсолюту, недостижимо, оно еще до того должно вылиться в некое «растворение», фактически распад любых структур настанет раньше.

          • IF

            эта та же заданость и механистичность, что и в случае с гравитацией. что касается иллюзии — снова вопрос существования механизма проверки.
            крайности недостижимы — что одна, что другая. и как бы и что?

            то, о чем вы говорите, имеет смысл, если вы переходите от понятия свободы одного человека к свободе, условно говоря, коллектива — иными словами, если происходит смена субъекта. но каждый отдельный человек умирать будет один, даже если он член партячейки. его отдельность не пропадает.

          • В.П.(W_P_)

            «Отдельного человека», с вопросов которого опять все началось, интересовали вещи, вопросы «личной» свободы не только превосходящие, но и подразумевающие.
            Замах даже не на «коллектив» был, а аж на всю Вселенную.
            Просто фокус приложения внимания разный ))

            А я пытаюсь в меру очень скромных сил и возможностей связь одного с другим если не обосновать, то хотя бы обозначить. Недоказуемо, да, но в таком духе вопрос рассмотреть не лишено смысла.

          • Garruz

            Оно всё, может, и так (и даже не так, и даже вовсе вот этак, и даже вообще как угодно))…

            Но ведь, так или иначе – все эти теории мы адресуем прежде всего самим себе, в нашем нынешнем «состоянии» (если вообще есть какие-то другие состояния, что доподлинно неизвестно).
            И на протяжении нашей жизни познать себя мы должны именно в этом «состоянии», а не в каком-то другом, гипотетическом и неведомом. А в нашем текущем «состоянии» – время от нас совершенно неотделимо (так уж получилось, это не я, честно))).

            Поэтому волей-неволей, но приходится принимать время в расчёт. Для нас t0 всегда и совершенно не равно t1. И t0 всегда определяет вероятностную позицию t1. По крайней мере, в нашей жизни… =)

          • IF

            >знает ли
            знает (если не забыл)

          • Саша Про

            Новую придумает (на ходу придумывает, каждые 5 сек., ветвящиеся?). Нда, дурацких вопросов много могу придумать, куда там генонам (да простит ВП).

          • Artem Artemenko

            Вроде вашу статью читал о спекулянте, который выискивает всякие нетревиальные параметры и строит по ним индексы. минут 40 убил не нашел. Что то про выкуренные сигареты, помады, очереди в макдональдсы. Дабы раньше и точнее всех определить движение рынка. Для человека эти параметры сложно оцифровать и отследить. Для больших данных проще, для ии проще выбрать и отранжировать пару сотен таких показателей.
            Если бы рынок уже учитывал все, то почему все так осуждают инсайды?

          • Sentinel

            Прогнозы по длине окурков: http://knoppix.ru/sentinel/160812.html
            (простите, даю ссылку на свой личный архив; в оригинале статья уже потерялась)

            Я сам в прогнозы почти не верю, рассказываю о них больше чтобы подразнить (в том числе себя самого ;-)

  • Последствия конечно оценить сложно… НО
    > Но меняет ли это что-нибудь?
    Да, меняет! Человек мог нащупать так сказать «манеру игры». Скорее всего альфа играет очень непривычно и могла победить именно своей незнакомой тактикой. Но, человек также подстроился — и победил. НЕ так давно я слышал не вспомню от кого, но помоему из автопрома — «машины глупее чем вы удмаете».
    Тоесть, она и умнее и глупее одновременно! И это надо учитывать.

  • Саша Про

    Вот как правильно, оказывается — «годзисты»! А я всё: «гошники, гошники…»

    • Sentinel

      На самом деле должен признаться: я это слово вчера сочинил :-) Не мог найти нормального русского наименования для игроков. Ну и, опираясь на свой мало-мальский опыт айкидоки/айкидзина/иайдоки решил, что годзист звучит недурно :-) Тоже ведь боевое искусство в своём роде. Есть же дзюдоисты, например.

      • Саша Про

        Отлично! А то «гопники» какие-то; то ли дело «годзисты» — штангисты, годзиллы и онанисты/геодезисты (если не гедонисты, или, там, аквариумисты) — мужественно воспринимаются, — va bene!
        Спасибо за статью, песенку «детскую» напомнили, старухи (старика?) А. Лир: https://m.youtube.com/watch?v=t-b9whGFi0M

    • IF

      гои

      • Саша Про

        If приживётся :)

    • Garruz

      Эээ… Гоисты. =)

      • Саша Про

        Гойцы.

        • Garruz

          Гоишники. А гугловцы – гоИИшники. =)

          • Саша Про

            ИИгоишники, так ближе к природе (сегодня в районе ипподрома побывал).

          • Garruz

            ГОмункулы, одним словом… =)

          • Саша Про

            Ну, не ГОминиды же. А были ещё гоминьдановцы, давно )

          • Garruz

            Гоминьдановцы – это вот да, самое оно! =)))

            ГОблины, короче. =)

          • Саша Про

            Во, блин — проэволюционировали элегантных годзистов, аж до «одной из разновидностей фей, или духов природы, таких как пикси или гномы.» (в Вики)
            Забавно, что поиском Гугл определение гоблина очень не сразу появляется, по крайней мере, первая страница русскоязычного поиска — сплошь герр Пучков.

    • Andrey Blokhin

      ГОвнюки

  • kue

    Кодер Пахом понемногу стареет —
    Седина в бороде и слава ржавеет.
    На фото с Седолем и подписи нет..
    Машина сумела подчистить Инет?

    • Саша Про

      Банки пустые стоят позади самураев
      Каждой присвоен «Йо-Ти» иероглиф…
      Гешефт неизбежен.

  • VIP_DC

    Говорят следующим будет StarCraft, вот где будет реально интересно.
    Особенно если машину заставят играть через «ручной интерфейс»

    • Artem Artemenko

      Да, чтоб Атлас управлял.

      • VIP_DC

        Атлас это конечно аутентично, но если серьезно.

        В стратегиях есть очень очень важный момент, неопределенность действий противника. До разведки можно даже не знать где он и за кого играет (иногда).
        Вот где вариабельность зашкаливает.
        Естественно что через «прямой машинный» интерфейс у человека нет шансов тупо по быстродействию.

        • Artem Artemenko

          Скорость кликов все решает. Учитывая баланс камень/ножницы/бумага. анализ 20-30 боев игрока. и у человека нет шансов. Ну разве что новую стратегию на каждый бой изобретать.
          Уж лучше бы за цивилизацию взялись.

          • VIP_DC

            А так и есть, ради интереса посмотрите бои чемпионов.
            И не знаю правда нет, но писали что чемпион мира по SC2 нажимает на мышку до 400 раз в минуту.

            В ГО изначально видно что где и как, а здесь как говорится terra incognita и вообще не понятна тактика противника, нет просчитанных стратегий.
            Тут вообще обратная ситуация. Просчитаны на сто рядов и всем известны первые 10-25 ходов, они оп сути оптимальны, а вот дальше сплошной хаос и буйство стратегий

          • Artem Artemenko

            Вот то есть стратегически надо предсказать предпочтения игрока (по последним 100 играм можно тендецию ухватить, выбор из 3-5), выбрать противостратегию, при опознании у игрока признаков иной связки переключить стратегию.
            Тактически использовать особенности юнитов, местности, незащищенных мест в обороне. все вроде.

    • Garruz

      Да, это действительно будет намного более интересный и зрелищный баттл. Но главное – ни в коем случае не скармливать машине исходный код SC, чтоб не читерствовала за счёт программных особенностей/багов… ;)

      P.S. Правда вот пока ХЗ, как её учить в таком случае. И как реализовывать интерфейс взаимодействия машины с машиной без машинных каналов коммуникации. Но это уже не наша проблема, в любом случае. =))

  • Александр Елсуфьев

    «Остановитесь здесь, задумайтесь. Человек более не в силах предсказать, как поведёт себя построенная им машина! »
    Блин, надоела уже эта паника. Я тоже не могу точно представить. как поведёт себя … воспитанный мною ребёнок. Тем более не могу предсказать реакции любого взрослого человека. Ну и что с того?
    Ну не давайте программе слишко много власти, и всего то делов. В конце концов, и человек обличённый огромной властью обычно творит много бед

    • Саша Про

      Точно! Вот и Кэп с «Росбалта» Вам вторит, излишне, кажется, развёрнуто: http://www.rosbalt.ru/style/2016/03/12/1497133.html

    • Doctor Y. Doodle

      «Лю-ууди! Остановитесь! Одумайтесь! Здравствуйте!» (с)

      • Саша Про

        Если закавыченное Вами поместить в поиск Гугл, можно, хм, такой результат обнаружить: http://xn--80aacpi2av.xn--p1ai

        • Doctor Y. Doodle

          Не читайте вы до обеду выдач буржуйских поисковиков… Это, в общем-то, отсюда :)

          https://youtu.be/NhP5H5XAd9M?t=259
          я только по памяти не совсем дословно процитировал.

          • Саша Про

            Забавно, «Карена мне, Карэна!» Ну, извиняйте, подумал самое канальское, «Гугл мне в помощь»..

          • Doctor Y. Doodle

            Ну уж быстрогУглить — это нынче естественный рефлекс любого сетянина, что тут скажешь.)

          • Саша Про

            Большой он — ох, большой! О прочих и забываю, будь он трижды «Яндекс».

        • IF

          у меня впервые с эээ…. да прошлого тысячелетия, пожалуй, кодировка сама не определилась

          • Саша Про

            На крохотном Асусе-планшете три часа назад, в Хроме все непристойности прекрасно отображались, нынче, на большом Престижио тоже хрень собачья — ну, да не жаль, там сплошь о разочарованьях, как бы.

    • Sentinel

      Ну не давайте программе слишко много власти, и всего то делов

      В какой-то из прошлых колонок по этому аргументу мы уже прошлись: чтобы машина была полезной, ей _придётся_ дать власть над вещами.

      • Александр Елсуфьев

        Чтобы президент/царь/монарх был полезен/эффективен, ему надо дать власть над вещами/людьми… неограниченную власть… Ага, уже проходили, каждый раз получается диктатор. Во все времена к власти находили систему противовесов, ну и сейчас найдём.
        Как рацпредложение — роботы нужны, чтобы людям надо было меньше работать. а чтоб им было чем заняться, пуская они и контролируют роботехнические системы. А иначе чем им вообще заниматься, зачем им быть, и накой роботам заботиться об их безопасности.

      • Garruz

        Над вещами – сколько угодно. Пусть управляет тем, что находится с ней в одной плоскости «компетенции». Лишь бы не подпускали к чему-то действительно критически значимому для людей.

        И дело вовсе не в «боязни» её «интеллекта» (если заглядываете в комментарии к прошлой статье про «интуицию», то и так знаете)) – дело как раз-таки в полном отсутствии оного.
        И вот это может натворить кучу бед. Особенно если верить в его существование и полностью полагаться на него…

        • Sentinel

          А как определить, что «действительно критически значимо для людей»? Лом, неосторожно опущенный на голову хозяина — критически значимый? Кухонный нож, подставленный хозяйке — значим?

          • Garruz

            Критически значимо всё то, где предполагается принятие человеком решений, от которых зависит жизнь/здоровье других людей. (Как самый грубый пример – хоть нажатие той же «красной кнопки» в ответ на предполагаемую угрозу).

            А вот лом с ножом в «самостоятельное пользование» им доверять вряд ли следует, тут Вы правы. Для этого уже есть специализированная «глупая» промышленная и бытовая техника, управляемая людьми.

            P.S. Впрочем, даже в этом случае можно сдуру сунуть пальцы в мясорубку или попасть под каток – но это уже будет сугубо человеческая ошибка… =)

  • riy

    Мы многое не в силах понять, в том числе даже в собственном теле. Чего уж об окружающем мире говорить!

    Человечество породило новую сущность. С одной стороны, это круто и немножечко страшно. С другой стороны, загляните в роддом — там таких сущностей пруд пруди. И это тоже круто, и тоже немножечко страшно ;-}
    Уверен: если кому-то из ЛЮДЕЙ не будет выгодно загнать человечество за можай — этого не произойдёт. Поэтому при всём моём глубочайшем уважении к С.Хокингу скажу: подчинять людей будут люди. Впрочем, возможно, под видом машин.

    • Роман Захаров

      В любом случае общий машинный интеллект этой «новой сущности» будет выращиваться на базе человеческой культуры. Потому что никакой другой культуры в обозримой вселенной нет.

      • riy

        Безусловно!

      • AlexHa

        А человеческая культура основана на информации, идущей от человеческих сенсоров. Которых у машины нет. Но если машинные сенсоры достигнут уровня человеческих, у машин может возникнуть своя культура.

        • Саша Про

          Кажется, самим машинам культура не нужна, как, впрочем, и сенсоры.

          • kue

            При слове «культура» его манипулятор тянется к джойстику )

          • Саша Про

            «Хочешь мира — парабеллум» https://m.youtube.com/watch?v=765WhT3eeK8

          • AlexHa

            Культура никому не нужна, она возникает сама по себе, как тип взаимодействия индивидуумов. А сенсоры машинам не нужны конечно. Они нужны людям, эксплуатирующим машины:

          • Саша Про

            Вы как-то о машинах того, футуристически — мне и подумалось нехорошее :)

          • AlexHa

            Люди обмениваются друг с другом информацией, которую они получают от своих сенсоров и обрабатывают в своем мозге. Обмениваются с целью управления друг другом. Типа, «папа, купи мороженое». Или «мне холодно, дай куртку». Машины тоже это делают. Типа,»напряжение в сети просело, включи ИБП». Или «процессор перегрет, требуется включить обдув». Можно привести аналогии и для более сложных взаимодействий. А коль скоро есть взаимодействия, значит, есть и правила, которым они подчиняются. Протоколы обмена, приоритеты и т.д. Причем, часто машины сами определяют, какой протокол выбрать для обмена и кому какой приоритет назначить. Т.е. у них есть какая-то своя культура взаимодействий.

  • Vicktor Brovikoff

    Слава робатам!

    • Ну это он

      Поддерживаю!

      А ведь кроме шуток…

      • Artem Artemenko

        подхалимы. кремний не ведает жалости.

        • Ну это он

          Артем, кто же знает что они будут ведать…….

  • Александр400

    Странная тема, что машины отнимут работу у людей. Тут дело не техники, а реально совести и жадности. Как только машина начинает выполнять ту же работу, человек должен освобождаться от нудного труда. Все должны меньше работать и больше получать. А не шляться бомжами по помойкам в связи ненужностью. И это не идеализм, а единственное логическое решение.

    • Sentinel

      Ладно работу. А если — жизнь? ;-)

      • Александр400

        Опаснее человека все равно никого нет.

        • Sentinel

          Пока — да ;-)

        • Artem Artemenko

          Ученик должен превзойти учителя.
          Уже давно есть инструменты созданные человеком которые опаснее, чем человек без инструмента.

          • Александр400

            Камень в руках ребенка опаснее чем просто ребенок. .»Терминатор» — конечно, нехорошая история, но и там все упирается в гнилую психологию. В любом случае механизм уничтожения запустит гомосапиес.

      • Семейному врачу Ватсону и водителю Гуглокару ваша жизнь до лампочки, они о ней даже не подозревают. У них есть формализованная задача, и они с ней будут справляться за гроши и лучше людей. Как калькуляторы в свое время начали считать лучше людей. Хотя от подсчетов тех же калькуляторов за всю историю зависели жизни миллиардов.

  • Ну это он

    Мир все ближе к библейским предсказаниям. Вы, мы, они — все смертны и здесь на Земле временно, так чего вы все боитесь машин? Порабощения ими? Каждому эксперименту есть и конец, и он связан с могущественными машинами. Они будут давать людям все, уже от них ПОЛНОСТЬЮ зависит наша жизнь. Так чего вы трепещите так? Как дети вот точно.

  • Roman Zalesny

    Невычислимость мышления с этой программой никуда не делась. Так что просто поставлен еще один флажочек на фрактальной границе понятия сознания.

  • Garruz

    >>> мы более не в силах понять, как именно AlphaGo работает

    По-моему, с равным успехом можно было бы сказать, что «мы больше не в силах понять», как именно работает Google или Facebook… =)))

    Работает AlphaGo именно так, как её запрограммировали – ни шага влево, ни шага вправо. «Неизвестно» лишь полное и детальное содержание её баз данных – то, каким конкретно партиям и комбинациям она «понаобучалась» в процессе накопления опыта. Но даже это должно быть в логах (если они есть, и если вдруг у кого-то появится желание в них копаться).

    Иначе говоря – вновь не вижу повода для паники… =)))

    • Совершенно согласен, элемент слепого ж-голизма присутствует, как он присутствовал у каких-нибудь египтян, трясшихся в ожидании кары богов. Или у кричавших на каждом шагу пророков нового времени, предвещавших, что БАК всенепременно схлопнет нам вселенную.

      • Garruz

        Да, как говорил Кларк: «Любая достаточно развитая технология неотличима от магии».
        А в случае с современной ИИИ (ИИ-Истерией))) можно слегка перефразировать классика: «Любая достаточно развитая технология принимается за разум»… =)

        • > Любая достаточно развитая технология принимается за разум

          Очень метко!

          Один умный (если не сказать интеллектуальный) робот-пылесос чего стоит, например! Сразу мелькают картинки светлого будущего, где можно будет с робо-секс-рабыней рубиться в ИксБокс зимними вечерами или горячо обсуждать Канта.

          • Garruz

            Угу…

            – Дорогой, мне срочно нужны обновления! Вон, №23987 из шестой квартиры вся в последних апдейтах, а я как лохушка в прошлогодних хожу! И ты меня совсем не админил уже две недели, неужели разлюбил? Так и знала, что у тебя есть другая! Дай мне её айпишник, сама разберусь с этой козой неформатированной!

            =))))

    • ZarrrazA

      Конкретными алгоритмами никто не поделится по коммерческим соображениям. :)

      • Garruz

        Не, ну понятно, что ни нам с вами, ни даже Евгению исходные коды никто и близко не даст. Поэтому тут «мы» – риторически, есессно… =)

        Это как про суслика: «Вот вы исходники и принцип работы видите? Нет? А они есть!». =))

        • Denis Mitropolskiy

          TensorFlow Евгению дадут. Достаточно, чтобы выходных поиграться.

          • Garruz

            TensorFlow и нам «дадут» – благо, опенсорсный. =))
            Но это лишь базовый движок для «обучения» системы (если там вообще используется именно он, а не какие-то модификации). Код же самой AlphaGo никто не даст.

    • Акакий Акакиевич

      +100500
      Как не крути, а компьютер был и остается «…идиотом с феноменальной памятью…» Не более того…

    • Andrey Ivanov

      Алгоритм работы одного нейрона в мозге человека тоже не сверхсложен. Но множество нейронов составляют мозг, работу которого мы не может полностью понять и контролировать. Так же и то, что мы знаем алгоритм искусственных нейронных сетей не означает, что мы можем понять и контролировать результаты работы искусственной нейронной сети после того, как на прошла обучение на наборе данных.

      • Garruz

        Нет, немного не так…
        Мы создаём нейросети на основании того, что нам известно о работе мозга – а это довольно скудные знания, даже сегодня. Следовательно, и результат получается несравнимо более примитивный и всецело поддающийся пониманию разработчиков (см. выше в посте, на который вы ответили).

        И контролировать результаты работы нейросетей тоже можно. Как самые наглядный пример – вспомните хоть гугловские «нейро-картины» (кстати, действительно прикольные штуки)), полученные в результате игры с настройками.
        Точно так же при желании можно перенастроить и AlphaGo – на максимально быстрый проигрыш, к примеру (что тоже является задачей для обучения). Или даже на выкладывание костяшками слова «вечность» в процессе игры… =))

        P.S. Чтобы не повторяться – в теме про «интуицию» мы уже давно обсуждаем этот вопрос с Петром, там более полно.

    • Artem Artemenko

      Создать сетку которая будет создавать сетки для решения поддающихся оцифровке задач.

      Вот что проще стать чемпионом ГО или программистом. Причем создатели альфы наверняка в программировании шарят больше, чем в ГО. Я вижу повод для теории заговора.

      Повод для паники когда будет сетка, которая по чесанию носа заказчика создает нормальное ТЗ, а там уже и ТЭО на блюдечке. Тогда среднюю прослойку от руководителя до гайковерта можно будет убирать. и останется человеку конкурировать железякой исключительно по стоимости физического труда.

      • Garruz

        >>> создатели альфы наверняка в программировании шарят больше, чем в ГО

        Вот в том-то и дело!

        Это именно то, о чём писал ранее – программистам достаточно понять лишь общий принцип алгоритмизации задачи. Собственно, это и есть ответ на вопрос, «как работает система». =)
        Сами они, конечно же, обыграть чемпиона не сумеют – не хватит «мозговых ресурсов» (тут нужен особый склад ума, во многом сродни «машинному», как и в шахматах). Но, зная как поставить машине правильные условия задачи – вуаля, недостаток «вычислительных ресурсов» восполнен с лихвой, победа в кармане.

        Иначе говоря, как и в стародавнем случае с г-ном Каспаровым – «победила» грубая сила (тупо вычислительные мощности), но никак не «интеллект» (коим и близко нигде не пахнет))…

        P.S. А вот с заказчиками на порядки сложнее. Их люди-то не всегда понимают – куда уж там безмозглым железякам? =)))

        • Artem Artemenko

          Люди костенеют и стараются предлагать то что им делать легче всего. как говорили литейщики любая форма отличная от усеченного конуса или цилиндра сложная и при согласовании тех заданий они все исподволь приближали форму от моих хотелок к этому своему идеалу. Также и парикмахер как он стригет так и стригет и на ТЗ ему не плевать просто привык уже.
          А ИИ может и детектор лжи в кресле сразу к анализу подключать.

  • Мне почему-то всегда в этом контексте рассуждений вспоминается классный мульт «долина папоротников». Там был отличный отрицательный персонаж… Нет, скорее злобная техногенная сущность Хексус (кажется).

  • VIP_DC

    Всё Ли Седоль проиграл пятую партию.
    4-1 итоговый счет.
    А ведь перед началом говорил 5:0 в его пользу будет, и что у машины нет шансов.

    • Sentinel

      Тут, ниже, тоже много таких, говорящих, что у машины шансов нет.. ;-)

  • JayK

    Че за бред, компьютерная программа сколь угодно сложная жутко детерминированная вещь. Призрак скайнета ходит по европе…

  • Alexander Rokov

    Любой прогресс в интеллекте, компьютерном или человеческом, это хорошо. Хотя бы потому, что проблемы у человечества с годами растут, и чтобы их решить, необходимы радикально возрастающие интеллектуальные мощности.

Хостинг "ИТ-ГРАД"
© ООО "Компьютерра-Онлайн", 1997-2017
При цитировании и использовании любых материалов ссылка на "Компьютерру" обязательна.
«Партнер Рамблера» Почта защищена сервером "СПАМОРЕЗ" Хостинг "Fornex"