Одним из немногих ученых, одновременно пребывающими в статусе «медийных звезд», является британец Стивен Хокинг. Его академическая карьера похоже была предопределена до его рождения – появился на свет он в Оксфорде, куда его родители бежали из Лондона, от бомбардировок Люфтваффе. Да и занимался Хокинг самыми масштабными проблемами, в которых мегамир сходится с микромиром – черными дырами, квантовой гравитацией и квантовой космологией. А уж мужественная борьба Хокинга с болезнью привлекла к нему симпатии сотен миллионов людей!

И вот сейчас ученый, предсказавший некогда квантовое «испарение» черных дыр, опять вышел на первые полосы газет (или как там, только без варваризмов, положено обзывать их аналог у новостных сайтов – родная речь не успевает за технологией) – его нынешним пророчествам уделяет видное место деловитая Financial Times – Stephen Hawking warns of AI danger to human race, «Стивен Хокинг предупреждает об угрозе Искусственного Разума для человечества».

Утверждения Стивена Хокинга в высшей степени мрачны. Он полагает – не больше, не меньше – что “появление полноценного искусственного интеллекта может стать концом человеческой расы”. Особый «черный» – в лучших британских традициях – юмор, таким рассуждениям известного физика придает то, что он, страдая латеральным амиотрофическим склерозом, для общения с журналистами пользуется специальной системой, разработанной американской кампанией Intel при соучастии британской компании Swiftkey.

Но эти достижения ИТ-индустрии Хокинг рассматривает как в высшей степени полезные. Ужас вселяют в него перспективы грядущего. Создание полноценного искусственного интеллекта. Такого, который «возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем».

Высказывать свои страхи ИИ профессор Хокинг может лишь с помощью ИТ…
Высказывать свои страхи ИИ профессор Хокинг может лишь с помощью ИТ…

Попробуем перевести слова Хокинга с научного на инженерный язык. Элементной базой естественного разума является нейрон. Биологический логический вентиль, выработанный слепой садисткой эволюцией в процессе экспериментов, тянувшихся сотни миллионов лет в лаборатории, цехе и на полигоне размером в планету. Сначала методом Монте-Карло (то бишь, путем случайных мутаций) модифицировался чертежнаследственный код. Потом с ним появлялось на свет существо. А уж потом беспощадный естественный отбор проверял и утверждал (а чаще всего – не утверждал…) эти изменения в проекте.

Фора эволюции – планетарный масштаб экспериментов и отведенные на них сотни миллионов лет. Именно поэтому и появляется идея бионики; инженерной дисциплины, направленной на копирование былых разработок природы. Ну а недостаток ее – слепота. Ну и – немарковский характер, зависимость от тех решений, что были приняты и утверждены встарь, и о которых рассказывает нам наука палеонтология. Инженер же может и скопировать достижения природы. И – утянув у эволюции некие общие идеи – воплотить их на совсем другой элементной базе и на совсем других технологических принципах.

То есть – не существует закона природы, запрещающего создание искусственного аналога нейрона, с меньшими габаритами и энергопотреблением, но с большим быстродействием и надежностью (помните народное – «нервные клетки не восстанавливаются»). Вот первая предпосылка для грядущих достижений Искусственного Интеллекта. Переход на другую элементную базу.

Вторая предпосылка носит «производственный» характер. Есть в европейской традиции слова о происхождении Inter faeces et urinam nascimur, написанные Августином Аврелием, епископом Гиппона-Регия, взиравшим с крепостных стен на орды осаждавших город вандалов… То бишь – все носители естественного разума появляются на свет через то отверстие, которое так интересует подростков пубертатного возраста. А это – накладывает «ограничения сверху» на объем головного мозга. Максимальный лет эдак тысяч двадцать назад, но подсевший с тех времен (разумность индивида была принесена в жертву выживаемости матерей, ну и младенцев…).

А у Искусственного Интеллекта этого ограничения нет. Лепи кристаллы на платы, распихивай их по шкафам да стойкам. Масштабируемость достигается легко – и вот ее-то, похоже, и надо ставить перед законом Мура, о котором говорит об ИИ. Мощность кристаллов в какой-то момент перестанет удваиваться за восемнадцать месяцев, а возможность модифицирующего себя искусственного разума добавлять новые шкафы или стойки останется всегда. (Лем в «Магеллановом облаке» говорил о «мозге» размером с галактику…)

И вывод из этого прост – в какой-то момент искусственный разум неизбежно превзойдет разум естественный. Хотя бы в силу простоты его масштабируемости, исключенной для естественного разума. Впрочем, гениальный советский фантаст Илья Варшавский (по словам Лема в его книжку вмещалась вся западная фантастика) в рассказе «Тараканы» такой способ предлагал – там из двух обезьян хирургическим путем изготавливался один сверхученый…

И вот эта-то перспектива ввергает профессора Хокинга в ужас. Причем ужас этот разделяет с ним известный бизнесмен Элон Маск, называющий ИскИн «нашей крупнейшей экзистенциальной угрозой». Наверное именно поэтому он и старается купить побольше фанерыпостроить в своей «Space X» побольше ракет и улететь отсюда к этой самой матери… Ну, каковы основания для этих самых страхов?

А основания эти сидят в самой нашей сути. Мозг-то эволюция выделила человеку не для того, чтобы интегрировать уравнения Бернулли, а для того, чтобы выживать в бродящей по саванне стае обезьян. И с этой самой поры ведет свою родословную страх большего разума. Страх, о котором прекрасно знали политтехнологи недавнего прошлого, избегавшие выставлять слишком интеллектуальных кандидатов – дело в том, что даже самая тупая обезьяна понимает, что обезьяна более смышленая пренебрежет ее интересами в интересах своих собственных…

А в случае ИскИна накладывается еще и более архаичный страх чужой жизни, который пробегает по спине, когда смотришь сквозь прицел паршивого, устроителями сафари по грабительской цене предоставленного карабина, на крупную кошку, или который выворачивает нутро, когда видишь в такыре сухой колодец, заполненный копошением змей. И это ведь свои, белковые, хоть и могущие сожрать и отравить… А что уж говорить об абсолютно чуждом кремнии? Тут все архаические ужасы выплеснутся наружу!

И, что самое смешное, такой ход дел неминуем. Пенроуз со своим квантовым разумом не предложил – как, впрочем, и еще более популярный Эверетт с мультимиром – никакого Experimentum crucis, могущего подтвердить, что мышление носит квантовый характер, а вселенные множатся вслед за каждым квантовым событием… А полагать, что обычная асинхронная нейросеть не может быть сначала скопирована, а затем превзойдена другой, оснований нет. (Ну, разве что одна страна, имеющая мощные неядерные стратегические силы, нарвется на упреждающий ядерный залп от той страны, которую собиралась разоружить – тут уже выжившие обезьяны будут дискутировать, что лучше режет – обсидиан или оплавленное оконное стекло…)

Затормозить развитие ИИ невозможно – тогда, скорее всего, человечество прикончат обычные проблемы – демографические, экологические, экономические – с которыми оно не сможет справиться. (Тот же Хокинг полагает неминуемой в течение ближайшего тысячелетия глобальную технологическую катастрофу, от которой призывает расселяться на иные миры.) И в прогнозах этих ничего нового нет – Иосиф Шкловский в издании 1973 года книги «Вселенная. Жизнь. Разум» писал о том, что цивилизации, овладевшие энергией звезд и галактик, скорее всего будут состоять из искусственных разумных существ.

Правда, ниоткуда не следует, что более высокий разум окажется враждебен людям. Британский автор Иэн М.Бэнкс в цикле The Culture описал мир, где ИскИны живут в содружестве с представителями биологических рас. Еще раньше такое описал Георгий Гуревич в книге «Приглашение в зенит», где представляясь носители разума уточняли, ИСУ они или ЕСУ, Искусственное или Естественное Существо. Кстати, «бунт машин» изящнейший поэт Брюсов описал до Чапека.

То есть – проблема состоит не в том, что мощный искусственный интеллект будет враждебен людям, а как построить социум, в котором разумные существа не станут враждовать между собой, а будут сотрудничать. Пока что это не очень хорошо выходит и у обезьян…