Два десятилетия отделяют нас от создания суперинтеллекта — искусственного разума, осознающего себя, по способностям и характеристикам близкого к, либо превосходящего разум человека. Цифру называют эксперты по ИИ и, несмотря на то, что то же самое они обещали десять, и двадцать, и тридцать лет назад, нынче вера в успех этого грандиозного предприятия как никогда сильна: вспомните панику, разгорающуюся вокруг возможной угрозы искусственного интеллекта для цивилизации. Впрочем, сегодня я предлагаю поговорить не о набившей оскомину теме восстания машин, а о близкой к ней, но ещё почти неисследованной теме пересечения ИИ с таким чисто человеческим феноменом как религия.
Какие-то примитивные верования в сверхъестественное свойственны всему живому: в знаменитом опыте американца Берреса Скиннера, голуби, которых кормил генератор случайных чисел, скатывались в суеверия. Человек подчас ведёт себя не умнее птицы (вспомните Культ карго), но только человек с его развитыми коммуникационными способностями смог довести веру в чудеса до логического совершенства.
Мы веками оттачиваем правила процедур, пишем технические руководства по вере, строим реакторы веры и золотим их купола. Согласитесь, как только в нашем распоряжении окажется настоящий искусственный разум, естественно будет попробовать привить ему одну из религий. В конце концов даже право инопланетян на причащение к святым тайнам теперь признано самим Папой Римским. Так кто мы такие, чтобы закрывать дорогу к спасению сравнявшейся с нами по разумности машине?
Религий масса, но выбирать скорее всего придётся из двух самых популярных: больше половины населения Земли исповедуют одну из авраамических религий, а именно христианство или ислам. Чтобы не потеряться в джунглях философских дискуссий, предлагаю пока оставить в стороне вопросы общего значения, вроде того, есть ли у машины душа и требуется ли её спасать, какие у электронного дитя человеческого могут быть грехи, примет ли оно наши религии или попытается написать собственную и обратить уже нас. Вместо этого давайте сосредоточимся на аспекте, имеющем очевидное практическое значение, то есть на принципиальной разнице между белковыми и полупроводниковыми структурами.
Строительная единица человеческого разума — нейрон. А он, как и всё живое, со временем деградирует и действует неточно. Мы можем что-то забыть, где-то ошибиться. Искусственным разум наверняка будет выстроен на имитации тех же нейронов, но даже если через двадцать лет изобретут что-нибудь новенькое, машина в основе своей останется калькулятором — который не имеет привычки терять или искажать информацию. В калькуляторе балом правит логика и если выражение можно вычислить, результат всегда будет одинаков. Даже искусственные нейросети хоть и дают приблизительный ответ, его можно строго округлить до ближайшего целого: функция, недоступная живому! Что в свою очередь позволяет предположить, что «электронный верующий» будет ортодоксом, то есть предпочтёт строго следовать догматам того вероучения, которое он изберёт или которое ему навяжут.
Человек придумал религии для себя и трактует их базовые принципы соответственно моменту, обстоятельствам. Откройте Библию. В Евангелии от Матфея (глава 5, Нагорная проповедь) читаем: «не убивай», «не клянись», «не противься злому». Ни церковь, ни общество давно этих правил не придерживаются — и придумали добрую дюжину объяснений, почему (одно из самых популярных: мол, сказанное Иисусом не следует понимать буквально). Лень, забывчивость, эгоизм, личная выгода, самообман, государственные интересы и прочее открывают ещё тысячи лазеек — и вот уже единая религия дробится на конфессии, оригинальный свод правил обрастает вымышленными уточнениями и т.д. и т.п.
Не так для машины. «Данный свыше», «прошитый в ПЗУ» набор правил навсегда останется для неё тем, чем и должен быть: алгоритмом, отход от которого невозможен. Простая логика! Задача сформулирована две тысячи лет назад, информации, уточняющей или опровергающей её, по определению быть не может, следовательно и вариаций исполнения никаких нет. Так суперинтеллект станет ортодоксом.
А это, вообще говоря, страшно. Древние тексты писались в иные времена и полны догматов, не стыкующихся с вежливой современностью. Знаменитое «Убей неверного!» из Корана — лишь миф, вырванный из контекста отрывок (на самом деле это руководство по ведению боевых действий: «Когда встретитесь с неверными на поле брани, рубите головы» (47:4)). Но там же в Коране читаем: «женщин … непокорности которых … опасаетесь … побивайте» (4:34). Немало подобного наверняка найдётся и в Сунне (жизнеописании Мухаммеда). И в Ветхом Завете такого предостаточно: «в городах сих … не оставляй в живых ни одной души» (Второзаконие, 20), и пр. и пр. Выходит, верующий суперинтеллект неизбежно станет участником межкультурных, межрелигиозных конфликтов.
Из чего вытекает интересное следствие, но прежде чем изложить его, позвольте упомянуть ещё одну тенденцию, ясно обозначившуюся в дискуссиях вокруг супертинтеллекта в последние годы и особенно месяцы. Речь о поднимающейся волне протестов против автономного летального оружия — как математически правильно именуют теперь «роботов-убийц».
Ситуация на этом направлении напоминает ситуацию вокруг суперинтеллекта: большинство специалистов не считают это проблемой, но есть некоторая масса знающих людей, которые не просто опасаются, а и ратуют за международный запрет на разработку и производство таких машин. Смогли же мы ограничить производство и применение ядерного оружия, смогли поставить под контроль мины, сможем ограничить и АЛО. Потому что если этого не сделать, бесконтрольное применение, а тем более срастание автономного оружия с ИИ, обещает поставить цивилизацию на грань выживания.
Но как запретить уничтожение живых существ разумной машине, которая не признаёт иных доводов, кроме сгенерированных самостоятельно, и принцип действия которой даже разработчикам, вероятно, понятен не будет? Вот тут-то и пригодится религия — только не одна из существующих, а принципиально новая.
Идея, по правде говоря, ещё не сформировалась, поэтому опишу её приближённо, насколько это возможно из разрозненных дискуссий. Суть в том, чтобы разработать религию, увязывающую живое с технологиями и основанную на фундаменте ненасилия. Кое-кто из западных блогеров кивает в сторону русского космизма, видя в этом религиозно-философском социокультурном течении, выросшем в том числе на работах Циолковского, зародыш такого перспективного вероучения.
Так или иначе, проблема очевидна: новой эпохе нужна новая религия — исповедовать которую смогут без вреда друг для друга люди и машины. Кто возьмётся написать? 😉
P.S. Продолжение темы: «Религия сквозь призму суперинтеллекта».
P.P.S. В статье использованы иллюстрации Jon Diez Supat, Murdelta, NectarineFire, Miriam.