Давайте представим всю нашу историю человечества как игру в лото. Большой мешок, из которого мы вслепую вытаскиваем шары, а они олицетворяют идеи, открытия, технологии. Большинство из них — белые, полезные. Некоторые — серые, с неоднозначными последствиями.
И в этом мешке есть всего один шар черного цвета — это технология, которая неизбежно уничтожит цивилизацию, которая ее изобретет. И если мы продолжим тянуть шары, то рано или поздно вытащим его, а обратно засунуть не получится. Пока что нам очень долго везло (если весь список техногенных катастроф вообще можно так назвать).
Счастливая случайность
В 1933 году физик Лео Силард понял, как работает ядерная цепная реакция. Если бы ему тогда пришло в голову, что атомную бомбу можно собрать «на коленке» из куска стекла, металлического предмета и батарейки, перед ним встал бы чудовищный выбор.
Если он промолчит, кто-то другой неизбежно откроет это позже. Если расскажет — знание распространится, и его уже не остановить. Допустим, что в этой ситуации, Силард написал письмо президенту Рузвельту, и США запретили любые исследования в ядерной физике вне секретных правительственных лабораторий. Что дальше? Неизбежно поползли бы слухи, без них никуда.
Если один смог придумать, значит, ученые в других странах додумались бы тоже. И не забываем про шпионов, которые выкрали бы секреты.
А если бы правительство попыталось изъять все стекло, металл и источники тока? После первых взрывов над городами общественное мнение могло бы и поддержать такие меры. Но осколки стекла остались бы в земле, батарейки — в подвалах. И рано или поздно они попали бы в руки нигилистов, шантажистов или просто любопытных, желающих «посмотреть, что будет».
Пришлось бы ввести тотальную слежку, сети информаторов, бессрочные задержания. Цивилизация попыталась бы выжить без электричества и всего, что признано слишком опасным.
Это оптимистичный сценарий. А пессимистичный — ядерные войны, пока мир не будет разрушен настолько, что новые бомбы станет просто не из чего делать.
Но знание останется. Оно будет ждать, как мина замедленного действия, готовое сработать, как только из пепла поднимется новая цивилизация, способная производить стекло и ток.
Нам повезло. Создать ядерное оружие оказалось чертовски сложно и дорого. Мы вытащили серый шар. Но мешок с шарами никуда не делся, и где то там черный шар с технологией, которая нас погубит.
Гипотеза уязвимого мира
Существует так называемая гипотеза уязвимого мира. Ее суть в том, что существует некий уровень технологического развития, по достижении которого цивилизация почти наверняка будет уничтожена.
Если только не будут приняты экстраординарные, исторически беспрецедентные меры тотального полицейского контроля и глобального управления.
Авторы этой гипотезы выделяют три типа потенциальных черных шаров.
Тип 1. «Легкие ядерные бомбы»
Это сценарий, который мы описали выше. Технология, делающая массовое уничтожение доступным для отдельных лиц или малых групп. Психологи называют это «апокалиптическим остатком».
В любом обществе, в любой момент найдется некоторый процент людей, готовых на безрассудные, аморальные или самоубийственные действия. Кто-то из идеологической ненависти, кто-то из нигилистической тяги к разрушению, кто-то из мести, кто-то из-за помутнения рассудка.
Если инструмент массового уничтожения становится достаточно простым, существование этого «апокалиптического остатка» делает уничтожение цивилизации практически неизбежным.
Тип 2. «Безопасный первый удар»
Вернемся к истории холодной войны. К 1986 году США и СССР накопили более 60 000 ядерных боеголовок. Этого более чем достаточно, чтобы уничтожить цивилизацию. Почему этого не произошло? Политологи считают, что ключевую роль сыграло появление к середине 1960-х гарантированного потенциала ответного удара. Обе стороны знали, что даже если они нанесут удар первыми, противник сможет ответить. Это снижало стимулы к нападению.
А теперь представьте обратный сценарий — технологию «безопасного первого удара». Возможность полностью уничтожить противника так, чтобы он не смог ответить. Если такая технология появится, гонка начинается заново. Даже если никто не хочет войны, страх, что противник ударит первым, подтолкнет к превентивному удару. Добавьте к этому возможность скрыть оружие — и любые договоренности о разоружении становятся невозможными, потому что их нельзя проверить.
Здесь уже не нужны одиночки-нигилисты. Государства попадают в ловушку, из которой один шаг до катастрофы.
Тип 3. «Худшее глобальное потепление»
Для этого сценария не нужно злонамеренных акторов. Достаточно миллиардов обычных людей, которые просто пользуются электричеством, водят машины, отапливают дома. Каждый из них вносит микроскопический вклад в общую проблему. Но если чувствительность климата окажется выше, чем мы думаем, и те же выбросы приведут к росту не на 3-4 градуса, а на 20, — цивилизация рухнет.
Отказаться от личного удобства ради неуловимого общего блага психологически трудно. А если еще и ископаемого топлива окажется больше, а «чистых» технологий — дороже и сложнее, ловушка захлопнется.
Как решить проблему, не создавая новых проблем?
Если гипотеза верна, у нас есть несколько вариантов ответа. Во-первых, можно перестать тянуть шары из урны, то есть остановить технологический прогресс. Это нереалистично и само по себе катастрофа.
Во-вторых, попробовать переделать человеческую природу. Устранить «апокалиптический остаток», убрать склонность великих держав рисковать цивилизацией ради безопасности, а у обывателей — ставить личный комфорт выше глобального блага. Звучит фантастически.
Остаются два варианта, и оба пугают не меньше, чем сама угроза.
Вариант 1. Абсолютно надежная полицейская система
Такой уровень слежки, который позволит перехватить любого, кто начнет готовить акт массового уничтожения.
Предлагаем мысленный эксперимент. Представьте себе «браслет свободы», который обязан носить каждый гражданин. Он оснащен камерами и микрофонами, направленными во все стороны. Поток видео и аудио в реальном времени загружается в центр, где ИИ анализирует его на предмет подозрительной активности. При малейшем подозрении картинка выводится на пульт «офицера свободы». Офицер может связаться с носителем, потребовать объяснений, отправить дрон или группу быстрого реагирования.
Технически это уже почти осуществимо, а вот политически — пока нет. Но представим, что есть всего злоумышленник, который собрал бомбу и стер город или страну с лица земли. После такого акта сопротивление общественности может исчезнуть, люди станут куда более благосклонно относится к тому, чтобы за ними подсматривали и подслушивали.
Общественность, вероятно, поддержит политику, которая ради предотвращения следующей атаки готова посадить 100 невинных ради одного реального заговорщика.
Вариант 2. Эффективное глобальное управление
Способность единого центра принимать решения, обязательные для всех стран.
В случае «безопасного первого удара» решение просто: запретить всем государствам разрабатывать и применять эту технологию. Но простота только на бумаге. Человеческая история — это череда войн. Мы с трудом решаем даже простые коллективные действия. Создать единый центр принятия решений — колоссальная задача. Будет ли это мировое правительство, гегемон или система невероятно прочного межгосударственного сотрудничества — вопрос открытый.
И у тотальной слежки, и у мирового правительства есть очевидные минусы. Да и этот вариант может стать идеальным инструментом для диктатур. Глобальное правительство может подавить конкуренцию, стать нелегитимным, забюрократизированным и оторванным от людей.
Иллюзия времени
Самая опасная мысль — отложить решение на потом. «Вот когда появится реальная угроза, тогда и начнем».
Холодная война показала обратное. Полвека мир висел на волоске от ядерной катастрофы. Эту угрозу можно было бы радикально снизить простым разоружением. Человечество оказалось неспособно выполнить самое очевидное коллективное действие.
А как определить и выявить промежуток между моментом, когда угроза становится явной, и моментом, когда должны заработать меры защиты? Сначала в научном журнале появится статья о новом технике синтеза биологии. Через два дня популярный блогер объяснит, как с ее помощью любой желающий может устроить апокалипсис. Строить систему тотальной слежки будет уже поздно.
Значит, ее нужно строить заранее, а это по сути будет готовая система для тоталитаризма. Да и насколько это реализуемо на практике — тоже большой вопрос.
Что делать прямо сейчас? Человечество привыкло жить в кредит доверия к будущему. Мы надеемся, что черного шара в мешке нет, но наша вера и надежда — не стратегия.