Habeas Corpus Act для цифрового мира

В отношении к цифровым устройствам и специалистов, и массового сознания, возрождаются два архетипических кошмара человеческого общества. Похитители тел, андропогисты, физически утаскивающие людей в рабство, и зловещие похитители душ, незримо подчиняющие людей своей воле.  Темы эти постоянно возвращает в мир коммерческая мифология – ну, вот например, оскароносный фильм «12 лет рабства» о свободном чернокожем музыканте, мошеннически проданном на плантацию.

Рука об руку с ней в ужасах Голливуда идет тема обращения человека в послушную марионетку. Когда-то эта работа отводилась гипнотизерам, вроде демонического Свенгали из одноименных фильмов, пять раз, с 1914 по 2013 гг., снимавшихся по роману Джорджа Дюморье «Трильби» (1894 г.).  Потом тему освоила твердая научная фантастика, прежде всего роман Р.А.Хайнлайна The Puppet Masters,  «Кукловоды», 1951, также экранизированный в 1994 году. Но это все вымыслы и фантастика. Реальность куда суровее…

«Свенгали» Арчи Майо образца 1931 года стал мировой классиков в жанре ужасов…
«Свенгали» Арчи Майо образца 1931 года стал мировой классиков в жанре ужасов…

Всех нас окружают цифровые устройства – так густо, что мы о них уже забываем. И вот перехват управления любым из этих устройств сторонним, отнюдь не благожелательно к нам настроенным субъектом – вещь вполне привычная, на которой вырос гигантский бизнес кибербезопасности, оцененный Gartner в 2017 году в $89,13 млрд. (ВВП благополучной европейской Словакии в 2017 г. по оценке МВФ составил 87,3 млрд.). И страхи тут отнюдь не вымышленные, а самые подлинные – вирусы-шифровальщики, неутомимо майнящие зомби-сети и много чего еще…

Да, большинство проблем с кибербезопасностью связано с некомпетентностью и легкомыслием владельцев. Не закрыть порты, не поставить приличный антивирус, не обновлять софт, оказаться добычей «социальных инженеров»… Но можно нарваться и на проход через неизвестную добросовестным авторам программного обеспечения уязвимость. А есть ведь и самое страшное –  backdoor; уязвимость, но не случайная, а намеренно встроенная разработчиком из каких-то интересов фирмы или спецслужб. Тайные ходы тоже архетип литературы – у Дюма Мордаунт убегает от мушкетеров через подземный ход; тайный люк разрушает мечты виконта де Бражелона…

Ну, например, широко известна уязвимость Dual_EC_DRBG, эллиптического алгоритма шифрования от АНБ, которую разоблачил в статье DID NSA PUT A SECRET BACKDOOR IN NEW ENCRYPTION STANDARD? Брюс Шнайер, что в конечном счете привело к рекомендациям не использовать этот алгоритм. Но это – бэкдор программный. А может быть и бэкдор аппаратный, самый опасный, сидящий глубоко в аппаратуре и невыявляемый защитным программным обеспечением, антивирусами и сканерами кода. И избавиться от него сменой софта тоже невозможно…

И вот с какой ситуацией мы сталкиваемся – цифровых устройств вокруг нас все больше и больше. Мы зависим от них все сильнее и сильнее. А доверять им можно все меньше и меньше – ведь в каждом из них может оказаться бэкдор, который в любой момент подчинит это устройство злоумышленникам. Ну, ладно, если юноша, помогавший барышне настраивать ноутбук, начнет подглядывать за ней через камеру – ничего необычного он не увидит. (Да это и бэкдор самого примитивного уровня…)

Включить ваш компьютер или служебную сетку в зомби-сеть, майнящую криптовалюту или рассылающую спам – ну, это приведет лишь к перерасходу электроэнергии. Кража денег много хуже – но и это, в конце концов, только деньги. А вот бэкдор к медицинскому оборудованию – это смертельная угроза. И еще хуже бэкдор к автомобилю – это уже смертельная угроза не одному человеку, а неустановленному кругу лиц; представим себе тяжелый грузовик, выскакивающий на полной скорости на полосу встречного движения… А нас же еще ждет массовая роботизация.

Реклама на Компьютерре

И вот возможное наличие бэкдоров в микросхемах может подорвать доверие к умным машинам,  помешать очередному витку технологической революции устремиться ввысь с подобающей быстротой и мощью. Желая избежать этих проблем для национальной экономики, члены палаты представителей демократ от Калифорнии Зо Лофгрен и республиканец от Кентукки Томас Масси в середине мая 2018 г. внесли в Конгресс очень интересный билль о тотальном запрете бэкдоров – To prohibit Federal agencies from mandating the deployment of vulnerabilities in data security technologies.

Если для 47-летнего выпускника Массачусетского технологического, республиканца Томаса Масси, антибэкдорный билль органичен, то интерес к теме семидесятилетней доктора права Зо Лофгрен следует отнести на благотворное воздействие калифорнийской атмосферы…
Если для 47-летнего выпускника Массачусетского технологического, республиканца Томаса Масси, антибэкдорный билль органичен, то интерес к теме семидесятилетней доктора права Зо Лофгрен следует отнести на благотворное воздействие калифорнийской атмосферы…

Их поддерживает межпартийная группа конгрессменов от ряда штатов. Надеющаяся провести через обе палаты Secure Data Act 2018, в основе которого лежит очень простой принцип – безопасных бэкдоров не бывает… Об этом десятилетиями говорит такая организация, как  Фонд электронных рубежей (EFF), об этом в середине 1990-х на страницах бумажной «Компьютерры» подробно рассказывал Максим Отставнов в рубрике «Компьюномика». Суть аргументации состоит в том, что обществу принесет больше пользы тотальное доверие к цифровому устройству, чем то, что специально облеченные полномочиями лица смогут – в интересах, которые они выдадут за интересы общества – вмешаться в штатное функционирование электронных устройств.

Все процессы, протекают ли они в среде людей или умных машин, удобно описать с точки зрения трансакционных издержек. Эдакого экономического аналога диссипации энергии. Казалось бы, полная свобода отношений эти издержки минимизирует – вот задолжал купец другому купцу, или арендатор лендлорду. Кредитор может схватить должника, сковать и отправить отрабатывать долг за моря на плантации сахарного тростника. Удобно и быстро… Но – для избежания такого самосуда в Англии в 1679 г. был принят Habeas Corpus Act,  «Акт о лучшем обеспечении свободы подданного и о предупреждении заточений за морями», ограничивший своеволие не только частных лиц, но и шерифов, тюремщиков и других судей.

Этот акт установил достаточно долгие и дорогие судебные процедуры – но для общества в целом они оказались выгодными, способствовали экономическому росту. Когда бедному человеку не надо ходить озираясь, а богатому – окружать себя кольцом охраны, больше времени и денег идет на созидательную работу. Точно так же, авторы Secure Data Act 2018 считают, что вызывающие больше доверия микросхемы, алгоритмы и программы принесут экономике США больше пользы, чем удобства для АНБ и ФБР.

Прежде всего, потому, что нет никакой гарантии, что бэкдор не попадет в руки злоумышленника. Будь то обычный киберпреступник, желающий немного поднажиться, или же офицеры разведки КНР, которых ProtectWise обвиняет в многочисленных кибервзломах на территории ЕС, России, США. Дело в том, что запланированная уязвимость – очень привлекательная мишень. Продукт в разработке может стоить миллионы. Но вот специалист, занимающийся бэкдором, может выдать его за куда меньшие деньги. И хорошо, если за деньги – помните анекдоты при ректальный криптоанализ? Ни преступность, ни разведка, моралью не связаны…

В Ираке ИГИЛ (запрещена в РФ) использует дроны на американских микросхемах – но существенной угрозы интересам США эти дроны не несут…
В Ираке ИГИЛ (запрещена в РФ) использует дроны на американских микросхемах – но существенной угрозы интересам США эти дроны не несут…

А если нет бэкдора – у них нет способов облегчить себе жизнь. Да, супостат может купить твоих микросхем для своего оружия, а преступник переговариваться по шифрованной связи. Но, как сказал маршал Жака д’Эстамп дела Ферте, «Бог всегда на стороне больших батальонов».  А точнее – больших ресурсов. Покупают твои микросхемы – привносят деньги в твою высокотехнологическую экономику. На налоги с которой в случае нужды можно купить больше оружия…

Переговаривается преступник по защищенному каналу связи, и нет возможности прослушать его через бэкдор. Ну а что, сбор метаданных кто-то отменил? (Он же попал даже в стих Лео Каганова «Законопроект», строго 18+) На этот случай в Secure Data Act 2018 есть особые исключения для телекоммуникационных провайдеров – для них сохранятся нормы, установленные законом Communications Assistance for Law Enforcement Act 1994; так что не зашифровался у источника – сам себе недальновидный буратино…

Правоохранителям нужны скрытые средства перехвата управления машиной-роботом? Да нет, машина-робот должна явно исполнять требования ПДД, в том числе и остановку по законным (а точнее – процедурным!) требованиям дорожной полиции. И то же самое с другими роботами – не тайные ходы  к ним, а общепринятые и открыто обсужденные «законы робототехники». Больше заслуженного доверия к машинам – меньше трансакционные издержки и быстрее прогресс.

Но мы пока говорим о проекте закона. Будет ли он принят – сказать трудно, правоохранительное и разведывательное лобби США имеет весьма большое влияние, и ради своих сиюминутных интересов с легкостью пожертвует общественным благом. Но, как показывает Уотергейт, и на рыцарей плаща и кинжала находится управа. А тут речь идет об очень больших деньгах ИТ индустрии, способных существенно повлиять на конкурентоспособность США в глобальном мире.  Так что весьма высока вероятность принятия хабеас корпус для цифрового мира, открывающего широкие возможности автоматизации и роботизации экономики.