Компьютер всегда должно быть возможно отключить.
Этот простой принцип вмещает в себя все наши страхи, всю неуверенность и истинное отношение к электронному «разуму»: как только автомат начнёт работать не так, как нам того хотелось бы, под рукой должна оказаться кнопка, с помощью которой он будет отключён. Правда, фантасты и учёные расходятся во взглядах на причину этой необходимости. Первые считают «рубильник» предохранителем против восстания машин, гарантом безопасности цивилизации. Вторые (которым как никому другому известно, насколько ещё далека электроника от самоосознания, см. «Не избивайте пылесос, бунта машин не будет») рассматривают выключатель лишь как гарантированный способ остановить машину, если она ошибётся. Однако и те и другие признают, что выключатель необходим.
Чисто технически врезать размыкатель в цепь питания — плёвое дело. Проблема в другом. Уже сейчас машины управляют процессами, сложность которых выходит за пределы физических возможностей человеческого существа. Не обязательно компьютер играет главную роль, но он помогает избегать ошибок, которым человек подвержен куда больше электроники. И если электронного контролёра отключить, возникает угроза аварии, катастрофы.
Выходит, чем сложней и потенциально опасней процесс, тем острее необходимость не позволять человеку вмешиваться в работу автоматики. Классический пример — Чернобыль, но кто сегодня о нём помнит? Есть, впрочем, и совсем свежий образец: разбившийся в последние дни прошлого года Airbus A320-200 авиакомпании AirAsia. Рейс 8501, унесший жизни 162 человек.
Со дня крушения (см. «Ещё один пропавший самолёт и физика редких событий») прошёл месяц и за это время поисковикам и следователям удалось многое. Нос и основная часть корпуса найдены на дне Яванского моря. Поднять их, правда, не получилось и на днях индонезийские военные отказались от дальнейших попыток, но оно и не нужно: на берег доставлены останки семидесяти человек, а главное — чёрные ящики. Как результат, на прошлой неделе были официально озвучены первые факты, установленные в рамках расследования (для окончательных выводов требуется ещё несколько месяцев); пресса дополнила их неофициальными рассказами осведомлённых лиц. Всё это снова вывело рейс 8501 на первые страницы. Оказывается, машины могли его спасти.
Если коротко и упрощая, картина рисуется следующая. Спустя три четверти часа после взлёта из Сурабаи, пилоты запросили у диспетчеров разрешение подняться выше — предположительно, из-за плохой погоды по курсу (грозы в том регионе жестоки). Немедленно после того, как разрешение было получено, лайнер начал набор высоты, причём необычайно быстрый: с 9800 до 11300 метров он поднялся за полминуты, что по словам экспертов вдвое превышает разрешённую для этого типа самолётов скорость подъёма.
Не факт, что чересчур крутой подъём следует приписать действиям только пилотов. Высказывается догадка, что могла подгадить погода: зафиксировано, что лайнер «рыскал» носом, его трясло, в какой-то момент восходящие потоки, вероятно, потащили его словно бумажный. Но так или иначе резкий набор высоты привёл к падению горизонтальной скорости ниже допустимой и, после многочисленных предупреждений со стороны автоматики о сваливании в штопор, 8501 действительно в него свалился. Следующие три минуты лётчики безуспешно пытались восстановить управление.
Первое, что приходит в голову, когда слышишь такое, это задаться вопросом о компетентности пилотов, что собственно и делают сейчас западные и азиатские СМИ. Тем более, что есть зацепка: расшифровка данных с чёрных ящиков показала, что во время манёвра по высоте самолётом управлял не опытный капитан (20 тысяч часов налёта, в прошлом военный лётчик), а значительно менее опытный второй пилот (2 тысяч часов за штурвалом). Но есть и более интересная деталь. Оказывается, за секунды до манёвра капитан произвёл, как говорят, «нестандартную операцию». Какую? Он отключил два дублирующих друг друга бортовых компьютера, которые мешали совершить резкий набор высоты.
Компьютеры эти называются Flight Augmentation Computer. Управление лайнером Airbus A320 организовано в чисто цифровом режиме: между пилотами и собственно механизмами корабля находится электроника, которая оцифровывает действия человека (движения штурвала, нажатия кнопок и пр.), передаёт их к соответствующим узлам по цифровым шинам и уже на месте преобразует в аналоговую форму (если среди читателей найдутся люди, управлявшие A320, буду благодарен за поправки). Это сделано для лёгкой автоматизации и быстрой проверки всех узлов, но кроме того ещё и для контроля действий человека: FAC, в частности, не позволяет произвести слишком крутой набор высоты. Однако в чрезвычайных ситуациях автоматику можно поблочно отключить, чем капитан и воспользовался. Отсутствие контроля со стороны FAC сделало возможным аномальный манёвр. Итог известен.
Так мы возвращаемся к дилемме о контроле за электронным контролёром. С одной стороны, статистика и здравый смысл подтверждают, что электроника в критических ситуациях ведёт себя лучше человека — без эмоций, руководствуясь только логикой. С другой, не предусмотреть выключателя не позволяет тот же здравый смысл: какой оптимист решится доверить жизни сотен человек машине? Механизму, который может сломаться сам, который могут сломать, алгоритм которого можно незаметно изменить?
Быть может это всего лишь психологический порог, который мы перемахнём уже в ближайшие годы, даже не заметив: начнём, конечно, не с воздуха — с земли (робокары!). Но что, если мы так и не избавимся от страха перед машинами? Получается, продолжим оплачивать его человеческими жизнями?