Будущее глазами фантастов — это не только летающие автомобили, дешёвая энергия, роботы в очередях за хлебом, всемогущая медицина. Самые впечатляющие, самые страшные сценарии построены на допущении возможности вмешательства искусственного интеллекта в человеческую жизнь. «Одиссея» Кларка, «Механическое пианино» Воннегута, «Матрица» братьев Вачовски и многие другие произведения рисуют одну и ту же картину: машина решает за человека. Идея эта ассоциируется в нашем сознании с настолько радикальным переломом в человеческой истории, что едва ли хоть кто-нибудь из ныне живущих готов вот так с ходу с нею согласиться — и уступить электронному «мозгу» свободу выбора, свободу воли. Но проблема в том, что спрашивать нас, похоже, не станут. Начав с малого, ИИ уже принимает решения за нас и даже пробует улучшить летопись событий.

Нет, речь не о компьютерах, управляющих атомными субмаринами или каким-нибудь суперважным медицинским оборудованием. Речь о происходящем буквально у нас под носом. Посмотрите на Google. Пользователи смартфонов и планшеток с Android (для iOS требуется установка отдельного приложения) знают, что уже какое-то время фотографии, сделанные мобильным устройством, автоматически перекачиваются в облачный аккаунт пользователя — но не просто там складируются, а и подвергаются обработке, тоже, понятное дело, автоматической. Занимается обработкой частичка того самого «сильного ИИ», который нынче строит и Google, и все интернет-гиганты (см. «Для чего «Фейсбуку» сильный ИИ?»). Впрочем, чтобы не забивать головы людям лишней информацией, функция представлена максимально просто: названа «Автокреатив», без лишних терминов и объяснений. Обработанный снимок предъявляют пользователю, а он выбирает, оставить его или оригинал.

Это Роберт Смит с супругой. Подробней об этом фото будет рассказано далее, а пока просто заметьте, что снимок, в общем, удачный. Все в фокусе, все улыбаются.
Это Роберт Смит с супругой. Подробней об этом фото будет рассказано далее, а пока просто заметьте, что снимок, в общем, удачный. Все в фокусе, все улыбаются.

В простейшем случае автообработка сводится к наложению на фотографию фильтра: меняются цвета, добавляются «художественные» искажения. И случается так, что результат выходит очень удачным. Признаюсь, минувшим летом я без предупреждения поставил над читателями своей колонки опыт: подбирая снимки для «7300 километров по России», использовал один кадр, обработанный именно гугловским «Автокреативом». За четыре месяца, минувших с того дня, никто ничего не заподозрил. Если интересно, можете попробовать вычислить снимок сейчас, правильный ответ приведу ниже.

Я не люблю обрабатывать фотографии (любая постобработка уничтожает полезную информацию), да и на мой личный взгляд, тот снимок и без обработки был хорош. Однако ИИ, вмешавшись без спросу, настолько тонко подчеркнул особенности сюжета, что я не нашёл в себе сил отказаться. И с тех пор меня не оставляет вопрос: не следовало ли указать гугловский ИИ в качестве соавтора? Конечно, талантливый фотограф и сам обнаружил бы на «негативе» детали, которые необходимо выделить, усилить, наложил бы необходимые фильтры. Но ведь в данном случае машина приняла решение за меня — и решение удачное! Так нет ли у ИИ некоторого — пусть не юридического, но хотя бы морального — права требовать упоминания своего вклада в произведённую работу?

Впрочем, это ещё ерунда, затравка, нужная только чтобы ввести вас в курс дела (кстати, правильный ответ: снимок берега Байкала с чуть-чуть, самую малость, выкрученными цветами). С месяц назад некто Роберт Эллиот Смит — человек, более известный в научном мире, нежели широкой публике: он занимается, в частности, проблемой сложности вычислительных задач — описал в своём блоге случай куда более интересный. Роберт так же столкнулся с удачным вмешательством «Автокреатива» в фотографический процесс. Вот только вместо изменённых цветов он получил фотографию события, которое… никогда не происходило.

Та же сцена, но Роберт слегка не в фокусе. Сортируй фотографии человек, эту бы отбраковали.
Та же сцена, но Роберт слегка не в фокусе. Сортируй фотографии человек, эту бы отбраковали.

Как-то осенним вечерком, отдыхая во Франции, Смиты заглянули в местное кафе. Там родственник нашего героя сделал его смартфоном серию снимков, запечатлев Роберта с супругой. Обычная ситуация: из нескольких фотографий планировалось впоследствии выбрать лучшую. Но ещё до того, как он занялся сортировкой, гугловский «Автокреатив» предложил (и даже подписал: «Smile!») отличный кадр, на котором оба наших героя улыбаются и находятся в фокусе. Человек со стороны не заподозрит подвоха: снимок вышел отличный, вполне достойный помещения в рамочку дома или на стену в соцсети (фото №1 в этой колонке). А вот Роберт испугался: ведь сам он этого снимка не делал!

Реклама на Компьютерре

Гугловский ИИ скомбинировал его из двух фотографий, вырезав из одной (где Смит получился размыто, см. фото №2) супругу и антураж, из другой (где не было видно белозубой улыбки супруги, см. фото №3) — самого Смита. Этого момента в действительности не было. Но машина решила, что его стоит придумать.

Комментируя фотографию, Смит хорошо объяснил причину своей тревоги: раз машины уже изобретают ситуации, их самодеятельность уже может выйти нам боком. Сильно упрощая, может случиться, например, так, что автоматически собранное фото бросит подозрение на невиновного человека. Вспомните нашу дискуссию о приватности (см. в том числе комментарии): социальные сети уже могут засветить вас против вашего желания — в случае же с ИИ ещё и момент, ситуация, будут созданы искусственно!

Представьте, например, что на перекрёстке, который вы проезжаете, некий автомобиль сбивает человека и скрывается. Случайный очевидец успевает сделать несколько снимков, где авто виновника получается, увы, размыто. Но, подобно ужину Смитов, гугловский «Автокреатив» собирает из нескольких кадров один удачный, на котором виновником кажетесь уже вы. И автор публикует это фото где-нибудь в Сети. Гарантированный минимум последствий: скандал, разговор с представителями правоохранительных органов, неприятный осадок на душе и в памяти поисковых систем (откуда их сможет вытащить, например, отдел кадров, когда вы пожелаете устроиться на новую работу). А что если фото увидят не сетяне, а присяжные в суде? И никто не вспомнит, что кадр — синтетический, придуманный?

И снова те же лица: здесь супруга Роберта улыбается не в полную силу, так что при ручной сортировке снимок тоже был бы удалён.
И снова те же лица: здесь супруга Роберта улыбается не в полную силу, так что при ручной сортировке снимок тоже был бы удалён.

Но есть и другая опасность, смысл которой трудно объяснить человеку от техники далёкому, но которую компьютерровская аудитория должна понимать. Машины переписывают нашу историю, корректируют её так сказать в лучшую сторону. Но что такое «лучше» с точки зрения компьютера, алгоритма? Да, несложная программа способна определить, что изгиб губ на снимке близок к синусоиде, что цветовая структура зубов близка к белому цвету. Но забытые на поле брани мертвецы тоже белозубо скалятся в небо, однако вряд ли кто-то из живых сочтёт это красивым. Машина не понимает контекста, а значит не в состоянии заменить нас. Значит — необходимо заставить её спрашивать нашего мнения относительно автоматически составленных фото, необходимо маркировать автоматически составленные снимки, чтобы случайно не навредить людям.

Вот только тратить на это время никто, конечно же, не будет. Обыватель ведь ценит не точность, а простоту. И так же, как персональный компьютер из точного инструмента превратился в «утюг», «автокреативные» фото быстро станут нормой, обыденностью. Сегодня ими снабжает только Google, завтра они будут в каждой соцсети, каждом фотосервисе. Человек с улицы не станет беспокоиться, что зафиксированного на снимке момента не существовало, что машина тупо сравнивала числа — он будет просто пользоваться результатом.

Впрочем, почему будет? Уже. Считайте, момент настал и прошёл. Машины решают за нас.