Ушедший год провёл незаметную, но важную черту: более половины трафика Веб теперь генерируется не человеком — машинами! Точнее, софтверными ботами и разнообразными устройствами, собирающими какую-либо информацию, маскирующимися под живых, проявляющими агрессию и т.п. Собственно значение имеет не цель, ради которой они там присутствуют, а число: прогнозы, предвещающие засилье машин, начинают сбываться!

Электронная армия — «интернет вещей» — уже огромна, но станет в разы больше в ближайшем будущем. Уже в третьем десятилетии XXI века аналитики обещают планете десятки миллиардов «умных» железок, подключенных к Сети, от простейших программных агентов (записаться к врачу? Заполнить холодильник?) и простейших же аппаратов (вроде термостата Nest и пылесоса Roomba) до сложнейших автоматических систем, трудящихся на наше благо незаметно для нас.

Рай на земле? Не совсем. Даже за обыкновенным пылесосом нужен уход: поменять мешок, заменить фильтр. За «умными» же вещами требуется присмотр особый, ведь, в отличие от «тупой» бытовой электроники, «умная» способна проявлять инициативу. И пусть искусственным интеллектом тут не пахнет, легче не будет. Об одной из просматривающихся проблем, касающихся инициативы у робокаров, речь в этой колонке недавно уже шла (и породила интереснейшую дискуссию, см. «Возможность выбирать»). Но в последние недели нарисовалась ещё одна перспектива подобного рода — связанная с гадостями, на которые способны «умные» домашние вещи.

Не далее как минувшей осенью, паре швейцарских «художников» (Mediengruppe Bitnik), упражняющихся в современном искусстве, пришла в голову идея написать бота, который будет шляться по закоулкам Сети и тратить доверенные ему деньги на случайные покупки. Бюджет был ограничен сотней долларов в неделю (выданных биткойнами), а местом проведения эксперимента стала торговая площадка Agora — сородич и главный конкурент Silk Road, прячущаяся в подпространстве TOR.

Не возьмусь объяснять, какие философские концепции надеялись проиллюстрировать авторы, выставляя покупки напоказ, но — программа была написана и процесс пошёл. Еженедельно бот оплачивал что-нибудь из каталога в полтора десятка тысяч наименований и к зиме у авторов опыта собралась занятная коллекция. Джинсы, кроссовки, сумки, сигареты, прочая ерунда. Но тут же и кепка со встроенной видеокамерой для скрытой съёмки. Набор отмычек. Фальшивый паспорт. И неожиданно — упаковка таблеток MDMA.

Реклама на Компьютерре

Можно спорить насчёт легальности отмычек или кепки (в просвещённой Европе скрытая съёмка будто бы не противозаконна), сомневаться насчёт иностранного паспорта, но относительно пилюль спора быть не может: эта покупка гарантированно нарушает закон. А вот кто его нарушил? Задачка кажется простой, но за месяц, который минул со дня, когда история получила огласку, единого мнения так и не было выработано. Хуже того, тема «виновности бота» обсуждалась теоретиками и до швейцарских экспериментальщиков — так же безрезультатно.

Так кто виноват, кого наказывать? Бота? Увольте. В законах даже самых развитых стран нет статей для софтверных агентов, роботов, «умных» вещей. Уголовные кодексы пишутся людьми для людей. Значит, виновны художники? О, эти готовы ответить по всей строгости закона: они признают, что владеют таблетками и что именно они заставили код исполняться. Но в то же время они надеются, что в их конкретном случае наказания удастся избежать, поскольку в их родной Швейцарии искусство существует на особых правах: творческие личности, действующие в интересах общества, избавлены от некоторых ограничений. Попросту говоря, им достаточно доказать, что покупка наркотиков была произведена в рамках арт-эксперимента — и более не беспокоиться.

Увы, в других странах всё не так однозначно. Юристы, пытавшиеся комментировать этот случай, рассуждают примерно следующим образом. С одной стороны, для преступления требуется наличие намерения, умысла — а его здесь не было, ведь артисты не намеревались приобрести именно наркотики; в худшем случае они надеялись поразить посетителей выставки необычным экспонатом. С другой стороны, они не могли не знать, что использование бота способно окончиться покупкой наркотических препаратов (в конце концов, Agora — не лучшее место для добропорядочных граждан), а следовательно, нельзя утверждать, что экстази был куплен совершенно случайно. Если здесь и имела место неосторожность, то неосторожность преступная! Обвинению будет за что зацепиться.

576_v1

А теперь представьте, что нечто подобное случилось не в рамках арт-эксперимента, а в повседневности. Бот, которого вы отправляете за покупками, уходит не в тот магазин и покупает не то. Семантическая Веб ведь так до сих пор и не построена, а понимать контекст самостоятельно машины не научились и вряд ли научатся в обозримом будущем. Так что нетрудно предположить, что в один «прекрасный» день бот закажет для ничего не подозревающего хозяина вместо меда мет. Что тогда?

Следует признать, что обыватель находится в сравнительно лучшем положении по сравнению с артистом: он лишь использует «умную» вещь, он её не писал, не строил. Однако манера пользования такой вещью тоже способна стать основанием для обвинения. Уже через год Google обещает робокары на дорогах — и кто знает, как быстро граждане научатся заставлять свои автоматические авто проскакивать на краснеющий зелёный? А дроны? Что если владелец, программируя маршрут, по невнимательности заставит свою механическую птицу вторгнуться в в воздушное пространство аэропорта, где та пересечётся с самолётом? Что если «умный» термостат, привыкший к обожающим экстремальные температуры хозяевам, поднимет выше нужного или опустит ниже допустимого температуру в помещении с ребёнком? Если робопылесос, устав разгребать завалы грязи, посчитает комком пыли попугайчика? Наконец, и вышеупомянутый бот купит мет только потому, что ему разрешат ходить в том числе в «подпольные» интернет-магазины.

Кто-то скажет: фантазёрство! Что ж, век «умных» вещей ещё не наступил, мы больше о них мечтаем, чем пользуемся. Но то, что мы пока не в силах вообразить всех возможных опасных ситуаций, которые такие вещи породят, отнюдь не означает, что проблем не будет вовсе. Отсутствие доказательства не является доказательством отсутствия — и человек столько раз на этом обжигался, что пора бы уже просто принять этот постулат на веру, если лень его понимать.

Скорее наоборот, в лице «умных» вещей мы сталкиваемся с бесконечным полем вероятных — и реальных! — опасностей. Есть время подготовиться.