Ушедший год провёл незаметную, но важную черту: более половины трафика Веб теперь генерируется не человеком — машинами! Точнее, софтверными ботами и разнообразными устройствами, собирающими какую-либо информацию, маскирующимися под живых, проявляющими агрессию и т.п. Собственно значение имеет не цель, ради которой они там присутствуют, а число: прогнозы, предвещающие засилье машин, начинают сбываться!

Электронная армия — «интернет вещей» — уже огромна, но станет в разы больше в ближайшем будущем. Уже в третьем десятилетии XXI века аналитики обещают планете десятки миллиардов «умных» железок, подключенных к Сети, от простейших программных агентов (записаться к врачу? Заполнить холодильник?) и простейших же аппаратов (вроде термостата Nest и пылесоса Roomba) до сложнейших автоматических систем, трудящихся на наше благо незаметно для нас.

Рай на земле? Не совсем. Даже за обыкновенным пылесосом нужен уход: поменять мешок, заменить фильтр. За «умными» же вещами требуется присмотр особый, ведь, в отличие от «тупой» бытовой электроники, «умная» способна проявлять инициативу. И пусть искусственным интеллектом тут не пахнет, легче не будет. Об одной из просматривающихся проблем, касающихся инициативы у робокаров, речь в этой колонке недавно уже шла (и породила интереснейшую дискуссию, см. «Возможность выбирать»). Но в последние недели нарисовалась ещё одна перспектива подобного рода — связанная с гадостями, на которые способны «умные» домашние вещи.

Вот они, швейцарские фантазёры Домагож Смоле и Кармен Вейскопф. О том, кого винить в случае, если автомат напакостит, много рассуждали и до них, но эта парочка первой решилась на живой эксперимент.
Вот они, швейцарские фантазёры Домагож Смоле и Кармен Вейскопф. О том, кого винить в случае, если автомат напакостит, много рассуждали и до них, но эта парочка первой решилась на живой эксперимент.

Не далее как минувшей осенью, паре швейцарских «художников» (Mediengruppe Bitnik), упражняющихся в современном искусстве, пришла в голову идея написать бота, который будет шляться по закоулкам Сети и тратить доверенные ему деньги на случайные покупки. Бюджет был ограничен сотней долларов в неделю (выданных биткойнами), а местом проведения эксперимента стала торговая площадка Agora — сородич и главный конкурент Silk Road, прячущаяся в подпространстве TOR.

Не возьмусь объяснять, какие философские концепции надеялись проиллюстрировать авторы, выставляя покупки напоказ, но — программа была написана и процесс пошёл. Еженедельно бот оплачивал что-нибудь из каталога в полтора десятка тысяч наименований и к зиме у авторов опыта собралась занятная коллекция. Джинсы, кроссовки, сумки, сигареты, прочая ерунда. Но тут же и кепка со встроенной видеокамерой для скрытой съёмки. Набор отмычек. Фальшивый паспорт. И неожиданно — упаковка таблеток MDMA.

parcel_xts_04_1280

Можно спорить насчёт легальности отмычек или кепки (в просвещённой Европе скрытая съёмка будто бы не противозаконна), сомневаться насчёт иностранного паспорта, но относительно пилюль спора быть не может: эта покупка гарантированно нарушает закон. А вот кто его нарушил? Задачка кажется простой, но за месяц, который минул со дня, когда история получила огласку, единого мнения так и не было выработано. Хуже того, тема «виновности бота» обсуждалась теоретиками и до швейцарских экспериментальщиков — так же безрезультатно.

Так кто виноват, кого наказывать? Бота? Увольте. В законах даже самых развитых стран нет статей для софтверных агентов, роботов, «умных» вещей. Уголовные кодексы пишутся людьми для людей. Значит, виновны художники? О, эти готовы ответить по всей строгости закона: они признают, что владеют таблетками и что именно они заставили код исполняться. Но в то же время они надеются, что в их конкретном случае наказания удастся избежать, поскольку в их родной Швейцарии искусство существует на особых правах: творческие личности, действующие в интересах общества, избавлены от некоторых ограничений. Попросту говоря, им достаточно доказать, что покупка наркотиков была произведена в рамках арт-эксперимента — и более не беспокоиться.

Увы, в других странах всё не так однозначно. Юристы, пытавшиеся комментировать этот случай, рассуждают примерно следующим образом. С одной стороны, для преступления требуется наличие намерения, умысла — а его здесь не было, ведь артисты не намеревались приобрести именно наркотики; в худшем случае они надеялись поразить посетителей выставки необычным экспонатом. С другой стороны, они не могли не знать, что использование бота способно окончиться покупкой наркотических препаратов (в конце концов, Agora — не лучшее место для добропорядочных граждан), а следовательно, нельзя утверждать, что экстази был куплен совершенно случайно. Если здесь и имела место неосторожность, то неосторожность преступная! Обвинению будет за что зацепиться.

576_v1

А теперь представьте, что нечто подобное случилось не в рамках арт-эксперимента, а в повседневности. Бот, которого вы отправляете за покупками, уходит не в тот магазин и покупает не то. Семантическая Веб ведь так до сих пор и не построена, а понимать контекст самостоятельно машины не научились и вряд ли научатся в обозримом будущем. Так что нетрудно предположить, что в один «прекрасный» день бот закажет для ничего не подозревающего хозяина вместо меда мет. Что тогда?

Следует признать, что обыватель находится в сравнительно лучшем положении по сравнению с артистом: он лишь использует «умную» вещь, он её не писал, не строил. Однако манера пользования такой вещью тоже способна стать основанием для обвинения. Уже через год Google обещает робокары на дорогах — и кто знает, как быстро граждане научатся заставлять свои автоматические авто проскакивать на краснеющий зелёный? А дроны? Что если владелец, программируя маршрут, по невнимательности заставит свою механическую птицу вторгнуться в в воздушное пространство аэропорта, где та пересечётся с самолётом? Что если «умный» термостат, привыкший к обожающим экстремальные температуры хозяевам, поднимет выше нужного или опустит ниже допустимого температуру в помещении с ребёнком? Если робопылесос, устав разгребать завалы грязи, посчитает комком пыли попугайчика? Наконец, и вышеупомянутый бот купит мет только потому, что ему разрешат ходить в том числе в «подпольные» интернет-магазины.

Кто-то скажет: фантазёрство! Что ж, век «умных» вещей ещё не наступил, мы больше о них мечтаем, чем пользуемся. Но то, что мы пока не в силах вообразить всех возможных опасных ситуаций, которые такие вещи породят, отнюдь не означает, что проблем не будет вовсе. Отсутствие доказательства не является доказательством отсутствия — и человек столько раз на этом обжигался, что пора бы уже просто принять этот постулат на веру, если лень его понимать.

Скорее наоборот, в лице «умных» вещей мы сталкиваемся с бесконечным полем вероятных — и реальных! — опасностей. Есть время подготовиться.