Окружая себя «умными» вещами, мы помним, что однажды это увлечение может выйти боком: слишком заботливые, слишком самостоятельные, работающие по скрытым от глаз алгоритмам, они способны превратить нашу жизнь в кошмар. Но так уж получалось, что до последнего времени опасения оставались опасениями, не больше. И только сейчас, буквально за каких-нибудь десять дней, проблема показала себя во всей красе — волей случая проявившись на примере продуктов одной компании-производителя.

Не претендую на точное воспроизведение последовательности, но случилось примерно следующее. В один прекрасный январский денек кто-то из журналистов заглянул в пользовательское соглашение, сопровождающее «умный» телевизор Samsung, и, продравшись сквозь дебри специальной терминологии, обнаружил неприятную вещь: предупреждение о собираемой им (телевизором) информации. Оказалось, «ящик» не только слышит всё, произносимое людьми в комнате, где установлен, но и передаёт собранные сведения третьим сторонам, если эти сведения содержат персональную и «прочую деликатную» информацию.

Сторонние эксперты быстро разъяснили (и Samsung подтвердила), что речь идёт не о (фигурально выражаясь) «шпионаже в пользу АНБ», а лишь о помощи в расшифровке голосовых команд и других аналогичных вспомогательных работах, которые сама Samsung не предоставляет, а телевизор самостоятельно выполнить не в состоянии. Однако панику это не предотвратило. В популярной прессе поднялась шумиха («Телевизоры теперь подслушивают!»), на которую очень удачно легла вторая история.

Слишком умные?

В ней тоже оказались замешаны «умные» самсунговские ТВ. Некоторые из зрителей, проживающих в Северной Америке и Австралии, столкнулись со странным поведением своих телевизоров — начавших без всякого предупреждения каждые полчаса прерываться на рекламу. Реклама — обычное дело, если вы смотрите собственно телевидение, но в данном случае кто-то из жертв смотрел платный кинопоток от своего интернет-провайдера, а кто-то и вовсе крутил фильмы с жёсткого диска домашнего компьютера! После того, как подозрения в адрес ТВ-приложений и провайдера были отметены, выяснилось (и Samsung опять-таки это официально подтвердила), что рекламная врезка — HD-ролик Pepsi, без звука — показывался по инициативе самого телевизора. Samsung активировала функцию вставки рекламы в телеконтент по ошибке (в будущем пользователь, якобы, будет сам решать, смотреть ли ему такую рекламу — вероятно, в обмен на какие-то льготы).

Что ж, шум стоит до сих пор, но приток фактов иссяк и можно сделать промежуточные выводы — тем более, что выводы в данном случае получаются чуть ли не интересней, чем сам скандал, давно уже свалявшийся в один липкий ком обвинений, подозрений, сомнительных оправданий и прочего.

Во-первых, случившееся замечательно проиллюстрировало, что обыватели в массе своей не подозревают, насколько коварно умны «умные» вещи. Что телевизор теперь слушает и расшифровывает речь, что термостат (сами знаете какой) слушает и осязает, что электронные браслеты-трекеры чувствуют и пишут чуть ли не каждый чих. Публика воспринимает «умные» вещи с позиции, навязанной рекламщиками: «умная» — значит, прежде всего красивая, современная, может быть удобная, наверняка престижная. Мало кто задумывается, как глубоко способна такая вещица заглянуть в личную жизнь хозяев, как много информации собрать и выдать. Отсюда — неизбежное неприятное удивление, когда правда открывается.

А на подходе умные стиральные машины и холодильники, электросчётчики и посудомойки, системы освещения и вентиляции...
А на подходе умные стиральные машины и холодильники, электросчётчики и посудомойки, системы освещения и вентиляции…

Во-вторых, хоть пока все шишки валятся на Samsung, проблема, конечно же, не ограничивается ею. Совершенно так же пользователя ставят перед невозможным выбором и другие производители: либо человек соглашается делиться собираемой о нём информацией, либо устройство отказывается работать или ему урезают «умный» функционал. В частности, именно так дело обстоит с телевизорами LG, причём ситуация там определённо развивается в сторону ухудшения (см. весеннюю «Смерть по расписанию»).

А ведь глобальное потепление отношений к «умным» устройствам уже началось. Есть статистика, по которой треть граждан США владеют как минимум одной smart-железкой, не считая смартфона. Пока ещё это в основном «умные» телевизоры, но уже до конца года к ним добавятся разнообразные продукты из категории носимой цифровой электроники (браслеты, очки и т.п.). Из числа тех же американцев такое сейчас носит лишь каждый десятый, а до конца 2015 будет носить каждый третий.

Отсюда — вывод номер три: уследить, какие данные собираются и как они используются, трудно уже сейчас, а совсем скоро станет практически невозможно. Да, конечно, производители отстаивают позицию добропорядочного использования (мол, сбор ведётся, чтобы лучше обслуживать самого пользователя, в его интересах), но учитывая, что интересы пользователя часто трактуются в пользу производителя (а как ещё понимать расшифровку разговоров ради более точного выбора рекламы?) и стремительно множащееся количество наблюдающих за нами устройств (Siri, Nest, Amazon Echo, Xbox, «умные» телевизоры, браслеты и т.д. и т.д.), можно ли верить производителям на слово?

Редкие энтузиасты, пробующие провести проверку своими силами, находятся в ужасе от увиденного: так визуализация сетевых соединений «умного» телевизора Samsung показывает, что он активно коннектится к левым серверам, где ему и делать-то как будто бы нечего.

Too-smart-4

Но нельзя ли ограничить самодеятельность «умных» устройств? Увы — и это четвёртое наблюдение — либо нельзя, либо очень сложно. Выключатель, если он есть, спрятан глубоко в системных настройках, где его подчас невозможно отыскать даже по официальной инструкции (именно так обстоит дело с непрошеной рекламой Pepsi: чтобы её отключить, пользователям предложили снять галочку напротив опции Yahoo! Privacy Policy, но не каждому удалось такой пункт в своих телевизорах найти). Либо отключение «умной» функции не предусмотрено вовсе, а попытки выкорчевать её самостоятельно могут стоить гражданину свободы.

Шутка? Отнюдь. Печальной славы DMCA в Соединённых Штатах, похожие законы в Европе и России, в том числе налагают запрет на обход защитных механизмов в цифровой технике. Коммерчески успешные «умные» устройства — это, как правило, смесь свободного и проприетарного кода, и производители не желают, чтобы в ней кто-нибудь копался. Закон на их стороне. Установка патчей, перепрошивка могут квалифицироваться как уголовное преступление.

В США активисты-правозащитники (EFF, SFC и др.) сейчас штурмуют ведомства и законодателей, призывая хотя бы ослабить этот запрет — чтобы гражданин знал, что его не привлекут к ответственности за попытку перенастроить «умный» телевизор или перепрошить бортовой компьютер автомобиля. Пока безуспешно.

P.S. В статье использованы иллюстрации Samsung Tomorrow, Paul Downey.