Реальные угрозы от реальных роботов

Связанные с искусственными существами страхи проходят по ведомству культуры, обитая в самых популярных на текущий момент её разновидностях. Сначала был пражский Голем из устной легенды. Потом — литературное чудовище Франкенштейна. Роботы Чапека вершили свои чёрные дела на подмостках театра. Эстафету принял Голливуд, с которым соседствуют рассуждающие об этике боевых дронов университетские гуманитарии… А вот реальные угрозы от реальных роботов в поле зрения общества не попадают, хотя о них должен знать и бизнесмен, и инженер, и просто человек нашего времени!

Была в советское время такая дисциплина в инженерных вузах — «техника безопасности и охрана труда», ТБиОТ. И читать её начинали очень оригинально — надиктовывая студентам, за какое её нарушение какой срок предусмотрен действовавшей на тот момент редакцией Уголовного кодекса РСФСР, который призывал чтить даже Остап Бендер. Действовало! И не только на молодёжь. Министерские институты повышения квалификации уделяли важное место ТБиОТ в учебных планах переподготовки директоров и главных инженеров: увечья и гибель работников были тем, за что реально можно было пойти под суд…

Так что технике безопасности и охране труда уделялось внимание серьёзное. И, видимо, можно сказать, что она вполне соответствовала требованиям индустриальной эпохи. Но теперь эра информационная, и все большую роль и в материальном производстве, и в сервисных службах, и в быту станут играть новые работники — железные или пластмассовые, с кремниевыми мозгами («Хороший год для роботов»). И поэтому необходимо позаботиться о том, чтобы они не создали угрозы людям, ещё до их массового пришествия.

Кстати, даже в девяностые годы в Союзном государстве России — Беларуси принимались очень важные для этой сферы документы. Скажем, ГОСТ 12.2.072-98 Роботы промышленные. Роботизированные технологические комплексы. Требования безопасности и методы испытаний, разработанный Межгосударственным техническим комитетом по стандартизации МТК-75 в 1998 году. Он устанавливал «общие требования безопасности к конструкции промышленных роботов… при проектировании, изготовлении, программировании, эксплуатации, ремонте, техническом обслуживании и организации роботизированных технологических комплексов (РТК) и участков (РТУ), а также методы испытаний».

Поскольку ещё во времена бумажной «Компьютерры» зародилась традиция использования её текстов при написании курсовых и дипломных работ, скажем, что данный документ исчерпывающе описывает те угрозы, которые могут создать стационарные роботы, работающие в промышленном производстве — скажем, штамповочном цеху. Да и вполне пригоден для того, чтобы на его основе формулировали требования безопасности к стационарным роботам-грузчикам («Окупаемы ли роботы-грузчики…»).

Дело в том, что робот-сварщик или штамповщик ничем особенным не отличается от традиционных машин индустриальной эпохи. У него есть исполнительный орган — как правило, «рука» с четырьмя–шестью степенями свободы… Она работает в определённом рабочем пространстве. И, случись в нём рука или голова белкового рабочего, последнему придётся несладко. А потом — и его начальнику, и владельцу завода… Кого-то ждут административные или уголовные наказания, кого-то — иски, которые в некоторых странах могут быть многомиллионными… Ничего хорошего!

Но и — ничего особо страшного. Рабочее пространство по ГОСТу должно быть отгорожено от цеха защитными средствами. В конструкцию обязательно вводится разблокирующее устройство, единственное фиксированное положение которого разрешает работу робота. То есть это аналог ограждений или блокировок пресса или токарного станка. А то, что действия исполнительных элементов робота осуществляются по более гибкой программе (в зависимости от того, как точно позиционирован, скажем, кузов автомобиля), не имеет значения… Просто в рабочем пространстве не должно быть людей!

Знала же любая вчерашняя колхозница, пришедшая на завод, что косы надлежит заплести туго и убрать под платок. И что, положив заготовку под штамп, надлежит убрать руку и опустить защитное ограждение, «концевик» которого разблокирует привод («стахановки» ноги с ножного выключателя порой не убирали…). Но тяга к получению Darwin Awards в человечестве сильна: почётное звание первой жертвы робота заслужил 25 января 1979 американец Роберт Уильямс с литейного завода Ford Motor Company во Флэт-Роке (Мичиган). Его прикончила «рука» однотонного робота.

Однако никакого «бунта машин» там не наблюдалось. Просто полному трудового энтузиазма янки показалось, что робот слишком медленно подаёт заготовки. Он полез сделать это вручную, проник в рабочее пространство робота и получил по голове манипулятором. Так что эта грустная история ничем не отличается от тех баек, которые рассказывали школьникам начала семидесятых мастера учебно-курсовых комбинатов. Мол, молодой рабочий отрастил длинные (под Beatles) волосы, из ложной гордости не повязал косынку — и был затянут в станок…

Сказать, происходили ли живописные случаи на самом деле, нельзя: дальше обычно шли сентенции, что в армии из него дурь выбили бы. Но общую идею они передавали правильно: те силы, которые задействованы в производстве, смертельно опасны, если оказаться в ненадлежащем месте. Таковое место инженер обязан разметить и разградить во времени и пространстве (работает робот — человек не лезь, нужно человеку что-то сделать — отожми разблокирующее устройство), а рабочий — неукоснительно эту разметку, пространственную и временную, соблюдать. Понятно ведь, что сам робот на тогдашнем уровне технологии опознать человека не мог!

Дальше приведём интересную цифру — десять миллионов долларов образца 1983 года (куда более весомых, чем современные). Именно столько взыскал в пользу семьи Роберта Уильямса суд графства Уэйн (Wayne County) с произведшей робота Litton Industries. Что ж, крупнейший военный подрядчик США столько заплатить может… А вот робототехническому стартапу пени, судебные издержки и возросшие расходы на страхование гражданской ответственности могли бы оказаться не по плечу! Так что забота о том, чтобы производимые машины были безопасны для людей, должна быть главной в робототехническом бизнесе.

«Primum noli nocere», как говорят медики, к которым в США за ущерб здоровью пациента также предъявляются многомиллионные иски… Примечательна история сервисного инженера Кэндзи Урады из Kawasaki Heavy Industries. Он 4 июля 1981 чинил не полностью обесточенного робота, который, придя вдруг в действие, затолкал его в шлифовальный станок… Так что тут тоже имело место грубейшее нарушение техники безопасности, от которого предостерегают требования раздела 4.2.2 отечественного ГОСТа 12.2.072-98… И 77 связанных с роботами несчастных случаев, имевших место в Великобритании в 2005 году, были примерно такого характера.

И точно такие же реальные угрозы создают сегодняшние реальные роботы в США. Вот материал «Robots At Work: A Look At Robot Safety», представленный американской Ассоциацией промышленной робототехники. Организацией, с гордостью говорящей, что с 2012 года по 2012 количество роботов в промышленности США возросло на 38%, и их всемирные поставки к 2016 году достигнут 190 тыс. штук. Так вот, те несчастные случаи, которые приводит Управление по охране труда, подразделение Министерства труда США, целиком «укладываются» в нарушения требований нашего ГОСТа (и, видимо, аналогичных зарубежных документов).

15 декабря 2012 года американский рабочий входит в рабочую зону робота — и получает летальные повреждения… Тридцать пять лет (на недавний Татьянин день) прошло с поступка Уильямса — а пролетарские нравы все те же! Или инженеры так же пренебрегают разметкой рабочих пространств и установкой ограждений? (Несмотря на многомиллионные убытки, которые грозят их нанимателям; да и идею о том, что человеческая жизнь обладает некоей самоценностью, вроде бы никто не отменял…) То есть те реальные роботы, которые вполне могут коренным образом изменить экономический пейзаж («Промышленное производство возвращается в Соединённые Штаты»), создают лишь те реальные угрозы, которые могут быть предотвращены давно известными мерами ТБиОТ (на миниатюре к колонке видны ограждения).

Разнести в пространстве и времени робота и человека! Не надо шляться по роботизированному складу. Даже когда системы технического зрения хорошо распознают человека, набранную погрузчиком инерцию в один миг не погасить, а вилы его довольно остры… И надо выключить машину, если необходимо что-то поправить в её рабочем пространстве. Обратим внимание: ещё до роботов-водителей дорожное движение строилось на пространственно-временном разделении: люди — и машины, проезжие части, тротуары, «зебры», светофоры…

А до совсем разумных машин, которые станут совсем гибко сосуществовать с людьми в одних пространствах, дело пока что не дошло. Нет их в железе и кремнии. Только предстоит создать те нейрочипы, которые станут их нервами и мозгами. Так что об угрозах от них говорить рано… Хотя они могут быть довольно серьёзными. Поскольку мы вели речь о важных, но скучных вещах, посмотрите в завершение забавный ролик немецких инженеров о том, что эвентуальный кухонный робот может натворить с окороком (или подвернувшимся человеком) с помощью тривиального поварского ножа…

Что будем искать? Например,ChatGPT

Мы в социальных сетях