Представьте себе будущее, в котором автономные военные роботы будут принимать решения на основе не только программы, но ещё и заложенного в них морального кодекса. Именно это является целью новой исследовательской программы Пентагона.
В течение ближайших пяти лет Управление морских исследований выдаст грантов на сумму $7,5 млн учёным из разных университетов, которые будут заниматься решением этой проблемы. Подобная технология, несомненно, увеличит автономность боевых машин. Что же это значит? Некоторые считают, что это к лучшему, ведь роботы станут чётко следовать правилам морального кодекса и не будут склонны поступить против них в стрессовых ситуациях.
С другой стороны, это значит, что мы соглашаемся с едиными правилами, которыми будут руководствоваться все машины-убийцы, и это не так просто, как может показаться. Специалисты к тому же говорят, что, скорее всего, разработка не будет полноценным моральным кодексом. Для того чтобы осознавать последствия своих решений, роботы должны осознавать, что такое страдания. Определённые этические правила в них заложить можно, но в реальности им будет на них наплевать: это будет просто набор инструкций.