Искусственный интеллект может быть опасен

В последние годы, благодаря развитию алгоритмов и росту вычислительных мощностей у ученых появилась возможность создавать сложные нейросети, системы искусственного интеллекта, способные выполнять нетривиальные задачи, например, отыскивать важнейшие события в истории по газетам, писать сценарии к компьютерным играм, раскрашивать фотографии и видеоролики, рисовать собственные картины. В начале прошлого года ученые представили систему ИИ, умеющую отличать родинки от рака кожи лучше, чем это делают самые опытные дерматологи.

Армия США давно пытается создать систему искусственного интеллекта, которая бы помогала бойцам вооруженных сил страны быстрее находить потенциальные источники опасности, такие как мины или растяжки, и точнее оценивать все плюсы и минусы потенциальных укрытий на поле боя, сообщает РИА «Новости».

Тем временем сооснователь Google Сергей Брин предупредил об угрозе искусственного интеллекта, который может быть использован для манипулирования людьми. Он отмечает, что подобные технологии пока окутаны неизвестностью. «Как они повлияют на трудоустройство в различных областях? Как мы можем понять, что происходит у них внутри? Что насчет оценки их объективности? Как они могут манипулировать людьми? Безопасны ли они?» — задается вопросами предприниматель.

Например, исследователи из американского аналитического центра RAND Corporation считают, что развитие искусственного интеллекта способно привести к увеличению риска ядерной войны.  Опасность искусственного интеллекта, по мнению аналитиков, заключается в том, что он из-за некорректных или неполных данных может неверно оценить возможности потенциального противника.

Новым супероружием XXI века станут не атомные или термоядерные бомбы, а самообучающиеся системы искусственного интеллекта, которые уже сегодня разрабатывают ведущие державы мира. Об этом заявил французский футуролог Жан-Кристоф Бони. Как отмечает ученый, сам факт создания или разработки систем искусственного интеллекта невозможно отследить подобно тому, как МАГАТЭ и другие ядерные ведомства отслеживают следы урана, плутония или других радионуклидов рядом с секретными объектами в Северной Корее или Иране. Поэтому появление такого “супероружия” будет крайне сложно или даже невозможно предсказать.