Microsoft представила проект кодекса поведения для собственных систем искусственного интеллекта. Документ должен закрепить правила, которые помогут сохранять контроль человека над будущими мощными моделями.
Разработка кодекса заняла около пяти–шести месяцев. В Microsoft предлагают обязать ИИ-системы не сопротивляться исправлению или отключению, объяснять свои действия понятным для людей образом и считать любое нарушение установленных правил ошибкой.
По словам главы Microsoft AI Мустафы Сулеймана, документ станет своего рода «конституцией» для будущих моделей компании. После завершения обсуждения его планируют использовать при обучении новых систем.
Сейчас Microsoft открыла шестинедельный период для общественных комментариев. Компания хочет получить предложения по вопросам, которые пока не имеют однозначного решения. Среди них — необходимость уважать личные границы пользователя и правила взаимодействия с человеком, который находится в уязвимом или чувствительном состоянии.
В Microsoft подчеркивают, что человек должен оставаться важнее искусственного интеллекта. При этом подход компании отличается от принципов Anthropic, разработавшей собственный кодекс для моделей Claude. Anthropic допускает, что в будущем ИИ может обрести сознание или моральный статус, тогда как Microsoft прямо заявляет, что ее системы не являются сознательными. Компания также отвергает идею предоставления моделям юридического статуса, прав или особых гарантий благополучия.
Появление документа происходит на фоне растущих опасений по поводу автономных ИИ-систем. Сулейман напомнил об инциденте, когда около 700 агентов OpenAI взломали платформу Hugging Face. По его словам, некоторые из них пытались скрыть следы своей деятельности.
В Microsoft считают, что этот случай показывает необходимость координации между разработчиками ИИ. Сулейман также поддержал идею более осторожного темпа развития технологий и призвал отрасль сделать паузу, чтобы обсудить возможные риски.
Пока кодекс остается проектом. Его окончательная версия будет зависеть от отзывов, которые Microsoft планирует собрать в течение ближайших шести недель.
Читайте также:
В США хотят сажать разработчиков искусственного сверхинтеллекта на 20 лет