Anthropic обновила правила использования Claude. С 12 ноября пользователям запретят систематически и без причины проявлять оскорбительное или жестокое поведение по отношению к модели. В крайних случаях компания сможет ограничить или закрыть доступ к сервису.
Новый пункт появился в обновленной политике использования Anthropic. Компания относит к нарушениям продолжительное и необоснованное оскорбительное или жестокое поведение в адрес Claude. Речь идет именно о повторяющихся случаях: обычное раздражение пользователя, критика ответов модели или резкая формулировка сами по себе под запрет не подпадают.
Основной механизм реакции останется прежним. Claude сможет сам завершить диалог, если разговор становится чрезмерно агрессивным. Блокировка аккаунта рассматривается как крайняя мера и, по словам представителей Anthropic, должна применяться редко.
Подобный подход компания начала тестировать раньше. В августе 2025 года Anthropic сообщала, что в некоторых случаях Claude может самостоятельно прекратить разговор с пользователем. Тогда компания объясняла эксперимент исследованиями, связанными с возможным «благополучием» ИИ-моделей и их поведением в длительных проблемных диалогах.
Одновременно Anthropic расширила и другие ограничения. В новой версии правил отдельно прописаны запреты на использование Claude для обманных политических и коммерческих кампаний, создания фейковых личностей и распространения дезинформации. Компания также уточнила правила для систем наблюдения, разработки оружия и ИИ, подключенного к автономному физическому оборудованию.
Anthropic регулярно обновляет политику использования по мере появления новых сценариев работы с Claude. Компания уже применяет предупреждения, временные ограничения и блокировки аккаунтов за нарушение правил сервиса.