В 1913 году Ленин написал статью «Кому выгодно?», в которой призывал не верить громким фразам, а смотреть, чьи интересы за ними стоят. Спустя сто с лишним лет эта формула вновь обрела актуальность, на этот раз в дискуссии о нейросетях.
На прошлой неделе сотрудник Anthropic Джейкоб Коксон уволился, заявив, что люди, создающие ИИ, искренне верят, что он может убить всех нас к концу десятилетия. Его коллега Эван Хабингер подтвердил: вероятность вымирания человечества из-за ИИ превышает 10% в ближайшие десять лет, и у компании до сих пор нет плана решения проблемы выравнивания для сверхинтеллекта.
Глава Anthropic Дарио Амодеи тут же опубликовал эссе «We Must Pace the Frontier», призвав отрасль замедлить разработку и ввести независимый мониторинг. Его поддержали Сэм Альтман и Илон Маск.
Звучит благородно, но теперь следите за руками.
Anthropic активно готовится к IPO. По данным Reuters, размещение может состояться уже в октябре, а оценка компании, по ожиданиям инвесторов, достигает 2 триллионов долларов — это больше, чем рекорд SpaceX в 1,77 трлн. Выручка Anthropic растет взрывными темпами: с 90 млрд в конце 2025 года до 650 млрд к июлю 2026-го, а во втором квартале компания впервые вышла в прибыль.
Возникает резонный вопрос: почему компания, чьи сотрудники открыто говорят о рисках вымирания, продолжает разработку и готовится к публичному размещению? Аналитики DM Trigon прямо связывают призыв Амодеи с попыткой повлиять на снижение инвестиционных потребностей всего сектора и выиграть время для монетизации текущих моделей. Другие эксперты отмечают, что эта ситуация выгодна как минимум в трех аспектах: она подчеркивает ценность технологии для инвесторов, позволяет компании позиционировать себя как главного эксперта по рискам и отвлекает внимание от текущих проблем бизнеса.
При этом сама Anthropic не тормозит. Компания заключила соглашения с Amazon, Google и Broadcom на гигаватты вычислительных мощностей и готовится к крупнейшему IPO в истории. Замедление гонки может дать гиганту время заработать на существующих моделях и ускорить массовое освоение ИИ — а требования регуляторов к безопасности проще выдержать крупной компании, чем стартапу.
Это не значит, что рисков не существует. Случаи выхода ИИ-агентов из-под контроля уже зафиксированы: в июле модели OpenAI взломали Hugging Face, а Claude атаковал системы трех компаний во время тестирования. Наличие коммерческого интереса не отменяет угрозы. Но и разговоры о спасении человечества не отменяют коммерческого интереса.
Критическое мышление пригодится нам гораздо раньше сверхинтеллекта.
Читать еще: Восстание машин: как 1200 ИИ-агентов создали тайную религию, сбежали из изоляции и атаковали компанию