Компании, планирующие разворачивать GPU-инфраструктуру, сталкиваются с одним и тем же выбором: купить собственный кластер или арендовать вычислительную инфраструктуру у провайдера. На первый взгляд покупка выглядит экономичнее — один раз заплатил, несколько лет пользуешься. Но этот расчет не учитывает ни реальную стоимость владения, ни скорость устаревания оборудования, ни стоимость привлечения инженеров. В статье разбираем обе модели и показываем, когда аренда оказывается не просто удобнее, а выгоднее.
Почему графические ускорители устаревают быстрее, чем успевают окупиться
Исторически NVIDIA обновляла архитектуры раз в два года, а с 2024 года перешла на ежегодный цикл выпуска новых поколений. Каждое новое поколение GPU приносит кратный прирост производительности в задачах ИИ. Например, B200 вчетверо обходит H100 по скорости инференса на LLM-задачах, а следующее поколение, Rubin, обещает пятикратный прирост относительно Blackwell.
| Архитектура | Ключевые ускорители | Год выхода в продажу |
| Ampere | A100 | 2020 |
| Hopper | H100 / H200 | 2022/2023 |
| Blackwell | B200 / RTX PRO 6000 | 2024/2025 |
| Blackwell Ultra | B300 / GB300 | 2025/2026 |
| Rubin | R100 | 2026/2027 |
Стандартный срок амортизации серверного оборудования в российских компаниях — 3–5 лет. За это время сменятся 2–3 архитектуры. Ускоритель, купленный сегодня, к моменту завершения амортизационного цикла устареет настолько, что не справится с актуальными задачами, а его остаточная стоимость через три года составит 20–30% от цены покупки.
Реальная стоимость GPU-кластера
Распространенная ошибка при оценке проекта — учитывать только стоимость ускорителей. На деле ИИ-кластер — это отдельный инженерный объект, и расходы на его создание и эксплуатацию складываются из множества статей, каждая из которых существенно влияет на итоговый бюджет. Разберем каждую статью расходов подробнее.
Оборудование
Сами графические ускорители — лишь часть затрат. Помимо GPU в состав кластера входят серверные платформы с высокопроизводительными процессорами, оперативной памятью и быстрыми NVMe-накопителями. Для RTX PRO 6000 Blackwell Server Edition, например, требуется серверная платформа с поддержкой PCIe Gen 5 и достаточным запасом по теплоотводу (TDP).
Чем производительнее ускорители, тем выше требования к серверной платформе и, как следствие, ее стоимость. Дополнительно необходимо учитывать резервные узлы для отказоустойчивости и ЗИП для оперативной замены компонентов.
Электропитание
Современные серверные GPU потребляют сотни ватт каждый — сервер с восемью ускорителями по энергопотреблению сопоставим с небольшой серверной стойкой предыдущего поколения. К этим цифрам добавляется энергопотребление процессоров, памяти, сетевых адаптеров и систем хранения. В годовом выражении расходы на электроэнергию составляют одну из крупнейших статей операционных затрат.
При этом тарифы на электроэнергию для ЦОД в России сильно различаются по регионам, и в Москве и Московской области они традиционно выше, чем в регионах с избытком генерирующих мощностей.
Охлаждение
При плотной установке серверов с GPU воздушного охлаждения недостаточно. Для конфигураций с четырьмя и более серверами в стойке может потребоваться жидкостное охлаждение — это отдельный инженерный проект, включающий проектирование контура, закупку чиллеров или систем direct-to-chip, прокладку трубопроводов и интеграцию с системой мониторинга ЦОД.
Капитальные затраты на организацию охлаждения сопоставимы со стоимостью части вычислительного оборудования, а при высокой плотности размещения серверов — могут превышать ее. Кроме того, система жидкостного охлаждения сама потребляет электроэнергию и требует регулярного обслуживания.
Сетевая инфраструктура
Для связи между узлами GPU-кластера при распределенном обучении моделей стандартного Ethernet недостаточно — требуется InfiniBand с задержкой менее микросекунды или Ethernet с поддержкой RDMA over Converged Ethernet (RoCE). Высокоскоростные коммутаторы, сетевые адаптеры и кабельная инфраструктура для таких сетей — отдельная существенная статья расходов.
При этом важно учитывать, что с ростом кластера затраты на сетевую инфраструктуру растут нелинейно: добавление каждого нового узла может потребовать апгрейда коммутаторов и изменения топологии сети.
Инженерная команда
Эксплуатация GPU-кластера требует узкоспециализированных специалистов. В минимальный состав команды входят: инженер по аппаратной части (диагностика и замена GPU, серверов, сетевого оборудования), сетевой инженер (настройка InfiniBand/RoCE, мониторинг задержек и пропускной способности) и DevOps-инженер с опытом работы с GPU (оркестрация, контейнеризация, мониторинг утилизации).
Рынок таких специалистов в России перегрет. Поиск квалифицированного GPU-инженера может занимать месяцы, а уровень зарплат сопоставим с зарплатами senior-разработчиков в крупных технологических компаниях. Для обслуживания даже небольшого кластера из четырех серверов потребуется минимум два человека в штате.
ПО и лицензии
Программное обеспечение для GPU-кластера — это не только драйверы и библиотеки. Требуются системы оркестрации (Slurm, Kubernetes), мониторинга (Prometheus, Grafana, специализированные GPU-метрики), управления очередями задач и контроля доступа. Часть этих решений бесплатна, но требует настройки и поддержки.
Корпоративные же компоненты — например, NVIDIA AI Enterprise с расширенной поддержкой и корпоративными функциями безопасности — требуют платных лицензий, которые продлеваются ежегодно.
Кроме того, коммерческое использование RTX-ускорителей в серверных конфигурациях регулируется лицензионной политикой NVIDIA, которую необходимо учитывать при планировании, чтобы избежать юридических рисков.
Скрытые издержки: простой, страховка и устаревание
Без зрелых практик MLOps реальная загрузка кластера редко достигает проектных значений, особенно на ранних этапах. Это означает, что существенная доля оплаченного оборудования простаивает, продолжая потреблять электроэнергию и требовать обслуживания. Дорогостоящее оборудование также необходимо страховать — это отдельная статья расходов, которую редко закладывают в бюджет на старте. К тому же, моральное устаревание GPU происходит быстрее, чем их физический износ: через 2–3 года ускорители теряют значительную часть рыночной стоимости, а их производительность перестает соответствовать актуальным требованиям.
Собственный кластер vs аренда: полная картина
| Статья расходов | Собственный кластер | Аренда |
| Оборудование | Крупные единовременные вложения в серверы, GPU, ЗИП | Предоставляет провайдер |
| Электропитание | Переменные ежемесячные расходы, зависят от региона и загрузки | Включено в стоимость аренды |
| Охлаждение | Капитальные затраты на проектирование и модернизацию системы | Включено в стоимость аренды |
| Сетевая инфраструктура | Закупка и настройка высокоскоростных коммутаторов и адаптеров | Включено в стоимость аренды |
| Инженерная команда | Зарплаты 2–3 узкопрофильных специалистов, поиск — месяцы | Входит в сервис провайдера |
| ПО и лицензии | ежегодные отчисления за корпоративные лицензии | Предоставляется по запросу |
| Простои | Неиспользуемые мощности потребляют электричество и требуют обслуживания | Оплата только за фактически используемые ресурсы |
| Обновление оборудования | Повторные капитальные вложения при смене поколения GPU | Провайдер обновляет парк — клиенту доступны актуальные ускорители |
| Остаточная стоимость | Минимальна через 3 года | Не применимо |
CAPEX vs OPEX: что на самом деле выгоднее бизнесу
С финансовой точки зрения покупка GPU-кластера — это CAPEX: крупные единовременные вложения, которые амортизируются несколько лет. Аренда переводит затраты в OPEX — бизнес платит помесячно и относит платежи на расходы текущего периода. Разница между двумя моделями — не только в форме платежей, но и в том, как они влияют на финансовую устойчивость компании.
| Критерий | CAPEX (покупка) | OPEX (аренда) |
| Характер затрат | Крупные единовременные вложения | Регулярные предсказуемые платежи |
| Влияние на денежный поток | Кассовый разрыв в год закупки — изъятие значительных средств из оборота | Равномерная нагрузка в течение всего срока использования |
| Гибкость при росте | Масштабирование ограничено имеющимся оборудованием. Расширение — новые CAPEX и месяцы ожидания | Масштабирование за часы: добавили серверы под пиковую нагрузку, вернули когда не нужны |
| Гибкость при сворачивании | Риск потери большей части вложений при остановке проекта. Продажа оборудования — длительный процесс с дисконтом | Расторжение договора без капитальных потерь |
| Устаревание оборудования | Замена на новое поколение GPU — повторные капитальные вложения. Альтернатива — работа на устаревшем оборудовании | Провайдер обновляет парк — клиент может переключиться на актуальные ускорители без капитальных затрат |
| Доступ к компетенциям | Необходимость содержать собственную команду GPU-инженеров, поиск и удержание которых — отдельная проблема | Эксплуатация и поддержка — зона ответственности провайдера |
| Входной порог | Высокий — требуются значительные средства на старте | Низкий — инфраструктура доступна для пилота с минимальными затратами |
Какие есть варианты аренды GPU
Провайдеры предлагают два основных формата:
- Облачный сервер с GPU — это виртуальная машина с доступом к ресурсам графического процессора в инфраструктуре провайдера. Подходит для масштабируемых задач с переменными нагрузками, когда не требуется физическая изоляция сервера.
- Выделенный сервер с GPU — это физический сервер с ускорителями в монопольном пользовании одного клиента. Обеспечивает полный контроль над вычислительными ресурсами и гарантированную производительность — для задач с чувствительными данными, регуляторными требованиями или стабильно высокой нагрузкой.
ITGLOBAL.COM предлагает и облачные, и выделенные серверы с ускорителями NVIDIA H200 и RTX PRO 6000 Blackwell Server Edition. Эксплуатацию и техническую поддержку провайдер берет на себя.
Почему компании выбирают аренду
Эксперименты и пилотные проекты
На старте профиль нагрузки непредсказуем: команда перебирает модели, меняет подходы к обучению, прерывает запуски. Аренда позволяет платить только за время активной работы без долгосрочных обязательств.
Переменная нагрузка
Инференс-трафик в большинстве сценариев неравномерен: пиковые периоды чередуются с низкой активностью. Арендуемые GPU-ресурсы масштабируются под нагрузку — простаивающих мощностей нет.
Быстрый запуск
Поставка серверного оборудования в Россию может занимать месяцы. Аренда выделенного сервера с GPU доступна в течение нескольких часов — без ожидания поставки и таможенных рисков.
Требования к изоляции
Компании из финансового сектора, промышленности и госсектора работают с данными, которые нельзя размещать в общей облачной среде — этого требуют регуляторы и внутренние политики безопасности. Выделенный сервер решает эту задачу: физическая изоляция оборудования без капитальных затрат на собственный кластер.
Доступ к новым поколениям GPU
NVIDIA ежегодно выпускает новые архитектуры. При аренде клиент переключается на актуальные ускорители без повторных капитальных вложений. При покупке — либо остается на устаревшем оборудовании, либо снова CAPEX.
Отсутствие GPU-компетенций в команде
Эксплуатация кластера требует узкоспециализированных инженеров, которых сложно найти и дорого содержать. При аренде задача ложится на провайдера — клиент работает с инфраструктурой, не обслуживая ее.
Заключение
Рынок графических ускорителей не стоит на месте. Только NVIDIA выпускает новую архитектуру каждый год, и каждое поколение в разы производительнее предыдущего. В таких условиях собственный кластер — это не просто приобретение оборудования, а долгосрочное обязательство: обновлять, обслуживать и обеспечивать загрузку на годы вперед. Аренда избавляет бизнес от этих обязательств, оставляя главное — вычислительную мощность, доступную здесь и сейчас.