Обычно за запуском современной игры стоит большая ИТ-инфраструктура. Разработчики используют ее, чтобы хранить графику, звук и программный код, собирать из них версии игры для компьютеров, консолей и смартфонов, доставлять обновления игрокам и записывать их прогресс. Пока проект небольшой, эти задачи могут выполнять несколько серверов и одна база данных. С ростом игры увеличивается объем файлов, а нагрузка становится менее предсказуемой.
Это хорошо видно во время крупных обновлений — тысячи или миллионы пользователей одновременно скачивают новые материалы, входят в аккаунты и подключаются к игровым серверам. Заранее точно определить размер этой аудитории сложно, поэтому хранилище, базы данных, сеть доставки контента и вычислительные мощности должны быть готовы увеличивать нагрузку, когда это нужно, и в идеале — автоматически.
В материале Тимур Баязитов, директор по Media & Entertainment Yandex Cloud, рассказывает, как игровые компании хранят материалы для разработки, управляют данными, готовятся к выходу обновлений, а также к какому стандарту приходит разработка игр.

Где хранят материалы для создания игры
Во время разработки студия работает с текстурами, трехмерными моделями, анимацией, видео и звуком. Такие файлы называют игровыми ассетами. Из них создают персонажей, предметы, локации и другие элементы игрового мира. Один и тот же ассет может существовать в десятках версий, поскольку художники и разработчики постоянно его дорабатывают. К этим материалам добавляются готовые сборки игры для разных устройств и промежуточные файлы, которые появляются во время тестирования. В результате объем данных быстро растет еще до релиза.
Для хранения исходных материалов, готовых сборок и резервных копий студии могут использовать объектное хранилище вместо того, чтобы расширять собственную инфраструктуру под растущий объем проекта. Оно позволяет масштабировать емкость по мере появления новых данных и получать доступ к ним через программные интерфейсы, в том числе из производственных пайплайнов. Благодаря этому не нужно заранее закупать мощности под весь проект или переносить данные при нехватке места.
Однако простого увеличения места недостаточно. Если художник немного изменил текстуру, некоторые системы сохранят еще одну полную копию тяжелого файла. Компания Epic Games разрабатывает систему Lore, которая делит такие файлы на небольшие фрагменты. После правки она записывает только изменившиеся части, а совпадающие фрагменты хранит в одном экземпляре. Это сокращает объем повторяющихся данных и упрощает работу с несколькими версиями проекта.
Кроме того, хранилище влияет и на скорость разработки. Студия Second Dinner ранее тратила до трех часов на обновление рабочей сборки и до 14 часов на полную сборку с нуля. Вместе с Gamebreaking Studios она внедрила систему, которая сохраняет часть уже выполненной работы и повторно использует ее при следующем запуске. Готовые файлы хранятся на облачной платформе и быстро передаются разработчикам. В результате время подготовки обновленной сборки сократилось в среднем на 75%, а ошибки компиляции стали обнаруживаться за пять минут вместо двух-трех часов.
Что делать с прошлыми версиями
После нескольких лет разработки накапливаются старые сборки, логи, материалы завершенных событий и закрытых проектов. Одни файлы нужны сотрудникам ежедневно, к другим обращаются лишь несколько раз в год или сохраняют их на случай проверки. Поэтому держать весь объем в одном классе хранения нерационально.
Игровые компании распределяют данные между классами с разной стоимостью и скоростью доступа. Актуальные сборки и свежие логи оставляют в быстром классе, а предыдущие версии игры переносят в более дешевый, где доступ к файлам может занимать больше времени. Временные данные удаляют через заданный срок. Эти операции автоматизируют с помощью правил жизненного цикла.
Если заранее сложно определить, как часто будут нужны данные, в современных объектных хранилищах есть автоматическое распределение объектов между классами хранения по фактической частоте обращений.
В Yandex Object Storage это делает Intelligent Tiering. Данные сами перемещаются между уровнями «Частый доступ», «Нечастый доступ» и «Архивный доступ».
Такой подход относится к FinOps — управлению расходами на облачную инфраструктуру. Специалисты заранее определяют, сколько времени хранить тестовую сборку, когда отправлять старые логи в архив и какие версии игры нужно сохранить бессрочно. Политики могут отличаться даже внутри одного проекта, поскольку история платежей и временный файл после тестирования имеют разную ценность.
Second Dinner, например, автоматически меняет класс хранения для сборочных файлов в зависимости от частоты обращений. Electronic Arts использует такой подход для архива объемом более 20 ПБ. Компания перевела данные в Amazon S3 Glacier Deep Archive — более недорогое хранилище для информации, которая нужна редко. Получить данные из такого архива сразу нельзя: сначала их необходимо восстановить, и это может занять несколько часов. По данным EA, в течение первого квартала после перехода расходы на архивное хранение снизились на 75%, а экономия составила около 60 тысяч долларов в месяц.
Где хранится прогресс игроков
После выхода игры начинает быстро расти объем данных, которые создают пользователи. Система сохраняет профиль игрока, его прогресс, достижения, покупки и результаты событий. Запросы к этим данным идут постоянно, а во время релизов и сезонных обновлений их число резко увеличивается.
На старте проекта все сведения часто размещают в одной базе. Так разработчикам проще выпустить первую версию и поддерживать ее. По мере роста аудитории общая база получает слишком много разных запросов. Покупки требуют точной и последовательной записи операций. Профиль и прогресс должны быстро загружаться при каждом входе. Рейтинг приходится обновлять почти в реальном времени.
Тогда данные распределяют между несколькими системами. Одна база продолжает отвечать за платежи и внутриигровую экономику. Другая хранит прогресс пользователей и может расширяться вместе с аудиторией. Горячий класс хранения поддерживает активные сессии и рейтинги, а история и резервные копии отправляются в холодное хранилище.
Изначально «Яндекс Игры» хранили игры, пользовательский прогресс и другие данные в общей базе PostgreSQL. С ростом аудитории пользовательские данные вынесли в распределенную YDB, рассчитанную на интенсивные чтение и запись по первичному ключу и автоматическое масштабирование по размеру и нагрузке. Данные равномерно распределили между шардами: для авторизованных пользователей этому способствовал составной идентификатор, а для неавторизованных к ключу добавили хеш от ID пользователя.
После миграции время записи данных авторизованных пользователей сократилось на 35%, а чтения — почти на 50%. Для списков игр неавторизованных пользователей показатели улучшились на 52% и 58% соответственно. За следующие полтора года нагрузка выросла в пять раз, примерно до 5 тысяч запросов в секунду, но среднее время ответа осталось на уровне 14–16 миллисекунд.
Другой пример — компания Ubisoft, которая использует общую платформу Online Challenges для нескольких игр. Она хранит прогресс пользователей, на основе которого формируются испытания, награды и таблицы лидеров. К моменту миграции база содержала 20 млрд записей о действиях игроков. После переноса в DynamoDB расходы на базу сократились на 90%. За следующий год объем трафика приложения удвоился, а система автоматически добавляла ресурсы, когда нагрузка росла.
Игровые компании переносят данные поэтапно: временно используют старую и новую системы одновременно, сверяют их работу и только после проверки полностью переключаются на новую инфраструктуру.
Как подготовиться к выходу обновления
Крупное обновление игры запускает сразу несколько процессов. При обновлении автоматически загружаются новые карты, персонажи или другие материалы. Затем игрок входит в аккаунт, получает данные профиля и подключается к игровому серверу. За каждое действие отвечает отдельная часть инфраструктуры, поэтому сбой одного сервиса может задержать весь вход в игру. Файлы обновления обычно хранят в объектном хранилище, а пользователям передают через CDN (Content Delivery Network).
CDN, или сеть доставки контента, состоит из серверов в разных городах и странах. Она заранее сохраняет копии популярных файлов ближе к пользователям. Благодаря такому подходу игроку не приходится каждый раз скачивать обновление из единственного дата-центра, а исходное хранилище получает меньше одновременных запросов.
Игровые серверы в это время тоже нужно расширять. Компания может заранее запустить дополнительные виртуальные машины перед ожидаемым релизом или настроить автоматическое масштабирование. Во втором случае система сама следит за загрузкой и добавляет мощностей, когда свободных ресурсов становится мало.
Чаще всего при разработке используется именно выделенная инфраструктура — изолированные физически серверы в собственном контуре или арендованные у провайдера. Такой подход позволяет не делить мощности с другими пользователями. Например, Yandex BareMetal предоставляет выделенные физические серверы, которые можно получить для масштабирования проекта за минуты и арендовать на различный срок.
Один из кейсов такой работы с облачными ресурсами — инфраструктура Standoff 2 от Axlebolt. CDN ускоряет загрузку крупных дополнений к игре и аватаров, которые пользователи устанавливают в своих профилях. После выхода обновления число игроков может вырасти в полтора раза. Чтобы подготовиться к такой нагрузке, команда заранее запускает в облаке до тысячи дополнительных игровых серверов. Они продолжают работать несколько дней, пока сохраняется повышенный интерес к обновлению. Если число игроков на действующих серверах достигает 75–80% от допустимого, система автоматически запускает новые и распределяет между ними пользователей. Это помогает избежать перегрузки и задержек во время игры.
Другой пример — студия «Наши игры», которая использует Yandex BareMetal для игры «Мир домовят». Компания перенесла проект на 53 выделенных физических сервера за полгода. После миграции расходы на обслуживание инфраструктуры снизились на 15%, а доступность игры составила 99,9%.
Зачем совмещать облако и собственные серверы
У крупных игровых компаний часто уже есть свои серверы и дата-центры, которые хорошо подходят для постоянной и предсказуемой нагрузки. Компания в таком случае сама контролирует оборудование и доступ к данным. Такой способ хранения может быть нужен, например, для конфиденциальной информации о пользователях или материалах игры, которая еще находится в разработке.
Но в отдельные периоды студии нужно гораздо больше вычислительных мощностей. Например, во время тестирования новой версии игры, обработки графики или выхода крупного обновления, когда одновременно подключается больше игроков. Покупать оборудование ради нагрузки, которая продлится несколько дней или недель, не всегда целесообразно. Поэтому компания временно арендует в облаке дополнительные виртуальные серверы и графические ускорители, а для задач, которым нужны изолированные физические ресурсы, может отдельно арендовать выделенные серверы.
Систему, в которой собственное оборудование дополняют облачными ресурсами, называют гибридной инфраструктурой. Дата-центр компании и облако соединяют отдельным защищенным каналом. По нему данные передаются напрямую между двумя площадками, без использования общедоступных интернет-сетей.
Подобную схему использует анимационная студия «Воронеж». Ее производственные задачи близки к геймдеву: специалисты работают с трехмерными моделями и запускают ресурсоемкий рендеринг. В обычные периоды изображения обрабатываются на локальных мощностях. Если ближе к завершению проекта ресурсов не хватает, студия подключает облака. В таком режиме она создала уже более 400 минут анимации.
К какому стандарту приходит инфраструктура игр
Крупные игровые компании все чаще сочетают собственные серверы с облачными ресурсами. Постоянные процессы работают на своем оборудовании или выделенных серверах, а перед релизами и сезонными событиями — из облака подключаются дополнительные мощности. Такая гибридная инфраструктура помогает справляться с ростом аудитории без покупки серверов, которые большую часть времени будут просто простаивать.
Одновременно компании объединяют работу с данными в рамках общей платформы. Она связывает производство игрового контента, выпуск обновлений, информацию о пользователях, аналитику и LiveOps — управление игрой после запуска, включая новые сезоны, события и изменения баланса. BI-инструменты представляют данные в отчетах и дашбордах: помогают отслеживать удержание игроков, внутриигровые покупки и доход, оценивать результаты игровых событий и сравнивать показатели до и после обновлений.
Команда получает общую картину работы проекта и может принимать решения на основе одних и тех же данных. Это помогает быстрее выпускать обновления, контролировать расходы и поддерживать стабильную работу игры при росте аудитории. И от того, насколько согласованно работают все эти системы, зависит многое. В том числе выдержит ли игра выход крупного обновления и сможет ли студия развивать проект без постоянного роста затрат на инфраструктуру.
Читайте также:



