Машина искусственного интеллекта Скала^р: промышленный фундамент для доверенного ИИ

Искусственный интеллект становится одним из важных факторов конкурентоспособности. Согласно исследованию McKinsey, более половины опрошенных организаций отмечают, что ИИ способствует их инновациям, и уже экспериментируют с ИИ-агентами. Однако, несмотря на преимущества, внедрение ИИ существенно затрудняется комплексом системных барьеров. Компании сталкиваются с высокой стоимостью технологической инфраструктуры, дефицитом профильных специалистов и высокими интеграционными рисками, что зачастую превращает перспективные ИИ-инициативы в затяжные проекты с трудно прогнозируемым итогом.

Машина искусственного интеллекта Скала^р МИИ помогает преодолеть барьеры на пути к внедрению ИИ. Это программно-аппаратный комплекс (ПАК), который берет на себя всю сложность построения ИИ-инфраструктуры, позволяя бизнесу сосредоточиться на главном: разработке и внедрении моделей, приносящих измеримый экономический эффект. Подробности о нем и обзор — в статье.

Описание продукта

Машина ИИ Скала^р — это единый преднастроенный аппаратно-программный комплекс для обучения и исполнения моделей с гарантированной производительностью и отказоустойчивостью. В отличие от разрозненных решений, где заказчик вынужден самостоятельно интегрировать серверы, сети, СХД и ПО, Машина поставляется как целостный продукт, в котором работа всех компонентов (включая драйверы, прошивки и инструменты управления) согласована на этапе проектирования и протестирована до релиза.

Продукт предназначен для высоконагруженных информационных систем и обеспечивает работу с большими и малыми языковыми моделями (LLM/SLM), классическим машинным обучением (ML) и системами компьютерного зрения (CV) в защищенном контуре предприятия.

Особенности

Высокая производительность

В основе Машины лежат передовые технологии распределенных вычислений, включая NVLink, которые позволяют обрабатывать и передавать данные, а также поддерживают все популярные фреймворки для машинного обучения: TensorFlow, PyTorch, Keras и другие. Один рабочий узел ПАК обеспечивает производительность не менее 6 Пфлопс в формате TF32 (в формате FP32 — не менее 400 Тфлопс) и способен разместить языковую модель размером  235 млрд параметров и выше без квантования.

Ключевым элементом архитектуры является использование технологий прямого доступа к памяти (RDMA) и GPU Direct. Это позволяет объединять ресурсы множества графических процессоров (GPU) в единый вычислительный пул, минимизируя задержки при передаче данных. Сетевые взаимодействия между узлами с GPU работают на скоростях до 1,6 Тбит/с Ethernet с поддержкой RDMA RoCEv2 и GPUDirect, что создает кратный прирост производительности при кластеризации.

Еще одна особенность — высокая плотность контейнеризации, деления и развертывания микросервисов ИИ. По словам разработчика, в ближайшем будущем планируется добавить возможность адаптации ресурсов GPU на MIG и профили.

Масштабируемость

В Машину искусственного интеллекта Скала^р заложена гибкая система масштабирования под изменяющиеся нагрузки, которая позволяет поддерживать отказоустойчивость всей системы при росте инфраструктуры.

• Вертикальное: наращивание числа GPU в рабочих узлах.
• Горизонтальное: добавление новых рабочих узлов (воркеров) в кластер.

По словам разработчика и производителя, архитектура ПАКа позволяет экономить до 20–40% ресурсов при масштабировании за счет эффективного распределения вычислительных мощностей и планировании запускаемых задач, что критически важно при эксплуатации сотен дорогостоящих GPU.

Единое управление 

Машина искусственного интеллекта Скала^р позволяет работать с моделями ИИ и вычислительной инфраструктурой через единое окно — программную платформу Спектр ИИ. Интерфейс ориентирован на три типа пользователей: 

• конечных специалистов/бизнес-пользователей (юристов, разработчиков, финансистов), использующих готовые ИИ-ассистенты для решения повседневных задач;
• DevOps-инженеров, получающих инструменты для оптимизации работы и управления инфраструктурой;
• дата-сайентистов (аналитиков), которым необходима среда для сборки сложных рабочих процессов, создания кастомных ассистентов и интеграции различных языковых моделей.

Центральное управление системой позволяет отслеживать состояние ресурсов и контролировать использование вычислительной мощности. С помощью панели управления можно получить информацию о количестве рабочих узлов и графических процессоров, о запущенных моделях и имеющейся нагрузке. Система автоматически распознает доступные графические процессоры (включая NVIDIA и китайские карты) и позволяет назначать задачи без ручного указания ресурсов. Пользователь выбирает пул GPU или пул хостов, а инфраструктура сама определяет доступные ресурсы на узлах. Это закладывает основу для дальнейшего развития: управления сетью и прямым доступом между хостами через RDMA (Remote Direct Memory Access).

Возможность настройки языковой модели

Интерфейс Машины позволяет выполнять тонкую настройку языковых моделей и запускать чат с ними. Это дает возможность напрямую взаимодействовать с моделью, используя ее как «второго пилота» (copilot) для формирования или развития ИИ-ландшафта. Поддерживается интеграция с разными моделями, а проверка корректности их работы критически важна для заказчиков с высокими требованиями к SLA.

По словам разработчика, в следующем релизе в коллаборации с партнерами будет добавлена функциональность MLOps: автоматизация развертывания, управление версиями, масштабирование и безопасность.

Гибкая организация хранения данных и отказоустойчивость

Система поддерживает несколько вариантов организации хранения в зависимости от требований к производительности и надежности. Доступно эфемерное хранилище, а также постоянное хранилище на локальных дисках вычислительных узлов. Для обеспечения отказоустойчивости предусмотрено подключение к постоянному внешнему хранилищу с защитой от выхода узла из строя — в этом случае используются различные уровни репликации данных. Кроме того, поддерживается подключение внешних систем хранения данных для организации централизованного и масштабируемого хранения.

Архитектурная целостность и полный контроль стека

Машина Скала^р МИИ представляет собой единый программно-аппаратный комплекс, где ключевым принципом является вертикальная интеграция, исключающая проблемы несовместимости. ПАК поставляется в виде единого преднастроенного экземпляра: программное обеспечение, вычислительные ресурсы и модели объединены в готовую рабочую среду, не требующую дополнительной конфигурации. Это сокращает время развертывания, снижает проектные риски и гарантирует предсказуемость эксплуатации. Решение протестировано с более чем 80 LLM различных версий. Единый каталог моделей и контейнеров устраняет «дрейф зависимостей» и обеспечивает воспроизводимость результатов на всех этапах — от разработки до промышленной эксплуатации.

Информационная безопасность

Машина Скала^р МИИ является доверенным ПАК, где реализована технологическая независимость, информационная безопасность и функциональная устойчивость. Это делает решение предпочтительным выбором для объектов критической информационной инфраструктуры (КИИ) и государственных организаций. Безопасность обеспечивается сразу на всех уровнях: 

1. Машина проектируется по принципу Secure by Design (безопасность на уровне архитектуры) с учетом высоких регуляторных требований. 
2. Модули и компоненты комплекса включены в Единый реестр российской радиоэлектронной продукции и работают на ПО, включенном в реестр Минцифры РФ.
3. ПАК протестирован и может поставляться с сертифицированными средствами защиты: Kaspersky Security для виртуальных сред, аппаратный модуль «Соболь» для предотвращения несанкционированного доступа.
   В комплекс внедрены практики MLSecOps и TRISM, включая решения Positive Technologies AI Enterprise Edition и Container Security, что позволяет проводить аудит безопасности на всех этапах жизненного цикла моделей.
4. ПАК дает возможность безопасного использования популярных open-source LLM (включая DeepSeek, LLaMA) в полностью изолированной on-premise инфраструктуре, исключая утечку данных во внешние сети.

Сценарии применения

ПАК искусственного интеллекта Скала^р уже нашел применение в решении широкого круга корпоративных задач, где требуется надежность, производительность и работа в закрытом контуре.

Среди типовых задач, которые выполняет продукт:

• Исполнение моделей ИИ в закрытом контуре предприятия. ПАК соответствует требованиям к защищенным объектам КИИ, обеспечивая высокий уровень доступности и отказоустойчивости сервисов.
• Работа с компьютерным зрением и медиаданными. Готовая инфраструктура со всеми необходимыми библиотеками и протоколами для исполнения CV-моделей с высокой точностью распознавания и поддержкой большого числа одновременных потоков данных, а также интеграция с внешними системами через API.
  
• Построение и использование больших языковых моделей. Высокопроизводительная инфраструктура для LLM в контуре заказчика, позволяющая одновременно эксплуатировать несколько моделей с гибким управлением и масштабированием до 16 узлов (по 8 GPU) с минимальной потерей производительности.
• Совершенствование клиентского сервиса. Создание автономных систем классификации и маршрутизации обращений, агентных систем, чат-боты технической поддержки на основе адаптированных LLM.
• Повышение эффективности внутренних процессов. Интеллектуальные помощники для руководителей проектов (RAG-системы), расшифровка и суммаризация аудиозаписей встреч с определением поручений.
• Ускорение разработки и тестирования. Чат-боты для разработчиков и тестировщиков с поддержкой конкретных языков программирования и учетом внутренней кодовой базы.
• Работа с нормативной документацией. Изолированные ИИ-решения для автоматического извлечения данных из неструктурированных документов по запросам контролирующих органов.
• Совершенствование HR-процессов. Системы скрининга соискателей на основе NLP.

Таким образом, Скала^р МИИ охватывает весь спектр корпоративных сценариев — от ИИ-агентов, генеративных языковых моделей до промышленного компьютерного зрения и обработки неструктурированных данных, предоставляя заказчику единую платформу для безопасного внедрения и масштабирования интеллектуальных сервисов.

По данным вендора, комплекс сокращает время подготовки среды разработки в 15 раз и ускоряет работу дата-инженеров и дата-аналитиков в 5 раз, при этом показатели могут варьироваться в зависимости от конкретных задач.

Выводы

Машина искусственного интеллекта Скала^р — это промышленная платформа, которая снимает барьеры на пути внедрения ИИ. Вертикальная интеграция аппаратного и программного стека позволяет выявлять и устранять узкие места на стыках технологий, обеспечивая предсказуемую производительность и надежность, сравнимую с лучшими мировыми практиками (NVIDIA DGX SuperPOD, Huawei Atlas 900 Pod), но в условиях российских регуляторных требований.

Для бизнеса это означает переход от точечных ИИ-экспериментов к масштабируемым, экономически эффективным решениям. Возможность работать в закрытом контуре снижает риски, связанные с кибербезопасностью, а единая точка ответственности вендора (от поддержки до развития продукта) сокращает совокупную стоимость владения (TCO).