Компания MWS Cloud (входит в МТС Group) запустила платформу Inference Valve, которая ускоряет внедрение искусственного интеллекта в корпоративные процессы. Решение позволяет развертывать готовые AI-модели за несколько часов вместо недель, автоматизируя 70% рутинных задач по настройке и обслуживанию.
Компания MWS Cloud (в составе МТС Web Services) представила платформу Inference Valve для развертывания и эксплуатации искусственного интеллекта в промышленных масштабах. Решение позволяет внедрять в бизнес-процессы любые ML-модели, включая сложные языковые модели (LLM) и системы компьютерного зрения (CV).
С помощью платформы CV-модели могут автоматически анализировать видео, ML‑ и LLM‑модели смогут генерировать и структурировать тексты, анализировать данные, создавать их описание, прогнозировать показатели маркетинга и продаж, отвечать на часто задаваемые вопросы в HR-порталах. Также на платформе можно разворачивать голосовые модели для синтеза и анализа речи, а также внедрения их в колл-центры.
Inference Valve обеспечивает полный цикл работы с AI-моделями: от упаковки и развертывания через стандартные API до мониторинга производительности и автоматического масштабирования под нагрузку. Система поддерживает работу на GPU и CPU, управление версиями моделей, а также интеграцию с инструментами CI/CD и системами мониторинга типа Prometheus/Grafana.
Платформа доступна в различных конфигурациях: в частном облаке MWS Cloud, on-premise инфраструктуре заказчика или в изолированных программно-аппаратных комплексах с ограниченным сетевым доступом. Это позволяет использовать решение даже в регулируемых отраслях с повышенными требованиями к безопасности данных.
«Недостаточно просто обучить AI-модель. Ее еще нужно интегрировать в бизнес-процессы компании, наладить ее бесперебойную работу, отслеживать успешность ее работы. Inference Valve позволяет сделать это из коробки с помощью нескольких простых команд. С ее помощью LLM и CV-модели в десятки раз быстрее интегрируются с ИТ-системами компании, операционная нагрузка на ML-команды при эксплуатации моделей снижается на 70%, степень автоматизации CI/CD повышается более чем на треть, а затраты на GPU снижаются более чем на 15%».
Игорь Зарубинский, вице-президент по развитию инфраструктуры МТС
С запуском Inference Valve MWS Cloud выходит на растущий рынок платформ для инференса AI-моделей, который в России оценивается более чем в 15 млрд рублей. Решение особенно востребовано в ритейле, телекоме, финтехе и здравоохранении, где требуется массовое внедрение искусственного интеллекта в операционные процессы.