Orion soft расширил возможности StarGuard AI средствами мониторинга и биллинга AI-сервисов

Разработчик экосистемы инфраструктурного ПО для Enterprise-бизнеса Orion soft представил обновление StarGuard AI 1.1 — платформы безопасности для централизованной работы с большими языковыми моделями (LLM). Новая версия расширяет возможности управления корпоративным использованием искусственного интеллекта за счет инструментов биллинга, аналитических дашбордов и обновленного пользовательского интерфейса.

Orion soft расширил возможности StarGuard AI средствами мониторинга и биллинга AI-сервисов

По мере масштабирования генеративного ИИ компании сталкиваются не только с вопросами защиты данных, но и с необходимостью контролировать расходы на использование языковых моделей, отслеживать активность пользователей и обеспечивать прозрачность эксплуатации AI-сервисов. StarGuard AI 1.1 решает эти задачи, объединяя средства безопасности и управления в единой платформе.

Одним из ключевых апдейтов стал биллинг AI-запросов, позволяющий учитывать потребление LLM по пользователям, подразделениям и моделям. Это дает возможность анализировать использование токенов, прозрачно контролировать расходы и распределять затраты между внутренними командами.

В платформе также появились аналитические дашборды по информационной безопасности, биллингу и поведению AI-агентов. Гибкая система фильтрации помогает в режиме реального времени анализировать обращения к моделям, контролировать выполнение политик безопасности, отслеживать активность пользователей и оценивать эффективность использования AI-сервисов.

В версии  StarGuard AI 1.1 обновлен пользовательский интерфейс: упрощена навигация, улучшены основные сценарии администрирования и реализована автоматическая регистрация пользователей при первом входе в портал самообслуживания. Кроме того, платформа получила динамический реестр инструментов AI-агентов, который обеспечивает централизованный контроль используемых агентами сервисов и инструментов.

«Рынок корпоративного ИИ переходит от этапа пилотных внедрений к промышленной эксплуатации. Вместе с этим компаниям требуются не только инструменты защиты, но и средства мониторинга, контроля использования и управления затратами на AI-сервисы. В релизе StarGuard AI 1.1 мы сделали акцент на прозрачности эксплуатации корпоративного ИИ: заказчики получают возможность контролировать расходы, анализировать использование LLM и централизованно управлять политиками безопасности».

Никита Векесер, руководитель продуктов Nova AI и StarGuard AI Orion soft

Помимо новых функций, в StarGuard AI 1.1 расширен набор эвристик для выявления чувствительных данных, повышена надежность семантического анализа, добавлена возможность использования облегченной модели для снижения вычислительной нагрузки, оптимизирована обработка запросов с широким контекстом и реализован механизм скользящего окна для более гибкого управления пользовательскими лимитами.

Что будем искать? Например,ChatGPT

Мы в социальных сетях