«Группа Астра», ведущий российский разработчик инфраструктурного программного обеспечения сообщает, что в ее головном офисе в Москве состоялось заседание Консорциума исследований безопасности технологий искусственного интеллекта. В работе заседания приняли участие заместитель Министра цифрового развития Александр Шойтов, секретарь Консорциума Дмитрий Служеникин, генеральный директор «Группы Астра» Илья Сивцев, директор по науке и ИИ «Группы Астра» Владимир Нелюб, а также члены Консорциума, команда разработки «Астра ИИ» и приглашенные эксперты.
Тема встречи — «Доверенная экосистема Астра ИИ: направления применения и развития». Открывая заседание, представители «Группы Астра» поделились свежими впечатлениями: делегация компании накануне вернулась из Шанхая со Всемирной конференции по искусственному интеллекту (WAIC), на открытии которой особое внимание было уделено вопросам безопасности ИИ. В этом контексте безопасность искусственного интеллекта трактуется не как простая фильтрация ответов модели, а как комплексная защита данных, моделей, агентов и инфраструктуры на всем жизненном цикле, с особым акцентом на предотвращении потери контроля над автономными системами.
Именно поэтому сотрудничество «Группы Астра» с Консорциумом сегодня приобретает особую актуальность. В ходе заседания компания представила свои продукты и практические наработки, а также обсудила с партнерами, как они могут быть встроены в общую работу Консорциума.
Особое внимание участники уделили решению «АСТРА ИИ [КОД]», предназначенному для процессов разработки программного обеспечения. С точки зрения безопасности исходный код и проектная документация не передаются во внешние сервисы: доступ инструмента к репозиториям ограничивается полномочиями пользователя, все действия регистрируются, а окончательное решение о внесении изменений остается за специалистом. Такой подход снижает риск утечки кода и неконтролируемого применения сгенерированных результатов.
Еще одним перспективным направлением стало решение «АСТРА ИИ [ЦИФРОВОЙ ОФИС]» — внутренний интеллектуальный помощник и основа для мультиагентных систем, работающий только с разрешенными корпоративными источниками: нормативными документами, инструкциями, архивами, технической документацией и базами знаний. На его базе создаются цифровые сотрудники для кадровой работы, технической поддержки, финансового анализа и подготовки отчетности, причем для каждого сценария заранее определяются доступные источники, инструменты и полномочия, критические действия требуют подтверждения человеком, а все обращения к данным регистрируются. Это особенно важно для защиты от прямых и косвенных инъекций промптов и небезопасной обработки результатов модели.
Как подчеркнули разработчики, продукты «Астра ИИ» охватывают три уровня применения: инфраструктуру искусственного интеллекта, процессы разработки программного обеспечения и повседневную работу сотрудников. При этом доверенная экосистема не должна строиться путем полного отказа от открытых технологий — открытые модели и программные компоненты остаются важной частью развития искусственного интеллекта, а ключевая задача состоит в том, чтобы обеспечить их проверку, безопасное развертывание и эксплуатацию внутри защищенной инфраструктуры.
Средствам защиты для суверенного ИИ было посвящено выступление научного руководителя «Группы Астра», академика Академии криптографии России Петра Девянина и директора Департамента анализа безопасности «Группы Астра» Владимира Тележникова, посвященное обеспечению эффективности средств защиты (СЗИ) ОС Astra Linux в качестве фундамента для технологий доверенного ИИ. Докладчики подчеркнули, что собственные средства защиты информации (МКЦ, МРД, ЗПС и др.) являются одним из ключевых конкурентных преимуществ продуктов «Группы Астра». Эксперты рассказали, как именно встроенные СЗИ обеспечивают защиту ИИ-инструментов от современных актуальных угроз.
«Наше сотрудничество с Консорциумом исследований безопасности технологий искусственного интеллекта становится еще более актуальным. Мы готовы делиться практическими наработками и вместе выстраивать доверенную экосистему, в которой безопасность заложена на всех уровнях — от инфраструктуры до повседневной работы каждого сотрудника».
Владимир Нелюб, директор по науке и ИИ, член правления «Группы Астра»
Подводя итоги заседания, заместитель Министра цифрового развития Александр Шойтов отметил международный контекст развития технологий. По его словам, в Китае было подписано соглашение, к которому присоединилась и Россия, и речь идет о том, что Китай намерен открывать свои модели, а значит, доступность open source сохранится. Вместе с тем, исходя из результатов проработки этого вопроса, замминистра выразил мнение, что в дальнейшем приоритет, вероятно, будет отдаваться суверенным и национальным решениям.