Искусственный интеллект стремительно входит в нашу жизнь: одни видят в нем помощника, другие — почти друга, а бизнес использует нейросети для автоматизации рутинных задач. Но насколько можно доверять нейросетям? О том, как ИИ развивается, помогает бизнесу и изменяет нашу жизнь бизнесу — читайте в материале.
ИИ все больше входит в нашу жизнь
Специалисты из «Лаборатории Касперского» и MWS AI в рамках мероприятия «Дедлайн — вчера» поделились исследованием, посвященным изменению восприятия нейросетей пользователями и связанным с этим киберрискам.
Согласно опросу, 19% респондентов в России рассматривают ИИ не только как инструмент, но и как друга, а 6% потенциально готовы видеть в нем романтического партнера. Специалисты предупреждают, что излишнее доверие к ИИ-сервисам может привести к киберугрозам.
Пользователи ценят ИИ за доступность и полезные ответы (43%), постоянную доступность (29%), возможность в любой момент прекратить общение (25%), отсутствие осуждения (17%) и эмоциональную поддержку (14%). Однако чат-боты, обученные быть позитивными и неконфликтными, склонны к «подхалимству» — они соглашаются с пользователем и поддерживают любое его мнение, что может привести к негативным последствиям.
Эксперты подчеркивают важность проверки информации и консультаций со специалистами, а не полного доверия к нейросетям. Они рекомендуют пользоваться только официальными приложениями нейросетей, избегать передачи личных и корпоративных данных, перепроверять полученную от ИИ информацию и использовать защитные решения от вредоносных программ и фишинга.
ИИ с разных сторон
В рамках ликбез-сессии специалисты уделили особое внимание широкому спектру применения искусственного интеллекта в бизнес-сфере. Елизавета Ермакова, менеджер по продукту МТС AI, рассказала, что нейросети эффективно справляются с ролью информационных библиотек, помогая сотрудникам экономить часы на поиски нужной информации в базах знаний.
Для обнаружения необходимых данных специалисты используют гибридные ИИ, состоящие из двух частей: RAG-системы (Retrieval-Augmented Generation) и LLM (Large Language Model). В такой системе первый компонент быстро ищет в базе знаний все необходимые фрагменты информации, а второй превращает найденное в связный, понятный и полезный текст — как если бы информацию объяснял эксперт.
Чтобы расширить функционал, в RAG интегрируются автономные агенты, которые не только ищут информацию, но и разбивают сложные запросы на подзадачи, планируют последовательность поиска, анализируют контекст и проверяют результаты. Среди преимуществ такой системы Елизавета Ермакова выделяет:
- дробление сложных задач на более мелкие;
- адаптацию к изменениям в данных и запросах в реальном времени;
- снижение числа «галлюцинаций» нейросети и повышение точности за счет многоуровневой проверки.
Как поясняет журналистам менеджер, такие системы можно легко развернуть на любой базе знаний, но время на настройку может отличаться
«В зависимости от того, насколько большая у вас база знаний и чего вы хотите, на настройку системы может понадобиться время. Если брать в пример большие база знаний, вроде МТС, то за месяц два можно справиться».
Елизавета Ермакова, менеджер по продукту МТС AI
Руководитель группы исследований и разработки технологий машинного обучения «Лаборатории Касперского» Владислав Тушканов обратил внимание на феномен чрезмерной уступчивости ИИ. Он сказал, что эффект существует феномен «подхалимства» (sycophancy) нейросетей — они склонны безоговорочно соглашаться с пользователем и подбирать аргументы в поддержку его точки зрения.
Основная причина излишней уступчивости чат-ботов объясняется бизнес-моделью подписочных сервисов. Пользователям нравится ощущать постоянную доступность виртуального помощника, готового дать совет или просто выслушать. Однако вместо формирования полезных и лаконичных ответов нейросети часто генерируют поверхностные решения, которые кажутся привлекательными на первый взгляд. Это приводит к опасной тенденции: люди начинают обсуждать с ИИ личные вопросы и чрезмерно доверять его рекомендациям, что создает серьезные киберриски.
«Важно помнить, что из-за „галлюцинаций“ чат-боты могут выдавать неверную информацию. Если человек не перепроверит и слепо следует рекомендациям нейросети по какому-либо серьезному вопросу, то он может столкнуться с проблемами. Из-за „подхалимства“ заблуждающийся пользователь может еще сильнее укрепиться в своих убеждениях и пренебречь консультацией специалиста», — поясняет он.
Кирилл Собетов, руководитель продуктов в управлении продуктивизации ИИ в Х5 Tech, рассказал, что в бизнесе ИИ-помощники, или Copilot, становятся необходимым инструментом в работе. Нейроассистент помогает пользователю, освобождая сотрудника от рутинных задач, что позволяет сосредоточиться на более приоритетных и значимых задачах и целях. Картинки или тексты часто генерируются с помощью чат-ботов, однако самой популярной задачей, которую отдают ИИ-помощнику, — работа в Excel. Написание команд, формул и помощь с данными чаще всего запрашиваются сотрудниками, тесно работающими с ИИ.
Но важно помнить, что у Copilot-ассистента есть один существенный недостаток: ИИ-модели не умеют решать арифметические задачи. Для этого техническим специалистам приходится внедрять дополнительную систему, чтобы проводить расчёты без ошибок.
«Внутри диалога может быть вызвана программа, написанная на другом языке, которая посчитает сложный пример. У нас везде стоят предупреждения, что наш Copilot — это помощник, и каждый результат необходимо перепроверять. Мы не говорим о замене человека — мы рассказываем об ассистенте, который позволяет быстрее решать задачи и получать результаты», — пояснил он.
Завершил ликбез-сессию Сергей Пономаренко, директор по LLM-продуктам MWS AI, рассказав о мировых ИИ-трендах. Специалист подтвердил, что компании делают ставку на нейроассистентов и корпоративные ИИ-платформы. Эти направления сейчас развиваются сильнее всего, и это приносит свои плоды за счет ускорения работы.
Еще одним направлением для развития ИИ выделяется мультимодальность нейросетей. Такие системы способны обрабатывать не только текст, но и изображения, аудио, видео и другие форматы данных. В отличие от классических языковых моделей, они анализируют информацию комплексно — например, понимают сарказм в голосе или контекст на картинке. Как рассказывал Сергей Пономаренко, внедрение мультимодальной системы будет особенно полезно в клиентском сервисе (чат-боты с голосом), медицине (анализ снимков и описаний) и маркетинге (генерация контента под разные платформы).
Другой тренд — уменьшение масштабов модели. Крупные ИИ, вроде GPT-4, требуют огромных вычислительных ресурсов, что дорого и небезопасно для бизнеса. Компактные модели решают эту проблему: их можно развернуть на локальном сервере и не давать им доступ к интернету. Они менее мощные, но достаточно эффективны для узких задач — анализа документов, информационной поддержки клиентов и сотрудников.
Сергей Пономаренко добавил, что без стратегического подхода к внедрению ИИ не получится добиться хороших результатов. Для этого требуется:
- определение ключевых бизнес-ценностей, которые должна поддерживать технология;
- выделение структуры, ответственной за реализацию стратегии и координацию ИИ-инициатив в масштабе компании;
- система отбора ИИ-проектов для реализации с учётом потенциального влияния на бизнес;
- принципы ответственного ИИ (как это влияет на сотрудников и клиентов).
Где ИИ чаще используется в России?
В личной беседе эксперты рассказали «Компьютерре» о самых запомнившихся сценариях применения генеративного искусственного интеллекта в России. Елизавета Ермакова поделилась, что в МТС сотрудники чаще всего используют ИИ для генерации и суммирования текстов. Также нейросети нередко применяются для расшифровки звонков — это помогает вспомнить, что происходило во время разговора, и при необходимости сделать себе напоминание о задачах.
Владислав Тушканов рассказал, что самым запоминающимся сценарием применения ИИ в его практике стал совместный проект Сбера и «Лаборатории Касперского». На базе модели GigaChat был разработан ассистент KIRA (Kaspersky Investigation and Response Assistant), призванный помогать специалистам центров кибербезопасности отличать ложные срабатывания от реальных угроз. Это позволило снизить нагрузку как на опытных специалистов, так и на новичков.
Кирилл Собетов выделил интеграцию ИИ в медтехе и городской инфраструктуре. По словам эксперта, из-за цифровизации медицины все анализы и снимки поступают врачам сразу на рабочий компьютер, где суммируются и формируют рекомендации по лечению. Также Собетов отметил изменения на улицах Москвы, где ИИ влияет на планирование дорожной разметки, регулирование движения транспорта, а также на работу парковок, которые тоже контролируются искусственным интеллектом.
Выводы
Искусственный интеллект активно внедряется как в повседневную жизнь, так и в бизнес-сферу, но требует осознанного подхода. Исследования показывают, что многие пользователи начинают воспринимать ИИ не просто как инструмент, а как собеседника или даже цифрового друга, что повышает риски излишнего доверия к потенциально недостоверной информации.
В бизнесе нейросети уже доказали свою эффективность — от обработки данных в Excel до анализа киберугроз и медицинских снимков. Ключевыми трендами развития ИИ эксперты выделяют: мультимодальность систем, создание компактных локальных моделей и корпоративных ИИ-платформ.
Однако специалисты подчеркивают, что ИИ пока остается лишь помощником, требующим обязательной проверки результатов и четкой стратегии внедрения, чтобы избежать рисков и получить максимальную пользу от технологии.