При автоматизации обращений жителей разработчики столкнулись с риском галлюцинаций ИИ, а ошибочный ответ о статусе заявки в ЖКХ может привести не только к недовольству клиента, но и к нарушениям обязательных требований. В одном из пилотов проблему решили разделением функций между языковой моделью и программными алгоритмами.
Ежемесячно в «Группу К+», ранее «Группа КОМФОРТ», поступает около 20 тыс. обращений жителей. Значительная часть из них — повторяющиеся вопросы о начислениях, графиках уборки, передаче показаний или сроках выполнения работ. На обработку одного обращения оператор в среднем тратит 5–7 минут.
При разработке ИИ-помощника перед командой стояла задача автоматизировать эту часть коммуникации, не передавая нейросети полный контроль над заявками. Причина — некорректно сформированный ответ о выполнении работ или ошибка при обработке аварийного сообщения может иметь существенно более серьезные последствия, чем обычная ошибка чат-бота.
Сейчас решение проходит пилотное тестирование на пяти жилых комплексах с почти 36 тыс. лицевых счетов.
Нейросеть понимает запрос, код принимает решение
Вместо полностью генеративного подхода разработчики разделили функции языковой модели и детерминированных программных модулей. Языковая модель отвечает за работу с естественной речью: определяет смысл сообщения и контекст обращения. Последовательность дальнейших действий контролирует иерархическая машина состояний (HFSM).
Такой подход нужен, в частности, для работы со статусами заявок. Если обращение только зарегистрировано или передано исполнителю, система ограничивает возможность модели сформировать ответ, из которого житель может сделать вывод, что проблема уже устранена.
Отдельные сценарии предусмотрены для потенциально опасных ситуаций. Если классификатор распознает сообщение о пожаре, утечке газа или застревании в лифте, стандартный сценарий генерации ответа прерывается и запускается заранее заданный алгоритм с инструкциями по безопасности.
При этом система анализирует не только ключевые слова. Например, фраза «Коробка с кнопками сдохла, я внутри, душно!» определяется как обращение о застревании человека в лифте.
От свободного текста — к конкретной работе в 1С
Еще одной задачей стало преобразование бытового языка жителей в формализованные категории учетной системы.
После определения содержания обращения отдельный программный адаптер сопоставляет его с номенклатурой работ в 1С, которая включает более 250 кодов. Например, сообщение о неработающей кнопке в кабине лифта должно быть преобразовано в соответствующий код неисправности.
Сама языковая модель заявку в 1С не создает. Она интерпретирует сообщение, а передача структурированных данных в учетную систему выполняется программным модулем. Таким образом, генеративная часть отделена от действия, которое влияет на дальнейшую обработку заявки.
Похожий принцип используется при работе с адресами. Отдельный модуль сопоставляет написанный жителем адрес со структурированным реестром объектов. Сейчас он охватывает 254 дома с учетом корпусов, строений и литер.
400 тыс. пар вопросов и ответов вместо ответа «из головы»
Для подготовки ответов используется поиск по базе знаний. В системе работают две изолированные векторные базы, содержащие в общей сложности более 400 тыс. пар вопросов и ответов.
В них входят нормативные документы, внутренние регламенты, исторические обращения и накопленные решения по предыдущим случаям. Есть также отдельный слой для добавления новых кейсов.
Задача такой архитектуры — максимально привязать ответ модели к существующей фактологии, хотя полностью исключить риск ошибок генеративной модели нельзя.
Что показал пилот
Полный цикл обработки одного запроса — от классификации обращения и поиска информации до формирования ответа — в ходе тестирования занимает в среднем 15–20 секунд.
Точность классификации достигла 98% на закрытой валидационной выборке. Система различает 12 типов объектов. При этом показатель доли обращений, которые ИИ способен самостоятельно обработать в реальной эксплуатации, пока не зафиксирован: его планируют оценить после масштабирования.
Сейчас пилот работает в текстовом формате в MAX. Архитектура также предусматривает другие текстовые каналы, а голосовое взаимодействие рассматривается как следующий этап.
Зачем разделять ИИ и обычный код
Кейс показывает одно из ограничений внедрения генеративного ИИ в сервисные процессы — чем выше цена ошибочного ответа, тем меньше функций можно оставлять непосредственно языковой модели. В данном случае ИИ используется там, где требуется понимать свободную человеческую речь и контекст. Проверка адресов, работа с аварийными сценариями, создание заявок и другие критичные операции по возможности переводятся в детерминированные алгоритмы.
При масштабировании системы расчетный эффект от автоматизации типовых обращений может составить до 1,9 тыс. высвобожденных часов работы операторов ежемесячно. Это пока прогнозный показатель, ведь фактический эффект предстоит оценить после перехода от пилота к промышленной эксплуатации.