Специалисты департамента информационных технологий разработали бесплатный сервис для проверки сообщений на предмет мошенничества. Об этом сообщается на портале мэра и правительства Москвы.
В рамках информационного проекта «Перезвони сам» был разработан специальный телеграм-бот. Он анализирует скриншоты переписки, текстовые и голосовые сообщения, которые ему присылают, и помогает определить, есть ли в сообщении признаки мошенничества, как рассказала руководитель проекта Валентина Шилина.
«Сервис работает с применением искусственного интеллекта, включая большие языковые модели и технологии оптического распознавания текста и речи».
Валентина Шилина, руководитель проекта
Тестовый режим приложения продлится до 27 февраля. После этого специалисты доработают функционал с учетом отзывов и пожеланий и полноценно запустят проект весной этого года.
Бот распознает эмоциональное давление, манипуляции, просьбы о персональных данных или деньгах, а также подозрительные ссылки. Анализируя аудиофайлы, искусственный помощник проверяет, не была ли использована синтезированная речь, что помогает выявлять дипфейки. Затем бот указывает вероятность обмана в процентах и выделяет подозрительные сигналы.
В аннотации к сервису указано, что технологии включают большие языковые модели (LLM) для анализа текстов и инструменты оптического распознавания символов для обработки изображений. Голосовые сообщения проходят двухступенчатую обработку: определяется синтезированная речь, затем проверяется расшифровка на признаки мошенничества с использованием LLM.
Нейросеть будет обучаться и пополняться новыми данными для повышения точности распознавания обмана и расширения сведений о мошеннических схемах.