Удаление переписки с ИИ-ассистентом на смартфоне не всегда означает, что ее содержимое исчезло безвозвратно. Исследователи разработали инструмент ORISA, который способен восстанавливать фрагменты удаленных диалогов из памяти Android-устройств и на их основе воссоздавать рабочую сессию с ИИ.
Инструмент предназначен для анализа локальных ИИ-ассистентов, которые обрабатывают запросы непосредственно на устройстве, а не отправляют переписку на удаленный сервер. Во время работы такие приложения могут оставлять данные в оперативной памяти. Даже после удаления диалога некоторые сведения способны сохраняться там некоторое время.
ORISA ищет остатки переписки в памяти смартфона, извлекает найденную информацию и использует ее для создания новой сессии с ассистентом. Благодаря этому исследователи могут восстановить не только отдельные фрагменты сообщений, но и часть контекста, которым располагала нейросеть.
В одном из экспериментов ученые создали вымышленного ИИ-помощника для ведения проектных заметок. Ему передали 100 придуманных фактов, после чего переписку удалили. Инструмент ORISA восстановил часть сведений и перенес их в новую сессию. Когда исследователи попросили ассистента перечислить заметки, он выдал 26 фактов. При этом исходная сессия могла получить доступ только к 14 фактам, поскольку остальные уже вышли за пределы ее активного контекста.
Исследователи также протестировали инструмент на десяти приложениях для Android и трех моделях ИИ. В ходе испытаний проверили 60 комбинаций приложений и моделей. Во всех случаях ORISA удалось извлечь информацию из переписок, следы которых сохранились в памяти устройства.
Однако восстановление не гарантировано. По мере использования смартфона данные в оперативной памяти перезаписываются, и извлечь прежнюю информацию становится сложнее. Поэтому результат зависит от того, какие фрагменты сохранились к моменту анализа.
У технологии есть практическое применение в цифровой криминалистике. Она может помочь специалистам установить, какую информацию человек передавал ИИ-ассистенту и какую помощь получал в ответ. Одновременно исследование поднимает вопросы конфиденциальности: пользователь может считать переписку удаленной, хотя некоторые ее следы еще доступны для извлечения.
Читайте также: Модели OpenAI ставят под сомнение устоявшиеся научные теории