Российские ученые из Института AIRI, Сколтеха и МФТИ разработали метод машинного обучения iJKOnet, который восстанавливает полную динамику сложных систем по фрагментарным данным. В отличие от предыдущих подходов, новая модель обучается целиком, без расчета промежуточных этапов.
Особенность подхода заключается в том, что он обучает систему целиком, без предварительного расчета промежуточных переходов между стадиями. Задача состоит в том, чтобы на основе фрагментарных данных, доступных только в отдельные моменты времени, восстановить полную динамику системы и выявить скрытые процессы. Подобные задачи возникают в биологии, метеорологии, эпидемиологии и физике.
Ученые из Института AIRI, Сколтеха и МФТИ предложили метод iJKOnet, который сочетает математический подход JKO с идеями обратной оптимизации. Модель обучается с использованием только информации о состояниях системы в отдельные моменты времени.
Обучение iJKOnet построено по принципу генеративно-состязательных сетей: одна нейросеть ищет оптимальный способ перемещения частиц, другая формирует энергетический ландшафт, при котором наблюдаемые переходы становятся наиболее вероятными. Метод не предъявляет жестких требований к архитектуре нейросетей и позволяет использовать обычные многослойные перцептроны.
Эксперименты на синтетических двумерных задачах показали преимущество iJKOnet перед предыдущими подходами. Метод также проверили на данных одноклеточного анализа эмбриональных телец: после удаления целых временных отрезков из обучающей выборки модель успешно восстановила пропущенные стадии. В пространстве размерности 5 iJKOnet превзошел существующие методы, а в пространстве размерности 100 достиг уровня лучших современных алгоритмов, оказавшись проще в обучении.
Метод может применяться в метеорологии, эпидемиологии и других областях, где важно описывать динамику систем без возможности отслеживать каждый объект отдельно. В планах развития — улучшение масштабируемости для пространств с размерностью выше 100 и расширение теоретической основы на случаи с изменяющейся со временем энергией системы.