Ученые предложили способ проверить, обладает ли искусственный интеллект сознанием. В статье на arXiv они описали архитектуру Motivated Emotional Mind (MEM), и набор критериев, которые можно использовать для экспериментальной проверки таких систем.
Способность ИИ разговаривать, работать с изображениями, хранить информацию, планировать действия или управлять роботом сама по себе не говорит о наличии субъективного опыта. По мнению ученых, важно смотреть не на отдельные функции, а на то, как они связаны между собой внутри всей системы.
В основе MEM лежит идея объединить восприятие, внутреннее состояние, память, оценку происходящего, мотивацию и управление действиями. Одним из главных элементов авторы считают искусственную интероцепцию — систему, которая отслеживает собственное внутреннее состояние и позволяет ему влиять на восприятие, обучение и выбор действий.
Еще один предложенный компонент — так называемые semblions. Это динамические представления, которые связывают восприятие с прошлым опытом, внутренним состоянием, оценкой ситуации и возможными действиями.
Отдельное значение авторы придают механизму re-entry — обратной передаче информации от более высоких уровней обработки к сенсорным и интероцептивным картам. Согласно гипотезе MEM, такая обратная связь может быть связана с возникновением субъективного опыта.
При этом исследователи не утверждают, что существующие большие языковые модели или роботы уже обладают сознанием. Они предлагают серию экспериментов, которые позволили бы проверить отдельные элементы архитектуры и их взаимодействие. Например, для искусственных агентов предлагается сравнивать полную MEM-архитектуру с вариантами, в которых отключены интероцепция, эмоциональная регуляция или механизм обратной связи.
Авторы также предлагают проверять систему по нескольким независимым признакам одновременно. Более убедительным результатом они считают ситуацию, когда сенсорная информация, внутреннее состояние, память, оценка и действия оказываются причинно связаны и влияют друг на друга.
Однако даже успешное прохождение таких тестов не будет доказательством сознания. Исследователи рассматривают MEM как проверяемую гипотезу, которая может получить или потерять поддержку в зависимости от результатов экспериментов.
Читайте также:
Сэм Альтман признал, что OpenAI не решила проблему безопасности ИИ
Математики не доверяют доказательствам ИИ — нейросети научились обходить компьютерную проверку