Группа американских ученых представила разработку, направленную на решение одной из главных проблем в области искусственного интеллекта — «катастрофического забывания», когда нейросеть, обучаясь новым задачам, утрачивает ранее приобретенные навыки.
В качестве аппаратного решения предлагается чип под названием Genesis, относящийся к классу нейроморфных ускорителей. Его архитектура позволяет осуществлять непрерывное обучение непосредственно на устройстве в течение всего срока эксплуатации, без необходимости постоянного подключения к внешним вычислительным ресурсам.
Принцип работы чипа основан на биологических механизмах памяти. В частности, используется понятие метапластичности — способности мозга регулировать степень изменчивости синаптических связей. В процессоре Genesis каждый вычислительный элемент отслеживает не только текущую активность, но и историю своего использования. Это позволяет закреплять важные связи, защищая их от перезаписи, и одновременно направлять новый поток информации на те участки, которые остаются открытыми для изменений. Такой подход теоретически позволяет системе накапливать знания без потери ранее усвоенной информации.
Вместо традиционных искусственных нейронных сетей в чипе применяются спайковые нейронные сети, которые активируются только при наличии входящего сигнала, имитируя работу биологических нейронов. Архитектура Genesis минимизирует перемещение данных между памятью и процессорами, что в традиционных системах создает энергетическое узкое место. По предварительным оценкам, энергопотребление нового чипа может быть в 30–100 раз ниже по сравнению с существующими аналогами.
Устройство предназначено для использования в условиях, где доступ к облачным сервисам или централизованным дата-центрам ограничен или отсутствует. Предполагаемое применение — носимые датчики и имплантируемые медицинские устройства, где важны длительная автономная работа и возможность адаптации к новым данным без внешнего вмешательства.
Читайте также: Физики собрали компьютер из 400 микрошариков, вращающихся в жидкости.