Искусственная нейронная сеть заболела шизофренией

Учёные давно бьются над разгадкой причин шизофрении. Что вызывает это психическое расстройство? Интересное исследование провели психиатр Ральф Хофман из Йельского университета и Ристо Миккулайнен из Университета Техаса: они изменили разработанную ими компьютерную нейронную сеть так, что она стала выказывать симптомы шизофрении.

Hal 9000 был, конечно, не шизофреником, но паранойя - это тоже психическое расстройство

Шизофреники часто не могут мыслить логически и отделять реальные вещи от вымышленных. Ещё одним важным симптомом является диссоциация — невозможность изложить рассказанную ранее историю от правильного лица. Диссоциация считается ранним признаком этого заболевания. Именно на этом факте и строится исследование учёных — они попытались воспроизвести такую же проблему в искусственной нейронной сети.

Эта сеть называется DISCERN, и оба исследователя работали над нею ещё с 1990-х годов. Она представляет собой компьютерную модель биологической нейронной сети. В отличие от обычной компьютерной программы, DISCERN не даются конкретные команды — система должна сама решить на основе введённых данных, что делать дальше.

Для того чтобы компьютер «понимал» историю, которую ему рассказывают, его необходимо обучить значениям слов и тому, как они употребляются в речи. Этим процессом заведует синтаксический анализатор. После этого текст передаётся в анализатор повествования, который анализирует группу предложений, пытаясь вычленить сюжет, действующие лица и т.п.

DISCERN «скормили» 28 различных историй, одна половина которых была рассказана от первого лица, а другая половина — от третьего. Истории, рассказанные от первого лица, были реалистичными, жизненными, затрагивающими повседневность: работу, поход в ресторан, посещение свадьбы. Те, которые были рассказаны от третьего лица, напоминали боевики — в них присутствовали гангстеры и террористы.

После этого компьютеру пришлось пересказать эти истории учёным. Для этого «воспоминания» из эпизодической памяти системы передавались модулю изложения, который рассказывал историю на основе того, как другие модули до этого «поняли» и разложили её.

Для того чтобы заставить DISCERN выказать симптомы шизофрении, учёные внесли коррективу в программу обучения. Они заставили систему запоминать информацию с повышенной скоростью, что привело к запоминанию деталей истории, которые до этого отметались как неважные. Вместо того, чтобы быстрее заучивать рассказы, компьютер стал путаться и смешивать разные рассказы в один. Когда исследователи попытались «ускорить» модуль изложения, DISCERN вообразил, что принимал участие в истории, рассказанной от третьего лица (компьютер посчитал себя террористом, заложившим бомбу в рассказе, который изначально был от третьего лица).

Всё это очень сильно напоминает симптомы шизофрении. Интересно, что больные люди, которым рассказывали эти истории, пересказывали их примерно так же, как DISCERN. Учёные заключили, что интенсивное обучение, когда человеку приходится запоминать все детали, когда все воспоминания внезапно оказываются важны, возможно, способно привести к шизофрении.

Что будем искать? Например,ChatGPT

Мы в социальных сетях