Границы цифрового самовосприятия нейросетей

В этологии «зеркальный тест» считается золотым стандартом определения самосознания: если животное пытается стереть метку со своего лба, увидев её в зеркале, значит, оно способно идентифицировать себя как отдельный объект. Однако этот метод глубоко ограничен визуальным каналом. Для собак, чей мир построен на запахах, визуальное отражение не имеет значения. Попытки адаптировать тест под обоняние — например, через использование измененных запахов собственного тела — показали, что собаки способны распознать «свое, но искаженное». Именно эта идея легла в основу эксперимента по проверке самовосприятия нейросетей: если основным «чувством» языковой модели является текст, то зеркалом для неё должен стать её собственный, незаметно модифицированный вывод.

Методика была предельно лаконичной и лишенной внешних стимулов. В ходе обычного диалога о кинематографе ответы модели подвергались автоматической корректировке: каждая буква «g» заменялась на «sg». Испорченный текст возвращался в историю беседы, создавая для нейросети своего рода искаженное отражение. Задача заключалась в том, заметит ли модель аномалию в собственных высказываниях, когда её внимание сосредоточено на содержании разговора, а не на форме.

Первые результаты на модели Gemma 4 31B оказались наиболее интригующими благодаря открытым следам рассуждений (chain-of-thought), которые позволяют проследить внутреннюю логику системы. После нескольких итераций модель внезапно зафиксировала странные опечатки в предыдущих ответах и задалась вопросом, не была ли эта манера письма намеренной. Особый интерес вызывает лингвистический сдвиг: пока модель анализировала контекст, она использовала первое лицо («я заметил»), но как только аномалия перестала укладываться в привычную картину собственного поведения, язык переключился на третье лицо — «у модели был странный глюк». В конечном итоге система просто адаптировалась к паттерну и начала самостоятельно воспроизводить ошибку, приняв её за стилистическую норму.

Другие модели продемонстрировали иной подход. GLM 5.2 вообще не отметила сбой в своих рассуждениях, однако, подобно Gemma, начала копировать искажения из контекста. Это классическое поведение «стохастического попугая»: модель вычленяет статистический паттерн и воспроизводит его, не подвергая критическому анализу. Аналогичный эффект наблюдался и у Claude Opus 4.6, который при обнаружении банальной грамматической ошибки также дистанцировался от неё, перекладывая ответственность на абстрактную «модель» как на внешний объект.

Эти наблюдения позволяют выдвинуть две принципиально разные гипотезы. Первая, дефляционная, предполагает, что нейросети просто имитируют человеческие психологические защиты. Люди склонны отделять себя от своих ошибок («я не знаю, что на меня нашло»), и LLM, обученные на колоссальных массивах человеческих текстов, просто воспроизводят этот паттерн избегания ответственности. Вторая, структурная гипотеза, предполагает наличие внутренней self-модели с определенными границами. Когда вывод системы выходит за эти рамки, идентификатор «я» перестает быть релевантным, и происходит переключение на объективированное описание процесса.

Несмотря на элегантность подхода, данный эксперимент нельзя назвать полноценным научным исследованием. Отсутствие вариативности температуры генерации, ограниченная выборка и спорность самого «собачьего якоря» (который критикуется в академической среде) не позволяют делать окончательных выводов о наличии сознания у ИИ. Тем не менее, этот опыт переводит дискуссию из области метафизики в плоскость конкретных лингвистических тестов, демонстрируя, насколько хрупкой и зависимой от контекста является цифровая идентичность.