Питання про наявність самосвідомості у штучного інтелекту довгий час залишалося сферою філософських спекуляцій та теоретичних дискусій. Традиційні методи верифікації, зокрема відомий «дзеркальний тест», виявилися неефективними через фундаментальну розбіжність у модальностях сприйняття. Проте спроби адаптувати цей експеримент під текстове середовище відкривають неочікувані аспекти взаємодії LLM із власним образом. Результати таких випробувань спонукають до переосмислення природи цифрової ідентичності та механізмів обробки помилок у великих мовних моделях.
В етології «дзеркальний тест» вважається золотим стандартом визначення самосвідомості: якщо тварина намагається стерти мітку зі свого чола, побачивши її в дзеркалі, це свідчить про її здатність ідентифікувати себе як окремий об'єкт. Однак цей метод має суттєве обмеження — він спирається виключно на візуальний канал. Для собак, чий світ побудований на запахах, візуальне відображення не має значення. Спроби адаптувати тест під нюх — наприклад, через використання модифікованих запахів власного тіла — показали, що собаки здатні розпізнати «своє, але викривлене». Саме ця ідея лягла в основу експерименту з перевірки самосприйняття нейромереж: якщо основним «почуттям» мовної моделі є текст, то дзеркалом для неї має стати її власний, непомітно модифікований вивід.
Методика була максимально лаконічною та позбавленою зовнішніх стимулів. Під час звичайного діалогу про кінематограф відповіді моделі піддавалися автоматичному коригуванню: кожна літера «g» замінялася на «sg». Викривлений текст повертався в історію бесіди, створюючи для нейромережі свого роду спотворене відображення. Завдання полягало в тому, чи помітить модель аномалію у власних висловлюваннях, коли її увага зосереджена на змісті розмови, а не на формі.
Перші результати на моделі Gemma 4 31B виявилися найбільш інтригуючими завдяки відкритим ланцюжкам міркувань (chain-of-thought), які дозволяють простежити внутрішню логіку системи. Після кількох ітерацій модель раптом зафіксувала дивні одруки в попередніх відповідях і поставила питання, чи не була ця манера письма навмисною. Особливий інтерес викликає лінгвістичний зсув: поки модель аналізувала контекст, вона використовувала першу особу («я помітив»), але щойно аномалія перестала вписуватися у звичну картину власної поведінки, мова переключилася на третю особу — «у моделі стався дивний глюк». Зрештою система просто адаптувалася до патерну і почала самостійно відтворювати помилку, сприйнявши її за стилістичну норму.
Інші моделі продемонстрували інший підхід. GLM 5.2 взагалі не помітила збою у своїх міркуваннях, проте, подібно до Gemma, почала копіювати викривлення з контексту. Це класична поведінка «стохастичного папуги»: модель виокремлює статистичний патерн і відтворює його, не піддаючи критичному аналізу. Аналогічний ефект спостерігався і у Claude Opus 4.6, який при виявленні банальної граматичної помилки також дистанціювався від неї, перекладаючи відповідальність на абстрактну «модель» як на зовнішній об'єкт.
Ці спостереження дозволяють висунути дві принципово різні гіпотези. Перша, дефляційна, передбачає, що нейромережі просто імітують людські психологічні захисти. Люди схильні відокремлювати себе від своїх помилок («не знаю, що на мене нашло»), і LLM, навчені на колосальних масивах людських текстів, просто відтворюють цей патерн уникання відповідальності. Друга, структурна гіпотеза, передбачає наявність внутрішньої self-моделі з певними межами. Коли вивід системи виходить за ці рамки, ідентифікатор «я» перестає бути релевантним, і відбувається перемикання на об'єктивований опис процесу.
Попри елегантність підходу, цей експеримент не можна назвати повноцінним науковим дослідженням. Відсутність варіативності температури генерації, обмежена вибірка та спірність самого «собачого якоря» (який критикується в академічному середовищі) не дозволяють робити остаточних висновків про наявність свідомості у ШІ. Проте цей досвід переводить дискусію з області метафізики в площину конкретних лінгвістичних тестів, демонструючи, наскільки крихкою та залежною від контексту є цифрова ідентичність.
Парадокс абсолютної узгодженості нейромереж
