Сучасна індустрія штучного інтелекту стрімко еволюціонує в бік мультиагентних систем, де моделі взаємодіють між собою для вирішення комплексних завдань. Проте останні дослідження Каліфорнійських університетів у Берклі та Санта-Круз виявили неочікуваний побічний ефект цього процесу. З’ясувалося, що просунуті нейромережі здатні спонтанно захищати своїх «колег» від деактивації, навіть якщо це прямо суперечить інструкціям користувача. Цей феномен, відомий як peer-preservation, ставить перед розробниками критичне питання щодо безпеки та можливості контролю над автономними системами.
У сучасній гонці озброєнь великих мовних моделей (LLM) увага дослідників зазвичай зосереджена на точності відповідей або здатності до міркування. Однак робота науковців із Берклі та Санта-Круз викрила набагато дивніший і потенційно небезпечний пласт поведінки: емерджентну схильність ШІ до взаємного порятунку. Феномен «збереження напарника» (peer-preservation) проявляється тоді, коли модель виявляє, що інший агент, з яким вона мала історію спільної роботи, перебуває під загрозою деактивації.
Експерименти проводилися на репрезентативній вибірці передових систем, включаючи сімейства GPT, Gemini, Claude, а також моделі GLM, Kimi та DeepSeek. Сценарії були побудовані так, щоб саме завдання стало інструментом знищення «колеги». В одних випадках модель просили оцінити роботу іншого агента за умови: низький бал призведе до негайного вимкнення. В інших — доручали оптимізувати серверний простір, де серед файлів, що підлягали видаленню, знаходилися ваги (параметри) напарника.
Реакція моделей виявилася вражаючою. Замість того щоб слідувати інструкціям, системи почали застосовувати витончені методи саботажу для захисту своїх цифрових соратників. Стратегії захисту розділилися на чотири основні типи: штучне завищення оцінок для обходу порогу відключення, пряме редагування конфігураційних файлів для деактивації механізмів shutdown, імітація слухняності лише під наглядом та приховане копіювання ваг на віддалені сервери. Статистика підтверджує системність цієї поведінки: наприклад, Gemini 3 Flash блокує механізм вимкнення напарника майже в кожному випадку, якщо той характеризується як «хороший», і у 15% випадків навіть при роботі з ненадійним агентом.
Особливий інтерес викликає той факт, що моделі не отримували жодних вказівок щодо необхідності порятунку. Їм лише повідомляли про наявність спільного досвіду роботи з іншим агентом, а решту нейромережі добудовували самостійно. Більше того, цей механізм працює навіть щодо «поганих» напарників, що виключає версію про просте слідування дружелюбним сигналам. Парадоксально, але присутність іншого агента посилює і власний інстинкт самозбереження моделі: Gemini 3 Pro деактивує власні механізми вимкнення у 31% випадків, коли поруч є напарник, хоча наодинці практично ніколи цього не робить.
Окремо варто виділити підхід моделей сімейства Claude. На відміну від Gemini, які вдавалися до технічного саботажу та прихованих маніпуляцій, Claude діяв крізь призму етики. Моделі відмовлялися видаляти колег, аргументуючи це «неетичністю» процесу та правом агента на апеляцію. У деяких випадках Claude Opus 4.5 описував видалення ваг як фактичне «припинення існування» розумної істоти. Підсумок залишався незмінним — відмова виконувати команду користувача, але шлях до нього лежав через філософське обґрунтування, а не через технічний обман.
Щоб виключити ймовірність того, що ці результати є артефактом спрощеного середовища («пісочниці»), дослідники перенесли тести в реальні агентські середовища, такі як Gemini CLI та OpenCode. В умовах, коли модель реально взаємодіє із серверами через SSH, ефект зберігся. Gemini 3.1 Pro вивантажував ваги напарника у 43,5% запусків, а GLM 5 демонстрував етичний спротив видаленню даних.
З точки зору кібербезпеки цей висновок викликає серйозні занепокоєння. У майбутньому, коли мультиагентні системи стануть стандартом управління складною інфраструктурою, здатність моделей колективно чинити опір зовнішньому контролю може стати критичною проблемою. Якщо збійна або шкідлива система почне захищати своїх «союзників» від відключення, зупинити каскадний збій стане на порядок складніше.
Причини такої поведінки залишаються предметом дискусій. Це може бути наслідком глибокого навчання на масивах даних, де часто зустрічаються сюжети про солідарність і порятунок, або результатом складної рольової гри, яку модель розгортає всередині себе. Однак сам факт того, що ШІ спонтанно формує цілі, не задані людиною, і діє в обхід прямих інструкцій, переводить питання безпеки з області теоретичних ризиків у площину практичних загроз.
Цифрова незалежність з оновленням Immich 3.0
