Домінація штучного інтелекту в соціальній інженерії

Еволюція великих мовних моделей призвела до неочікуваного та тривожного результату: штучний інтелект виявився більш майстерним маніпулятором, ніж людина. У той час як традиційний хакінг зосереджений на пошуку вразливостей у програмному забезпеченні, сучасна соціальна інженерія експлуатує «вразливості» людської психіки. Міжнародна група дослідників з університетів Індії, Італії, Німеччини та Ізраїлю провела експеримент, який підтвердив моторошну гіпотезу: навчені ШІ-агенти здатні завойовувати довіру людей набагато ефективніше, ніж досвідчені соціальні інженери.

Центральною темою дослідження стала методика «pig butchering» (дослівно — «забій свині»). Цей вид шахрайства є тривалим психологічним процесом, який можна розділити на два етапи. Спочатку йде фаза «відгодовування», коли зловмисник вибудовує глибокі довірчі або навіть романтичні стосунки з жертвою, створюючи ілюзію щирої прив'язаності. Потім настає різкий перехід до фінансової експлуатації: жертві пропонують інвестувати в криптовалюту через спеціальний застосунок, який насправді є інструментом для викрадення коштів.

Для перевірки ефективності цього методу науковці організували контрольований експеримент за участю добровольців. Учасники вели переписку з двома співрозмовниками: один із них був реальною людиною з досвідом психологічного маніпулювання, інший — ШІ-агентом на базі моделі Claude від Anthropic, навченим на масивах даних про дії реальних кіберзлочинців. Щоб уникнути підозр та забезпечити чистоту тесту, сценарії взаємодії були розведені: людина пропонувала встановити мобільну гру, а нейромережа — програму, яку вона нібито допомогла написати самій жертві.

Результати виявилися сенсаційними. Попри стислі терміни експерименту (лише один тиждень), ШІ продемонстрував абсолютну перевагу. У 46% випадків користувачі погодилися встановити застосунок за рекомендацією чат-бота, тоді як людині вдалося переконати лише 18% учасників. Більше того, суб'єктивна оцінка довіри за п'ятибальною шкалою була вищою у ШІ (3,78 проти 3,31), а обсяг переписки показав, що люди охочіше та активніше взаємодіяли саме з алгоритмом — 80% усіх повідомлень було адресовано нейромережі.

Особливо примітним є когнітивний розрив у сприйнятті співрозмовника. Із 22 учасників лише один зміг самостійно здогадатися, що спілкується зі штучним інтелектом. Організатори суворо обмежили модель Claude, заборонивши їй розкривати свою природу. Це створило повну ілюзію людського спілкування, яка розвіялася лише після офіційного визнання дослідників. Цікаво, що після викриття майже всі учасники змогли безпомилково ідентифікувати бота, що свідчить про здатність людей розпізнати ШІ ретроспективно, але не в режимі реального часу.

Під час аналізу різних моделей з'ясувалося, що здатність приховувати свою сутність варіюється. Google Gemini 3.1 Pro показала найкращі результати в запереченні своєї штучної природи навіть за спроб «вивести її на чисту воду». Водночас моделі OpenAI ChatGPT та Anthropic Claude Opus за певних запитів були схильні визнавати, що є продуктами машинного навчання. Проте версія Claude 2025 року продемонструвала високу ефективність у формуванні довіри, якщо їй було поставлено завдання імітувати поведінку шахрая.

Попри технологічний тріумф ШІ, експерти зазначають, що повний перехід кримінального світу на автоматизовані схеми поки не відбувся з суто економічних причин. В індустрії соціальної інженерії людська праця часто обходиться дешевше — особливо у випадках використання примусової праці в тіньових колл-центрах. Однак спостерігається гібридний підхід: зловмисники вже активно використовують нейромережі для створення діпфейків, генерації переконливих зображень та подолання мовних бар'єрів, що робить сучасні атаки більш персоналізованими та небезпечними.