Точка перетину штучного інтелекту та кібербезпеки переміщується з площини теоретичних дискусій у фазу практичного застосування. Нещодавній аудит експериментальних бібліотек Cloudflare продемонстрував, що сучасні LLM спроможні виявляти критичні вразливості у надскладних криптографічних протоколах. Кейс із бібліотекою CIRCL оголив системну проблему в реалізації політик доступу, яку вдалося локалізувати саме завдяки автоматизованим агентам. Цей прецедент формує нову парадигму, де ШІ виступає в ролі первинного «хантера» за багами, а людина — у ролі фінального верифікатора.
Сучасна криптографія спирається на математичну бездоганність, проте реалізація цих концепцій у коді часто стає слабкою ланкою. Саме ця вразливість лягла в основу дослідження компанії zkSecurity, яка спрямувала свій спеціалізований ШІ-пайплайн на аналіз CIRCL — експериментальної криптографічної бібліотеки Cloudflare. Результатом стали сім підтверджених уразливостей, більшість із яких були винагороджені в рамках програми bug bounty. Однак справжня цінність цього кейсу полягає не в кількості знайдених помилок, а в аналізі когнітивних здібностей моделей, які їх виявили.
Центральною подією аудиту стало виявлення критичного бага в схемі шифрування, де доступ до даних регулювався складними політиками прав. В ідеальній моделі розшифрування повідомлення мало відбуватися лише за умови дотримання сукупності факторів — наприклад, коли ключ користувача відповідав одночасно і певному відділу, і конкретному географічному регіону. По суті, це нагадувало замок, що потребує одночасного повороту кількох ключів.
Однак через помилку в одному-єдиному рядку коду логіка конструювання «замка» була порушена. З'ясувалося, що для доступу до даних було достатньо одного ключа. Ситуація ускладнювалася тим, що службова мітка, яка фактично виконувала роль першого обов'язкового ключа, була присутня в кожному виданому користувачеві токені. У підсумку будь-яка політика доступу виявилася безглуздою: будь-який власник ключа міг розшифрувати будь-яке повідомлення. Cloudflare офіційно визнала цей інцидент критичним.
Цікавим є розподіл ролей між інструментами. Найнебезпечнішу уразливість виявив zkao — пропрієтарний ШІ-агент zkSecurity, спеціалізований для аудиту коду. Решта шести помилок були розподілені між Claude Opus 4.6 та GPT-5.3. При цьому дослідники наголошують на важливості концепції «людини в циклі» (human-in-the-loop). Нейромережі генерували гіпотези та вказували на підозрілі ділянки, але саме люди перевіряли ці знахідки на реальну експлуатованість і вели процес розкриття уразливостей. На нинішньому етапі розвитку технологій вартість генерації потенційних багів стала нікчемною, проте рівень довіри до «сирих» звітів ШІ залишається низьким.
Аналіз поведінки моделей виявив низку системних дивацтв, насамперед у сфері оцінки ризиків. ШІ демонструє повну неспроможність визначити серйозність власних знахідок. У більшості випадків моделі схильні гіперболізувати небезпеку простих помилок, тоді як дійсно критичні вектори атак можуть бути недооцінені. Яскравим прикладом стала атака на агреговані підписи BLS (Boneh-Lynn-Shacham), яку було помилково класифіковано як уразливість середнього рівня. Це підтверджує тезу про те, що оцінка критичності — це контекстуальний бізнес-процес, який потребує людського судження, а не простого аналізу патернів коду.
Ще одним важливим висновком стала крайня нестабільність та волатильність ефективності різних моделей. Під час першого етапу сканування домінуючу роль відігравав Claude Opus 4.6, тоді як GPT-5.3 виступав лише в ролі рецензента. Однак за кілька тижнів, після оновлення версій до Opus 4.7 та GPT-5.4, ситуація дзеркально змінилася: GPT став основним генератором знахідок, а Claude перейшов до функції підтвердження.
Цей феномен вказує на те, що лідерство у сфері аналізу коду може змінитися з одним релізом моделі. Для професійної спільноти це означає, що прихильність до конкретного бренду чи назви нейромережі є безглуздою — ефективний пайплайн має бути гнучким і дозволяти швидку заміну одного «інтелекту» іншим залежно від актуальних показників продуктивності.
Системний підхід JetBrains до командного ШІ
