Нейросети в поиске криптографических уязвимостей

Современная криптография опирается на математическую безупречность, однако реализация этих концепций в коде часто становится слабым звеном. Именно эта уязвимость легла в основу исследования компании zkSecurity, которая направила свой специализированный ИИ-пайплайн на анализ CIRCL — экспериментальной криптографической библиотеки Cloudflare. Результатом стали семь подтвержденных уязвимостей, большинство из которых были вознаграждены в рамках программы bug bounty. Однако истинная ценность этого кейса заключается не в количестве найденных ошибок, а в анализе когнитивных способностей моделей, которые их обнаружили.

Центральным событием аудита стало обнаружение критического бага в схеме шифрования, где доступ к данным регулировался сложными политиками прав. В идеальной модели расшифровка сообщения должна была происходить только при соблюдении совокупности условий — например, когда ключ пользователя соответствовал одновременно и определенному отделу, и конкретному географическому региону. По сути, это напоминало замок, требующий одновременного поворота нескольких ключей.

Однако из-за ошибки в одной единственной строке кода логика сборки «замка» была нарушена. Выяснилось, что для доступа к данным было достаточно одного ключа. Ситуация усугублялась тем, что служебная метка, фактически выполнявшая роль первого обязательного ключа, присутствовала в каждом выданном пользователю токене. В итоге любая политика доступа оказывалась бессмысленной: любой владелец ключа мог расшифровать любое сообщение. Cloudflare официально признала этот инцидент критическим.

Интересно распределение ролей между инструментами. Самую опасную уязвимость обнаружил zkao — проприетарный ИИ-агент zkSecurity, заточенный под аудит кода. Остальные шесть ошибок были распределены между Claude Opus 4.6 и GPT-5.3. При этом исследователи подчеркивают важность концепции «человека в цикле» (human-in-the-loop). Нейросети генерировали гипотезы и указывали на подозрительные участки, но именно люди проверяли эти находки на реальную эксплуатируемость и вели процесс раскрытия уязвимостей. На текущем этапе развития технологий стоимость генерации кандидатов в баги стала ничтожной, но уровень доверия к сырым отчетам ИИ остается низким.

Анализ поведения моделей выявил ряд системных странностей, прежде всего в области оценки рисков. ИИ демонстрирует полную несостоятельность в определении серьезности собственных находок. В большинстве случаев модели склонны гиперболизировать опасность простых ошибок, в то время как действительно опасные векторы атаки могут быть недооценены. Ярким примером стала атака на агрегированные подписи BLS (Boneh-Lynn-Shacham), которая была ошибочно классифицирована как уязвимость среднего уровня. Это подтверждает тезис о том, что оценка критичности — это контекстуальный бизнес-процесс, требующий человеческого суждения, а не простого анализа паттернов кода.

Еще одним важным выводом стала крайняя нестабильность и волатильность эффективности различных моделей. В ходе первого этапа сканирования доминирующую роль играл Claude Opus 4.6, в то время как GPT-5.3 выступал лишь в роли рецензента. Однако спустя несколько недель, при обновлении версий до Opus 4.7 и GPT-5.4, ситуация зеркально изменилась: GPT стал основным генератором находок, а Claude перешел к функции подтверждения.

Этот феномен указывает на то, что лидерство в области анализа кода может смениться с одним релизом модели. Для профессионального сообщества это означает, что привязанность к конкретному бренду или названию нейросети бессмысленна — эффективный пайплайн должен быть гибким и позволять быструю замену одного «интеллекта» другим в зависимости от актуальных показателей производительности.