Стремительное внедрение генеративного ИИ в корпоративные среды привело к возникновению проблемы «теневых» моделей, когда реальный состав развернутых компонентов перестает соответствовать проектной документации. В условиях жесткого регуляторного давления и требований к прозрачности цепочек поставок, традиционного анализа исходного кода становится недостаточно. Google представляет k8s-aibom — инструмент для динамической инвентаризации ИИ-нагрузок непосредственно в работающем кластере. Этот контроллер превращает хаос развертываний в структурированный реестр компонентов, обеспечивая необходимый уровень наблюдаемости для современного ML-Ops.
В современной инфраструктуре машинного обучения разрыв между тем, что было запланировано на этапе CI/CD, и тем, что фактически исполняется в среде production, может стать критической уязвимостью. Для решения этой проблемы Google выпустила k8s-aibom — специализированный контроллер для Kubernetes, который автоматизирует создание ведомостей компонентов машинного обучения (ML-BOM) в соответствии со стандартом CycloneDX 1.6. В отличие от статических сканеров, этот инструмент работает с живым состоянием кластера, выявляя даже те нагрузки, которые могли быть развернуты в обход официальных систем регистрации.
Механизм работы контроллера основан на глубоком анализе стандартных ресурсов Kubernetes: от Deployment и StatefulSet до специфических InferenceService в KServe. k8s-aibom выступает в роли цифрового детектива, который по косвенным признакам — именам образов контейнеров, переменным окружения, аргументам командной строки и конфигурациям томов — восстанавливает полную картину используемого стека.
Спектр распознаваемых компонентов охватывает практически все ключевые уровни современного ИИ-пайплайна:
— Среды исполнения моделей, такие как vLLM, NVIDIA Triton, Hugging Face TGI и Ollama;
— Агентские фреймворки, включая LangChain, AutoGen и CrewAI;
— Векторные базы данных и инструменты RAG (Milvus, Qdrant, pgvector);
— Инструментарий для обучения и дообучения на базе PyTorch, JAX, KubeRay и Hugging Face Accelerate;
— Системы оценки качества моделей, такие как Ragas и lm-evaluation-harness.
Результатом работы является ресурс AIBOM, где в поле status.bomDocument хранится детальный документ состава системы. Для обеспечения интеграции с внешними системами предусмотрена возможность выгрузки данных в Google Cloud Storage или передача через веб-хуки.
Особого внимания заслуживает философия развертывания инструмента. k8s-aibom спроектирован как непривилегированный Deployment, который не требует внедрения sidecar-контейнеров, использования eBPF или доступа к ядру узлов. Это делает его максимально безопасным и легким для внедрения: он взаимодействует с кластером исключительно через стандартный API Kubernetes и активируется только в тех пространствах имен, которые помечены соответствующим лейблом. Однако такая архитектура накладывает определенные ограничения — контроллер видит конфигурацию ресурсов, но не имеет возможности анализировать сетевой трафик или внутренние процессы внутри контейнера.
Для обеспечения достоверности данных k8s-aibom внедряет систему уровней уверенности для каждого обнаруженного свойства. Если параметр был явно указан разработчиком в конфигурации (например, через флаг --model), ему присваивается статус declared. Если же среда исполнения определена по имени образа, используется статус inferred (выведенный). В случаях, когда наличие ИИ-компонента очевидно, но его точные параметры установить не удалось, ставится отметка unresolved. Такой подход позволяет аудиторам четко разделять эксплицитные намерения разработчиков и гипотезы сканера.
Важным концептуальным отличием k8s-aibom от традиционных SBOM-инструментов является смещение фокуса с этапа сборки на этап исполнения. Если обычный сканер показывает, что должно быть развернуто, то данный контроллер фиксирует, что используется на самом деле. Это превращает инструмент в мощный механизм контроля дрифта конфигураций, который идеально вписывается в GitOps-процессы, позволяя сравнивать версии ML-BOM и отслеживать эволюцию зависимостей в реальном времени.
С точки зрения комплаенса, решение ориентировано на соответствие жестким международным стандартам, таким как EU AI Act, NIST AI Risk Management Framework и ISO/IEC 42001. Хотя сам инструмент не является сертификатором, он предоставляет необходимый фундамент данных для прохождения аудита. Для защиты целостности журналов при экспорте в облачное хранилище используется условие DoesNotExist, что исключает возможность незаметной перезаписи предыдущих версий ведомостей и гарантирует неизменность истории изменений.
На текущий момент проект находится в стадии alpha (v1.0), что подразумевает его использование в некритичных сценариях наблюдения. Инструмент требует Kubernetes версии 1.27 или выше и, несмотря на происхождение, остается полностью облачно-агностическим. Его можно развертывать как в GKE, так и в Amazon EKS, Azure AKS, OpenShift или локальных кластерах, что делает k8s-aibom универсальным стандартом для обеспечения прозрачности ИИ-инфраструктуры независимо от выбранного провайдера.
Эволюция слоя совместимости KytyPS5
