Стрімка експансія генеративного ШІ у корпоративний сектор породила проблему «тіньових» моделей, коли фактичний склад розгорнутих компонентів перестає відповідати проєктній документації. За умов суворого регуляторного тиску та зростаючих вимог до прозорості ланцюгів постачання, традиційного аналізу вихідного коду стає замало. Google представляє k8s-aibom — інструмент для динамічної інвентаризації ШІ-навантажень безпосередньо в робочому кластері. Цей контролер перетворює хаос розгортань на структурований реєстр компонентів, забезпечуючи необхідний рівень обсервабільності для сучасного ML-Ops.
У сучасній інфраструктурі машинного навчання розрив між тим, що було заплановано на етапі CI/CD, і тим, що фактично виконується в середовищі production, може стати критичною вразливістю. Для вирішення цієї проблеми Google випустила k8s-aibom — спеціалізований контролер для Kubernetes, який автоматизує створення відомостей компонентів машинного навчання (ML-BOM) відповідно до стандарту CycloneDX 1.6. На відміну від статичних сканерів, цей інструмент працює з живим станом кластера, виявляючи навіть ті навантаження, які могли бути розгорнуті в обхід офіційних систем реєстрації.
Механізм роботи контролера ґрунтується на глибокому аналізі стандартних ресурсів Kubernetes: від Deployment та StatefulSet до специфічних InferenceService у KServe. k8s-aibom виступає в ролі цифрового детектива, який за опосередкованими ознаками — іменами образів контейнерів, змінними оточення, аргументами командного рядка та конфігураціями томів — відновлює повну картину використовуваного стека.
Спектр розпізнаваних компонентів охоплює практично всі ключові рівні сучасного AI-пайплайна:
— Середовища виконання моделей, такі як vLLM, NVIDIA Triton, Hugging Face TGI та Ollama;
— Агентські фреймворки, включаючи LangChain, AutoGen та CrewAI;
— Векторні бази даних та інструменти RAG (Milvus, Qdrant, pgvector);
— Інструментарій для навчання та донавчання на базі PyTorch, JAX, KubeRay та Hugging Face Accelerate;
— Системи оцінки якості моделей, такі як Ragas та lm-evaluation-harness.
Результатом роботи є ресурс AIBOM, де в полі status.bomDocument зберігається детальний документ про склад системи. Для забезпечення інтеграції із зовнішніми системами передбачена можливість вивантаження даних у Google Cloud Storage або передача через вебхуки.
Особливої уваги заслуговує філософія розгортання інструменту. k8s-aibom спроєктований як непривілегований Deployment, який не потребує впровадження sidecar-контейнерів, використання eBPF або доступу до ядра вузлів. Це робить його максимально безпечним і легким для імплементації: він взаємодіє з кластером виключно через стандартний API Kubernetes і активується лише в тих просторах імен (namespaces), які позначені відповідним лейблом. Однак така архітектура накладає певні обмеження — контролер бачить конфігурацію ресурсів, але не має можливості аналізувати мережевий трафік або внутрішні процеси всередині контейнера.
Для забезпечення достовірності даних k8s-aibom впроваджує систему рівнів упевненості для кожної виявленої властивості. Якщо параметр був явно вказаний розробником у конфігурації (наприклад, через прапорець --model), йому присвоюється статус declared. Якщо ж середовище виконання визначено за ім'ям образу, використовується статус inferred (виведений). У випадках, коли наявність AI-компонента очевидна, але його точні параметри встановити не вдалося, ставиться відмітка unresolved. Такий підхід дозволяє аудиторам чітко розділяти експліцитні наміри розробників і гіпотези сканера.
Важливою концептуальною відмінністю k8s-aibom від традиційних SBOM-інструментів є зміщення фокусу з етапу збірки на етап виконання. Якщо звичайний сканер показує, що має бути розгорнуто, то цей контролер фіксує, що використовується насправді. Це перетворює інструмент на потужний механізм контролю дрифту конфігурацій, який ідеально вписується в GitOps-процеси, дозволяючи порівнювати версії ML-BOM і відстежувати еволюцію залежностей у реальному часі.
З точки зору комплаєнсу, рішення орієнтоване на відповідність суворим міжнародним стандартам, таким як EU AI Act, NIST AI Risk Management Framework та ISO/IEC 42001. Хоча сам інструмент не є сертифікатором, він забезпечує необхідний фундамент даних для проходження аудиту. Для захисту цілісності журналів при експорті в хмарне сховище використовується умова DoesNotExist, що виключає можливість непомітного перезапису попередніх версій відомостей і гарантує незмінність історії змін.
Наразі проєкт перебуває на стадії alpha (v1.0), що передбачає його використання в некритичних сценаріях спостереження. Інструмент потребує Kubernetes версії 1.27 або вище і, попри своє походження, залишається повністю хмарно-агностичним. Його можна розгортати як у GKE, так і в Amazon EKS, Azure AKS, OpenShift або локальних кластерах, що робить k8s-aibom універсальним стандартом для забезпечення прозорості AI-інфраструктури незалежно від обраного провайдера.
Еволюція шару сумісності KytyPS5
