Оптимізація пам'яті в інфраструктурі штучного інтелекту

Сучасні робочі навантаження у сфері ШІ потребують колосальних обсягів пам'яті для обробки величезних масивів даних у режимі реального часу. Однак фізичні та економічні обмеження DRAM роблять її неконтрольоване масштабування неможливим. Щоб подолати цей бар'єр, Kioxia робить ставку на розвиток інтерфейсу PCIe 6.0 та впровадження технології CXL (Compute Express Link), які дозволяють використовувати флешпам'ять майже так само ефективно, як і оперативну.

Ключовим елементом цієї стратегії стали накопичувачі серії GP1. Завдяки підтримці PCIe 6.0 та протоколу NVMe, ці SSD забезпечують екстремальну інтенсивність операцій введення-виведення. Особливого значення набуває можливість прямого підключення до графічних процесорів (GPU), що дозволяє мінімізувати затримки при передачі даних і оминати стандартні системні шини, які часто стають «вузьким місцем» під час інтенсивних обчислень.

Паралельно з цим розвиваються і спеціалізовані рішення для корпоративного сектору. Лінійка CM10, що базується на десятому поколінні технології BiCS FLASH, та накопичувачі серії NX1 у форм-факторі E1.S із підтримкою рідинного охолодження націлені на розв'язання критичних проблем відведення тепла у щільно упакованих серверних стійках. Перенесення частини обчислювальних завдань на такі високопродуктивні флешнакопичувачі дозволяє суттєво нівелювати дефіцит DRAM і знизити загальні витрати на інфраструктуру, не втрачаючи при цьому в загальній ефективності системи.

Однак найамбітнішим напрямом є використання пам'яті NAND як прямої, хоча й не повної, альтернативи DRAM. Тут на сцену виходять модулі розширення пам'яті XL1, побудовані на базі технології XL FLASH. В основі їхньої роботи лежить протокол CXL, який забезпечує глибоку інтеграцію накопичувача з процесором. Це створює єдиний адресний простір, дозволяючи системі звертатися до даних на SSD без необхідності попереднього переміщення кожного байта в дорогу оперативну пам'ять.

Такий підхід дозволяє скоротити затримки при читанні даних більш ніж у десять разів порівняно з класичними NAND-рішеннями. Модулі XL1 фактично займають проміжну нішу між традиційною DRAM і стандартними SSD, пропонуючи оптимальний баланс між вартістю та швидкістю доступу.

Зрештою, часткова заміна або доповнення DRAM модулями CXL здатні подвоїти доступний обсяг пам'яті та підвищити загальну продуктивність систем приблизно на 30%. Важливо розуміти, що NAND за своєю природою повільніша за DRAM, тому повна заміна була б катастрофічною для застосунків, чутливих до мікросекундних затримок. Стратегія Kioxia полягає не в тому, щоб витіснити оперативну пам'ять, а в створенні багаторівневої ієрархії зберігання, де DRAM залишається для найкритичніших завдань, а високошвидкісний флеш-шар бере на себе основний обсяг даних.