Оптимизация памяти для инфраструктуры ИИ

Современные рабочие нагрузки в сфере ИИ требуют колоссальных объемов памяти для обработки огромных массивов данных в реальном времени. Однако физические и экономические ограничения DRAM делают ее бесконтрольное наращивание невозможным. Чтобы преодолеть этот барьер, Kioxia делает ставку на развитие интерфейса PCIe 6.0 и внедрение технологии CXL (Compute Express Link), которые позволяют использовать флеш-память почти так же эффективно, как оперативную.

Ключевым элементом этой стратегии стали накопители серии GP1. Благодаря поддержке PCIe 6.0 и протокола NVMe, эти SSD обеспечивают экстремальную интенсивность операций ввода-вывода. Особое значение имеет возможность прямого подключения к графическим процессорам (GPU), что позволяет минимизировать задержки при передаче данных и обходить стандартные системные шины, которые часто становятся «бутылочным горлышком» при интенсивных вычислениях.

Параллельно с этим развиваются и специализированные решения для корпоративного сектора. Линейка CM10, базирующаяся на десятом поколении технологии BiCS FLASH, и накопители серии NX1 в форм-факторе E1.S с поддержкой жидкостного охлаждения нацелены на решение критических проблем теплоотвода в плотно упакованных серверных стойках. Перенос части вычислительных задач на такие высокопроизводительные флеш-накопители позволяет существенно смягчить дефицит DRAM и снизить общие затраты на инфраструктуру, не теряя в общей эффективности системы.

Однако наиболее амбициозным направлением является использование памяти NAND в качестве прямого, хотя и не полного, заменителя DRAM. Здесь на сцену выходят модули расширения памяти XL1, построенные на базе технологии XL FLASH. В основе их работы лежит протокол CXL, который обеспечивает глубокую интеграцию накопителя с процессором. Это создает единое адресное пространство, позволяя системе обращаться к данным на SSD без необходимости предварительного перемещения каждого байта в дорогую оперативную память.

Такой подход позволяет сократить задержки при чтении данных более чем в десять раз по сравнению с классическими NAND-решениями. Модули XL1 фактически занимают промежуточную нишу между традиционной DRAM и стандартными SSD, предлагая оптимальный баланс между стоимостью и скоростью доступа.

В конечном итоге частичная замена или дополнение DRAM модулями CXL способно удвоить доступный объем памяти и повысить общую производительность систем примерно на 30%. Важно понимать, что NAND по своей природе медленнее DRAM, поэтому полная замена была бы катастрофичной для приложений, чувствительных к микросекундным задержкам. Стратегия Kioxia заключается не в уничтожении оперативной памяти, а в создании многоуровневой иерархии хранения, где DRAM остается для самых критических задач, а высокоскоростной флеш-слой берет на себя основной объем данных.