Стрімкий розвиток великих мовних моделей виявив критичну проблему сучасних обчислювальних систем — так звану «стіну пам'яті» (memory wall), коли пропускна здатність каналів передачі даних стає вузьким місцем на тлі зростаючої потужності процесорів. Для подолання цього бар’єра індустрія потребує інноваційних гібридних архітектур, здатних поєднати колосальні обсяги накопичувачів із високою швидкістю оперативної пам’яті. Запровадження специфікації High Bandwidth Flash (HBF) знаменує перехід до нової парадигми організації даних у системах штучного інтелекту. Цей стандарт покликаний радикально оптимізувати процеси інференсу, одночасно знижуючи енергоспоживання та загальну вартість володіння інфраструктурою.
Сучасні системи машинного навчання опинилися перед фундаментальним протиріччям: з одного боку, вони потребують колосальних масивів даних для роботи ваг нейронних мереж, з іншого — доступ до цих даних має бути практично миттєвим. Традиційні ієрархії пам'яті часто стають «вузьким місцем», обмежуючи продуктивність навіть найпотужніших акселераторів. Відповіддю на цей виклик стала технічна специфікація HBF (High Bandwidth Flash), представлена компаніями Sandisk та SK hynix спільно з консорціумом Open Compute Project (OCP).
Розробка стандарту відбувалася в межах спеціалізованої робочої групи, де ключову роль відіграли не лише виробники заліза, а й найбільші споживачі хмарних потужностей. Приєднання Google та Tensorrent до процесу стандартизації дозволило верифікувати технологію на реальних робочих навантаженнях, перетворивши теоретичну концепцію на прикладний інструмент для проєктування систем інференсу (виведення даних).
Технічна суть HBF полягає у створенні єдиного фундаменту для взаємодії між обчислювальними ядрами та накопичувачами. Специфікація детально описує інтерфейс xPU-HBF, що слугує містком між акселератором і пам'яттю, мінімізуючи затримки при передачі пакетів даних. Окрім електричних характеристик та системних інтерфейсів, стандарт регламентує методи пакування стеків пам'яті та вимоги до їхньої надійності, що є критично важливим для щільно скомпонованих серверних стійок, де тепловідвід і стабільність сигналу визначають загальну ефективність системи.
Важливим аспектом HBF є оптимізація програмного рівня. Специфікація містить керівництва з розробки ПЗ для операцій читання та запису, що дозволяє розробникам на рівні драйверів і бібліотек ефективніше керувати потоками даних, уникаючи простоїв обчислювальних ресурсів. Це перетворює флешпам'ять із пасивного сховища на активний компонент конвеєра обробки даних.
Публікація специфікації через Open Compute Project підкреслює стратегічний розрахунок ініціаторів. Відкритість стандарту дозволяє уникнути вендор-локу та стимулює розвиток широкої екосистеми сумісних пристроїв. Створюючи спільні «правила гри», Sandisk та SK hynix прагнуть зробити HBF ринковим еталоном для всіх систем зберігання даних у сфері ШІ, забезпечуючи баланс між високою щільністю запису, енергоефективністю та швидкістю доступу, які є необхідними для наступного покоління інтелектуальних сервісів.
Універсальний контролер розширення пам'яті Lekuo PB65MX3
