Сучасна гонка озброєнь у галузі штучного інтелекту трансформувалася в забіг за максимальною сирою обчислювальною потужністю. Проте в цій гонитві за терафлопсами часто випадає з поля зору фундаментальна проблема: ефективність передачі даних між вузлами системи. За умов гострого дефіциту передових напівпровідників глибока оптимізація перестає бути лише допоміжним інструментом і стає єдиним шляхом до справжнього технологічного прориву. Дослідники з Пекіна продемонстрували, що раціональний підхід до організації потоків даних дозволяє досягти кратного зростання продуктивності навіть за умови використання менш потужного заліза.
В індустрії високопродуктивних обчислень існує поняття «стіни пам'яті» (memory wall) — ситуація, коли процесор здатен обробляти дані на колосальній швидкості, проте змушений простоювати в очікуванні їхньої доставки із зовнішньої пам'яті. Традиційні графічні процесори (GPU), попри свою потужність, залишаються заручниками цієї проблеми: постійні цикли запису та читання проміжних результатів між ядрами та відеопам'яттю створюють критичні затримки.
Щоб подолати цей бар'єр, дослідники з Пекінського університету розробили експериментальну систему, яка переглядає сам принцип взаємодії компонентів. Замість одного масивного чипа вони використали каскад із п'яти програмованих логічних матриць (FPGA). Особливість FPGA полягає в тому, що їхня апаратна структура може бути сконфігурована безпосередньо під конкретний алгоритм, що дозволяє реалізувати максимально ефективні шляхи проходження сигналу на рівні «заліза».
Ключовим інноваційним елементом стали кремнієві фотонні передавачі та оптичний комутатор. У цій системі дані переміщуються не мідними доріжками, а за допомогою світла. Використання чотирьох довжин хвиль в одному волокні дозволило досягти пропускної здатності 400 Гбіт/с на канал, а загальний потенціал комутації системи сягнув 6,4 Тбіт/с при мінімальних втратах сигналу.
Головним технологічним досягненням стала реалізація істинно конвеєрної обробки. Кожна FPGA була призначена відповідальною за один шар п'ятишарової згорткової нейронної мережі. Дані не поверталися в загальну пам'ять після кожного етапу обчислень; натомість вони передавалися оптичним каналом миттєво і напряму наступному чипу. Це перетворило процес обробки на безперервний потік, повністю виключивши простої, характерні для класичних GPU-архітектур.
Результати експериментів виявилися вражаючими. При обробці набору даних Fashion-MNIST система продемонструвала швидкість роботи майже в 149 разів вищу, ніж стандартний графічний процесор. Найдивовижніше тут — розрив у номінальній потужності: обчислювальна продуктивність експериментальної платформи становила лише 1,97 Тфлопс проти 16,96 Тфлопс у GPU. Таким чином, система виявилася майже вдев'ять разів слабшою за «сирими» цифрами, але завдяки відсутності затримок та ефективності використання блоків (що досягла 94,7%) вона залишила традиційний акселератор далеко позаду.
Хоча тести проводилися на відносно простих моделях із ядрами 5 × 5, цей досвід відкриває принципово новий вектор розвитку ШІ. Він демонструє, що майбутнє за кодизайном: одночасним розробленням алгоритмів, мікросхем та інтерфейсів зв'язку. Такий підхід дозволяє не лише обходити апаратні обмеження, а й радикально знижувати енергоспоживання дата-центрів, усуваючи надлишкові операції з пересилання даних. У перспективі подібні методи можуть стати фундаментом для наступного покоління генеративних моделей, де швидкість передачі інформації стане важливішою за кількість транзисторів на кристалі.
Spot та подолання проблеми «останньої милі»
