Компактные станции для локального запуска нейросетей

Современный рынок аппаратного обеспечения для искусственного интеллекта долгое время был разделен на две крайности: либо громоздкие серверные стойки с массивами GPU, либо ограниченные потребительские ноутбуки. Появление UniBox AI495 Pro от Chuwi знаменует попытку стереть эту грань. В основе устройства лежит платформа Gorgon Halo с процессором AMD Ryzen AI Max+ Pro 495, построенным на архитектуре Zen 5. С 16 ядрами и 32 потоками, работающими на частоте до 5,2 ГГц, этот чип обеспечивает необходимый вычислительный фундамент для тяжелых аналитических задач.

Графическая подсистема представлена ускорителем Radeon 8065S на базе RDNA 3.5. Наличие 40 вычислительных блоков и тактовая частота до 3 ГГц позволяют системе уверенно справляться с современными AAA-играми в разрешении 1080p, однако гейминг здесь вторичен. Главная цель этого железа — поддержка массивных вычислений, где GPU работает в тесной связке с центральным процессором.

Ключевым технологическим прорывом UniBox AI495 Pro становится работа с памятью. В устройстве реализована унифицированная память LPDDR5X-8533 объемом до 192 Гбайт. Благодаря 256-битной шине пропускная способность достигает 273 Гбайт/с, что критически важно для перемещения огромных массивов данных внутри нейросетей. Особое внимание уделено гибкости распределения ресурсов: до 160 Гбайт общего объема памяти может быть выделено непосредственно под видеопамять (VRAM).

Такой подход позволяет локально запускать большие языковые модели (LLM) с числом параметров до 300 миллиардов при условии использования 4-битного квантования. Квантование — это процесс снижения точности весов модели, который позволяет радикально сократить требования к памяти без значительной потери в качестве ответов, что делает UniBox полноценным инструментом для разработчиков и исследователей ИИ.

Интеллектуальные возможности платформы суммарно оцениваются в 131 TOPS. Значительная часть этой мощности (до 55 TOPS) обеспечивается специализированным нейронным процессором (NPU) XDNA 2. Это не только ускоряет выполнение специфических задач машинного обучения, но и делает устройство полностью совместимым со стандартами Microsoft Copilot+ PC.

Несмотря на внушительную начинку, физические габариты системы остаются минималистичными: корпус объемом 2,9 литра (209,6 × 209,6 × 67 мм) не занимает много места на столе, но при этом обеспечивает профессиональный уровень интерфейсов. Для сетевых задач предусмотрены два порта Ethernet со скоростью до 10 Гбит/с, а для тех, кому недостаточно встроенной графики, предусмотрен разъем OCuLink, позволяющий подключить внешнюю дискретную видеокарту. Дополняют связность два порта USB4 (40 Гбит/с), Wi-Fi 7 и Bluetooth 5.4. Питание всей системы осуществляется через внешний адаптер мощностью 240 Вт.

Параллельно с флагманской моделью представлена и более доступная версия — UniBox AI395. Она базируется на процессоре Ryzen AI Max+ 395 с аналогичным количеством ядер (16C/32T), но имеет чуть более низкие частоты (до 5,1 ГГц) и графику Radeon 8060S. Максимальный объем памяти здесь ограничен 128 Гбайт LPDDR5X-8000, из которых до 96 Гбайт могут быть отведены под нужды GPU. Общая производительность ИИ составляет 126 TOPS. Благодаря поддержке архитектуры MoE (Mixture of Experts — «смесь экспертов») и низкоразрядного квантования, эта модель способна работать с нейросетями объемом до 235 млрд параметров.

Завершает технический облик обеих моделей развитая система хранения данных: три слота M.2 2280 PCIe 4.0 позволяют установить до трех SSD-накопителей объемом по 2 Тбайт каждый, что необходимо для хранения весов огромных моделей и датасетов.