Трильйон параметрів поза межами екосистеми Nvidia

Дата30 черв. 2026 р.
Читати3 хв
Трильйон параметрів поза межами екосистеми Nvidia
Глобальні перегони озброєнь у сфері штучного інтелекту протягом тривалого часу визначалися доступністю обчислювальних потужностей одного конкретного вендора. Залежність індустрії від графічних процесорів Nvidia сформувала своєрідну «технологічну стелю», яка для багатьох гравців ринку здавалася майже неприступною. Поява LongCat 2.0 від Meituan кардинально змінює цей ландшафт, доводячи можливість розробки надмасштабних моделей на базі альтернативного заліза. Цей реліз стає не просто технічним досягненням, а справжнім стратегічним маніфестом технологічного суверенітету.

Створення моделі масштабом у один трильйон параметрів вимагає не лише колосальних обсягів даних, а й бездоганної синхронізації тисяч обчислювальних вузлів. Meituan підійшла до цього завдання системно, інвестуючи у власну AI-інфраструктуру протягом трьох років. Результатом став LongCat 2.0 — перша модель такого обсягу, повністю навчена на китайських процесорах. Хоча офіційно виробник чипів не названий, технічні характеристики вказують на використання Huawei Ascend 910C у кількості 50 000 одиниць.

Ключовим викликом при роботі з таким масивом заліза стає стабільність розподілених систем. В індустрії панує переконання: чим більший кластер, тим вища ймовірність каскадного збою. Інженерам LongCat вдалося знизити частоту критичних помилок на 70%, що дозволило досягти вражаючої пропускної здатності в один трильйон токенів на добу.

З технічного погляду модель є складним гібридом. Загальний обсяг параметрів сягає 1,6 трлн, проте завдяки архітектурі Mixture of Experts (MoE) — суміші експертів — під час кожного запиту активними залишаються лише 48 млрд параметрів. Це дозволяє поєднувати глибокі знання моделі з прийнятною швидкістю генерації. Навчання проходило на масиві з 35 трлн токенів, причому значна частина даних включала контекстні вікна довжиною до одного мільйона токенів. Раніше такі обсяги пам'яті та обробки потребували найскладніших інженерних надбудов навіть за умови використання флагманських GPU від Nvidia.

Особливий інтерес викликає внутрішня архітектура LongCat 2.0. Розробники впровадили масивні n-грамові ембединги, що займають майже 10% від загального обсягу параметрів моделі (в експериментальній версії Flash-Lite цей показник сягає половини). Для керування такими обсягами даних було реалізовано 6D-паралелізм — багатовимірний підхід до розподілу обчислень між чипами. Крім того, було глибоко перероблено систему розрідженої уваги на базі DSA, що дозволило оптимізувати роботу з довгими послідовностями тексту.

Практична перевірка моделі проходила в режимі «стелс» на платформі OpenRouter під кодовою назвою Owl Alpha. Результати тестування свідчать, що LongCat 2.0 не є революційним проривом у галузі чистого інтелекту чи логіки, проте демонструє високу стабільність і передбачуваність відповідей.

Наразі доступ до моделі відкритий через API з тарифікацією $0,75 за мільйон вхідних і $3 за мільйон вихідних токенів. Попри те що вартість є вищою, ніж у багатьох локальних конкурентів, головною подією стає рішення опублікувати модель під ліцензіями Apache 2.0 або MIT. Це перетворює LongCat 2.0 на перший відкритий «трильйонник», створений повністю на не-Nvidia стеку.

Зрештою, LongCat 2.0 — це більше ніж просто черговий інструмент для генерації тексту. Це доказ того, що архітектурні обмеження та апаратні санкції можна подолати шляхом глибокої оптимізації софту та масштабування альтернативного заліза. Китай продемонстрував, що шлях до створення AGI-систем може бути незалежним від західних напівпровідникових гігантів.

Тала знає • Використання матеріалів сайту дозволено виключно за умови розміщення активного, прямого і відкритого для пошукових систем гіперпосилання на першоджерело. Посилання має бути клікабельним і розташовуватися безпосередньо в тілі публікації — до або після запозиченого тексту. Будь-яке копіювання, відтворення або цитування контенту без дотримання цієї умови розглядається як порушення авторських прав.