Восьмитысячный кластер Ironwood TPU обучил DeepSeek-V3 за 102 секунды
В тестах MLPerf Training v6.1 седьмое поколение чипов Ironwood TPU показало высокую скорость обучения моделей. Сборка из 8 192 процессоров справилась с задачей претрейнинга DeepSeek-V3 всего за 102 секунды.
Для обучения нейросетей в кластере Ironwood TPU задачи распределяются между тысячами чипов. При масштабировании системы до 4 096 единиц эффективность расширения составила 96%. В тесте на претрейнинг модели DeepSeek-V3 671B (откроется в новом окне) использование 8 192 чипов позволило достичь целевого качества за 1,7 минуты. Это в 2,96 раза быстрее, чем при работе с конфигурацией из 2 048 процессоров.
В новом тесте на обучение агентов с помощью обучения с подкреплением 640 чипов Ironwood работали над моделью Qwen3.5-397B. Процесс занял 18,02 минуты при точности 76,5%, что превысило целевой показатель в 69%. Благодаря архитектуре время ожидания чипов при генерации кода и обучении составило менее 3%.
Среди результатов участников теста на DeepSeek-V3 671B лидирует кластер NVIDIA GB300 NVL72. Сборка из 10 240 GPU достигла целевого качества за 82,8 секунды. Результаты Ironwood и GB300 предоставлены Google Cloud, остальные данные опубликованы NVIDIA.
Для разработчиков ИИ-моделей эти тесты показывают, как масштабирование железа влияет на скорость итераций. На текущем этапе преимущество в скорости переходит к тем, кто сможет эффективно использовать такие плотные кластеры.
Текст подготовила языковая модель по материалам источников.


