Lambda внедряет оптику NVIDIA для связи десяти тысяч GPU
Облачный провайдер Lambda использует переключатели с технологией NVIDIA Photonics для объединения более 10 000 графических процессоров. Новое решение позволяет сократить задержки и повысить надёжность при масштабировании ИИ-кластеров.

В архитектуре Lambda переключатели объединяют стойки NVIDIA GB300 NVL72. Технология использует оптические движки, размещённые на одном корпусе с чипом, что сокращает путь сигнала с дюймов до миллиметров. Это решение требует в 4 раза меньше лазеров, чем традиционные системы, и позволяет достичь пятикратного преимущества в энергоэффективности.
По данным тестов, задержки при передаче данных снизились на 4% внутри стойки и до 10% в масштабе пода. При этом пропускная способность осталась на уровне обычных сменных оптических модулей.
Охлаждение и замена компонентов стали проще благодаря разделению функций. Жидкостное охлаждение поддерживает медианную температуру оптики на уровне 36°C, тогда как у обычных модулей она достигает 51°C. В системе предусмотрено 18 съемных внешних источников света, которые питают оптические движки.
Если лазер выйдет из строя, техники смогут заменить только модуль источника света, а не весь оптический блок целиком. Это повышает надёжность системы в 15 раз по сравнению с традиционной оптикой.
Внедрение копакированной оптики это важный шаг к созданию инфраструктуры для следующего поколения ИИ, говорит Дэйв Уорд (Dave Ward), президент облачных сервисов в Lambda.
Для обучения крупных моделей это даёт стабильную связь между тысячами GPU, где любая остановка одного звена может заморозить работу всего кластера. По задачам агентного вывода данных о масштабировании пока нет.
Что поменялось
Внедрена технология NVIDIA Photonics, которая снижает задержки до 10% и повышает надёжность в 15 раз за счёт использования оптических движков на одном корпусе с чипом.
Текст подготовила языковая модель по материалам источников.

