LG U+ запускает бизнес по продаже ИИ-токенов для снижения расходов компаний
Южнокорейский оператор LG U+ планирует в следующем году выйти на рынок ИИ-токенов. Технология поможет бизнесу тратить меньше ресурсов на внедрение искусственного интеллекта.
Компания планирует оптимизировать работу ИИ-агентов, убирая лишние циклы поиска и повторной проверки данных. Вместо одного мощного решения предлагается использовать комбинацию моделей разного масштаба. Для простых задач будут использоваться легкие модели, а сложные вопросы передаются большим системам. Такой подход позволяет генерировать ответы в два раза быстрее, сохраняя при этом высокое качество за счёт финальной проверки большим ИИ.
Разработчики уменьшили объем собственных моделей на треть, сохранив при этом более 95% производительности облачных аналогов. В инфраструктуре планируют сочетать чипы NVIDIA, AMD и корейские нейропроцессоры FuriosaAI. Разделение задач на анализ запроса и генерацию ответа между разными типами процессоров поможет снизить затраты на оборудование. Это позволит оптимизировать использование памяти и вычислительной мощности.
С выходом LG U+ все три крупнейших телекоммуникационных оператора Южной Кореи зайдут в экономику токенов. Компания будет работать как через партнерства, так и через собственные сервисы для B2B-сектора. Вместо покупки дорогостоящих облачных мощностей предприятия смогут платить только за конкретные объемы вычислений. Это превращает ИИ из сложной инженерной задачи в понятную статью расходов с оплатой за результат.
Что поменялось
LG U+ внедряет технологию оптимизации токенов, которая позволяет использовать комбинацию малых и больших моделей для ускорения работы ИИ в два раза.
Источники · 1
Текст подготовила языковая модель по материалам источников.


