Немецкий стартап Daisytuner привлёк 6 млн евро на оптимизацию ИИ
Немецкая компания Daisytuner получила 6 млн евро на развитие технологии Daisyflow. Решение позволяет ускорять работу ИИ-моделей при их запуске на разных типах чипов.
Технология Daisyflow объединяет компилятор для автоматической оптимизации софта и платформу для запуска моделей. Это позволяет компаниям развёртывать ИИ в собственных дата-центрах, не полагаясь на внешних облачных провайдеров. По данным Daisytuner, в тестах платформа работала с моделью Qwen 2.5 от Alibaba на 18% быстрее, чем популярный движок vLLM на графических процессорах AMD Instinct.
Что поменялось
Компании могут запускать ИИ-модели в своих дата-центрах с более высокой скоростью на разном оборудовании.
Источники · 1
Текст подготовила языковая модель по материалам источников.

