llama.cpp достигла версии 1.0.0 с новыми правилами совместимости
Библиотека llama.cpp и её базовый движок ggml перешли на версию 1.0.0. Это событие закрепляет стандарты для софта, который запускает нейросети на домашних компьютерах.
Разработчик Георгий Герганов (Georgi Gerganov) представил обновление, которое вводит четкое разделение версий. Теперь изменения, нарушающие совместимость API или ABI, будут сопровождаться переходом на новый основной номер версии. Это поможет разработчикам сторонних приложений, таких как LM Studio или Ollama, точнее определять границы обновлений.
Обновление расширяет возможности работы с железом. На текущий момент движок поддерживает более 150 архитектур моделей. Для обеспечения стабильности команда использует инфраструктуру Hugging Face и тестирует код на оборудовании NVIDIA, AMD, Qualcomm, Arm, IBM и Intel.
С момента первого релиза в марте 2023 года проект прошел путь от запуска моделей LLaMA на Mac до основы для множества десктопных приложений. В планах команды, поддерживать широкий спектр платформ и типов моделей, сохраняя при этом легкость кода для сторонних сервисов.
Для пользователей это означает, что софт на базе llama.cpp будет работать стабильнее при обновлениях. Для разработчиков переход на 1.0.0 задает правила: изменения в коде, ломающие работу старых программ, теперь будут четко помечены сменой главной цифры версии.
Что поменялось
Введена система версионирования, где смена основного номера сигнализирует о несовместимости API/ABI с предыдущими версиями.
· обновлено, версия 4
Источники · 4
Текст подготовила языковая модель по материалам источников.

