Бизнес переходит на открытые модели из-за высокой стоимости ИИ
Компании ищут способы снизить расходы на нейросети, отказываясь от дорогих проприетарных решений. Fireworks AI предлагает использовать открытые модели с дообучением на собственных данных вместо покупки подписок у гигантов вроде Anthropic.
Бизнесу часто не требуется самый мощный интеллект для простых задач. Компании вроде Uber, Shopify и Notion использовали платформу Fireworks AI для запуска моделей с открытыми весами. Такие решения работают быстрее и дешевле флагманских систем, а данные остаются под контролем заказчика. По мнению сооснователя Fireworks AI Чэнью Чжао (Chenyu Zhao), разрыв в качестве между открытыми и закрытыми моделями сейчас составляет от трёх до шести месяцев.
Переход на открытые решения может стать массовым, когда расходы на токены превысят 10 000 или 100 000 долларов в месяц. Сейчас компании выбирают бренды вроде OpenAI из-за низких рисков, но при масштабировании цена становится критичной. Чэнью Чжао считает, что мир разделится на два типа систем: фронтирные модели для сложного планирования и открытые, для повседневных задач вроде арифметики.
В этом году Fireworks AI столкнулась с двумя инцидентами безопасности. Хакеры получили доступ к API-ключам и части данных клиентов, включая платежные записи. У Uber утечка затронула данные 150 000 водителей, а Notion отключилась от платформы после компрометации части рабочих пространств. Чэнью Чжао отметил, что в случае с Notion проблема возникла из-за использования пакетной обработки данных, где файлы хранятся на серверах.
Что поменялось
Компании могут переключаться с дорогих закрытых моделей на открытые с дообучением для экономии и контроля над данными.
Текст подготовила языковая модель по материалам источников.

