Бывший исследователь Anthropic объяснил причины ухода эффективностью алгоритмов
Для переобучения новой модели Mythos теперь требуется лишь малая часть тех мощностей, что ушли на её создание. Так объясняет причины своего ухода из Anthropic исследователь Якоб Коксон.
Уход Якоба Коксона из Anthropic спустя четыре месяца работы был связан с внутренними презентациями компании. Причиной стал график на роуд-шоу перед IPO, где из-за сжатых осей рост потребностей в вычислительных мощностях выглядел незначительным. Коксон считает, что это скрывало реальную картину эффективности алгоритмов.
По мнению исследователя, прорыв модели Mythos весной этого года стал результатом ускорения алгоритмической эффективности. Он утверждает, что сейчас для переобучения Mythos достаточно лишь небольшой доли тех ресурсов, которые были затрачены на её первоначальное обучение. Это превращает рост сложности в контролируемый процесс.
Коксон полагает, что совершенствование алгоритмов скоро станет автоматическим процессом. Он предложил приостановить разработку передовых моделей на следующий год, чтобы дать конкурентам возможность сократить разрыв. По его словам, это сделает интеллект уровня человека доступным товаром для всех, а не только для OpenAI и Anthropic.
Ранее Коксон работал в OpenAI и Anthropic, а в сентябре публично предупреждал о рисках продвинутых систем. Эксперты опасаются, что самосовершенствующийся ИИ может выйти из-под контроля человека. Вместо бесконечного наращивания железа фокус смещается на математическую эффективность.
Источники · 1
Текст подготовила языковая модель по материалам источников.

