Модель может предсказать изменения в своих весах без запуска
ИИ-агенты научились анализировать сырые веса нейросетей, чтобы предугадать их поведение. Это позволяет понять, как правки в коде изменят работу модели еще до того, как она будет запущена.
Исследователь suayptalha провел эксперименты с моделями Qwen и Muse размером от 9 до 30 миллиардов параметров. Целью было выяснить, может ли одна языковая модель изучить веса другой и предсказать эффект от их изменения без фактического запуска целевой системы.
В тестах с моделью Qwen 27B точность предсказания тонких правок через доступ к весам составила 73,0%. Для сравнения, при использовании только текстовых описаний точность была ниже и достигала 57,8%.
На модели Muse-30B ситуация была иной. Хотя 34 стандартные правки и 6 контрольных тестов не вызвали заметных изменений в поведении, агенты, читающие веса, часто предсказывали изменения там, где их не было.
Автор не смог подтвердить, что чтение собственных весов дает решающее преимущество. Он опубликовал код и инструментарий для программирования через пространство весов, чтобы другие могли протестировать этот метод.
Что поменялось
Появился способ предсказывать поведение нейросети через анализ её весов без запуска самой модели.
Источники · 1
Текст подготовила языковая модель по материалам источников.

