Учёные MIT улучшили производительность Qwen3.5-0.8B с помощью редактирования весов

В работе «Sparks of Weight-Space Programming» группа учёных из лаборатории MIT CSAIL представила метод улучшения небольшой языковой модели Qwen3.5-0.8B. Эта модель, обладающая 752 миллионами параметров, часто сталкивалась с проблемой неполного выполнения рассуждений при генерации ответов, достигая лимита в 32 768 токенов.

Применив методику редактирования весов (MIT-p50c) без традиционного дообучения, исследователи смогли значительно оптимизировать поведение модели. В результате точность Qwen3.5-0.8B при решении задач из датасета MATH-500 возросла с изначальных 7,9% до впечатляющих 48,1% в среднем по четырём тестовым прогонам.

Эта модификация указывает на потенциал прямого изменения весов нейронных сетей для улучшения их характеристик, особенно в задачах, требующих точных логических рассуждений. Учёные также исследовали, как такие изменения влияют на «геометрию» весов модели и помогает ли это сократить циклическое повторение без применения штрафов за повторы или случайного выбора токенов.