NVIDIA оптимизировала работу ИИ-кодинг-агента, сократив расход токенов почти вдвое
Исследователи из NVIDIA, MIT и NTU добились сокращения расхода токенов для ИИ-аассистента Pi почти на 50%, используя подход с агентом-оптимизатором, что привело к снижению затрат на API на треть.
Сотрудничество NVIDIA, Массачусетского технологического института (MIT) и Наньянского технологического университета (NTU) привело к существенному улучшению эффективности работы ИИ-ассистента для кодинга под названием Pi. В рамках исследования один ИИ-агент занимался оптимизацией так называемого «harness» другого, основного кодинг-агента.
Агент-оптимизатор перебрал 152 различные идеи для улучшения процесса, и четыре из них оказались наиболее результативными. Эти методы позволили сократить расход токенов почти вдвое, при этом сохраняя модель основного ИИ-агента неизменной. В результате, общие затраты на использование API снизились на 33%.


Комментарии (0)
Без регистрации. Комментарии проверяются автоматически перед публикацией.
Пока нет комментариев. Будьте первым!