Новые "модели принятия решений" значительно удешевляют задачи классификации для ИИ
Ряд компаний, включая TypeSafe, Cloudflare и Perplexity, представили новые "модели принятия решений" (decider models), которые обещают значительно снизить стоимость выполнения классификационных задач для искусственного интеллекта по сравнению с традиционными большими языковыми моделями.
15 сентября компания TypeSafe представила модель Jev, позиционируя её как первую в классе System One. Эти модели получают текущее состояние системы и список типизированных вопросов, а затем выдают распределение вероятностей по возможным ответам. Ключевая особенность Jev и подобных ей решений заключается в том, что весь ответ формируется за один прямой проход, без необходимости генерации токенов, что существенно ускоряет процесс и снижает вычислительные затраты.
В течение последующих 16 дней на рынке появились ещё пять аналогичных реализаций. Среди них Clef и Clef-flash от Cloudflare, pplx-decider-v1-27b от Perplexity, Strands Decider 2B от AWS, Laya от Convai Innovations и GLiDE от Fastino. Это свидетельствует о растущем интересе индустрии к оптимизации ИИ-задач, требующих быстрого и экономичного принятия решений.
Экономическая эффективность новых моделей является их главным преимуществом. Например, миллион решений, выполненных с помощью самой доступной из них, обходится примерно в 12 долларов. Для сравнения, использование модели Claude Sonnet 5 в роли классификатора для аналогичного объёма задач стоит около 700 долларов. Такое существенное снижение затрат открывает новые возможности для широкого применения ИИ в задачах, где ранее стоимость была ограничивающим фактором.
Часто задаваемые вопросы
Что такое "модели принятия решений" (decider models)?
Это новый класс ИИ-моделей, разработанных для эффективного выполнения классификационных задач. Они принимают на вход состояние системы и вопросы, выдавая распределение вероятностей ответов за один прямой проход, без генерации токенов.
Какие компании представили новые decider models?
Среди разработчиков новых моделей TypeSafe (Jev), Cloudflare (Clef, Clef-flash), Perplexity (pplx-decider-v1-27b), AWS (Strands Decider 2B), Convai Innovations (Laya) и Fastino (GLiDE).
В чём главное преимущество новых decider models?
Основное преимущество заключается в значительном снижении стоимости выполнения задач классификации. Например, миллион решений обходится в $12 у новых моделей, против $700 у традиционных больших языковых моделей, таких как Claude Sonnet 5.
Как работают "модели принятия решений"?
Эти модели получают состояние системы и типизированные вопросы, а затем возвращают распределение вероятностей по допустимым ответам. Весь процесс происходит за один прямой проход, что исключает затраты на пошаговую генерацию токенов.
Источник: Habr · Rusability ИИ


Комментарии (0)
Без регистрации. Комментарии проверяются автоматически перед публикацией.
Пока нет комментариев. Будьте первым!