Вдвое меньше токенов без смены модели: что NVIDIA сделала с harness кодинг-агента

Исследователи из NVIDIA, MIT и NTU разработали ИИ-агента, который улучшил эффективность кодинг-ассистента, уменьшив расход токенов почти вдвое. Были протестированы 152 идеи, и четыре из них показали значительное снижение затрат на API и ухудшение среднего балла на EdgeBench.

Что это значит для бизнеса в России

Для бизнеса в России это означает возможность снижения затрат на использование ИИ-технологий, что может повысить их доступность. Эффективные решения по оптимизации работы ИИ-ассистентов могут привести к увеличению производительности и снижению расходов.

Источник: Habr NLP. Пересказ подготовлен редакцией Атлас ИИ.

Атлас на практике: ИИ-решения Атлас для бизнеса.