Как запустить Qwen3.8-Flash-Next 125B на 6 ГБ VRAM

Qwen3.8-Flash-Next — это открытая 125B-модель, которая демонстрирует высокие результаты в программировании и взаимодействии с агентами. Запуск модели на одной RTX 4090 потребовал 5,95 ГБ VRAM без квантизации. Модель может составить конкуренцию закрытым аналогам.

Что это значит для бизнеса в России

Для бизнеса в России это открывает возможности использования мощных AI-моделей на доступном оборудовании. Компании могут внедрять такие решения для автоматизации процессов и улучшения качества работы без значительных инвестиций в инфраструктуру.

Источник: Habr ML. Пересказ подготовлен редакцией Атлас ИИ.