Я обучил собственную визуально-языковую модель меньше чем на 1 млрд параметров

Автор делится опытом создания визуально-языковой модели с нуля, используя небольшую языковую модель и визуальный энкодер. Проект потребовал около $200 и привёл к созданию модели с 628 млн параметров, способной описывать изображения.

Что это значит для бизнеса в России

Для бизнеса в России это открывает возможности для создания собственных ИИ-решений при ограниченных ресурсах. Модели с меньшим количеством параметров могут быть эффективными и экономичными, что важно для стартапов и малых компаний.

Источник: Habr ML. Пересказ подготовлен редакцией Атлас ИИ.