Soup CLI

Soup CLI — это бесплатный open-source инструмент для командной строки, который берет на себя весь цикл дообучения языковых моделей: от подготовки данных до деплоя. Он не просто запускает процесс, а анализирует данные, подбирает подходящий метод (SFT, DPO, ORPO, SimPO, KTO и др.), сам пишет конфиг и проверяет каждый чекпоинт на соответствие критериям. С 23 методами, 142 рецептами и 17 форматами квантования это один из самых полных наборов инструментов для файн-тюнинга и выравнивания открытых LLM.

Главная фишка Soup — стриминг слоев. Обычно для дообучения нужно загрузить всю базовую модель в VRAM, что отсекает владельцев обычного «железа». Soup хранит базовую модель в оперативной памяти или на NVMe и подгружает в VRAM по одному слою декодера, на лету квантуя их до 4 бит. В итоге на ноутбучном GPU RTX 3050 с 4 ГБ памяти можно дообучать Llama-3.1-8B со скоростью 119 токенов в секунду, используя всего 3.32 ГБ VRAM. Этот же подход работает и для DPO: референсная модель — это просто тот же стриминговый базис с отключенными адаптерами, так что лишние веса не нужны. Кроме того, в Soup есть pre-flight check: инструмент просто не запустит задачу, если она не влезет в вашу память, избавляя от пустой траты ресурсов.

Soup создан для ML-инженеров, исследователей ИИ и продвинутых энтузиастов, которые хотят дообучать модели на своем железе — особенно если это ноутбук или одна потребительская видеокарта. Он идеален для экспериментов с методами обучения и переезда с LLaMA-Factory или Axolotl. Работать с CLI просто: создаете проект, указываете данные и запускаете. Если у вас уже есть конфиг в другом фреймворке, команда `soup migrate` перенесет его автоматически. Также в разработке находится Soup Zero — десктопное приложение с GUI и мониторингом.