Soup CLI

Open-source CLI для автоматизации дообучения (SFT, DPO и др.). Позволяет файнтюнить большие модели даже на GPU с 4 ГБ видеопамяти.

Перейти на сайт

trysoup.dev

Проверено Бесплатный тариф

Кратко о главном
Что это	Open-source CLI для автоматизации дообучения (SFT, DPO и др.). Позволяет файнтюнить большие модели даже на GPU с 4 ГБ видеопамяти.
Цены	Free
Бесплатный тариф	Да
Платформа	Desktop Application
Хорошо подходит для	fine-tuning open-source LLMs, training preference alignment (DPO, ORPO, SimPO, KTO)
Домен зарегистрирован	2026

Данные обновлены 10 августа 2026 г.

Что делает Soup CLI?

Soup CLI — это бесплатный open-source инструмент для командной строки, который берет на себя весь цикл дообучения языковых моделей: от подготовки данных до деплоя. Он не просто запускает процесс, а анализирует данные, подбирает подходящий метод (SFT, DPO, ORPO, SimPO, KTO и др.), сам пишет конфиг и проверяет каждый чекпоинт на соответствие критериям. С 23 методами, 142 рецептами и 17 форматами квантования это один из самых полных наборов инструментов для файн-тюнинга и выравнивания открытых LLM.

Главная фишка Soup — стриминг слоев. Обычно для дообучения нужно загрузить всю базовую модель в VRAM, что отсекает владельцев обычного «железа». Soup хранит базовую модель в оперативной памяти или на NVMe и подгружает в VRAM по одному слою декодера, на лету квантуя их до 4 бит. В итоге на ноутбучном GPU RTX 3050 с 4 ГБ памяти можно дообучать Llama-3.1-8B со скоростью 119 токенов в секунду, используя всего 3.32 ГБ VRAM. Этот же подход работает и для DPO: референсная модель — это просто тот же стриминговый базис с отключенными адаптерами, так что лишние веса не нужны. Кроме того, в Soup есть pre-flight check: инструмент просто не запустит задачу, если она не влезет в вашу память, избавляя от пустой траты ресурсов.

Soup создан для ML-инженеров, исследователей ИИ и продвинутых энтузиастов, которые хотят дообучать модели на своем железе — особенно если это ноутбук или одна потребительская видеокарта. Он идеален для экспериментов с методами обучения и переезда с LLaMA-Factory или Axolotl. Работать с CLI просто: создаете проект, указываете данные и запускаете. Если у вас уже есть конфиг в другом фреймворке, команда `soup migrate` перенесет его автоматически. Также в разработке находится Soup Zero — десктопное приложение с GUI и мониторингом.

Инструменты разработчика LLM

#ai agents#ai chatbots#ai-generative-media#ai-metrics-and-evaluation#ai voice agents#code-review-tools#community management#graphic design tools#lead generation#llm-developer-tools#marketing automation#no-code platforms#notes-documents#predictive ai#productivity#professional networking#static-site-generators#team collaboration#vibe coding#video editing

Ключевые возможности

Что выделяет инструмент

Автоматически создает конфиги для обучения — больше не нужно вручную подбирать learning rate, квантование или количество эпох.

Стриминг слоев позволяет дообучать модели на 8 млрд параметров даже на GPU с 4 ГБ памяти, подгружая замороженную базу из оперативной памяти.

Поддерживает 23 метода обучения, включая SFT, DPO, ORPO, SimPO и KTO. Есть встроенная защита от reward hacking.

Предварительная проверка: ИИ оценит, хватит ли ресурсов вашего железа для запуска, чтобы всё не зависло в процессе.

Гейтинг на основе эвалов: каждый сохраненный чекпоинт получает вердикт SHIP или DON'T-SHIP на базе ваших собственных данных.

Для кого Soup CLI?

Кому подходит этот инструмент

fine-tuning open-source LLMs

training preference alignment (DPO, ORPO, SimPO, KTO)

running training on low-VRAM GPUs

Доверие и присутствие

Домен Домен зарегистрирован в 2026

Альтернативы в категории Инструменты разработчика

Sweep AI Инструменты разработчика

AI-ассистент для кодинга в JetBrains IDE — получайте умное автодополнение и подсказки по коду прямо в вашем редакторе.

Paperspace Инструменты разработчика

Облачная GPU-платформа для тех, кому нужно разрабатывать, обучать и развертывать AI/ML модели на мощностях NVIDIA H100.

Топ‑100k сайт

Simplepod Инструменты разработчика

Сервис по аренде облачных GPU для разработки AI/ML. Можно выбрать VPS или Docker-инстансы с гибкой оплатой по факту использования (pay-as-you-go).

Liquid AI Инструменты разработчика

Это базовые AI-модели, которые работают прямо на устройстве: в смартфонах, ноутбуках или автомобилях. Вы можете дообучать их и развертывать локально, не полагаясь на облака.

Hyperstack Инструменты разработчика

Облачная платформа с GPU по запросу для задач AI и ML. Можно развернуть NVIDIA H100, H200 и Blackwell буквально за несколько минут.

SupaLaunch Инструменты разработчика

Готовый стартовый набор на Next.js и Supabase для тех, кто хочет быстро запустить свой SaaS. Внутри уже есть всё самое нужное: авторизация, прием платежей, AI-компоненты и даже лендинг.

Trooper.AI Инструменты разработчика

Нужны мощности для AI? Здесь можно арендовать приватные, уже настроенные GPU-серверы в EU. Отличное решение, если нужно быстро развернуть среду для разработки, обучения моделей или их инференса.

Unsloth AI Инструменты разработчика

Unsloth позволяет дообучать LLM (Llama 3, Mistral, Gemma, Qwen, Phi) в два раза быстрее, при этом потребление памяти снижается почти на 80%. Проект полностью open-source, есть бесплатные ноутбуки в Colab. Кстати, теперь инструмент поддерживает и reasoning-функции!