OnsetLab

Если вы ищете способ запустить AI-агентов локально и при этом дать им реальные инструменты для работы, присмотритесь к OnsetLab. Это библиотека на Python, которая позволяет создавать агентов с поддержкой tool-calling прямо на вашем железе.

Связка работает просто: OnsetLab подключается к моделям через Ollama (поддерживаются Qwen, Mistral, Hermes, Gemma и другие), а взаимодействие с внешними сервисами происходит через MCP-серверы (Model Context Protocol). В итоге вы получаете полноценного AI-помощника, который умеет работать с GitHub, Slack или Notion, но при этом не зависит от облачных API и интернета.

Что здесь интересного с технической стороны? Разработчики совместили планирование REWOO с механизмами ReAct. Это значит, что агент сначала прописывает весь план действий от и до, а затем последовательно его выполняет. Но если что-то идет не так и вызов инструмента выдает ошибку, система не «падает», а переключается на пошаговое рассуждение, чтобы исправить данные и попробовать снова. Такая самокоррекция делает агентов гораздо надежнее в реальных задачах.

OnsetLab — отличный выбор для тех, кому важна приватность, кто хочет сократить расходы на облака или кому нужен инструмент, работающий в офлайне. Это идеальный вариант для создания персональных ассистентов с доступом к локальным данным, где вы полностью контролируете инфраструктуру и модели. А чтобы перенести готового агента в продакшн, его можно легко экспортировать в виде Docker-контейнера, YAML-файла или обычного скрипта.