Open WebUI и Docker Model Runner: локальные модели в Docker

Интеграция между Docker Model Runner (DMR) и Open WebUI упрощает работу с самостоятельно размещёнными моделями

Теперь Open WebUI автоматически обнаруживает и подключается к Docker Model Runner на localhost:12434. Если Docker Model Runner запущен, Open WebUI использует его без дополнительной настройки

В результате модель запускается через Docker, а интерфейс остаётся привычным: браузер, история диалогов и отдельная точка входа для команды или личной лаборатории

Примечание для пользователей Docker Desktop: если вы запускаете Docker Model Runner через Docker Desktop, убедитесь, что TCP-доступ включён. Open WebUI подключается к Docker Model Runner по HTTP, что требует открытого TCP-порта

Установка Docker на Ubuntu — это первый шаг к самостоятельному развертыванию моделей. Если базовая среда ещё не готова, начните с инструкции Как установить Docker на Ubuntu

Понимание Dockerfile пригодится, если позже потребуется собрать собственный образ с дополнительными библиотеками или настройками. Базу можно разобрать в материале Dockerfile — создаём собственный образ Docker

Если вы используете Windows, установка Docker Desktop — первый шаг. Это руководство проведет вас через простую настройку. Docker Desktop для Windows — установка и настройка

Как работают Docker Model Runner и Open WebUI вместе

Docker Model Runner и Open WebUI созданы в одном духе открытого исходного кода. Они разработаны для разработчиков, которые хотят контролировать, где запускаются их модели и как устроены их системы — будь то ноутбук для быстрых экспериментов или выделенный GPU-хост с более мощным железом

Docker Model Runner сосредоточен на уровне среды выполнения: это нативный для Docker способ запуска и управления самостоятельно размещёнными моделями с использованием инструментов, на которые разработчики уже полагаются. Open WebUI сосредоточен на опыте взаимодействия: чистый, расширяемый интерфейс, который делает эти модели доступными и полезными

Теперь они соединяются автоматически — никакой ручной настройки конечных точек (endpoints), без дополнительных параметров запуска

Эта интеграция демонстрирует, как открытый исходный код может объединять проекты, которые развиваются независимо, но созданы так, чтобы отлично сочетаться

Установка и запуск Open WebUI с Docker Model Runner

Если Docker Model Runner включён, начать работу с Open WebUI так же просто, как выполнить одну команду:

docker run -p 3000:8080 openwebui/open-webui

Open WebUI автоматически подключится к Docker Model Runner и начнёт использовать ваши локальные модели / модели на собственном хосте без необходимости в дополнительных переменных или настройке

После запуска перейдите по адресу http://localhost:3000, создайте учётную запись — и вы готовы взаимодействовать со своими моделями через современный веб-интерфейс

Для проверки достаточно открыть интерфейс, выбрать доступную модель и отправить короткий тестовый запрос. Если ответ приходит без ручной настройки endpoint, связка работает корректно

Подробнее о первоначальной настройке Docker Model Runner можно прочитать на aglamov.biz

Как Open WebUI и Docker Model Runner сочетаются как независимые проекты

Эта интеграция показывает, как проекты с открытым исходным кодом могут эффективно сочетаться, хотя и развиваются независимо

Docker Model Runner управляет моделями так, как это привычно для пользователей Docker, тогда как Open WebUI предлагает удобный интерфейс и управление диалогами, как и ожидается от современных веб-приложений

Благодаря открытому исходному коду, вы можете видеть, как устроено соединение, и при необходимости вносить изменения

Конфигурация: ноутбук, удалённый GPU-хост и Docker Compose

Одно из практических преимуществ этого подхода — гибкость

Docker Model Runner не ограничивает место запуска ваших моделей — они могут располагаться как на ноутбуке, так и на более мощной удалённой машине

Это разделение между средой выполнения и интерфейсом намеренное. Интерфейсу не нужно знать, как подготовлена модель. Среде выполнения не нужно знать, как представлен интерфейс. Каждый уровень выполняет свою работу

С этой интеграцией граница становится почти невидимой. Запустите контейнер, откройте браузер — и всё встаёт на своё место. Вы решаете, где запускаются модели. Open WebUI просто встречает их там

Для более аккуратной локальной установки стоит сразу оформить запуск через Docker Compose. Так проще закрепить имя контейнера, порт, volume для данных Open WebUI и параметры перезапуска. Минимальная идея выглядит так: отдельный сервис open-webui, проброс 3000:8080, volume для /app/backend/data и политика restart: unless-stopped

Это не обязательно для первого теста, но полезно, если интерфейс должен переживать перезагрузку машины и сохранять историю диалогов

Если Model Runner находится на другой машине, проверьте три вещи: сетевой доступ к HTTP endpoint, правила firewall и то, что интерфейс Open WebUI не опубликован наружу без авторизации. Для домашнего стенда этого часто достаточно. Для небольшой команды лучше добавить обратный прокси, HTTPS и отдельные учётные записи, чтобы доступ к локальным моделям не превращался в общий незащищённый чат

Типичные ошибки при первом запуске Open WebUI с Docker

На практике большинство проблем при первом запуске связаны с несколькими предсказуемыми моментами, которые стоит проверить заранее

TCP-доступ не включён в Docker Desktop. Open WebUI подключается к Docker Model Runner по HTTP. Если TCP-порт закрыт, автоматическое обнаружение не сработает — интерфейс просто не увидит запущенные модели. Решение: зайдите в настройки Docker Desktop и убедитесь, что TCP-доступ для Docker Model Runner активирован

Конфликт портов. Команда docker run -p 3000:8080 предполагает, что порт 3000 свободен. Если на машине уже что-то слушает этот порт, контейнер запустится, но браузер не откроет нужный адрес. Проверьте занятость порта заранее или замените 3000 на любой свободный

Docker Model Runner не запущен до старта Open WebUI. Автоматическое обнаружение происходит при запуске контейнера Open WebUI. Если Docker Model Runner был включён позже, перезапустите контейнер Open WebUI — и соединение установится

Самая быстрая диагностика: сначала проверьте порт Docker Model Runner, затем логи контейнера Open WebUI, затем порядок запуска. В большинстве случаев проблема находится на одном из этих трёх уровней

Что проверить перед рабочим использованием

Перед тем как оставить такую связку как постоянный инструмент, проверьте несколько эксплуатационных деталей

Где хранятся данные Open WebUI. Без volume история и настройки могут пропасть при пересоздании контейнера. Для локального ноутбука достаточно именованного volume, для сервера лучше заранее решить вопрос резервного копирования

Кто имеет доступ к интерфейсу. Не публикуйте порт 3000 в интернет без отдельной защиты. Если нужен доступ извне, используйте reverse proxy, HTTPS и явную авторизацию

Сколько ресурсов забирает модель. Локальные модели чувствительны к памяти и GPU/CPU. Если браузер отвечает медленно, проверьте размер модели, нагрузку на систему и логи Docker до того, как менять настройки Open WebUI

Open WebUI и Docker Model Runner делают самостоятельно размещённый ИИ простым, гибким и полностью подконтрольным вам. Docker обеспечивает среду выполнения. Open WebUI предоставляет поверх неё современный интерфейс

Благодаря автоматическому обнаружению и нулевой конфигурации вы можете перейти от включения Docker Model Runner к взаимодействию с вашими моделями за считанные минуты. Оба проекта имеют открытый исходный код и построены с чёткими границами, поэтому вы можете запускать модели там, где хотите, и развёртывать компоненты вместе или по отдельности

Ответы на эти вопросы могут быть для вас полезными

Нужно ли устанавливать что-то дополнительно, чтобы Open WebUI увидел Docker Model Runner? Нет. Если Docker Model Runner запущен и TCP-доступ включён, Open WebUI автоматически обнаружит его при старте контейнера — без переменных окружения и ручной настройки конечных точек

Можно ли запускать модели на удалённой машине, а Open WebUI — локально? Да. Docker Model Runner не привязан к конкретному хосту. Пока он доступен по сети, Open WebUI может к нему подключиться — будь то локальный ноутбук, выделенный GPU-сервер или любая другая машина

Что делать, если Open WebUI не видит модели после запуска? Сначала проверьте, включён ли TCP-доступ в настройках Docker Desktop. Затем убедитесь, что Docker Model Runner был запущен до старта контейнера Open WebUI. Если порядок запуска был нарушен, достаточно перезапустить контейнер Open WebUI

Оба проекта бесплатны и с открытым исходным кодом? Да. И Docker Model Runner, и Open WebUI — проекты с открытым исходным кодом. Вы можете изучить их код, форкнуть репозитории и вносить изменения под свои нужды

Поддерживает ли интеграция работу с несколькими моделями одновременно? Docker Model Runner управляет моделями на уровне среды выполнения и позволяет иметь несколько моделей. Open WebUI предоставляет интерфейс для выбора и переключения между ними — всё это доступно сразу после первого запуска