Локальный DeepSeek с удобным UI для работы | Гайд ServerFlow

В этом видеоролике специалисты из команды ServerFlow продемонструют подробную инструкцию по развертыванию локального ИИ. При помощи Ollama и Open Web UI мы создадим свой chatgpt, который будет работать прямо на вашем комьютере или сервере. Эта система позводит развертывать топовые модели ИИ таукие как: gemma3, QWEN3, DeepSeek-R1, llama4, mistral-small3.1. Таким образом вы получите собственого ИИ агента, который будет работать без подключения к интернету. Команды для развертывания Подготовка системы(обновление репрезиториев и самых пакетов): sudo apt update sudo apt upgrade Установка SSH(по желанию): sudo apt install ssh sudo apt install openssh-server Ставим драйвер на видеокарты: lspci - проверка устройств на шине PCI-E(тут можно будет найти видеокарты) sudo apt install nvidia-driver-570-server - установка драйвера NVIDIA sudo reboot - делаем ребут(обязательно) Установка ollama: sudo apt install curl - установка утилиты curl для скачивания ollama Установка Pyton и развертывания виртуальных окружений: sudo apt-get install python3-pip sudo apt install python3-requests sudo apt install python3-venv python3 -m venv .venv source .venv/bin/activate pip install requests pip install open-webui open-webui serve - запуск open-webui Команды для мониторинга: nvidia-smi -l 1 - обновление мониторинга GPU каждую секунду sudo apt install nvtop - установка не менее информативного консольного мониторинга