Как самостоятельно хостить Onyx: Полное руководство по запуску open-source AI платформы

Подробное руководство по самостоятельному хостингу Onyx - мощной open-source AI платформы для создания чат-ботов с расширенными функциями. Узнайте, как настроить Onyx с любым LLM для вашего homelab.

Не указано

Подготовка системы

Установка Docker и Docker Compose на вашем сервере или компьютере

# Для Ubuntu/Debian
sudo apt update && sudo apt upgrade -y
sudo apt install -y git curl wget software-properties-common apt-transport-https

# Установка Docker
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg
echo "deb [arch=$(dpkg --print-architecture) signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt update
sudo apt install -y docker-ce docker-ce-cli containerd.io

# Установка Docker Compose
sudo curl -L "https://github.com/docker/compose/releases/download/1.29.2/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose

Клонирование репозитория Onyx

Скачивание исходного кода Onyx с GitHub

mkdir onyx-installation
cd onyx-installation
git clone https://github.com/onyx-platform/onyx.git
cd onyx

Настройка конфигурации

Настройка параметров конфигурации Onyx для вашей системы

cp config.example.yml config.yml
nano config.yml

Создание необходимых директорий

Подготовка структуры каталогов для моделей, данных и логов

mkdir -p models data logs

Запуск платформы

Запуск Onyx с помощью Docker Compose в фоновом режиме

docker-compose up -d

Проверка работы

Проверка правильности установки и доступности интерфейса

# Просмотр логов
docker-compose logs -f

# Проверка доступности веб-интерфейса
curl http://localhost:8080

Первоначальная настройка

Регистрация первого пользователя и настройка моделей

1. Откройте http://localhost:8080 в браузере
2. Зарегистрируйте первого пользователя с правами администратора
3. Настройте подключение к LLM-провайдерам (если используете облачные модели)
4. Загрузите локальные модели (если планируете их использовать)
5. Настройте политики безопасности и доступа