Продвинутый

Orca: запуск флети ботов с собственной подпиской

Артём Калинин
Артём Калинин
DevOps-инженер22 ноября 2026 г.11 мин чтения

Orca управляет набором ботов, используя вашу подписку на Claude Code, Grok, Agy или Codex, доступных на ПК, мобильных и удалённых runtime.

Orca: запуск флети ботов с собственной подпиской

Orca управляет набором ботов, используя вашу подписку на Claude Code, Grok, Agy или Codex, доступных на ПК, мобильных и удалённых runtime.

Что такое Orca и зачем использовать

Что такое Orca и зачем использовать

Orca — это orchestrator, который берёт на себя управление набором AI‑ботов, работающих на основе вашей подписки на Claude Code, Grok, Agy или Codex. Вы объявляете желаемое состояние, а Orca обеспечивает декларативное приведение к нему: автоматически поднимает контейнеры, следит за их здоровьем, масштабирует и обновляет без простоя. Боты могут работать на вашем ПК, в мобильном режиме или на удалённом runtime‑е, так что вы не привязаны к конкретному устройству.

С prakticheskoi tochki zreniya, Orca избавляет от ручной конфигурации каждого бота: вместо того чтобы вручную запускать docker run … на каждом сервере, вы описываете fleet в одном манифесте, и система разворачивает нужное количество реплик, следит за тем, чтобы они оставались в согласованном состоянии и автоматически применяла новые версии. Это экономит часы разработчика и уменьшает риск ошибок при развертывании.

Организация флети ботов

В Orca «фleet» — это декларативное описание набора ботов, которые должны работать в определённом количестве реплик. Описание помещается в YAML‑манифест, который удобно хранить в Git. Пример манифеста для бота, который выполняет ревью кода:

yaml
apiVersion: orca.io/v1
kind: Fleet
metadata:
  name: code-review-bot
spec:
  replicaCount: 3                     # желаемое количество реплик
  template:
    image: orca/code-review:latest    # образ с ботом
    command: ["python", "review.py"]  # команда, которую будет выполнять контейнер
    resources:
      limits:
        cpu: "1"
        memory: "2Gi"
  updateStrategy: RollingUpdate       # плавное обновление без простоев

Apply‑ить манифест можно одной командой:

bash
orca fleet apply -f fleet.yaml

После применения Orca сразу начинает поднимать контейнеры, проверяет их статус и, при необходимости, перезапускает нерабочие реплики. Масштабировать fleet можно в любой момент:

bash
orca fleet scale code-review-bot --replicas 5

Для более детального контроля доступны health‑checks, readiness‑пробы и возможность задавать приоритеты pod‑ов. Всё это делает управление большим набором ботов простым и предсказуемым. Подробнее о концепции fleet‑ов см. в статье Управление флотом ИИ‑агентов с помощью Orca.

Поддержка разных AI‑сервисов

Orca изначально спроектирован как абстракция над несколькими провайдерами AI. Вы можете переключаться между Claude Code, Grok, Agy и Codex, не меняя код бота. Для этого в конфигурационном файле (JSON или YAML) задаются параметры доступа к каждому провайдеру, а в спецификации бота указывается, какой провайдер использовать.

Пример конфигурации провайдеров (JSON):

json
{
  "providers": {
    "claude": {
      "apiKey": "sk-....",
      "model": "claude-code"
    },
    "grok": {
      "apiKey": "sk-....",
      "model": "grok-2"
    },
    "codex": {
      "endpoint": "https://api.codex.example.com/v1",
      "token": "Bearer abc123"
    }
  },
  "defaultProvider": "claude"
}

В yaml‑манифесте бота можно привязать переменную окружения к выбранному провайдеру:

yaml
spec:
  template:
    image: orca/bot:latest
    env:
      - name: AI_PROVIDER
        value: "{{ .Provider }}"   # значение берётся из конфигурации

При смене провайдера достаточно обновить конфигурацию и выполнить orca fleet apply. Бот автоматически начнёт использовать новый сервис, не требуя перезаписи кода. Это удобно, когда в проекте требуется комбинировать разные модели: например, использовать Claude Code для статического анализа кода и Grok для динамического тестирования.

Для получения рекомендаций по оптимизации работы с несколькими провайдерами, см. Ponytail: оптимизация работы AI‑агентов.

Таким образом, Orca — это единый инструмент, который объединяет всё: объявление fleet‑ов, автоматическое масштабирование, обновления без простоя и гибкую поддержку разных AI‑сервисов. Вы получаете полностью автоматизированный процесс «от идеи до продакшн», а разработчикам остаётся лишь описать, что должно делать их бот.

Архитектура и доступные среды

Архитектура и доступные среды

Локальный запуск на desktop

Orca управляет набором ботов, используя вашу подписку на Claude Code, Grok, Agy или Codex. Для работы достаточно запустить всё локально в контейнере — это избавит от необходимости держать отдельные виртуальные среды и упростит отладку.

Рассмотрим типичный сценарий: у вас есть Docker Compose‑файл, в котором перечислены сервисы‑боты, а Orca выступает в роли оркелятора.

yaml
# docker-compose.yml
version: "3.9"
services:
  orca:
    image: orca/orca:latest
    ports:
      - "8080:8080"
    environment:
      - SUBSCRIPTION=claude-code   # или grok, agy, codex
      - LOG_LEVEL=info
    volumes:
      - ./bots:/app/bots           # каталог с вашими bot‑скриптами
    restart: unless-stopped

  bot1:
    image: python:3.11-slim
    working_dir: /app
    command: ["python", "bot1/main.py"]
    volumes:
      - ./bots/bot1:/app
    depends_on:
      - orca

Запуск выглядит так:

bash
docker compose up -d

После старта Orca будет доступен по http://localhost:8080. В веб‑интерфейсе вы можете добавить новые боты, задать их параметры и увидеть статус выполнения.

Если вам нужен GPU для ускорения inference, достаточно добавить в docker‑compose.yml соответствующий драйвер:

yaml
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

Для более детального описания возможностей локального запуска см. Ponytail: оптимизация работы AI‑агентов.

С практической точки зрения локальный запуск удобен, когда требуется быстрый отклик и полный контроль над данными.

Удалённый runtime в облаке

Если локальный ресурс недостаточен, Orca поддерживает удалённые runtime‑ы — Docker‑контейнеры, запущенные на виртуальных машинах в облаке (AWS EC2, GCP Compute Engine, Azure VM) или на управляемых кластерах Kubernetes (k3s, EKS, GKE).

Пример развёртывания на AWS EC2

  1. Подготовьте инстанс с Docker Engine 20.10+ и SSH‑доступом.
  2. Скопируйте docker‑compose.yml и каталог bots на инстанс.
bash
scp docker-compose.yml ec2-user@<IP>:/home/ec2-user/
scp -r bots ec2-user@<IP>:/home/ec2-user/
  1. Запустите контейнеры:
bash
ssh ec2-user@<IP>
cd /home/ec2-user
docker compose up -d

Orca будет доступен по публичному IP инстанса (порт 8080). Для безопасного доступа можно настроить Nginx‑reverse‑proxy с TLS‑сертификатом (пример — в Обзор OpenComputer: open source агент для разработки).

Kubernetes‑вариант

Если ваш проект уже работает в Kubernetes, Orca может быть развернут как Deployment с Service‑ом типа LoadBalancer. Пример манифеста:

yaml
apiVersion: apps/v1
kind: Deployment
metadata:
  name: orca
spec:
  replicas: 1
  selector:
    matchLabels:
      app: orca
  template:
    metadata:
      labels:
        app: orca
    spec:
      containers:
        - name: orca
          image: orca/orca:latest
          ports:
            - containerPort: 8080
          env:
            - name: SUBSCRIPTION
              value: "grok"
          volumeMounts:
            - name: bots
              mountPath: /app/bots
      volumes:
        - name: bots
          hostPath:
            path: /opt/bots
---
apiVersion: v1
kind: Service
metadata:
  name: orca-svc
spec:
  type: LoadBalancer
  selector:
    app: orca
  ports:
    - protocol: TCP
      port: 80
      targetPort: 8080

После kubectl apply -f orca-deploy.yaml Orca будет доступен по внешнему IP, полученному от провайдера.

Для управления секретами (API‑ключи к Claude Code, Grok и т.д.) рекомендуется использовать SOPS + Age — всё хранится в Git, а перед пушем проверяется git-secrets. Подробнее в Управление флотом ИИ‑агентов с помощью Orca.

Это важно потому что удалённый runtime позволяет масштабировать нагрузку, используя мощные GPU‑инстансы, а также изолировать ботов от локального окружения.


Для сравнения с другими решениями смотрите OpenComputer: open source alternative to Devin for teams и Оптимизация AI‑агентов с помощью системы ECC.

Настройка и автоматизация

### CI/CD пайплайн через GitLab

Для автоматизации развертывания ботов Orca удобно использовать CI/CD‑pipeline в GitLab.
Пайплайн состоит из нескольких стадий: provision — подготовка окружения, deploy — запуск Orca‑ботов, cleanup — удаление временных артефактов.

Практический пример – каждый коммит в ветку main инициирует процесс, который в итоге делает ваш домашний сервер готовым к работе с Orca без ручного вмешательства.

yaml
# .gitlab-ci.yml
stages:
  - provision
  - deploy
  - cleanup

variables:
  ORCA_SUBSCRIPTION_TOKEN: "$ORCA_SUBSCRIPTION_TOKEN"
  ORCA_BOT_DIR: "/opt/orca/bots"

provision:
  stage: provision
  image: python:3.11-slim
  script:
    - apt-get update && apt-get install -y git docker.io
    - pip install orca-sdk
    - mkdir -p $ORCA_BOT_DIR
  only:
    - main

deploy:
  stage: deploy
  image: docker:24.0.5
  services:
    - docker:24.0.5-dind
  script:
    - export ORCA_TOKEN=${ORCA_SUBSCRIPTION_TOKEN}
    - docker run --rm -v $ORCA_BOT_DIR:/bot --env ORCA_TOKEN=$ORCA_TOKEN orcacode/orca:latest \
        --config /bot/config.yaml
  only:
    - main

cleanup:
  stage: cleanup
  image: alpine:3.18
  script:
    - rm -rf $ORCA_BOT_DIR
  only:
    - main
  • Почему так?
    • GitLab CI гарантирует, что каждый запуск будет в чистом окружении, а переменные токенов хранятся в защищённых CI‑переменных.
    • Docker‑in‑Docker позволяет запускать Orca‑контейнер без предварительной установки на хосте, что упрощает перенос на любой сервер.
    • Only on main — пайплайн срабатывает лишь после проверенного коммита, минимизируя риск «поломки» продакшн‑окружения.

Для более детального описания оптимизации пайплайна смотрите Ponytail: оптимизация работы AI‑агентов.


Ansible‑playbook для provisioning

Ansible — основной инструмент для однородной настройки домашнего сервера под Orca.
Playbook разбивается на ролі, которые отвечают за установку зависимостей, развертывание Docker‑контейнеров и конфигурацию Orca‑ботов.

Ключевой принцип – декларативность: вы описываете что должно быть, а Ansible гарантирует как это будет выполнено, делая процесс idempotent.

yaml
# playbooks/orca-provision.yml
- name: Prepare home server for Orca
  hosts: orca_servers
  become: true
  vars:
    orca_bot_dir: "/opt/orca/bots"
    orca_sub_token: "{{ lookup('env', 'ORCA_SUBSCRIPTION_TOKEN') }}"
  tasks:

    - name: Install system packages
      apt:
        name:
          - docker.io
          - docker-compose
          - git
          - python3-pip
        state: present
        update_cache: yes

    - name: Install Orca SDK via pip
      pip:
        name: orca-sdk
        state: present

    - name: Create directory for bots
      file:
        path: "{{ orca_bot_dir }}"
        state: directory
        mode: "0755"

    - name: Clone Orca repository
      git:
        repo: "https://github.com/orcacode/orca.git"
        dest: "{{ orca_bot_dir }}"
        version: "main"
        force: yes

    - name: Deploy Orca Docker container
      docker_container:
        name: orca_bot
        image: orcacode/orca:latest
        state: started
        restart_policy: unless-stopped
        env:
          ORCA_SUBSCRIPTION_TOKEN: "{{ orca_sub_token }}"
        volumes:
          - "{{ orca_bot_dir }}:/bot"
        ports:
          - "8080:8080"

Что делает каждый блок

ЗадачаОписание
Install system packagesУстанавливает Docker, docker‑compose и git – основные зависимости для Orca.
Install Orca SDKЧерез pip подключает Python‑библиотеку, необходимую для взаимодействия с API Claude, Grok, Agy, Codex.
Create directoryГарантирует, что путь для ботов существует и имеет правильные права.
Clone repositoryБерёт актуальный код Orca, что позволяет использовать собственные чары и настройки.
Deploy Docker containerЗапускает контейнер Orca, передаёт токен подписки и монтирует каталог с конфигурациями.

Для более широкого контекста использования Ansible в управлении AI‑агентов см. Управление флотом ИИ‑агентов с помощью Orca и OpenComputer: open source alternative to Devin for teams.


Итого:

  • GitLab CI обеспечивает автоматический, проверяемый и воспроизводимый процесс развертывания.
  • Ansible‑playbook делает настройку однородной и полностью автоматизированной, позволяя сосредоточиться на работе с ботами, а не на ручных действиях.

Оба подхода совместимы и часто комбинируются: пайплайн в GitLab вызывает Ansible‑playbook через ansible-playbook‑cli, а playbook в свою очередь использует переменные, заданные в CI‑pipeline. Такой подход полностью укладывается в GitOps‑philosophy – всё, что нужно для работы Orca, живёт в репозитории и управляется через Git.

Практические примеры и рекомендации

Пример Docker‑Compose конфигурации

Рассмотрим на примере запуск четырёх ботов: Claude Code, Grok, Agy и Codex.
Все они берут токен из переменных окружения, а Orca‑контейнер читает их через .env‑файл.

yaml
version: "3.9"

services:
  orca:
    image: orca/orca:latest
    container_name: orca-bot-manager
    restart: unless-stopped
    env_file:
      - .env               # токены CLAUDE, GROK, AGY, CODEX
    volumes:
      - ./logs:/app/logs   # хранение логов в директории проекта
    depends_on:
      - claude
      - grok
      - agy
      - codex

  claude:
    image: claude/code:latest
    container_name: claude-bot
    restart: unless-stopped
    env_file:
      - .env
    volumes:
      - ./logs:/app/logs

  grok:
    image: grok/grok:latest
    container_name: grok-bot
    restart: unless-stopped
    env_file:
      - .env
    volumes:
      - ./logs:/app/logs

  agy:
    image: agy/agy:latest
    container_name: agy-bot
    restart: unless-stopped
    env_file:
      - .env
    volumes:
      - ./logs:/app/logs

  codex:
    image: codex/codex:latest
    container_name: codex-bot
    restart: unless-stopped
    env_file:
      - .env
    volumes:
      - ./logs:/app/logs

Почему так?

  • env_file — единственное место, где хранятся токены, поэтому при ротации ключей меняем только .env.
  • volumes — лог‑файлы попадают в общую директорию, её удобно монтировать в хост‑систему или в отдельный контейнер для сбора.
  • depends_on гарантирует, что Orca стартует только после всех ботов (но не гарантирует их готовности – см. ниже про health‑check).

Справочка: если хотите более надёжный старт, добавьте healthcheck‑скрипты в каждый сервис (см. Управление флотом ИИ-агентов с помощью Orca).


Мониторинг и логирование

С практической точки зрения без мониторинга и централизованного сбора логов Orca‑деплой будет «слепой».
Самый простой стек – Prometheus + Grafana + Loki (или EFK).

1. Метрики из контейнеров

  • Docker‑metrics (CPU, память, сеть) собираются Prometheus‑exporter‑ом cAdvisor.
  • Собные метрики Orca (кол‑во запущенных задач, очередь, ошибки) экспортируются в /metrics‑эндпоинт (порт 9090).
yaml
  prometheus:
    image: prom/prometheus:latest
    container_name: prometheus
    volumes:
      - ./prometheus.yml:/etc/prometheus/prometheus.yml
    ports:
      - "9090:9090"
    restart: unless-stopped

  grafana:
    image: grafana/grafana:latest
    container_name: grafana
    depends_on:
      - prometheus
    ports:
      - "3000:3000"
    restart: unless-stopped

prometheus.yml (упрощённо):

yaml
global:
  scrape_interval: 15s

scrape_configs:
  - job_name: 'orca'
    static_configs:
      - targets: ['orca:9090']
  - job_name: 'caddy'   # пример cAdvisor
    static_configs:
      - targets: ['host.docker.internal:8080']

2. Централизованное логирование

  • Loki умеет собирать логи из Docker‑контейнеров без отдельного sidecar.
  • Grafana подключается к Loki и строит дашборды.
yaml
  loki:
    image: grafana/loki:latest
    container_name: loki
    ports:
      - "3100:3100"
    restart: unless-stopped

  promtail:
    image: grafana/promtail:latest
    container_name: promtail
    volumes:
      - /var/lib/docker/containers:/var/lib/docker/containers:ro
      - ./loki-config.yml:/etc/promtail/config.yml
    restart: unless-stopped

loki-config.yml (минимальный):

yaml
auth_enabled: false

server:
  http_listen_port: 3100

positions:
  filename: /tmp/positions.yaml

clients:
  - url: http://loki:3100/loki/api/v1/push

Как это выглядит в реальной работе?

  • При ошибке в токене Orca пишет ERR_AUTH в лог‑файл.
  • promtail подхватывает файл из ./logs, отправляет в Loki.
  • В Grafana создаём дашборд «Orca Bot Health»:
    • Panel 1 – график orca_task_errors_total (Prometheus).
    • Panel 2 – таблица последних 100 строк логов (Loki).

Ссылка на практику: подробнее о том, как настроить Loki для Docker‑логов, в статье Ponytail: оптимизация работы AI‑агентов.

3. Оповещения

  • Alertmanager (можно добавить в тот же docker‑compose) отсылает уведомления в Slack или Telegram, когда:
    • orca_task_errors_total > 5 за 5 минут.
    • orca_memory_usage > 80% на хосте.
yaml
  alertmanager:
    image: prom/alertmanager:latest
    container_name: alertmanager
    ports:
      - "9093:9093"
    volumes:
      - ./alertmanager.yml:/etc/alertmanager/config.yml
    restart: unless-stopped

alertmanager.yml – типичный конфиг с получателем slack-notifications.

4. Что ещё полезно

  • Health‑check в Docker‑Compose: healthcheck: test: ["CMD", "curl", "-f", "http://localhost:9090/health"].
  • Ротация логов: используйте logrotate на хосте или docker‑log‑driver json-file + max-size.
  • Секреты: храните токены в SOPS + Age (см. Обзор OpenComputer: open source агент для разработки – в репозитории есть пример .sops.yaml).

Итого: Docker‑Compose задаёт инфраструктуру, а Prometheus‑Grafana‑Loki‑Alertmanager дают полную картину «что происходит и почему». Это позволяет быстро находить «тупики» и поддерживать ботов в рабочем состоянии без постоянного вмешательства инженера.


Если хотите увидеть готовый пример дашборда, посмотрите Обзор OpenComputer: open source агент для разработки – там есть готовый JSON‑дашборд, который можно импортировать в Grafana.

Поделиться:TelegramX / TwitterVK

Читайте также