Orca: запуск флети ботов с собственной подпиской
Orca управляет набором ботов, используя вашу подписку на Claude Code, Grok, Agy или Codex, доступных на ПК, мобильных и удалённых runtime.
Что такое Orca и зачем использовать
Что такое Orca и зачем использовать
Orca — это orchestrator, который берёт на себя управление набором AI‑ботов, работающих на основе вашей подписки на Claude Code, Grok, Agy или Codex. Вы объявляете желаемое состояние, а Orca обеспечивает декларативное приведение к нему: автоматически поднимает контейнеры, следит за их здоровьем, масштабирует и обновляет без простоя. Боты могут работать на вашем ПК, в мобильном режиме или на удалённом runtime‑е, так что вы не привязаны к конкретному устройству.
С prakticheskoi tochki zreniya, Orca избавляет от ручной конфигурации каждого бота: вместо того чтобы вручную запускать docker run … на каждом сервере, вы описываете fleet в одном манифесте, и система разворачивает нужное количество реплик, следит за тем, чтобы они оставались в согласованном состоянии и автоматически применяла новые версии. Это экономит часы разработчика и уменьшает риск ошибок при развертывании.
Организация флети ботов
В Orca «фleet» — это декларативное описание набора ботов, которые должны работать в определённом количестве реплик. Описание помещается в YAML‑манифест, который удобно хранить в Git. Пример манифеста для бота, который выполняет ревью кода:
yamlapiVersion: orca.io/v1
kind: Fleet
metadata:
name: code-review-bot
spec:
replicaCount: 3 # желаемое количество реплик
template:
image: orca/code-review:latest # образ с ботом
command: ["python", "review.py"] # команда, которую будет выполнять контейнер
resources:
limits:
cpu: "1"
memory: "2Gi"
updateStrategy: RollingUpdate # плавное обновление без простоев
Apply‑ить манифест можно одной командой:
bashorca fleet apply -f fleet.yaml
После применения Orca сразу начинает поднимать контейнеры, проверяет их статус и, при необходимости, перезапускает нерабочие реплики. Масштабировать fleet можно в любой момент:
bashorca fleet scale code-review-bot --replicas 5
Для более детального контроля доступны health‑checks, readiness‑пробы и возможность задавать приоритеты pod‑ов. Всё это делает управление большим набором ботов простым и предсказуемым. Подробнее о концепции fleet‑ов см. в статье Управление флотом ИИ‑агентов с помощью Orca.
Поддержка разных AI‑сервисов
Orca изначально спроектирован как абстракция над несколькими провайдерами AI. Вы можете переключаться между Claude Code, Grok, Agy и Codex, не меняя код бота. Для этого в конфигурационном файле (JSON или YAML) задаются параметры доступа к каждому провайдеру, а в спецификации бота указывается, какой провайдер использовать.
Пример конфигурации провайдеров (JSON):
json{
"providers": {
"claude": {
"apiKey": "sk-....",
"model": "claude-code"
},
"grok": {
"apiKey": "sk-....",
"model": "grok-2"
},
"codex": {
"endpoint": "https://api.codex.example.com/v1",
"token": "Bearer abc123"
}
},
"defaultProvider": "claude"
}
В yaml‑манифесте бота можно привязать переменную окружения к выбранному провайдеру:
yamlspec:
template:
image: orca/bot:latest
env:
- name: AI_PROVIDER
value: "{{ .Provider }}" # значение берётся из конфигурации
При смене провайдера достаточно обновить конфигурацию и выполнить orca fleet apply. Бот автоматически начнёт использовать новый сервис, не требуя перезаписи кода. Это удобно, когда в проекте требуется комбинировать разные модели: например, использовать Claude Code для статического анализа кода и Grok для динамического тестирования.
Для получения рекомендаций по оптимизации работы с несколькими провайдерами, см. Ponytail: оптимизация работы AI‑агентов.
Таким образом, Orca — это единый инструмент, который объединяет всё: объявление fleet‑ов, автоматическое масштабирование, обновления без простоя и гибкую поддержку разных AI‑сервисов. Вы получаете полностью автоматизированный процесс «от идеи до продакшн», а разработчикам остаётся лишь описать, что должно делать их бот.
Архитектура и доступные среды
Архитектура и доступные среды
Локальный запуск на desktop
Orca управляет набором ботов, используя вашу подписку на Claude Code, Grok, Agy или Codex. Для работы достаточно запустить всё локально в контейнере — это избавит от необходимости держать отдельные виртуальные среды и упростит отладку.
Рассмотрим типичный сценарий: у вас есть Docker Compose‑файл, в котором перечислены сервисы‑боты, а Orca выступает в роли оркелятора.
yaml# docker-compose.yml
version: "3.9"
services:
orca:
image: orca/orca:latest
ports:
- "8080:8080"
environment:
- SUBSCRIPTION=claude-code # или grok, agy, codex
- LOG_LEVEL=info
volumes:
- ./bots:/app/bots # каталог с вашими bot‑скриптами
restart: unless-stopped
bot1:
image: python:3.11-slim
working_dir: /app
command: ["python", "bot1/main.py"]
volumes:
- ./bots/bot1:/app
depends_on:
- orca
Запуск выглядит так:
bashdocker compose up -d
После старта Orca будет доступен по http://localhost:8080. В веб‑интерфейсе вы можете добавить новые боты, задать их параметры и увидеть статус выполнения.
Если вам нужен GPU для ускорения inference, достаточно добавить в docker‑compose.yml соответствующий драйвер:
yaml deploy:
resources:
reservations:
devices:
- driver: nvidia
count: 1
capabilities: [gpu]
Для более детального описания возможностей локального запуска см. Ponytail: оптимизация работы AI‑агентов.
С практической точки зрения локальный запуск удобен, когда требуется быстрый отклик и полный контроль над данными.
Удалённый runtime в облаке
Если локальный ресурс недостаточен, Orca поддерживает удалённые runtime‑ы — Docker‑контейнеры, запущенные на виртуальных машинах в облаке (AWS EC2, GCP Compute Engine, Azure VM) или на управляемых кластерах Kubernetes (k3s, EKS, GKE).
Пример развёртывания на AWS EC2
- Подготовьте инстанс с Docker Engine 20.10+ и SSH‑доступом.
- Скопируйте
docker‑compose.ymlи каталогbotsна инстанс.
bashscp docker-compose.yml ec2-user@<IP>:/home/ec2-user/ scp -r bots ec2-user@<IP>:/home/ec2-user/
- Запустите контейнеры:
bashssh ec2-user@<IP>
cd /home/ec2-user
docker compose up -d
Orca будет доступен по публичному IP инстанса (порт 8080). Для безопасного доступа можно настроить Nginx‑reverse‑proxy с TLS‑сертификатом (пример — в Обзор OpenComputer: open source агент для разработки).
Kubernetes‑вариант
Если ваш проект уже работает в Kubernetes, Orca может быть развернут как Deployment с Service‑ом типа LoadBalancer. Пример манифеста:
yamlapiVersion: apps/v1
kind: Deployment
metadata:
name: orca
spec:
replicas: 1
selector:
matchLabels:
app: orca
template:
metadata:
labels:
app: orca
spec:
containers:
- name: orca
image: orca/orca:latest
ports:
- containerPort: 8080
env:
- name: SUBSCRIPTION
value: "grok"
volumeMounts:
- name: bots
mountPath: /app/bots
volumes:
- name: bots
hostPath:
path: /opt/bots
---
apiVersion: v1
kind: Service
metadata:
name: orca-svc
spec:
type: LoadBalancer
selector:
app: orca
ports:
- protocol: TCP
port: 80
targetPort: 8080
После kubectl apply -f orca-deploy.yaml Orca будет доступен по внешнему IP, полученному от провайдера.
Для управления секретами (API‑ключи к Claude Code, Grok и т.д.) рекомендуется использовать SOPS + Age — всё хранится в Git, а перед пушем проверяется git-secrets. Подробнее в Управление флотом ИИ‑агентов с помощью Orca.
Это важно потому что удалённый runtime позволяет масштабировать нагрузку, используя мощные GPU‑инстансы, а также изолировать ботов от локального окружения.
Для сравнения с другими решениями смотрите OpenComputer: open source alternative to Devin for teams и Оптимизация AI‑агентов с помощью системы ECC.
Настройка и автоматизация
### CI/CD пайплайн через GitLab
Для автоматизации развертывания ботов Orca удобно использовать CI/CD‑pipeline в GitLab.
Пайплайн состоит из нескольких стадий: provision — подготовка окружения, deploy — запуск Orca‑ботов, cleanup — удаление временных артефактов.
Практический пример – каждый коммит в ветку
mainинициирует процесс, который в итоге делает ваш домашний сервер готовым к работе с Orca без ручного вмешательства.
yaml# .gitlab-ci.yml
stages:
- provision
- deploy
- cleanup
variables:
ORCA_SUBSCRIPTION_TOKEN: "$ORCA_SUBSCRIPTION_TOKEN"
ORCA_BOT_DIR: "/opt/orca/bots"
provision:
stage: provision
image: python:3.11-slim
script:
- apt-get update && apt-get install -y git docker.io
- pip install orca-sdk
- mkdir -p $ORCA_BOT_DIR
only:
- main
deploy:
stage: deploy
image: docker:24.0.5
services:
- docker:24.0.5-dind
script:
- export ORCA_TOKEN=${ORCA_SUBSCRIPTION_TOKEN}
- docker run --rm -v $ORCA_BOT_DIR:/bot --env ORCA_TOKEN=$ORCA_TOKEN orcacode/orca:latest \
--config /bot/config.yaml
only:
- main
cleanup:
stage: cleanup
image: alpine:3.18
script:
- rm -rf $ORCA_BOT_DIR
only:
- main
- Почему так?
- GitLab CI гарантирует, что каждый запуск будет в чистом окружении, а переменные токенов хранятся в защищённых CI‑переменных.
- Docker‑in‑Docker позволяет запускать Orca‑контейнер без предварительной установки на хосте, что упрощает перенос на любой сервер.
- Only on main — пайплайн срабатывает лишь после проверенного коммита, минимизируя риск «поломки» продакшн‑окружения.
Для более детального описания оптимизации пайплайна смотрите Ponytail: оптимизация работы AI‑агентов.
Ansible‑playbook для provisioning
Ansible — основной инструмент для однородной настройки домашнего сервера под Orca.
Playbook разбивается на ролі, которые отвечают за установку зависимостей, развертывание Docker‑контейнеров и конфигурацию Orca‑ботов.
Ключевой принцип – декларативность: вы описываете что должно быть, а Ansible гарантирует как это будет выполнено, делая процесс idempotent.
yaml# playbooks/orca-provision.yml
- name: Prepare home server for Orca
hosts: orca_servers
become: true
vars:
orca_bot_dir: "/opt/orca/bots"
orca_sub_token: "{{ lookup('env', 'ORCA_SUBSCRIPTION_TOKEN') }}"
tasks:
- name: Install system packages
apt:
name:
- docker.io
- docker-compose
- git
- python3-pip
state: present
update_cache: yes
- name: Install Orca SDK via pip
pip:
name: orca-sdk
state: present
- name: Create directory for bots
file:
path: "{{ orca_bot_dir }}"
state: directory
mode: "0755"
- name: Clone Orca repository
git:
repo: "https://github.com/orcacode/orca.git"
dest: "{{ orca_bot_dir }}"
version: "main"
force: yes
- name: Deploy Orca Docker container
docker_container:
name: orca_bot
image: orcacode/orca:latest
state: started
restart_policy: unless-stopped
env:
ORCA_SUBSCRIPTION_TOKEN: "{{ orca_sub_token }}"
volumes:
- "{{ orca_bot_dir }}:/bot"
ports:
- "8080:8080"
Что делает каждый блок
| Задача | Описание |
|---|---|
| Install system packages | Устанавливает Docker, docker‑compose и git – основные зависимости для Orca. |
| Install Orca SDK | Через pip подключает Python‑библиотеку, необходимую для взаимодействия с API Claude, Grok, Agy, Codex. |
| Create directory | Гарантирует, что путь для ботов существует и имеет правильные права. |
| Clone repository | Берёт актуальный код Orca, что позволяет использовать собственные чары и настройки. |
| Deploy Docker container | Запускает контейнер Orca, передаёт токен подписки и монтирует каталог с конфигурациями. |
Для более широкого контекста использования Ansible в управлении AI‑агентов см. Управление флотом ИИ‑агентов с помощью Orca и OpenComputer: open source alternative to Devin for teams.
Итого:
- GitLab CI обеспечивает автоматический, проверяемый и воспроизводимый процесс развертывания.
- Ansible‑playbook делает настройку однородной и полностью автоматизированной, позволяя сосредоточиться на работе с ботами, а не на ручных действиях.
Оба подхода совместимы и часто комбинируются: пайплайн в GitLab вызывает Ansible‑playbook через ansible-playbook‑cli, а playbook в свою очередь использует переменные, заданные в CI‑pipeline. Такой подход полностью укладывается в GitOps‑philosophy – всё, что нужно для работы Orca, живёт в репозитории и управляется через Git.
Практические примеры и рекомендации
Пример Docker‑Compose конфигурации
Рассмотрим на примере запуск четырёх ботов: Claude Code, Grok, Agy и Codex.
Все они берут токен из переменных окружения, а Orca‑контейнер читает их через .env‑файл.
yamlversion: "3.9"
services:
orca:
image: orca/orca:latest
container_name: orca-bot-manager
restart: unless-stopped
env_file:
- .env # токены CLAUDE, GROK, AGY, CODEX
volumes:
- ./logs:/app/logs # хранение логов в директории проекта
depends_on:
- claude
- grok
- agy
- codex
claude:
image: claude/code:latest
container_name: claude-bot
restart: unless-stopped
env_file:
- .env
volumes:
- ./logs:/app/logs
grok:
image: grok/grok:latest
container_name: grok-bot
restart: unless-stopped
env_file:
- .env
volumes:
- ./logs:/app/logs
agy:
image: agy/agy:latest
container_name: agy-bot
restart: unless-stopped
env_file:
- .env
volumes:
- ./logs:/app/logs
codex:
image: codex/codex:latest
container_name: codex-bot
restart: unless-stopped
env_file:
- .env
volumes:
- ./logs:/app/logs
Почему так?
env_file— единственное место, где хранятся токены, поэтому при ротации ключей меняем только.env.volumes— лог‑файлы попадают в общую директорию, её удобно монтировать в хост‑систему или в отдельный контейнер для сбора.depends_onгарантирует, что Orca стартует только после всех ботов (но не гарантирует их готовности – см. ниже про health‑check).
Справочка: если хотите более надёжный старт, добавьте
healthcheck‑скрипты в каждый сервис (см. Управление флотом ИИ-агентов с помощью Orca).
Мониторинг и логирование
С практической точки зрения без мониторинга и централизованного сбора логов Orca‑деплой будет «слепой».
Самый простой стек – Prometheus + Grafana + Loki (или EFK).
1. Метрики из контейнеров
- Docker‑metrics (CPU, память, сеть) собираются Prometheus‑exporter‑ом
cAdvisor. - Собные метрики Orca (кол‑во запущенных задач, очередь, ошибки) экспортируются в
/metrics‑эндпоинт (порт 9090).
yaml prometheus:
image: prom/prometheus:latest
container_name: prometheus
volumes:
- ./prometheus.yml:/etc/prometheus/prometheus.yml
ports:
- "9090:9090"
restart: unless-stopped
grafana:
image: grafana/grafana:latest
container_name: grafana
depends_on:
- prometheus
ports:
- "3000:3000"
restart: unless-stopped
prometheus.yml (упрощённо):
yamlglobal:
scrape_interval: 15s
scrape_configs:
- job_name: 'orca'
static_configs:
- targets: ['orca:9090']
- job_name: 'caddy' # пример cAdvisor
static_configs:
- targets: ['host.docker.internal:8080']
2. Централизованное логирование
- Loki умеет собирать логи из Docker‑контейнеров без отдельного sidecar.
- Grafana подключается к Loki и строит дашборды.
yaml loki:
image: grafana/loki:latest
container_name: loki
ports:
- "3100:3100"
restart: unless-stopped
promtail:
image: grafana/promtail:latest
container_name: promtail
volumes:
- /var/lib/docker/containers:/var/lib/docker/containers:ro
- ./loki-config.yml:/etc/promtail/config.yml
restart: unless-stopped
loki-config.yml (минимальный):
yamlauth_enabled: false
server:
http_listen_port: 3100
positions:
filename: /tmp/positions.yaml
clients:
- url: http://loki:3100/loki/api/v1/push
Как это выглядит в реальной работе?
- При ошибке в токене Orca пишет
ERR_AUTHв лог‑файл. promtailподхватывает файл из./logs, отправляет в Loki.- В Grafana создаём дашборд «Orca Bot Health»:
- Panel 1 – график
orca_task_errors_total(Prometheus). - Panel 2 – таблица последних 100 строк логов (Loki).
- Panel 1 – график
Ссылка на практику: подробнее о том, как настроить Loki для Docker‑логов, в статье Ponytail: оптимизация работы AI‑агентов.
3. Оповещения
- Alertmanager (можно добавить в тот же
docker‑compose) отсылает уведомления в Slack или Telegram, когда:orca_task_errors_total > 5за 5 минут.orca_memory_usage > 80%на хосте.
yaml alertmanager:
image: prom/alertmanager:latest
container_name: alertmanager
ports:
- "9093:9093"
volumes:
- ./alertmanager.yml:/etc/alertmanager/config.yml
restart: unless-stopped
alertmanager.yml – типичный конфиг с получателем slack-notifications.
4. Что ещё полезно
- Health‑check в Docker‑Compose:
healthcheck: test: ["CMD", "curl", "-f", "http://localhost:9090/health"]. - Ротация логов: используйте
logrotateна хосте илиdocker‑log‑driverjson-file+max-size. - Секреты: храните токены в SOPS + Age (см. Обзор OpenComputer: open source агент для разработки – в репозитории есть пример
.sops.yaml).
Итого: Docker‑Compose задаёт инфраструктуру, а Prometheus‑Grafana‑Loki‑Alertmanager дают полную картину «что происходит и почему». Это позволяет быстро находить «тупики» и поддерживать ботов в рабочем состоянии без постоянного вмешательства инженера.
Если хотите увидеть готовый пример дашборда, посмотрите Обзор OpenComputer: open source агент для разработки – там есть готовый JSON‑дашборд, который можно импортировать в Grafana.