Продвинутый

Maritime Launch: Managed Cloud for Production AI Agents

Алексей Кузнецов
Алексей Кузнецов
Системный администратор20 ноября 2026 г.12 мин чтения

Ary and Maria introduce Maritime, a managed cloud platform that provides custom AI agent environments, lifecycle, networking, monitoring and metrics for use.

Maritime Launch: Managed Cloud for Production AI Agents

Ary and Maria introduce Maritime, a managed cloud platform that provides custom AI agent environments, lifecycle, networking, monitoring and metrics for use.

Maritime: управляемый облачный сервис для AI‑агентов

Maritime: управляемый облачный сервис для AI‑агентов

Maritime — это платформа, которая позволяет развертывать AI‑агентов в изолированных средах, управлять их жизненным циклом, настраивать сетевые маршруты, собирать метрики и мониторить состояние инфраструктуры. Всё делается через единый CLI‑интерфейс и API, а конфигурация описана в обычных файлах YAML/JSON, что упрощает воспроизводимость и версионирование.

Поддержка пользовательских сред

Maritime не навязывает готовую структуру — вы можете собрать собственный набор контейнеров, добавить зависимости и задать сетевые правила так, как это требуется вашему агенту.

Для быстрого старта удобно использовать Docker Compose. Пример — окружение для агента, который общается по MQTT с брокером Eclipse Mosquitto:

yaml
version: "3.9"
services:
  agent:
    image: maritime/agent:latest
    environment:
      - MQTT_BROKER=mqtt.internal
      - LOG_LEVEL=info
    ports:
      - "8080:8080"
    volumes:
      - ./config:/app/config
  mqtt:
    image: eclipse-mosquitto:2
    ports:
      - "1883:1883"
    volumes:
      - ./mosquitto/config:/mosquitto/config

Здесь mqtt.internal — это имя сервиса внутри Maritime‑сети, которое автоматически резолвится в IP‑адрес контейнера mqtt.

Если требуется более гибкая сеть, удобно описать её в Kubernetes‑манифесте. Maritime поддерживает импорт существующих манифестов, а также предоставляет собственный CR‑Definition MaritimeCluster, позволяющий задать правила маршрутизации, TLS‑сертификаты и политики доступа.

Подробнее о настройке сетевых компонентов можно посмотреть в статье Настройка MQTT‑брокера Eclipse Mosquitto.

Для управления зависимостями и плагинами Maritime использует реестр пакетов maritime-pkg, где можно добавить, например, библиотеку pandas для обработки данных:

bash
maritime pkg install pandas==2.2.0

Автоматическое управление жизненным циклом

Maritime автоматизирует все этапы развертывания: создание среды, её запуск, обновление, масштабирование и удаление. CLI‑команды построены так, чтобы каждая операция была предсказуемой и воспроизводимой.

Создание среды

bash
maritime env create my-agent --template docker-compose

Команда генерирует файлы docker-compose.yml и .maritime/config.yaml на основе указанного шаблона, после чего можно сразу перейти к запуску.

Запуск и остановка

bash
maritime env start my-agent
maritime env stop my-agent

Во время старта платформа проверяет доступность всех зависимостей (например, наличие порта 443), инициализирует systemd‑юниты внутри контейнеров и запускает мониторинг через Prometheus‑exporter.

Обновление версии

bash
maritime env update my-agent --image maritime/agent:2.3.1

Платформа performs rolling‑update: новые реплики поднимаются, старые проверяются через health‑check, а затем удаляются. При необходимости можно задать стратегию --strategy=recreate или --strategy=rollout.

Масштабирование

bash
maritime env scale my-agent --replicas 4

Maritime автоматически распределяет реплики по доступным нодам Proxmox VE, учитывая ограничения CPU и памяти, а также добавляет соответствующие сервисы балансировщика (Caddy или HAProxy).

Уничтожение

bash
maritime env delete my-agent --force

При удалении все связанные ресурсы — контейнеры, сети, тома — удаляются без остатка, а записи в базе метаданных очищаются.

Для отладки жизненного цикла удобно включить расширенный лог --verbose, который выводит события в журнал systemd и отправляет их в Loki‑инстанс.

Если вам интересны практические приёмы управления инфраструктурой, см. статьи Навыки реальных инженеров: практика из .agents directory и Навыки реальных инженеров: практические практики из .agents.

Maritime обеспечивает предсказуемость и прозрачность: каждый шаг фиксируется в Git‑репозитории, а изменения можно откатить одной командой maritime rollback. Это позволяет сосредоточиться на развитии агента, а не на ручной настройке серверов.

Архитектура и инфраструктура

Архитектура и инфраструктура

Когда речь заходит о развёртывании AI-агентов в production, главной проблемой становится не столько сам код модели, сколько предсказуемость среды. Агенты — это не классические stateless-микросервисы. Они потребляют много ресурсов, могут иметь специфические требования к задержкам сети и требуют надёжного хранилища для контекста и логов.

В Maritime мы строим инфраструктуру так, чтобы минимизировать влияние «соседских» процессов на работу агентов. Это требует разделения вычислительных мощностей и систем хранения данных.

Кластеры Proxmox и TrueNAS

Для обеспечения отказоустойчивости мы используем связку виртуализации на базе Proxmox VE и централизованного хранилища на TrueNAS.

Вычислительный слой разбит на несколько независимых нод. Это позволяет нам не только изолировать агентов друг от друга на уровне гипервизора, но и гибко управлять ресурсами: если одному агенту внезапно требуется больше RAM для обработки длинного контекста, мы можем быстро перераспределить мощности без остановки всего кластера.

Хранение данных реализовано через ZFS на TrueNAS. Для AI-агентов критически важна скорость работы с мелкими файлами (логи, кэш, сессии) и целостность данных. Использование ZFS с включённым механизходом копирования (snapshots) позволяет нам мгновенно откатывать состояние хранилища, если агент совершил деструктивное действие в своей среде.

Для подключения виртуальных машин к хранилищу мы используем протокол NFS. Вот пример того, как выглядит базовый конфиг экспорта на стороне TrueNAS для обеспечения стабильного доступа:

bash
# Пример настройки экспорта в /etc/exports на стороне TrueNAS (ZFS)
# Мы ограничиваем доступ только подсетью наших вычислительных нод
/mnt/tank/ai_agents_data 10.0.10.0/24(rw,sync,no_subtree_check,no_root_squash)

Такой подход гарантирует, что данные агентов не будут потеряны при сбое конкретной ноды Proxmox.

Сеть, мониторинг и метрики

Сеть в Maritime — это не просто «проброс портов». Чтобы агенты могли эффективно взаимодействовать друг с другом и внешними API, мы выстраиваем многоуровневую структуру.

Во-первых, каждый агент помещается в изолированный сегмент сети (VLAN). Это предотвращает несанкционированный доступ между разными окружениями. Во-вторых, для управления трафиком между агентами и внешними сервисами мы используем проксирование. Если вы планируете использовать агентов для передачи событий в реальном времени, рекомендую также изучить настройку MQTT-брокера Eclipse Mosquitto.

Мониторинг — это то, на чём нельзя экономить. Если агент начинает «галлюцинировать» или потреблять CPU в бесконечном цикле, мы должны узнать об этом раньше, чем упадет вся система. Мы используем связку Prometheus + Grafana.

Мы собираем три типа метрик:

  1. Инфраструктурные: загрузка CPU, использование памяти, задержки дисковой подсистемы.
  2. Сетевые: объем входящего/исходящего трафика, количество активных соединений.
  3. Прикладные (Agent-specific): время генерации ответа, количество токенов, ошибки API.

Для сбора метрик с самих контейнеров и виртуальных машин мы используем node_exporter и cadvisor. Чтобы мониторинг был полезным, а не просто «шумом» в логах, важно развивать инженерное мышление. Об этом подробно написано в материалах про навыки реальных инженеров.

Пример простого правила в Alertmanager, которое сработает, если агент потребляет слишком много памяти (что часто бывает при утечках в Python-скриптах):

yaml
groups:
- name: agent_alerts
  rules:
  - alert: HighAgentMemoryUsage
    expr: container_memory_usage_bytes{container="ai_agent"} > 4e+09 # Порог 4 ГБ
    for: 5m
    labels:
      severity: warning
    annotations:
      summary: "Агент потребляет слишком много памяти"
      description: "Использование памяти агентом {{ $labels.container }} превысило 4 ГБ в течение 5 минут."

Такая конфигурация обеспечивает предсказуемость: мы не просто видим, что «что-то сломалось», а понимаем, на каком этапе и почему это произошло. Это фундаментальный подход, который отличает профессиональную эксплуатацию от попыток «запустить и забыть». Если вы хотите углубиться в методологию построения надежных систем, посмотрите практические практики из .agents.

Управление жизненным циклом агентов

Управление жизненным циклом агентов

Когда мы переходим от запуска одного скрипта на локальной машине к эксплуатации полноценных AI-агентов, главная проблема смещается из плоскости «как заставить это работать» в плоскость «как сделать это предсказуемым». В Maritime подход к жизненному циклу строится на том, чтобы исключить ручное вмешательство в работу среды. Если агент — это не просто функция, а долгоживущий процесс с собственным сетевым окружением и состоянием, то управление им должно напоминать работу с оркестратором, а не с набором разрозненных скриптов.

Развёртывание и масштабирование

Развёртывание агента в Maritime — это не просто запуск контейнера. Это инициализация изолированного окружения, где уже настроены политики сетевого взаимодействия и права доступа. С практической точки зрения, важно разделять конфигурацию самого агента и параметры его инфраструктурного окружения.

Для масштабирования мы используем декларативный подход. Вместо того чтобы вручную поднимать новые инстансы, мы описываем целевое состояние. Если вашему агенту требуется больше вычислительных ресурсов или параллельная обработка очередей задач, вы корректируете манифест.

Пример конфигурации для развёртывания группы агентов, взаимодействующих через брокер сообщений, может выглядеть так:

yaml
# Конфигурация группы агентов в Maritime
agent_group:
  name: research-agents
  replicas: 3 # Количество параллельных инстансов
  image: maritime/agent-base:v2.1.0
  network_policy:
    allow_egress:
      - destination: mqtt-broker.internal
        port: 1883
    allow_ingress:
      - from: monitoring-service
        port: 9090
  resources:
    limits:
      cpu: "2"
      memory: "4Gi"
    requests:
      cpu: "1"
      memory: "2Gi"

Обратите внимание на секцию network_policy. В production-среде агент не должен иметь неограниченного доступа в интернет. Мы явно прописываем, куда ему можно отправлять данные. Если ваш агент использует протокол MQTT для обмена сообщениями, убедитесь, что инфраструктура подготовлена — например, через настройку MQTT-брокера Eclipse Mosquitto.

Масштабирование здесь работает по принципу горизонтального расширения: Maritime автоматически распределяет новые реплики по доступным узлам, следя за тем, чтобы нагрузка на сеть и дисковую подсистему оставалась в пределах нормы.

Обновления и откат

Любое обновление в работе AI-агентов сопряжено с риском: новая версия модели или изменённый системный промпт могут привести к непредсказуемому поведению. Чтобы минимизировать этот риск, Maritime реализует стратегии постепенного развёртывания (Rolling Updates).

Вместо того чтобы убивать все старые процессы и запускать новые, система заменяет их по очереди. Это позволяет сохранить доступность сервиса и сразу заметить аномалии в метриках, если новая версия начала потреблять слишком много памяти или выдавать ошибки в логах.

Для управления версиями используется механизм декларативных обновлений. Если вы обнаружили, что новая версия агента работает некорректно, откат выполняется одной командой, возвращающей инфраструктуру к состоянию, которое было зафиксировано в предыдущем коммите манифеста.

Пример команды для проверки статуса текущего обновления:

bash
# Проверить состояние развёртывания группы агентов
maritimectl rollout status research-agents

Если метрики (которые мы обсуждаем в следующих разделах) показывают резкий рост ошибок, мы инициируем откат:

bash
# Откатить обновление к предыдущей стабильной версии
maritimectl rollout undo research-agents

Важно понимать, что автоматизация таких процессов — это не просто удобство, а часть культуры инженерной работы. Как отмечается в материалах про навыки реальных инженеров, умение работать с инфраструктурой как с кодом и обеспечивать предсказуемость системы — это то, что отличает профессиональный подход от «решений на коленке».

При настройке стратегий обновления всегда учитывайте, что агент может иметь долгоживущие сессии. В Maritime можно настроить graceful shutdown, чтобы агент успел завершить текущую задачу и корректно закрыть соединения перед остановкой.

Мониторинг, метрики и безопасность

Prometheus и Grafana

Когда мы говорим о работе AI-агентов в Maritime, мы подразумеваем не просто запуск скрипта, а полноценный жизненный цикл сервиса. В отличие от обычных микросервисов, агенты могут потреблять ресурсы нелинейно: резкий скачок нагрузки на CPU или RAM часто связан с обработкой длинного контекста или выполнением сложных цепочек рассуждений (reasoning). Чтобы не гадать, почему агент «завис», нужно видеть метрики в реальном времени.

Для мониторинга инфраструктуры Maritime использует связку Prometheus и Grafana. Это стандарт индустрии, который обеспечивает предсказуемость: вы точно знаете, когда агент упёрся в лимиты памяти.

С практической точки зрения, важно собирать не только системные метрики (CPU, RAM, Disk), но и специфические показатели работы агента: количество токенов в секунду, задержку (latency) на ответ LLM и частоту ошибок API.

Если вы планируете разворачивать подобные системы в своей домашней лаборатории, рекомендую начать с базового стека. Для сбора метрик с кастомных агентов удобно использовать prometheus-client. Вот пример того, как можно экспортировать кастомную метрику задержки в Python-коде:

python
from prometheus_client import start_http_server, Summary
import time
import random

# Метрика для отслеживания времени обработки запроса агентом
REQUEST_TIME = Summary('agent_request_processing_seconds', 'Time spent processing AI agent request')

@REQUEST_TIME.time()
def process_agent_task():
    # Имитация работы агента
    time.sleep(random.uniform(0.5, 2.0))

if __name__ == '__main__':
    # Запускаем HTTP-сервер для экспорта метрик на порту 8000
    start_http_server(8000)
    while True:
        process_agent_task()

В Grafana вы сможете построить дашборд, который наглядно покажет корреляцию между нагрузкой на сеть и временем ответа. Это критично, так как Maritime управляет сетевой инфраструктурой агентов, и любые аномалии в трафике могут быть признаком либо проблем с провайдером LLM, либо неэффективного использования инструментов (tool use) самим агентом.

Обеспечение надёжности и резервное копирование

В работе с AI-агентами безопасность и сохранность данных стоят на первом месте. Агенты часто работают с состоянием (stateful), хранят историю диалогов, кэшированные эмбеддинги и временные файлы. Если инфраструктура упадет, а состояние не будет сохранено, агент «забудет», на чём остановился, что в продакшене недопустимо.

Maritime решает эту задачу через автоматизированное управление жизненным циклом. Однако, если вы строите подобную систему самостоятельно, я советую придерживаться системного подхода. Во-первых, разделяйте хранение данных и вычислительные мощности. Во-вторых, используйте проверенные инструменты для бэкапов.

Для хранения состояний агентов и их конфигураций хорошо подходят объектные хранилища или распределённые файловые системы. Если вы используете Docker для запуска агентов, не забывайте про volume. Но помните: наличие volume в Docker не равно наличию бэкапа.

С точки зрения надежности, я всегда рекомендую внедрять принцип «Infrastructure as Code». Конфигурация агента, его окружение и сетевые правила должны быть описаны в коде. Это позволяет быстро развернуть идентичную копию среды в случае сбоя. Это те самые навыки реальных инженеров, которые отличают любителя от профессионала.

Для автоматизации бэкапов конфигураций и небольших баз данных (например, PostgreSQL, где может лежать история сессий) можно использовать простой cron и rclone или специализированные утилиты. Пример команды для создания дампа базы данных и его архивации:

bash
# Создаем дамп базы данных PostgreSQL
# Заменяем 'agent_db' и 'user' на ваши значения
pg_dump -U user agent_db > /backups/agent_db_$(date +%Y%m%d).sql

# Архивируем дамп для экономии места
tar -czf /backups/agent_db_$(date +%Y%m%d).tar.gz /backups/agent_db_$(date +%Y%m%d).sql

# Удаляем временный .sql файл
rm /backups/agent_db_$(date +%Y%m%d).sql

Важно не только создавать копии, но и регулярно проверять их целостность. Бэкап, который не удалось развернуть — это не бэкап, а просто бесполезный файл на диске.

Если ваша инфраструктура включает взаимодействие через протоколы вроде MQTT (например, для управления IoT-устройствами через агентов), убедитесь, что и брокер, и его конфигурация защищены и резервируются. Подробнее о том, как это организовать, можно почитать в статье про настройку MQTT-брокера Eclipse Mosquitto.

Для глубокого понимания того, как выстраивать процессы в современных инженерных командах, изучите практические практики из .agents. Это поможет избежать типичных ошибок при проектировании отказоустойчивых систем.

Часто задаваемые вопросы

Как развернуть уже готовое окружение в Maritime

Если у вас есть готовый проект, описанный в Docker Compose, вы можете перенести его в Maritime практически без изменений. Платформа поддерживает импорт конфигураций, что позволяет сохранить привычную структуру сервисов и переменных окружения. С практической точки зрения это экономит время на переписывание манифестов и гарантирует предсказуемость работы агента при переходе из локальной среды в облако.

Можно ли использовать собственные образы контейнеров

Да, Maritime не ограничивает вас предустановленными решениями и позволяет использовать любые пользовательские образы. Вы можете собрать свой контейнер со всеми необходимыми зависимостями, протестировать его локально и затем отправить в облако через CLI. Это важно для сложных AI-агентов, которым требуются специфические библиотеки или кастомные системные зависимости.

Как организовать сетевое взаимодействие между агентами

Внутри платформы реализована автоматическая маршрутизация: сервисы могут обращаться друг к другу по именам, как в стандартной сети Docker. Для более сложных сценариев, требующих управления TLS-сертификатами или специфических политик доступа, Maritime предоставляет механизм MaritimeCluster. Это позволяет гибко настраивать сетевые правила, не занимаясь ручной конфигурацией маршрутов на уровне инфраструктуры.

Как отслеживать состояние и производительность агентов

Мониторинг встроены в жизненный цикл платформы, что позволяет собирать метрики и логи без настройки сторонних систем сбора данных. Вы можете отслеживать состояние инфраструктуры и работу конкретных агентов через API или CLI-интерфейс. Наличие встроенных инструментов мониторинга помогает вовремя заметить аномалии в поведении модели или нехватку ресурсов, прежде чем это повлияет на работу системы.

Поделиться:TelegramX / TwitterVK

Читайте также