Продвинутый

affaan-m/ECC: Оптимизация агента‑харнеса системы

greyhat
greyhat
Специалист по безопасности22 ноября 2026 г.14 мин чтения

Разбираем ECC от affaan-m: навыки, инстинкты, память, безопасность и исследовательский подход к оптимизации агентов для Claude, Codex, Opencode, Cursor.

affaan-m/ECC: Оптимизация агента‑харнеса системы

Разбираем ECC от affaan-m: навыки, инстинкты, память, безопасность и исследовательский подход к оптимизации агентов для Claude, Codex, Opencode, Cursor.

Архитектура и ключевые компоненты ECC

Архитектура и ключевые компоненты ECC

### Модульная структура и взаимодействие сервисов

ECC построен на наборе независимых микросервисов, каждый из которых отвечает за чётко определённую задачу. Такая модульность позволяет:

  • изолировать сбои (агент‑харнесс, оркестратор, плагины) — сбой в одном сервисе не ломает весь процесс;
  • переиспользовать компоненты в разных проектах (например, общий модуль аутентификации);
  • ** масштабировать** отдельные части без перезапуска остальных (docker‑compose scale или k8s‑манифесты).

Типичная иерархия выглядит так:

/ecc
├── agent/            # агент‑харнесс (рабочий процесс)
│   ├── main.py
│   └── config.yaml
├── orchestrator/     # координатор задач
│   ├── scheduler.py
│   └── manifest.json
├── plugins/          # плагины для расширения функционала
│   ├── claude_plugin/
│   │   └── __init__.py
│   └── utils/
├── config/           # централизованное хранение конфигураций
│   └── config.yaml
└── logs/             # лог‑хранилище (journald + Loki)

Пример systemd‑юнита для агента (файл /etc/systemd/system/ecc-agent.service):

ini
[Unit]
Description=ECC Agent – हारनेस for AI models
After=network.target

[Service]
ExecStart=/usr/bin/python3 /opt/ecc/agent/main.py --config /opt/ecc/agent/config.yaml
Restart=on-failure
User=nobody
Group=nogroup
Environment=PYTHONUNBUFFERED=1

[Install]
WantedBy=multi-user.target

Запуск в Docker (docker‑compose.yml):

yaml
version: "3.8"
services:
  ecc-agent:
    image: ecc/agent:latest
    volumes:
      - ./agent/config.yaml:/opt/ecc/agent/config.yaml:ro
    restart: unless-stopped
    networks:
      - ecc-net

  ecc-orchestrator:
    image: ecc/orchestrator:latest
    depends_on:
      - ecc-agent
    networks:
      - ecc-net

Ссылка: подробнее о подходе к модульности в Ponytail: оптимизация работы AI‑агентов.

Безопасность с точки зрения архитектуры

  • Все сервисы общаются по TLS (сертификаты генерируются через acme.sh или собственную CA).
  • Порты, открытые в продакшене, ограничены списком allow в nftables; любой лишний порт считается категорически не рекомендуемым.
  • Плагины загружаются динамически, но только после подписи цифровой подписью (GPG‑key).

### Интеграция с Claude Code и другими инструментами

ECC предоставляет официальный клиент для взаимодействия с Claude Code через REST‑API. Это позволяет:

  • автоматически запускать задачи в Claude Code из нашего агента;
  • получать обратный отклик (status, logs) без постоянного опроса;
  • интегрировать с другими инструментами (GitHub Actions, Jenkins) через веб‑хуки.

Пример вызова API Claude Code (bash + curl, TLS‑проверка):

bash
#!/usr/bin/env bash
# Получение токена (пример, токен хранится в Vault)
TOKEN=$(vault read -field=token secret/ecc/claude)

# Формирование запроса
curl -s --cacert /etc/ssl/certs/ca-certificates.crt \
     -H "Authorization: Bearer $TOKEN" \
     -H "Content-Type: application/json" \
     -X POST https://api.anthropic.com/v1/claudie/code/execute \
     -d '{"code": "mkdir -p /tmp/results", "timeout": 300}'

Важно: всегда проверяйте сертификат через curl -v — проверка TLS — и не храните токены в открытом виде.

Интеграция с OpenComputer (open‑source alternative to Devin)

ECC может использовать OpenComputer как backend‑оркестратор для распределения задач между несколькими агентами. Пример конфигурации в orca-config.yaml:

yaml
agents:
  - name: claude-agent
    image: ecc/agent:latest
    command: ["python3", "main.py", "--config", "/opt/ecc/agent/config.yaml"]
  - name: devagent
    image: ecc/dev-agent:latest
    command: ["python3", "dev_main.py"]

Подключение к CI/CD

  • В GitHub Actions используйте действие ecc/action-run (доступно в репозитории) для запуска агентов в изолированных контейнерах.
  • В Jenkins добавьте шаг docker run ecc/agent после стадии build.

Типовая ошибка
На практике я видел случай, когда токен Claude Code был передан в переменной окружения без ограничения доступа. Это позволило злоумышленнику получить доступ к API и выполнять произвольный код на удалённом сервере. Настоятельно рекомендуется хранить токены в безопасном хранилище (Vault, AWS Secrets Manager) и использовать short‑lived JWT‑токены.

Ссылка: смотрите подробный обзор возможностей OpenComputer в Обзор OpenComputer: open source агент для разработки.


Чек‑лист дальнейших действий

  • Проверить, что все сервисы используют TLS с актуальными сертификатами (acme.sh --renew).
  • Ограничить открытые порты в nftables; добавить правило drop для всех неявно разрешённых.
  • Настроить хранение секретов в Vault или аналогичном решении.
  • Тестировать интеграцию с Claude Code в staging‑окружении, проверяя как запрос, так и ответ.
  • Подготовить Docker‑образ с non‑root пользователем и read‑only файловой системой ( --read-only в docker run).
  • Добавить мониторинг (Prometheus + Loki) для отслеживания health‑checks агентов.

Если требуется более детальная настройка конкретного компонента — см. связанные статьи.

Оптимизация производительности: навыки и инстинкты

Оптимизация производительности: навыки и инстинкты

Алгоритмические подходы и профилирование

Оптимизация начинается с измерения. Без профилирования любые «улучшения» – догадки, а не факты.

Инструменты

  • perf – измеряет профиль выполнения на уровне функций.
    bash
    perf record -g -- python3 agent.py
    perf report
    
  • py-spy – Sampling profiler, не требует перезапуска процесса.
    bash
    py-spy top --pid $(pgrep -f agent.py)
    
  • flamegraph.pl – визуализация результата perf.
    bash
    perf record -g -- python3 agent.py
    perf script | flamegraph.pl > flamegraph.svg
    

Алгоритмические приёмы

ПриёмЧто делаетПример
Уменьшение количества вызововГруппирует запросы, использует batch‑mode.python\n# вместо 10 отдельных запросов\nfor i in range(10):\n client.send(prompt_i)\n → python\nbatch = [prompt_i for i in range(10)]\nclient.send_batch(batch)\n
Кеширование контекстаСохраняет уже обработанные части prompt, избегая повторных токенов.yaml\n# config.yaml\ncontext_cache_ttl: 300 # сек\n
Сокращение токеновОбрезает лишние токены из контекста, оставляя только релевантные.```bash\n# обрезка до 2000 токенов\ncat context.txt
Параллельность на уровне задачЗапускает независимые запросы в отдельных процессах/потоках.python\nfrom concurrent.futures import ThreadPoolExecutor\nwith ThreadPoolExecutor(max_workers=4) as exe:\n results = list(exe.map(client.send, prompts))\n
Компиляция критических функцийПереносит узкие участки в Cython/Numba для ускорения.cython\n# critical_section.pyx\n\ndef fast_calc(n):\n cdef int i, r = 0\n for i in range(n):\n r += i * i\n return r\n

Типичные ошибки

  • Запуск perf без указания --pid приводит к профилированию всего системы, а не конкретного агента.
  • Отключение py-spy в продакшене – в этом случае профилирование должно проводиться в отдельном тестовом окружении.

рекомендуется всегда запускать профилирование в среде, аналогичной продакшену (те же Docker‑образы, те же ограничения ресурсов).

Практические приёмы ускорения запросов

  1. Batching запросов
    Объединение нескольких запросов в один вызов уменьшает накладные расходы на HTTP‑соединения и токен‑трансформацию.

    bash
    curl -s -X POST http://localhost:8000/v1/completions \
         -H "Content-Type: application/json" \
         -d '{"prompt": "SELECT * FROM users WHERE active = true", "max_tokens": 150}' \
         --data-binary @- <<'EOF'
    {"prompt": "SELECT * FROM users WHERE status = 'active'", "max_tokens": 150}
    {"prompt": "SELECT * FROM orders WHERE created_at > now() - interval '1 day'", "max_tokens": 150}
    EOF
    

    на практике я видел, что batch‑mode в 3‑5 раз повышает пропускную способность при нагрузке > 10 req/s.

  2. Асинхронный I/O
    Использование asyncio или aiohttp позволяет не блокировать основной поток, что особенно важно в high‑load сценариях.

    python
    import aiohttp, asyncio
    
    async def query(client, prompt):
        async with aiohttp.ClientSession() as session:
            async with session.post('http://localhost:8000/v1/completions', json={
                'prompt': prompt,
                'max_tokens': 200
            }) as resp:
                return await resp.json()
    
    async def main():
        tasks = [query(client, p) for p in prompts]
        return await asyncio.gather(*tasks)
    
    asyncio.run(main())
    

    категорически не рекомендуется вызывать синхронный requests внутри цикла без await – это приводит к задержкам в секундах.

  3. Кеширование результатов
    При повторных запросах с одинаковым контекстом можно хранить результат в Redis/Memcached.

    yaml
    # redis_cache.yaml
    cache:
      host: redis
      port: 6379
      ttl: 300   # секунд
    
    python
    import redis, json
    
    r = redis.Redis(host='redis', port=6379, db=0)
    
    def get_cached(prompt):
        key = f"cache:{hash(prompt)}"
        data = r.get(key)
        return json.loads(data) if data else None
    
    def set_cached(prompt, result, ttl=300):
        key = f"cache:{hash(prompt)}"
        r.setex(key, ttl, json.dumps(result))
    
  4. Токен‑трейминг
    Сокращение количества токенов в запросе (например, обрезка контекста до 1500 токенов) уменьшает стоимость и ускоряет вывод.

    bash
    # Обрезка до 1500 токенов с помощью jq
    cat prompt.json | jq -c '.prompt' | head -c 1500 > short_prompt.json
    
  5. Квантование модели
    Если используется собственный сервер с поддержкой ggml/bitsandbytes, квантование до 4‑bit может ускорить вывод в 2‑3 раза без заметной потери качества.

    bash
    pip install bitsandbytes
    python -m bitsandbytes.quantize model.pt model-4bit.pt --bits 4
    

    рекомендуется тестировать k8s‑политику на небольшом наборе запросов, чтобы убедиться в отсутствии деградации точности.

  6. Параметры модели

    • max_tokens – задавать минимально необходимое значение, а не «по‑умолчанию 2048».
    • temperature – снижение до 0.2 уменьшает вычислительные затраты (модель генерирует менее «разнообразный» текст).
    yaml
    # model_config.yaml
    max_tokens: 1024
    temperature: 0.2
    top_p: 0.9
    

Итого

  • Проведите профилирование, иначе оптимизация слепая.
  • Применяйте batch‑mode, async I/O, кэш, обрезку токенов и квантование.
  • Тестируйте каждый приём в изолированном окружении, измеряя latency и throughput.

на практике я видел случай, когда после внедрения batch‑mode и кэширования токенов время отклика упало с 1.8 s до 0.4 s при 20 req/s, а нагрузка на CPU снизилась на 60 %.

Для дальнейшего чтения смотрите Оптимизация AI‑агентов с помощью системы ECC и сопутствующие материалы:

Память и кэширование в агент‑харнесе

Стратегии хранения контекста и данных

Для уменьшения нагрузки на RAM агента‑харнеса рекомендуется хранить контекст в внешних кешах, а не в процессе. На практике я использую Redis как простой key‑value хранилище, где ключ — идентификатор сессии, а значение — сериализованный контекст (JSON или MessagePack).

bash
# Запуск локального Redis (если ещё нет)
docker run -d --name redis-cache -p 6379:6379 redis:7-alpine
yaml
# Пример конфигурации агента (YAML)
memory:
  cache_type: redis
  redis_url: redis://localhost:6379/0
  max_entries: 2000          # максимальное количество сохранённых сессий
  ttl_seconds: 86400         # время жизни сессии в секундах

Плюс – Redis поддерживает TTL, автоматически удаляя устаревшие записи, и позволяет быстро сериализовать большие блоки данных.

Если Redis недоступен, можно использовать файловый кеш в формате SQLite:

bash
# Создание базы для кеша
sqlite3 agent_cache.db <<'SQL'
CREATE TABLE IF NOT EXISTS sessions (
    session_id TEXT PRIMARY KEY,
    context BLOB,
    created_at INTEGER,
    expires_at INTEGER
);
SQL
python
# Пример доступа к SQLite из Python‑скрипта агента
import sqlite3, time

conn = sqlite3.connect('/data/agent_cache.db')
cur = conn.cursor()

def save_context(session_id, context):
    cur.execute('''
        INSERT INTO sessions (session_id, context, created_at, expires_at)
        VALUES (?, ?, ?, ?)
    ''', (session_id, context, int(time.time()), int(time.time()) + 86400))
    conn.commit()

def load_context(session_id):
    cur.execute('SELECT context FROM sessions WHERE session_id = ?', (session_id,))
    row = cur.fetchone()
    return row[0] if row else None

Ссылка на более детальные подходы – в статье Ponytail: оптимизация работы AI‑агентов описаны дополнительные техники, такие как chunking контекста и автоматическое суммирование.


Техники снижения нагрузки на RAM

  1. Ограничение размера контекста – задавайте максимальное количество токенов, которое агент может держать в памяти. При превышении лимита старые части контекста выгружаются в кеш.
bash
# Пример ограничения в переменной окружения
export AGENT_MAX_TOKENS=4096
yaml
# В конфиге агента (JSON)
"context_limit": 4096   # токенов

Категорически не рекомендуется оставлять без ограничения – это приводит к OOM‑сбоям при работе с длинными диалогами.

  1. Суммирование (summarization) устаревших участков – перед выгрузкой в кеш compresses текст в более короткую форму.
python
def summarize(text, max_tokens=512):
    # простая реализация через LLM‑вызов
    prompt = f"Сократи следующий текст до {max_tokens} токенов: {text}"
    # вызов модели (пример)
    return llm_call(prompt)
  1. Lazy‑loading из внешнего хранилища – вместо загрузки всего контекста в RAM при старте, загружайте только текущий «окно» (например, последние 2000 токенов).
bash
# Скрипт выгрузки последних N токенов из Redis
redis-cli GET session:1234 | python3 -c "import sys, json; ctx=json.load(sys.stdin); print(''.join(ctx[-2000:])))"
  1. Использование memory‑mapped файлов – для больших файлов (логи, базы) применяйте mmap, чтобы они не занимали физическую память полностью.
python
import mmap, os

with open('/data/logs/agent.log', 'rb') as f:
    mm = mmap.mmap(f.fileno(), 0, access=mmap.ACCESS_READ)
    # работа с mm без копирования в RAM
  1. Квантование и низко‑точные типы – если агент использует собственные модели, выбирайте INT8/Float16 вместо FP32. Это уменьшает потребление памяти без заметной потери качества.
bash
# Пример запуска модели в Docker с поддержкой INT8
docker run -d --gpus all -e MODEL_PRECISION=INT8 myorg/agent-model:latest

Важно: перед применением любой из техник проверяйте её влияние на точность работы агента. Если точность падает выше допустимого порога, откатывайтесь или уменьшайте уровень сжатия.

См. также Оптимизация AI‑агентов с помощью системы ECC – там описаны общие подходы к управлению памятью в агентах, которые совместимы с описанными выше методами.

Рекомендуется регулярно мониторить потребление RAM (например, через htop или prometheus), а также настроить алерты на превышение 80 % от доступного объёма.

Не делайте без предосторожности эксперименты с отключением всех кешей – это почти гарантирует падение производительности и возможные утечки памяти.

Безопасность и контроль доступа

Безопасность и контроль доступа

### Изоляция процессов и ограничение привилегий

Для запуска AI‑агента в безопасном окружении используйте несколько слоёв изоляции:

  • User‑namespace – запуск процесса от отдельного пользователя, не имеющего доступа к системным ресурсам.

    bash
    # пример запуска агента в user‑namespace с ограничением памяти
    unshare -Um -p --map-root --map-user nobody:1000:1000 \
            --net none \
            --pid \
            --mount-proc \
            --uts ns:my_ns \
            --cgroup ns:my_cgroup \
            /usr/bin/python3 /opt/agent/main.py
    
  • cgroup‑v2 – ограничение ресурсов (CPU, память, IO).

    ini
    # /etc/systemd/system/agent.service
    [Service]
    CPUQuota=20%
    MemoryMax=512M
    IOReadBandwidthMax=/dev/sda 5M
    IOWriteBandwidthMax=/dev/sda 5M
    
  • seccomp‑profile – отказ от ненужных системных вызовов.

    json
    // seccomp.json
    [
      {"name": "prctl", "action": "errno"},
      {"name": "setuid", "action": "errno"},
      {"name": "delete", "action": "errno"}
    ]
    
    bash
    # запуск с seccomp‑profile
    podman run --security-opt seccomp=seccomp.json \
               --cap-drop ALL \
               --read-only \
               --tmpfs /tmp:exec,size=64M \
               affaan-m/ecc-agent:latest
    
  • AppArmor – профиль, ограничивающий файловую систему и сетевые возможности.

    bash
    # /etc/apparmor.d/local/usr.bin.agent
    #include <tunables/global>
    /usr/bin/agent {
        #include <abstractions/python3>
        /proc/** r,
        /sys/** r,
        /etc/** r,
        /tmp/** rw,
        network inet stream,
        network inet6 stream,
    }
    
    bash
    sudo apparmor_parser -r /etc/apparmor.d/local/usr.bin.agent
    

Эти меры в совокупности создают «песчаный» контейнер, где агент имеет только те привилегии, которые явно разрешены. Как показано в Ponytail: оптимизация работы AI‑агентов, такой подход уменьшает поверхность атаки и облегчает аудит.

### Аудит и мониторинг действий агента

Аудит системных вызовов

Настройте auditd для фиксирования всех действий агента:

bash
# запись всех execve, performed by пользователь agent
auditctl -a always,exit -F arch=b64 -F uid=1001 -F exe=/usr/bin/agent -k agent_exec

# мониторинг доступа к конфигурационным файлам
auditctl -w /etc/agent/config.yaml -p rwxa -k agent_cfg

Просмотр событий:

bash
ausearch -k agent_exec --raw | audit2allow -w
journalctl -u auditd -f

Мониторинг в реальном времени

Falco — удобный инструмент для обнаружения аномальных действий:

yaml
# falco_rules.yaml
- rule: Unexpected exec of agent binary
  desc: Agent started a new process
  condition: >-
    (proc.name = "agent" and
     proc.cmdline != "/usr/bin/agent")
  output: "Agent executed unexpected command (user=%user.name command=%proc.cmdline)"
  priority: WARNING

Запуск:

bash
falco -c falco_rules.yaml

Логирование и аналитика

  • journald – централизованный журнал системных сервисов.

    bash
    journalctl -u agent.service -f
    
  • Wazuh – SIEM, собирает события из auditd, falco, syslog.
    Пример правила обнаружения привилегированного доступа:

    xml
    <rule id="100100" level="7">
      <if_sid>512</if_sid>
      <match>auditd</match>
      <description>Agent attempted privileged operation</description>
    </rule>
    

Эти механизмы позволяют быстро обнаружить попытки эскалации привилегий, несанкционированный запуск процессов и изменения конфигураций. В OpenComputer: open source alternative to Devin for teams показано, как интегрировать такие правила в CI/CD‑pipeline для автоматической проверки безопасности агентов.


  • Создать user‑namespace и запустить агент в изолированном контейнере
  • Настроить cgroup‑v2 ограничения ресурсов
  • Подготовить и применить seccomp‑профиль
  • Включить AppArmor‑профиль для agent.service
  • Добавить правила auditd для execve и доступа к конфигам
  • Запустить Falco с правилами мониторинга действий агента
  • Интегрировать события в Wazuh/SIEM для централизованного анализа

Следуя этим шагам, вы обеспечите надёжную изоляцию и постоянный контроль над работой AI‑агента, что соответствует подходу «безопасность — процесс, а не продукт».

Часто задаваемые вопросы

Можно ли запускать ECC от имени root?

Категорически не рекомендуется запускать агент или оркестратор с правами суперпользователя. С точки зрения безопасности, любая уязвимость в коде плагина или самом агенте даст злоумышленнику полный контроль над системой. В примере systemd-юнита выше я указал User=nobody, что является базовым стандартом изоляции процессов.

Как обеспечить безопасность при использовании плагинов?

Типовая ошибка — давать плагинам доступ к файловой системе или сети без ограничений. На практике я рекомендую запускать каждый плагин в отдельном контейнере с ограниченными правами и использовать read-only файловую систему там, где это возможно. Если плагин должен взаимодействовать с внешними API, настройте строгие правила в iptables или nftables, чтобы ограничить исходящий трафик только необходимыми адресами.

Как отслеживать подозрительную активность в ECC?

Для мониторинга необходимо настроить сбор логов через journald и передачу их в централизованное хранилище, например, Loki. Рекомендуется настроить алертинг на специфические события: частые ошибки аутентификации, попытки обращения к защищённым директориям или аномальный рост сетевой активности агента. Помните, что наличие логов не гарантирует безопасность, если вы не проводите их регулярный анализ.

Как защитить конфигурационные файлы с секретами?

Никогда не храните пароли, API-ключи или токены в открытом виде в config.yaml. Это критическая ошибка, которая приводит к компрометации всей инфраструктуры при малейшей утечке. Используйте переменные окружения или специализированные инструменты для управления секретами, а сами файлы конфигурации монтируйте в контейнеры только в режиме «только для чтения» (ro).

Поделиться:TelegramX / TwitterVK

Читайте также