Обзор Yogurt: приватный AI-помощник для встреч

Разбираем Yogurt — open-source приложение для транскрибации и суммаризации встреч с использованием локальных AI-моделей для обеспечения полной приватности данных.

Возможности Yogurt для работы с аудио

Транскрибация и суммаризация встреч

Главная ценность Yogurt заключается в том, что он превращает сырой аудиопоток в структурированный текст, не отправляя ни одного байта за пределы вашей домашней лаборатории. С практической точки зрения это решает проблему безопасности: если вы обсуждаете архитектуру проекта или финансовые показатели, вам не нужно беспокоиться, что данные попадут в облако стороннего сервиса.

Процесс работы строится на использовании моделей семейства Whisper для распознавания речи. Когда вы загружаете аудиофайл, Yogurt запускает процесс транскрибации, который можно настроить под свои задачи. Если у вас есть выделенный сервер с GPU, транскрибация пройдёт быстро. Если же вы используете только CPU, лучше выбрать модель base или small, чтобы не ждать завершения процесса часами.

Для управления ресурсами при развёртывании через Docker Compose можно ограничить использование памяти, чтобы процесс транскрибации не «съел» всё, что доступно вашему серверу. Например, если ваш сервер «Пятачок» работает на ограниченном объёме RAM, добавьте лимиты в конфиг:

yaml
services:
  yogurt:
    image: yogurt-app:latest
    deploy:
      resources:
        limits:
          memory: 4G  # Ограничиваем потребление, чтобы не уронить соседние сервисы
    environment:
      - WHISPER_MODEL=medium # Выбор модели: tiny, base, small, medium, large
      - DEVICE=cpu           # Указываем использование процессора, если нет GPU

После того как текст получен, в дело вступает LLM (Large Language Model), которая делает суммаризацию. Вместо того чтобы перечитывать часовую запись, вы получаете краткий список ключевых тезисов (bullet points) и список назначенных задач (action items). Это обеспечивает предсказуемость результата: вы точно знаете, о чём договорились, и у вас есть текстовое подтверждение.

Интерактивный чат с записями

Второй важный функционал — это возможность «общаться» со своими записями. Yogurt реализует паттерн RAG (Retrieval-Augmented Generation), что позволяет использовать локальную языковую модель как интерфейс к вашему архиву встреч.

Представьте ситуацию: вам нужно вспомнить, когда именно на созвоне обсуждали миграцию базы данных. Вместо ручного поиска по тексту вы просто задаёте вопрос чат-боту. С точки зрения системного инженера, это превращает разрозненные аудиофайлы в структурированную базу знаний.

Чтобы этот механизм работал корректно, Yogurt должен иметь доступ к локальному хранилищу векторов. Если вы планируете хранить большой объём данных, я рекомендую сразу продумать вопрос бэкапа этой базы, так как потеря векторов сделает поиск по контексту невозможным.

Пример типичного запроса к чату после обработки встречи: — «Какие технические риски были упомянуты в контексте обновления ядра Linux?» — «Выпиши все задачи, которые взял на себя Алексей».

Такой подход требует качественной настройки локальной модели. Если вы используете Ollama для обеспечения работы LLM, убедитесь, что модель поддерживает длинный контекст (context window), иначе при попытке проанализировать длинную встречу модель начнёт «забывать» начало разговора.

Для тех, кто привык подходить к инфраструктуре системно, важно помнить: чем больше данных вы скармливаете локальной модели, тем выше требования к дисковой подсистеме и оперативной памяти. Если вы планируете развернуть это на домашнем сервере, убедитесь, что ваши навыки для реальных инженеров включают в себя понимание того, как работают векторные базы данных и как эффективно распределять нагрузку на CPU/GPU.

Приватность и локальная обработка данных

Использование on-device AI моделей

Главная проблема любого инструмента для работы с аудио — это утечка контекста. Когда вы загружаете запись совещания в облачный сервис, вы фактически передаёте интеллектуальную собственность компании на сторонние серверы. В случае с Yogurt этот риск исключён на уровне архитектуры. Приложение использует подход on-device, то есть все вычисления происходят на вашем железе.

Для транскрибации Yogurt опирается на семейство моделей Whisper от OpenAI, но запускает их локально. С практической точки зрения это означает, что вам не нужен стабильный интернет для обработки файлов, а ваши данные не покидают пределы вашей домашней лаборатории или рабочего терминала.

Чтобы обеспечить предсказуемость работы, Yogurt требует наличия ресурсов для работы нейросетей. Если вы планируете запускать его в Docker, важно правильно пробросить ресурсы GPU, иначе процесс транскрибации превратится в бесконечное ожидание на CPU.

Пример конфигурации docker-compose.yml для использования NVIDIA GPU в среде Linux:

yaml
services:
  yogurt:
    image: yogurt-ai/app:latest
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1 # используем одну видеокарту
              capabilities: [gpu]
    volumes:
      - ./models:/app/models # храним веса моделей локально
      - ./recordings:/app/recordings
    environment:
      - DEVICE=cuda # указываем использовать CUDA вместо CPU

Если же вы работаете на слабом оборудовании, например, на Raspberry Pi, вам придётся использовать более компактные модели (например, tiny или base). Это компромисс: точность распознавания падает, но нагрузка на систему становится терпимой.

Сравнение с облачными решениями

Когда мы сравниваем локальную обработку с облачными гигантами, мы всегда выбираем между удобством и контролем. Облачные сервисы предлагают практически мгновенный результат и не требуют настройки инфраструктуры, но они создают «чёрный ящик». Вы не знаете, как долго хранится ваша запись, кто имеет к ней доступ и не используется ли она для дообучения глобальных моделей.

С точки зрения системного инженера, использование Yogurt — это переход от модели «доверия» к модели «контроля».

Вот основные различия, которые я выделил:

Владение данными. В облаке вы — арендатор. В локальной схеме вы — владелец. Все веса моделей и аудиофайлы лежат в ваших директориях.
Зависимость от сети. Облачные решения бесполезны при обрыве связи. Yogurt работает в изолированном контуре. Это критично, если вы применяете навыки для реальных инженеров в закрытых корпоративных сетях.
Безопасность инфраструктуры. Использование внешних API добавляет ещё одну точку отказа и потенциальную уязвимость. Если в ядре вашей ОС или в библиотеках обработки аудио обнаружится критическая ошибка (как это бывает, когда Ubuntu не выпускает патч для 0day RCE в ядре Linux), в локальной среде вы сможете быстро изолировать сервис или откатить версию. В облаке вы будете ждать решения от провайдера.

Сравнение в цифрах (условное, зависит от железа):

Параметр	Облачное решение (SaaS)	Yogurt (On-device)
Задержка (Latency)	Зависит от сети	Зависит от GPU/CPU
Конфиденциальность	Низкая (требует доверия)	Максимальная (полный контроль)
Стоимость	Подписка (OPEX)	Железо и электричество (CAPEX)
Настройка	Не требуется	Требуется (Docker/Drivers)

Если ваша задача — просто быстро расшифровать подкаст, облако может быть оправдано. Но если речь идёт о рабочих встречах, обсуждении архитектуры или стратегии развития, локальная обработка — единственный способ обеспечить предсказуемую безопасность.

Технические особенности проекта

Лицензия MIT и открытый исходный код

Когда речь заходит о приватности, открытый исходный код — это не просто маркетинговый ход, а единственное условие доверия. Если вы планируете использовать инструмент для обработки конфиденциальных встреч, вы должны быть уверены, что приложение не отправляет фрагменты аудио на сторонние серверы для «улучшения качества модели».

Yogurt распространяется под лицензией MIT. С практической точки зрения это означает максимальную гибкость: вы можете использовать, модифицировать и даже встраивать код проекта в свои внутренние инструменты без жестких ограничений. Для инженера, который привык контролировать каждый процесс в своей домашней лаборатории, такая прозрачность критична.

Открытость кода позволяет провести аудит того, как именно реализовано взаимодействие с локальными моделями. Вы можете убедиться, что сетевой стек приложения ограничен только необходимыми запросами. Если вы занимаетесь глубокой настройкой систем, как это описано в материале про навыки для реальных инженеров, вы понимаете: предсказуемость поведения софта начинается с возможности прочитать его исходники.

Архитектура десктопного приложения

Yogurt спроектирован как десктопное приложение, что позволяет минимизировать сетевой периметр. В отличие от облачных SaaS-решений, где данные путешествуют через цепочку прокси и API-шлюзов, здесь обработка происходит непосредственно на вашем железе.

Архитектура строится на разделении интерфейса и тяжелых вычислительных процессов. Основные компоненты:

Frontend-слой: обеспечивает взаимодействие с пользователем и управление сессиями записей.
Inference Engine: движок, который отвечает за запуск моделей транскрибации (например, семейства Whisper) и суммаризации.
Local Storage: защищенное хранилище для аудиофайлов и текстовых расшифровок.

С точки зрения системного администрирования, наиболее интересным является то, как приложение взаимодействует с ресурсами системы. Для эффективной работы AI-моделей приложению требуется доступ к GPU или оптимизированным инструкциям CPU.

Если вы разворачиваете подобное решение на Linux, важно убедиться, что у пользователя есть права на использование аппаратного ускорения. Например, для работы с NVIDIA GPU через Docker или напрямую, необходимо проверить наличие установленных драйверов и библиотек CUDA.

Чтобы проверить доступность видеокарты и готовность системы к нагрузкам, можно использовать стандартную утилиту nvidia-smi. Перед запуском Yogurt убедитесь, что драйвер загружен корректно:

bash
# Проверка статуса драйвера NVIDIA и доступных ресурсов GPU
nvidia-smi

Если же вы используете систему без дискретной графики, приложение будет полагаться на CPU. В этом случае предсказуемость работы будет зависеть от поддержки инструкций AVX/AVX2. Проверить их наличие на вашем процессоре можно следующей командой:

bash
# Проверка поддержки инструкций AVX/AVX2 в Linux
grep -E 'avx|avx2' /proc/cpuinfo

Важно понимать: чем мощнее ваше оборудование, тем быстрее Yogurt превратит часовую встречу в структурированный текст. Однако даже на среднем железе архитектура приложения позволяет выполнять задачи локально, не создавая рисков утечки данных, что особенно актуально в условиях, когда безопасность ядра Linux может быть под вопросом из-за внешних уязвимостей. Локальная обработка данных — это ваш дополнительный эшелон защиты.

Практическое применение и ограничения

Требования к системным ресурсам

Когда мы говорим о локальном запуске AI-моделей, первое, на что стоит смотреть, — это не процессор, а объём и скорость видеопамяти (VRAM). Yogurt использует Whisper для транскрибации и LLM для суммаризации. Если вы планируете запускать это на домашнем сервере, забудьте о комфортной работе на одном только CPU, если только вам не нужно обрабатывать одну пятиминутную запись в час.

С практической точки зрения, требования сильно зависят от размера модели:

Модели Whisper (транскрибация): Для работы с моделью large-v3 (которая даёт наиболее точный текст) желательно иметь от 10 ГБ VRAM. Если ресурсов мало, можно откатиться на medium или small, но предсказуемость результата в сложных технических терминах заметно упадет.
LLM (суммаризация): Для суммаризации встреч требуются модели уровня Llama 3 или Mistral. Для работы с квантованными версиями (4-bit или 8-bit) потребуется ещё 8–12 ГБ видеопамяти.

Если вы разворачиваете Yogurt в Docker-контейнере на базе Ubuntu, убедитесь, что у вас установлен nvidia-container-toolkit, иначе контейнер не увидит вашу GPU.

Чтобы проверить, видит ли система вашу видеокарту и сколько памяти доступно для задач AI, используйте:

bash
nvidia-smi

Если вы используете домашнюю лабораторию на базе Proxmox, не забудьте пробросить (PCI Passthrough) видеокарту в соответствующую виртуальную машину. Без этого вы получите лишь «мучение» процессора, а не автоматизацию.

Сценарии использования в инженерии

В инженерной среде, где обсуждаются архитектурные решения, уязвимости или планы миграции инфраструктуры, отправлять аудиозаписи в облачные сервисы — плохая идея. Это вопрос не только этики, но и безопасности. Как мы обсуждали в материале про навыки для реальных инженеров, умение контролировать периметр данных — базовый навык.

Вот пара сценариев, где Yogurt может быть полезен:

1. Архитектурные комитеты и ретроспективы Во время обсуждения схем сети или планов по обновлению ядра (например, когда возникают вопросы вроде патча для ядра Linux в Ubuntu), важно зафиксировать не только «что решили», но и «почему решили именно так». Yogurt позволяет получить текстовый лог дискуссии, из которого потом легко вытащить список задач (Action Items).

2. Аудит технических созвонов Если вы проводите аудит безопасности или разбираете инциденты, наличие точного протокола встречи помогает избежать споров в духе «я этого не говорил».

Для автоматизации процесса можно настроить простой скрипт, который будет закидывать файлы из папки с записями в директорию, которую мониторит Yogurt. Если вы используете Docker Compose для управления сервисами, конфигурация может выглядеть примерно так:

yaml
services:
  yogurt:
    image: yogurt-ai:latest
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]
    volumes:
      - /mnt/storage/meetings:/app/recordings # Путь к вашим записям
      - /etc/yogurt/config:/app/config
    restart: unless-stopped

Важно помнить об ограничениях: локальные модели всё ещё могут ошибаться в специфических терминах. Если в разговоре упоминается конкретный CVE или специфическая команда Linux, модель может «галлюцинировать». Поэтому итоговый протокол всегда должен проходить через проверку инженером. Это не замена человеку, а инструмент для первичной обработки массива данных.

FAQ

Нужен ли интернет для работы Yogurt?

Нет, для выполнения основных задач — транскрибации и суммаризации — интернет не требуется. Весь процесс происходит внутри вашей домашней лаборатории. Если вы разворачиваете приложение через Docker, оно будет работать даже в полностью изолированном контуре.

С практической точки зрения, интернет понадобится только на этапе первичного скачивания образов контейнеров и весов нейросетевых моделей. После того как вы выполните docker compose pull, соединение можно отключать. Это критически важно для обеспечения предсказуемости: вы точно знаете, что ваши записи встреч не «утекут» на сторонние серверы в процессе обработки.

Какие модели AI используются внутри?

Yogurt опирается на проверенные open-source решения. Для перевода речи в текст (ASR) обычно используется семейство моделей Whisper от OpenAI, а для анализа текста и создания резюме — локальные языковые модели (LLM), такие как Llama 3 или Mistral.

Если вы планируете использовать приложение на домашнем сервере с GPU, убедитесь, что в конфигурации указан правильный runtime для Docker. Например, для работы с NVIDIA используasйте такой фрагмент в docker-compose.yml:

yaml
services:
  yogurt:
    image: yogurt-app:latest
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

Можно ли использовать Yogurt на Linux?

Да, Linux — это основная платформа для подобных инструментов. Приложение отлично работает в дистрибутивах вроде Debian, Ubuntu или Arch. Поскольку Yogurt поставляется в контейнеризированном виде, вам не нужно беспокоиться о конфликтах зависимостей в системных библиотеках.

Если вы столкнулись с проблемами при работе с аудиоинтерфейсами, проверьте права доступа к устройствам. Сначала убедитесь, что ваш пользователь входит в группу audio:

bash
groups $USER
# Если группы нет, добавьте её:
sudo usermod -aG audio $USER

Для тех, кто предпочитает глубоко настраивать окружение, важно следить за стабильностью ядра. Иногда задержки в обновлении безопасности могут влиять на работу низкоуровневых драйверов, как это было в случаях, когда Ubuntu не выпустила патч для 0day RCE в ядре Linux.

Насколько безопасно хранить записи локально?

Безопасность здесь определяется тем, как вы настроили хранение данных на своём оборудовании. Использование Yogurt само по себе минимизирует риски, так как данные не покидают ваш периметр. Однако хранение «голых» аудиофайлов на обычном диске — это решение на коленке.

Для обеспечения реальной приватности я рекомендую использовать шифрование на уровне файловой системы. Если ваш домашний сервер работает на ZFS, настройте зашифрованные датасеты (ZFS encryption) для директории, куда Yogurt сохраняет записи. Это гарантирует, что даже при физическом изъятии дисков содержимое ваших встреч останется недоступным.

Если вы хотите подойти к вопросу системно, не ограничивайтесь только хранением файлов. Настройте регулярный бэкап зашифрованных данных на удаленное хранилище или на отдельный NAS, используя проверенные инструменты, о которых мы говорили в материале про навыки для реальных инженеров.

Часто задаваемые вопросы

Можно ли использовать Yogurt без видеокарты?

Да, приложение будет работать на обычном процессоре, так как в конфигурации можно явно указать параметр DEVICE=cpu. Однако стоит учитывать, что транскрибация на CPU занимает значительно больше времени, чем на GPU. С практической точки зрения, если вы планируете обрабатывать длинные записи, лучше использовать модели меньшего размера, например base или small, чтобы процесс не затянулся на часы.

Насколько безопасно хранение данных в Yogurt?

Безопасность обеспечивается тем, что все вычисления происходят локально на вашем оборудовании. Поскольку приложение не отправляет аудиофайлы и полученные тексты в сторонние облачные сервисы, риск утечки конфиденциальной информации сводится к минимуму. Если вы размещаете сервис на своём оборудовании внутри защищённого контура, данные остаются под вашим полным контролем.

Как избежать перегрузки сервера при обработке аудио?

Для поддержания стабильности системы необходимо ограничивать ресурсы, выделяемые контейнеру с Yogurt. В файле docker-compose.yaml используйте секцию deploy.resources.limits, чтобы задать лимит по оперативной памяти. Это гарантирует, что процесс транскрибации не заберёт все ресурсы у других сервисов, запущенных в вашей домашней лаборатории.

Какую модель Whisper лучше выбрать для качественного текста?

Выбор модели зависит от баланса между точностью и доступными ресурсами. Модели medium и large обеспечивают высокую точность распознавания, но требуют много видеопамяти или мощного процессора. Если же вам важна скорость и вы работаете на ограниченном железе, выбирайте small — она работает быстрее и потребляет меньше памяти, хотя может допускать ошибки в сложных терминах.

Обзор Yogurt: приватный AI-помощник для встреч