Files
mtusi2026lab5/REPORT.md
T

16 KiB
Raw Blame History

Отчёт — лабораторная 5

  • Автор, группа — Кучерявенко Максим, БВТ2303.
  • Целевая оценка — 4.
  • Основа — Kotlin 2.3.20, Ktor 3.3.0, JDK 21, Koin и Exposed 1.0.0. Из предыдущих работ сохранены авторизация, чаты и сообщения, балансировка, идемпотентность отправки и приватное хранение оригиналов.
  • ИИ использован для реализации, ревью, тестов и подготовки отчёта.

Запуск

Для стенда нужны Docker с Compose v2, Python 3.9+ и OpenSSL. Для локального прогона JVM-тестов нужны JDK 21, Docker и cwebp с dwebp в PATH. На macOS эти утилиты входят в пакет webp Homebrew. Образ приложения содержит libwebp-tools.

./scripts/init-secrets.sh
export LAB_HTTP_PORT=8085
export BASE_URL=http://localhost:8085

docker compose config --quiet
docker compose up -d --build --wait
make check
./gradlew test
make test
python3 scripts/attachment-worker-recovery.py

# Сценарии остановки сервисов запускайте на локальном учебном стенде.
python3 scripts/attachment-level4-recovery.py
python3 scripts/attachment-failover.py
make test-persistence ACTION_SCRIPT=scripts/restart.sh

Flyway применяет V1–V11 до запуска API и worker. HAProxy публикует только loopback-порт. API, worker, PostgreSQL, Redis, RabbitMQ и MinIO общаются по внутренней сети Compose. Для PostgreSQL, RabbitMQ и MinIO выделены именованные volumes. Повторный запуск bootstrap сохраняет bucket приватным. Секреты генерируются в secrets/ и монтируются как файлы. docker compose down сохраняет volumes.

Что сохраняется к моменту 202

API проверяет доступ к чату, имя, MIME, размер и корректность PNG/JPEG. Тело загружается с лимитом 10 MiB и общим таймаутом чтения 15 секунд. Проверка заголовка ограничивает изображение 40 миллионами пикселей до декодирования. Полная валидация перед 202 сохраняет поведение lab4 для битых изображений.

  1. API создаёт намерение в attachment_uploads и записывает исходные байты в приватный staging/<attachment_id> в MinIO.
  2. Одна транзакция PostgreSQL создаёт метаданные queued, строку attachment_jobs и запись attachment_outbox, затем закрывает намерение загрузки.
  3. После COMMIT API отвечает 202 со снимком queued. За загрузку отвечает API, за доставку задания в RabbitMQ отвечает процесс worker.

Фоновый диспетчер выбирает готовую строку outbox через FOR UPDATE SKIP LOCKED и фиксирует аренду на 30 секунд. Затем вне транзакции публикует persistent JSON с mandatory routing и ждёт publisher confirm. После подтверждения удаляет строку с проверкой токена аренды. При отказе публикации строка снова доступна через секунду. После падения диспетчера её подберёт следующий процесс по истечении аренды. Повторная публикация между confirm и удалением строки допустима.

Если RabbitMQ остановлен, API остаётся ready при доступных PostgreSQL и MinIO. Подтверждённая загрузка ждёт в outbox. Worker начинает работу после восстановления RabbitMQ. В очереди хранятся идентификаторы и служебные поля из contracts/jobs.schema.json.

Worker и варианты

RabbitMQ хранит durable classic очередь в volume. Каждый цикл worker последовательно берёт одну manual-ack доставку через basicGet, поэтому в работе не более одной доставки на цикл. Параллелизм по умолчанию 1, конфигурация допускает 1–4. Декодирование сериализовано внутри процесса worker.

Worker проверяет размер и SHA-256 исходника. Дочерняя JVM декодирует его один раз и создаёт все варианты. Она ограничена heap 384 MiB и дедлайном 25 секунд. По дедлайну родитель завершает процесс и его потомков. cwebp получает уже уменьшенный растр и имеет отдельный лимит 15 секунд. Основная JVM worker ограничена heap 320 MiB, контейнер — 1 GiB памяти и 1 CPU. Таймаут задания по умолчанию 60 секунд, аренда — таймаут плюс 15 секунд.

Вариант Результат
original Исходные байты и MIME, ключ originals/<id>
thumbnail JPEG, вписанный в 256×256 без увеличения, для 320×200 получается 256×160
crop JPEG, центральный квадрат 128×128. Маленькие изображения при необходимости увеличиваются
optimized WebP, вписанный в 1280×1280 без увеличения

Для thumbnail и optimized размеры округляются вниз до целого пикселя, минимум 1. EXIF orientation 1–8 учитывается для всех вариантов. JPEG использует качество 0,85 и белый фон под прозрачностью. WebP кодируется cwebp с параметрами -q 82 -m 4 -alpha_q 100 -metadata none и сохраняет альфа-канал. Варианты строятся из отрисованного растра, поэтому EXIF и другие метаданные исходника не копируются.

Worker записывает оригинал и три варианта по детерминированным ключам. Затем одна транзакция публикует метаданные вариантов и статус ready под проверкой lease token. ACK следует после фиксации результата или устойчивого сохранения следующей попытки в outbox. Повтор завершённой работы подтверждается без обработки. Ключ результата — вложение, версия pipeline 1 и имя варианта.

Готовые варианты читаются через авторизованный API. Для queued, processing и failed контент отвечает 409. Незнакомый вариант готового вложения и обращение постороннего к вложению возвращают 404. История сообщений и повторы по Idempotency-Key сохраняют прежнюю семантику.

V8 сохраняет старые оригиналы lab4 и ставит их в очередь на обработку. V9 переносит ожидающие задачи в outbox. V11 ставит в очередь вложения уровня 3, у которых ещё нет crop и optimized. Эти работы читают оригинал по существующему ключу. На время генерации контент отвечает 409.

Повторы и операторский replay

Временные ошибки хранилища, таймауты и ошибки обработки повторяются с экспоненциальной задержкой и jitter в диапазоне от половины до полного интервала. Верхняя граница интервала начинается с 1 секунды и ограничена 30 секундами. PostgreSQL хранит причину и время следующей попытки. Retry и запись outbox фиксируются вместе. Лимит по умолчанию — пять попыток на запуск. Невалидное изображение и превышение лимитов исходника приводят к failed с безопасным кодом.

Если доставка возвращается при действующей аренде, worker планирует её в outbox на момент истечения lease. Очередь продолжает обслуживать остальные задания. После истечения lease job получает новую попытку в пределах бюджета. Успешное завершение или запись следующей попытки по старому токену блокируются после смены аренды.

Реестр failed хранится в PostgreSQL. Команды доступны пользователю с доступом к локальному Docker и базе:

docker compose run --rm --no-deps -T worker attachment-jobs failed
docker compose run --rm --no-deps -T worker attachment-jobs replay JOB_ID OPERATOR

Первая команда выводит до 100 последних отказов. Replay сохраняет ID задания, открывает новый бюджет попыток и пишет аудит с операторской меткой, прежним кодом ошибки, временем и номером попытки. Метка передаётся оператором и используется для аудита, предоставление доступа к команде остаётся на стороне Docker. Replay отклоняет постоянную ошибку изображения, успешно завершённую или выполняющуюся задачу и задачу после начала очистки. Поэтому повтор команды для уже восстановленного задания не запускает дубль.

Уборщик удаляет осиротевшие исходники после grace period. Срок хранения staging для терминальных состояний по умолчанию 86400 секунд. У готового вложения сохраняются оригинал и варианты. У failed нового вложения по истечении срока удаляются исходник из staging и частичные результаты. У импортированных вложений сохраняется прежний оригинал. Очистка помечает строку перед удалением, чтобы replay и удаление исходника не могли начаться одновременно.

Результаты проверок

Контрольный прогон выполнен 18 ноября 2026 года на отдельном Compose-стенде mtusi-messenger-lab5-level4 с портом 8086. Все результаты получены на сборке уровня 4.

Проверка Результат
Сборка и JVM-тесты rtk gradlew compileKotlin compileTestKotlin test --console=plain на JDK 21. Все 98 тестов прошли. Покрыты backoff, истечение lease, повторная доставка после рестарта RabbitMQ, аудит replay, миграции, очистка, EXIF, декодирование WebP и завершение дочернего процесса по дедлайну. Сводка JUnit
Структура, стенд и smoke make check, docker compose config --quiet, docker compose up -d --build --wait и make test прошли. Структура, контейнеры и лимиты, smoke
Падение producer после COMMIT RabbitMQ и worker остановлены. API принял файл, запись outbox осталась после SIGKILL принявшей реплики. После восстановления тот же ID стал ready со всеми вариантами. Лог проверки
Падение worker после записи S3 Одноразовый worker завершился с кодом 86 до фиксации результата и ACK. API ответил 409. После истечения аренды вторая попытка завершила то же вложение, сохранив оригинал и контрольные суммы всех трёх вариантов. Лог проверки
Реестр и replay При недоступном MinIO задание исчерпало бюджет. CLI показал failed. После восстановления хранилища replay довёл то же задание до ready на второй попытке. Повторная команда получила отказ. Лог проверки
Перезапуск worker, API и RabbitMQ Задание осталось queued при остановленном worker и сохранилось после перезапуска API и RabbitMQ. После старта worker доступны оригинал и thumbnail. Лог восстановления
Переключение API и приватность S3 После остановки принявшей реплики другая вернула тот же оригинал. Чужой пользователь получил 404, анонимный S3 GET получил 403. Служебная учётная запись ограничена рабочими префиксами. Переключение, права S3
Перезапуск всего стенда Подтверждённые данные и действующая сессия сохранились. StartedAt изменился у всех восьми контейнеров. Сохранность и времена запуска

Ограничения и источники

PostgreSQL, MinIO, RabbitMQ и HAProxy работают в одном экземпляре. Проверяется сохранность при рестарте с volumes. Восстановление задачи после падения worker может занять время аренды и задержки новой попытки. API перед 202 по-прежнему полностью декодирует ограниченное изображение. Жёсткий таймаут дочернего декодера применяется к worker.

Семантика outbox и повторной доставки рассчитана на at least once. Схема защищает эффект в рамках pipeline версии 1. Итоговый размер WebP зависит от исходника и не обязан быть меньше размера маленького PNG или JPEG.