Files
mtusi2026lab5/REPORT.md
T

16 KiB
Raw Blame History

ЛР5 — очереди и асинхронная обработка изображений

Автор: Крайкин Глеб Алексеевич, БВТ2303. Целевая оценка: 5, трек 2 — доказанная идемпотентность versioned pipeline. Дата экспериментов: 20 ноября 2026. Оценку подтверждает преподаватель после демонстрации и объяснения.

Основа и запуск

Skeleton текущей ЛР: 276dbdad8a34da4c5b57fbf1879ca169b581d75b. Перенесена собственная реализация ЛР4 1873c4c798a7d905a3247ce9351ac6da319eec98: REST messenger, PostgreSQL, Argon2id, общие Bearer-сессии, Valkey cache-aside, HAProxy/две API, транзакционная идемпотентность сообщений и приватный MinIO. README/COURSE/contracts/публичные tests текущего задания не заменялись файлами старой лабы.

make up
make check
make test
make test-race

API http://localhost:8085. Запуск из этого репозитория, соседние лабы не нужны. Секреты случайные, bootstrap идемпотентный; .env, secrets/, live tokens не коммитятся. Подробные команды, replay, отказные тесты и восстановление реплик — QUICKSTART.md. Разбор со схемами и все четыре ответа из README — DEFENSE.md.

Среда измерений: Docker Desktop Linux/aarch64, Docker 28.1.1, Compose 2.35.1-desktop.1, VM 14 CPU / 8 217 473 024 bytes RAM. Это локальная разделяемая машина, не выделенный production cluster. Лимиты: API по 1CPU/768MiB, worker 1CPU/1024MiB, PostgreSQL 2CPU/512MiB, S3 1CPU/512MiB, broker 1CPU/256MiB, dispatcher/housekeeping по .25CPU/128MiB. Версии образов закреплены в compose/Dockerfile: Go 1.24.4-alpine3.22, Alpine 3.22.1, PG 17.6, Valkey 8.1.3, HAProxy 3.2.6, MinIO RELEASE.2025-09-07T16-13-09Z, mc RELEASE.2025-08-13T08-35-41Z. Imaging v1.6.2, libwebp-tools 1.5.0-r0 наблюдался при сборке. BuildKit cache ускоряет зависимости; обычный чистый build загружает публичные модули по проверенным go.sum. При нестабильной сети для начального заполнения build cache использовалось временное loopback-зеркало уже проверенного host module cache; приложение от него не зависит, секретов в нём нет.

Границы durable acceptance и обработки

API проверяет сессию и membership, 10MiB/40MP/PNG-JPEG/filename, сохраняет capped tempfile и SHA-256; DecodeConfig ограничивает пиксели до полного decode. В S3 выполняется PUT приватного staging/<UUID> под журналом upload_intents. В одной PG транзакции создаются attachment status=queued и job/outbox; после COMMIT возвращается 202 queued snapshot. Bytes уже полностью переданы и устойчиво сохранены; resize выполняет только отдельный worker. SQL rollback не отменяет S3 PUT.

Отдельный Valkey Streams broker (не cache) имеет AOF, appendfsync always, persistent volume, maxmemory 192MiB/noeviction. Dispatcher читает job с FOR UPDATE SKIP LOCKED, делает XADD, затем фиксирует published_at. При неопределённом результате публикации возможен дубль. Незавершённые опубликованные jobs с истёкшим lease переиздаются после 60s, поэтому durable PG intention восстанавливает и потерянные broker deliveries.

Worker: consumer group, Count=1/consumer, concurrency по умолчанию 1 (допустимо 1–4), XAUTOCLAIM idle 60s, DB lease 45s с уникальным token, 30s pipeline budget, 20s transform child deadline. Исходник читается по key из БД, размер и checksum повторно проверяются. S3 final keys: originals/<attachment_id>/v<version>/{original,thumbnail,crop,optimized}. После всех PUT готовый набор метаданных публикуется одной PG-транзакцией с проверкой version/token. Ready/stale delivery не откатывает статус. XACK после устойчивого решения; XDEL только после успешного XACK, одна consumer group.

Оригинал неизменен. EXIF orientation применяется до resize, alpha на белом. Thumbnail JPEG fit≤256×256 без upscale, floor/min1; crop JPEG center128×128; optimized WebP fit≤1280×1280 без upscale. v1 quality JPEG85/WebP80, v2 JPEG90/WebP82, metadata удаляются перекодированием. V2 — явный операторский reprocess, поддерживаются версии 1 и 2; старый namespace не затрагивает новый. Исходный 320×200 fixture даёт thumbnail256×160. WebP не обещает уменьшение каждого файла.

Уровень 4

Требование Реализация / воспроизведение
Все варианты, время и память transform subprocess, cgroup RAM limit, concurrency1, race-тест alpha/EXIF/fit, public actual JPEG probe
DB/broker gap job/outbox в той же транзакции, dispatcher; реальный API SIGKILL после committed принятия при остановленном dispatcher
Retry и финальная ошибка 5 managed attempts, persisted exponential backoff 2^attempt s + jitter[0,1)s; invalid_image permanent, retry_exhausted terminal
DLQ/replay SQL view failed_jobs + pipeline_audit; CLI replay только failed, HEAD исходника до изменения, аудит
Crash/lease/idempotency реальные kill в before_objects/after_objects/after_commit; reclaim/redispatch; version/token fencing
Staging retention после safe ready COMMIT удалить staging; hourly housekeeping, grace24h, failed retention≥7d, live work защищена
Backpressure атомарный admission≤1000 unfinished jobs, затем429/Retry-After; noeviction broker не вытесняет принятую работу

replay не повторяет ready. Явный reprocess создаёт новую версию и помечает старую superseded; можно безопасно заменить ещё processing v1. Старый процесс не публикует метаданные из-за проверки актуальной версии/token. При одинаковой версии и immutable input параметры закреплены; эффект детерминирован. Старые final versions автоматически не собираются.

Исследование: гипотеза и инварианты

Гипотеза: durable intention + bounded lease/token + versioned deterministic effects позволяют пережить дубли и crash, не потерять принятую работу и не переписать новый результат старым.

Инварианты:

  1. После успешного202 существуют полный staging и committed job; остановка API не теряет bytes/намерение.
  2. Одному (attachment_id,pipeline_version) соответствует одна логическая job и один набор effect keys.
  3. ready означает существование original и всех трёх variants с сохранёнными size/checksum.
  4. Старые version/token не меняют актуальные metadata, разные версии не пишут в одни object keys.
  5. После 5 временных ошибок ошибка наблюдаема; очередная попытка требует явного audited replay.

Методика: реальные синтетические HTTP upload, subprocess Docker faults, реальные lease/reclaim интервалы, проверки SQL и SHA-256 скачанного содержимого. Данные пользователя не используются. Скрипты не подделывают время. Повторять последовательно:

python3 student-tests/pipeline.py
python3 student-tests/version_fence.py
python3 student-tests/retry_backpressure.py
Эксперимент Наблюдение
COMMIT до publish, API/broker restart та же запись ready, оригинал идентичен; wait-ready0.527s после запуска сервисов
Kill до объектов recovery60.062s, original +3 variants доступны
Kill после всех S3 PUT до result COMMIT recovery59.747s, тот же эффект
Kill после ready COMMIT до ack ready уже сохранён; GET подтвердил его за0.005s (это не время очистки PEL)
5 повторных доставок готовой job metadata не изменились
v1 reordered после ready v2 metadata и checksums v2 не изменились
Живой v1 задержан перед PUT, v2 завершён, v1 отпущен v2 ready за0.262s; поздние v1 PUT/finalization не изменили v2, unfinished jobs0
checksum permanent failure + replay failed invalid_image, запрет attachment в новом message, source восстановлен/явный replay → ready, audit сохранён
API SIGKILL после COMMIT до publish принятое вложение ready после восстановления, original идентичен
S3 недоступен до исчерпания 5 claims, retry_exhausted через33.17s; интервалы из реального audit2.62/4.47/8.52/16.55s плюс работа
Admission1000 следующий upload429, принятая работа сохранена

Полные машинные данные: evidence/pipeline.json, version-fence.json, retry-backpressure.json, соответствующие .txt. Это эксперимент корректности, не исследование максимального throughput. Сохранённые времена характеризуют локальную методику, а не production SLA. Около60s после crash обусловлено политикой reclaim, не скоростью resize.

Проверки и доказательства

  • make validate: полный OpenAPI прошёл, evidence/openapi.txt.
  • student-tests/clean_clone.py: настоящий чистый clone с новыми secrets/volumes; smoke и прежний токен после перезапуска API, PG, cache, S3, broker, worker и dispatcher. Изменения actual StartedAt/PID1/non-root подтверждены в evidence/persistence-processes.json; удалён только временный проект.
  • make check: структура/контракт, evidence/check.txt.
  • make test: публичный smoke, evidence/smoke-final.txt: 202, ready, ACL, исходные bytes/checksum, настоящий JPEG thumbnail.
  • make test-race: evidence/race.txt: реальная PG, 100 concurrent HTTP messages + одинаковые ключи, Unicode password KDF, floor/no-upscale, alpha и EXIF orientation.
  • go vet ./...: выполнен.
  • make test-persistence ACTION_SCRIPT=scripts/restart.sh: прежняя сессия, сообщения и файл после restart всех application stores, evidence/persistence.txt.
  • make test-failover ...: 131 успешная запись/1 failed attempt, recovery0.83s, подтверждённые данные сохранены.
  • student-tests/operations.py: отдельно обе API recovery0.693/0.689s с1 ошибкой каждая; rolling634 успешных writes/3 ошибки. Action15.956s — длительность замены, запись продолжалась; это не15s простоя. См. evidence/operations.json.

Свой smoke/fault evidence не подменяет публичные тесты. Remote CI не заявляется выполненным; GitHub workflow skeleton сам по себе не оценивает приложение.

Ограничения

Один Docker host, одна PG/MinIO/broker/LB — без HA против потери host/disk; volumes не backup. S3 остаётся readiness dependency, поэтому при S3 outage HAProxy исключает API и текст через LB тоже временно недоступен. Cache outage допускает PG fallback. SDK/телеметрии в ЛР5 нет — она добавляется отдельно в ЛР6.

Управляемый job budget5 не ограничивает количество сетевых доставок до получения claim: redelivery нормальна. Повтор job одной версии защищает эффект; exactly-once сеть/HTTP не обещается. Lease не является глобальной блокировкой S3: безопасность публикации обеспечивают SQL fencing и разделённые immutable versioned keys. Cleanup — не backup и не восстановление потерянного файла; failed source после retention требует внешнего restore. Полный hash scrub, quota на пользователя и GC старых final versions не реализованы. Runtime PG роль унаследована из учебного bootstrap, разделение ролей относится к последующей ЛР7.

Источники и ИИ

Собственная база ЛР4; контракты преподавателя текущей ЛР; первичные материалы: Valkey Streams/XAUTOCLAIM, Valkey persistence, imaging. Использовался ИИ Codex для реализации, тестов и подготовки объяснений. Результаты получены реальным запуском; автор должен уметь объяснить код и ограничения на защите.

Финальный encoder различает invalid image (child exit65) и временную аварию/kill/deadline: последняя проходит bounded retry, а не маркирует корректный файл invalid_image. EXIF обрабатывается для JPEG APP1 и PNG eXIf, перед resize. Финальные race/PG проверки актуальных исходников, включая PNG EXIF и аварии subprocess, — evidence/race-final.txt. Для проверки использован уже скачанный совместимый Go1.24.4/GCC/cwebp test toolchain с read-only bind текущих cmd/internal (в ЛР6 также текущие go.mod/go.sum); публичный make test-race сам собирает такой toolchain из Dockerfile, соседняя лабораторная для запуска/проверки не требуется.

Повторная проверка финального implementation commit 8bd25a1 из настоящего чистого клона — PASS: свежие credentials/volumes, smoke, старый токен после полного restart, actual StartedAt/PID1/non-root. Вывод — evidence/clean-clone-final.txt, снимки — persistence-processes.json. Удалён только уникальный временный проект проверки.