Files
mtusi2026lab5/REPORT.md
T

14 KiB
Raw Blame History

Отчёт — лабораторная 5

Автор: Медведев Андрей Михайлович, БПИ2303. Цель: все требования уровней3–4 и трек2 уровня5 «Доказанная идемпотентность pipeline». Оценка преподавателем не присвоена. Публикация и PR не выполнялись; подготовлен архив для сдачи.

Основа: исходный skeleton ЛР5, commit276dbdad8a34da4c5b57fbf1879ca169b581d75b, и собственная ЛР4 из /Users/rey/projects/vp-mtuci (оригиналы не редактировались). Сохранены новые README, COURSE, contracts и публичные tests текущей работы. Реализацию и проверки помог подготовить ИИ; независимые находки reviewer исправлены с RED/GREEN. Первичные источники: Redis Streams, PostgreSQL UPDATE, ImageMagick limits, контракты этого skeleton.

Запуск

Нужны Docker с Compose, Bun и Python3.9+; для расширенной PostgreSQL matrix нужен Go1.27.2 в PATH (или переменная GO с путём к нему). Проверено на Linux x86_64, Go1.27.2, Bun1.4.4, Docker29.9.2/Compose5.6.1. Все сервисы запускаются этим репозиторием. Образы Go1.27.2-alpine, Debian, PostgreSQL18.6, Valkey9, RustFS1.0.0-rc.1 и HAProxy3.2 закреплены digest в Dockerfile/compose.yaml. Runtime устанавливает ImageMagick из Debian; версию пакета фиксирует выбранный базовый release и его репозиторий, отдельного immutable snapshot apt нет.

./scripts/up.sh
bun student-tests/wait.ts
make check
make test BASE_URL=http://127.0.0.1:28205
make test-persistence BASE_URL=http://127.0.0.1:28205 ACTION_SCRIPT=./scripts/restart.sh
make test-failover BASE_URL=http://127.0.0.1:28205 ACTION_SCRIPT=./scripts/stop-one.sh
bun student-tests/both-replicas.ts
./student-tests/run-db-matrix.sh
bun student-tests/pipeline-faults.ts --point=after_original --restart-gap
bun student-tests/pipeline-faults.ts --point=after_objects
bun student-tests/pipeline-faults.ts --point=after_commit
./scripts/compose.sh stop

up.sh генерирует отдельные учебные credentials в .local (родитель0700), строит один общий image, запускает зависимости, миграции, S3 bootstrap и две API+worker+LB. .local не входит в архив/git. При частично существующей конфигурации bootstrap останавливается, не затирая её. compose.sh всегда закрепляет manifest и project, поэтому чужие COMPOSE_* не перенаправят операции. Публичен только LB127.0.0.1:28205; остальные компоненты в private/internal network, edge есть лишь у LB.

Остановка сохраняет volumes. Намеренное удаление только этого учебного стенда и всех его данных: ./scripts/compose.sh down --volumes. Этот разрушительный сценарий в приёмке не запускался.

Архитектура и ограничения

API сохраняет validated original в S3 staging/<id>, затем одной PostgreSQL транзакцией переводит metadata в queued и создаёт outbox/job. Только после COMMIT возвращается202. Отдельный worker переносит intent в Valkey Streams и помечает публикацию в БД; сбой между XADD и DB отметкой создаёт допустимый дубль. Valkey AOF appendfsync always, PostgreSQL и S3 имеют отдельные persistent volumes. Недоступность broker после COMMIT не теряет DB intent.

Сообщение содержит только схему/тип, UUID, версию, attempt, created_at и необязательный trace carrier; bytes, filename/URL и credentials в broker не попадают. Job UUID устойчив между повторами. Outbox читает до100 jobs каждые500ms. Stream удерживает примерно10000 записей; его trimming не удаляет источник истины — незавершённое intent повторно публикуется. XREADGROUP/claim count1, один worker/одно изображение, lease30s и обработка context20s. PEL восстанавливается XAUTOCLAIM через30s.

Worker берёт доверенные metadata из БД, читает staging (или сохранённый immutable original при новой версии), повторно проверяет размер и SHA256, сохраняет originals/<id> и три variants/<id>/v<version>/<name>. Все variants публикуются атомарным fenced UPDATE только при текущей версии, lease и processing. До этого content409; ready устанавливается лишь после всех S3 записей. Ack идёт после durable результата либо durable next retry/failed, а не после самого получения сообщения.

Ограничения изображения: до10MiB и40M pixels, PNG/JPEG; bounded временный файл и output16MiB на variant, tmpfs256MiB, subprocess context20s. ImageMagick memory/map256MiB, disk0, resize thread1. Thumbnail вписывается в256×256 без увеличения (floor, минимум1), crop128×128 центрирован с допустимым увеличением, optimized WebP вписывается в1280×1280 без увеличения. EXIF orientation применяется, alpha ложится на белый фон, metadata удаляются, quality82. Декодер-процесс и Go имеют также Docker RAM/CPU limits.

API: две реплики по1CPU/2GiB, MAX_INFLIGHT4, MAX_QUEUE32; worker1CPU/2GiB и GOMEMLIMIT384MiB; PostgreSQL/S3 по768MiB, Valkey/LB по128MiB. Это configured limits, не измеренный расход памяти. Пароли с Argon2 и hashed session tokens сохранены из ЛР4; TLS/OpenBao — отдельная ЛР7.

Retry по умолчанию5 попыток (конфигурация1..10), экспоненциальный backoff100ms×2^attempt плюс jitter0..99ms с ограниченным exponent. Только typed invalid_image permanent; ENOSPC, отсутствующий executable, S3/DB/timeout остаются transient. Исчерпание даёт failed/retry_exhausted в БД (реестр failed вместо отдельного broker DLQ). ./scripts/compose.sh run --rm worker --replay UUID явно повторяет только failed/current/source-retained job; ready-дубль не исполняется. Replay атомарно сохраняет replay_count и replayed_at вместе со сбросом attempts. --advance UUID создаёт новую pipeline_version для operator-controlled version experiment.

Cleanup имеет отдельный durable staging_cleaned marker и выполняется независимо каждые1s, а также при redelivery completed job. Ready stage удаляется только при наличии original ожидаемого размера; неуспешный/unbound stage получает retention24h. Ошибка удаления не переводит ready в failed и будет повторена. Legacy reconcile не меняет versioned pipeline metadata; старый путь больше не может отметить original-only запись ready.

Проверки и наблюдения

  • make check, Go race tests, go vet, golangci-lint и non-writing gofmt check: результаты в evidence/final-checks.txt, evidence/final-audit-build.txt и финальном manifest. Env-gated интеграции отдельно, обычный go test не выдаётся за их запуск.
  • Публичный smoke, сохранность после PostgreSQL/Valkey/S3/API/worker/LB restart и failover с существующей сессией: evidence/public-acceptance.txt. Во время failover126 успешных записей,1 неудачная попытка, первое подтверждённое восстановление1.492s. Это наблюдение конкретного теста, не benchmark/SLO.
  • Обе реальные API реплики отдельно остановлены; существующая сессия и все подтверждённые сообщения сохранены, surviving instance отличается от остановленной. evidence/both-replicas.json:1025ms и27ms — время наблюдения после stop в двух проверках, не универсальный recovery bound.
  • Реальный ImageMagick integration: landscape320×200, tiny1×1, portrait23×67, EXIF rotation, JPEG content/white alpha/geometry/hash и WebP magic. Команда RUN_VARIANT_TESTS=1 go test -v ./internal/adapter/imagefile, runtime выполнялся в image с ImageMagick.
  • Crash после S3 original/variants и после результата COMMIT: реальный worker -fault завершён os.Exit88. Actual legacy /messenger -reconcile -apply -grace1m не публикует неполную processing запись. После lease recovery готово3 variants, original byte-exact, staging_cleaned=true. JSON evidence/runtime-pipeline-faults-after_*.json.
  • COMMIT/publish gap: worker уже остановлен, API202, DB job published_at=epoch, content409, сообщение с attachment создаётся. Затем реальные API+Valkey restart с volumes, запуск fault worker и обычное восстановление того же UUID без создания job вручную. evidence/runtime-pipeline-faults-after_original-restart-gap.json.
  • Versioned pipeline: настоящий PostgreSQLStore+S3+Pipeline, concurrent current duplicates, старая v1 до/после v2, fabricated future delivery, повтор v2. Детерминированный test Transformer выдаёт разные v1/v2 bytes (остальное реально); v2 metadata и S3 bytes остаются неизменны. ENOSPC×5 даёт failed/retry_exhausted, explicit replay восстанавливает ready. После after_commit completed-redelivery очищает настоящий S3 staging. evidence/versioned-fault-matrix.txt и evidence/final-runtime.txt.
  • Regression готовой v1→normal stage cleanup→advance v2→failed→replay сначала воспроизвёл отказ, затем прошёл на реальном SQL после исправления staging_expired; отдельный RED/GREEN сохранён. Audit replay также проверен сначала RED без сохранённого count/timestamp, затем GREEN. evidence/{red,green}-replay-version2.txt, evidence/red-replay-audit.txt, финальная DB matrix.

Трек2 уровня5

Гипотеза: at-least-once доставка допускает дубли и reorder без потери durable принятого intent и без публикации результата старой версии поверх новой, если владельцем результата остаётся PostgreSQL lease+version fence, а ключ S3 эффекта включает version. Проверяемые инварианты: immutable original; один logical job на attachment/version; только действующий lease публикует ready; old/future/completed deliveries не меняют текущий результат; повтор после COMMIT может безопасно завершить cleanup.

Методика и команды выше автоматизированы. Падение after_original одновременно находится после side effect original и до side effects variants; after_objects — после variants до result COMMIT; after_commit — после durable результата до ack/cleanup. Дубли/reorder проверены вызовом того же реального Pipeline consumer method на настоящих PG/S3 с различимым oracle. Процессные падения и рестарты дополнительно проверены настоящим worker и broker. Тестовый Transformer не заменяет ImageMagick acceptance: native image scenarios проверяются отдельно.

Exactly-once доставка не заявлена: XADD и DB отметка публикации не атомарны, ack может потеряться, S3 PUT повторяется; exactly-once эффект обеспечивается в пределах logical key/fenced publication, а не отсутствием повторных вычислений/записей.

Практические пределы

Один host/PostgreSQL/Valkey/S3 не защищает от потери host или volumes. Не измерены throughput/p95/RSS под перегрузкой: выбран fault-injection трек, benchmark во время игры запрещён. Retry/retention управляются БД clock; на зависшем host hard wall-clock guarantee отсутствует. Детерминированность разных реализаций ImageMagick не заявлена: версии pipeline и metadata фиксируют выбранный эффект. Старые versioned объекты сохраняются для исследования; автоматическая политика удаления исторических версий здесь не реализована. Публикация в student fork, PR и оценка преподавателем — следующие внешние действия владельца.