From d0ba039f5b4218ef47bfba3a2a481876d50a705d Mon Sep 17 00:00:00 2001 From: anastasia Date: Fri, 6 Nov 2026 15:08:13 +0300 Subject: [PATCH] feat: implement lab 5 queued image processing --- .agents/skills/lab5-bench/SKILL.md | 30 + .agents/skills/messenger-stand/SKILL.md | 44 + .codex/rules/messenger.rules | 187 + .dockerignore | 14 + .env.example | 36 +- .gitignore | 9 + .python-version | 1 + AGENTS.md | 309 ++ Dockerfile | 65 + KNOWN_ISSUES.md | 142 + MR_DESCRIPTION.md | 59 + Makefile | 400 ++ REPORT.md | 527 +- alembic.ini | 13 + bench/AGENTS.md | 254 + bench/RUNBOOK.md | 176 + bench/analysis.py | 546 +++ bench/bench.compose.yml | 153 + bench/bench.env | 8 + bench/common.py | 1137 +++++ bench/compare.py | 248 + bench/fill_objects.py | 119 + bench/loadgen.py | 1457 ++++++ bench/plots.py | 412 ++ bench/queue.py | 1482 ++++++ bench/reconcile.py | 952 ++++ bench/run.py | 3275 +++++++++++++ bench/sampler.py | 274 ++ bench/uploads.py | 583 +++ compose.yaml | 526 ++ evidence/AGENTS.md | 61 + evidence/attachments/defense.txt | 52 + evidence/attachments/failover.txt | 75 + evidence/attachments/smoke.txt | 17 + evidence/broker/restart.txt | 63 + evidence/queue/baseline/cells.csv | 21 + evidence/queue/baseline/jobs.csv.gz | Bin 0 -> 152021 bytes evidence/queue/baseline/meta.json | 679 +++ .../baseline/raw/c2p2-x-r1-drain-gen.csv | 20 + .../baseline/raw/c2p2-x-r1-drain-gen.json | 24 + .../baseline/raw/c2p2-x-r1-fixed-gen.csv | 20 + .../baseline/raw/c2p2-x-r1-fixed-gen.json | 24 + .../baseline/raw/c2p2-x-r1-overload-gen.csv | 238 + .../baseline/raw/c2p2-x-r1-overload-gen.json | 27 + .../baseline/raw/c2p2-x-r1-recovery-gen.csv | 36 + .../baseline/raw/c2p2-x-r1-recovery-gen.json | 24 + .../baseline/raw/c2p2-x-r1-steady-gen.csv | 72 + .../baseline/raw/c2p2-x-r1-steady-gen.json | 24 + .../queue/baseline/raw/c2p2-x-r1-worker.log | 326 ++ .../baseline/raw/c2p32-s-r1-drain-gen.csv | 50 + .../baseline/raw/c2p32-s-r1-drain-gen.json | 24 + .../baseline/raw/c2p32-s-r1-fixed-gen.csv | 100 + .../baseline/raw/c2p32-s-r1-fixed-gen.json | 24 + .../baseline/raw/c2p32-s-r1-overload-gen.csv | 1087 +++++ .../baseline/raw/c2p32-s-r1-overload-gen.json | 27 + .../baseline/raw/c2p32-s-r1-recovery-gen.csv | 163 + .../baseline/raw/c2p32-s-r1-recovery-gen.json | 24 + .../baseline/raw/c2p32-s-r1-steady-gen.csv | 326 ++ .../baseline/raw/c2p32-s-r1-steady-gen.json | 24 + .../queue/baseline/raw/c2p32-s-r1-worker.log | 1240 +++++ .../baseline/raw/c4p4-l-r1-drain-gen.csv | 40 + .../baseline/raw/c4p4-l-r1-drain-gen.json | 24 + .../baseline/raw/c4p4-l-r1-fixed-gen.csv | 32 + .../baseline/raw/c4p4-l-r1-fixed-gen.json | 24 + .../baseline/raw/c4p4-l-r1-overload-gen.csv | 322 ++ .../baseline/raw/c4p4-l-r1-overload-gen.json | 25 + .../baseline/raw/c4p4-l-r1-recovery-gen.csv | 49 + .../baseline/raw/c4p4-l-r1-recovery-gen.json | 24 + .../baseline/raw/c4p4-l-r1-steady-gen.csv | 97 + .../baseline/raw/c4p4-l-r1-steady-gen.json | 24 + .../queue/baseline/raw/c4p4-l-r1-worker.log | 314 ++ .../baseline/raw/c4p4-s-r1-drain-gen.csv | 50 + .../baseline/raw/c4p4-s-r1-drain-gen.json | 24 + .../baseline/raw/c4p4-s-r1-fixed-gen.csv | 100 + .../baseline/raw/c4p4-s-r1-fixed-gen.json | 24 + .../baseline/raw/c4p4-s-r1-overload-gen.csv | 1074 +++++ .../baseline/raw/c4p4-s-r1-overload-gen.json | 27 + .../baseline/raw/c4p4-s-r1-recovery-gen.csv | 161 + .../baseline/raw/c4p4-s-r1-recovery-gen.json | 24 + .../baseline/raw/c4p4-s-r1-steady-gen.csv | 322 ++ .../baseline/raw/c4p4-s-r1-steady-gen.json | 24 + .../queue/baseline/raw/c4p4-s-r1-worker.log | 1224 +++++ .../baseline/raw/c4p4-x-r1-drain-gen.csv | 20 + .../baseline/raw/c4p4-x-r1-drain-gen.json | 24 + evidence/queue/baseline/summary.md | 47 + evidence/queue/baseline/timeline.csv | 656 +++ evidence/queue/queue10/cells.csv | 121 + evidence/queue/queue10/jobs.csv.gz | Bin 0 -> 689594 bytes evidence/queue/queue10/meta.json | 1008 ++++ .../queue/queue10/raw/c1p1-l-r1-drain-gen.csv | 40 + .../queue10/raw/c1p1-l-r1-drain-gen.json | 24 + .../queue/queue10/raw/c1p1-l-r1-fixed-gen.csv | 32 + .../queue10/raw/c1p1-l-r1-fixed-gen.json | 24 + .../queue10/raw/c1p1-l-r1-overload-gen.csv | 181 + .../queue10/raw/c1p1-l-r1-overload-gen.json | 27 + .../queue10/raw/c1p1-l-r1-recovery-gen.csv | 28 + .../queue10/raw/c1p1-l-r1-recovery-gen.json | 24 + .../queue10/raw/c1p1-l-r1-steady-gen.csv | 55 + .../queue10/raw/c1p1-l-r1-steady-gen.json | 24 + .../queue/queue10/raw/c1p1-l-r1-worker.log | 308 ++ .../queue/queue10/raw/c1p1-l-r2-drain-gen.csv | 40 + .../queue10/raw/c1p1-l-r2-drain-gen.json | 24 + .../queue/queue10/raw/c1p1-l-r2-fixed-gen.csv | 32 + .../queue10/raw/c1p1-l-r2-fixed-gen.json | 24 + .../queue10/raw/c1p1-l-r2-overload-gen.csv | 189 + .../queue10/raw/c1p1-l-r2-overload-gen.json | 27 + .../queue10/raw/c1p1-l-r2-recovery-gen.csv | 29 + .../queue10/raw/c1p1-l-r2-recovery-gen.json | 24 + .../queue10/raw/c1p1-l-r2-steady-gen.csv | 57 + .../queue10/raw/c1p1-l-r2-steady-gen.json | 24 + .../queue/queue10/raw/c1p1-l-r2-worker.log | 304 ++ .../queue/queue10/raw/c1p1-s-r1-drain-gen.csv | 50 + .../queue10/raw/c1p1-s-r1-drain-gen.json | 24 + .../queue/queue10/raw/c1p1-s-r1-fixed-gen.csv | 100 + .../queue10/raw/c1p1-s-r1-fixed-gen.json | 24 + .../queue10/raw/c1p1-s-r1-overload-gen.csv | 565 +++ .../queue10/raw/c1p1-s-r1-overload-gen.json | 27 + .../queue10/raw/c1p1-s-r1-recovery-gen.csv | 85 + .../queue10/raw/c1p1-s-r1-recovery-gen.json | 24 + .../queue10/raw/c1p1-s-r1-steady-gen.csv | 170 + .../queue10/raw/c1p1-s-r1-steady-gen.json | 24 + .../queue/queue10/raw/c1p1-s-r1-worker.log | 749 +++ .../queue/queue10/raw/c1p1-s-r2-drain-gen.csv | 50 + .../queue10/raw/c1p1-s-r2-drain-gen.json | 24 + .../queue/queue10/raw/c1p1-s-r2-fixed-gen.csv | 100 + .../queue10/raw/c1p1-s-r2-fixed-gen.json | 24 + .../queue10/raw/c1p1-s-r2-overload-gen.csv | 564 +++ .../queue10/raw/c1p1-s-r2-overload-gen.json | 27 + .../queue10/raw/c1p1-s-r2-recovery-gen.csv | 85 + .../queue10/raw/c1p1-s-r2-recovery-gen.json | 24 + .../queue10/raw/c1p1-s-r2-steady-gen.csv | 169 + .../queue10/raw/c1p1-s-r2-steady-gen.json | 24 + .../queue/queue10/raw/c1p1-s-r2-worker.log | 749 +++ .../queue/queue10/raw/c1p1-x-r1-drain-gen.csv | 20 + .../queue10/raw/c1p1-x-r1-drain-gen.json | 24 + .../queue/queue10/raw/c1p1-x-r1-fixed-gen.csv | 20 + .../queue10/raw/c1p1-x-r1-fixed-gen.json | 24 + .../queue10/raw/c1p1-x-r1-overload-gen.csv | 181 + .../queue10/raw/c1p1-x-r1-overload-gen.json | 27 + .../queue10/raw/c1p1-x-r1-recovery-gen.csv | 19 + .../queue10/raw/c1p1-x-r1-recovery-gen.json | 24 + .../queue10/raw/c1p1-x-r1-steady-gen.csv | 37 + .../queue10/raw/c1p1-x-r1-steady-gen.json | 24 + .../queue/queue10/raw/c1p1-x-r1-worker.log | 250 + .../queue/queue10/raw/c1p1-x-r2-drain-gen.csv | 20 + .../queue10/raw/c1p1-x-r2-drain-gen.json | 24 + .../queue/queue10/raw/c1p1-x-r2-fixed-gen.csv | 20 + .../queue10/raw/c1p1-x-r2-fixed-gen.json | 24 + .../queue10/raw/c1p1-x-r2-overload-gen.csv | 180 + .../queue10/raw/c1p1-x-r2-overload-gen.json | 27 + .../queue10/raw/c1p1-x-r2-recovery-gen.csv | 19 + .../queue10/raw/c1p1-x-r2-recovery-gen.json | 24 + .../queue10/raw/c1p1-x-r2-steady-gen.csv | 37 + .../queue10/raw/c1p1-x-r2-steady-gen.json | 24 + .../queue/queue10/raw/c1p1-x-r2-worker.log | 249 + .../queue/queue10/raw/c2p2-l-r1-drain-gen.csv | 40 + .../queue10/raw/c2p2-l-r1-drain-gen.json | 24 + .../queue/queue10/raw/c2p2-l-r1-fixed-gen.csv | 32 + .../queue10/raw/c2p2-l-r1-fixed-gen.json | 24 + .../queue10/raw/c2p2-l-r1-overload-gen.csv | 296 ++ .../queue10/raw/c2p2-l-r1-overload-gen.json | 27 + .../queue10/raw/c2p2-l-r1-recovery-gen.csv | 45 + .../queue10/raw/c2p2-l-r1-recovery-gen.json | 24 + .../queue10/raw/c2p2-l-r1-steady-gen.csv | 89 + .../queue10/raw/c2p2-l-r1-steady-gen.json | 24 + .../queue/queue10/raw/c2p2-l-r1-worker.log | 388 ++ .../queue/queue10/raw/c2p2-l-r2-drain-gen.csv | 40 + .../queue10/raw/c2p2-l-r2-drain-gen.json | 24 + .../queue/queue10/raw/c2p2-l-r2-fixed-gen.csv | 32 + .../queue10/raw/c2p2-l-r2-fixed-gen.json | 24 + .../queue10/raw/c2p2-l-r2-overload-gen.csv | 314 ++ .../queue10/raw/c2p2-l-r2-overload-gen.json | 27 + .../queue10/raw/c2p2-l-r2-recovery-gen.csv | 48 + .../queue10/raw/c2p2-l-r2-recovery-gen.json | 24 + .../queue10/raw/c2p2-l-r2-steady-gen.csv | 95 + .../queue10/raw/c2p2-l-r2-steady-gen.json | 24 + .../queue/queue10/raw/c2p2-l-r2-worker.log | 411 ++ .../queue/queue10/raw/c2p2-s-r1-drain-gen.csv | 50 + .../queue10/raw/c2p2-s-r1-drain-gen.json | 24 + .../queue/queue10/raw/c2p2-s-r1-fixed-gen.csv | 100 + .../queue10/raw/c2p2-s-r1-fixed-gen.json | 24 + .../queue10/raw/c2p2-s-r1-overload-gen.csv | 1073 +++++ .../queue10/raw/c2p2-s-r1-overload-gen.json | 27 + .../queue10/raw/c2p2-s-r1-recovery-gen.csv | 161 + .../queue10/raw/c2p2-s-r1-recovery-gen.json | 24 + .../queue10/raw/c2p2-s-r1-steady-gen.csv | 322 ++ .../queue10/raw/c2p2-s-r1-steady-gen.json | 24 + .../queue/queue10/raw/c2p2-s-r1-worker.log | 1232 +++++ .../queue/queue10/raw/c2p2-s-r2-drain-gen.csv | 50 + .../queue10/raw/c2p2-s-r2-drain-gen.json | 24 + .../queue/queue10/raw/c2p2-s-r2-fixed-gen.csv | 100 + .../queue10/raw/c2p2-s-r2-fixed-gen.json | 24 + .../queue10/raw/c2p2-s-r2-overload-gen.csv | 1080 +++++ .../queue10/raw/c2p2-s-r2-overload-gen.json | 27 + .../queue10/raw/c2p2-s-r2-recovery-gen.csv | 162 + .../queue10/raw/c2p2-s-r2-recovery-gen.json | 24 + .../queue10/raw/c2p2-s-r2-steady-gen.csv | 324 ++ .../queue10/raw/c2p2-s-r2-steady-gen.json | 24 + .../queue/queue10/raw/c2p2-s-r2-worker.log | 1231 +++++ .../queue/queue10/raw/c2p2-x-r1-drain-gen.csv | 20 + .../queue10/raw/c2p2-x-r1-drain-gen.json | 24 + .../queue/queue10/raw/c2p2-x-r1-fixed-gen.csv | 20 + .../queue10/raw/c2p2-x-r1-fixed-gen.json | 24 + .../queue10/raw/c2p2-x-r1-overload-gen.csv | 238 + .../queue10/raw/c2p2-x-r1-overload-gen.json | 27 + .../queue10/raw/c2p2-x-r1-recovery-gen.csv | 36 + .../queue10/raw/c2p2-x-r1-recovery-gen.json | 24 + .../queue10/raw/c2p2-x-r1-steady-gen.csv | 72 + .../queue10/raw/c2p2-x-r1-steady-gen.json | 24 + .../queue/queue10/raw/c2p2-x-r1-worker.log | 325 ++ .../queue/queue10/raw/c2p2-x-r2-drain-gen.csv | 20 + .../queue10/raw/c2p2-x-r2-drain-gen.json | 24 + .../queue/queue10/raw/c2p2-x-r2-fixed-gen.csv | 20 + .../queue10/raw/c2p2-x-r2-fixed-gen.json | 24 + .../queue10/raw/c2p2-x-r2-overload-gen.csv | 228 + .../queue10/raw/c2p2-x-r2-overload-gen.json | 27 + .../queue10/raw/c2p2-x-r2-recovery-gen.csv | 35 + .../queue10/raw/c2p2-x-r2-recovery-gen.json | 24 + .../queue10/raw/c2p2-x-r2-steady-gen.csv | 69 + .../queue10/raw/c2p2-x-r2-steady-gen.json | 24 + .../queue/queue10/raw/c2p2-x-r2-worker.log | 317 ++ .../queue10/raw/c2p32-l-r1-drain-gen.csv | 40 + .../queue10/raw/c2p32-l-r1-drain-gen.json | 24 + .../queue10/raw/c2p32-l-r1-fixed-gen.csv | 32 + .../queue10/raw/c2p32-l-r1-fixed-gen.json | 24 + .../queue10/raw/c2p32-l-r1-overload-gen.csv | 305 ++ .../queue10/raw/c2p32-l-r1-overload-gen.json | 27 + .../queue10/raw/c2p32-l-r1-recovery-gen.csv | 46 + .../queue10/raw/c2p32-l-r1-recovery-gen.json | 24 + .../queue10/raw/c2p32-l-r1-steady-gen.csv | 92 + .../queue10/raw/c2p32-l-r1-steady-gen.json | 24 + .../queue/queue10/raw/c2p32-l-r1-worker.log | 404 ++ .../queue10/raw/c2p32-l-r2-drain-gen.csv | 40 + .../queue10/raw/c2p32-l-r2-drain-gen.json | 24 + .../queue10/raw/c2p32-l-r2-fixed-gen.csv | 32 + .../queue10/raw/c2p32-l-r2-fixed-gen.json | 24 + .../queue10/raw/c2p32-l-r2-overload-gen.csv | 292 ++ .../queue10/raw/c2p32-l-r2-overload-gen.json | 27 + .../queue10/raw/c2p32-l-r2-recovery-gen.csv | 44 + .../queue10/raw/c2p32-l-r2-recovery-gen.json | 24 + .../queue10/raw/c2p32-l-r2-steady-gen.csv | 88 + .../queue10/raw/c2p32-l-r2-steady-gen.json | 24 + .../queue/queue10/raw/c2p32-l-r2-worker.log | 397 ++ .../queue10/raw/c2p32-s-r1-drain-gen.csv | 50 + .../queue10/raw/c2p32-s-r1-drain-gen.json | 24 + .../queue10/raw/c2p32-s-r1-fixed-gen.csv | 100 + .../queue10/raw/c2p32-s-r1-fixed-gen.json | 24 + .../queue10/raw/c2p32-s-r1-overload-gen.csv | 1085 +++++ .../queue10/raw/c2p32-s-r1-overload-gen.json | 27 + .../queue10/raw/c2p32-s-r1-recovery-gen.csv | 163 + .../queue10/raw/c2p32-s-r1-recovery-gen.json | 24 + .../queue10/raw/c2p32-s-r1-steady-gen.csv | 326 ++ .../queue10/raw/c2p32-s-r1-steady-gen.json | 24 + .../queue/queue10/raw/c2p32-s-r1-worker.log | 1238 +++++ .../queue10/raw/c2p32-s-r2-drain-gen.csv | 50 + .../queue10/raw/c2p32-s-r2-drain-gen.json | 24 + .../queue10/raw/c2p32-s-r2-fixed-gen.csv | 100 + .../queue10/raw/c2p32-s-r2-fixed-gen.json | 24 + .../queue10/raw/c2p32-s-r2-overload-gen.csv | 1084 +++++ .../queue10/raw/c2p32-s-r2-overload-gen.json | 27 + .../queue10/raw/c2p32-s-r2-recovery-gen.csv | 163 + .../queue10/raw/c2p32-s-r2-recovery-gen.json | 24 + .../queue10/raw/c2p32-s-r2-steady-gen.csv | 326 ++ .../queue10/raw/c2p32-s-r2-steady-gen.json | 24 + .../queue/queue10/raw/c2p32-s-r2-worker.log | 1236 +++++ .../queue10/raw/c2p32-x-r1-drain-gen.csv | 20 + .../queue10/raw/c2p32-x-r1-drain-gen.json | 24 + .../queue10/raw/c2p32-x-r1-fixed-gen.csv | 20 + .../queue10/raw/c2p32-x-r1-fixed-gen.json | 24 + .../queue10/raw/c2p32-x-r1-overload-gen.csv | 232 + .../queue10/raw/c2p32-x-r1-overload-gen.json | 27 + .../queue10/raw/c2p32-x-r1-recovery-gen.csv | 35 + .../queue10/raw/c2p32-x-r1-recovery-gen.json | 24 + .../queue10/raw/c2p32-x-r1-steady-gen.csv | 70 + .../queue10/raw/c2p32-x-r1-steady-gen.json | 24 + .../queue/queue10/raw/c2p32-x-r1-worker.log | 318 ++ .../queue10/raw/c2p32-x-r2-drain-gen.csv | 20 + .../queue10/raw/c2p32-x-r2-drain-gen.json | 24 + .../queue10/raw/c2p32-x-r2-fixed-gen.csv | 20 + .../queue10/raw/c2p32-x-r2-fixed-gen.json | 24 + .../queue10/raw/c2p32-x-r2-overload-gen.csv | 235 + .../queue10/raw/c2p32-x-r2-overload-gen.json | 27 + .../queue10/raw/c2p32-x-r2-recovery-gen.csv | 36 + .../queue10/raw/c2p32-x-r2-recovery-gen.json | 24 + .../queue10/raw/c2p32-x-r2-steady-gen.csv | 71 + .../queue10/raw/c2p32-x-r2-steady-gen.json | 24 + .../queue/queue10/raw/c2p32-x-r2-worker.log | 322 ++ .../queue/queue10/raw/c4p4-l-r1-drain-gen.csv | 40 + .../queue10/raw/c4p4-l-r1-drain-gen.json | 24 + .../queue/queue10/raw/c4p4-l-r1-fixed-gen.csv | 32 + .../queue10/raw/c4p4-l-r1-fixed-gen.json | 24 + .../queue10/raw/c4p4-l-r1-overload-gen.csv | 299 ++ .../queue10/raw/c4p4-l-r1-overload-gen.json | 27 + .../queue10/raw/c4p4-l-r1-recovery-gen.csv | 45 + .../queue10/raw/c4p4-l-r1-recovery-gen.json | 24 + .../queue10/raw/c4p4-l-r1-steady-gen.csv | 90 + .../queue10/raw/c4p4-l-r1-steady-gen.json | 24 + .../queue/queue10/raw/c4p4-l-r1-worker.log | 398 ++ .../queue/queue10/raw/c4p4-l-r2-drain-gen.csv | 40 + .../queue10/raw/c4p4-l-r2-drain-gen.json | 24 + .../queue/queue10/raw/c4p4-l-r2-fixed-gen.csv | 32 + .../queue10/raw/c4p4-l-r2-fixed-gen.json | 24 + .../queue10/raw/c4p4-l-r2-overload-gen.csv | 321 ++ .../queue10/raw/c4p4-l-r2-overload-gen.json | 27 + .../queue10/raw/c4p4-l-r2-recovery-gen.csv | 49 + .../queue10/raw/c4p4-l-r2-recovery-gen.json | 24 + .../queue10/raw/c4p4-l-r2-steady-gen.csv | 97 + .../queue10/raw/c4p4-l-r2-steady-gen.json | 24 + .../queue/queue10/raw/c4p4-l-r2-worker.log | 404 ++ .../queue/queue10/raw/c4p4-s-r1-drain-gen.csv | 50 + .../queue10/raw/c4p4-s-r1-drain-gen.json | 24 + .../queue/queue10/raw/c4p4-s-r1-fixed-gen.csv | 100 + .../queue10/raw/c4p4-s-r1-fixed-gen.json | 24 + .../queue10/raw/c4p4-s-r1-overload-gen.csv | 1078 +++++ .../queue10/raw/c4p4-s-r1-overload-gen.json | 27 + .../queue10/raw/c4p4-s-r1-recovery-gen.csv | 162 + .../queue10/raw/c4p4-s-r1-recovery-gen.json | 24 + .../queue10/raw/c4p4-s-r1-steady-gen.csv | 324 ++ .../queue10/raw/c4p4-s-r1-steady-gen.json | 24 + .../queue/queue10/raw/c4p4-s-r1-worker.log | 1228 +++++ .../queue/queue10/raw/c4p4-s-r2-drain-gen.csv | 50 + .../queue10/raw/c4p4-s-r2-drain-gen.json | 24 + .../queue/queue10/raw/c4p4-s-r2-fixed-gen.csv | 100 + .../queue10/raw/c4p4-s-r2-fixed-gen.json | 24 + .../queue10/raw/c4p4-s-r2-overload-gen.csv | 1069 +++++ .../queue10/raw/c4p4-s-r2-overload-gen.json | 27 + .../queue10/raw/c4p4-s-r2-recovery-gen.csv | 161 + .../queue10/raw/c4p4-s-r2-recovery-gen.json | 24 + .../queue10/raw/c4p4-s-r2-steady-gen.csv | 321 ++ .../queue10/raw/c4p4-s-r2-steady-gen.json | 24 + .../queue/queue10/raw/c4p4-s-r2-worker.log | 1221 +++++ .../queue/queue10/raw/c4p4-x-r1-drain-gen.csv | 20 + .../queue10/raw/c4p4-x-r1-drain-gen.json | 24 + .../queue/queue10/raw/c4p4-x-r1-fixed-gen.csv | 20 + .../queue10/raw/c4p4-x-r1-fixed-gen.json | 24 + .../queue10/raw/c4p4-x-r1-overload-gen.csv | 222 + .../queue10/raw/c4p4-x-r1-overload-gen.json | 27 + .../queue10/raw/c4p4-x-r1-recovery-gen.csv | 34 + .../queue10/raw/c4p4-x-r1-recovery-gen.json | 24 + .../queue10/raw/c4p4-x-r1-steady-gen.csv | 67 + .../queue10/raw/c4p4-x-r1-steady-gen.json | 24 + .../queue/queue10/raw/c4p4-x-r1-worker.log | 313 ++ .../queue/queue10/raw/c4p4-x-r2-drain-gen.csv | 20 + .../queue10/raw/c4p4-x-r2-drain-gen.json | 24 + .../queue/queue10/raw/c4p4-x-r2-fixed-gen.csv | 20 + .../queue10/raw/c4p4-x-r2-fixed-gen.json | 24 + .../queue10/raw/c4p4-x-r2-overload-gen.csv | 221 + .../queue10/raw/c4p4-x-r2-overload-gen.json | 27 + .../queue10/raw/c4p4-x-r2-recovery-gen.csv | 34 + .../queue10/raw/c4p4-x-r2-recovery-gen.json | 24 + .../queue10/raw/c4p4-x-r2-steady-gen.csv | 67 + .../queue10/raw/c4p4-x-r2-steady-gen.json | 24 + .../queue/queue10/raw/c4p4-x-r2-worker.log | 313 ++ .../queue/queue10/raw/sampler-r1.jsonl.gz | Bin 0 -> 289356 bytes .../queue/queue10/raw/sampler-r2.jsonl.gz | Bin 0 -> 286330 bytes evidence/queue/queue10/summary.md | 49 + evidence/queue/queue10/timeline.csv | 4272 +++++++++++++++++ evidence/s3/privacy.txt | 107 + evidence/stand/migrations.txt | 113 + evidence/stand/persistence.txt | 40 + evidence/stand/s3-load.txt | 28 + evidence/stand/stand.txt | 63 + evidence/tests/failure-checks.txt | 97 + evidence/tests/measurement-host.txt | 258 + evidence/tests/test-isolated.txt | 69 + evidence/worker/limits.txt | 43 + infra/AGENTS.md | 147 + infra/haproxy/haproxy.cfg | 153 + infra/rabbitmq/rabbitmq.conf | 10 + infra/s3/bootstrap.sh | 408 ++ infra/valkey/valkey.conf | 15 + migrations/AGENTS.md | 107 + migrations/env.py | 82 + migrations/script.py.mako | 25 + migrations/versions/0001_messenger_schema.py | 147 + migrations/versions/0002_idempotency_keys.py | 81 + migrations/versions/0003_attachments.py | 169 + migrations/versions/0004_attachment_jobs.py | 222 + pyproject.toml | 70 + requirements.txt | 426 ++ scripts/lab5.py | 818 ++++ scripts/restart.sh | 20 + scripts/rolling-update.sh | 428 ++ scripts/stop-one.sh | 83 + src/AGENTS.md | 281 ++ src/__init__.py | 7 + src/__main__.py | 10 + src/api/AGENTS.md | 185 + src/api/__init__.py | 0 src/api/deps.py | 195 + src/api/handlers.py | 130 + src/api/identity.py | 89 + src/api/request_id.py | 83 + src/api/routes/__init__.py | 26 + src/api/routes/attachments.py | 161 + src/api/routes/chats.py | 46 + src/api/routes/health.py | 32 + src/api/routes/messages.py | 52 + src/api/routes/sessions.py | 29 + src/api/routes/users.py | 24 + src/api/schemas.py | 214 + src/broker.py | 295 ++ src/cache.py | 129 + src/cleaner/__init__.py | 1 + src/cleaner/__main__.py | 10 + src/cleaner/main.py | 313 ++ src/clock.py | 51 + src/config.py | 606 +++ src/constants.py | 140 + src/db.py | 185 + src/domain.py | 181 + src/early_stop.py | 63 + src/errors.py | 200 + src/healthcheck.py | 25 + src/images.py | 392 ++ src/log.py | 91 + src/main.py | 170 + src/pagination.py | 88 + src/passwords.py | 75 + src/relay/__init__.py | 0 src/relay/__main__.py | 9 + src/relay/main.py | 200 + src/renderer.py | 166 + src/s3.py | 368 ++ src/services/AGENTS.md | 205 + src/services/__init__.py | 17 + src/services/access.py | 21 + src/services/attachments.py | 412 ++ src/services/chats.py | 56 + src/services/cleanup.py | 225 + src/services/messages.py | 109 + src/services/processing.py | 239 + src/services/reconcile.py | 720 +++ src/services/relay.py | 109 + src/services/replay.py | 59 + src/services/sessions.py | 94 + src/services/users.py | 30 + src/storage/AGENTS.md | 182 + src/storage/__init__.py | 15 + src/storage/base.py | 382 ++ src/storage/cached.py | 215 + src/storage/objects.py | 148 + src/storage/pipeline.py | 504 ++ src/storage/postgres.py | 884 ++++ src/storage/tables.py | 474 ++ src/uploads.py | 63 + src/worker/__init__.py | 0 src/worker/__main__.py | 9 + src/worker/main.py | 214 + src/worker/render.py | 176 + student-tests/AGENTS.md | 153 + student-tests/conftest.py | 146 + student-tests/fault_hook.py | 708 +++ student-tests/fixtures/sample.jpg | Bin 0 -> 8804 bytes student-tests/helpers.py | 402 ++ student-tests/images.py | 160 + student-tests/stand.compose.yml | 28 + student-tests/stand.env | 11 + student-tests/stand.py | 517 ++ student-tests/test_attachments.py | 462 ++ student-tests/test_auth.py | 196 + student-tests/test_balancing.py | 77 + student-tests/test_cache.py | 61 + student-tests/test_failures.py | 769 +++ student-tests/test_idempotency.py | 252 + student-tests/test_pipeline.py | 350 ++ student-tests/test_processing.py | 194 + student-tests/test_race.py | 214 + student-tests/test_request_id.py | 86 + student-tests/test_rubric.py | 228 + uv.lock | 1124 +++++ 471 files changed, 85827 insertions(+), 24 deletions(-) create mode 100644 .agents/skills/lab5-bench/SKILL.md create mode 100644 .agents/skills/messenger-stand/SKILL.md create mode 100644 .codex/rules/messenger.rules create mode 100644 .python-version create mode 100644 AGENTS.md create mode 100644 Dockerfile create mode 100644 KNOWN_ISSUES.md create mode 100644 MR_DESCRIPTION.md create mode 100644 alembic.ini create mode 100644 bench/AGENTS.md create mode 100644 bench/RUNBOOK.md create mode 100644 bench/analysis.py create mode 100644 bench/bench.compose.yml create mode 100644 bench/bench.env create mode 100644 bench/common.py create mode 100644 bench/compare.py create mode 100644 bench/fill_objects.py create mode 100644 bench/loadgen.py create mode 100644 bench/plots.py create mode 100644 bench/queue.py create mode 100644 bench/reconcile.py create mode 100644 bench/run.py create mode 100644 bench/sampler.py create mode 100644 bench/uploads.py create mode 100644 compose.yaml create mode 100644 evidence/AGENTS.md create mode 100644 evidence/attachments/defense.txt create mode 100644 evidence/attachments/failover.txt create mode 100644 evidence/attachments/smoke.txt create mode 100644 evidence/broker/restart.txt create mode 100644 evidence/queue/baseline/cells.csv create mode 100644 evidence/queue/baseline/jobs.csv.gz create mode 100644 evidence/queue/baseline/meta.json create mode 100644 evidence/queue/baseline/raw/c2p2-x-r1-drain-gen.csv create mode 100644 evidence/queue/baseline/raw/c2p2-x-r1-drain-gen.json create mode 100644 evidence/queue/baseline/raw/c2p2-x-r1-fixed-gen.csv create mode 100644 evidence/queue/baseline/raw/c2p2-x-r1-fixed-gen.json create mode 100644 evidence/queue/baseline/raw/c2p2-x-r1-overload-gen.csv create mode 100644 evidence/queue/baseline/raw/c2p2-x-r1-overload-gen.json create mode 100644 evidence/queue/baseline/raw/c2p2-x-r1-recovery-gen.csv create mode 100644 evidence/queue/baseline/raw/c2p2-x-r1-recovery-gen.json create mode 100644 evidence/queue/baseline/raw/c2p2-x-r1-steady-gen.csv create mode 100644 evidence/queue/baseline/raw/c2p2-x-r1-steady-gen.json create mode 100644 evidence/queue/baseline/raw/c2p2-x-r1-worker.log create mode 100644 evidence/queue/baseline/raw/c2p32-s-r1-drain-gen.csv create mode 100644 evidence/queue/baseline/raw/c2p32-s-r1-drain-gen.json create mode 100644 evidence/queue/baseline/raw/c2p32-s-r1-fixed-gen.csv create mode 100644 evidence/queue/baseline/raw/c2p32-s-r1-fixed-gen.json create mode 100644 evidence/queue/baseline/raw/c2p32-s-r1-overload-gen.csv create mode 100644 evidence/queue/baseline/raw/c2p32-s-r1-overload-gen.json create mode 100644 evidence/queue/baseline/raw/c2p32-s-r1-recovery-gen.csv create mode 100644 evidence/queue/baseline/raw/c2p32-s-r1-recovery-gen.json create mode 100644 evidence/queue/baseline/raw/c2p32-s-r1-steady-gen.csv create mode 100644 evidence/queue/baseline/raw/c2p32-s-r1-steady-gen.json create mode 100644 evidence/queue/baseline/raw/c2p32-s-r1-worker.log create mode 100644 evidence/queue/baseline/raw/c4p4-l-r1-drain-gen.csv create mode 100644 evidence/queue/baseline/raw/c4p4-l-r1-drain-gen.json create mode 100644 evidence/queue/baseline/raw/c4p4-l-r1-fixed-gen.csv create mode 100644 evidence/queue/baseline/raw/c4p4-l-r1-fixed-gen.json create mode 100644 evidence/queue/baseline/raw/c4p4-l-r1-overload-gen.csv create mode 100644 evidence/queue/baseline/raw/c4p4-l-r1-overload-gen.json create mode 100644 evidence/queue/baseline/raw/c4p4-l-r1-recovery-gen.csv create mode 100644 evidence/queue/baseline/raw/c4p4-l-r1-recovery-gen.json create mode 100644 evidence/queue/baseline/raw/c4p4-l-r1-steady-gen.csv create mode 100644 evidence/queue/baseline/raw/c4p4-l-r1-steady-gen.json create mode 100644 evidence/queue/baseline/raw/c4p4-l-r1-worker.log create mode 100644 evidence/queue/baseline/raw/c4p4-s-r1-drain-gen.csv create mode 100644 evidence/queue/baseline/raw/c4p4-s-r1-drain-gen.json create mode 100644 evidence/queue/baseline/raw/c4p4-s-r1-fixed-gen.csv create mode 100644 evidence/queue/baseline/raw/c4p4-s-r1-fixed-gen.json create mode 100644 evidence/queue/baseline/raw/c4p4-s-r1-overload-gen.csv create mode 100644 evidence/queue/baseline/raw/c4p4-s-r1-overload-gen.json create mode 100644 evidence/queue/baseline/raw/c4p4-s-r1-recovery-gen.csv create mode 100644 evidence/queue/baseline/raw/c4p4-s-r1-recovery-gen.json create mode 100644 evidence/queue/baseline/raw/c4p4-s-r1-steady-gen.csv create mode 100644 evidence/queue/baseline/raw/c4p4-s-r1-steady-gen.json create mode 100644 evidence/queue/baseline/raw/c4p4-s-r1-worker.log create mode 100644 evidence/queue/baseline/raw/c4p4-x-r1-drain-gen.csv create mode 100644 evidence/queue/baseline/raw/c4p4-x-r1-drain-gen.json create mode 100644 evidence/queue/baseline/summary.md create mode 100644 evidence/queue/baseline/timeline.csv create mode 100644 evidence/queue/queue10/cells.csv create mode 100644 evidence/queue/queue10/jobs.csv.gz create mode 100644 evidence/queue/queue10/meta.json create mode 100644 evidence/queue/queue10/raw/c1p1-l-r1-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-l-r1-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-l-r1-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-l-r1-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-l-r1-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-l-r1-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-l-r1-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-l-r1-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-l-r1-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-l-r1-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-l-r1-worker.log create mode 100644 evidence/queue/queue10/raw/c1p1-l-r2-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-l-r2-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-l-r2-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-l-r2-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-l-r2-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-l-r2-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-l-r2-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-l-r2-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-l-r2-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-l-r2-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-l-r2-worker.log create mode 100644 evidence/queue/queue10/raw/c1p1-s-r1-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-s-r1-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-s-r1-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-s-r1-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-s-r1-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-s-r1-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-s-r1-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-s-r1-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-s-r1-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-s-r1-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-s-r1-worker.log create mode 100644 evidence/queue/queue10/raw/c1p1-s-r2-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-s-r2-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-s-r2-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-s-r2-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-s-r2-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-s-r2-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-s-r2-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-s-r2-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-s-r2-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-s-r2-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-s-r2-worker.log create mode 100644 evidence/queue/queue10/raw/c1p1-x-r1-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-x-r1-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-x-r1-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-x-r1-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-x-r1-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-x-r1-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-x-r1-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-x-r1-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-x-r1-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-x-r1-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-x-r1-worker.log create mode 100644 evidence/queue/queue10/raw/c1p1-x-r2-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-x-r2-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-x-r2-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-x-r2-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-x-r2-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-x-r2-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-x-r2-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-x-r2-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-x-r2-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c1p1-x-r2-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c1p1-x-r2-worker.log create mode 100644 evidence/queue/queue10/raw/c2p2-l-r1-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-l-r1-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-l-r1-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-l-r1-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-l-r1-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-l-r1-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-l-r1-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-l-r1-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-l-r1-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-l-r1-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-l-r1-worker.log create mode 100644 evidence/queue/queue10/raw/c2p2-l-r2-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-l-r2-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-l-r2-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-l-r2-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-l-r2-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-l-r2-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-l-r2-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-l-r2-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-l-r2-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-l-r2-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-l-r2-worker.log create mode 100644 evidence/queue/queue10/raw/c2p2-s-r1-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-s-r1-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-s-r1-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-s-r1-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-s-r1-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-s-r1-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-s-r1-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-s-r1-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-s-r1-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-s-r1-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-s-r1-worker.log create mode 100644 evidence/queue/queue10/raw/c2p2-s-r2-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-s-r2-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-s-r2-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-s-r2-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-s-r2-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-s-r2-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-s-r2-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-s-r2-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-s-r2-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-s-r2-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-s-r2-worker.log create mode 100644 evidence/queue/queue10/raw/c2p2-x-r1-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-x-r1-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-x-r1-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-x-r1-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-x-r1-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-x-r1-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-x-r1-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-x-r1-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-x-r1-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-x-r1-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-x-r1-worker.log create mode 100644 evidence/queue/queue10/raw/c2p2-x-r2-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-x-r2-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-x-r2-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-x-r2-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-x-r2-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-x-r2-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-x-r2-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-x-r2-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-x-r2-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p2-x-r2-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c2p2-x-r2-worker.log create mode 100644 evidence/queue/queue10/raw/c2p32-l-r1-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-l-r1-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-l-r1-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-l-r1-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-l-r1-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-l-r1-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-l-r1-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-l-r1-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-l-r1-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-l-r1-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-l-r1-worker.log create mode 100644 evidence/queue/queue10/raw/c2p32-l-r2-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-l-r2-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-l-r2-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-l-r2-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-l-r2-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-l-r2-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-l-r2-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-l-r2-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-l-r2-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-l-r2-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-l-r2-worker.log create mode 100644 evidence/queue/queue10/raw/c2p32-s-r1-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-s-r1-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-s-r1-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-s-r1-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-s-r1-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-s-r1-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-s-r1-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-s-r1-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-s-r1-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-s-r1-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-s-r1-worker.log create mode 100644 evidence/queue/queue10/raw/c2p32-s-r2-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-s-r2-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-s-r2-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-s-r2-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-s-r2-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-s-r2-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-s-r2-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-s-r2-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-s-r2-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-s-r2-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-s-r2-worker.log create mode 100644 evidence/queue/queue10/raw/c2p32-x-r1-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-x-r1-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-x-r1-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-x-r1-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-x-r1-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-x-r1-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-x-r1-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-x-r1-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-x-r1-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-x-r1-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-x-r1-worker.log create mode 100644 evidence/queue/queue10/raw/c2p32-x-r2-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-x-r2-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-x-r2-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-x-r2-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-x-r2-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-x-r2-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-x-r2-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-x-r2-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-x-r2-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c2p32-x-r2-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c2p32-x-r2-worker.log create mode 100644 evidence/queue/queue10/raw/c4p4-l-r1-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-l-r1-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-l-r1-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-l-r1-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-l-r1-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-l-r1-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-l-r1-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-l-r1-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-l-r1-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-l-r1-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-l-r1-worker.log create mode 100644 evidence/queue/queue10/raw/c4p4-l-r2-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-l-r2-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-l-r2-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-l-r2-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-l-r2-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-l-r2-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-l-r2-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-l-r2-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-l-r2-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-l-r2-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-l-r2-worker.log create mode 100644 evidence/queue/queue10/raw/c4p4-s-r1-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-s-r1-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-s-r1-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-s-r1-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-s-r1-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-s-r1-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-s-r1-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-s-r1-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-s-r1-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-s-r1-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-s-r1-worker.log create mode 100644 evidence/queue/queue10/raw/c4p4-s-r2-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-s-r2-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-s-r2-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-s-r2-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-s-r2-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-s-r2-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-s-r2-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-s-r2-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-s-r2-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-s-r2-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-s-r2-worker.log create mode 100644 evidence/queue/queue10/raw/c4p4-x-r1-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-x-r1-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-x-r1-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-x-r1-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-x-r1-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-x-r1-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-x-r1-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-x-r1-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-x-r1-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-x-r1-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-x-r1-worker.log create mode 100644 evidence/queue/queue10/raw/c4p4-x-r2-drain-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-x-r2-drain-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-x-r2-fixed-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-x-r2-fixed-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-x-r2-overload-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-x-r2-overload-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-x-r2-recovery-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-x-r2-recovery-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-x-r2-steady-gen.csv create mode 100644 evidence/queue/queue10/raw/c4p4-x-r2-steady-gen.json create mode 100644 evidence/queue/queue10/raw/c4p4-x-r2-worker.log create mode 100644 evidence/queue/queue10/raw/sampler-r1.jsonl.gz create mode 100644 evidence/queue/queue10/raw/sampler-r2.jsonl.gz create mode 100644 evidence/queue/queue10/summary.md create mode 100644 evidence/queue/queue10/timeline.csv create mode 100644 evidence/s3/privacy.txt create mode 100644 evidence/stand/migrations.txt create mode 100644 evidence/stand/persistence.txt create mode 100644 evidence/stand/s3-load.txt create mode 100644 evidence/stand/stand.txt create mode 100644 evidence/tests/failure-checks.txt create mode 100644 evidence/tests/measurement-host.txt create mode 100644 evidence/tests/test-isolated.txt create mode 100644 evidence/worker/limits.txt create mode 100644 infra/AGENTS.md create mode 100644 infra/haproxy/haproxy.cfg create mode 100644 infra/rabbitmq/rabbitmq.conf create mode 100755 infra/s3/bootstrap.sh create mode 100644 infra/valkey/valkey.conf create mode 100644 migrations/AGENTS.md create mode 100644 migrations/env.py create mode 100644 migrations/script.py.mako create mode 100644 migrations/versions/0001_messenger_schema.py create mode 100644 migrations/versions/0002_idempotency_keys.py create mode 100644 migrations/versions/0003_attachments.py create mode 100644 migrations/versions/0004_attachment_jobs.py create mode 100644 pyproject.toml create mode 100644 requirements.txt create mode 100755 scripts/lab5.py create mode 100755 scripts/restart.sh create mode 100755 scripts/rolling-update.sh create mode 100755 scripts/stop-one.sh create mode 100644 src/AGENTS.md create mode 100644 src/__init__.py create mode 100644 src/__main__.py create mode 100644 src/api/AGENTS.md create mode 100644 src/api/__init__.py create mode 100644 src/api/deps.py create mode 100644 src/api/handlers.py create mode 100644 src/api/identity.py create mode 100644 src/api/request_id.py create mode 100644 src/api/routes/__init__.py create mode 100644 src/api/routes/attachments.py create mode 100644 src/api/routes/chats.py create mode 100644 src/api/routes/health.py create mode 100644 src/api/routes/messages.py create mode 100644 src/api/routes/sessions.py create mode 100644 src/api/routes/users.py create mode 100644 src/api/schemas.py create mode 100644 src/broker.py create mode 100644 src/cache.py create mode 100644 src/cleaner/__init__.py create mode 100644 src/cleaner/__main__.py create mode 100644 src/cleaner/main.py create mode 100644 src/clock.py create mode 100644 src/config.py create mode 100644 src/constants.py create mode 100644 src/db.py create mode 100644 src/domain.py create mode 100644 src/early_stop.py create mode 100644 src/errors.py create mode 100644 src/healthcheck.py create mode 100644 src/images.py create mode 100644 src/log.py create mode 100644 src/main.py create mode 100644 src/pagination.py create mode 100644 src/passwords.py create mode 100644 src/relay/__init__.py create mode 100644 src/relay/__main__.py create mode 100644 src/relay/main.py create mode 100644 src/renderer.py create mode 100644 src/s3.py create mode 100644 src/services/AGENTS.md create mode 100644 src/services/__init__.py create mode 100644 src/services/access.py create mode 100644 src/services/attachments.py create mode 100644 src/services/chats.py create mode 100644 src/services/cleanup.py create mode 100644 src/services/messages.py create mode 100644 src/services/processing.py create mode 100644 src/services/reconcile.py create mode 100644 src/services/relay.py create mode 100644 src/services/replay.py create mode 100644 src/services/sessions.py create mode 100644 src/services/users.py create mode 100644 src/storage/AGENTS.md create mode 100644 src/storage/__init__.py create mode 100644 src/storage/base.py create mode 100644 src/storage/cached.py create mode 100644 src/storage/objects.py create mode 100644 src/storage/pipeline.py create mode 100644 src/storage/postgres.py create mode 100644 src/storage/tables.py create mode 100644 src/uploads.py create mode 100644 src/worker/__init__.py create mode 100644 src/worker/__main__.py create mode 100644 src/worker/main.py create mode 100644 src/worker/render.py create mode 100644 student-tests/AGENTS.md create mode 100644 student-tests/conftest.py create mode 100755 student-tests/fault_hook.py create mode 100644 student-tests/fixtures/sample.jpg create mode 100644 student-tests/helpers.py create mode 100644 student-tests/images.py create mode 100644 student-tests/stand.compose.yml create mode 100644 student-tests/stand.env create mode 100644 student-tests/stand.py create mode 100644 student-tests/test_attachments.py create mode 100644 student-tests/test_auth.py create mode 100644 student-tests/test_balancing.py create mode 100644 student-tests/test_cache.py create mode 100644 student-tests/test_failures.py create mode 100644 student-tests/test_idempotency.py create mode 100644 student-tests/test_pipeline.py create mode 100644 student-tests/test_processing.py create mode 100644 student-tests/test_race.py create mode 100644 student-tests/test_request_id.py create mode 100644 student-tests/test_rubric.py create mode 100644 uv.lock diff --git a/.agents/skills/lab5-bench/SKILL.md b/.agents/skills/lab5-bench/SKILL.md new file mode 100644 index 00000000..2e806151 --- /dev/null +++ b/.agents/skills/lab5-bench/SKILL.md @@ -0,0 +1,30 @@ +--- +name: lab5-bench +description: Load measurements of lab 5 for grade 5, track 1 "queue under overload" — worker concurrency/prefetch settings on small, large and huge-pixel images (profile queue), with throughput, queue lag, p95 time-to-ready, worker memory, backpressure (429 at the backlog limit) and recovery. Use when asked to run benchmarks, make bench-queue (or bench-queue-quick), or fill REPORT.md with measured numbers and the outcomes of hypotheses Q1–Q5. +--- + +# Замеры лабы 5 (трек 1) + +Сначала прочитай целиком (`cat`): **`bench/RUNBOOK.md`** (порядок шагов), +`bench/AGENTS.md` (правила стенда), корневой `AGENTS.md` (разделы 2, +8–11 действуют всегда). + +Коротко: + +1. Шаг 0 RUNBOOK: ресурсы ВМ Docker, самопроверки разбора + (`bench/queue.py --selftest` и остальные), `make test-isolated`, + `make failure-checks`, `make stop`, самопроверка `make bench-queue-quick`. + Остановка и отчёт пользователю. +2. Трек 1: `make bench-queue` → `evidence/queue/baseline/`; таблицы + классов и итоги Q1–Q5 из `summary.md` — в `REPORT.md`. +3. Последний шаг RUNBOOK: строки `TODO (Codex)` в `REPORT.md`, раздел + «Железо и стенд замеров», `make lint`, `make check`, `make + test-isolated`, уборка `vlad-bench*`. + +Нельзя: переписывать гипотезы и пороги после замеров, менять код +приложения или профиль ради результата, править файлы меток руками, +перезаписывать или удалять каталоги меток без согласия, считать числа +вручную вместо `summary.md`. Долгое — в фоне с журналом (`nohup make … > +/tmp/bench-*.log 2>&1 &`), docker — вне sandbox с одобрения +пользователя. `aborted`, `host_warnings`, упавшие проверки — остановиться +и сказать пользователю. diff --git a/.agents/skills/messenger-stand/SKILL.md b/.agents/skills/messenger-stand/SKILL.md new file mode 100644 index 00000000..4ee031eb --- /dev/null +++ b/.agents/skills/messenger-stand/SKILL.md @@ -0,0 +1,44 @@ +--- +name: messenger-stand +description: Run, check and operate the lab 5 messenger stand — HAProxy with API replicas, PostgreSQL, Valkey, SeaweedFS S3, RabbitMQ, relay, image worker, cleaner. Use when asked to start or stop the stand, run make test / student-test / test-isolated / failure-checks / s3-check, show the defense scenario (worker stopped → 202 → restart → ready), inspect the pipeline state, list or replay failed jobs, stop one replica, run cleanup or reconcile, do a rolling update, or reproduce an API bug over HTTP. +--- + +# Стенд мессенджера лабы 5 + +Команды — корневой `AGENTS.md`, раздел 4; устройство стенда, брокер, S3, +worker, таймауты, скрипты — `infra/AGENTS.md`; pipeline — +`src/services/AGENTS.md`; тесты — `student-tests/AGENTS.md`. + +| Задача | Команда | +|---|---| +| поднять стенд целиком | `make up` → `127.0.0.1:${HOST_PORT:-8080}` | +| публичный smoke / свои тесты | `make test`, `make student-test` | +| всё на чистом отдельном стенде | `make test-isolated` | +| проверки отказов (в том числе pipeline) | `make failure-checks [FAULT_ARGS=-rP]` | +| сценарий защиты, шаги 2–3 | `make defense` | +| задания по состояниям и очередь брокера | `make pipeline-state` | +| реестр failed / возврат | `make replay [ERROR_CODE=…]` / `make replay APPLY=1 ATTACHMENT= OPERATOR=<кто> REASON=<зачем>` | +| остановить / запустить worker | `make stop-worker` / `make start-worker` | +| журнал relay и worker | `make logs-pipeline` | +| приватность bucket вне API | `make s3-check` | +| вложение после остановки принявшей реплики | `make attachment-failover [STOP_MODE=kill]` | +| реплики за LB | `make instances`, `make lb-stats`, `make failover-each` | +| уборка / сверка (dry-run) | `make cleanup-once` / `make reconcile [STRATEGY=head] [DEEP=1]` | +| обновить код без простоя | `make rolling-update` | +| остановить / удалить контейнеры | `make stop` / `make down` (volume остаются) | + +Правила: + +- Порт занят другим сервисом — не убивать процесс: другие порты в `.env` + (`make env HOST_PORT=… POSTGRES_HOST_PORT=… VALKEY_HOST_PORT=… + S3_HOST_PORT=… BROKER_HOST_PORT=…` до первого `make up`) и + `BASE_URL=http://localhost:<порт>` у тестов и `make defense`. +- `make defense` останавливает worker и перезапускает хранилища и брокер + рабочего стенда (`scripts/restart.sh`); worker запускается при любом + исходе. +- `make replay APPLY=1` и `make reconcile APPLY=1` меняют рабочий стенд — + только с согласия пользователя; без `APPLY` — только показ. +- `make wipe`, `docker compose down -v` и любое удаление volume — только + с согласия пользователя. +- Пароли, ключи S3 и брокера из `.env`, токены не печатать; в + `evidence/` — только обезличенный вывод (`evidence/AGENTS.md`). diff --git a/.codex/rules/messenger.rules b/.codex/rules/messenger.rules new file mode 100644 index 00000000..ae8b7501 --- /dev/null +++ b/.codex/rules/messenger.rules @@ -0,0 +1,187 @@ +# Правила команд Codex для проекта (execpolicy, Starlark). +# +# Действуют на команды, которые Codex запускает вне sandbox (docker, сеть): +# allow — без вопроса; +# prompt — спросить пользователя перед каждым запуском; +# forbidden — не запускать никогда. +# Несколько совпавших правил — побеждает самое строгое (forbidden → +# prompt → allow). pattern — точный префикс аргументов команды; список в +# позиции — варианты. match / not_match — примеры, которые Codex +# проверяет при загрузке правил. +# +# Файл загружается, только если проект доверенный (слой .codex/ проекта +# trusted). После правки — перезапустить Codex. Проверка правила (команда — +# без «--» перед ней: с ним ничего не сопоставляется): +# codex execpolicy check --pretty --rules "$PWD/.codex/rules/messenger.rules" git push +# +# Источник запретов — корневой AGENTS.md, раздел 2 «Нельзя»; правила их +# дублируют на уровне команд, но не заменяют. + +# --- git: только смотреть; изменения — по просьбе пользователя ------------- + +prefix_rule( + pattern = ["git", ["status", "diff", "log", "show", "rev-parse", "ls-files"]], + decision = "allow", + justification = "Read-only git commands are always fine.", + match = ["git status", "git diff --stat", "git log --oneline -5"], + not_match = ["git commit -m x"], +) + +prefix_rule( + pattern = ["git", ["commit", "checkout", "switch", "reset", "stash", "rebase", "merge", "restore", "tag", "branch"]], + decision = "prompt", + justification = "AGENTS.md: git changes only when the user asked for them (commit message in English, conventional style).", + match = ["git commit -m 'feat: x'", "git reset --hard", "git checkout main"], + not_match = ["git status"], +) + +prefix_rule( + pattern = ["git", ["push", "clean"]], + decision = "forbidden", + justification = "Never push or clean the working tree: the user does it; git clean would delete evidence and local files.", + match = ["git push", "git push origin main", "git clean -fdx"], +) + +# --- данные стендов: удаление только с согласия ----------------------------- + +prefix_rule( + pattern = ["make", "wipe"], + decision = "prompt", + justification = "make wipe deletes the working stand volume (all data). Ask the user first (AGENTS.md, section 2, item 8).", + match = ["make wipe"], +) + +prefix_rule( + pattern = ["docker", "compose", "down", "-v"], + decision = "prompt", + justification = "down -v deletes volumes. The bench and test stands remove their own projects themselves; for the working stand ask the user.", + match = ["docker compose down -v", "docker compose down -v --remove-orphans"], + not_match = ["docker compose down"], +) + +prefix_rule( + pattern = ["docker", "volume", ["rm", "prune"]], + decision = "prompt", + justification = "Deleting volumes deletes data: only bench leftovers (vlad-bench*) and only with the user's consent.", + match = ["docker volume rm vlad-bench_pgdata", "docker volume prune -f"], +) + +prefix_rule( + pattern = ["docker", ["rm", "kill", "stop", "pause"]], + decision = "prompt", + justification = "Only own containers (vladimirceva-lab5*, vlad-bench*); never containers of other projects.", + match = ["docker rm -f vlad-bench-gen", "docker stop some-container"], +) + +prefix_rule( + pattern = ["docker", ["system", "builder", "image", "container", "network"], "prune"], + decision = "forbidden", + justification = "Prune touches every project on this machine. Remove own leftovers by name instead (bench/AGENTS.md).", + match = ["docker system prune -af", "docker image prune -a"], +) + +# --- процессы: не убивать по порту вслепую ------------------------------------ + +prefix_rule( + pattern = [["kill", "pkill", "killall"]], + decision = "prompt", + justification = "Kill only a PID whose command is `python -m src` (AGENTS.md, section 10). A published port on macOS belongs to com.docker.backend: killing it stops Docker Desktop.", + match = ["kill 12345", "pkill -f uvicorn"], +) + +prefix_rule( + pattern = ["rm", ["-rf", "-fr", "-r"]], + decision = "prompt", + justification = "Recursive delete: label folders in evidence/ are removed only with the user's consent (bench/AGENTS.md).", + match = ["rm -rf evidence/scaling/quick-x"], +) + +# --- проект: проверки, стенд, замеры — без вопроса ---------------------------- + +prefix_rule( + pattern = [ + "make", + [ + "install", "lint", "fmt", "check", "validate", "test", "load", + "test-persistence", "test-failover", "student-test", "test-isolated", + "failure-checks", "requirements", "requirements-check", "env", + "docker-build", "up", "stop", "down", "logs", "db-up", "run", + "migrate-local", "replicas", "instances", "lb-stats", + "failover-each", "rolling-update", + "attachment-failover", "s3-check", "cleanup-once", + "stop-worker", "start-worker", "defense", "pipeline-state", + "logs-pipeline", "run-relay", "run-worker", + "bench-queue", "bench-queue-quick", + "bench-uploads", "bench-uploads-quick", "bench-reconcile", + "bench-reconcile-quick", + "bench-failover", "bench-failover-quick", "bench-rollout", + "bench-rollout-quick", "bench-scaling", "bench-scaling-quick", + "bench-compare", "bench-plots", + ], + ], + decision = "allow", + justification = "Project targets: checks, the working stand without deleting data, bench profiles (bench/RUNBOOK.md).", + match = ["make lint", "make test-isolated", "make bench-queue", "make defense", "make failover-each STOP_MODE=kill"], + not_match = ["make wipe", "make reconcile APPLY=1", "make replay APPLY=1"], +) + +# реестр failed: показ ничего не меняет +prefix_rule( + pattern = ["make", "replay"], + decision = "allow", + justification = "Without APPLY=1 replay only lists failed jobs.", + match = ["make replay", "make replay ERROR_CODE=retry_exhausted"], +) + +# возврат failed в очередь меняет рабочую базу: спросить пользователя +prefix_rule( + pattern = ["make", "replay", "APPLY=1"], + decision = "prompt", + justification = "replay --apply returns failed jobs to the queue of the working stand and writes an audit row: ask the user first.", + match = ["make replay APPLY=1 ATTACHMENT=x OPERATOR=me REASON=s3"], +) + +# make reconcile без APPLY — dry-run: ничего не меняет +prefix_rule( + pattern = ["make", "reconcile"], + decision = "allow", + justification = "Dry-run reconcile only reports discrepancies (exit 0 or 3).", + match = ["make reconcile", "make reconcile STRATEGY=head DEEP=1"], +) + +# с APPLY=1 сверка удаляет объекты без строки и помечает потерянные +# оригиналы в рабочей базе: спросить пользователя +prefix_rule( + pattern = ["make", "reconcile", "APPLY=1"], + decision = "prompt", + justification = "reconcile --apply deletes orphan objects and marks lost originals in the working stand: ask the user first.", + match = ["make reconcile APPLY=1", "make reconcile APPLY=1 MAX_CHANGES=10"], +) + +prefix_rule( + pattern = ["docker", ["ps", "info", "version", "inspect", "logs", "images", "events", "exec", "cp", "build", "tag", "run", "start", "unpause"]], + decision = "allow", + justification = "Inspecting and running own stand containers; deletion is covered by stricter rules above.", + match = ["docker ps -a", "docker info", "docker logs -t vlad-bench-lb"], +) + +prefix_rule( + pattern = ["docker", "compose"], + decision = "allow", + justification = "Compose of this project; down -v is prompted by the stricter rule above.", + match = ["docker compose ps", "docker compose logs api"], +) + +prefix_rule( + pattern = ["uv", ["run", "sync", "lock", "export"]], + decision = "allow", + justification = "Project environment from uv.lock; new dependencies still need the user's consent (AGENTS.md, section 2, item 11).", + match = ["uv run pytest", "uv sync", "uv run python bench/reconcile.py --selftest"], +) + +prefix_rule( + pattern = [["python3", "python"], ["scripts/lab5.py", "student-tests/stand.py", "tests/smoke.py", "tests/resilience.py", "scripts/check_contract.py"]], + decision = "allow", + justification = "Project scripts on the host Python (stdlib only).", + match = ["python3 scripts/lab5.py s3-check", "python3 student-tests/stand.py isolated"], +) diff --git a/.dockerignore b/.dockerignore index bc16e556..75be601d 100644 --- a/.dockerignore +++ b/.dockerignore @@ -18,3 +18,17 @@ __pycache__ node_modules evidence .DS_Store +.codex +.agents +tests +student-tests +bench +contracts +infra +scripts +**/AGENTS.md +**/__pycache__ +**/*.pyc +**/.DS_Store +*.md +**/*.md diff --git a/.env.example b/.env.example index 119384b5..1911d622 100644 --- a/.env.example +++ b/.env.example @@ -1,6 +1,7 @@ # Copy to .env for your LOCAL synthetic test environment; never commit .env. # These are logical interface suggestions; map actual framework names in REPORT.md. -APP_HOST=0.0.0.0 +# Host process (make run); the container binds 0.0.0.0 in Dockerfile. +APP_HOST=127.0.0.1 APP_PORT=8080 APP_ENV=lab SESSION_TTL_SECONDS=3600 @@ -11,6 +12,8 @@ SESSION_STORE=postgres CACHE_URL_FILE=/run/secrets/cache_url API_REPLICAS=2 IDEMPOTENCY_TTL_SECONDS=86400 +# Lab 4 logical names (skeleton). Containers get S3_ENDPOINT from compose.yaml, +# make run overrides it with 127.0.0.1:S3_HOST_PORT; keys come from the lines below. S3_ENDPOINT=http://s3:9000 S3_REGION=us-east-1 S3_BUCKET=messenger-attachments @@ -18,8 +21,39 @@ S3_ACCESS_KEY_ID_FILE=/run/secrets/s3_access_key_id S3_SECRET_ACCESS_KEY_FILE=/run/secrets/s3_secret_access_key MAX_UPLOAD_BYTES=10485760 MAX_IMAGE_PIXELS=40000000 +# Lab 5 logical names (skeleton). BROKER_URL_FILE is not used: relay and worker +# get BROKER_HOST/BROKER_PASSWORD from compose.yaml (REPORT.md, «Конфигурация»). BROKER_URL_FILE=/run/secrets/broker_url WORKER_CONCURRENCY=2 JOB_MAX_ATTEMPTS=5 JOB_TIMEOUT_SECONDS=60 STAGING_RETENTION_SECONDS=86400 + +# Compose and make run. make env fills the empty passwords and keys locally. +HOST_PORT=8080 +POSTGRES_USER=messenger +POSTGRES_DB=messenger +POSTGRES_PASSWORD= +POSTGRES_HOST_PORT=5433 +VALKEY_PASSWORD= +VALKEY_HOST_PORT=6380 +LOG_LEVEL=INFO +SHUTDOWN_TIMEOUT=5 +# S3 (SeaweedFS): the root pair and the signing key stay with the s3 server; +# api, worker and cleaner have their own users created by s3-bootstrap. +S3_HOST_PORT=8334 +S3_ROOT_ACCESS_KEY= +S3_ROOT_SECRET_KEY= +S3_JWT_SIGNING_KEY= +S3_API_ACCESS_KEY= +S3_API_SECRET_KEY= +S3_WORKER_ACCESS_KEY= +S3_WORKER_SECRET_KEY= +S3_CLEANER_ACCESS_KEY= +S3_CLEANER_SECRET_KEY= +# RabbitMQ (lab 5): only relay and worker get the password. +BROKER_PASSWORD= +BROKER_HOST_PORT=5673 +WORKER_PREFETCH=2 +RENDER_MEMORY_MB=768 +UPLOAD_MAX_UNFINISHED=300 diff --git a/.gitignore b/.gitignore index b5a71896..04d5b3a0 100644 --- a/.gitignore +++ b/.gitignore @@ -25,8 +25,17 @@ bin/ obj/ coverage/ *.log +!evidence/**/raw/*.log .DS_Store .idea/ .vscode/ +# Temporary benchmark state and self-check results are not submission evidence. +bench/.bench.lock +evidence/failover/quick-*/ +evidence/rollout/quick-*/ +evidence/scaling/quick-*/ +evidence/uploads/quick-*/ +evidence/reconcile/quick-*/ +evidence/queue/quick-*/ # Keep small, sanitized evidence summaries in evidence/ under version control. # Inspect git diff --cached: ignore rules are not a secret scanner. diff --git a/.python-version b/.python-version new file mode 100644 index 00000000..24ee5b1b --- /dev/null +++ b/.python-version @@ -0,0 +1 @@ +3.13 diff --git a/AGENTS.md b/AGENTS.md new file mode 100644 index 00000000..c5fa856e --- /dev/null +++ b/AGENTS.md @@ -0,0 +1,309 @@ +# AGENTS.md — мессенджер MTUSI, лабораторная 5 + +REST API мессенджера с вложениями-изображениями и фоновой обработкой: +реплики API за HAProxy; PostgreSQL — источник истины (данные, сессии, +ключи идемпотентности, метаданные вложений, **задания обработки**); +Valkey — кэш карточек чатов; S3 (SeaweedFS) — staging и опубликованные +файлы; RabbitMQ — сообщения о заданиях; relay — outbox → брокер; worker — +обработка изображений в отдельном процессе; cleaner — уборка и сверка. +Загрузка отвечает **202 `queued`**, готовность клиент узнаёт из метаданных +(`ready` с вариантами `thumbnail`, `crop`, `optimized` или `failed` с +`error_code`). Код перенесён из лабы 4 (`mtusi2026lab4-vladimirceva`). Цель +— **«5»**: уровни 3 и 4 `README.md` и трек 1 «Очередь под перегрузкой». + +**Состояние (6 ноября 2026).** Код, тесты, стенд и все проверки без +нагрузки готовы и сняты на машине разработки (`evidence/`, таблица +доказательств `REPORT.md`): `make test`, `make test-isolated`, `make +failure-checks`, `make s3-check`, `make defense`. Трек 1 завершён: +`evidence/queue/queue10/`, 24 ячейки и 120 фаз, 14185 принятых загрузок, +5xx / failed / missing — 0; Q1–Q5 подтверждены, итоги в `REPORT.md`. +Гипотезы и пороги записаны до замеров — не переписывать. + +**Подготовка на этой машине (5 ноября 2026).** Хост и ВМ Docker имеют +10 CPU и 7,65 ГиБ памяти ВМ. Бюджет `queue` — 9,5 CPU / 6,0625 ГиБ: +PostgreSQL 1 CPU, HAProxy 0,5 CPU, S3 1 CPU / 768 МиБ; worker 2 CPU / 1536 МиБ во всех +ячейках. Полный замер — `evidence/queue/queue10/`. +При сверке с лабой 4 найден неперенесённый `a2047b5` (пустой JPEG-скан), +описан в `KNOWN_ISSUES.md`. Проверки подготовки — +`evidence/tests/measurement-host.txt`: `make test-isolated` — 140 passed, +все `results` 0; `make failure-checks` — 34 passed. На этом хосте для +проверок использован временный Compose 5.6.1 вместо системного 2.34. + +Стек: Python 3.13, FastAPI, uvicorn, pydantic v2, SQLAlchemy Core 2.1 + +asyncpg, alembic, argon2-cffi, redis-py, aiobotocore 3.x, aio-pika 10, +Pillow 12 (только в процессе рендера); PostgreSQL 18.6, Valkey 9.1.2, +HAProxy 3.4.6, SeaweedFS 4.48, RabbitMQ 4.3.7; uv, pip + `requirements.txt` +с хешами (в образе), pytest + httpx. + +## 1. Где инструкции и как их читать + +Codex сам загружает `AGENTS.md` от корня до рабочего каталога (вместе — не +больше 32 КиБ). Правила слоёв лежат глубже, поэтому **перед правкой файла +прочитай каждый `AGENTS.md` на пути к нему** (`cat`). + +| Файл | Когда читать | +|---|---| +| `AGENTS.md` (этот) | всегда: запреты, команды, карта, Definition of Done | +| `src/AGENTS.md` | любая правка в `src/`: слои, импорты, процессы, ошибки, конфиг (таблица переменных), логи | +| `src/api/AGENTS.md` | роуты, схемы, middleware, вход, `X-Instance-Id`, `Idempotency-Key`, вложения | +| `src/services/AGENTS.md` | бизнес-правила, загрузка, worker, relay, replay, уборка и сверка | +| `src/storage/AGENTS.md` | PostgreSQL: транзакции, гонки, вложения, задания и fencing; кэш; объекты S3 | +| `migrations/AGENTS.md` | схема, новые ревизии, совместимость с работающей версией | +| `infra/AGENTS.md` | `Dockerfile`, `compose.yaml`, S3, брокер, relay, worker, HAProxy, `scripts/*` | +| `student-tests/AGENTS.md` | свои тесты, отдельные стенды, проверки отказов | +| `evidence/AGENTS.md` | доказательства для `REPORT.md` | +| `bench/AGENTS.md`, `bench/RUNBOOK.md` | нагрузочный стенд; замеры трека 1 по шагам | + +Ещё Codex читает **правила команд** `.codex/rules/messenger.rules` (только у +доверенного проекта; после правки — перезапуск Codex; проверка — `codex +execpolicy check --pretty --rules "$PWD/.codex/rules/messenger.rules" make +wipe`) и **навыки** `.agents/skills/`: `lab5-bench` (замеры по RUNBOOK), +`messenger-stand` (стенд, проверки, демонстрация). Они дублируют раздел 2, +но не заменяют его. + +Конфликт: глубже — уточняет, но не отменяет раздел 2. Прямая просьба +пользователя важнее этих файлов, кроме пунктов «спросить». + +## 2. Нельзя + +1. **Менять skeleton преподавателя** (спросить): `contracts/`, `tests/`, + `scripts/` (кроме своих `restart.sh`, `stop-one.sh`, + `rolling-update.sh`, `lab5.py`), `lab.json`, `README.md`, `COURSE.md`, + `CONTRIBUTING.md`, `MAINTAINERS.md`, `Dockerfile.example`, + `compose.example.yaml`, `infra/README.md`, `requirements-dev.txt`, + `evidence/README.md`, `examples/`, `.github/`, верх `Makefile` до строки + `=====`. Публичный тест упал — чиним приложение. +2. **Подгонять тесты под код**: ослаблять `assert`, менять ожидаемый + статус, `skip`/`xfail`, удалять тест. +3. **Состояние в памяти процесса, от которого зависит корректность**: + данные, сессии, ключи, метаданные и **задания** — только PostgreSQL; + байты — только S3; сообщение брокера — только подсказка «посмотри + задание». `--workers`, gunicorn, `reload`; sticky session. Уборка и + сверка — только `cleaner`, публикация — только `relay`, обработка — + только `worker`. +4. **Порты реплик наружу и `container_name` у `api`**; консоль, master, + volume, filer SeaweedFS, мониторинг LB, management RabbitMQ — наружу. +5. **Файлы конфигурации приложения**: настройки — только переменные + окружения (`src/config.py`). +6. **JSON-логи, structlog, `print`** вместо логгера (`src/log.py`). +7. **Писать в лог** текст сообщений, `display_name`, `title`, username, + `filename` (только длину), пароль, токен, ключи, их хэши, + `Authorization`, `Idempotency-Key`, тела, параметры SQL, оператора и + причину replay (только длины). Можно id, ключ объекта, размеры. +8. **Git без просьбы**: `commit`, `push`, `checkout`, `reset`, `stash`, + `rebase`, `clean`. Смотреть можно. +9. **Удалять данные стенда без просьбы** (спросить): `make wipe`, `docker + compose down -v`, `docker volume rm`, очистку очереди брокера, + `FLUSHALL`, `TRUNCATE`/`DROP`, удаление объектов мимо API, каталоги + меток в `evidence/`; `make replay APPLY=1`, `make reconcile APPLY=1` на + рабочем стенде. +10. **Секреты и `.env`** в git, образ, `evidence/`, вывод и отчёт; `COPY . + .`. Административную пару S3 — никому, кроме `s3`; пароль брокера — + только `rabbitmq`, `relay`, `worker`. +11. **Незакреплённые версии**: `latest`, тег без digest, пакет без lock. +12. **Новая зависимость** (спросить). +13. **Миграция, которая ломает работающую версию**: только expand; + применённую ревизию не править. +14. **`HTTPException`** в сервисах и хранилище, **403**, **422** наружу; + прозрачные повторы `POST`. +15. **Обходить sandbox Codex** (раздел 10). +16. **Выдумывать результаты**: в отчёт и `evidence/` — только реальный + вывод команд, которые ты запустил. Гипотезы Q1–Q5 не переписывать. +17. **Чинить попутно найденное** без просьбы: записать в `KNOWN_ISSUES.md`. +18. **Менять код приложения ради замеров** (спросить). + +## 3. Порядок работы + +1. Откуда требование: `README.md` (рубрика), `contracts/README.md` + («Фоновая обработка (с lab5)»), `contracts/attachment-states.md`, + `contracts/jobs.schema.json`, `contracts/openapi.json`, `COURSE.md`. + Неясно — спроси. Ответ преподавателя — в раздел 12. +2. Прочитай нужные `AGENTS.md` и затрагиваемые файлы целиком. +3. Задача больше пары файлов — короткий план в чате. +4. Минимальный дифф. 5. Проверки раздела 8. 6. Отчёт — раздел 11. + +## 4. Команды + +| Команда | Что делает | +|---|---| +| `make install` / `make env [HOST_PORT=…]` | `uv sync` / `.env` со случайными паролями и ключами (существующий дополняется) | +| `make up` | postgres, valkey, s3, rabbitmq → migrate, s3-bootstrap → api × `API_REPLICAS` (2), relay, worker, cleaner → haproxy; ждёт healthy | +| `make stop` / `make down` / `make logs` / `make logs-pipeline` | остановить / удалить контейнеры (volume остаются) / журнал реплик / relay и worker | +| `make wipe` | удалить контейнеры и volume `pgdata`, `s3data`, `rmqdata`: только после `yes` | +| `make test [BASE_URL=...]` | публичный smoke (202, ready, оригинал, thumbnail 256×160) | +| `make defense` | шаги 2–3 защиты: worker стоп → 202 → ссылка → 409 → `restart.sh` → worker → ready | +| `make stop-worker` / `make start-worker` / `make pipeline-state` | worker; задания по состояниям и очередь брокера | +| `make replay [ERROR_CODE=…] [ATTACHMENT=…] [APPLY=1 OPERATOR=… REASON=…]` | реестр failed; с `APPLY=1` — возврат с аудитом (коды 0/3/1/2) | +| `make test-persistence ACTION_SCRIPT=scripts/restart.sh` | данные, токен, оригинал после рестарта LB, реплик, хранилищ и брокера | +| `make test-failover ACTION_SCRIPT=scripts/stop-one.sh` / `make failover-each` | отказ одной реплики | +| `make student-test [BASE_URL=…] [EXPECT_REPLICAS=…]` | свои тесты против стенда (без отказов) | +| `make test-isolated` / `make failure-checks [FAULT_ARGS=-rP]` | отдельный стенд: всё выше / проверки отказов (в том числе pipeline) | +| `make attachment-failover` / `make s3-check` | вложение после остановки принявшей реплики / приватность bucket | +| `make replicas` / `make instances` / `make lb-stats` / `make rolling-update` | реплики за LB | +| `make cleanup-once` / `make reconcile [APPLY=1] …` | уборщик (с лабы 5 — и staging) / сверка (dry-run по умолчанию) | +| `make db-up` / `make run` / `make run-relay` / `make run-worker` / `make migrate-local` | процессы на хосте рядом с хранилищами стенда | +| `make lint` / `make fmt` / `make check` / `make validate PYTHON=.venv/bin/python` | ruff; офлайн-проверки skeleton | +| `make requirements` / `make requirements-check` | `requirements.txt` из `uv.lock` | +| `make bench-queue [QUEUE_LABEL=…]` / `make bench-queue-quick` | трек 1 под нагрузкой (`bench/RUNBOOK.md`); `quick-*` в отчёт не идут | +| `make bench-uploads`, `bench-reconcile`, `bench-failover`, `bench-rollout`, `bench-scaling` | профили лаб 3–4 (сохранены, в лабе 5 не обязательны) | + +Проверки ходят на `http://localhost:8080` (HAProxy). Внешние порты в +`.env`: `HOST_PORT`, `POSTGRES_HOST_PORT` (5433), `VALKEY_HOST_PORT` (6380), +`S3_HOST_PORT` (8334), `BROKER_HOST_PORT` (5673); разовая подмена — `make +test BASE_URL=http://localhost:8090`. Тесты против рабочего стенда +оставляют данные; чистый прогон — `make test-isolated`. + +## 5. Карта кода + +``` +src/ python -m src (__main__ → early_stop.install() → main.run()): API + main.py create_app(): Db, кэш, хранилище, S3, места загрузок, пароли, роутеры + config.py Settings.from_env(): Database, Cache, ObjectStorage, Uploads, Cleaner, Broker, Pipeline, Relay + constants.py, log.py, errors.py, clock.py, domain.py, pagination.py, healthcheck.py, early_stop.py + images.py структурная проверка PNG/JPEG на входе API (stdlib) + db.py, cache.py, s3.py, uploads.py, passwords.py инфраструктура процесса + broker.py RabbitMQ (aio-pika): JobPublisher (confirms) и JobConsumer (qos, ack), формат сообщения + renderer.py ImageRenderer: процесс обработки на задание, лимиты, коды выхода → исходы + worker/ python -m src.worker: потребитель + WORKER_CONCURRENCY задач; render.py — дочерний процесс Pillow + relay/ python -m src.relay: outbox → брокер, аренды, потерянные; `replay` — реестр failed + cleaner/ python -m src.cleaner: брошенные загрузки, staging, сверка + api/ routes/, schemas, deps, identity, request_id, handlers + services/ User/Session/Chat/Message/Attachment, Processing, Relay, Replay, Cleanup, Reconcile + storage/ base.py (Storage, MaintenanceStorage, PipelineStorage), postgres.py, pipeline.py, cached.py, tables.py, objects.py +migrations/ 0001 лаба 2, 0002 ключи, 0003 вложения, 0004 задания, варианты, журнал replay (expand) +student-tests/ тесты по HTTP; test_processing.py, test_pipeline.py (лаба 5); stand.py, fault_hook.py +bench/ нагрузочный стенд; профиль queue — трек 1 (bench/AGENTS.md) +infra/ haproxy/, valkey/, s3/bootstrap.sh, rabbitmq/rabbitmq.conf +scripts/ restart.sh, stop-one.sh, rolling-update.sh, lab5.py (свои); остальное — skeleton +.codex/rules/, .agents/skills/, evidence/, Dockerfile, compose.yaml, pyproject.toml, uv.lock, requirements.txt +``` + +Поток: HAProxy → реплика (401, 400, 404, 415, 413, 429 предела, 429 места, +тело, структура) → строка `pending` → PUT в staging → `queued` + задание +(одна транзакция) → **202**. Дальше без клиента: relay публикует задание с +подтверждением → worker захватывает с арендой → GET staging, рендер в +отдельном процессе, PUT оригинала и вариантов → фиксация `ready` +(fencing по номеру попытки) → ack. Подробно — `src/services/AGENTS.md`. + +## 6. Контракт: самое важное + +- Каждый ответ — `X-Request-Id` и `X-Instance-Id`; ошибка — `{"error": + {"code", "message", "request_id"}}`; 422 и 403 — никогда. +- Загрузка — сырые байты PNG/JPEG ≤ 10 MiB, ≤ 40 млн пикселей; **202** со + снимком `queued` только после staging и задания в PostgreSQL. Задание + ждёт и при остановленных брокере и worker. +- Метаданные: `queued`/`processing`/`ready`/`failed`, `variants` (thumbnail + JPEG ≤ 256×256, crop JPEG 128×128, optimized WebP ≤ 1280×1280), + `error_code` у `failed` (`invalid_image`, `image_too_large`, + `source_missing`, `processing_failed`, `retry_exhausted`). +- Байты (`/content?variant=`): не готово или `failed` — 409; варианта у + готового нет — 404. +- Сообщение: `attachment_ids` до 10 видимых вложений этого чата (`queued`, + `processing`, `ready`); `failed` — 409. Пустой текст — только с вложением. + +## 7. Конфигурация, логи, Docker, зависимости + +**Переменные** читает только `src/config.py`; неверное значение — код 2. +Группы: `APP_*`, `LOG_LEVEL`, `DB_*`, `CACHE_*`, `S3_*`, `UPLOAD_*` +(`UPLOAD_MAX_UNFINISHED` — предел незавершённых заданий), `CLEANER_*`, +`STAGING_RETENTION_SECONDS`, `RECONCILE_*`, `BROKER_*`, `WORKER_*`, +`JOB_*`, `RENDER_MEMORY_MB`, `RELAY_*`. Таблица — `src/AGENTS.md`. +`WORKER_FAULT`, `RELAY_FAULT` — точки сбоя только для проверок отказов. + +**Логи**: строка на событие `время уровень логгер [rid=...] сообщение +key=value`. Строки `attachment processed …`, `job delivery skipped …`, +`reconcile pass finished …` разбирают `bench/` и тесты — имена полей не +менять. + +**Docker, compose, S3, брокер, HAProxy** — `infra/AGENTS.md`. Числа менять +только вместе: аренда задания `JOB_TIMEOUT_SECONDS + JOB_LEASE_MARGIN_SECONDS` +(60 + 20 с) > времени рендера и записи; `timeout server` пути загрузки 40 с +> 5 + 30 с; `CLEANER_GRACE` 900 с > 21 с; дренаж замены 90 с > 40 с. + +**Зависимости**: `pyproject.toml` → `uv lock` → `make requirements` → `make +requirements-check` → пересборка образа. + +## 8. Definition of Done + +- [ ] `make fmt`, затем `make lint` — без ошибок; +- [ ] `make test-isolated` — в `results` все 0; +- [ ] правка хранилища, вложений, pipeline, уборщика, сверки, сессий, + ключей, кэша, клиентов, таймаутов — ещё `make failure-checks`; +- [ ] правка `compose.yaml`, `haproxy.cfg`, `infra/`, `scripts/*` — `make + up`, `make test`, `make defense`, `make s3-check`, `make + attachment-failover`, `make test-persistence + ACTION_SCRIPT=scripts/restart.sh`, `make failover-each`; +- [ ] правка схемы — новая expand-ревизия, `alembic check` без расхождений; +- [ ] правка `Dockerfile`, зависимостей — `make up`, всё healthy, `make + test`, `make requirements-check`; +- [ ] правка `bench/` — самопроверки разбора и `make bench-queue-quick`; +- [ ] новое поведение из рубрики — тест в `student-tests/`; +- [ ] изменилось описанное в `REPORT.md`, `evidence/`, `AGENTS.md` — + обновлено там же; +- [ ] остановлены серверы и контейнеры, которые ты запустил. + +Не смог выполнить пункт — так и напиши, с причиной. + +## 9. Если тест или проверка упали + +1. Воспроизведи и прочитай вывод целиком. +2. Причина: **дефект приложения** → код; **ошибка теста** (противоречит + контракту или зависит от случайного) → тест, с объяснением; **стенд** + (чужой сервис на порту, старый образ, не тот `BASE_URL`, остатки + прерванного прогона, брокер или S3 ещё не healthy) → стенд. +3. Неясно — остановись и спроси. + +Тест `tests/` не правится никогда. Проверки отказов меряют время с запасом; +на загруженном хосте возможно ложное падение — один перезапуск и сказать. + +## 10. Особенности Codex + +- В sandbox нет сети и часто нет docker: запроси запуск вне sandbox + (правила `.codex/rules/`) или попроси пользователя; команду — дословно. +- Долгие команды (`make bench-queue` — ~1,5 ч, `make failure-checks` — + ~8 мин) — в фоне: `nohup make … > /tmp/x.log 2>&1 &`, затем `tail`. +- Не убивать процесс по порту вслепую: порт контейнера на macOS держит + `com.docker.backend`. Чужие контейнеры не трогать — другой порт (`make + env HOST_PORT=… … BROKER_HOST_PORT=…` до первого `make up`). +- Держи этот файл ≤ ~28 КБ (`wc -c`). Новое правило слоя — во вложенный + `AGENTS.md`. + +## 11. Отчёт пользователю + +По-русски, коротко: что сделано; какие проверки и с каким итогом +(`N passed`, `PASS: lab5 ...`, `results: {...}`, метки `evidence/…`); что +не проверено и почему; что записано в `KNOWN_ISSUES.md`. + +## 12. Согласования с преподавателем + +Договорённости, которых нет в skeleton. Каждую упомянуть в `REPORT.md`. + +| Дата | Договорённость | Где учтено | +|---|---|---| +| 2026-10-20 | Лаба 4: «пустой текст» сообщения — и `""`, и строка из одних пробелов. `" "` с ≥ 1 вложением — 201, без вложений — 400 | `src/api/schemas.py` (`CreateMessage`), `student-tests/test_attachments.py`, `REPORT.md` | + +## 13. Стиль кода + +- ruff: строка 88, py313; формат — `make fmt`. Аннотации везде. Скрипты на + `python3` хоста (`student-tests/stand.py`, `fault_hook.py`, + `scripts/lab5.py`, `bench/`) — stdlib, Python 3.9+. +- Методы сервисов и изменяющие методы хранилища — keyword-only. +- Комментарии и докстринги — короткие, по-русски, «почему». Логи и + `error.message` — по-английски. +- Коммиты (только по просьбе): английский, conventional. + +## 14. Документы решения + +`REPORT.md` (отчёт, гипотезы Q1–Q5, ответы защиты), `evidence/`, +`KNOWN_ISSUES.md`, `bench/RUNBOOK.md`. Доказательства лаб 3–4 — в их +репозиториях. + +## 15. Дальше: лаба 6 + +Новый skeleton — отдельный репозиторий; сначала его `COURSE.md` +(телеметрия). Переносить своё (код, тесты, миграции, `bench/`, `infra/` +кроме `README.md`, свои `scripts/*`, Dockerfile, compose, lock-файлы, +`AGENTS.md`, `.codex/`, `.agents/`, `KNOWN_ISSUES.md`); `Makefile`, +`.env.example`, `.gitignore`, `.dockerignore` — сливать; skeleton, `.env`, +volumes, `REPORT.md`, `evidence/` — не копировать. `name:` compose — +`vladimirceva-lab6`. diff --git a/Dockerfile b/Dockerfile new file mode 100644 index 00000000..7fd46cef --- /dev/null +++ b/Dockerfile @@ -0,0 +1,65 @@ +# Один образ на все процессы лабы 5: API (`python -m src`), миграции, +# relay (`-m src.relay`), worker (`-m src.worker`, Pillow — только в его +# дочернем `-m src.worker.render`) и уборщик (`-m src.cleaner`). Процесс +# выбирает entrypoint сервиса compose. Правила — infra/AGENTS.md. +# +# Базовый образ один на оба stage и закреплён точной патч-версией плюс +# digest мультиарх-индекса (amd64 и arm64): venv из deps работает только с +# тем же интерпретатором. Чтобы обновить, взять новый тег и значение поля +# Digest, которое печатает buildx imagetools inspect для этого тега. + +# deps: зависимости строго по requirements.txt (экспорт uv.lock с хешами). +# У asyncpg, greenlet и argon2-cffi-bindings есть готовые колёса для +# linux amd64/arm64: компилятор в образе не нужен +FROM python:3.13.15-slim-trixie@sha256:7c61056e61ac89e852de05f3dc6fa51a6dd2181797bceed46aa725dd7cb2cd3b AS deps + +ENV PIP_NO_CACHE_DIR=1 \ + PIP_DISABLE_PIP_VERSION_CHECK=1 + +RUN python -m venv /opt/venv +COPY requirements.txt /tmp/requirements.txt +# --require-hashes: пакет с другим хешем или без пина — сборка падает; +# --no-deps: ставится ровно список из файла, без догрузки зависимостей; +# --only-binary: сборка из исходников (sdist) запрещена +RUN /opt/venv/bin/pip install --require-hashes --no-deps --only-binary=:all: \ + -r /tmp/requirements.txt + + +# runtime: интерпретатор базового образа, venv и код; без pip-кэша и тестов +FROM python:3.13.15-slim-trixie@sha256:7c61056e61ac89e852de05f3dc6fa51a6dd2181797bceed46aa725dd7cb2cd3b AS runtime + +RUN groupadd --system --gid 10001 messenger \ + && useradd --system --uid 10001 --gid messenger --no-create-home \ + --home-dir /nonexistent --shell /usr/sbin/nologin messenger + +# Фиксированный порог mmap в 128 KiB: всё крупнее glibc выделяет через +# mmap, и BytesIO с телом загрузки (до 10 MiB) расширяется mremap без +# копирования. По умолчанию порог плавающий — после первой загрузки glibc +# задирает его почти до 10 MiB, буфер переезжает в кучу, и при realloc в +# памяти на мгновение оказываются две копии тела +ENV PATH=/opt/venv/bin:$PATH \ + PYTHONUNBUFFERED=1 \ + PYTHONDONTWRITEBYTECODE=1 \ + MALLOC_MMAP_THRESHOLD_=131072 \ + APP_HOST=0.0.0.0 \ + APP_PORT=8080 + +WORKDIR /app + +# владелец файлов — root, процесс от messenger может их только читать. +# Миграции едут в том же образе: сервис migrate запускает его с командой +# `python -m alembic upgrade head` +COPY --from=deps /opt/venv /opt/venv +COPY src ./src +COPY alembic.ini ./ +COPY migrations ./migrations + +USER messenger:messenger + +EXPOSE 8080 + +HEALTHCHECK --interval=10s --timeout=3s --start-period=10s --start-interval=1s \ + --retries=3 CMD ["python", "-m", "src.healthcheck"] + +# без shell-обёртки: python становится PID 1, и SIGTERM приходит прямо ему +CMD ["python", "-m", "src"] diff --git a/KNOWN_ISSUES.md b/KNOWN_ISSUES.md new file mode 100644 index 00000000..4aed04dc --- /dev/null +++ b/KNOWN_ISSUES.md @@ -0,0 +1,142 @@ +# Известные проблемы + +Найдены попутно и не исправлены без отдельной просьбы (AGENTS.md, +раздел 2, п. 17). Формат: что, где, симптом, предложение. Исправленное +удаляется отсюда. + +## Лаба 5 + +### SeaweedFS с лимитом 512 МиБ может погибнуть на крупных загрузках + +Метка `evidence/queue/baseline/` прервана на пятой ячейке. В +`c4p4-l-r1` API получил 308 ответов 5xx в перегрузке и 49 при +восстановлении; 14 принятых заданий завершились `retry_exhausted` +из-за недоступного S3. Журнал ядра Docker от 2026-11-05T20:43:04Z: +`weed invoked oom-killer`, память cgroup 524292 kB при лимите +524288 kB, процесс `weed` убит. Это ограничение инфраструктуры S3; +при выборе ресурсов рабочего стенда нужно учитывать нагрузку крупных +объектов. Доказательство — `evidence/stand/s3-load.txt` и прерванная +метка. В профиле очереди S3 выделены 768 МиБ, `GOMEMLIMIT=400MiB`. + +### Из лабы 4 не перенесён запрет JPEG с пустым сканом + +Сверка с соседним репозиторием лабы 4 после её замеров обнаружила +коммит `a2047b5` (`fix: reject JPEG scans without image data`), отсутствующий +в лабе 5: в `src/images.py` нет `_JPEG_EMPTY_SCAN`, в +`student-tests/test_attachments.py` — четырёх случаев +`test_jpeg_without_scan_data_is_415`, в `student-tests/images.py` — +генератора `jpeg_with_scan_data`. Проверка текущего `inspect_image` +на JPEG только из заголовков возвращает `ImageInfo` 1×1 вместо +`DamagedImage`; данные скана из одних маркеров перезапуска также не +отсекаются этой проверкой. Предложение: отдельно перенести исправление +и четыре теста, затем выполнить изолированные проверки. Самостоятельно +не переносилось: RUNBOOK требует только перечислить пропущенные правки. + +### Зависание Docker credential helper при загрузке публичного образа + +На текущем хосте `make test-isolated` остановился на `rabbitmq Pulling`: +дочерний `docker-credential-desktop` несколько минут не завершался, +контейнеры ещё не создавались. Docker Hub с хоста доступен (HTTP 401 +на `/v2/`), а анонимный pull того же закреплённого digest с временным +`DOCKER_CONFIG` прошёл. Первый прогон завершён с ошибкой окружения +после остановки его helper, тестовый скрипт выполнил cleanup. Для +следующего прогона использована отдельная конфигурация в `/private/tmp/` +без credential helper и существующий Docker socket; пользовательская +конфигурация и связка ключей не изменялись. Причина зависания helper +не выяснена; при обычном запуске может повториться. + +### Системный Compose 2.34 не проходит подготовку изолированного стенда + +При `student-tests/stand.py:start_lb` команда `up --wait api relay +worker haproxy` на Compose 2.34.0-desktop.1 завершается с +`container ...-relay-1 has no healthcheck configured`. Реплики API, +хранилища и HAProxy healthy, worker уже потребляет очередь; pytest +не запускается, `results: {'setup': 1}`. В `compose.yaml` у relay и +worker healthcheck намеренно отключён. Код не менялся; для следующего +прогона взят официальный Compose 5.6.1 (версия машины разработки), +его SHA-256 проверен, бинарник и конфигурация помещены в `/private/tmp/`. +Системный Compose остался прежним. Следует явно указывать совместимую +версию Compose при повторении проверок на этой машине. На временном +Compose 5.6.1 `make test-isolated` прошёл: 140 passed, все пять +значений `results` — 0 (`evidence/tests/measurement-host.txt`). + +### Смесь версий при замене реплик лабы 4 на лабу 5 + +`scripts/rolling-update.sh` меняет реплики по одной. Пока работает хоть +одна реплика лабы 4, её загрузки отвечают 201 `ready`, задания не пишутся, +вариантов у таких вложений нет (метаданные `ready` с `variants: []`, +`?variant=thumbnail` — 404). Схема 0004 это допускает (expand), но +клиент на время замены видит два поведения. Предложение: первый релиз +лабы 5 выкатывать `make down` + `make up` (с простоем) или дописать +разовую команду, которая ставит задания готовым вложениям без вариантов. + +### JPEG без таблиц квантования проходит проверку API + +`src/images.py:_inspect_jpeg` проверяет маркеры, кадр и скан, но не +наличие DQT. Такой файл получает 202, а worker переводит его в `failed` +с `invalid_image` (`student-tests/test_processing.py:: +test_undecodable_image_fails_with_safe_code`). Контракт требует 415 для +заведомо повреждённых файлов на входе. Предложение: в `_inspect_jpeg` +собирать номера таблиц DQT и требовать, чтобы каждая компонента кадра +ссылалась на определённую до SOS. + +### Эвристика потерянных сообщений видит только «ready» в очереди + +`src/services/relay.py`: `republish_lost` срабатывает, когда в очереди нет +сообщений, готовых к выдаче (`message_count` пассивного объявления), а +задание опубликовано дольше `RELAY_REPUBLISH_AFTER`. Сообщения, уже +выданные worker и ждущие во внутренней очереди процесса (prefetch больше +concurrency), в этот счёт не входят. При очень большом prefetch и долгих +заданиях relay опубликует их повторно: исход верный (старая попытка +станет `stale`), но работа брокера и worker лишняя. Предложение: брать +ещё `messages_unacknowledged` (management API) или не республиковать, +пока у очереди есть потребители с неподтверждёнными сообщениями. + +### Долгий отказ PostgreSQL и предел доставок quorum-очереди + +`src/worker/main.py:_one`: PostgreSQL не ответил на захвате — сообщение +возвращается в очередь через 1 с. У quorum-очереди RabbitMQ 4 есть +предел повторных доставок (по умолчанию 20), после него сообщение +отбрасывается. Задание при этом цело в PostgreSQL и вернётся через +`republish_lost`, но не раньше `RELAY_REPUBLISH_AFTER`. Предложение: +пауза перед возвратом с ростом или собственный `x-delivery-limit` под +ожидаемую длину отказа. + +### Шум aiormq в журнале при остановке брокера + +При `docker compose stop rabbitmq` библиотека aiormq пишет `ERROR` и +traceback `CONNECTION_FORCED` в журнал relay и worker, хотя дальше их +код штатно переподключается (строки `broker … failed`, затем `broker +consuming`). Предложение: поднять уровень логгера `aiormq.connection` до +`CRITICAL` в `src/log.py` и оставить только свои строки. + +### SAWarning в `alembic check` + +`alembic check` (alembic 1.20.0, SQLAlchemy 2.1.1) печатает `SAWarning: +Can't validate argument 'dialect_options'; can't locate any SQLAlchemy +dialect named 'dialect'` из `migrations/env.py:54`, затем «No new upgrade +operations detected» (`evidence/stand/migrations.txt`). Предупреждение +появляется при сравнении отражённых индексов, на результат проверки не +влияет; источник не выяснен. Предложение: проверить на минимальной схеме +с одним частичным индексом и, если это библиотека, закрепить фильтр +`warnings` только для этой строки в `env.py` или дождаться исправления. + +## Перенесено из лабы 3 (bench/, серии трека 1 лабы 3) + +Профили лабы 3 в лабе 5 сохранены, но не обязательны. + +### Возобновление прерванной серии требует доработки + +Статический анализ `bench/run.py:run_scaling` и `scaling_cell`: ветка +`resume` сохраняет прежний `meta.aborted`, а финальная проверка этого +поля возвращает ошибку даже после завершения оставшихся ячеек. Повтор +незавершённой ячейки добавляет строки с теми же номерами. Предложение: +восстанавливать только незавершённую ячейку и снимать `aborted` после +успешного продолжения. + +### Подпись насыщения для A/B с одной конфигурацией + +В `bench/plots.py:saturation` единственная точка возвращает `None`, а +`main` трактует это как продолжающийся рост ≥ 10 %. Предложение: +отдельно печатать «недостаточно конфигураций» при числе точек меньше +двух. diff --git a/MR_DESCRIPTION.md b/MR_DESCRIPTION.md new file mode 100644 index 00000000..b5b549bc --- /dev/null +++ b/MR_DESCRIPTION.md @@ -0,0 +1,59 @@ +# ЛР 5 — БВТ2301 — Владимирцева — на 5 + +Автор / группа: Владимирцева, БВТ2301. +Целевая оценка: **5**. +Трек: **1 — «Очередь под перегрузкой»**. + +Загрузка вложения отвечает `202 queued` после сохранения оригинала в +staging S3 и задания в PostgreSQL. Отдельный worker обрабатывает +изображение; клиент получает состояние `ready` с вариантами thumbnail, +crop и optimized либо `failed` с безопасным кодом ошибки. + +Перенесён мессенджер лабораторных 2–4: API за HAProxy, PostgreSQL, +Valkey, приватное S3, сессии, идемпотентность, вложения и проверки +сохранности данных. Реализованы transactional outbox и relay с publisher +confirms, RabbitMQ quorum queue, ручной ack после фиксации результата, +аренды и fencing, ограниченные повторы с backoff, реестр failed и replay +с аудитом. Рендер выполняется в отдельном процессе с лимитами памяти, +CPU и времени; staging убирает cleaner. + +Запуск из чистого clone (Docker Compose 5.6.1 и uv): + +```sh +make install +make env +make up +make test +``` + +Проверки и доказательства: + +- `make fmt`, `make lint`, `make check`, `make requirements-check` — PASS. +- `make test-isolated` — **140 passed**, smoke, failover, + attachment-failover и persistence: все пять значений `results` — 0. +- `make failure-checks` — **34 passed**; окна отказов relay/worker, + рестарт брокера, повторы, replay и отказы хранилищ проверены. +- `make bench-queue QUEUE_LABEL=queue10` — **24 ячейки, 120 фаз, + 14185 загрузок**, 5xx / failed / missing — 0. Все Q1–Q5 подтверждены. + Сравниваются четыре настройки worker на трёх классах изображений, + по два повтора; хост — Apple M4, Docker VM 10 CPU / 7,65 ГиБ. + Предел принятой работы соблюдён, восстановление доказано. +- Отчёт: [REPORT.md](REPORT.md). Полный замер: + [summary.md](evidence/queue/queue10/summary.md), + [meta.json](evidence/queue/queue10/meta.json) и исходные CSV/журналы. + +Ограничения: один Docker-host и по одному PostgreSQL, S3 и брокеру; +результаты нагрузки относятся к указанному оборудованию. Известные +краевые случаи проверки JPEG и ограничения инфраструктуры перечислены +в [KNOWN_ISSUES.md](KNOWN_ISSUES.md). + +Источники и ИИ: документация RabbitMQ, PostgreSQL, aio-pika и Pillow; +Claude — реализация и документация под проверку автора, Codex — +замеры и оформление результатов. Подробнее — раздел 8 отчёта. + +- [x] Обязательный минимум текущей и предыдущих работ сохранён с объявленными переходами. +- [x] Контракт и публичные тесты не ослаблены. +- [x] `make check` и `make test` выполнены; реальный вывод приложен. +- [x] Сценарии отказов и безопасности воспроизведены. +- [x] Секреты и приватные ключи находятся вне Git; отчёт не содержит токенов. +- [x] README задания сохранён; REPORT.md описывает запуск решения. diff --git a/Makefile b/Makefile index 5d86d171..ba49ea5c 100644 --- a/Makefile +++ b/Makefile @@ -28,3 +28,403 @@ test-persistence: test-failover: @test -n "$(ACTION_SCRIPT)" || (echo "Set ACTION_SCRIPT to your implemented executable stop-one hook"; exit 2) $(PYTHON) tests/resilience.py --mode failover --action-script "$(ACTION_SCRIPT)" --base-url "$(BASE_URL)" $(TLS_ARGS) + + +# =========================================================================== +# Собственные цели решения. Цели skeleton выше (help, check, validate, test, +# load, test-persistence, test-failover) не менять: в следующей лабе +# Makefile придёт новый, свои цели переносятся в него слиянием. +# =========================================================================== + +# .env: подстановки compose и окружение приложения на хосте. Без него — +# значения по умолчанию ниже (пароли и ключи пустые: сначала `make env`) +-include .env + +IMAGE ?= mtusi-messenger-vladimirceva:lab5 +# порт HAProxy на 127.0.0.1 — единственный порт API стенда на хосте +HOST_PORT ?= 8080 +# порт сервиса на хосте (make run): другой, чем у стенда, — оба могут +# работать одновременно +RUN_PORT ?= 8081 +POSTGRES_USER ?= messenger +POSTGRES_DB ?= messenger +POSTGRES_HOST_PORT ?= 5433 +VALKEY_HOST_PORT ?= 6380 +S3_HOST_PORT ?= 8334 +BROKER_HOST_PORT ?= 5673 +SESSION_TTL_SECONDS ?= 3600 +# реплик API за HAProxy; разово — `make replicas API_REPLICAS=3` +API_REPLICAS ?= 2 +DC = docker compose +UV_EXPORT = uv export --frozen --no-dev --no-emit-project --no-header --format requirements.txt +# долгие замеры на macOS — под caffeinate: ноутбук не уснёт по простою +CAFFEINATE := $(shell command -v caffeinate >/dev/null 2>&1 && echo caffeinate -isu) + +# --- приложение на хосте ---------------------------------------------------- + +.PHONY: install +install: + uv sync + +# окружение сервиса и миграций на хосте: хранилища стенда на 127.0.0.1, +# пароли и ключи пользователя API в S3 из .env. .env читается в рецепте, а +# не при разборе Makefile: так первый запуск видит и файл, только что +# созданный `make env`. Рецепт без эха — секреты не печатаются +LOCAL_ENV = set -a; . ./.env; set +a; \ + export DB_HOST=127.0.0.1 DB_PORT="$$POSTGRES_HOST_PORT" DB_NAME="$$POSTGRES_DB" \ + DB_USER="$$POSTGRES_USER" DB_PASSWORD="$$POSTGRES_PASSWORD" CACHE_HOST=127.0.0.1 \ + CACHE_PORT="$$VALKEY_HOST_PORT" CACHE_PASSWORD="$$VALKEY_PASSWORD" \ + S3_ENDPOINT="http://127.0.0.1:$$S3_HOST_PORT" S3_ACCESS_KEY_ID="$$S3_API_ACCESS_KEY" \ + S3_SECRET_ACCESS_KEY="$$S3_API_SECRET_KEY" BROKER_HOST=127.0.0.1 \ + BROKER_PORT="$$BROKER_HOST_PORT" BROKER_PASSWORD="$$BROKER_PASSWORD" +# worker на хосте — ключи своего пользователя S3, а не API +WORKER_ENV = $(LOCAL_ENV); export S3_ACCESS_KEY_ID="$$S3_WORKER_ACCESS_KEY" \ + S3_SECRET_ACCESS_KEY="$$S3_WORKER_SECRET_KEY" + +# PostgreSQL, Valkey и S3 из compose, миграции с хоста, затем один процесс +# сервиса на 127.0.0.1:RUN_PORT без LB, текстовые логи в stdout; стоп — +# Ctrl+C. Срок сессии — `make run SESSION_TTL_SECONDS=2` +.PHONY: run +run: migrate-local + @echo "uv run python -m src # 127.0.0.1:$(RUN_PORT), SESSION_TTL_SECONDS=$(SESSION_TTL_SECONDS)" + @$(LOCAL_ENV); APP_PORT=$(RUN_PORT) SESSION_TTL_SECONDS=$(SESSION_TTL_SECONDS) \ + uv run python -m src + +# relay и worker на хосте рядом с `make run` (брокер и хранилища — из +# compose); стоп — Ctrl+C. Сервисы compose relay и worker при этом лучше +# остановить: make stop-worker, docker compose stop relay +.PHONY: run-relay run-worker +run-relay: migrate-local + @$(LOCAL_ENV); uv run python -m src.relay + +run-worker: migrate-local + @$(WORKER_ENV); uv run python -m src.worker + +# миграции с хоста в PostgreSQL стенда (127.0.0.1:POSTGRES_HOST_PORT) +.PHONY: migrate-local +migrate-local: db-up + @echo "uv run alembic upgrade head # 127.0.0.1:$(POSTGRES_HOST_PORT)" + @$(LOCAL_ENV); uv run alembic upgrade head + +.PHONY: lint +lint: + uv run ruff format --check . + uv run ruff check . + +.PHONY: fmt +fmt: + uv run ruff format . + uv run ruff check --fix . + +# собственные тесты против запущенного стенда (BASE_URL, по умолчанию +# HAProxy рабочего стенда); EXPECT_REPLICAS — сколько реплик за BASE_URL +# (против `make run` — 1: тесты реплик пропускаются с причиной). +# Тесты с маркером fault сюда не входят, для них есть make failure-checks +EXPECT_REPLICAS ?= $(API_REPLICAS) +.PHONY: student-test +student-test: + BASE_URL=$(BASE_URL) EXPECT_REPLICAS=$(EXPECT_REPLICAS) uv run pytest + +# отдельный стенд из того же compose.yaml (свои PostgreSQL, Valkey, S3, +# volume, HAProxy и две реплики, свои пароли и ключи, без .env): сборка, +# миграции и bootstrap S3, make test и make student-test через его LB, +# test-failover, test-persistence, затем уборка при любом исходе. Рабочий +# стенд не трогается. $(PYTHON), а не uv run: uv повторно шлёт SIGINT, и +# Ctrl+C обрывал бы уборку +.PHONY: test-isolated +test-isolated: + $(PYTHON) student-tests/stand.py isolated + +# pytest -m fault на ещё одном одноразовом стенде: собственные хранилища и +# S3, уборщик с grace 25 с, несколько API с разными настройками (обычный, +# «тесный», «узкий по загрузкам») и hook student-tests/fault_hook.py. +# Дополнительные аргументы pytest — через FAULT_ARGS +.PHONY: failure-checks +failure-checks: + $(PYTHON) student-tests/stand.py failures $(FAULT_ARGS) + +# requirements.txt для образа — только из uv.lock, с хешами +.PHONY: requirements +requirements: + $(UV_EXPORT) --output-file requirements.txt + +.PHONY: requirements-check +requirements-check: + $(UV_EXPORT) | diff -u requirements.txt - && echo "requirements.txt matches uv.lock" + +# --- Docker и compose --------------------------------------------------------- + +# .env из шаблона со случайными паролями PostgreSQL и Valkey и ключами S3: +# в шаблоне они пустые, общего пароля стенда в git нет. Существующий .env +# не перезаписывается — дописываются только переменные шаблона, которых в +# нём нет (секреты — случайными). Печатаются только имена +.PHONY: env +env: + @$(PYTHON) scripts/lab5.py env + +.PHONY: docker-build +docker-build: + docker build -t $(IMAGE) . + +# весь стенд: хранилища и брокер -> migrate, s3-bootstrap -> api × +# API_REPLICAS, relay, worker, cleaner -> haproxy; --wait ждёт healthy. +# Если образ поменялся, compose пересоздаст все реплики сразу и API на +# это время пропадёт; плавная замена — через make rolling-update +.PHONY: up +up: env + $(DC) up -d --build --wait api relay worker cleaner haproxy + +# остановить контейнеры (SIGTERM); данные и контейнеры остаются. LB +# останавливается раньше реплик (depends_on); S3 — плавно, ~15 с +.PHONY: stop +stop: + $(DC) stop + +# удалить контейнеры; volume pgdata и s3data с данными остаются +# (удаление — wipe) +.PHONY: down +down: + $(DC) down + +# журнал всех реплик; префикс строки — имя контейнера реплики +.PHONY: logs +logs: + $(DC) logs -f api + +# журнал фона: relay и worker +.PHONY: logs-pipeline +logs-pipeline: + $(DC) logs -f relay worker + +# хранилища стенда с ожиданием healthcheck и bootstrap S3: для make run. +# --wait одноразовый сервис не ждёт — код bootstrap отдельно +.PHONY: db-up +db-up: env + $(DC) up -d --wait postgres valkey s3 rabbitmq + $(DC) up --no-deps --exit-code-from s3-bootstrap s3-bootstrap + +# снести стенд вместе с volume (данные пропадут); спрашивает подтверждение yes +.PHONY: wipe +wipe: + @read -p "Удалить все данные стенда (volume pgdata, s3data, rmqdata)? Введите yes: " answer; \ + if [ "$$answer" = "yes" ]; then \ + $(DC) down -v --remove-orphans; \ + else \ + echo "cancelled, nothing removed"; exit 1; \ + fi + +# --- Реплики за HAProxy (лаба 3) -------------------------------------------- + +# вернуть остановленные реплики (те же контейнеры и X-Instance-Id) и +# выставить их число API_REPLICAS; ждёт healthy +.PHONY: replicas +replicas: + $(DC) up -d --no-deps --no-recreate --wait --scale api=$(API_REPLICAS) api + +# вход одним синтетическим пользователем и серия GET /users/me с одним +# токеном через LB: X-Instance-Id каждого ответа и итог по репликам +.PHONY: instances +instances: + $(PYTHON) scripts/lab5.py instances --base-url "$(BASE_URL)" + +# таблица слотов backend api: IP реплики, статус (во время замены бывает +# DRAIN/MAINT) и счётчики запросов, сбоев соединения, retry и redispatch +.PHONY: lb-stats +lb-stats: + $(PYTHON) scripts/lab5.py lb-stats + +# make test-failover для каждой реплики по очереди с возвратом +# предыдущей (make replicas): какой контейнер остановлен, строка +# STOP_ONE_LOG и итог теста. STOP_MODE=kill — без graceful +STOP_MODE ?= stop +.PHONY: failover-each +failover-each: + $(PYTHON) scripts/lab5.py failover-each --base-url "$(BASE_URL)" \ + --replicas $(API_REPLICAS) --mode $(STOP_MODE) + +# выкатить текущий код без простоя: собрать образ, один раз прогнать +# миграции и менять реплики по одной, выводя старую через drain в LB +.PHONY: rolling-update +rolling-update: + API_REPLICAS=$(API_REPLICAS) scripts/rolling-update.sh + +# --- S3 и вложения (с лабы 4) ------------------------------------------------- + +# вложение через LB → остановка реплики, принявшей загрузку (stop-one.sh по +# её X-Instance-Id) → скачивание через другую, тот же SHA-256 → 404 +# постороннему → make replicas. STOP_MODE=kill — без graceful +.PHONY: attachment-failover +attachment-failover: + $(PYTHON) scripts/lab5.py attachment-failover --base-url "$(BASE_URL)" \ + --replicas $(API_REPLICAS) --mode $(STOP_MODE) + +# приватность bucket вне API: права ключей API, worker и уборщика (bootstrap в +# режиме check), анонимные запросы с хоста и из сети стенда, порты +# контейнера S3; затем уборка проверочных объектов. Код 1 при нарушении +.PHONY: s3-check +s3-check: + $(PYTHON) scripts/lab5.py s3-check + +# разовый проход уборщика незавершённых загрузок: 0 — проход дошёл до +# конца, 1 — прерван отказом, 2 — конфигурация +.PHONY: cleanup-once +cleanup-once: + $(DC) run --rm --no-deps cleaner --once + +# разовая сверка bucket и БД (трек 2) в контейнере уборщика. По умолчанию +# dry-run; APPLY=1 — исправить безопасное; MAX_CHANGES, STRATEGY=head, +# DEEP=1 (SHA-256 содержимого), RATE (объектов S3/с, 0 — без предела). +# Выход 0 — всё сошлось, 3 — есть неисправленные расхождения, 1 — проход +# не дошёл до конца, 2 — ошибка в настройках +APPLY ?= +MAX_CHANGES ?= +STRATEGY ?= +DEEP ?= +RATE ?= +.PHONY: reconcile +reconcile: + $(DC) run --rm --no-deps cleaner reconcile $(if $(APPLY),--apply,) \ + $(if $(MAX_CHANGES),--max-changes $(MAX_CHANGES),) \ + $(if $(STRATEGY),--strategy $(STRATEGY),) $(if $(DEEP),--deep,) \ + $(if $(RATE),--rate $(RATE),) + +# --- Брокер, relay, worker (лаба 5) ------------------------------------------- + +# worker стенда: остановить (шаг 2 сценария защиты) / снова запустить +.PHONY: stop-worker start-worker +stop-worker: + $(DC) stop worker + +start-worker: + $(DC) up -d --no-deps worker + +# сценарий защиты, шаги 2–3, одной командой: worker стоит → 202 → сообщение +# → 409 → scripts/restart.sh → worker → ready и thumbnail 256×160 +.PHONY: defense +defense: + $(PYTHON) scripts/lab5.py defense --base-url "$(BASE_URL)" + +# задания по состояниям и очередь брокера +.PHONY: pipeline-state +pipeline-state: + @$(PYTHON) scripts/lab5.py pipeline + +# реестр failed и replay в контейнере relay. Без APPLY=1 — только показ; +# с APPLY=1 нужен выбор (ATTACHMENT= или ERROR_CODE=...) и OPERATOR, +# REASON. Коды: 0 — готово, 3 — часть отказана, 1 — PostgreSQL, 2 — аргументы +ATTACHMENT ?= +ERROR_CODE ?= +LIMIT ?= 20 +OPERATOR ?= +REASON ?= +.PHONY: replay +replay: + $(DC) run --rm --no-deps relay replay $(if $(ATTACHMENT),--attachment $(ATTACHMENT),) \ + $(if $(ERROR_CODE),--error-code $(ERROR_CODE),) --limit $(LIMIT) \ + $(if $(APPLY),--apply --operator "$(OPERATOR)" --reason "$(REASON)",) + +# --- Нагрузочный стенд (лаба 5, трек 1 — очередь под перегрузкой; профили +# лаб 3 и 4 сохранены: отказ и замена под нагрузкой, память загрузок, +# стоимость сверки) -- +# Порядок работы — bench/RUNBOOK.md, правила — bench/AGENTS.md. Свой проект +# compose vlad-bench, рабочий стенд перед замером — make stop. + +QUEUE_LABEL ?= baseline +FAILOVER_LABEL ?= baseline +ROLLOUT_LABEL ?= baseline +UPLOADS_LABEL ?= baseline +RECONCILE_LABEL ?= baseline +# серия трека 1 лабы 3 (сохраняется): a, b, db, ab, quick +SERIES ?= +SCALING_LABEL ?= +LABELS ?= +PLOTS ?= scaling +BENCH = $(CAFFEINATE) uv run python bench/run.py + +# лаба 5, трек 1: настройки concurrency/prefetch worker × классы изображений; +# ёмкость, ровная нагрузка, перегрузка при пределе незавершённых и +# восстановление; пишет evidence/queue/<метка>/ +.PHONY: bench-queue +bench-queue: + $(BENCH) queue --label "$(QUEUE_LABEL)" + +# самопроверка профиля очереди (~9 мин): c1p1 и c4p4 × классы s и x, один +# повтор, короткие окна; метка quick-queue- в отчёт не идёт +.PHONY: bench-queue-quick +bench-queue-quick: + $(BENCH) queue-quick + +# уровень 4 лабы 3: две реплики под постоянной нагрузкой, каждая в режимах +# stop, kill, pause с возвратом; пишет evidence/failover/<метка>/ +.PHONY: bench-failover +bench-failover: + $(BENCH) failover --label "$(FAILOVER_LABEL)" + +# проверка стенда отказа (~2 мин); метка quick-failover- в отчёт не идёт +.PHONY: bench-failover-quick +bench-failover-quick: + $(BENCH) failover-quick + +# уровень 4 лабы 3: поочерёдная замена (scripts/rolling-update.sh) под той +# же нагрузкой, с новой expand-ревизией; пишет evidence/rollout/<метка>/ +.PHONY: bench-rollout +bench-rollout: + $(BENCH) rollout --label "$(ROLLOUT_LABEL)" + +.PHONY: bench-rollout-quick +bench-rollout-quick: + $(BENCH) rollout-quick + +# лаба 4, уровень 4: сколько памяти занимает реплика, когда параллельно +# грузят 1, 10, 20 или 40 клиентов тела ~1 и ~10 MiB; сравниваются места +# по умолчанию и режим без лимита. Результат — evidence/uploads/<метка>/ +.PHONY: bench-uploads +bench-uploads: + $(BENCH) uploads --label "$(UPLOADS_LABEL)" + +# самопроверка профиля загрузок (~5 мин); метка quick-uploads- +.PHONY: bench-uploads-quick +bench-uploads-quick: + $(BENCH) uploads-quick + +# уровень 5, трек 2: стоимость сверки bucket и БД по размеру набора, +# стратегиям и под фоновой нагрузкой; пишет evidence/reconcile/<метка>/ +.PHONY: bench-reconcile +bench-reconcile: + $(BENCH) reconcile --label "$(RECONCILE_LABEL)" + +# самопроверка профиля сверки (~6 мин); метка quick-reconcile- +.PHONY: bench-reconcile-quick +bench-reconcile-quick: + $(BENCH) reconcile-quick + +# трек 1 лабы 3 (сохраняется для сравнения, в лабе 4 не обязателен): +# серия конфигураций, на каждую ячейку свежий стенд, открытая модель, +# поиск R*; пишет evidence/scaling/<метка>/. CONFIGS="4x1-pg0.5 4x1" — +# ячейки вместо профильных; RESUME=1 — продолжить прерванную метку +CONFIGS ?= +.PHONY: bench-scaling +bench-scaling: + @test -n "$(SERIES)" || (echo "usage: make bench-scaling SERIES=a|b|db|ab [SCALING_LABEL=...] [CONFIGS=...] [RESUME=1]"; exit 2) + $(BENCH) scaling --series "$(SERIES)" $(if $(SCALING_LABEL),--label "$(SCALING_LABEL)",) \ + $(if $(CONFIGS),--configs "$(CONFIGS)",) $(if $(RESUME),--resume,) + +# самопроверка серий (~5 мин): 1 × 1 и 2 × 1, короткие окна +.PHONY: bench-scaling-quick +bench-scaling-quick: + $(BENCH) scaling --series quick + +# сравнение двух меток серий (по общим конфигурациям); AA — метка того же +# кода, что BEFORE: уровень шума +.PHONY: bench-compare +bench-compare: + @test -n "$(BEFORE)" -a -n "$(AFTER)" || \ + (echo "usage: make bench-compare BEFORE=