RabbitMQ (quorum queue, publisher confirms, manual ack, DLX) + отдельный worker: staging в S3 + вложение/job/outbox одной транзакцией -> 202 queued; relay outbox, lease с heartbeat и fencing (worker_id, attempt), retry с backoff+jitter, failed-реестр, безопасный replay с audit; thumbnail/crop/WebP в изолированном процессе с лимитами. Тесты окон отказа (fault injection), трек 1 «Очередь под перегрузкой» с backpressure. Перенесено исправление замечания lab3 PR #99 (U+0000 в тексте). Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
41 lines
2.7 KiB
Bash
Executable File
41 lines
2.7 KiB
Bash
Executable File
#!/bin/sh
|
|
# Трек 1 «Очередь под перегрузкой»: матрица concurrency/prefetch x размер изображения x повтор,
|
|
# затем backpressure (MAX_PENDING_JOBS) и восстановление. Запускать на хосте из корня, стенд поднят.
|
|
# Результаты: evidence/track1/*.json + evidence/track1/summary.txt. Конфигурация стенда в конце возвращается.
|
|
set -eu
|
|
cd "$(dirname "$0")/.."
|
|
export MSYS_NO_PATHCONV=1
|
|
compose() { docker compose --env-file .env "$@"; }
|
|
load() { compose --profile tools run --rm tester python -u student-tests/overload.py "$@" 2>&1 | grep -v '^ Container'; }
|
|
REPEATS=${REPEATS:-2}
|
|
# Поток выше пропускной способности worker при любой из конфигураций -> очередь растёт, видно lag/backpressure.
|
|
SMALL="--size small --count 200 --rate 40"
|
|
LARGE="--size large --count 60 --rate 8"
|
|
mkdir -p evidence/track1
|
|
: > evidence/track1/summary.txt
|
|
|
|
worker() { # пересоздать worker с заданными concurrency/prefetch (env shell важнее .env)
|
|
WORKER_CONCURRENCY=$1 WORKER_PREFETCH=$2 compose up -d --no-deps --wait worker 2>&1 | grep -v '^ Container' || true
|
|
}
|
|
|
|
for cfg in "1 1" "2 2" "4 4" "2 16"; do
|
|
set -- $cfg
|
|
worker "$1" "$2"
|
|
for r in $(seq 1 "$REPEATS"); do
|
|
load --label "c$1-p$2-small-r$r" $SMALL | tee -a evidence/track1/summary.txt
|
|
load --label "c$1-p$2-large-r$r" $LARGE | tee -a evidence/track1/summary.txt
|
|
done
|
|
done
|
|
|
|
# Backpressure: принятая работа ограничена 20 незавершёнными заданиями; поток 15/с больших изображений
|
|
# заведомо выше пропускной способности worker при c=2 -> часть upload получает 503 + Retry-After.
|
|
worker 2 2
|
|
# База для сравнения с восстановлением: та же нагрузка ниже пропускной способности, до перегрузки.
|
|
load --label baseline-small --size small --count 60 --rate 5 | tee -a evidence/track1/summary.txt
|
|
MAX_PENDING_JOBS=20 compose up -d --no-deps --wait api 2>&1 | grep -v '^ Container' || true
|
|
load --label backpressure-large --size large --count 120 --rate 15 | tee -a evidence/track1/summary.txt
|
|
# Восстановление: сразу после разгрузки — та же лёгкая нагрузка, что в базовом прогоне.
|
|
load --label recovery-small --size small --count 60 --rate 5 | tee -a evidence/track1/summary.txt
|
|
compose up -d --no-deps --wait api 2>&1 | grep -v '^ Container' || true
|
|
echo 'track1 done' | tee -a evidence/track1/summary.txt
|