Files
mtusi2026lab3/REPORT.md
T
Mlvn 0f93dd76f7 Зафиксировать чистые замеры трека 1 и уточнить отчёт.
Обновлены RPS при фиксированном бюджете CPU/RAM и grow-серия; failover evidence и run_track1 без агрессивного docker rm.
2026-11-06 21:12:49 +03:00

9.3 KiB
Raw Blame History

Отчёт — лабораторная 3

  • Автор, группа: Белоусов Анатолий Фахраддинович, БПИ2303
  • Целевая оценка; выбранный трек 5: 5, трек 1 (цена масштабирования)
  • Commit/PR: ветка solution/bpi2303-belousov
  • Использованные источники, библиотеки и помощь ИИ: Go net/http, pgx v5, go-redis v9, golang.org/x/crypto/argon2, google/uuid; HAProxy 2.9; публичные tests/; Cursor/Composer для реализации и прогонов. База — собственная реализация lab2.

Запуск из чистого clone

Нужны Docker, Go 1.23+ (собственные тесты), Python 3.9+.

cp .env.example .env
bash scripts/up.sh
# дождаться ready; внутри: build, migrate (один раз), --scale api=${API_REPLICAS}, LB на :8080
make test
make student-test
make test-persistence ACTION_SCRIPT=scripts/restart.sh
make test-failover ACTION_SCRIPT=scripts/stop-one.sh
# после failover восстановить реплику и повторить для второй:
bash scripts/restore-one.sh
make test-failover ACTION_SCRIPT=scripts/stop-one.sh
bash scripts/run_track1.sh   # трек 5; долго, пересоздаёт/rescale стенд

Остановка без удаления данных: docker compose --env-file .env stop. Удаление учебных volumes: docker compose --env-file .env down -v.

Образы: сборка golang:1.23.8-bookworm, runtime gcr.io/distroless/static-debian12:nonroot, PostgreSQL postgres:16.6, Redis redis:7.4.1 (AOF everysec), HAProxy haproxy:2.9.14-alpine.

Соответствие .env.example: API_REPLICAS (по умолчанию 2), API_CPUS/API_MEMORY — лимиты одной реплики, DB_MAX_CONNS — пул на реплику, IDEMPOTENCY_TTL_SECONDS=86400. DATABASE_URL/REDIS_URL задаются контейнерам явно; *_FILE тоже читаются.

Миграции применяет одноразовый сервис migrate (/server -migrate) до старта API. Реплики API миграции не гоняют (RUN_MIGRATIONS выключен). Повторный migrate идемпотентен через schema_migrations.

Инструкция по сдаче для себя: SUBMISSION.md.

Архитектура и решения

Клиент → HAProxy (LB) → API × N → общие PostgreSQL (данные + idempotency) и Redis (сессии).

Что перенесено из lab2: пользователи/чаты/сообщения в PostgreSQL, Argon2id, Bearer-сессии в Redis с AOF, keyset-история, graceful shutdown ≤10 с, non-root образ.

Что добавлено в lab3:

  1. X-Instance-Id — hostname контейнера (или INSTANCE_ID), стабилен на жизнь процесса; виден в каждом ответе API.
  2. Idempotency-Key на POST .../messages — область (user_id, method, path, key) в таблице idempotency_keys. Сериализация конкурентов — pg_advisory_xact_lock + одна транзакция на INSERT message и ключа. Повтор с тем же телом → тот же 201/Message; другой body → 409. 5xx не фиксируются.
  3. Общие сессии в Redis: повторный вход при смене реплики не нужен. Sticky sessions не используются.
  4. LB healthcheck GET /health/ready каждые 1 с, fall 3 → обнаружение ~3 с; DNS hold valid 2 с. На SIGTERM реплика сразу отдаёт 503 ready (BeginDrain).
  5. Порты API наружу не публикуются; наружу только 127.0.0.1:8080 у LB. Postgres/Redis на localhost — только для student-tests.
  6. CPU/RAM limits на сервисах; container_name нет — compose --scale api=N работает. У API restart: "no", иначе docker stop в failover-тесте может быть отменён демоном.
  7. Rolling update: docker compose up -d --scale api=N / scripts/restore-one.sh поднимает недостающие реплики без down -v.

scripts/stop-one.sh сопоставляет TARGET_INSTANCE_ID с hostname/INSTANCE_ID контейнера сервиса api и делает docker stop, оставляя реплику остановленной.

Доказательства критериев

Стенд прогона: macOS (Darwin 24.6), Docker Desktop, Go 1.23+/1.27 host toolchain. Дата: 2026-11-06.

Критерий README Команда/сценарий Наблюдаемый результат Файл доказательства
Публичный smoke make test PASS lab3 scenario (idempotency, instance id) evidence/smoke-pass.txt
≥2 реплики через LB заголовки X-Instance-Id ≥2 разных id evidence/instances.txt
Persistence make test-persistence ACTION_SCRIPT=scripts/restart.sh PASS evidence/persistence.txt
Failover одной реплики make test-failover ACTION_SCRIPT=scripts/stop-one.sh PASS, recovery ≈2.5 s evidence/failover-1.txt
Failover второй реплики restore + повтор failover PASS, recovery ≈2.8 s evidence/failover-2.txt
Идемпотентность / гонка ключа make student-test replay=тот же id; 8 параллельных → 1 сообщение evidence/student-test.txt
Лимиты / нет publish API compose.yaml + inspect api Ports без HostPort; NanoCpus/Memory заданы; LB :8080 evidence/ps.txt
Трек 1 bash scripts/run_track1.sh сводка RPS 1/2/4 и grow evidence/track1/

Эксперименты и отказы (трек 1)

Гипотеза. При фиксированном суммарном бюджете 2.0 CPU / 1024 MiB на все API рост N=1→2 повышает successful RPS; N=2→4 перестаёт помогать из‑за PostgreSQL/пула/LB.

Методика. Bootstrap один раз; дальше rescale только api+lb. Для N∈{1,2,4}: API_CPUS=2/N, API_MEMORY=1024/N MiB, DB_MAX_CONNS=5 на реплику. Прогрев до серии успешных /health/ready, затем tests/load.py --duration 30 --concurrency 8. Затем N=2 с ростом CPU/RAM реплики (0.5→1.0→1.5). Повтор: bash scripts/run_track1.sh. Сырые JSON — evidence/track1/*.json, сводка — summary.md.

Наблюдения (закрытый цикл, successful RPS):

Конфиг RPS err p95 ms
fixed_budget_n1 (2.0 CPU / 1024 MiB ×1) 1274.5 0 11.4
fixed_budget_n2 (1.0 / 512 ×2) 803.2 0 21.0
fixed_budget_n4 (0.5 / 256 ×4) 1031.5 0 15.4
grow_n2_small (0.5 / 256 ×2) 898.8 0 22.0
grow_n2_medium (1.0 / 512 ×2) 1104.5 0 13.5
grow_n2_large (1.5 / 768 ×2) 1176.9 0 12.6

Вывод. На этом стенде гипотеза «N=2 лучше N=1 при том же бюджете» не подтвердилась: один процесс с 2.0 CPU обогнал нарезку. N=4 при том же бюджете лучше N=2, но всё ещё ниже N=1. Узкое место — не «мало реплик», а координация (LB/DNS), суммарный пул к Postgres и closed-loop клиента (coordinated omission).

Подтверждённое улучшение: в серии grow при N=2 рост CPU/RAM 0.5→1.0 поднял RPS 898→1104 (+23%); 1.0→1.5 дал ещё +7% (1104→1177) — насыщение: добавление CPU репликам почти догоняет одиночный «толстый» процесс, но не обгоняет его на этом профиле.

Воздействие Что ожидаем Что наблюдали Время восстановления / потеря данных
scripts/restart.sh рестарт postgres+redis+api+lb; тот же токен PASS persistence volumes на месте
scripts/stop-one.sh одна реплика down; запись через другую ≤10с PASS; first_recovery ≈2.4–2.8 с; 1 краткая ошибка дублей нет
Stop второй после restore то же PASS подтверждённые сообщения на месте

Ограничения и следующие шаги

Один Docker-host и один HAProxy/Postgres/Redis — SPOF узла. Отказ API-реплики закрыт; отказ БД/LB/host — нет. Redis AOF everysec может потерять ~1с сессий при kill -9. Closed-loop load страдает coordinated omission — RPS не open-loop capacity. Трек 2 (multi-node) не выполнялся. Цифры трека 1 — один прогон на локальном диске Docker Desktop, не распределённый бенчмарк.