Обновлены RPS при фиксированном бюджете CPU/RAM и grow-серия; failover evidence и run_track1 без агрессивного docker rm.
9.3 KiB
Отчёт — лабораторная 3
- Автор, группа: Белоусов Анатолий Фахраддинович, БПИ2303
- Целевая оценка; выбранный трек 5: 5, трек 1 (цена масштабирования)
- Commit/PR: ветка
solution/bpi2303-belousov - Использованные источники, библиотеки и помощь ИИ: Go
net/http,pgxv5,go-redisv9,golang.org/x/crypto/argon2,google/uuid; HAProxy 2.9; публичныеtests/; Cursor/Composer для реализации и прогонов. База — собственная реализация lab2.
Запуск из чистого clone
Нужны Docker, Go 1.23+ (собственные тесты), Python 3.9+.
cp .env.example .env
bash scripts/up.sh
# дождаться ready; внутри: build, migrate (один раз), --scale api=${API_REPLICAS}, LB на :8080
make test
make student-test
make test-persistence ACTION_SCRIPT=scripts/restart.sh
make test-failover ACTION_SCRIPT=scripts/stop-one.sh
# после failover восстановить реплику и повторить для второй:
bash scripts/restore-one.sh
make test-failover ACTION_SCRIPT=scripts/stop-one.sh
bash scripts/run_track1.sh # трек 5; долго, пересоздаёт/rescale стенд
Остановка без удаления данных: docker compose --env-file .env stop.
Удаление учебных volumes: docker compose --env-file .env down -v.
Образы: сборка golang:1.23.8-bookworm, runtime gcr.io/distroless/static-debian12:nonroot, PostgreSQL postgres:16.6, Redis redis:7.4.1 (AOF everysec), HAProxy haproxy:2.9.14-alpine.
Соответствие .env.example: API_REPLICAS (по умолчанию 2), API_CPUS/API_MEMORY — лимиты одной реплики, DB_MAX_CONNS — пул на реплику, IDEMPOTENCY_TTL_SECONDS=86400. DATABASE_URL/REDIS_URL задаются контейнерам явно; *_FILE тоже читаются.
Миграции применяет одноразовый сервис migrate (/server -migrate) до старта API. Реплики API миграции не гоняют (RUN_MIGRATIONS выключен). Повторный migrate идемпотентен через schema_migrations.
Инструкция по сдаче для себя: SUBMISSION.md.
Архитектура и решения
Клиент → HAProxy (LB) → API × N → общие PostgreSQL (данные + idempotency) и Redis (сессии).
Что перенесено из lab2: пользователи/чаты/сообщения в PostgreSQL, Argon2id, Bearer-сессии в Redis с AOF, keyset-история, graceful shutdown ≤10 с, non-root образ.
Что добавлено в lab3:
- X-Instance-Id — hostname контейнера (или
INSTANCE_ID), стабилен на жизнь процесса; виден в каждом ответе API. - Idempotency-Key на
POST .../messages— область(user_id, method, path, key)в таблицеidempotency_keys. Сериализация конкурентов —pg_advisory_xact_lock+ одна транзакция на INSERT message и ключа. Повтор с тем же телом → тот же 201/Message; другой body → 409. 5xx не фиксируются. - Общие сессии в Redis: повторный вход при смене реплики не нужен. Sticky sessions не используются.
- LB healthcheck
GET /health/readyкаждые 1 с,fall 3→ обнаружение ~3 с; DNS hold valid 2 с. На SIGTERM реплика сразу отдаёт 503 ready (BeginDrain). - Порты API наружу не публикуются; наружу только
127.0.0.1:8080у LB. Postgres/Redis на localhost — только дляstudent-tests. - CPU/RAM limits на сервисах;
container_nameнет —compose --scale api=Nработает. У APIrestart: "no", иначеdocker stopв failover-тесте может быть отменён демоном. - Rolling update:
docker compose up -d --scale api=N/scripts/restore-one.shподнимает недостающие реплики безdown -v.
scripts/stop-one.sh сопоставляет TARGET_INSTANCE_ID с hostname/INSTANCE_ID контейнера сервиса api и делает docker stop, оставляя реплику остановленной.
Доказательства критериев
Стенд прогона: macOS (Darwin 24.6), Docker Desktop, Go 1.23+/1.27 host toolchain. Дата: 2026-11-06.
| Критерий README | Команда/сценарий | Наблюдаемый результат | Файл доказательства |
|---|---|---|---|
| Публичный smoke | make test |
PASS lab3 scenario (idempotency, instance id) | evidence/smoke-pass.txt |
| ≥2 реплики через LB | заголовки X-Instance-Id |
≥2 разных id | evidence/instances.txt |
| Persistence | make test-persistence ACTION_SCRIPT=scripts/restart.sh |
PASS | evidence/persistence.txt |
| Failover одной реплики | make test-failover ACTION_SCRIPT=scripts/stop-one.sh |
PASS, recovery ≈2.5 s | evidence/failover-1.txt |
| Failover второй реплики | restore + повтор failover | PASS, recovery ≈2.8 s | evidence/failover-2.txt |
| Идемпотентность / гонка ключа | make student-test |
replay=тот же id; 8 параллельных → 1 сообщение | evidence/student-test.txt |
| Лимиты / нет publish API | compose.yaml + inspect |
api Ports без HostPort; NanoCpus/Memory заданы; LB :8080 |
evidence/ps.txt |
| Трек 1 | bash scripts/run_track1.sh |
сводка RPS 1/2/4 и grow | evidence/track1/ |
Эксперименты и отказы (трек 1)
Гипотеза. При фиксированном суммарном бюджете 2.0 CPU / 1024 MiB на все API рост N=1→2 повышает successful RPS; N=2→4 перестаёт помогать из‑за PostgreSQL/пула/LB.
Методика. Bootstrap один раз; дальше rescale только api+lb. Для N∈{1,2,4}: API_CPUS=2/N, API_MEMORY=1024/N MiB, DB_MAX_CONNS=5 на реплику. Прогрев до серии успешных /health/ready, затем tests/load.py --duration 30 --concurrency 8. Затем N=2 с ростом CPU/RAM реплики (0.5→1.0→1.5). Повтор: bash scripts/run_track1.sh. Сырые JSON — evidence/track1/*.json, сводка — summary.md.
Наблюдения (закрытый цикл, successful RPS):
| Конфиг | RPS | err | p95 ms |
|---|---|---|---|
| fixed_budget_n1 (2.0 CPU / 1024 MiB ×1) | 1274.5 | 0 | 11.4 |
| fixed_budget_n2 (1.0 / 512 ×2) | 803.2 | 0 | 21.0 |
| fixed_budget_n4 (0.5 / 256 ×4) | 1031.5 | 0 | 15.4 |
| grow_n2_small (0.5 / 256 ×2) | 898.8 | 0 | 22.0 |
| grow_n2_medium (1.0 / 512 ×2) | 1104.5 | 0 | 13.5 |
| grow_n2_large (1.5 / 768 ×2) | 1176.9 | 0 | 12.6 |
Вывод. На этом стенде гипотеза «N=2 лучше N=1 при том же бюджете» не подтвердилась: один процесс с 2.0 CPU обогнал нарезку. N=4 при том же бюджете лучше N=2, но всё ещё ниже N=1. Узкое место — не «мало реплик», а координация (LB/DNS), суммарный пул к Postgres и closed-loop клиента (coordinated omission).
Подтверждённое улучшение: в серии grow при N=2 рост CPU/RAM 0.5→1.0 поднял RPS 898→1104 (+23%); 1.0→1.5 дал ещё +7% (1104→1177) — насыщение: добавление CPU репликам почти догоняет одиночный «толстый» процесс, но не обгоняет его на этом профиле.
| Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных |
|---|---|---|---|
scripts/restart.sh |
рестарт postgres+redis+api+lb; тот же токен | PASS persistence | volumes на месте |
scripts/stop-one.sh |
одна реплика down; запись через другую ≤10с | PASS; first_recovery ≈2.4–2.8 с; 1 краткая ошибка | дублей нет |
| Stop второй после restore | то же | PASS | подтверждённые сообщения на месте |
Ограничения и следующие шаги
Один Docker-host и один HAProxy/Postgres/Redis — SPOF узла. Отказ API-реплики закрыт; отказ БД/LB/host — нет. Redis AOF everysec может потерять ~1с сессий при kill -9. Closed-loop load страдает coordinated omission — RPS не open-loop capacity. Трек 2 (multi-node) не выполнялся. Цифры трека 1 — один прогон на локальном диске Docker Desktop, не распределённый бенчмарк.