Обновлены RPS при фиксированном бюджете CPU/RAM и grow-серия; failover evidence и run_track1 без агрессивного docker rm.
100 lines
9.3 KiB
Markdown
100 lines
9.3 KiB
Markdown
# Отчёт — лабораторная 3
|
||
|
||
- Автор, группа: Белоусов Анатолий Фахраддинович, БПИ2303
|
||
- Целевая оценка; выбранный трек 5: **5, трек 1** (цена масштабирования)
|
||
- Commit/PR: ветка `solution/bpi2303-belousov`
|
||
- Использованные источники, библиотеки и помощь ИИ: Go `net/http`, `pgx` v5, `go-redis` v9, `golang.org/x/crypto/argon2`, `google/uuid`; HAProxy 2.9; публичные `tests/`; Cursor/Composer для реализации и прогонов. База — собственная реализация lab2.
|
||
|
||
## Запуск из чистого clone
|
||
|
||
Нужны Docker, Go 1.23+ (собственные тесты), Python 3.9+.
|
||
|
||
```sh
|
||
cp .env.example .env
|
||
bash scripts/up.sh
|
||
# дождаться ready; внутри: build, migrate (один раз), --scale api=${API_REPLICAS}, LB на :8080
|
||
make test
|
||
make student-test
|
||
make test-persistence ACTION_SCRIPT=scripts/restart.sh
|
||
make test-failover ACTION_SCRIPT=scripts/stop-one.sh
|
||
# после failover восстановить реплику и повторить для второй:
|
||
bash scripts/restore-one.sh
|
||
make test-failover ACTION_SCRIPT=scripts/stop-one.sh
|
||
bash scripts/run_track1.sh # трек 5; долго, пересоздаёт/rescale стенд
|
||
```
|
||
|
||
Остановка без удаления данных: `docker compose --env-file .env stop`.
|
||
Удаление учебных volumes: `docker compose --env-file .env down -v`.
|
||
|
||
Образы: сборка `golang:1.23.8-bookworm`, runtime `gcr.io/distroless/static-debian12:nonroot`, PostgreSQL `postgres:16.6`, Redis `redis:7.4.1` (AOF `everysec`), HAProxy `haproxy:2.9.14-alpine`.
|
||
|
||
Соответствие `.env.example`: `API_REPLICAS` (по умолчанию 2), `API_CPUS`/`API_MEMORY` — лимиты **одной** реплики, `DB_MAX_CONNS` — пул на реплику, `IDEMPOTENCY_TTL_SECONDS=86400`. `DATABASE_URL`/`REDIS_URL` задаются контейнерам явно; `*_FILE` тоже читаются.
|
||
|
||
Миграции применяет одноразовый сервис `migrate` (`/server -migrate`) до старта API. Реплики API миграции не гоняют (`RUN_MIGRATIONS` выключен). Повторный migrate идемпотентен через `schema_migrations`.
|
||
|
||
Инструкция по сдаче для себя: `SUBMISSION.md`.
|
||
|
||
## Архитектура и решения
|
||
|
||
Клиент → **HAProxy (LB)** → **API × N** → общие PostgreSQL (данные + idempotency) и Redis (сессии).
|
||
|
||
Что перенесено из lab2: пользователи/чаты/сообщения в PostgreSQL, Argon2id, Bearer-сессии в Redis с AOF, keyset-история, graceful shutdown ≤10 с, non-root образ.
|
||
|
||
Что добавлено в lab3:
|
||
|
||
1. **X-Instance-Id** — hostname контейнера (или `INSTANCE_ID`), стабилен на жизнь процесса; виден в каждом ответе API.
|
||
2. **Idempotency-Key** на `POST .../messages` — область `(user_id, method, path, key)` в таблице `idempotency_keys`. Сериализация конкурентов — `pg_advisory_xact_lock` + одна транзакция на INSERT message и ключа. Повтор с тем же телом → тот же 201/Message; другой body → 409. 5xx не фиксируются.
|
||
3. **Общие сессии** в Redis: повторный вход при смене реплики не нужен. Sticky sessions не используются.
|
||
4. **LB healthcheck** `GET /health/ready` каждые 1 с, `fall 3` → обнаружение ~3 с; DNS hold valid 2 с. На SIGTERM реплика сразу отдаёт 503 ready (BeginDrain).
|
||
5. **Порты API наружу не публикуются**; наружу только `127.0.0.1:8080` у LB. Postgres/Redis на localhost — только для `student-tests`.
|
||
6. **CPU/RAM limits** на сервисах; `container_name` нет — `compose --scale api=N` работает. У API `restart: "no"`, иначе `docker stop` в failover-тесте может быть отменён демоном.
|
||
7. **Rolling update**: `docker compose up -d --scale api=N` / `scripts/restore-one.sh` поднимает недостающие реплики без `down -v`.
|
||
|
||
`scripts/stop-one.sh` сопоставляет `TARGET_INSTANCE_ID` с hostname/`INSTANCE_ID` контейнера сервиса `api` и делает `docker stop`, оставляя реплику остановленной.
|
||
|
||
## Доказательства критериев
|
||
|
||
Стенд прогона: macOS (Darwin 24.6), Docker Desktop, Go 1.23+/1.27 host toolchain. Дата: 2026-11-06.
|
||
|
||
| Критерий README | Команда/сценарий | Наблюдаемый результат | Файл доказательства |
|
||
| --- | --- | --- | --- |
|
||
| Публичный smoke | `make test` | PASS lab3 scenario (idempotency, instance id) | `evidence/smoke-pass.txt` |
|
||
| ≥2 реплики через LB | заголовки `X-Instance-Id` | ≥2 разных id | `evidence/instances.txt` |
|
||
| Persistence | `make test-persistence ACTION_SCRIPT=scripts/restart.sh` | PASS | `evidence/persistence.txt` |
|
||
| Failover одной реплики | `make test-failover ACTION_SCRIPT=scripts/stop-one.sh` | PASS, recovery ≈2.5 s | `evidence/failover-1.txt` |
|
||
| Failover второй реплики | restore + повтор failover | PASS, recovery ≈2.8 s | `evidence/failover-2.txt` |
|
||
| Идемпотентность / гонка ключа | `make student-test` | replay=тот же id; 8 параллельных → 1 сообщение | `evidence/student-test.txt` |
|
||
| Лимиты / нет publish API | `compose.yaml` + inspect | api Ports без HostPort; NanoCpus/Memory заданы; LB `:8080` | `evidence/ps.txt` |
|
||
| Трек 1 | `bash scripts/run_track1.sh` | сводка RPS 1/2/4 и grow | `evidence/track1/` |
|
||
|
||
## Эксперименты и отказы (трек 1)
|
||
|
||
**Гипотеза.** При фиксированном суммарном бюджете 2.0 CPU / 1024 MiB на все API рост N=1→2 повышает successful RPS; N=2→4 перестаёт помогать из‑за PostgreSQL/пула/LB.
|
||
|
||
**Методика.** Bootstrap один раз; дальше rescale только `api`+`lb`. Для N∈{1,2,4}: `API_CPUS=2/N`, `API_MEMORY=1024/N MiB`, `DB_MAX_CONNS=5` на реплику. Прогрев до серии успешных `/health/ready`, затем `tests/load.py --duration 30 --concurrency 8`. Затем N=2 с ростом CPU/RAM реплики (0.5→1.0→1.5). Повтор: `bash scripts/run_track1.sh`. Сырые JSON — `evidence/track1/*.json`, сводка — `summary.md`.
|
||
|
||
**Наблюдения (закрытый цикл, successful RPS):**
|
||
|
||
| Конфиг | RPS | err | p95 ms |
|
||
| --- | ---: | ---: | ---: |
|
||
| fixed_budget_n1 (2.0 CPU / 1024 MiB ×1) | **1274.5** | 0 | 11.4 |
|
||
| fixed_budget_n2 (1.0 / 512 ×2) | 803.2 | 0 | 21.0 |
|
||
| fixed_budget_n4 (0.5 / 256 ×4) | 1031.5 | 0 | 15.4 |
|
||
| grow_n2_small (0.5 / 256 ×2) | 898.8 | 0 | 22.0 |
|
||
| grow_n2_medium (1.0 / 512 ×2) | 1104.5 | 0 | 13.5 |
|
||
| grow_n2_large (1.5 / 768 ×2) | 1176.9 | 0 | 12.6 |
|
||
|
||
**Вывод.** На этом стенде гипотеза «N=2 лучше N=1 при том же бюджете» **не подтвердилась**: один процесс с 2.0 CPU обогнал нарезку. N=4 при том же бюджете лучше N=2, но всё ещё ниже N=1. Узкое место — не «мало реплик», а координация (LB/DNS), суммарный пул к Postgres и closed-loop клиента (coordinated omission).
|
||
|
||
**Подтверждённое улучшение:** в серии grow при N=2 рост CPU/RAM 0.5→1.0 поднял RPS 898→1104 (**+23%**); 1.0→1.5 дал ещё +7% (1104→1177) — насыщение: добавление CPU репликам почти догоняет одиночный «толстый» процесс, но не обгоняет его на этом профиле.
|
||
|
||
| Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных |
|
||
| --- | --- | --- | --- |
|
||
| `scripts/restart.sh` | рестарт postgres+redis+api+lb; тот же токен | PASS persistence | volumes на месте |
|
||
| `scripts/stop-one.sh` | одна реплика down; запись через другую ≤10с | PASS; first_recovery ≈2.4–2.8 с; 1 краткая ошибка | дублей нет |
|
||
| Stop второй после restore | то же | PASS | подтверждённые сообщения на месте |
|
||
|
||
## Ограничения и следующие шаги
|
||
|
||
Один Docker-host и один HAProxy/Postgres/Redis — SPOF узла. Отказ API-реплики закрыт; отказ БД/LB/host — нет. Redis AOF `everysec` может потерять ~1с сессий при kill -9. Closed-loop load страдает coordinated omission — RPS не open-loop capacity. Трек 2 (multi-node) не выполнялся. Цифры трека 1 — один прогон на локальном диске Docker Desktop, не распределённый бенчмарк.
|