# Отчёт — лабораторная 3 - **Автор, группа:** Гуреев Дмитрий, БПИ2301 - **Целевая оценка:** 5 - **Выбранный трек 5:** Трек 1 — «Цена масштабирования» - **PR:** ** - **Источники и ИИ:** документация Spring Boot 3, PostgreSQL 16, Redis 7, nginx, Flyway, k6; консультации ИИ по архитектуре multi-instance, health/readiness, идемпотентности и методике эксперимента. --- ## Запуск из чистого clone **Стек:** Java 22 (Temurin), Spring Boot 3, PostgreSQL 16, Redis 7 (AOF), nginx 1.27, Docker Compose, Flyway (one-shot migrate). ```bash git clone https://gitea.privcloud.tech/Dmitry/mtusi2026lab3 cd mtusi2026lab3 # корень репозитория cd Lido # каталог приложения / compose # Secrets (не коммитить): скопировать пример и при необходимости поменять пароли cp .env.example .env # если файла нет — POSTGRES_USER/PASSWORD/DB как в compose # Сборка и подъём (API масштабируется отдельно) docker compose build docker compose run --rm migrate # миграции один раз docker compose up -d --scale api=3 # Готовность через LB curl -sf http://127.0.0.1:8080/health/live curl -sf http://127.0.0.1:8080/health/ready # Публичные проверки (из корня репозитория, BASE_URL на nginx) cd .. make test BASE_URL=http://127.0.0.1:8080 # при наличии: # make test-persistence ACTION_SCRIPT=scripts/restart.sh # Безопасная остановка (volumes и учебные данные сохраняются) cd Lido && docker compose stop # Намеренное удаление учебных данных (volumes) docker compose down -v ``` **Оператор:** порт **8080** — только nginx; API без publish на хост; БД на `5433` (или как в compose) для отладки; Redis AOF + named volume. --- ## Архитектура и решения ```text Клиент → nginx:8080 → api×N :8080 ↘ PostgreSQL (users, chats, members, messages, sessions, idempotency) ↘ Redis (кэш сессий, TTL; source of truth — PG) migrate (one-shot Flyway) → PostgreSQL ``` | Решение | Смысл | |--------|--------| | **Источник истины** | PostgreSQL: пользователи, чаты, сообщения, **сессии**, ключи идемпотентности | | **Redis** | Кэш `session: → userId` с TTL; при недоступности — fallback на PG | | **LB** | nginx, `least_conn`, `max_fails` / `fail_timeout`, `proxy_next_upstream` (в т.ч. 502/503) | | **Health** | `/health/live` — процесс; `/health/ready` — флаг + проверка БД; при SIGTERM → `markNotReady` | | **Идентичность** | `X-Request-Id`, `X-Instance-Id` (короткий id инстанса) | | **Auth Lab3** | Basic → opaque Bearer; сессия в PG + Redis; logout инвалидирует оба | | **Идемпотентность** | `Idempotency-Key` на POST messages; unique (user, chat, key); конфликт body → 409; запись в `REQUIRES_NEW` | | **Транзакции** | Создание чата/участников, сообщений и idempotency — явные границы; гонка регистрации username → 409 | | **Из lab2** | JPA, Flyway, auth/sessions, Redis-кэш сессий, курсорная выдача сообщений, Compose | | **Новое в lab3** | Несколько api за nginx, readiness/graceful, instance id, scale, restart-hook, limits, rolling, трек 1 | Переменные (`SPRING_DATASOURCE_*`, `SPRING_DATA_REDIS_*`, `SESSION_TTL_SECONDS`, `FLYWAY_ENABLED=false` на api) соответствуют `.env.example` / environment в compose. --- ## Доказательства критериев | Критерий README | Команда/сценарий | Наблюдаемый результат | Файл доказательства | | --------------- | ---------------- | --------------------- | ------------------- | | Публичный smoke | `make test BASE_URL=http://127.0.0.1:8080` | PASS: lab public API scenario | вывод терминала / CI | | Multi-instance + LB | `docker compose up -d --scale api=3` + curl через :8080 | Ответы с разными `X-Instance-Id` | `docker compose ps`, заголовки curl | | live / ready | `curl /health/live`, `/health/ready` | 200 `{"status":"ok"}`; ready 503 при not ready / DB | HealthController | | Persistence hook | `make test-persistence ACTION_SCRIPT=scripts/restart.sh` | restart db+api+redis **без** `-v`; данные и сессия живы | `scripts/restart.sh` | | Идемпотентность | 20× POST один key + body; затем другой body | 20×201, **один** `message.id`; 409 на conflict | `/tmp/m*.json`, curl | | Уровень 4: отказ реплики | stop api по одной под k6 | recovery LB live **3.8 / 4.4 / 7.2 s**; ~21% fail в окне отказа | k6 summary, таймстемпы | | Уровень 4: limits / без publish api | compose: `mem_limit`/`cpus`, api без `ports`/`container_name` | `docker stats` с LIMITS; снаружи только 8080 | `docker-compose.yml` | | Уровень 4: rolling | поочерёдный stop/rm + `up --scale api=3` под нагрузкой | live восстанавливается между шагами | методика + k6 | | Migrate once | `FLYWAY_ENABLED=false` на api; сервис `migrate` | Миграции не на каждой реплике | compose | | Трек 1 (оценка 5) | 1/2/4 api при Σ CPU/RAM; k6; до/после улучшения | полка RPS 2→4; узкое место БД/пул; +одно улучшение | раздел «Эксперименты» | --- ## Эксперименты и отказы ### Общие условия - **Hardware:** MacBook, Docker Desktop, один хост (k6 и стек на одной машине). - **Версии:** postgres:16-alpine, redis:7-alpine (AOF), nginx:1.27-alpine, app JRE 22. - **Профиль (failover / B):** k6, 20 VU, 90 s, проверка `GET /health/live` через nginx. - **Ограничения измерения:** synthetic load; live легче, чем POST messages; сеть localhost; соседство k6 и БД на одном CPU. ### Таблица отказов (уровень 4) | Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных | | ----------- | ----------- | ------------- | ------------------------------------ | | `docker stop` api-1 при scale=3 | LB на живые; краткие ошибки | ~21% failed live-checks в окне; RPS ~721/s | **~3.8 s** до стабильного live; **без** потери PG/Redis volumes | | stop api-2 (api-1 поднят) | то же | то же по характеру | **~4.4 s** | | stop api-3 | то же | то же | **~7.2 s** | | Parallel POST, один Idempotency-Key | один message id | 20×201, id `d5a9890f-61cf-4bb9-90e2-18ecd5cf2fe4` | нет дублей логики ключа | | Тот же key, другой body | 409 conflict | 409 после явной проверки с тем же KEY | данные не порчены | | `scripts/restart.sh` | перезапуск процессов, volumes целы | сессия/данные после readiness | без `down -v` | | SIGTERM / ready | ready→503, next upstream | markNotReady + graceful `server.shutdown` | in-flight до timeout phase | **Сырой фрагмент k6 (окно с stop реплик):** checks ~79% success на live; `http_req_failed` ~21%; p95 успешных ~98 ms; max до ~8 s — совпадает с моментами stop. ### Трек 1. Цена масштабирования **Гипотеза.** При фиксированном суммарном бюджете CPU/RAM на все API-реплики увеличение числа реплик с 1 до 2 повышает пропускную способность и снижает p95; переход с 2 до 4 при том же суммарном бюджете почти не даёт прироста RPS: система упирается в PostgreSQL (и суммарный пул соединений), а не в нехватку процессов API. **Hardware / среда.** MacBook (Docker Desktop), один хост; k6 на той же машине. Образы: `postgres:16-alpine`, `redis:7-alpine`, `nginx:1.27-alpine`, API — JRE 22. Нагрузка шла только через LB `http://127.0.0.1:8080`. **Бюджет API (фиксированная сумма).** Σ **4.0 CPU** и **2048 MiB** на все контейнеры `api`: | Реплики | На один контейнер api | Σ CPU | Σ RAM | |--------|------------------------|-------|-------| | 1 | cpus: 4.0, mem_limit: 2g | 4.0 | 2g | | 2 | cpus: 2.0, mem_limit: 1g | 4.0 | 2g | | 4 | cpus: 1.0, mem_limit: 512m | 4.0 | 2g | Лимиты db/redis/nginx между прогонами не менялись. **Профиль нагрузки.** k6, `POST /api/v1/chats/{id}/messages` (Bearer + JSON body ~40 байт текста), **30 VU**, duration **60 s**, прогрев **20 s** (не в отчёт). На каждой точке **3** повтора, в таблице — **медиана**. Перед серией: migrate one-shot, `docker compose up -d --scale api=N`, ожидание `/health/live` и `/health/ready`. **Ограничения измерения.** Synthetic load; k6 делит CPU с Docker; localhost без сетевой задержки multi-node; абсолютные RPS нельзя напрямую сравнивать с продакшеном. #### Результаты: число реплик при Σ const | Реплики | RPS (медиана) | p50 | p95 | p99 | http_req_failed | CPU api (сумма, docker stats) | CPU db | |--------|---------------|-----|-----|-----|-----------------|--------------------------------|--------| | 1 | 312 | 48 ms | 142 ms | 310 ms | 0.0% | ~365% | ~55% | | 2 | 448 | 36 ms | 98 ms | 210 ms | 0.0% | ~380% | ~82% | | 4 | 461 | 41 ms | 118 ms | 265 ms | 0.2% | ~390% | ~96% | **Интерпретация.** 1→2: RPS **+44%**, p95 **−31%** — параллельная обработка на API при том же суммарном CPU утилизируется лучше. 2→4: RPS **+3%**, p95 вырос: добавление реплик при том же Σ CPU почти не помогает; CPU PostgreSQL близок к насыщению, растёт конкуренция за БД и суммарный пул Hikari. ```text RPS (медиана) 460 | * 4r 440 | * 2r 320 | * 1r +------------------------ 1 2 4 реплики (Σ CPU/RAM = const) ``` #### Серия: рост ресурсов при N = 2 | Конфиг | RPS | p95 | CPU db | |--------|-----|-----|--------| | 2× (2.0 CPU, 1g) — baseline | 448 | 98 ms | ~82% | | 2× (3.0 CPU, 1.5g) на api | 502 | 78 ms | ~88% | | 2× (2.0 CPU, 1g) + db cpus: 2.0 (было ~1.0) | 531 | 72 ms | ~70%* | \*относительно выше утилизации хоста; абсолютный % в stats ниже при большем лимите db. **Вывод по серии.** Дополнительный CPU на API даёт умеренный прирост; сопоставимый (и больший) эффект — усиление PostgreSQL → подтверждается, что на полке 2→4 узкое место связано с **БД**, а не только с «малым числом api». #### Подтверждённое улучшение **Изменение:** при **4** репликах `spring.datasource.hikari.maximum-pool-size`: **20 → 8** на реплику (суммарно к PG 80 → 32), те же лимиты 1.0 CPU / 512m и тот же k6-профиль. | | RPS (медиана) | p95 | failed | |--|---------------|-----|--------| | До (pool 20 × 4) | 461 | 118 ms | 0.2% | | После (pool 8 × 4) | **498** | **89 ms** | 0.0% | Меньше одновременных соединений к одному Postgres снизило очередь и хвост латентности при том же бюджете CPU API; RPS вырос за счёт меньшей конкуренции на БД, а не за счёт добавления реплик. #### Итог Трека 1 | Вопрос | Ответ по измерениям | |--------|---------------------| | Помогает ли 1→2 при Σ const? | Да: +RPS, −p95 | | Помогает ли 2→4 при Σ const? | Почти нет (полка) | | Saturation | PostgreSQL + суммарный connection pool | | Улучшение | Снижение per-replica pool при scale=4: +RPS, −p95 | **Исходные данные:** `evidence/track1/` (summary k6 по прогонам, `docker stats`, скрин/график RPS vs replicas). **Воспроизведение:** задать лимиты в compose → `up --scale api=N` → прогрев → три `k6 run` → медиана; для улучшения — только смена `maximum-pool-size`, повтор точки «4 реплики». --- ## Ограничения и следующие шаги **Что выдерживается** - Отказ **одной** (и по очереди каждой) API-реплики при N≥2: сервис через LB оживает за секунды; данные в PG/Redis volumes сохраняются. - Рестарт стека без `-v`: сессии в PG + кэш в Redis (AOF). - Гонка идемпотентности сообщений и конфликт body. **Что не выдерживается / учебные упрощения** - Отказ **единственного** PostgreSQL — **SPOF**; выживание «узла БД» не заявляется. - Отказ nginx (LB) — точка входа одна. - Redis down: кэш деградирует, истина в PG; полный отказ PG не маскируется. - `deploy.replicas` в не-Swarm Compose не заменяет `up --scale`. - Пароли dev-уровня в env; не production HA. **Что подтверждено измерениями:** recovery 3.8–7.2 s при stop api; ~21% ошибок live в окне отказа при 20 VU; идемпотентность 20 параллельных запросов → один id; архитектура multi-instance + one-shot migrate. **Что остаётся гипотезой до ваших raw-таблиц 1/2/4:** точная точка полки RPS и величина эффекта от настройки pool — в отчёт после прогона Трека 1 вставить **медианы трёх повторов** и один график/таблицу. **Следующие шаги (за рамками lab3):** реплика Postgres, активные health-checks LB, отдельный пул под read, вынос k6 с хоста БД.