Files
2026-10-17 09:17:24 +03:00

13 KiB
Raw Permalink Blame History

Отчёт — лабораторная 3

  • Автор, группа: Иванов Данил, БВТ2301
  • Целевая оценка: 5 трек 1
  • Commit/PR: mtusi2026/mtusi2026lab3#10
  • Источники: официальная документация Spring Boot 4.1, Docker Compose v2, nginx 1.27, PostgreSQL 16, HikariCP, MapStruct 1.6; помощь ИИ — консультации по архитектуре и отладке, все решения проверены экспериментально

Запуск из чистого clone

Prerequisites: Docker Desktop 4.x, Python 3.11+, PowerShell 5.1+ (Windows) или bash (Linux/macOS).

Создание секретов (один раз):

New-Item -ItemType Directory -Force -Path secrets
"messenger"       | Out-File -NoNewline secrets/postgres_db.txt
"messenger"       | Out-File -NoNewline secrets/postgres_user.txt
"change-me-local" | Out-File -NoNewline secrets/postgres_password.txt

Сборка и запуск:

docker compose --env-file .env up -d --build
Start-Sleep -Seconds 45
docker compose ps

Ожидаем: lab3-migrate-1 → Exited (0), lab3-api-1/2 → Up (healthy), lab3-lb-1, lab3-db-1, lab3-redis-1 → Up.

Публичный smoke:

.venv\Scripts\python.exe tests\smoke.py --base-url "http://127.0.0.1:8080"

Проверки уровня 3–4:

.venv\Scripts\python.exe tests\resilience.py --mode persistence --action-script "scripts/restart.cmd" --base-url "http://127.0.0.1:8080"
.venv\Scripts\python.exe tests\resilience.py --mode failover --action-script "scripts/stop-one.cmd" --base-url "http://127.0.0.1:8080"

Архитектура и решения

Топология:

client → nginx (LB, 127.0.0.1:8080) → api-1 / api-2 (Spring Boot 4.1.1, Java 21)
                                       ↓
                                   PostgreSQL 16 — общая БД (данные, сессии, idempotency_keys)
                                   Redis 7.4 — общий кэш

Ключевые решения:

  • LB — nginx 1.27.5, upstream с zone api_backend 64k + resolve + Docker DNS 127.0.0.11 valid=10s ipv6=off. max_fails=1 fail_timeout=5s, proxy_next_upstream на 502/503/504 с флагом non_idempotent (позволяет перекидывать POST-запросы на живую реплику при отказе). proxy_read_timeout=10s. Это позволяет nginx видеть смену IP реплик без перезапуска.
  • X-Instance-Id — вычисляется из /etc/hostname, выставляется InstanceIdFilter с @Order(HIGHEST_PRECEDENCE) — раньше Spring Security, поэтому присутствует и на 401.
  • Идемпотентность — таблица idempotency_keys, PK (user_id, method, chat_id, idempotency_key). Гонка решается atomic insert + read-after-conflict.
  • Сессии — в PostgreSQL. Токен переживает рестарт api и переключение между репликами.
  • Graceful shutdown — server.shutdown: graceful + spring.lifecycle.timeout-per-shutdown-phase: 30s.
  • Readiness — HealthService проверяет active_connections >= max_pool_size перед SELECT 1 и возвращает 503 без ожидания таймаута БД.

Соответствие контракту (исправленные замечания):

  • Пароль: @CodePointLength(min=12, max=128) в CreateUserDTO (корректно обрабатывает суррогатные пары и кириллицу).
  • Строгий Jackson: JacksonConfig включает FAIL_ON_UNKNOWN_PROPERTIES и запрещает CoercionConfig(Integer -> String). Лишние поля и типы отбрасываются с кодом 400.
  • Cursor: MessageService и ChatService используют isEmpty() вместо isBlank(). ?cursor=%20 возвращает 400.
  • Basic challenge: Добавлен charset="UTF-8". Передача body при login отклоняется (contentLength > 0 -> 400).

Доказательства критериев

Критерий README Команда/сценарий Наблюдаемый результат Файл
Публичный smoke python tests/smoke.py PASS: lab3 public API scenario evidence/lab3/smoke.log
≥2 реплики за LB curl -sD- /health/live × 10 Чередующиеся X-Instance-Id evidence/lab3/nginx-B2.log
Одна сессия, разные реплики 20 запросов с одним Bearer Ответы с обоих ID, без перелогина evidence/lab3/nginx-B1.log
X-Request-Id на всех ответах curl -sD- /api/v1/users/me Header присутствует на 401 evidence/lab3/nginx-C1.log
Idempotency-Key обязателен POST /messages без header HTTP 400, code=invalid_request evidence/lab3/idempotency-required.log
Idempotency-Key повтор 3× POST с key=k1 Один и тот же id evidence/lab3/idempotency-repeat.log
Idempotency-Key другой body POST key=k1, body=DIFF HTTP 409 evidence/lab3/idempotency-conflict.log
Failover (make test-failover) resilience.py --mode failover failed_attempts=0, first_recovery_seconds=1.641 evidence/lab3/failover.log
Persistence resilience.py --mode persistence Данные и токен сохранены evidence/lab3/persistence.log
Graceful shutdown docker stop <api-id> Graceful shutdown complete evidence/lab3/api-<id>.log
CPU/RAM limits docker inspect lab3-api-1 2000000000 1073741824 (2 CPU / 1 GiB) evidence/lab3/seriesA-C1-limits.txt
Нет container_name docker compose ps Только 8080/tcp, порты наружу не открыты evidence/lab3/ports.txt
LB исключает нездоровый backend docker pause lab3-api-1 POST-запрос ретраится на api-2 (201), зависшая исключается evidence/lab3/lb-exclusion-pause-test.log

Эксперименты и отказы

Failover

Профиль: resilience.py --mode failover --action-script scripts/stop-one.cmd.

Воздействие Ожидали Наблюдали
docker stop <api-id> под нагрузкой Оставшаяся реплика обслуживает без 5xx observed_instances_before=2, successful_writes=106, failed_attempts=0, восстановление 1.641 сек

LB exclusion (Зависший пул, Nginx)

Профиль: docker pause lab3-api-1 (имитация заполнения пула, TCP принимается, но ответа нет).

  • Первый POST-запрос повис на 10 секунд (proxy_read_timeout=10s). Сработал non_idempotent -> запрос ушел на api-2 и вернул 201.
  • Последующие запросы прошли мгновенно (~0.03s), так как Nginx исключил api-1 на fail_timeout=5s.
  • Доказательство: evidence/lab3/lb-exclusion-pause-test.log.

Трек 1. Цена масштабирования (уровень 5)

Гипотеза: при фиксированном суммарном CPU добавление API-реплик даёт ускорение только до saturation point. После точки RPS не растёт, p95 деградирует.

Методика: load.py, профиль POST /messages, клиент в docker-сети, concurrency 8, duration 90s. Прогрев JVM 20с. Для чистоты замеров перед каждой серией выполняется docker compose down -v и MAX_MESSAGES_PER_CHAT=500000.

Среда измерения

  • Дата: 2026-10-17
  • Commit: 7ffebe65d0e757d6c92863f9ef693437c5631923
  • Хост: Физический ПК на Windows x64 (Intel Core i5-11300H @ 3.10GHz, 4 ядра / 8 потоков), 16 GiB RAM.
  • Среда исполнения: Docker Desktop (WSL2 backend). Выделено ресурсов: 8 vCPU, ~7.65 GiB RAM.
  • Профиль нагрузки: POST /messages, closed-loop, concurrency 8, duration 90s.
  • Прогрев JVM: 20s при concurrency 2 перед каждым замером.
  • Сброс БД: docker compose down -v перед каждой серией для чистоты замеров.
  • Логирование Docker: драйвер local, max-size=1k, max-file=1 (минимизация I/O).
  • Сбор метрик: docker stats (каждые 2с) и pg_stat_activity (каждые 5с).

Серия A — фиксированный суммарный CPU (2 ядра)

Конфигурация Replicas CPU/rep RPS p50 p95 error
C1 1 2.0 136.6 59 106 0%
C2 2 1.0 125.1 68 114 0%
C3 4 0.5 51.4 52 288 1.09%

Вывод: при фиксированных 2 CPU добавление реплик не ускоряет, а замедляет систему. Причина — per-replica CPU throttle. На 0.5 ядра (C3) Spring Boot не может эффективно разворачивать JIT и GC, что приводит к падению RPS в 2.6 раза и росту p95 в 2.7 раза. Это граница рабочей зоны (даже при proxy_read_timeout=10s начинаются таймауты).

Серия B — рост ресурсов при 2 репликах

Конфигурация Total CPU RPS p50 p95 error
B1 2.0 130.2 54 130 0%
B2 4.0 146.9 49 98 0%
B3 8.0 171.1 36 93 0%

Вывод: при росте CPU пропускная способность монотонно растёт, а задержка падает.

Графики (по результатам замеров)

RPS vs Replicas RPS vs CPU p95 Latency

Локализация узкого места (Saturation point)

Согласно данным docker stats и pg_stat_activity:

  1. БД (PostgreSQL): pg_stat_activity показывает отсутствие блокировок и IO-wait. Пул Hikari заполнен не полностью (10-19 idle из 20). CPU БД ~100% в C1, но она справляется.
  2. Сеть Docker: не является узким местом, так как docker stats фиксирует загрузку CPU API на уровне 130-210% (то есть процесс упирается в процессор, а не ждет сеть).
  3. Saturation point находится на уровне 0.5 CPU на реплику. Дробление ресурсов вредит JVM.

Подтверждённое улучшение

Добавление non_idempotent в proxy_next_upstream и сокращение fail_timeout с 15s до 5s дало сокращение времени восстановления после отказа реплики с 4.234s до 1.641s (в 2.5 раза). Подтверждено resilience.py --mode failover.

Ограничения и следующие шаги

Что доказано:

  • Все критерии уровня 3 и 4 — PASS.
  • Saturation point локализован в CPU throttle.
  • Идемпотентность race-safe, graceful shutdown, failover, LB exclusion — работают.

Учебные упрощения:

  • Один узел Docker Desktop.
  • Closed-loop бенчмарк (координированное упущение не устранено).

Следующие шаги в production-среде:

  1. Переезд на Linux bare metal или Kubernetes.
  2. PgBouncer для высоконагруженных систем.
  3. Шардинг БД.