13 KiB
Отчёт — лабораторная 3
- Автор, группа: Иванов Данил, БВТ2301
- Целевая оценка: 5 трек 1
- Commit/PR: mtusi2026/mtusi2026lab3#10
- Источники: официальная документация Spring Boot 4.1, Docker Compose v2, nginx 1.27, PostgreSQL 16, HikariCP, MapStruct 1.6; помощь ИИ — консультации по архитектуре и отладке, все решения проверены экспериментально
Запуск из чистого clone
Prerequisites: Docker Desktop 4.x, Python 3.11+, PowerShell 5.1+ (Windows) или bash (Linux/macOS).
Создание секретов (один раз):
New-Item -ItemType Directory -Force -Path secrets
"messenger" | Out-File -NoNewline secrets/postgres_db.txt
"messenger" | Out-File -NoNewline secrets/postgres_user.txt
"change-me-local" | Out-File -NoNewline secrets/postgres_password.txt
Сборка и запуск:
docker compose --env-file .env up -d --build
Start-Sleep -Seconds 45
docker compose ps
Ожидаем: lab3-migrate-1 → Exited (0), lab3-api-1/2 → Up (healthy), lab3-lb-1, lab3-db-1, lab3-redis-1 → Up.
Публичный smoke:
.venv\Scripts\python.exe tests\smoke.py --base-url "http://127.0.0.1:8080"
Проверки уровня 3–4:
.venv\Scripts\python.exe tests\resilience.py --mode persistence --action-script "scripts/restart.cmd" --base-url "http://127.0.0.1:8080"
.venv\Scripts\python.exe tests\resilience.py --mode failover --action-script "scripts/stop-one.cmd" --base-url "http://127.0.0.1:8080"
Архитектура и решения
Топология:
client → nginx (LB, 127.0.0.1:8080) → api-1 / api-2 (Spring Boot 4.1.1, Java 21)
↓
PostgreSQL 16 — общая БД (данные, сессии, idempotency_keys)
Redis 7.4 — общий кэш
Ключевые решения:
- LB — nginx 1.27.5, upstream с
zone api_backend 64k+resolve+ Docker DNS127.0.0.11 valid=10s ipv6=off.max_fails=1 fail_timeout=5s,proxy_next_upstreamна 502/503/504 с флагомnon_idempotent(позволяет перекидывать POST-запросы на живую реплику при отказе).proxy_read_timeout=10s. Это позволяет nginx видеть смену IP реплик без перезапуска. - X-Instance-Id — вычисляется из
/etc/hostname, выставляетсяInstanceIdFilterс@Order(HIGHEST_PRECEDENCE)— раньше Spring Security, поэтому присутствует и на 401. - Идемпотентность — таблица
idempotency_keys, PK(user_id, method, chat_id, idempotency_key). Гонка решается atomic insert + read-after-conflict. - Сессии — в PostgreSQL. Токен переживает рестарт api и переключение между репликами.
- Graceful shutdown —
server.shutdown: graceful+spring.lifecycle.timeout-per-shutdown-phase: 30s. - Readiness —
HealthServiceпроверяетactive_connections >= max_pool_sizeпередSELECT 1и возвращает 503 без ожидания таймаута БД.
Соответствие контракту (исправленные замечания):
- Пароль:
@CodePointLength(min=12, max=128)вCreateUserDTO(корректно обрабатывает суррогатные пары и кириллицу). - Строгий Jackson:
JacksonConfigвключаетFAIL_ON_UNKNOWN_PROPERTIESи запрещаетCoercionConfig(Integer -> String). Лишние поля и типы отбрасываются с кодом 400. - Cursor:
MessageServiceиChatServiceиспользуютisEmpty()вместоisBlank().?cursor=%20возвращает 400. - Basic challenge: Добавлен
charset="UTF-8". Передача body при login отклоняется (contentLength > 0-> 400).
Доказательства критериев
| Критерий README | Команда/сценарий | Наблюдаемый результат | Файл |
|---|---|---|---|
| Публичный smoke | python tests/smoke.py |
PASS: lab3 public API scenario |
evidence/lab3/smoke.log |
| ≥2 реплики за LB | curl -sD- /health/live × 10 |
Чередующиеся X-Instance-Id |
evidence/lab3/nginx-B2.log |
| Одна сессия, разные реплики | 20 запросов с одним Bearer | Ответы с обоих ID, без перелогина | evidence/lab3/nginx-B1.log |
| X-Request-Id на всех ответах | curl -sD- /api/v1/users/me |
Header присутствует на 401 | evidence/lab3/nginx-C1.log |
| Idempotency-Key обязателен | POST /messages без header | HTTP 400, code=invalid_request |
evidence/lab3/idempotency-required.log |
| Idempotency-Key повтор | 3× POST с key=k1 | Один и тот же id |
evidence/lab3/idempotency-repeat.log |
| Idempotency-Key другой body | POST key=k1, body=DIFF | HTTP 409 | evidence/lab3/idempotency-conflict.log |
Failover (make test-failover) |
resilience.py --mode failover |
failed_attempts=0, first_recovery_seconds=1.641 |
evidence/lab3/failover.log |
| Persistence | resilience.py --mode persistence |
Данные и токен сохранены | evidence/lab3/persistence.log |
| Graceful shutdown | docker stop <api-id> |
Graceful shutdown complete |
evidence/lab3/api-<id>.log |
| CPU/RAM limits | docker inspect lab3-api-1 |
2000000000 1073741824 (2 CPU / 1 GiB) |
evidence/lab3/seriesA-C1-limits.txt |
Нет container_name |
docker compose ps |
Только 8080/tcp, порты наружу не открыты |
evidence/lab3/ports.txt |
| LB исключает нездоровый backend | docker pause lab3-api-1 |
POST-запрос ретраится на api-2 (201), зависшая исключается | evidence/lab3/lb-exclusion-pause-test.log |
Эксперименты и отказы
Failover
Профиль: resilience.py --mode failover --action-script scripts/stop-one.cmd.
| Воздействие | Ожидали | Наблюдали |
|---|---|---|
docker stop <api-id> под нагрузкой |
Оставшаяся реплика обслуживает без 5xx | observed_instances_before=2, successful_writes=106, failed_attempts=0, восстановление 1.641 сек |
LB exclusion (Зависший пул, Nginx)
Профиль: docker pause lab3-api-1 (имитация заполнения пула, TCP принимается, но ответа нет).
- Первый POST-запрос повис на 10 секунд (
proxy_read_timeout=10s). Сработалnon_idempotent-> запрос ушел на api-2 и вернул201. - Последующие запросы прошли мгновенно (~0.03s), так как Nginx исключил api-1 на
fail_timeout=5s. - Доказательство:
evidence/lab3/lb-exclusion-pause-test.log.
Трек 1. Цена масштабирования (уровень 5)
Гипотеза: при фиксированном суммарном CPU добавление API-реплик даёт ускорение только до saturation point. После точки RPS не растёт, p95 деградирует.
Методика: load.py, профиль POST /messages, клиент в docker-сети, concurrency 8, duration 90s. Прогрев JVM 20с. Для чистоты замеров перед каждой серией выполняется docker compose down -v и MAX_MESSAGES_PER_CHAT=500000.
Среда измерения
- Дата: 2026-10-17
- Commit:
7ffebe65d0e757d6c92863f9ef693437c5631923 - Хост: Физический ПК на Windows x64 (
Intel Core i5-11300H @ 3.10GHz, 4 ядра / 8 потоков), 16 GiB RAM. - Среда исполнения: Docker Desktop (WSL2 backend). Выделено ресурсов: 8 vCPU, ~7.65 GiB RAM.
- Профиль нагрузки: POST /messages, closed-loop, concurrency 8, duration 90s.
- Прогрев JVM: 20s при concurrency 2 перед каждым замером.
- Сброс БД:
docker compose down -vперед каждой серией для чистоты замеров. - Логирование Docker: драйвер
local, max-size=1k, max-file=1 (минимизация I/O). - Сбор метрик:
docker stats(каждые 2с) иpg_stat_activity(каждые 5с).
Серия A — фиксированный суммарный CPU (2 ядра)
| Конфигурация | Replicas | CPU/rep | RPS | p50 | p95 | error |
|---|---|---|---|---|---|---|
| C1 | 1 | 2.0 | 136.6 | 59 | 106 | 0% |
| C2 | 2 | 1.0 | 125.1 | 68 | 114 | 0% |
| C3 | 4 | 0.5 | 51.4 | 52 | 288 | 1.09% |
Вывод: при фиксированных 2 CPU добавление реплик не ускоряет, а замедляет систему. Причина — per-replica CPU throttle. На 0.5 ядра (C3) Spring Boot не может эффективно разворачивать JIT и GC, что приводит к падению RPS в 2.6 раза и росту p95 в 2.7 раза. Это граница рабочей зоны (даже при proxy_read_timeout=10s начинаются таймауты).
Серия B — рост ресурсов при 2 репликах
| Конфигурация | Total CPU | RPS | p50 | p95 | error |
|---|---|---|---|---|---|
| B1 | 2.0 | 130.2 | 54 | 130 | 0% |
| B2 | 4.0 | 146.9 | 49 | 98 | 0% |
| B3 | 8.0 | 171.1 | 36 | 93 | 0% |
Вывод: при росте CPU пропускная способность монотонно растёт, а задержка падает.
Графики (по результатам замеров)
Локализация узкого места (Saturation point)
Согласно данным docker stats и pg_stat_activity:
- БД (PostgreSQL):
pg_stat_activityпоказывает отсутствие блокировок и IO-wait. Пул Hikari заполнен не полностью (10-19 idle из 20). CPU БД ~100% в C1, но она справляется. - Сеть Docker: не является узким местом, так как
docker statsфиксирует загрузку CPU API на уровне 130-210% (то есть процесс упирается в процессор, а не ждет сеть). - Saturation point находится на уровне 0.5 CPU на реплику. Дробление ресурсов вредит JVM.
Подтверждённое улучшение
Добавление non_idempotent в proxy_next_upstream и сокращение fail_timeout с 15s до 5s дало сокращение времени восстановления после отказа реплики с 4.234s до 1.641s (в 2.5 раза). Подтверждено resilience.py --mode failover.
Ограничения и следующие шаги
Что доказано:
- Все критерии уровня 3 и 4 — PASS.
- Saturation point локализован в CPU throttle.
- Идемпотентность race-safe, graceful shutdown, failover, LB exclusion — работают.
Учебные упрощения:
- Один узел Docker Desktop.
- Closed-loop бенчмарк (координированное упущение не устранено).
Следующие шаги в production-среде:
- Переезд на Linux bare metal или Kubernetes.
- PgBouncer для высоконагруженных систем.
- Шардинг БД.


