Files
mtusi2026lab3/REPORT.md
T
ivanstorozhev b9a899d510 ЛР 3 — БВТ2304 — ivanstorozhev — на 4
Две реплики API за HAProxy делят PostgreSQL и сессии, поэтому остановка одной не рвёт чтение и запись. Idempotency-Key не даёт повторной отправке создать второе сообщение.

Автор / группа: ivanstorozhev, БВТ2304
Целевая оценка (3/4/5): 4
Трек 5, если заявлен: не заявлен

Что реализовано и что перенесено: из lab2 перенесён Spring Boot API. PostgreSQL хранит пользователей, чаты, участников, сообщения, сессии и ключи идемпотентности. Redis только кэширует разбор Bearer и обходится при отказе. Пароли — Argon2id. Миграции Liquibase запускает одноразовый сервис migrate, реплики API схему сами не накатывают. Добавлены HAProxy без sticky session, две реплики, X-Instance-Id, обязательный Idempotency-Key, scripts/stop-one.sh, scripts/restart.sh и scripts/rolling-update.sh. Время в ответах пишется с шестью знаками дробной секунды, чтобы его принимал Python 3.9.

Команды запуска из чистого clone:
cp .env.example .env
docker compose --env-file .env config --quiet
docker compose --env-file .env up -d --build
curl -fsS http://127.0.0.1:8080/health/ready
make test
make test-persistence ACTION_SCRIPT=scripts/restart.sh
make test-failover ACTION_SCRIPT=scripts/stop-one.sh
docker compose --env-file .env start api

Результаты проверок и ссылка на REPORT.md: подробности и числа в REPORT.md
make check — PASS: offline skeleton structure, local refs and Python syntax.
make test — PASS: lab3 public API scenario (Python 3.9.6).
make test-persistence ACTION_SCRIPT=scripts/restart.sh — PASS: persistence preserved confirmed data and existing session.
make test-failover ACTION_SCRIPT=scripts/stop-one.sh — PASS: две реплики до отказа, восстановление записи за 1.16 с, 114 успешных записей и 2 ошибки перехода.
mvn -q test в backend/ — 13 тестов без ошибок, включая повтор ключа, 409 на другое тело и 8 параллельных запросов с одним ключом. После фикса формата времени заново прогнан ApiIntegrationTest и публичный make test.

Ограничения / известные ошибки: трек 5 не делался. Один Docker-хост, единственные PostgreSQL, Redis и HAProxy остаются точками отказа. Если Redis жив, а удаление ключа при logout не прошло, кэш может жить до своего TTL. История сообщений не кэшируется. Миграция идёт один раз до старта реплик; совместимость новой схемы со старым бинарём под нагрузкой не проверялась. Пока HAProxy не снял backend, часть запросов на останавливаемую реплику завершается ошибкой соединения; повтор с тем же Idempotency-Key безопасен только для отправки сообщения.

Источники и использование ИИ: контракт contracts/openapi.json и contracts/README.md; Spring Boot 4.1.1, Spring Data JPA, spring-security-crypto, Spring Data Redis, Liquibase, Actuator, MapStruct 1.6.3, OpenAPI Generator 7.17.0, Bouncy Castle, PostgreSQL 16.10, Redis 7.4.6, HAProxy 3.2.6, Testcontainers. Реализация собрана в Cursor.

Весь обязательный минимум текущей и предыдущих работ сохранён с объявленными переходами.
Контракт и публичные тесты не ослаблены.
make check и make test выполнены; приложен реальный вывод.
Сценарии отказов своего уровня воспроизведены.
Все секреты и приватные ключи находятся вне Git; отчёт не содержит tokens.
README задания сохранён, REPORT.md содержит инструкцию именно моего решения.
2026-10-29 20:00:59 +03:00

16 KiB
Raw Blame History

Отчёт — лабораторная 3

  • Автор, группа: ivanstorozhev, БВТ2304
  • Целевая оценка: 4
  • Трек 5: не выбран
  • Commit/PR: TODO после публикации
  • Использованные источники, библиотеки и помощь ИИ: контракт contracts/openapi.json и contracts/README.md; реализация lab2 (Spring Boot 4.1.1, Spring Data JPA, spring-security-crypto Argon2id, Spring Data Redis, Liquibase, Actuator, MapStruct 1.6.3, OpenAPI Generator 7.17.0, Bouncy Castle 1.86). Образы: PostgreSQL 16.10, Redis 7.4.6, HAProxy 3.2.6, сборка maven:3.9.11-eclipse-temurin-21, runtime eclipse-temurin:21.0.8_9-jre-jammy.

Запуск из чистого clone

Нужны Docker Desktop (проверено 28.5.1), Docker Compose, Python 3.9+. JDK 21 и Maven 3.9 нужны только для mvn test вне образа.

cp .env.example .env
# Перед общим стендом замените учебный пароль PostgreSQL в .env.
docker compose --env-file .env config --quiet
docker compose --env-file .env up -d --build
curl -fsS http://127.0.0.1:8080/health/ready
make test
make test-persistence ACTION_SCRIPT=scripts/restart.sh
make test-failover ACTION_SCRIPT=scripts/stop-one.sh
# Поднять остановленную реплику и повторить отказ для второй:
docker compose --env-file .env start api

Миграции выполняет одноразовый сервис migrate: тот же JAR с профилем migrate. Liquibase отрабатывает при старте, затем процесс завершается с кодом 0. Реплики api стартуют после этого и с SPRING_LIQUIBASE_ENABLED=false. Повторный запуск migrate на уже заполненной схеме пишет Run: 0, Previously run: 5 и не создаёт таблицы заново. Отдельного seed нет.

Остановка без удаления данных: docker compose --env-file .env stop. Снятие контейнеров с сохранением volumes: docker compose --env-file .env down. Намеренное удаление учебных данных: docker compose --env-file .env down -v. Файл .env в Git не входит.

Свои проверки API: mvn -q test в каталоге backend/ (нужен Docker: Testcontainers поднимает PostgreSQL и Redis).

Архитектура и решения

Клиент ходит только в HAProxy на 127.0.0.1:8080. Две реплики сервиса api портов наружу не публикуют. HAProxy резолвит имя api через DNS Docker (127.0.0.11), balance roundrobin, sticky session нет. Проверка GET /health/ready каждые 1 с, backend снимается после 2 неудач (fall 2), возвращается после 1 успеха (rise 1). Таймаут проверки 1 с, timeout connect 1 с, timeout server 5 с, повторов запроса на балансировщике нет (retries 0). Худшая оценка обнаружения мёртвого backend — около 3 с (два интервала плюс таймаут проверки). На стенде первая успешная запись после начала stop-one.sh была через 1.108 с и 1.389 с.

PostgreSQL хранит пользователей, чаты, участников, сообщения, сессии и записи идемпотентности. Redis — только кэш разбора Bearer, как в lab2. История в Redis не кладётся. Источник истины сессии — строка в sessions. X-Instance-Id равен hostname контейнера (короткий id) и не меняется, пока процесс жив. scripts/stop-one.sh находит контейнер сервиса api по этому значению и делает docker stop -t 6. Политика restart: unless-stopped, поэтому остановленная реплика сама не поднимается. Код выхода 143 — это SIGTERM, не SIGKILL.

POST /api/v1/chats/{chat_id}/messages требует Idempotency-Key ([A-Za-z0-9._:-]{1,128}), иначе 400. Область — пользователь, метод POST, путь чата и ключ. В одной транзакции берётся pg_advisory_xact_lock, затем либо возвращается уже записанное сообщение, либо вместе с ним вставляется строка idempotency_records. Откат не оставляет ключ. Тот же текст в пределах IDEMPOTENCY_TTL_SECONDS (по умолчанию 86400) даёт тот же 201 и то же сообщение; другой текст — 409. В контракте lab3 у тела есть только text, поэтому канонический хеш — SHA-256 этого текста. Сессия и членство в чате проверяются и на повторе.

При SIGTERM Spring Boot перестаёт принимать трафик (server.shutdown=graceful, timeout-per-shutdown-phase=4s). /health/ready включает readinessState и db и в этот момент становится 503, HAProxy снимает реплику. Redis в readiness не входит: кэш не обязателен, сессия читается из PostgreSQL. Пул Hikari на реплику: maximum-pool-size=10, connection-timeout=3000.

Лимиты: API 1 CPU и 1024 MiB на реплику (-XX:MaxRAMPercentage=75), PostgreSQL 1 CPU и 512 MiB, Redis 0.25 CPU и 128 MiB, HAProxy 0.25 CPU и 128 MiB, migrate 0.5 CPU и 1024 MiB. container_name нет, число реплик задаёт API_REPLICAS (по умолчанию 2).

Соответствие .env.example:

Переменная примера Куда попадает
APP_HOST, APP_PORT server.address, server.port внутри реплики; снаружи слушает только HAProxy
SESSION_TTL_SECONDS app.session-ttl
IDEMPOTENCY_TTL_SECONDS app.idempotency-ttl
API_REPLICAS deploy.replicas сервиса api
POSTGRES_* контейнер Postgres и SPRING_DATASOURCE_*
SPRING_DATASOURCE_URL в Compose URL всё равно указывает на сервис postgres
SPRING_DATA_REDIS_HOST, SPRING_DATA_REDIS_PORT Spring Data Redis; в Compose хост redis
DATABASE_URL_FILE, CACHE_URL_FILE не используются: доступ задаётся переменными Spring
SESSION_STORE сессии в PostgreSQL, Redis только кэш
HOSTNAME app.instance-id, заголовок X-Instance-Id

Доказательства критериев

Стенд: Mac16,8, arm64, 12 CPU, 24 GiB RAM, Docker 28.5.1. Прогон 29 октября 2026.

Критерий README Команда/сценарий Наблюдаемый результат Файл доказательства
Публичный smoke make test PASS: lab3 public API scenario этот отчёт
Две реплики за одной точкой входа 30 запросов GET /health/live через 127.0.0.1:8080 два X-Instance-Id: 60a47156672c и 6cf753eaeaaf, они же hostname контейнеров api-1 и api-2. Порт наружу есть только у lb evidence/limits.txt
Данные и сессия переживают рестарт make test-persistence ACTION_SCRIPT=scripts/restart.sh PASS: persistence preserved confirmed data and existing session этот отчёт
Рестарт затронул API, PostgreSQL, Redis и LB, volumes на месте docker inspect до и после StartedAt сменился: api-1 15:48:00Z → 15:48:37Z, api-2 15:48:00Z → 15:48:37Z, postgres 15:45:39Z → 15:48:37Z, redis 15:45:39Z → 15:48:37Z, lb 15:48:11Z → 15:48:37Z. Volumes messenger-lab3_postgres-data и messenger-lab3_redis-data те же evidence/restart-before.txt, evidence/restart-after.txt
Отказ первой реплики make test-failover ACTION_SCRIPT=scripts/stop-one.sh до отказа 2 instance id; остановлен api-1 60a47156672c (Exited (143)), api-2 остался healthy. Успешных записей 119, ошибок 1, первая успешная запись через 1.108 с. PASS evidence/failover-1.txt, evidence/failover-1-ps.txt
Повтор после восстановления первой снова make test-failover снова 2 instance id до отказа; снова остановлен api-1 (проба попала на него). 115 успехов, 1 ошибка, восстановление 1.389 с. PASS evidence/failover-2.txt, evidence/failover-2-ps.txt
Отказ второй реплики TARGET_INSTANCE_ID=6cf753eaeaaf ./scripts/stop-one.sh во время tests/load.py api-2 Exited (143), api-1 healthy. За 25 с: 11911 успехов, 23 ошибки (0.193%), 476.173 RPS, p50/p95/p99 3.952/50.775/69.867 мс evidence/failover-api2-ps.txt, evidence/load-stop-api2.json
Идемпотентность, в том числе 8 параллельных запросов с одним ключом mvn -q test, класс IdempotencyIntegrationTest повтор того же текста — тот же message; другой текст — 409; нет ключа и кривой ключ — 400; неуспешный 400 не занимает ключ; один ключ в другом чате и у другого пользователя создаёт разные сообщения; 8 потоков — ровно одно сообщение backend/src/test/java/ru/mtuci/messenger/IdempotencyIntegrationTest.java
Лимиты, нет обхода LB, нет container_name docker inspect API: 1 CPU, 1024 MiB, ports={}; postgres 1 CPU / 512 MiB; redis 0.25 CPU / 128 MiB; lb 0.25 CPU / 128 MiB и только 127.0.0.1:8080 evidence/limits.txt
Миграции один раз лог второго migrate и databasechangelog второй прогон: Run: 0, Previously run: 5. В таблице 5 changesets, 005-idempotency один раз в 15:45:56 evidence/changelog.txt
Поочерёдная замена под нагрузкой scripts/rolling-update.sh во время tests/load.py --duration 90 --concurrency 4 каждая реплика остановлена и снова стала healthy, пока вторая отвечала на /health/ready. 6cf753eaeaaf: stop 15:51:51Z, healthy 15:52:01Z. 60a47156672c: stop 15:52:01Z, healthy 15:52:12Z. Нагрузка: 66264 успеха, 797 ошибок (1.189%), 736.209 RPS, p50/p95/p99 3.389/11.779/49.555 мс evidence/rolling-update.txt, evidence/rolling-load.json
Свои тесты целиком mvn -q test в backend/ 13 тестов, 0 ошибок backend/target/surefire-reports/
Базовая нагрузка без отказа tests/load.py --duration 20 --concurrency 4 12968 успехов, 0 ошибок, 648.130 RPS, p50/p95/p99 3.643/19.829/64.050 мс evidence/load.json
Трек 5 не запускался — —

Эксперименты и отказы

Нагрузка — закрытый цикл tests/load.py, 4 клиента, без автоматических повторов. Это throughput HTTP-подтверждений, не число COMMIT и не предел стенда. Прогрева отдельным профилем не было: первый запрос входит в окно. Сравнение «спокойный прогон» и «прогон с остановкой реплики» не выровнено по длительности (20 с и 25 с).

Воздействие Что ожидаем Что наблюдали Время восстановления / потеря данных
scripts/restart.sh перезапускает lb, api, postgres, redis тот же Bearer читает подтверждённое сообщение, volumes на месте persistence-тест прошёл; StartedAt всех этих контейнеров обновился готовность вернулась внутри теста; подтверждённое сообщение на месте
stop-one.sh останавливает реплику, ответившую на пробу не позднее 10 с идут новые записи, остановленный id пропадает из ответов, дублей нет два прогона: восстановление 1.108 с и 1.389 с, по одной ошибке на переход, PASS данные, подтверждённые до и во время отказа, на месте
Тот же скрипт останавливает вторую реплику во время записи оставшаяся реплика принимает POST api-2 exited 143, api-1 healthy; 23 ошибки на 11934 попытки запись продолжалась, отдельной потери подтверждённых сообщений тест не показал
Поочерёдный stop/start каждой реплики под нагрузкой /health/ready жив за счёт второй реплики, обе возвращаются ready не пропадал между stop и start; healthy через 10 с на каждую; 1.189% ошибок на 90 с обе реплики снова healthy, дубли из-за замены не измерялись отдельным подсчётом id
SIGTERM процесс завершается по сигналу, LB перестаёт слать на него docker stop -t 6 дал exit 143 уложилось в таймаут 6 с, SIGKILL (137) не понадобился

Ограничения и следующие шаги

Один Docker-host не переживает потерю этой машины. Единственные PostgreSQL, Redis и HAProxy — точки отказа: их остановка останавливает запись или вход, даже если вторая реплика API жива. Несколько API-процессов не делают базу и балансировщик высокодоступными.

Миграция запускается один раз до старта реплик и повторно ничего не меняет. Совместимость новой схемы со старым бинарём API под нагрузкой не проверялась: на стенде одна версия. Ломающее изменение схемы потребовало бы остановить API до миграции.

Пока HAProxy не снял backend (до 2 неудачных проверок), часть запросов попадает в останавливаемую реплику и завершается ошибкой соединения. Балансировщик такой POST не повторяет. Клиент может повторить тот же Idempotency-Key: подтверждённая запись не удваивается, неподтверждённая выполняется заново.

attachment_ids в обязательной схеме lab3 ещё нет, поэтому равенство «нет поля» и [] появится вместе с вложениями. Redis по-прежнему только кэш сессии; если DEL при logout не прошёл, ключ может жить до своего TTL, а отзыв виден через PostgreSQL при промахе кэша.