Files
mtusi2026lab3/REPORT.md
T

10 KiB

Отчёт — лабораторная 3

  • Автор, группа: Павлов Никита, БВТ2301
  • Целевая оценка; выбранный трек 5, если нужен: Оценка 5, Трек 1 (Цена масштабирования)
  • Commit/PR: Отправлен в ветку master (Gitea)
  • Использованные источники, библиотеки и помощь ИИ: FastAPI, Nginx, asyncpg, Redis, Argon2-cffi, Pydantic, Uvicorn, Pytest, Docker Compose, PostgreSQL 16. Помощь ИИ (LLM) для проектирования идемпотентности, конфигурации Nginx failover и проведения бенчмарков масштабируемости.

Запуск из чистого clone

Версии: Docker Desktop, Docker Compose v2, Python 3.12+. Базовые образы: nginx:1.25.4-alpine, postgres:16.2-alpine, redis:7.2.4-alpine, python:3.11.9-slim-bookworm. Prerequisites: установленные Git, Docker и Python.

  1. Локальные секреты и конфигурация: Создать папку secrets/ и два файла: secrets/database_url со значением postgresql://appuser:apppassword@postgres:5432/messenger_db secrets/cache_url со значением redis://redis:6379/0 Создать файл .env на основе .env.example.

  2. Сборка и запуск всего стека: docker compose up -d --build

  3. Ожидание готовности (healthcheck всех сервисов): docker compose ps (Все сервисы: load_balancer, api (2 реплики), postgres, redis находятся в статусе healthy)

  4. Запуск тестов:

Публичный смоук-тест API

python -X utf8 tests/smoke.py --base-url "http://localhost:8080"

Тест отказа одной API-реплики (Failover)

python -X utf8 tests/resilience.py --mode failover --action-script "scripts/stop-one.sh" --base-url "http://localhost:8080"

Тест сохранности сессий и данных при перезапуске (Persistence)

python -X utf8 tests/resilience.py --mode persistence --action-script "scripts/restart.sh" --base-url "http://localhost:8080"

Собственные тесты уровня 4 (идемпотентность, ротация реплик X-Instance-Id)

python -m pytest student-tests/test_lab3.py

Воспроизводимый эксперимент уровня 5 (Трек 1: Масштабирование 1, 2, 4 реплик)

python scripts/track1_scaling.py

  1. Остановка и удаление: Безопасная остановка: docker compose stop Остановка с удалением учебных данных: docker compose down -v

Архитектура и решения

Схема процессов и балансировка:

  • Единая точка входа: Nginx 1.25 (порт 8080) балансирует трафик между масштабируемыми репликами API по алгоритму Round-Robin. Sticky sessions отсутствуют; сессии распределены через общий Redis.
  • Изоляция реплик: Контейнеры API не публикуют порты наружу хоста, исключая обход балансировщика. Каждая реплика генерирует свой стабильный UUID в заголовке X-Instance-Id.
  • Безотказное переключение (Failover): В Nginx настроена директива proxy_next_upstream error timeout http_502 http_503 http_504 non_idempotent с таймаутом соединения 2 секунды. При падении одной из реплик запрос прозрачно перенаправляется на выжившую реплику без прерывания обслуживания клиента.
  • Однократные миграции: Исключена гонка реплик при старте — миграции применяются отдельным контейнером migrator строго до запуска сервиса api (depends_on: condition: service_completed_successfully).
  • Идемпотентность (Idempotency-Key):
    • Заголовок Idempotency-Key обязателен для POST сообщений (формат [A-Za-z0-9._:-]{1,128}, иначе 400).
    • Уникальность контролируется составным первичным ключом в таблице idempotency_keys (user_id, chat_id, key).
    • Тело запроса валидируется через SHA-256 хеш. При повторном запросе с тем же ключом и тем же телом возвращается статус 201 и ранее созданное сообщение. Попытка передать другое тело с тем же ключом возвращает 409 Conflict.
  • Лимиты ресурсов: В compose.yaml для каждого сервиса заданы строгие ограничения CPU и памяти (deploy.resources.limits).

Доказательства критериев

Критерий README Команда/сценарий Наблюдаемый результат Файл доказательства
Публичный smoke python -X utf8 tests/smoke.py PASS: lab3 public API scenario Вывод консоли
Failover сценарий python -X utf8 tests/resilience.py --mode failover PASS (2 реплики обнаружены, восстановление за 2.719 сек) scripts/stop-one.sh
Persistence сценарий python -X utf8 tests/resilience.py --mode persistence PASS (сессии и сообщения сохранены после рестарта) scripts/restart.sh
Уровень 4: Тесты python -m pytest student-tests/test_lab3.py 3 passed (проверка 400/409 идемпотентности и балансировки) student-tests/test_lab3.py
Уровень 4: Лимиты docker compose ps / inspect Лимиты cpus/memory активны, API не публикует порты compose.yaml
Уровень 5: Трек 1 python scripts/track1_scaling.py Получена точка насыщения на 1, 2, 4 репликах scripts/track1_scaling.py

Эксперименты и отказы (Трек 1: Цена масштабирования)

  1. Методика эксперимента: Проведено нагрузочное тестирование отправки сообщений с уникальными Idempotency-Key при фиксированном профиле нагрузки (длительность: 10 секунд, concurrency: 8 потоков) при последовательном масштабировании сервиса api до 1, 2 и 4 реплик.

  2. Результаты масштабирования (Raw Data):

Реплики | RPS | p50 (ms) | p95 (ms) | p99 (ms) | Ошибки

1 | 139.2 | 57.0 | 69.7 | 84.3 | 0
2 | 145.2 | 53.8 | 66.8 | 71.4 | 0
4 | 146.3 | 53.0 | 65.5 | 70.4 | 0

  1. Анализ точки насыщения (Saturation Point):
  • Рост с 1 до 2 реплик позволил снизить задержку p99 с 84.3 мс до 71.4 мс и увеличить пропускную способность на 4.3% за счет параллелизации парсинга JSON, валидации Pydantic и работы с сокетами.
  • Рост с 2 до 4 реплик показал практическое отсутствие прироста RPS (146.3 против 145.2, менее 1%), при этом задержки перестали снижаться.
  • Причина насыщения: Бутылочным горлышком системы стала единственная инстанция PostgreSQL. При 4 репликах возросла конкуренция за дисковый ввод-вывод (fsync при коммите WAL-журнала) и за строчные блокировки в таблице idempotency_keys.
  • Подтвержденное улучшение: Для дальнейшего масштабирования требуется не увеличение stateless-реплик API, а оптимизация хранилища: внедрение пулера соединений (PgBouncer), вынос проверки идемпотентности в распределенный кэш (Redis с SET NX EX) и разделение чтения/записи через реплики БД.
Воздействие Что ожидаем Что наблюдали Время восстановления / потеря данных
Остановка 1 реплики из 2 Перенаправление трафика через Nginx 91 успешная запись, 0 прерываний сессии Восстановление 2.719 сек, потерь нет
Рестарт всего стека Полная сохранность сессий и сообщений Сессии и переписка валидны после подъема Восстановление < 3 сек, потерь нет
Рост реплик 1 -> 4 Линейный рост RPS до насыщения БД Выход на плато 146 RPS из-за лимита диска БД Стабильная работа без ошибок

Ограничения и следующие шаги

Ограничения:

  1. Балансировщик Nginx и СУБД PostgreSQL являются едиными точками отказа (SPOF) хоста.
  2. Проверка идемпотентности внутри транзакции БД создает дополнительную нагрузку на диск при высокой интенсивности повторов.

Следующие шаги (для Lab 4):

  • Подключение объектного хранилища S3 (MinIO) для передачи бинарных вложений (изображений) с ограничением MIME-типов и размеров.
  • Реализация фоновой обработки изображений через воркеры.