14 KiB
Отчёт — лабораторная 3
Каменский Андрей Игоревич, БПИ2301. Целевая оценка — 5, трек 1 — «Цена масштабирования». Изменения пока локальные, PR не создан.
Запуск
Нужны Docker с Compose и Python 3.9+ для публичных проверок. Для проверки схемы, форматирования и графиков использую Python 3.11+ с requirements-dev.txt. Образы: Python 3.13.0, PostgreSQL 16.6, Redis 7.4.2, HAProxy 3.0.12; зависимости закреплены в requirements.txt.
cp compose.env.example .env
# В .env задать POSTGRES_PASSWORD — случайную hex-строку.
docker compose up -d --build --wait
make check
make test
make test-lab3
make test-persistence ACTION_SCRIPT=scripts/restart.sh
API и Swagger по умолчанию: http://localhost:8080/docs. В текущем локальном .env выбран APP_PORT=8081, поскольку 8080 занят предыдущим стендом; адрес — http://localhost:8081/docs. Makefile и инфраструктурные скрипты определяют внешний адрес по BASE_URL, затем APP_PORT и выбранному .env. Явное переопределение: make test BASE_URL=http://localhost:8081.
Миграции Alembic выполняет сервис migration до старта API; текущая ревизия — 006. Исходный .env.example сохранён как в задании, для реализации используется compose.env.example. DATABASE_URL_FILE/CACHE_URL_FILE из исходного шаблона не используются: Compose передаёт DATABASE_URL и REDIS_URL. Сессии хранятся в Redis; срок защиты ключа идемпотентности фиксирован — 24 часа.
Для дополнительных инструментов:
python3 -m venv .venv
.venv/bin/python -m pip install -r requirements-dev.txt
make check validate lint PYTHON=.venv/bin/python
Остановка с сохранением данных — docker compose down; намеренный сброс учебных данных — docker compose down --volumes. Обычные проверки volumes не удаляют.
Что сделал
Сохранил структуру прошлой лабы: роутеры → сервисы → репозитории, DTO на dataclass. Пользователи, чаты, участники, сообщения и результаты отправок находятся в PostgreSQL. Redis хранит общие сессии с абсолютным expiry/TTL и AOF appendfsync always; профили кэшируются отдельно на 60 секунд. История читается из PostgreSQL.
Добавил две реплики одного сервиса api за HAProxy. Внешний порт опубликован только у LB на 127.0.0.1. API, PostgreSQL и Redis доступны во внутренней сети; container_name и sticky sessions нет. Число API меняется командой docker compose up -d --scale api=4 --wait. X-Instance-Id — UUID процесса, постоянный до его перезапуска; присутствует в ответах API, включая ошибки.
HAProxy распределяет запросы roundrobin, опрашивает /health/ready раз в секунду, исключает backend после двух неуспехов и возвращает после двух успехов. DNS Docker — 127.0.0.11:53, server-template содержит 16 слотов. Адреса обновляются при замене контейнеров. Readiness проверяет Redis и все колонки пяти обязательных таблиц PostgreSQL, включая message_requests. Проверка ограничена двумя секундами независимо от завершения отмены запроса драйвером; на процесс остаётся не более одной незавершённой пробы.
Для сообщений обязателен Idempotency-Key: ASCII, 1–128 символов, область — пользователь, POST и путь чата. Таблица message_requests имеет первичный ключ (sender_id, chat_id, key). Регистрация ключа, INSERT сообщения и сохранение результата выполняются одной транзакцией; COMMIT завершается до 201. Конкурентные реплики синхронизируются ограничением PostgreSQL. Повтор возвращает прежнее сообщение и 201, другой текст с тем же ключом — 409. Неподтверждённый запрос можно повторить с прежним ключом; временная 5xx не закрепляется как результат.
Миграции 005/006 сохраняют Unicode-поля в bytea как UTF-8. SQLAlchemy преобразует str ↔ bytes; внешний JSON прежний, допустимый U+0000 сохраняется. Ограничения длины и непустого текста проверяет API. При переходе со старой схемы требуется окно обслуживания: старый образ нельзя смешивать с новой схемой колонок. Поочерёдная замена проверена для совместимой версии и уже применённой схемы.
Скрипт rolling-update.py добавляет временную реплику, ждёт readiness и её появления через LB, выводит старую в drain, ждёт завершения запросов и останавливает её. Uvicorn получает 10 секунд на завершение; Docker — 15. Миграции в rolling-скрипт не входят. Команда запуска — python3 scripts/rolling-update.py, executable bit этому .py не требуется.
| Сервис | CPU | RAM |
|---|---|---|
| Каждая API, по умолчанию две | 0.5 | 256 MiB |
| PostgreSQL | 1 | 512 MiB |
| Redis | 0.25 | 128 MiB |
| HAProxy | 0.5 | 128 MiB |
| migration | 0.5 | 256 MiB |
Таймаут соединения HAProxy с API — 1 с, проверки — 1 с, server — 12 с; ожидание пула БД — 2 с, SQL statement — 2.5 с, asyncpg command — 3 с, Redis connect/read — по 0.3 с. Расчётный бюджет обнаружения отказа LB — до 4 с без задержек планирования; фактическое восстановление проверяется относительно 10 с из задания.
Проверки
Основные проверки и измерения выполнены до переноса из mtusi2026lab1, поэтому это имя встречается в логах. В новом форке отдельно прошли сборка, миграции с пустых volumes, публичный smoke, параллельная идемпотентность, дополнительные краевые проверки, persistence и failover на порту 8081. Обязательный контракт и публичные тесты не менял.
| Проверка | Результат | Evidence |
|---|---|---|
| check / validate / lint в новом репозитории | Пройдены | quality |
| Публичный smoke и 16 параллельных повторов | ≥2 API, одно сообщение, корректная область ключа | tests |
| Полный restart API, PostgreSQL и Redis | Данные и прежний токен сохранены | persistence |
| Отказ выбранной API в новом репозитории | Восстановление ≤10 с, подтверждённые сообщения сохранены | failover |
| Последовательный SIGKILL каждой API | Предыдущая восстановлена до следующего отказа; сообщения сверены | failures |
| Поочерёдная замена под нагрузкой | Обе старые API завершились с code 0, результаты сверены | rolling, load |
| Новые IP обеих API | Старые IP заняты временными контейнерами; обе новые API обнаружены без рестарта LB | DNS |
| Повреждение схемы и заморозка зависимостей | Readiness и маршрут через LB возвращают ограниченные 503 | schema, pause |
| Неоднозначные заголовки, Unicode, ошибка посреди транзакции, повреждённый кэш | Запросы отклоняются или данные восстанавливаются; лишних строк нет | edge checks |
| CPU/RAM и закрытые API-порты | Проверены реальные ограничения Docker | infrastructure |
В новом форке публичный failover дал 110 успешных записей и 3 неуспешных попытки; восстановление по метрике теста — 2.597 с. Остановленную API затем восстановил, финальный smoke прошёл.
В полной проверке до переноса последовательно отключил два реальных контейнера. Подтверждённых сообщений сверено 1158 и 1312; ошибок — 23 и 23. Rolling под нагрузкой: 6411 записей, 1598 чтений за 40.07 с, 39 переходных ошибок. Потерь подтверждённых сообщений и дублей не обнаружил. Первая успешная операция после отказа не означает полного прекращения переходных ошибок.
Исследование масштабирования
Выбрал трек 1. Сравнил 1/2/4 API при одинаковых суммарных 2 CPU и 1 GiB на все API, затем отдельную серию с ростом ресурсов. Дополнительно проверил concurrency 8/32/64 и увеличение CPU PostgreSQL. Сохранил 18 исходных измерений, CSV и графики.
При четырёх API PostgreSQL с лимитом 0.25 CPU выбирает квоту и подвергается throttling; рост числа клиентов увеличивает задержки. В исходной серии увеличение ресурса БД до 1 CPU повысило средние успешные RPS с 206.8 до 366.1. WAL и блокировки отдельно не измерял, поэтому не объявляю их доказанной причиной плато.
Полная серия относится к версии до финального аудита, схеме 004. На версии 006 отдельно выполнил короткий контроль: 198.7 RPS при 0.25 CPU БД и 590.9 при 1 CPU; ошибок соответственно 0 и 10. Эти серии не смешивал; короткий контроль не заменяет полную матрицу финальной версии. Методика, исходные данные, графики и ограничения — RESEARCH.md.
Ограничения
Стенд выдерживает отказ одного процесса API. PostgreSQL, Redis, HAProxy и Docker-host остаются едиными точками отказа; потеря их узла и volumes не покрыта. HTTP локальный, данные синтетические. Автоматической очистки истёкших ключей пока нет, но после 24 часов ключ можно использовать заново. Между страницами истории нет общего snapshot; запрос, авторизованный до logout, может завершиться.
Исследование короткое и closed-loop: два повтора по 12 с, прогрев 3 с, заметный разброс и накладные расходы клиента/Docker Desktop. RPS — скорость HTTP-подтверждений, не точное число COMMIT. Ошибки учитываются отдельно; отсутствие единственной ошибки при любом обновлении не заявляется.
Источники: задание, contracts/README.md, OpenAPI и документация HAProxy, Docker Compose, SQLAlchemy, PostgreSQL, Uvicorn, Alembic и Redis.