Files
2026-11-06 18:57:43 +03:00

93 lines
14 KiB
Markdown
Raw Permalink Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
# Отчёт — лабораторная 3
Каменский Андрей Игоревич, БПИ2301. Целевая оценка — **5**, трек 1 — «Цена масштабирования». Изменения пока локальные, PR не создан.
## Запуск
Нужны Docker с Compose и Python 3.9+ для публичных проверок. Для проверки схемы, форматирования и графиков использую Python 3.11+ с requirements-dev.txt. Образы: Python 3.13.0, PostgreSQL 16.6, Redis 7.4.2, HAProxy 3.0.12; зависимости закреплены в requirements.txt.
```sh
cp compose.env.example .env
# В .env задать POSTGRES_PASSWORD — случайную hex-строку.
docker compose up -d --build --wait
make check
make test
make test-lab3
make test-persistence ACTION_SCRIPT=scripts/restart.sh
```
API и Swagger по умолчанию: [http://localhost:8080/docs](http://localhost:8080/docs). В текущем локальном .env выбран APP_PORT=8081, поскольку 8080 занят предыдущим стендом; адрес — [http://localhost:8081/docs](http://localhost:8081/docs). Makefile и инфраструктурные скрипты определяют внешний адрес по BASE_URL, затем APP_PORT и выбранному .env. Явное переопределение: `make test BASE_URL=http://localhost:8081`.
Миграции Alembic выполняет сервис migration до старта API; текущая ревизия — 006. Исходный .env.example сохранён как в задании, для реализации используется compose.env.example. DATABASE_URL_FILE/CACHE_URL_FILE из исходного шаблона не используются: Compose передаёт DATABASE_URL и REDIS_URL. Сессии хранятся в Redis; срок защиты ключа идемпотентности фиксирован — 24 часа.
Для дополнительных инструментов:
```sh
python3 -m venv .venv
.venv/bin/python -m pip install -r requirements-dev.txt
make check validate lint PYTHON=.venv/bin/python
```
Остановка с сохранением данных — `docker compose down`; намеренный сброс учебных данных — `docker compose down --volumes`. Обычные проверки volumes не удаляют.
## Что сделал
Сохранил структуру прошлой лабы: роутеры → сервисы → репозитории, DTO на dataclass. Пользователи, чаты, участники, сообщения и результаты отправок находятся в PostgreSQL. Redis хранит общие сессии с абсолютным expiry/TTL и AOF appendfsync always; профили кэшируются отдельно на 60 секунд. История читается из PostgreSQL.
Добавил две реплики одного сервиса api за HAProxy. Внешний порт опубликован только у LB на 127.0.0.1. API, PostgreSQL и Redis доступны во внутренней сети; container_name и sticky sessions нет. Число API меняется командой `docker compose up -d --scale api=4 --wait`. X-Instance-Id — UUID процесса, постоянный до его перезапуска; присутствует в ответах API, включая ошибки.
HAProxy распределяет запросы roundrobin, опрашивает /health/ready раз в секунду, исключает backend после двух неуспехов и возвращает после двух успехов. DNS Docker — 127.0.0.11:53, server-template содержит 16 слотов. Адреса обновляются при замене контейнеров. Readiness проверяет Redis и все колонки пяти обязательных таблиц PostgreSQL, включая message_requests. Проверка ограничена двумя секундами независимо от завершения отмены запроса драйвером; на процесс остаётся не более одной незавершённой пробы.
Для сообщений обязателен Idempotency-Key: ASCII, 1–128 символов, область — пользователь, POST и путь чата. Таблица message_requests имеет первичный ключ (sender_id, chat_id, key). Регистрация ключа, INSERT сообщения и сохранение результата выполняются одной транзакцией; COMMIT завершается до 201. Конкурентные реплики синхронизируются ограничением PostgreSQL. Повтор возвращает прежнее сообщение и 201, другой текст с тем же ключом — 409. Неподтверждённый запрос можно повторить с прежним ключом; временная 5xx не закрепляется как результат.
Миграции 005/006 сохраняют Unicode-поля в bytea как UTF-8. SQLAlchemy преобразует str ↔ bytes; внешний JSON прежний, допустимый U+0000 сохраняется. Ограничения длины и непустого текста проверяет API. При переходе со старой схемы требуется окно обслуживания: старый образ нельзя смешивать с новой схемой колонок. Поочерёдная замена проверена для совместимой версии и уже применённой схемы.
Скрипт rolling-update.py добавляет временную реплику, ждёт readiness и её появления через LB, выводит старую в drain, ждёт завершения запросов и останавливает её. Uvicorn получает 10 секунд на завершение; Docker — 15. Миграции в rolling-скрипт не входят. Команда запуска — `python3 scripts/rolling-update.py`, executable bit этому .py не требуется.
| Сервис | CPU | RAM |
| --- | ---: | ---: |
| Каждая API, по умолчанию две | 0.5 | 256 MiB |
| PostgreSQL | 1 | 512 MiB |
| Redis | 0.25 | 128 MiB |
| HAProxy | 0.5 | 128 MiB |
| migration | 0.5 | 256 MiB |
Таймаут соединения HAProxy с API — 1 с, проверки — 1 с, server — 12 с; ожидание пула БД — 2 с, SQL statement — 2.5 с, asyncpg command — 3 с, Redis connect/read — по 0.3 с. Расчётный бюджет обнаружения отказа LB — до 4 с без задержек планирования; фактическое восстановление проверяется относительно 10 с из задания.
## Проверки
Основные проверки и измерения выполнены до переноса из mtusi2026lab1, поэтому это имя встречается в логах. В новом форке отдельно прошли сборка, миграции с пустых volumes, публичный smoke, параллельная идемпотентность, дополнительные краевые проверки, persistence и failover на порту 8081. Обязательный контракт и публичные тесты не менял.
| Проверка | Результат | Evidence |
| --- | --- | --- |
| check / validate / lint в новом репозитории | Пройдены | [quality](evidence/lab3-transfer-quality.txt) |
| Публичный smoke и 16 параллельных повторов | ≥2 API, одно сообщение, корректная область ключа | [tests](evidence/lab3-transfer-tests.txt) |
| Полный restart API, PostgreSQL и Redis | Данные и прежний токен сохранены | [persistence](evidence/lab3-transfer-persistence.txt) |
| Отказ выбранной API в новом репозитории | Восстановление ≤10 с, подтверждённые сообщения сохранены | [failover](evidence/lab3-transfer-failover.txt) |
| Последовательный SIGKILL каждой API | Предыдущая восстановлена до следующего отказа; сообщения сверены | [failures](evidence/lab3-failures.json) |
| Поочерёдная замена под нагрузкой | Обе старые API завершились с code 0, результаты сверены | [rolling](evidence/lab3-rolling.txt), [load](evidence/lab3-rolling-load.json) |
| Новые IP обеих API | Старые IP заняты временными контейнерами; обе новые API обнаружены без рестарта LB | [DNS](evidence/lab3-audit-changing-ips.json) |
| Повреждение схемы и заморозка зависимостей | Readiness и маршрут через LB возвращают ограниченные 503 | [schema](evidence/lab3-audit-readiness.json), [pause](evidence/lab3-audit-frozen-stores.json) |
| Неоднозначные заголовки, Unicode, ошибка посреди транзакции, повреждённый кэш | Запросы отклоняются или данные восстанавливаются; лишних строк нет | [edge checks](evidence/lab3-transfer-edge-checks.txt) |
| CPU/RAM и закрытые API-порты | Проверены реальные ограничения Docker | [infrastructure](evidence/lab3-infrastructure.json) |
В новом форке публичный failover дал 110 успешных записей и 3 неуспешных попытки; восстановление по метрике теста — **2.597 с**. Остановленную API затем восстановил, финальный smoke прошёл.
В полной проверке до переноса последовательно отключил два реальных контейнера. Подтверждённых сообщений сверено 1158 и 1312; ошибок — 23 и 23. Rolling под нагрузкой: 6411 записей, 1598 чтений за 40.07 с, 39 переходных ошибок. Потерь подтверждённых сообщений и дублей не обнаружил. Первая успешная операция после отказа не означает полного прекращения переходных ошибок.
## Исследование масштабирования
Выбрал трек 1. Сравнил 1/2/4 API при одинаковых суммарных 2 CPU и 1 GiB на все API, затем отдельную серию с ростом ресурсов. Дополнительно проверил concurrency 8/32/64 и увеличение CPU PostgreSQL. Сохранил 18 исходных измерений, CSV и графики.
При четырёх API PostgreSQL с лимитом 0.25 CPU выбирает квоту и подвергается throttling; рост числа клиентов увеличивает задержки. В исходной серии увеличение ресурса БД до 1 CPU повысило средние успешные RPS с 206.8 до 366.1. WAL и блокировки отдельно не измерял, поэтому не объявляю их доказанной причиной плато.
Полная серия относится к версии до финального аудита, схеме 004. На версии 006 отдельно выполнил короткий контроль: 198.7 RPS при 0.25 CPU БД и 590.9 при 1 CPU; ошибок соответственно 0 и 10. Эти серии не смешивал; короткий контроль не заменяет полную матрицу финальной версии. Методика, исходные данные, графики и ограничения — [RESEARCH.md](RESEARCH.md).
## Ограничения
Стенд выдерживает отказ одного процесса API. PostgreSQL, Redis, HAProxy и Docker-host остаются едиными точками отказа; потеря их узла и volumes не покрыта. HTTP локальный, данные синтетические. Автоматической очистки истёкших ключей пока нет, но после 24 часов ключ можно использовать заново. Между страницами истории нет общего snapshot; запрос, авторизованный до logout, может завершиться.
Исследование короткое и closed-loop: два повтора по 12 с, прогрев 3 с, заметный разброс и накладные расходы клиента/Docker Desktop. RPS — скорость HTTP-подтверждений, не точное число COMMIT. Ошибки учитываются отдельно; отсутствие единственной ошибки при любом обновлении не заявляется.
Источники: задание, contracts/README.md, OpenAPI и документация [HAProxy](https://www.haproxy.com/documentation/haproxy-configuration-tutorials/), [Docker Compose](https://docs.docker.com/reference/compose-file/services/), [SQLAlchemy](https://docs.sqlalchemy.org/en/20/), [PostgreSQL](https://www.postgresql.org/docs/16/), [Uvicorn](https://uvicorn.dev/server-behavior/), Alembic и Redis.