Files
mtusi2026lab3/REPORT.md
T
2026-10-15 13:15:19 +03:00

51 KiB
Raw Blame History

Отчёт — лабораторная 3

  • Автор, группа: Гришко Дмитрий Михайлович, БВТ2303.
  • Целевая оценка: 5, трек 1 — «Цена масштабирования».
  • Ветка: solution/BVT2303-Grishko.
  • PR: ссылка
  • Источники: задание, контракт, публичные проверки, Compose services, HAProxy 3.2 configuration, Go GOMAXPROCS, pgxpool Stat, aiohttp, Docker Engine stats.
  • Зависимости: Go 1.22.2; pgx/v5, go-redis/v9, golang-migrate/v4, x/crypto/argon2, google/uuid; PostgreSQL 16.10, Redis 7.4.11, HAProxy 3.2.25; frontend — Node 22, Vite, React, TypeScript. Исследование: Python 3.12.3, aiohttp 3.12.15, matplotlib 3.9.2, numpy 1.26.4; полный список закреплён в requirements-lock.txt.
  • Помощь ИИ: OpenAI Codex — перенос и реализация кода, подготовка инструментов, выполнение проверок, анализ измерений и оформление отчёта.

Запуск из чистой копии

Нужны Ubuntu WSL с Docker Desktop integration либо Linux с Docker Engine и Compose, Make и Python. Для публичных проверок достаточно Python 3.9+, для повторения зафиксированного исследовательского окружения использовался Python 3.12. Backend и frontend собираются в Docker; устанавливать Go и Node на хост не требуется. Все команды ниже выполняются из корня лабораторной в Linux-оболочке.

1. Клонирование и настройка

После публикации ветки с этой реализацией:

git clone --branch solution/BVT2303-Grishko https://gitea.privcloud.tech/TAskMAster339/mtusi2026lab3-fork.git
cd mtusi2026lab3-fork
python3 scripts/init_env.py

init_env.py создаёт игнорируемый .env на основе .env.example, дополняет его именем базы/роли messenger и случайным паролем PostgreSQL. В существующий файл добавляются только отсутствующие настройки; заданные значения сохраняются. Файлы secrets/database_url и secrets/cache_url создаются при отсутствии и подключаются к контейнерам только для чтения. Сессии всегда хранятся в Redis. Секреты в отчёт и доказательства не включены.

Настройки меняются в .env до make app-up: APP_PORT — внутренний порт API, API_REPLICAS — от 2 до 32 реплик, оба TTL задаются в секундах. HAProxy автоматически получает порт и число реплик; внешняя точка входа остаётся localhost:8080. Для доступа HAProxy к API оставьте APP_HOST=0.0.0.0; привязка API к loopback контейнера сделает его недоступным для LB.

Поля _FILE задают пути внутри контейнера, непосредственно в /run/secrets. При изменении пути Compose меняет точку подключения соответствующего файла. Адреса и учётные данные меняются в локальных secrets/database_url и secrets/cache_url; скрипт не перезаписывает существующие файлы. После изменения POSTGRES_* нужно согласовать строку подключения; пароль существующей БД не меняется автоматически от редактирования .env.

2. Запуск проекта

docker compose --project-name highload-lab3 --env-file .env -f compose.yml config --quiet
make app-up
make app-status

make app-up создаёт .env, собирает образы, ждёт PostgreSQL/Redis, запускает отдельный сервис migrate, затем две API, HAProxy и frontend и ожидает их готовности. API не применяют миграции при обычном старте. Нормальное состояние migrate — Exited (0), остальных сервисов — healthy.

API через LB: http://localhost:8080; frontend: http://localhost:5173; локальная статистика HAProxy: http://localhost:8404/stats. Единственный прямой опубликованный маршрут к API — HAProxy. БД, Redis и API не публикуют host-порты.

Образы: backend build golang:1.22.2-bookworm, runtime debian:12.15-slim, PostgreSQL postgres:16.10-bookworm, Redis redis:7.4.11-bookworm, LB haproxy:3.2.25-alpine, frontend node:22-bookworm-slim. Npm-зависимости закреплены package-lock; тег Node закрепляет major, но не точный patch/digest. Образы и их идентификаторы исследовательских прогонов сохранены в manifests.

Миграции вручную при готовой БД:

docker compose --project-name highload-lab3 --env-file .env -f compose.yml run --rm migrate

Откат одной версии — отдельная операция оператора: остановить API, затем выполнить run --rm --no-deps migrate ./messenger migrate down. Откат версии 3 удаляет записи идемпотентности; нельзя продолжать обещать защиту прежних ключей после такого отката. Откат начальной схемы удаляет данные. Откат на рабочих данных в этой лабораторной не выполнялся.

3. Тесты, доказательства и эксперимент

make check
make test
make test-backend
docker compose --project-name highload-lab3 --env-file .env -f compose.yml run --rm --no-deps backend-tests go vet ./backend/...
docker compose --project-name highload-lab3 --env-file .env -f compose.yml exec -T frontend npm run build
make test-grade4
make test-persistence ACTION_SCRIPT=scripts/restart.sh
make test-failover ACTION_SCRIPT=scripts/stop-one.sh

# Повторить проверки и создать 15 Markdown-файлов доказательств:
python3 scripts/generate_evidence.py

Генератор запускает приложение, выполняет функциональные проверки, затем пересчитывает сохранённые исследовательские данные. Он не выполняет заново 150 нагрузочных прогонов. Для каждого пункта сохраняет предмет проверки, точную команду, stdout/stderr, exit code, UTC-время, ссылки на реализацию и результаты. История запусков находится в evidence/criteria/runs/<run-id>; текущие 15 файлов и индекс — в evidence/criteria. Ошибка не заменяется PASS, незавершённые пункты отмечаются; по окончании восстанавливаются две API без удаления volumes. Тесты создают синтетические данные в обычном учебном приложении; токены не печатаются.

Для полного нового исследования используйте отдельные серии по инструкции. Основная команда: bash experiments/lab3-scale/run.sh baseline baseline-my-run. Время — несколько часов. На время нагрузки обычное приложение останавливается, его volumes сохраняются; эксперимент использует отдельные volumes и порты 18080/18404. Для HI/HC/HL есть отдельные протоколы и команды. Одновременные нагрузочные эксперименты на этом хосте не допускаются.

4. Остановка и обслуживание

make app-down                     # безопасно: данные и сессии в volumes сохраняются
make app-up                       # возобновление
make app-rolling-update           # build, одна миграция, поочерёдная замена API
make app-logs

Намеренное удаление всех учебных данных обычного стенда, только когда это действительно требуется:

docker compose --project-name highload-lab3 --env-file .env -f compose.yml down -v

Эта команда в исследовании и генерации доказательств не используется. После смены пароля в .env для существующего PostgreSQL-volume надо отдельно менять пароль роли в БД; переменная контейнера не меняет пароль уже созданной роли.

Архитектура и решения

Браузер → React/Vite frontend → HAProxy → API 1 ─┬→ PostgreSQL
                                      → API 2 ─┴→ Redis (сессии)
                             migrate ──────────→ PostgreSQL

Frontend обращается к HAProxy через свой dev-proxy; API-клиенты используют LB напрямую. Сети proxy и data внутренние; frontend подключён только к edge, LB — к edge/proxy, API — к proxy/data, БД/Redis — только к data. HAProxy не имеет прямого доступа к сети БД. Общие именованные volumes есть только у PostgreSQL/Redis; API не хранит пользовательское состояние на диске.

Перенос из лабораторной 2

Перенесены регистрация, Argon2id, Basic-вход, Bearer-сессии Redis с TTL/AOF, PostgreSQL-репозитории, транзакционное создание чата, история с курсором, миграции 1/2, frontend и scripts/restart.sh.

Добавлены HAProxy, две API, X-Instance-Id, migration job, миграция 3 и общая идемпотентность, согласованный shutdown, action-hook остановки одной API, проверки отказов/rolling/лимитов и исследование масштабирования. Для наблюдения исследования добавлены выключенная по умолчанию BENCH_POOL_STATS и настраиваемый пул DATABASE_MAX_CONNS; подтверждённая настройка GOMAXPROCS=1 включена в обычном Compose. Оригинальные контракт и публичные tests не менялись.

Источники истины, таблицы и транзакции

Хранилище Ключи / ограничения Назначение
PostgreSQL users PK id, UNIQUE username, проверки длины/формата Пользователи, Argon2id password_hash
PostgreSQL chats PK id, проверка названия Чаты
PostgreSQL chat_members PK (chat_id,user_id), FK, индекс (user_id,chat_id) Членство и доступ к чатам
PostgreSQL messages PK id, FK, индекс (chat_id,created_at,id) История и keyset-пагинация
PostgreSQL message_idempotency PK (sender_id,chat_id,key), FK message_id, expires_at Общий результат повторяемого POST
Redis messenger:session:<SHA-256 token> ID пользователя, TTL Действующие сессии всех API

PostgreSQL — источник истины для пользователей/чатов/сообщений; Redis — для действующих сессий. Создание чата и всех участников выполняется одной транзакцией. Отправка сообщения и сохранение результата его Idempotency-Key — тоже одна транзакция; частичная запись не подтверждается.

В idempotency.go PostgreSQL advisory transaction lock сериализует запросы одной области (sender, route/chat, key) между всеми API. После lock читается действующий результат: то же нормализованное содержимое возвращает прежнее сообщение, другое — HTTP 409. Для нового ключа одновременно вставляются сообщение и запись результата. Ошибка откатывает обе вставки. Срок действия нового ключа задаётся IDEMPOTENCY_TTL_SECONDS (по умолчанию 24 часа); при повторе просроченная запись этого ключа заменяется, само старое сообщение не удаляется. Фоновая очистка остальных истёкших записей не реализована. Ошибка/timeout клиента не доказывает отсутствие COMMIT; повтор с прежним ключом позволяет узнать тот же результат в пределах срока.

Авторизация и членство проверяются до повторного ответа: logout не позволяет получить сохранённый результат без действующей сессии. JSON-порядок полей и отсутствие/пустой attachment_ids не меняют содержимое текстового сообщения. API lab3 не поддерживает вложения. Чтение истории использует параметризованный SQL с (created_at,id)>cursor, ORDER BY и LIMIT limit+1; единого snapshot между отдельными страницами при конкурентных записях не обещается.

Пароли: Argon2id, память 64 MiB, 3 итерации, parallelism 2, соль 16 байт, ключ 32 байта. Basic используется только при входе; токен имеет 256 случайных бит, в Redis используется SHA-256. Защищённый запрос проверяет Redis-сессию и пользователя в PostgreSQL; X-User-Id не заменяет Bearer. TTL и DEL обеспечивают истечение/logout. Redis AOF appendfsync everysec сохраняется в именованном volume.

Балансировка, DNS и остановка

HAProxy использует roundrobin без sticky sessions. Docker DNS 127.0.0.11:53 возвращает адреса api; server-template имеет два разных backend-слота и обновляет DNS после замены контейнера. После readiness нового адреса LB возвращает его в обслуживание. X-Instance-Id содержит hostname контейнера, поэтому его можно сопоставить с docker inspect, а не считать один заголовок доказательством разных процессов.

Проверка /health/ready выполняется LB каждую секунду: fall 2, rise 2, timeout check 1s. Для тестов установлен консервативный предел исключения 6 с, а восстановление пользовательских чтений/записей проверяется <=10 с. Это бюджет проверки, а не обещание точного 2-секундного отказа при любых условиях. /health/live проверяет жизнь процесса, readiness — PostgreSQL/Redis и отсутствие shutdown. Compose-healthcheck API выполняется каждые 5 с; распределением запросов управляют отдельные проверки HAProxy.

Таймауты API: заголовки 5 с, HTTP read/write 10 с, idle 60 с; PostgreSQL connect/query 5 с, пул по умолчанию 10; Redis connect/read/write 1 с, пул 10, автоматические retries отключены. LB: connect 1 с, server 12 с, client 15 с, maxconn 1024; POST автоматически не повторяет (retries 0). При SIGTERM API отмечает shutdown, прекращает новый приём и ожидает завершения запросов до 10 с; обычный Compose даёт 15 с. Failover-hook принудительно ограничивает остановку 8 с для бюджета публичного теста, поэтому краткие ошибки запросов при нём допустимы.

Rolling: rolling_update.py выполняет одну миграцию, переводит выбранный слот в drain, ждёт scur=0, останавливает и заменяет только эту API, ждёт нового адреса/UP, затем повторяет для второй. Admin socket 127.0.0.1:9999 доступен внутри контейнера HAProxy, host-порт не опубликован. Проверена эквивалентная поочерёдная замена текущего образа под нагрузкой; применение несовместимой миграции к работающему приложению не поддерживается.

Настройки окружения и ресурсов

Переменная / предложение .env.example Реальная реализация
APP_HOST / APP_PORT Из .env, по умолчанию 0.0.0.0:8080; порт также используется healthcheck и HAProxy
APP_ENV Метка окружения в префиксе журналов, по умолчанию lab
SESSION_TTL_SECONDS .env, default 3600 с
DATABASE_URL_FILE Путь подключения secrets/database_url для API и migrate; значение файла имеет приоритет над DATABASE_URL
CACHE_URL_FILE Путь подключения secrets/cache_url; Redis URL поддерживает адрес, пароль и номер базы
API_REPLICAS Из .env, по умолчанию 2; меняет deploy.replicas и число слотов HAProxy
IDEMPOTENCY_TTL_SECONDS Из .env, по умолчанию 86400; определяет срок действия новых ключей, не удаляет сообщения
POSTGRES_DB / POSTGRES_USER / POSTGRES_PASSWORD Создаются init_env.py, используются БД и строкой подключения API/migrate
API_GOMAXPROCS Дополнительная настройка Compose, default 1; Go-код остаётся конкурентным при ожидании I/O
DATABASE_MAX_CONNS / BENCH_POOL_STATS Дополнительные параметры backend; в эксперименте задаются явно, в обычном стенде пул 10 и телеметрия отключена

Обычный стенд: API по 0.5 CPU/128 MiB, БД 1 CPU/512 MiB, Redis 0.25 CPU/128 MiB, LB 0.5 CPU/128 MiB, migrate 0.5 CPU/128 MiB, frontend 0.5 CPU/512 MiB. container_name отсутствует.

Доказательства критериев

Критерий README Команда/сценарий Наблюдаемый результат Файл доказательства
3: стенд, >=2 API, LB, общая БД/сессии make app-up; инспекция две реальные healthy API и два UP backend, БД/Redis private, миграция 3 clean 3-01
3: одна сессия через разные реплики check_idempotency.py X-Instance-Id двух контейнеров без нового входа 3-02
3: отказ любой одной API check_failover.py каждая API остановлена, чтение/запись восстанавливаются <=10 с, подтверждённое сохранено 3-03
3: общая идемпотентность check_idempotency.py; backend; failover 24 конкурентных повтора, две API, одно сообщение; конфликт 409, безопасный повтор после отказа 3-04
3: публичные smoke/persistence/failover make test; test-persistence; test-failover PASS с прежней сессией и подтверждёнными данными, >=2 наблюдаемых API до отказа 3-05
4: readiness, DNS, таймауты, SIGTERM инспекция; failover; rolling LB исключает API, новая DNS-адресация UP, graceful_shutdown=true 4-01
4: метрики отказа каждой API и параллельная идемпотентность check_failover.py; check_idempotency.py сохранены RPS, ошибки, времена обеих остановок и конкурентного повтора 4-02
4: CPU/RAM, закрытые API/хранилища, секреты check_resources.py; инспекция реальные лимиты, private networks, без API volumes/container_name, .env ignored 4-03
4: rolling под нагрузкой, согласованная миграция check_rolling.py поочерёдная замена обеих API, survivor сохраняется, все подтверждённые записи/сессия сохранены 4-04
5: гипотезы и повторяемая методика протоколы; postprocess/decisions.py seeds, SHA-256, фикстура, архивы, пилоты отдельно 5-01
5: 1/2/4 API, фиксированный бюджет analyze.py baseline-01 A1/A2/A4: 1 CPU/256 MiB суммарно; H1 подтверждена 5-02
5: серия роста ресурсов analyze.py baseline-01 B1/B2/B4 измерены; H2 неопределённа 5-03
5: насыщение и предел роста analyze.py; диагностика API throttling при A4, БД/WAL/пул при B4; насыщение LB не установлено 5-04
5: исходные данные и графики analyze.py; audits; plot_latency.py 150 основных/проверочных прогонов, сырые события и все повторы сохранены 5-05
5: одно подтверждённое улучшение новые пары HL; пересчёт решения p95 -60–68% при 325 req/s, 100% успехов, подтверждённые записи сохранены; HI/HC неопределённы 5-06

Статус и фактический вывод каждого текущего запуска смотрите в соответствующем Markdown; общий индекс. PASS анализатора не означает подтверждение каждой исследовательской гипотезы. Протоколы, результаты исследования и регрессии 10.10.2026 также сохранены в RESULTS.md и regression/summary.json.

Эксперименты и отказы

Проверки выполняются через LB, создают уникальных синтетических пользователей/чаты, не удаляют пользовательские таблицы и не сохраняют токены. Backend-тесты с -race используют отдельные SQL-схемы и отдельные Redis key-prefixes. Публичный hook сам по себе не доказывает область рестарта: код restart.sh перезапускает PostgreSQL, Redis, затем все API; stop-one.sh выбирает только API текущего проекта по TARGET_INSTANCE_ID. Хеши hooks, контейнеры и их адреса включены в вывод инспекции.

Регрессия после настройки GOMAXPROCS, 10.10.2026: 24 Go-теста с -race, структура, smoke, лимиты, конкурентная идемпотентность, отказ каждой API, rolling и persistence прошли. При двух остановках восстановление записи было 1.749/1.840 с, чтения 1.756/1.728 с, исключение LB 1.739/1.831 с; successful RPS 15.773/15.579. Ошибки записи/чтения: 0/3 и 2/2. Это малый сценарий «один последовательный writer/reader, пауза 100 мс», не capacity benchmark. Исторические данные: failover.json. Новые значения при генерации доказательств находятся в 4-02.

Проверки генератора выполнены в запуске lab3-report-04: все 25 команд завершились с exit code 0, включая отдельный go vet ./backend/... и production build frontend npm run build. Выводы — в 3-05, полный manifest запуска. Команды и вывод приведены отдельно для каждого требования.

Воздействие Что ожидаем Что наблюдали Время восстановления / потеря данных
Остановка каждой API отдельно другая продолжает чтение/запись, подтверждённое сохранено две реальные остановки и восстановления, краткие ошибки измерены запись <=1.840 с, чтение <=1.756 с в регрессии 10.10; подтверждённое не потеряно
Публичный failover >=2 API до отказа, recovery <=10 с 125 успешных записей, 2 неудачные попытки, прежняя сессия работает 1.881 с; вывод
Перезапуск API/PostgreSQL/Redis данные и прежний токен сохраняются persistence PASS; volumes не удалены подтверждённые данные и сессия сохранены
Поочерёдная замена под нагрузкой survivor остаётся, drain завершает активные запросы 1456 записей +1548 чтений, 0 ошибок, 4 клиента; оба graceful_shutdown=true замены 7.822/7.810 с, всё сохранено; rolling.json
24 POST с одним ключом один результат через обе API один message_id; другое тело 409, неверный ключ 400, logout 401 дублей нет; 3-04
Рост нагрузки выше SLO очереди и таймауты, а не скрытие ошибок ошибки и p50/p95/p99, CPU/пул/WAL сохранены по каждому прогону предел мощности зависит от бюджета; подтверждённые записи проверены SQL

Rolling-RPS регрессии 138.685 относится к четырём клиентам с паузой 20 мс, а не к максимальной мощности приложения. Проверена замена процесса, а не потеря физического узла; PostgreSQL/Redis/LB не реплицированы.

Оценка «5»: трек 1 — цена масштабирования

Гипотеза и методика

До основной серии зафиксированы: H1 — при прежнем общем CPU/RAM C4/C1 <1.20; H2 — при росте ресурсов C4/C1 >=1.50. C — последняя непрерывно проходящая ступень offered RPS при >=99% успехов, p95 полной задержки <=500 мс и сохранности подтверждённых сообщений. Верхняя граница C — первая непроходящая ступень. Границы сетки не являются доверительными интервалами. Протокол: Методика, protocol.json, SHA-256.

200 синтетических пользователей, 100 чатов, 10000 начальных сообщений; fixture.sql восстанавливается перед каждой точкой, API пересоздаются. Сессии Redis подготовлены напрямую; парольный вход не измеряется. GET читает первую страницу истории по контракту, limit 50. Open-loop: 80% POST/20% GET, без автоматических retries, ступени 100/200/250/300/400/500/800 req/s; 15 с прогрева, 30 с измерения, 10 с паузы, таймаут клиента 5 с, предел in-flight 8192. Это заданная интенсивность, а не фиксированное число одновременно работающих клиентов.

Три блока, случайный порядок конфигураций с seeds 230301/230302/230303, workload seed 230300; внутри конфигурации ступени возрастают. Фиксированы код, инструменты, ресурсы зависимостей и суммарный пул БД 12: A1/B1 по 12, A2/B2 по 6, A4/B4 по 3. SQL сверяет каждый подтверждённый POST с message и idempotency record. Сохраняются ошибки, таймауты, dispatch lag, CPU генератора, raw requests/telemetry, pool stats, manifests и порядок.

Пилоты 01/02/03 проверили инструменты и диапазон, исключены из подтверждающей серии; лимит клиента увеличен с 512 до 8192 до её старта. Их назначение описано в разборе пилотов. Правило валидности не менялось после просмотра основной серии; неуспешный SLO не является основанием удалить прогон.

Характеристики, результаты и доказательства

Измерения 10.10.2026: AMD Ryzen 9 PRO 7940HS, 8 физических/16 логических CPU, WSL2 Ubuntu, Python 3.12.3, Docker Desktop 4.93.0 / Engine 29.8.1, Compose 5.5.1. Docker видит 16 CPU и 7942127616 байт RAM (~7.4 GiB). Backend Go 1.22.2. Среда, аппаратная конфигурация. PostgreSQL 1 CPU/512 MiB, Redis 0.25 CPU/128 MiB, HAProxy 0.5 CPU/128 MiB фиксированы во всех конфигурациях. Healthchecks и телеметрия входят в измеряемые условия.

Конфигурация API CPU/RAM каждой API Суммарный CPU/RAM API C, три повтора req/s Первая непроходящая ступень
A1 1 1 CPU/256 MiB 1 CPU/256 MiB 400,500,400 500,800,500
A2 2 0.5 CPU/128 MiB 1 CPU/256 MiB 300,300,400 400,400,500
A4 4 0.25 CPU/64 MiB 1 CPU/256 MiB 300,300,300 400,400,400
B1 1 0.5 CPU/128 MiB 0.5 CPU/128 MiB 250,250,250 300,300,300
B2 2 0.5 CPU/128 MiB 1 CPU/256 MiB 400,400,400 500,500,500
B4 4 0.5 CPU/128 MiB 2 CPU/512 MiB 300,400,400 400,500,500

Все 126 прогонов основной серии валидны; 79 проходят SLO, пропусков генератора/OOM нет, 815584 подтверждённых записи сохранены. Audit, CSV всех точек, analysis с диагностикой.

Примеры конкретных прогонов, а не выбранные «лучшие» значения для вывода гипотез:

Прогон Offered RPS Успешные ответы/с в 30-секундном окне Успех p50 / p95 / p99, мс
A1-r1, 400 400 399.933 100% 24.273 /111.084 /159.891
A4-r1, 400 400 180.400 45.69% 2047.806 /4621.664 /4933.599
B4-r3, 500 500 484.567 100% 556.396 /1234.572 /1436.412

Последняя строка показывает, что даже 100% успехов не означает прохождение SLO: p95 >500 мс. window_goodput_rps учитывает ответы внутри измеряемых 30 с; goodput_rps включает весь запланированный cohort, который мог завершиться после окна, и делит на 30 с. Не следует смешивать эти показатели.

Мощность: медианы и все повторы

Успешные ответы в секунду

Задержка p95

Полосы на линейных графиках — min/max повторений, не доверительные интервалы. Совпавшие точки capacity накладываются друг на друга. На графике success доля успехов рассматривается вместе с задержкой, чтобы таймауты не маскировали плохую работу.

Анализ результатов

H1 подтверждена во всех трёх блоках: консервативные интервалы C4/C1 [0.60,1.00], [0.375,0.80], [0.60,1.00] целиком ниже 1.20. На проверенной сетке четыре API дают 60–75% C одной при том же общем бюджете. Деление бюджета добавляет расходы процессов/планировщика и маленькие CPU-квоты.

H2 неопределённа: интервалы [1.00,1.60], [1.333,2.00], [1.333,2.00] пересекают 1.50. Отношения ступеней 1.2/1.6/1.6 не позволяют объявить критерий доказанным. B2 стабильно выдерживает 400, B4 с вдвое большим CPU API — 300/400/400. Расчёт решений.

При A4/400 API используют 96–97% CPU-квоты, throttling наблюдается в 93–94% периодов, ожидание пула 625–737 мс, БД использует 77–78% квоты. В этом режиме API ограничены CPU; очередь пула не доказывает, что решение — только больше соединений.

При B4/500 БД использует 96–104% квоты по интервальной оценке Docker, API 67–75%, ожидание пула 139–411 мс и p95 1235–3817 мс; есть WALWrite/WALSync waits. Это согласуется с насыщением общей БД. Значения немного выше 100% объясняются интервалами счётчиков/оценки, а не изменением заданной квоты. LB использует примерно 52–69%, наблюдаемая qcur=0: насыщение LB в исследованном диапазоне не установлено. qcur=0 не исключает очередь внутри API/пула. Диагностика.

Пиковый Docker memory usage выбранных прогонов (MiB; API — максимум одного контейнера, не сумма четырёх):

Прогон API PostgreSQL Redis HAProxy
A4-r1, 400 req/s 47.602 238.207 13.824 49.453
B4-r1, 500 req/s 39.918 239.520 14.105 46.703

Это счётчик memory usage контейнера, а не только размер Go heap. В основной серии OOM не наблюдалось; данные не доказывают отсутствие ограничений памяти для другого профиля, например массового входа с Argon2id.

Одно подтверждённое улучшение

В Go 1.22 GOMAXPROCS выбирает число логических CPU хоста; измерено 16 при квоте 0.25 CPU на API. По диагностике выбран один параметр — GOMAXPROCS=1, без изменения образа, CPU/RAM или пула. Он уменьшает одновременный вычислительный параллелизм, но сохраняет конкурентность запросов, ожидающих сеть/БД. Механизм проверяется метриками; отдельно scheduler/GC профили не снимались.

Перед каждой новой проверкой записан отдельный протокол; результаты прошлой не объединяются с новой:

Проверка Заранее заданный критерий Результат
HI, 400 req/s, 3 свежие пары p95 ниже >=15%, успех >=99% и не хуже контроля, p95 <=500 во всех парах неопределённо: p95 настройки 870.964/264.614/153.467, первый повтор не проходит SLO
HC, 325/375 req/s, 3 новых блока консервативная нижняя граница C_tuned/C_control >=1.15 во всех блоках неопределённо: границы 1.153846/1.0/1.153846
HL, 325 req/s, 3 новые пары снижение p95 >=15% в каждой паре, >=99% успехов и не хуже контроля, p95 <=500, сохранность подтверждено: снижение 60.23–68.38%, оба варианта 100% успехов

Методика трёх проверок одной настройки: HI, HC и HL. Первоначальная идея доказать +15% максимальной мощности осталась нерешённой; изменение основного показателя на задержку объявлено до HL и проверено на новых данных. Подтверждённое улучшение трека относится к задержке, а не к доказанному проценту роста C.

Свежая пара HL p95 контроля p95 GOMAXPROCS=1 Снижение Успех обоих
1 253.142 мс 80.045 мс 68.38% 100%
2 220.707 мс 87.785 мс 60.23% 100%
3 232.876 мс 83.275 мс 64.24% 100%

Все шесть прогонов HL валидны/SLO pass; 46800 подтверждённых записи сохранены, пропусков/OOM нет. Throttling API снижается с 99–100% до 30–31%, CPU/квота с 103–104% до 81–82%, ожидание пула с 8.5–10.3 до 0.5–0.7 мс; БД остаётся примерно на 67–72%. Dispatch p95 1.3–1.4 мс, генератор 0.23–0.25 ядра. Это поддерживает объяснение через CPU/runtime API, не уменьшение нагрузки или увеличение БД. Решение HL, полные p50/p95/p99 и CPU/RAM.

Все три парных сравнения задержки

Сохранённая настройка в обычном Compose — GOMAXPROCS=${API_GOMAXPROCS:-1}. Обычный стенд имеет две API по 0.5 CPU, эксперимент HL — четыре по 0.25 CPU; процент эффекта автоматически на обычный стенд не переносится. Его функциональная корректность проверена отдельно.

Файлы и повторение

Инструменты: experiments/lab3-scale; результаты: evidence/grade5. Сохранены 126 baseline +6 HI +12 HC +6 HL =150 основных/проверочных прогонов; пилоты отдельно. Каждый прогон содержит manifest, summary, requests/telemetry/warmup gzip и pool.json; каждая серия — протокол+SHA, порядок, source.tar.gz, CSV, анализ и графики. Raw не содержит Authorization/session tokens; значения сообщений синтетические.

# Пересчёт существующих данных:
.memory/bench-env/bin/python experiments/lab3-scale/analyze.py baseline-01
.memory/bench-env/bin/python experiments/lab3-scale/analyze.py latency-improvement-01
.memory/bench-env/bin/python experiments/lab3-scale/postprocess/decisions.py hl latency-improvement-01

# Новый опыт с собственным именем:
bash experiments/lab3-scale/run.sh baseline baseline-my-run
bash experiments/lab3-scale/run.sh runtime-400 runtime-400-my-run
bash experiments/lab3-scale/run.sh runtime-capacity runtime-capacity-my-run
bash experiments/lab3-scale/run.sh runtime-latency runtime-latency-my-run
# HC/HL: отдельные команды prepare -> series --protocol -> analyze -> restore в README эксперимента.

Для исторического воспроизведения берётся архив исходников и протокол той же серии; код и инструменты проверяются хешами. Изменённый код требует нового протокола/серии, отключать проверку хешей нельзя. Генератор доказательств вызывает эти же анализаторы и сохраняет вывод отдельно от исторических измерений. Он не переименовывает старые измерения в новые.

Ограничения методики и границы потери данных

Один физический хост; повторы показывают локальный разброс, но не независимую репликацию на другом оборудовании. Генератор делит ресурсы с Docker. Некоторые перегруженные точки 800 req/s имеют заметный dispatch lag при допустимом среднем CPU клиента: их нельзя трактовать как чистую мощность сервера. Границы SLO лежат ниже; неопределённость и альтернативные причины сохранены.

A2 и B2 имеют одинаковые CPU/RAM и пул, но проходящие ступени отличаются между сериями: 300/300/400 и 400/400/400. Это показывает влияние порядка, общего хоста и состояния зависимостей; конкретная причина различия отдельно не установлена. Фикстура, прогрев и случайный порядок уменьшают эти влияния, но не устраняют их. Именно поэтому публикуются все повторы и не делается вывод по одному удачному измерению.

p50/p95/p99 вычисляются по успешным ответам и рассматриваются вместе с долей ошибок. Средний CPU генератора не исключает кратких задержек. SLO относится к 30-секундным прогонам и выбранной фикстуре, не доказывает устойчивость на многочасовой нагрузке. Вход с Argon2id не измерялся, GET читает первую страницу, а не случайную глубину истории. Healthchecks/наблюдение добавляют расходы; интервалы сетки не являются статистическими доверительными интервалами.

SQL-проверка подтверждает все сообщения, о которых клиент получил успешный ответ, и связанный idempotency record. Таймаут может скрывать успешно записанное сообщение; проверка не обещает отсутствия таких неопределённых результатов. При потере единственного PostgreSQL-volume подтверждённые сообщения могут быть потеряны; репликации/PITR в lab3 нет. Redis AOF everysec при аварийной потере хоста может потерять последние изменения сессий. Перезапуск с сохранением исправных volumes и падение одной API — проверенные сценарии, потеря физического узла — нет.

Ограничения и следующие шаги

Выдерживается остановка любой одной API при работающих LB/БД/Redis и перезапуск процессов с сохранением volumes. PostgreSQL, Redis, HAProxy и Docker-host остаются единичными точками отказа. Несколько API не обеспечивают выживание потери хоста или общей БД. Compose не является многоузловым оркестратором, трек 2 этой лабораторной не выполнялся.

Frontend — dev-сервер, HTTP без TLS, локальные credentials в .env, нет внешнего менеджера секретов/постоянной очистки истёкших idempotency records. Rolling рассчитан на обратно совместимую схему; несовместимые миграции требуют отдельного плана. При ручном увеличении числа обычных API надо согласованно изменить число backend-слотов HAProxy. Argon2id использует 64 MiB на вычисление, поэтому профиль с массовым входом требует отдельного ограничения/исследования.

Подтверждено снижение p95 настройкой GOMAXPROCS на фиксированной исследованной нагрузке. +15% предельной мощности и >=1.5 выигрыш при росте ресурсов не доказаны. Следующие возможные работы: независимое воспроизведение, более длинные прогоны/точная сетка C, защита LB/БД/Redis на разных узлах, внешние backup/PITR, TLS и управление секретами. Эти возможности не заявляются реализованными в текущей работе.