51 KiB
Отчёт — лабораторная 3
- Автор, группа: Гришко Дмитрий Михайлович, БВТ2303.
- Целевая оценка: 5, трек 1 — «Цена масштабирования».
- Ветка:
solution/BVT2303-Grishko. - PR: ссылка
- Источники: задание, контракт, публичные проверки, Compose services, HAProxy 3.2 configuration, Go GOMAXPROCS, pgxpool Stat, aiohttp, Docker Engine stats.
- Зависимости: Go 1.22.2;
pgx/v5,go-redis/v9,golang-migrate/v4,x/crypto/argon2,google/uuid; PostgreSQL 16.10, Redis 7.4.11, HAProxy 3.2.25; frontend — Node 22, Vite, React, TypeScript. Исследование: Python 3.12.3, aiohttp 3.12.15, matplotlib 3.9.2, numpy 1.26.4; полный список закреплён в requirements-lock.txt. - Помощь ИИ: OpenAI Codex — перенос и реализация кода, подготовка инструментов, выполнение проверок, анализ измерений и оформление отчёта.
Запуск из чистой копии
Нужны Ubuntu WSL с Docker Desktop integration либо Linux с Docker Engine и Compose, Make и Python. Для публичных проверок достаточно Python 3.9+, для повторения зафиксированного исследовательского окружения использовался Python 3.12. Backend и frontend собираются в Docker; устанавливать Go и Node на хост не требуется. Все команды ниже выполняются из корня лабораторной в Linux-оболочке.
1. Клонирование и настройка
После публикации ветки с этой реализацией:
git clone --branch solution/BVT2303-Grishko https://gitea.privcloud.tech/TAskMAster339/mtusi2026lab3-fork.git
cd mtusi2026lab3-fork
python3 scripts/init_env.py
init_env.py создаёт игнорируемый .env на основе .env.example, дополняет его именем базы/роли messenger и случайным паролем PostgreSQL. В существующий файл добавляются только отсутствующие настройки; заданные значения сохраняются. Файлы secrets/database_url и secrets/cache_url создаются при отсутствии и подключаются к контейнерам только для чтения. Сессии всегда хранятся в Redis. Секреты в отчёт и доказательства не включены.
Настройки меняются в .env до make app-up: APP_PORT — внутренний порт API, API_REPLICAS — от 2 до 32 реплик, оба TTL задаются в секундах. HAProxy автоматически получает порт и число реплик; внешняя точка входа остаётся localhost:8080. Для доступа HAProxy к API оставьте APP_HOST=0.0.0.0; привязка API к loopback контейнера сделает его недоступным для LB.
Поля _FILE задают пути внутри контейнера, непосредственно в /run/secrets. При изменении пути Compose меняет точку подключения соответствующего файла. Адреса и учётные данные меняются в локальных secrets/database_url и secrets/cache_url; скрипт не перезаписывает существующие файлы. После изменения POSTGRES_* нужно согласовать строку подключения; пароль существующей БД не меняется автоматически от редактирования .env.
2. Запуск проекта
docker compose --project-name highload-lab3 --env-file .env -f compose.yml config --quiet
make app-up
make app-status
make app-up создаёт .env, собирает образы, ждёт PostgreSQL/Redis, запускает отдельный сервис migrate, затем две API, HAProxy и frontend и ожидает их готовности. API не применяют миграции при обычном старте. Нормальное состояние migrate — Exited (0), остальных сервисов — healthy.
API через LB: http://localhost:8080; frontend: http://localhost:5173; локальная статистика HAProxy: http://localhost:8404/stats. Единственный прямой опубликованный маршрут к API — HAProxy. БД, Redis и API не публикуют host-порты.
Образы: backend build golang:1.22.2-bookworm, runtime debian:12.15-slim, PostgreSQL postgres:16.10-bookworm, Redis redis:7.4.11-bookworm, LB haproxy:3.2.25-alpine, frontend node:22-bookworm-slim. Npm-зависимости закреплены package-lock; тег Node закрепляет major, но не точный patch/digest. Образы и их идентификаторы исследовательских прогонов сохранены в manifests.
Миграции вручную при готовой БД:
docker compose --project-name highload-lab3 --env-file .env -f compose.yml run --rm migrate
Откат одной версии — отдельная операция оператора: остановить API, затем выполнить run --rm --no-deps migrate ./messenger migrate down. Откат версии 3 удаляет записи идемпотентности; нельзя продолжать обещать защиту прежних ключей после такого отката. Откат начальной схемы удаляет данные. Откат на рабочих данных в этой лабораторной не выполнялся.
3. Тесты, доказательства и эксперимент
make check
make test
make test-backend
docker compose --project-name highload-lab3 --env-file .env -f compose.yml run --rm --no-deps backend-tests go vet ./backend/...
docker compose --project-name highload-lab3 --env-file .env -f compose.yml exec -T frontend npm run build
make test-grade4
make test-persistence ACTION_SCRIPT=scripts/restart.sh
make test-failover ACTION_SCRIPT=scripts/stop-one.sh
# Повторить проверки и создать 15 Markdown-файлов доказательств:
python3 scripts/generate_evidence.py
Генератор запускает приложение, выполняет функциональные проверки, затем пересчитывает сохранённые исследовательские данные. Он не выполняет заново 150 нагрузочных прогонов. Для каждого пункта сохраняет предмет проверки, точную команду, stdout/stderr, exit code, UTC-время, ссылки на реализацию и результаты. История запусков находится в evidence/criteria/runs/<run-id>; текущие 15 файлов и индекс — в evidence/criteria. Ошибка не заменяется PASS, незавершённые пункты отмечаются; по окончании восстанавливаются две API без удаления volumes. Тесты создают синтетические данные в обычном учебном приложении; токены не печатаются.
Для полного нового исследования используйте отдельные серии по инструкции. Основная команда: bash experiments/lab3-scale/run.sh baseline baseline-my-run. Время — несколько часов. На время нагрузки обычное приложение останавливается, его volumes сохраняются; эксперимент использует отдельные volumes и порты 18080/18404. Для HI/HC/HL есть отдельные протоколы и команды. Одновременные нагрузочные эксперименты на этом хосте не допускаются.
4. Остановка и обслуживание
make app-down # безопасно: данные и сессии в volumes сохраняются
make app-up # возобновление
make app-rolling-update # build, одна миграция, поочерёдная замена API
make app-logs
Намеренное удаление всех учебных данных обычного стенда, только когда это действительно требуется:
docker compose --project-name highload-lab3 --env-file .env -f compose.yml down -v
Эта команда в исследовании и генерации доказательств не используется. После смены пароля в .env для существующего PostgreSQL-volume надо отдельно менять пароль роли в БД; переменная контейнера не меняет пароль уже созданной роли.
Архитектура и решения
Браузер → React/Vite frontend → HAProxy → API 1 ─┬→ PostgreSQL
→ API 2 ─┴→ Redis (сессии)
migrate ──────────→ PostgreSQL
Frontend обращается к HAProxy через свой dev-proxy; API-клиенты используют LB напрямую. Сети proxy и data внутренние; frontend подключён только к edge, LB — к edge/proxy, API — к proxy/data, БД/Redis — только к data. HAProxy не имеет прямого доступа к сети БД. Общие именованные volumes есть только у PostgreSQL/Redis; API не хранит пользовательское состояние на диске.
Перенос из лабораторной 2
Перенесены регистрация, Argon2id, Basic-вход, Bearer-сессии Redis с TTL/AOF, PostgreSQL-репозитории, транзакционное создание чата, история с курсором, миграции 1/2, frontend и scripts/restart.sh.
Добавлены HAProxy, две API, X-Instance-Id, migration job, миграция 3 и общая идемпотентность, согласованный shutdown, action-hook остановки одной API, проверки отказов/rolling/лимитов и исследование масштабирования. Для наблюдения исследования добавлены выключенная по умолчанию BENCH_POOL_STATS и настраиваемый пул DATABASE_MAX_CONNS; подтверждённая настройка GOMAXPROCS=1 включена в обычном Compose. Оригинальные контракт и публичные tests не менялись.
Источники истины, таблицы и транзакции
| Хранилище | Ключи / ограничения | Назначение |
|---|---|---|
PostgreSQL users |
PK id, UNIQUE username, проверки длины/формата | Пользователи, Argon2id password_hash |
PostgreSQL chats |
PK id, проверка названия | Чаты |
PostgreSQL chat_members |
PK (chat_id,user_id), FK, индекс (user_id,chat_id) | Членство и доступ к чатам |
PostgreSQL messages |
PK id, FK, индекс (chat_id,created_at,id) | История и keyset-пагинация |
PostgreSQL message_idempotency |
PK (sender_id,chat_id,key), FK message_id, expires_at | Общий результат повторяемого POST |
Redis messenger:session:<SHA-256 token> |
ID пользователя, TTL | Действующие сессии всех API |
PostgreSQL — источник истины для пользователей/чатов/сообщений; Redis — для действующих сессий. Создание чата и всех участников выполняется одной транзакцией. Отправка сообщения и сохранение результата его Idempotency-Key — тоже одна транзакция; частичная запись не подтверждается.
В idempotency.go PostgreSQL advisory transaction lock сериализует запросы одной области (sender, route/chat, key) между всеми API. После lock читается действующий результат: то же нормализованное содержимое возвращает прежнее сообщение, другое — HTTP 409. Для нового ключа одновременно вставляются сообщение и запись результата. Ошибка откатывает обе вставки. Срок действия нового ключа задаётся IDEMPOTENCY_TTL_SECONDS (по умолчанию 24 часа); при повторе просроченная запись этого ключа заменяется, само старое сообщение не удаляется. Фоновая очистка остальных истёкших записей не реализована. Ошибка/timeout клиента не доказывает отсутствие COMMIT; повтор с прежним ключом позволяет узнать тот же результат в пределах срока.
Авторизация и членство проверяются до повторного ответа: logout не позволяет получить сохранённый результат без действующей сессии. JSON-порядок полей и отсутствие/пустой attachment_ids не меняют содержимое текстового сообщения. API lab3 не поддерживает вложения. Чтение истории использует параметризованный SQL с (created_at,id)>cursor, ORDER BY и LIMIT limit+1; единого snapshot между отдельными страницами при конкурентных записях не обещается.
Пароли: Argon2id, память 64 MiB, 3 итерации, parallelism 2, соль 16 байт, ключ 32 байта. Basic используется только при входе; токен имеет 256 случайных бит, в Redis используется SHA-256. Защищённый запрос проверяет Redis-сессию и пользователя в PostgreSQL; X-User-Id не заменяет Bearer. TTL и DEL обеспечивают истечение/logout. Redis AOF appendfsync everysec сохраняется в именованном volume.
Балансировка, DNS и остановка
HAProxy использует roundrobin без sticky sessions. Docker DNS 127.0.0.11:53 возвращает адреса api; server-template имеет два разных backend-слота и обновляет DNS после замены контейнера. После readiness нового адреса LB возвращает его в обслуживание. X-Instance-Id содержит hostname контейнера, поэтому его можно сопоставить с docker inspect, а не считать один заголовок доказательством разных процессов.
Проверка /health/ready выполняется LB каждую секунду: fall 2, rise 2, timeout check 1s. Для тестов установлен консервативный предел исключения 6 с, а восстановление пользовательских чтений/записей проверяется <=10 с. Это бюджет проверки, а не обещание точного 2-секундного отказа при любых условиях. /health/live проверяет жизнь процесса, readiness — PostgreSQL/Redis и отсутствие shutdown. Compose-healthcheck API выполняется каждые 5 с; распределением запросов управляют отдельные проверки HAProxy.
Таймауты API: заголовки 5 с, HTTP read/write 10 с, idle 60 с; PostgreSQL connect/query 5 с, пул по умолчанию 10; Redis connect/read/write 1 с, пул 10, автоматические retries отключены. LB: connect 1 с, server 12 с, client 15 с, maxconn 1024; POST автоматически не повторяет (retries 0). При SIGTERM API отмечает shutdown, прекращает новый приём и ожидает завершения запросов до 10 с; обычный Compose даёт 15 с. Failover-hook принудительно ограничивает остановку 8 с для бюджета публичного теста, поэтому краткие ошибки запросов при нём допустимы.
Rolling: rolling_update.py выполняет одну миграцию, переводит выбранный слот в drain, ждёт scur=0, останавливает и заменяет только эту API, ждёт нового адреса/UP, затем повторяет для второй. Admin socket 127.0.0.1:9999 доступен внутри контейнера HAProxy, host-порт не опубликован. Проверена эквивалентная поочерёдная замена текущего образа под нагрузкой; применение несовместимой миграции к работающему приложению не поддерживается.
Настройки окружения и ресурсов
Переменная / предложение .env.example |
Реальная реализация |
|---|---|
| APP_HOST / APP_PORT | Из .env, по умолчанию 0.0.0.0:8080; порт также используется healthcheck и HAProxy |
| APP_ENV | Метка окружения в префиксе журналов, по умолчанию lab |
| SESSION_TTL_SECONDS | .env, default 3600 с |
| DATABASE_URL_FILE | Путь подключения secrets/database_url для API и migrate; значение файла имеет приоритет над DATABASE_URL |
| CACHE_URL_FILE | Путь подключения secrets/cache_url; Redis URL поддерживает адрес, пароль и номер базы |
| API_REPLICAS | Из .env, по умолчанию 2; меняет deploy.replicas и число слотов HAProxy |
| IDEMPOTENCY_TTL_SECONDS | Из .env, по умолчанию 86400; определяет срок действия новых ключей, не удаляет сообщения |
| POSTGRES_DB / POSTGRES_USER / POSTGRES_PASSWORD | Создаются init_env.py, используются БД и строкой подключения API/migrate |
| API_GOMAXPROCS | Дополнительная настройка Compose, default 1; Go-код остаётся конкурентным при ожидании I/O |
| DATABASE_MAX_CONNS / BENCH_POOL_STATS | Дополнительные параметры backend; в эксперименте задаются явно, в обычном стенде пул 10 и телеметрия отключена |
Обычный стенд: API по 0.5 CPU/128 MiB, БД 1 CPU/512 MiB, Redis 0.25 CPU/128 MiB, LB 0.5 CPU/128 MiB, migrate 0.5 CPU/128 MiB, frontend 0.5 CPU/512 MiB. container_name отсутствует.
Доказательства критериев
| Критерий README | Команда/сценарий | Наблюдаемый результат | Файл доказательства |
|---|---|---|---|
| 3: стенд, >=2 API, LB, общая БД/сессии | make app-up; инспекция | две реальные healthy API и два UP backend, БД/Redis private, миграция 3 clean | 3-01 |
| 3: одна сессия через разные реплики | check_idempotency.py | X-Instance-Id двух контейнеров без нового входа | 3-02 |
| 3: отказ любой одной API | check_failover.py | каждая API остановлена, чтение/запись восстанавливаются <=10 с, подтверждённое сохранено | 3-03 |
| 3: общая идемпотентность | check_idempotency.py; backend; failover | 24 конкурентных повтора, две API, одно сообщение; конфликт 409, безопасный повтор после отказа | 3-04 |
| 3: публичные smoke/persistence/failover | make test; test-persistence; test-failover | PASS с прежней сессией и подтверждёнными данными, >=2 наблюдаемых API до отказа | 3-05 |
| 4: readiness, DNS, таймауты, SIGTERM | инспекция; failover; rolling | LB исключает API, новая DNS-адресация UP, graceful_shutdown=true | 4-01 |
| 4: метрики отказа каждой API и параллельная идемпотентность | check_failover.py; check_idempotency.py | сохранены RPS, ошибки, времена обеих остановок и конкурентного повтора | 4-02 |
| 4: CPU/RAM, закрытые API/хранилища, секреты | check_resources.py; инспекция | реальные лимиты, private networks, без API volumes/container_name, .env ignored | 4-03 |
| 4: rolling под нагрузкой, согласованная миграция | check_rolling.py | поочерёдная замена обеих API, survivor сохраняется, все подтверждённые записи/сессия сохранены | 4-04 |
| 5: гипотезы и повторяемая методика | протоколы; postprocess/decisions.py | seeds, SHA-256, фикстура, архивы, пилоты отдельно | 5-01 |
| 5: 1/2/4 API, фиксированный бюджет | analyze.py baseline-01 | A1/A2/A4: 1 CPU/256 MiB суммарно; H1 подтверждена | 5-02 |
| 5: серия роста ресурсов | analyze.py baseline-01 | B1/B2/B4 измерены; H2 неопределённа | 5-03 |
| 5: насыщение и предел роста | analyze.py; диагностика | API throttling при A4, БД/WAL/пул при B4; насыщение LB не установлено | 5-04 |
| 5: исходные данные и графики | analyze.py; audits; plot_latency.py | 150 основных/проверочных прогонов, сырые события и все повторы сохранены | 5-05 |
| 5: одно подтверждённое улучшение | новые пары HL; пересчёт решения | p95 -60–68% при 325 req/s, 100% успехов, подтверждённые записи сохранены; HI/HC неопределённы | 5-06 |
Статус и фактический вывод каждого текущего запуска смотрите в соответствующем Markdown; общий индекс. PASS анализатора не означает подтверждение каждой исследовательской гипотезы. Протоколы, результаты исследования и регрессии 10.10.2026 также сохранены в RESULTS.md и regression/summary.json.
Эксперименты и отказы
Проверки выполняются через LB, создают уникальных синтетических пользователей/чаты, не удаляют пользовательские таблицы и не сохраняют токены. Backend-тесты с -race используют отдельные SQL-схемы и отдельные Redis key-prefixes. Публичный hook сам по себе не доказывает область рестарта: код restart.sh перезапускает PostgreSQL, Redis, затем все API; stop-one.sh выбирает только API текущего проекта по TARGET_INSTANCE_ID. Хеши hooks, контейнеры и их адреса включены в вывод инспекции.
Регрессия после настройки GOMAXPROCS, 10.10.2026: 24 Go-теста с -race, структура, smoke, лимиты, конкурентная идемпотентность, отказ каждой API, rolling и persistence прошли. При двух остановках восстановление записи было 1.749/1.840 с, чтения 1.756/1.728 с, исключение LB 1.739/1.831 с; successful RPS 15.773/15.579. Ошибки записи/чтения: 0/3 и 2/2. Это малый сценарий «один последовательный writer/reader, пауза 100 мс», не capacity benchmark. Исторические данные: failover.json. Новые значения при генерации доказательств находятся в 4-02.
Проверки генератора выполнены в запуске lab3-report-04: все 25 команд завершились с exit code 0, включая отдельный go vet ./backend/... и production build frontend npm run build. Выводы — в 3-05, полный manifest запуска. Команды и вывод приведены отдельно для каждого требования.
| Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных |
|---|---|---|---|
| Остановка каждой API отдельно | другая продолжает чтение/запись, подтверждённое сохранено | две реальные остановки и восстановления, краткие ошибки измерены | запись <=1.840 с, чтение <=1.756 с в регрессии 10.10; подтверждённое не потеряно |
| Публичный failover | >=2 API до отказа, recovery <=10 с | 125 успешных записей, 2 неудачные попытки, прежняя сессия работает | 1.881 с; вывод |
| Перезапуск API/PostgreSQL/Redis | данные и прежний токен сохраняются | persistence PASS; volumes не удалены | подтверждённые данные и сессия сохранены |
| Поочерёдная замена под нагрузкой | survivor остаётся, drain завершает активные запросы | 1456 записей +1548 чтений, 0 ошибок, 4 клиента; оба graceful_shutdown=true | замены 7.822/7.810 с, всё сохранено; rolling.json |
| 24 POST с одним ключом | один результат через обе API | один message_id; другое тело 409, неверный ключ 400, logout 401 | дублей нет; 3-04 |
| Рост нагрузки выше SLO | очереди и таймауты, а не скрытие ошибок | ошибки и p50/p95/p99, CPU/пул/WAL сохранены по каждому прогону | предел мощности зависит от бюджета; подтверждённые записи проверены SQL |
Rolling-RPS регрессии 138.685 относится к четырём клиентам с паузой 20 мс, а не к максимальной мощности приложения. Проверена замена процесса, а не потеря физического узла; PostgreSQL/Redis/LB не реплицированы.
Оценка «5»: трек 1 — цена масштабирования
Гипотеза и методика
До основной серии зафиксированы: H1 — при прежнем общем CPU/RAM C4/C1 <1.20; H2 — при росте ресурсов C4/C1 >=1.50. C — последняя непрерывно проходящая ступень offered RPS при >=99% успехов, p95 полной задержки <=500 мс и сохранности подтверждённых сообщений. Верхняя граница C — первая непроходящая ступень. Границы сетки не являются доверительными интервалами. Протокол: Методика, protocol.json, SHA-256.
200 синтетических пользователей, 100 чатов, 10000 начальных сообщений; fixture.sql восстанавливается перед каждой точкой, API пересоздаются. Сессии Redis подготовлены напрямую; парольный вход не измеряется. GET читает первую страницу истории по контракту, limit 50. Open-loop: 80% POST/20% GET, без автоматических retries, ступени 100/200/250/300/400/500/800 req/s; 15 с прогрева, 30 с измерения, 10 с паузы, таймаут клиента 5 с, предел in-flight 8192. Это заданная интенсивность, а не фиксированное число одновременно работающих клиентов.
Три блока, случайный порядок конфигураций с seeds 230301/230302/230303, workload seed 230300; внутри конфигурации ступени возрастают. Фиксированы код, инструменты, ресурсы зависимостей и суммарный пул БД 12: A1/B1 по 12, A2/B2 по 6, A4/B4 по 3. SQL сверяет каждый подтверждённый POST с message и idempotency record. Сохраняются ошибки, таймауты, dispatch lag, CPU генератора, raw requests/telemetry, pool stats, manifests и порядок.
Пилоты 01/02/03 проверили инструменты и диапазон, исключены из подтверждающей серии; лимит клиента увеличен с 512 до 8192 до её старта. Их назначение описано в разборе пилотов. Правило валидности не менялось после просмотра основной серии; неуспешный SLO не является основанием удалить прогон.
Характеристики, результаты и доказательства
Измерения 10.10.2026: AMD Ryzen 9 PRO 7940HS, 8 физических/16 логических CPU, WSL2 Ubuntu, Python 3.12.3, Docker Desktop 4.93.0 / Engine 29.8.1, Compose 5.5.1. Docker видит 16 CPU и 7942127616 байт RAM (~7.4 GiB). Backend Go 1.22.2. Среда, аппаратная конфигурация. PostgreSQL 1 CPU/512 MiB, Redis 0.25 CPU/128 MiB, HAProxy 0.5 CPU/128 MiB фиксированы во всех конфигурациях. Healthchecks и телеметрия входят в измеряемые условия.
| Конфигурация | API | CPU/RAM каждой API | Суммарный CPU/RAM API | C, три повтора req/s | Первая непроходящая ступень |
|---|---|---|---|---|---|
| A1 | 1 | 1 CPU/256 MiB | 1 CPU/256 MiB | 400,500,400 | 500,800,500 |
| A2 | 2 | 0.5 CPU/128 MiB | 1 CPU/256 MiB | 300,300,400 | 400,400,500 |
| A4 | 4 | 0.25 CPU/64 MiB | 1 CPU/256 MiB | 300,300,300 | 400,400,400 |
| B1 | 1 | 0.5 CPU/128 MiB | 0.5 CPU/128 MiB | 250,250,250 | 300,300,300 |
| B2 | 2 | 0.5 CPU/128 MiB | 1 CPU/256 MiB | 400,400,400 | 500,500,500 |
| B4 | 4 | 0.5 CPU/128 MiB | 2 CPU/512 MiB | 300,400,400 | 400,500,500 |
Все 126 прогонов основной серии валидны; 79 проходят SLO, пропусков генератора/OOM нет, 815584 подтверждённых записи сохранены. Audit, CSV всех точек, analysis с диагностикой.
Примеры конкретных прогонов, а не выбранные «лучшие» значения для вывода гипотез:
| Прогон | Offered RPS | Успешные ответы/с в 30-секундном окне | Успех | p50 / p95 / p99, мс |
|---|---|---|---|---|
| A1-r1, 400 | 400 | 399.933 | 100% | 24.273 /111.084 /159.891 |
| A4-r1, 400 | 400 | 180.400 | 45.69% | 2047.806 /4621.664 /4933.599 |
| B4-r3, 500 | 500 | 484.567 | 100% | 556.396 /1234.572 /1436.412 |
Последняя строка показывает, что даже 100% успехов не означает прохождение SLO: p95 >500 мс. window_goodput_rps учитывает ответы внутри измеряемых 30 с; goodput_rps включает весь запланированный cohort, который мог завершиться после окна, и делит на 30 с. Не следует смешивать эти показатели.
Полосы на линейных графиках — min/max повторений, не доверительные интервалы. Совпавшие точки capacity накладываются друг на друга. На графике success доля успехов рассматривается вместе с задержкой, чтобы таймауты не маскировали плохую работу.
Анализ результатов
H1 подтверждена во всех трёх блоках: консервативные интервалы C4/C1 [0.60,1.00], [0.375,0.80], [0.60,1.00] целиком ниже 1.20. На проверенной сетке четыре API дают 60–75% C одной при том же общем бюджете. Деление бюджета добавляет расходы процессов/планировщика и маленькие CPU-квоты.
H2 неопределённа: интервалы [1.00,1.60], [1.333,2.00], [1.333,2.00] пересекают 1.50. Отношения ступеней 1.2/1.6/1.6 не позволяют объявить критерий доказанным. B2 стабильно выдерживает 400, B4 с вдвое большим CPU API — 300/400/400. Расчёт решений.
При A4/400 API используют 96–97% CPU-квоты, throttling наблюдается в 93–94% периодов, ожидание пула 625–737 мс, БД использует 77–78% квоты. В этом режиме API ограничены CPU; очередь пула не доказывает, что решение — только больше соединений.
При B4/500 БД использует 96–104% квоты по интервальной оценке Docker, API 67–75%, ожидание пула 139–411 мс и p95 1235–3817 мс; есть WALWrite/WALSync waits. Это согласуется с насыщением общей БД. Значения немного выше 100% объясняются интервалами счётчиков/оценки, а не изменением заданной квоты. LB использует примерно 52–69%, наблюдаемая qcur=0: насыщение LB в исследованном диапазоне не установлено. qcur=0 не исключает очередь внутри API/пула. Диагностика.
Пиковый Docker memory usage выбранных прогонов (MiB; API — максимум одного контейнера, не сумма четырёх):
| Прогон | API | PostgreSQL | Redis | HAProxy |
|---|---|---|---|---|
| A4-r1, 400 req/s | 47.602 | 238.207 | 13.824 | 49.453 |
| B4-r1, 500 req/s | 39.918 | 239.520 | 14.105 | 46.703 |
Это счётчик memory usage контейнера, а не только размер Go heap. В основной серии OOM не наблюдалось; данные не доказывают отсутствие ограничений памяти для другого профиля, например массового входа с Argon2id.
Одно подтверждённое улучшение
В Go 1.22 GOMAXPROCS выбирает число логических CPU хоста; измерено 16 при квоте 0.25 CPU на API. По диагностике выбран один параметр — GOMAXPROCS=1, без изменения образа, CPU/RAM или пула. Он уменьшает одновременный вычислительный параллелизм, но сохраняет конкурентность запросов, ожидающих сеть/БД. Механизм проверяется метриками; отдельно scheduler/GC профили не снимались.
Перед каждой новой проверкой записан отдельный протокол; результаты прошлой не объединяются с новой:
| Проверка | Заранее заданный критерий | Результат |
|---|---|---|
| HI, 400 req/s, 3 свежие пары | p95 ниже >=15%, успех >=99% и не хуже контроля, p95 <=500 во всех парах | неопределённо: p95 настройки 870.964/264.614/153.467, первый повтор не проходит SLO |
| HC, 325/375 req/s, 3 новых блока | консервативная нижняя граница C_tuned/C_control >=1.15 во всех блоках | неопределённо: границы 1.153846/1.0/1.153846 |
| HL, 325 req/s, 3 новые пары | снижение p95 >=15% в каждой паре, >=99% успехов и не хуже контроля, p95 <=500, сохранность | подтверждено: снижение 60.23–68.38%, оба варианта 100% успехов |
Методика трёх проверок одной настройки: HI, HC и HL. Первоначальная идея доказать +15% максимальной мощности осталась нерешённой; изменение основного показателя на задержку объявлено до HL и проверено на новых данных. Подтверждённое улучшение трека относится к задержке, а не к доказанному проценту роста C.
| Свежая пара HL | p95 контроля | p95 GOMAXPROCS=1 | Снижение | Успех обоих |
|---|---|---|---|---|
| 1 | 253.142 мс | 80.045 мс | 68.38% | 100% |
| 2 | 220.707 мс | 87.785 мс | 60.23% | 100% |
| 3 | 232.876 мс | 83.275 мс | 64.24% | 100% |
Все шесть прогонов HL валидны/SLO pass; 46800 подтверждённых записи сохранены, пропусков/OOM нет. Throttling API снижается с 99–100% до 30–31%, CPU/квота с 103–104% до 81–82%, ожидание пула с 8.5–10.3 до 0.5–0.7 мс; БД остаётся примерно на 67–72%. Dispatch p95 1.3–1.4 мс, генератор 0.23–0.25 ядра. Это поддерживает объяснение через CPU/runtime API, не уменьшение нагрузки или увеличение БД. Решение HL, полные p50/p95/p99 и CPU/RAM.
Сохранённая настройка в обычном Compose — GOMAXPROCS=${API_GOMAXPROCS:-1}. Обычный стенд имеет две API по 0.5 CPU, эксперимент HL — четыре по 0.25 CPU; процент эффекта автоматически на обычный стенд не переносится. Его функциональная корректность проверена отдельно.
Файлы и повторение
Инструменты: experiments/lab3-scale; результаты: evidence/grade5. Сохранены 126 baseline +6 HI +12 HC +6 HL =150 основных/проверочных прогонов; пилоты отдельно. Каждый прогон содержит manifest, summary, requests/telemetry/warmup gzip и pool.json; каждая серия — протокол+SHA, порядок, source.tar.gz, CSV, анализ и графики. Raw не содержит Authorization/session tokens; значения сообщений синтетические.
# Пересчёт существующих данных:
.memory/bench-env/bin/python experiments/lab3-scale/analyze.py baseline-01
.memory/bench-env/bin/python experiments/lab3-scale/analyze.py latency-improvement-01
.memory/bench-env/bin/python experiments/lab3-scale/postprocess/decisions.py hl latency-improvement-01
# Новый опыт с собственным именем:
bash experiments/lab3-scale/run.sh baseline baseline-my-run
bash experiments/lab3-scale/run.sh runtime-400 runtime-400-my-run
bash experiments/lab3-scale/run.sh runtime-capacity runtime-capacity-my-run
bash experiments/lab3-scale/run.sh runtime-latency runtime-latency-my-run
# HC/HL: отдельные команды prepare -> series --protocol -> analyze -> restore в README эксперимента.
Для исторического воспроизведения берётся архив исходников и протокол той же серии; код и инструменты проверяются хешами. Изменённый код требует нового протокола/серии, отключать проверку хешей нельзя. Генератор доказательств вызывает эти же анализаторы и сохраняет вывод отдельно от исторических измерений. Он не переименовывает старые измерения в новые.
Ограничения методики и границы потери данных
Один физический хост; повторы показывают локальный разброс, но не независимую репликацию на другом оборудовании. Генератор делит ресурсы с Docker. Некоторые перегруженные точки 800 req/s имеют заметный dispatch lag при допустимом среднем CPU клиента: их нельзя трактовать как чистую мощность сервера. Границы SLO лежат ниже; неопределённость и альтернативные причины сохранены.
A2 и B2 имеют одинаковые CPU/RAM и пул, но проходящие ступени отличаются между сериями: 300/300/400 и 400/400/400. Это показывает влияние порядка, общего хоста и состояния зависимостей; конкретная причина различия отдельно не установлена. Фикстура, прогрев и случайный порядок уменьшают эти влияния, но не устраняют их. Именно поэтому публикуются все повторы и не делается вывод по одному удачному измерению.
p50/p95/p99 вычисляются по успешным ответам и рассматриваются вместе с долей ошибок. Средний CPU генератора не исключает кратких задержек. SLO относится к 30-секундным прогонам и выбранной фикстуре, не доказывает устойчивость на многочасовой нагрузке. Вход с Argon2id не измерялся, GET читает первую страницу, а не случайную глубину истории. Healthchecks/наблюдение добавляют расходы; интервалы сетки не являются статистическими доверительными интервалами.
SQL-проверка подтверждает все сообщения, о которых клиент получил успешный ответ, и связанный idempotency record. Таймаут может скрывать успешно записанное сообщение; проверка не обещает отсутствия таких неопределённых результатов. При потере единственного PostgreSQL-volume подтверждённые сообщения могут быть потеряны; репликации/PITR в lab3 нет. Redis AOF everysec при аварийной потере хоста может потерять последние изменения сессий. Перезапуск с сохранением исправных volumes и падение одной API — проверенные сценарии, потеря физического узла — нет.
Ограничения и следующие шаги
Выдерживается остановка любой одной API при работающих LB/БД/Redis и перезапуск процессов с сохранением volumes. PostgreSQL, Redis, HAProxy и Docker-host остаются единичными точками отказа. Несколько API не обеспечивают выживание потери хоста или общей БД. Compose не является многоузловым оркестратором, трек 2 этой лабораторной не выполнялся.
Frontend — dev-сервер, HTTP без TLS, локальные credentials в .env, нет внешнего менеджера секретов/постоянной очистки истёкших idempotency records. Rolling рассчитан на обратно совместимую схему; несовместимые миграции требуют отдельного плана. При ручном увеличении числа обычных API надо согласованно изменить число backend-слотов HAProxy. Argon2id использует 64 MiB на вычисление, поэтому профиль с массовым входом требует отдельного ограничения/исследования.
Подтверждено снижение p95 настройкой GOMAXPROCS на фиксированной исследованной нагрузке. +15% предельной мощности и >=1.5 выигрыш при росте ресурсов не доказаны. Следующие возможные работы: независимое воспроизведение, более длинные прогоны/точная сетка C, защита LB/БД/Redis на разных узлах, внешние backup/PITR, TLS и управление секретами. Эти возможности не заявляются реализованными в текущей работе.



