лаба на 5

This commit is contained in:
2026-10-15 22:36:15 +03:00
parent 666c13cd5a
commit b86e566ed7
39 changed files with 998 additions and 16 deletions
+343 -16
View File
@@ -1,9 +1,8 @@
# Отчёт — лабораторная 3
- Автор, группа: Станислав Травкин, БВТ2304
- Целевая оценка: 5, выполнение по этапам 3 → 4 → 5
- Текущий этап: реализация и проверка критериев оценок 3 и 4
- Целевая оценка: 5
- Текущий этап: реализованы и исследованы критерии оценок 3, 4 и 5; выполняется финальная проверка
- Выбранный трек оценки 5: цена масштабирования
- Commit/PR: будет указан после публикации
- Использованные источники: документация Docker Compose, FastAPI, SQLAlchemy, Alembic, PostgreSQL, Redis, Nginx; материалы лабораторной работы
@@ -477,21 +476,349 @@ Nginx способен перенаправлять запросы на дост
Таким образом, реализована и экспериментально проверена устойчивость к отказу одной API-реплики. Полная безошибочность переключения и отсутствие единых точек отказа для всей инфраструктуры не заявляются.
## Следующий этап — оценка 5
## Оценка 5 — исследование цены масштабирования
Выбран трек «Цена масштабирования».
### Цель эксперимента
Планируется исследовать зависимость производительности приложения от количества API-реплик при фиксированном суммарном бюджете CPU и RAM.
Исследовать влияние количества API-реплик на пропускную способность и задержки приложения при фиксированном суммарном бюджете CPU и RAM.
Для этого необходимо:
Сравниваются конфигурации с 1, 2 и 4 API-репликами. PostgreSQL, Redis и Nginx остаются общими компонентами системы.
1. Подготовить конфигурации с 1, 2 и 4 API-репликами.
2. Зафиксировать общий ресурсный бюджет для сравниваемых конфигураций.
3. Провести повторяемые нагрузочные испытания.
4. Измерить RPS, задержки и количество ошибок.
5. Определить, при каком количестве реплик рост производительности замедляется или прекращается.
6. Построить график зависимости пропускной способности от числа реплик.
7. Проанализировать влияние общих PostgreSQL и Redis на масштабирование.
8. Предложить и проверить оптимизацию на основании результатов измерений.
### Методика
Эксперименты оценки 5 будут оформлены отдельно после завершения и фиксации оценки 4.
Для всех конфигураций установлен одинаковый суммарный лимит ресурсов API: 2 CPU и 1024 MiB RAM.
| API-реплик | CPU на реплику | RAM на реплику | Общий CPU | Общая RAM |
|---|---|---|---|---|
| 1 | 2 | 1024 MiB | 2 | 1024 MiB |
| 2 | 1 | 512 MiB | 2 | 1024 MiB |
| 4 | 0,5 | 256 MiB | 2 | 1024 MiB |
Конфигурации запускаются с использованием `compose.yaml` и `compose.scale.yaml`. Для каждого количества реплик подготовлена отдельная конфигурация Nginx.
Нагрузочные испытания выполняются скриптом `tests/load.py`. Генератор использует закрытую модель нагрузки с фиксированным количеством конкурентных клиентов, отправляющих POST-запросы на создание сообщений. Автоматические повторные попытки отсутствуют.
Первоначально для каждой конфигурации проведены тесты продолжительностью 60 секунд с 8, 16, 32 и 64 конкурентными клиентами.
Для сравнения воспроизводимости дополнительно выполнены повторные прогоны при 16 клиентах. В итоговом сравнении используются три измерения для каждой конфигурации.
Измеряются успешные запросы в секунду (RPS), задержки p50, p95, p99 и количество ошибок.
Исходные результаты сохранены в `evidence/scale/`. Скрипт `scripts/analyze_scale.py` вычисляет агрегированные показатели и формирует графики.
### Результаты при 16 клиентах
| API-реплик | RPS, прогон 1 | RPS, прогон 2 | RPS, прогон 3 | Средний RPS | Стандартное отклонение RPS |
|---|---|---|---|---|---|
| 1 | 145,953 | 142,549 | 142,668 | 143,723 | 1,932 |
| 2 | 224,292 | 210,316 | 228,380 | 220,996 | 9,472 |
| 4 | 106,885 | 97,026 | 108,340 | 104,084 | 6,155 |
Средние значения перцентилей отдельных прогонов:
| API-реплик | Средний p95 | Средний p99 | Ошибок за три прогона |
|---|---|---|---|
| 1 | 135,946 мс | 158,606 мс | 0 |
| 2 | 129,875 мс | 371,534 мс | 0 |
| 4 | 572,950 мс | 1152,931 мс | 0 |
При одинаковом суммарном бюджете ресурсов конфигурация с двумя репликами показала наибольшую пропускную способность — 220,996 RPS.
По сравнению с одной репликой прирост составил около 53,8%. При переходе с двух реплик на четыре пропускная способность, напротив, снизилась примерно на 52,9%.
При этом минимальное среднее значение p99 наблюдалось у одной реплики. Следовательно, выбор конфигурации зависит не только от максимального RPS, но и от требований к задержкам.
### Графики
Пропускная способность при 16 конкурентных клиентах:
![Пропускная способность](evidence/scale/charts/throughput.png)
Задержки p95 и p99:
![Задержки](evidence/scale/charts/latency.png)
На первом графике столбики погрешности обозначают выборочное стандартное отклонение RPS трёх прогонов.
На втором графике приведены средние значения перцентилей отдельных прогонов. Они не являются перцентилями объединённой выборки всех запросов.
### Диагностика ограничений CPU
Для конфигурации с четырьмя репликами дополнительно исследовано использование CPU.
Проверка параметров cgroup показала, что каждой реплике установлена квота 50000 микросекунд процессорного времени на период 100000 микросекунд, что соответствует 0,5 CPU.
Во время отдельного нагрузочного испытания зафиксировано ограничение процессорного времени (CPU throttling). Доля периодов с throttling составила приблизительно:
| Реплика | Доля периодов с throttling |
|---|---|
| api-1 | 55,0% |
| api-2 | 35,8% |
| api-3 | 41,4% |
| api-4 | 37,8% |
Во время нагрузки наблюдалось использование CPU около установленного лимита, тогда как потребление памяти составляло примерно 70 MiB на реплику при лимите 256 MiB.
Это согласуется с предположением о существенном влиянии процессорных ограничений на результаты четырёх реплик.
### Дополнительный диагностический эксперимент
Для проверки влияния CPU-квоты проведён отдельный эксперимент с четырьмя репликами и 16 конкурентными клиентами.
CPU-квота каждой реплики временно увеличена с 0,5 до 1 CPU. Лимит памяти не изменялся.
При суммарном лимите 4 CPU получены следующие результаты:
- Успешная пропускная способность: 353,146 RPS.
- p50: 31,047 мс.
- p95: 125,895 мс.
- p99: 300,611 мс.
- Ошибок: 0.
Это приблизительно на 239,3% выше средней пропускной способности четырёх реплик при суммарном лимите 2 CPU.
Однако данный эксперимент использовал вдвое больший CPU-бюджет, поэтому его нельзя считать прямым сравнением эффективности масштабирования при одинаковых ресурсах.
После эксперимента ограничения четырёх реплик были возвращены к 0,5 CPU.
Результат свидетельствует о чувствительности производительности к доступному процессорному времени, но сам по себе не доказывает, что всё снижение производительности четырёх реплик вызвано исключительно CPU throttling.
### Ограничения исследования
Испытания выполнялись в одном локальном окружении. На результаты могли влиять фоновая нагрузка компьютера, планировщик CPU, состояние PostgreSQL и Redis, прогрев системы и накопление данных в базе.
Для каждой конфигурации при 16 клиентах проведено три прогона. Это позволяет оценить повторяемость результатов, но недостаточно для строгих статистических выводов.
Генератор использует закрытую модель нагрузки, поэтому результаты зависят от задержек ответов и производительности самого клиента. Возможны coordinated omission и дополнительная нагрузка со стороны генератора.
PostgreSQL, Redis и Nginx не масштабировались вместе с API. Поэтому эксперимент характеризует масштабирование API при фиксированной общей инфраструктуре.
Зафиксированы признаки CPU throttling, однако влияние других факторов на снижение производительности четырёх реплик полностью не исключено.
### Экспериментальная оптимизация CPU-периода
В качестве дополнительной оптимизации проверено изменение периода CPU-квоты для четырёх API-реплик при неизменном суммарном бюджете ресурсов.
В исходной конфигурации каждая реплика имела период 100000 мкс и квоту 50000 мкс. В экспериментальной конфигурации период увеличен до 200000 мкс, а квота — до 100000 мкс. В обоих случаях лимит каждой реплики составлял 0,5 CPU, суммарный бюджет — 2 CPU и 1024 MiB RAM.
Для экспериментальной конфигурации проведено три нагрузочных теста продолжительностью 60 секунд с 16 конкурентными клиентами.
| Прогон | RPS | p95 | p99 | Ошибок |
|---|---:|---:|---:|---:|
| 1 | 86,649 | 888,403 мс | 1559,440 мс | 1 |
| 2 | 85,505 | 925,831 мс | 1351,136 мс | 0 |
| 3 | 85,683 | 890,303 мс | 1366,728 мс | 0 |
| Среднее | 85,946 | 901,512 мс | 1425,768 мс | — |
Сравнение со стандартным периодом 100 мс:
| Метрика | Период 100 мс | Период 200 мс | Изменение |
|---|---:|---:|---:|
| Средний RPS | 104,084 | 85,946 | −17,4% |
| Средний p95 | 572,950 мс | 901,512 мс | +57,3% |
| Средний p99 | 1152,931 мс | 1425,768 мс | +23,7% |
| Ошибок за три прогона | 0 | 1 | — |
Увеличение CPU-периода не привело к улучшению производительности. Средняя пропускная способность снизилась на 17,4%, а задержки p95 и p99 увеличились.
Следовательно, предложенная оптимизация оказалась неэффективной в исследованных условиях. При этом результаты не позволяют утверждать, что увеличение CPU-периода всегда ухудшает производительность: вывод относится к данному приложению, окружению и выбранной нагрузке.
После эксперимента восстановлена стандартная конфигурация с двумя API-репликами.
Результаты сохранены в `evidence/scale/replicas-4-c16-period200.json`, `evidence/scale/replicas-4-c16-period200-repeat.json` и `evidence/scale/replicas-4-c16-period200-repeat2.json`.
### Итоговые выводы
В работе исследована цена горизонтального масштабирования API при фиксированном суммарном бюджете 2 CPU и 1024 MiB RAM.
При 16 конкурентных клиентах конфигурация с двумя репликами обеспечила максимальную среднюю пропускную способность среди проверенных вариантов — 220,996 RPS. Это приблизительно на 53,8% больше, чем у одной реплики, и на 112,3% больше, чем у четырёх.
При этом одна реплика показала наименьшую среднюю задержку p99 — 158,606 мс. Следовательно, оптимальный выбор зависит от требований к пропускной способности и задержкам.
Диагностика четырёх реплик выявила CPU throttling. Дополнительный эксперимент с увеличенным CPU-бюджетом подтвердил чувствительность приложения к доступному процессорному времени, но не позволил однозначно установить единственную причину снижения производительности.
Попытка оптимизации путём увеличения периода CPU-квоты со 100 до 200 мс при сохранении общего бюджета оказалась неэффективной: RPS снизился на 17,4%.
По результатам исследования для данной нагрузки выбрана конфигурация с двумя API-репликами по 1 CPU и 512 MiB RAM. Она обеспечивает наибольшую пропускную способность среди проверенных вариантов без увеличения суммарного бюджета ресурсов.
Таким образом, горизонтальное масштабирование необходимо оценивать экспериментально: увеличение числа реплик само по себе не гарантирует повышения производительности.(.venv) casablanca@CASABLANCA:~/mtuci/high_load_apps/mtusi2026lab3$
## Команды для демонстрации
Все команды выполняются из корневого каталога проекта. Команды с `docker compose down` останавливают стенд, но без `-v` сохраняют постоянные данные PostgreSQL. Для демонстрации достаточно начать с обычной конфигурации двух реплик. Запуск тестов создаёт учебные записи в базе; повторные измерения на изменившемся состоянии базы могут отличаться от приведённых в отчёте.
### 1. Подготовка и запуск
```bash
./scripts/bootstrap.sh
docker compose config --quiet
docker compose up -d --build
docker compose ps -a
```
При первом запуске локальных Python-тестов установить зависимости в виртуальное окружение:
```bash
python3 -m venv .venv
source .venv/bin/activate
python -m pip install -r requirements-dev.txt
```
Если `.venv` уже существует и зависимости установлены, повторять создание окружения не нужно. Для проверки миграций и журналов:
```bash
docker compose ps -a
docker compose logs --tail=50 migrate
docker compose logs --tail=30 api-1 api-2 nginx
```
Сервис `migrate` должен завершиться с кодом 0; две реплики API, PostgreSQL и Redis должны быть `healthy`.
### 2. Проверка API, балансировки и изоляции
```bash
curl -i http://localhost:8080/health/live
curl -i http://localhost:8080/health/ready
for i in $(seq 1 12); do curl -s -D - -o /dev/null http://localhost:8080/health/live | grep -i '^x-instance-id:'; done
docker compose ps
docker compose port nginx 8080
```
В заголовке `X-Instance-Id` при повторных запросах ожидаются ответы от `api-1` и `api-2`. Порты API, PostgreSQL и Redis на хост не публикуются; точка входа — Nginx на `localhost:8080`.
Проверка ресурсных ограничений и запуска API от непривилегированного пользователя:
```bash
for i in 1 2; do docker inspect mtusi2026lab3-api-$i-1 --format '{{.Name}} NanoCpus={{.HostConfig.NanoCpus}} Memory={{.HostConfig.Memory}} StopTimeout={{.HostConfig.StopTimeout}}'; done
docker compose exec -T api-1 id
docker stats --no-stream
```
### 3. Функциональные тесты и отказоустойчивость
```bash
make check
make validate
make test
make test-persistence ACTION_SCRIPT=./scripts/restart.sh
make test-failover ACTION_SCRIPT=./scripts/stop-one.sh
python3 tests/test_concurrent_idempotency.py
python3 tests/test_failover_concurrent_idempotency.py
docker compose start api-1 api-2
docker compose ps
```
Тесты проверяют контракт, сохранность данных, работу сессии при отказе и отсутствие дублирования сообщения при конкурентной отправке с одинаковым `Idempotency-Key`. После сценариев отказа необходимо восстановить обе реплики.
Для ручного показа остановки одной реплики и восстановления:
```bash
docker compose stop api-1
curl -i http://localhost:8080/health/ready
docker compose ps
docker compose start api-1
docker compose ps
```
### 4. Нагрузка и последовательное обновление на оценку 4
Базовый нагрузочный тест:
```bash
python3 tests/load.py --duration 30 --concurrency 8 --output evidence/load-demo.json
```
Для демонстрации rolling replacement запустить нагрузку в первом терминале:
```bash
python3 tests/load.py --duration 90 --concurrency 8 --output evidence/load-rolling-demo.json
```
Пока идёт тест, во втором терминале поочерёдно выполнить:
```bash
docker compose up -d --no-deps --force-recreate api-1
docker compose ps
docker compose up -d --no-deps --force-recreate api-2
docker compose ps
```
После теста посмотреть JSON-файл с RPS, задержками и ошибками. Пересоздание под нагрузкой не гарантирует нулевое число ошибок: в исходном эксперименте была зафиксирована одна ошибка.
### 5. Воспроизведение сравнения 1, 2 и 4 реплик на оценку 5
Используются `compose.yaml`, `compose.scale.yaml` и конфигурации Nginx в `infra/scale/`. Для каждого варианта общий лимит API одинаков: 2 CPU и 1024 MiB RAM. Переход между вариантами выполняется с остановкой предыдущего стенда. Команды не используют `down -v`, поэтому накопленные данные сохраняются.
Одна реплика — 2 CPU и 1024 MiB:
```bash
docker compose -f compose.yaml -f compose.scale.yaml down
API_REPLICAS=1 API_CPUS=2.0 API_MEMORY=1024m docker compose -f compose.yaml -f compose.scale.yaml up -d --build postgres redis migrate api-1 nginx
docker compose -f compose.yaml -f compose.scale.yaml ps
python3 tests/load.py --duration 60 --concurrency 16 --output evidence/scale/demo-1-c16.json
```
Две реплики — по 1 CPU и 512 MiB:
```bash
docker compose -f compose.yaml -f compose.scale.yaml down
API_REPLICAS=2 API_CPUS=1.0 API_MEMORY=512m docker compose -f compose.yaml -f compose.scale.yaml up -d --build postgres redis migrate api-1 api-2 nginx
docker compose -f compose.yaml -f compose.scale.yaml ps
python3 tests/load.py --duration 60 --concurrency 16 --output evidence/scale/demo-2-c16.json
```
Четыре реплики — по 0,5 CPU и 256 MiB:
```bash
docker compose -f compose.yaml -f compose.scale.yaml down
API_REPLICAS=4 API_CPUS=0.5 API_MEMORY=256m docker compose -f compose.yaml -f compose.scale.yaml up -d --build postgres redis migrate api-1 api-2 api-3 api-4 nginx
docker compose -f compose.yaml -f compose.scale.yaml ps
python3 tests/load.py --duration 60 --concurrency 16 --output evidence/scale/demo-4-c16.json
```
Для демонстрации ограничений четырёх реплик:
```bash
for i in 1 2 3 4; do docker inspect mtusi2026lab3-api-$i-1 --format '{{.Name}} NanoCpus={{.HostConfig.NanoCpus}} Memory={{.HostConfig.Memory}}'; done
docker stats --no-stream
```
Исторические результаты всех прогонов находятся в `evidence/scale/`; графики уже сохранены в `evidence/scale/charts/`. Для повторного формирования графиков:
```bash
python3 scripts/analyze_scale.py
```
Для воспроизведения всех исходных серий вместо `--concurrency 16` последовательно использовать 8, 16, 32 и 64 клиента; для статистического сравнения провести по три прогона при 16 клиентах, сохраняя каждый результат в отдельный JSON-файл.
### 6. Проверка изменения CPU-периода
Этот эксперимент проводится на четырёх репликах. Он показал отрицательный результат, поэтому не является рекомендуемой рабочей конфигурацией. Дополнительный файл `compose.cpu-period.yaml` заменяет способ задания лимита CPU: `cpu_period: 200000` и `cpu_quota: 100000` вместо `cpus: 0.5`. Перед запуском убедиться, что файл присутствует в проекте.
```bash
docker compose -f compose.yaml -f compose.scale.yaml down
API_REPLICAS=4 API_CPUS=0.5 API_MEMORY=256m docker compose -f compose.yaml -f compose.scale.yaml -f compose.cpu-period.yaml config --quiet
API_REPLICAS=4 API_CPUS=0.5 API_MEMORY=256m docker compose -f compose.yaml -f compose.scale.yaml -f compose.cpu-period.yaml up -d --build postgres redis migrate api-1 api-2 api-3 api-4 nginx
for i in 1 2 3 4; do docker inspect mtusi2026lab3-api-$i-1 --format '{{.Name}} NanoCpus={{.HostConfig.NanoCpus}} CpuPeriod={{.HostConfig.CpuPeriod}} CpuQuota={{.HostConfig.CpuQuota}}'; done
python3 tests/load.py --duration 60 --concurrency 16 --output evidence/scale/demo-4-c16-period200.json
```
При корректной конфигурации каждая реплика имеет `NanoCpus=0`, `CpuPeriod=200000`, `CpuQuota=100000`, то есть 0,5 CPU. Для повторения методики выполнить три прогона с разными именами выходных файлов.
### 7. Возврат к основной конфигурации после демонстрации
```bash
docker compose -f compose.yaml -f compose.scale.yaml -f compose.cpu-period.yaml down
API_REPLICAS=2 API_CPUS=1.0 API_MEMORY=512m docker compose -f compose.yaml -f compose.scale.yaml up -d --build postgres redis migrate api-1 api-2 nginx
docker compose -f compose.yaml -f compose.scale.yaml ps
curl -i http://localhost:8080/health/ready
```
Для обычной остановки без удаления данных:
```bash
docker compose down
```
`docker compose down -v` применять только при намеренном удалении учебной базы и volumes. При защите удобно показать сначала работающие две реплики, затем `X-Instance-Id`, проверки `make`, failover и результаты масштабирования; полные 60-секундные серии можно воспроизвести по приведённым командам при необходимости.
+21
View File
@@ -0,0 +1,21 @@
services:
api-1:
cpus: !reset null
cpu_period: 200000
cpu_quota: 100000
api-2:
cpus: !reset null
cpu_period: 200000
cpu_quota: 100000
api-3:
cpus: !reset null
cpu_period: 200000
cpu_quota: 100000
api-4:
cpus: !reset null
cpu_period: 200000
cpu_quota: 100000
+36
View File
@@ -0,0 +1,36 @@
services:
api-1:
cpus: ${API_CPUS:-1.0}
mem_limit: ${API_MEMORY:-512m}
api-2:
cpus: ${API_CPUS:-1.0}
mem_limit: ${API_MEMORY:-512m}
api-3:
extends:
service: api-1
file: compose.yaml
environment:
INSTANCE_ID: api-3
cpus: ${API_CPUS:-1.0}
mem_limit: ${API_MEMORY:-512m}
api-4:
extends:
service: api-1
file: compose.yaml
environment:
INSTANCE_ID: api-4
cpus: ${API_CPUS:-1.0}
mem_limit: ${API_MEMORY:-512m}
nginx:
volumes:
- ./infra/scale/nginx-${API_REPLICAS:-2}.conf:/etc/nginx/nginx.conf:ro
depends_on: !override
api-1:
condition: service_healthy
+3
View File
@@ -0,0 +1,3 @@
nr_periods 8378
nr_throttled 3207
throttled_time 270000128500
+3
View File
@@ -0,0 +1,3 @@
nr_periods 7410
nr_throttled 2675
throttled_time 222356681100
+3
View File
@@ -0,0 +1,3 @@
nr_periods 8371
nr_throttled 2898
throttled_time 237731735800
+3
View File
@@ -0,0 +1,3 @@
nr_periods 7403
nr_throttled 2551
throttled_time 203403537000
+3
View File
@@ -0,0 +1,3 @@
nr_periods 8357
nr_throttled 2976
throttled_time 242442862500
+3
View File
@@ -0,0 +1,3 @@
nr_periods 7391
nr_throttled 2576
throttled_time 209050114200
+3
View File
@@ -0,0 +1,3 @@
nr_periods 8378
nr_throttled 2920
throttled_time 235549876300
+3
View File
@@ -0,0 +1,3 @@
nr_periods 7414
nr_throttled 2556
throttled_time 203469227700
Binary file not shown.

After

Width:  |  Height:  |  Size: 34 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 32 KiB

+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.106,
"concurrency": 16,
"successful_requests": 8568,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 142.549,
"successful_latency_ms": {
"p50": 110.389,
"p95": 136.182,
"p99": 158.802
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.098,
"concurrency": 16,
"successful_requests": 8574,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 142.668,
"successful_latency_ms": {
"p50": 109.902,
"p95": 138.423,
"p99": 158.119
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.088,
"concurrency": 16,
"successful_requests": 8770,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 145.953,
"successful_latency_ms": {
"p50": 107.179,
"p95": 133.233,
"p99": 158.897
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.196,
"concurrency": 32,
"successful_requests": 8771,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 145.707,
"successful_latency_ms": {
"p50": 215.689,
"p95": 329.942,
"p99": 384.589
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.376,
"concurrency": 64,
"successful_requests": 8536,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 141.381,
"successful_latency_ms": {
"p50": 446.212,
"p95": 789.407,
"p99": 880.616
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.068,
"concurrency": 8,
"successful_requests": 6724,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 111.939,
"successful_latency_ms": {
"p50": 58.407,
"p95": 112.768,
"p99": 146.62
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.171,
"concurrency": 16,
"successful_requests": 12655,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 210.316,
"successful_latency_ms": {
"p50": 69.914,
"p95": 143.475,
"p99": 393.474
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.066,
"concurrency": 16,
"successful_requests": 13718,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 228.38,
"successful_latency_ms": {
"p50": 61.921,
"p95": 122.108,
"p99": 350.672
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.073,
"concurrency": 16,
"successful_requests": 13474,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 224.292,
"successful_latency_ms": {
"p50": 63.238,
"p95": 124.043,
"p99": 370.455
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.177,
"concurrency": 32,
"successful_requests": 12789,
"failed_requests": 1,
"error_ratio": 7.8e-05,
"successful_rps": 212.523,
"successful_latency_ms": {
"p50": 131.06,
"p95": 351.284,
"p99": 615.035
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.384,
"concurrency": 64,
"successful_requests": 14015,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 232.097,
"successful_latency_ms": {
"p50": 201.222,
"p95": 615.727,
"p99": 889.776
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.042,
"concurrency": 8,
"successful_requests": 13372,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 222.711,
"successful_latency_ms": {
"p50": 31.738,
"p95": 54.653,
"p99": 179.282
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.052,
"concurrency": 16,
"successful_requests": 21207,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 353.146,
"successful_latency_ms": {
"p50": 31.047,
"p95": 125.895,
"p99": 300.611
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.172,
"concurrency": 16,
"successful_requests": 6519,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 108.34,
"successful_latency_ms": {
"p50": 65.375,
"p95": 484.37,
"p99": 1067.28
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.16,
"concurrency": 16,
"successful_requests": 5144,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 85.505,
"successful_latency_ms": {
"p50": 35.656,
"p95": 925.831,
"p99": 1351.136
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.759,
"concurrency": 16,
"successful_requests": 5206,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 85.683,
"successful_latency_ms": {
"p50": 34.87,
"p95": 890.303,
"p99": 1366.728
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.208,
"concurrency": 16,
"successful_requests": 5217,
"failed_requests": 1,
"error_ratio": 0.000192,
"successful_rps": 86.649,
"successful_latency_ms": {
"p50": 32.204,
"p95": 888.403,
"p99": 1559.44
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.252,
"concurrency": 16,
"successful_requests": 5846,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 97.026,
"successful_latency_ms": {
"p50": 26.896,
"p95": 765.653,
"p99": 1306.985
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.467,
"concurrency": 16,
"successful_requests": 6463,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 106.885,
"successful_latency_ms": {
"p50": 36.504,
"p95": 468.828,
"p99": 1084.529
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.791,
"concurrency": 32,
"successful_requests": 6457,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 106.217,
"successful_latency_ms": {
"p50": 61.313,
"p95": 1079.084,
"p99": 2016.636
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 62.112,
"concurrency": 64,
"successful_requests": 5285,
"failed_requests": 9,
"error_ratio": 0.0017,
"successful_rps": 85.089,
"successful_latency_ms": {
"p50": 391.871,
"p95": 2904.723,
"p99": 3996.054
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+17
View File
@@ -0,0 +1,17 @@
{
"lab": 3,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 60.0,
"elapsed_seconds": 60.27,
"concurrency": 8,
"successful_requests": 5960,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 98.888,
"successful_latency_ms": {
"p50": 30.52,
"p95": 345.366,
"p99": 511.875
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+35
View File
@@ -0,0 +1,35 @@
events {
worker_connections 1024;
}
http {
resolver 127.0.0.11 valid=5s ipv6=off;
resolver_timeout 2s;
upstream api_backend {
zone api_backend 64k;
server api-1:8080 resolve max_fails=1 fail_timeout=5s;
}
server {
listen 8080;
location / {
proxy_pass http://api_backend;
proxy_http_version 1.1;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_connect_timeout 2s;
proxy_read_timeout 10s;
proxy_send_timeout 10s;
proxy_next_upstream error timeout http_502 http_503 http_504;
proxy_next_upstream_tries 2;
}
}
}
+36
View File
@@ -0,0 +1,36 @@
events {
worker_connections 1024;
}
http {
resolver 127.0.0.11 valid=5s ipv6=off;
resolver_timeout 2s;
upstream api_backend {
zone api_backend 64k;
server api-1:8080 resolve max_fails=1 fail_timeout=5s;
server api-2:8080 resolve max_fails=1 fail_timeout=5s;
}
server {
listen 8080;
location / {
proxy_pass http://api_backend;
proxy_http_version 1.1;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_connect_timeout 2s;
proxy_read_timeout 10s;
proxy_send_timeout 10s;
proxy_next_upstream error timeout http_502 http_503 http_504;
proxy_next_upstream_tries 2;
}
}
}
+38
View File
@@ -0,0 +1,38 @@
events {
worker_connections 1024;
}
http {
resolver 127.0.0.11 valid=5s ipv6=off;
resolver_timeout 2s;
upstream api_backend {
zone api_backend 64k;
server api-1:8080 resolve max_fails=1 fail_timeout=5s;
server api-2:8080 resolve max_fails=1 fail_timeout=5s;
server api-3:8080 resolve max_fails=1 fail_timeout=5s;
server api-4:8080 resolve max_fails=1 fail_timeout=5s;
}
server {
listen 8080;
location / {
proxy_pass http://api_backend;
proxy_http_version 1.1;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_connect_timeout 2s;
proxy_read_timeout 10s;
proxy_send_timeout 10s;
proxy_next_upstream error timeout http_502 http_503 http_504;
proxy_next_upstream_tries 2;
}
}
}
+91
View File
@@ -0,0 +1,91 @@
import json
import statistics
from pathlib import Path
import matplotlib
matplotlib.use("Agg")
import matplotlib.pyplot as plt
ROOT = Path("evidence/scale")
OUTPUT = ROOT / "charts"
THIRD_RUN = {
1: "repeat2",
2: "repeat2",
4: "diagnostics",
}
OUTPUT.mkdir(parents=True, exist_ok=True)
summary = []
for replicas in (1, 2, 4):
files = [
ROOT / f"replicas-{replicas}-c16.json",
ROOT / f"replicas-{replicas}-c16-repeat.json",
ROOT / f"replicas-{replicas}-c16-{THIRD_RUN[replicas]}.json",
]
results = [json.loads(path.read_text(encoding="utf-8")) for path in files]
rps = [result["successful_rps"] for result in results]
p95 = [result["successful_latency_ms"]["p95"] for result in results]
p99 = [result["successful_latency_ms"]["p99"] for result in results]
errors = sum(result["failed_requests"] for result in results)
item = {
"replicas": replicas,
"rps_mean": statistics.mean(rps),
"rps_std": statistics.stdev(rps),
"p95_mean": statistics.mean(p95),
"p99_mean": statistics.mean(p99),
"errors": errors,
}
summary.append(item)
print(f"\nРеплик: {replicas}")
print(f"RPS: {', '.join(f'{value:.3f}' for value in rps)}")
print(f"Средний RPS: {item['rps_mean']:.3f}")
print(f"Стандартное отклонение RPS: {item['rps_std']:.3f}")
print(f"Средний p95: {item['p95_mean']:.3f} мс")
print(f"Средний p99: {item['p99_mean']:.3f} мс")
print(f"Ошибок: {errors}")
replicas = [item["replicas"] for item in summary]
rps_means = [item["rps_mean"] for item in summary]
rps_stds = [item["rps_std"] for item in summary]
p95_means = [item["p95_mean"] for item in summary]
p99_means = [item["p99_mean"] for item in summary]
fig, ax = plt.subplots(figsize=(8, 5))
ax.bar(replicas, rps_means, yerr=rps_stds, capsize=6)
ax.set_xticks(replicas)
ax.set_xlabel("API replicas")
ax.set_ylabel("Successful requests per second")
ax.set_title("Throughput at 16 concurrent clients")
ax.grid(axis="y", alpha=0.3)
fig.tight_layout()
fig.savefig(OUTPUT / "throughput.png", dpi=160)
plt.close(fig)
fig, ax = plt.subplots(figsize=(8, 5))
positions = list(range(len(replicas)))
width = 0.35
ax.bar([x - width / 2 for x in positions], p95_means, width, label="p95")
ax.bar([x + width / 2 for x in positions], p99_means, width, label="p99")
ax.set_xticks(positions, replicas)
ax.set_xlabel("API replicas")
ax.set_ylabel("Latency (ms)")
ax.set_title("Mean latency percentiles at 16 concurrent clients")
ax.legend()
ax.grid(axis="y", alpha=0.3)
fig.tight_layout()
fig.savefig(OUTPUT / "latency.png", dpi=160)
plt.close(fig)
print(f"\nГрафики сохранены в {OUTPUT}")