лаба на 5
This commit is contained in:
@@ -1,9 +1,8 @@
|
||||
|
||||
# Отчёт — лабораторная 3
|
||||
|
||||
- Автор, группа: Станислав Травкин, БВТ2304
|
||||
- Целевая оценка: 5, выполнение по этапам 3 → 4 → 5
|
||||
- Текущий этап: реализация и проверка критериев оценок 3 и 4
|
||||
- Целевая оценка: 5
|
||||
- Текущий этап: реализованы и исследованы критерии оценок 3, 4 и 5; выполняется финальная проверка
|
||||
- Выбранный трек оценки 5: цена масштабирования
|
||||
- Commit/PR: будет указан после публикации
|
||||
- Использованные источники: документация Docker Compose, FastAPI, SQLAlchemy, Alembic, PostgreSQL, Redis, Nginx; материалы лабораторной работы
|
||||
@@ -477,21 +476,349 @@ Nginx способен перенаправлять запросы на дост
|
||||
|
||||
Таким образом, реализована и экспериментально проверена устойчивость к отказу одной API-реплики. Полная безошибочность переключения и отсутствие единых точек отказа для всей инфраструктуры не заявляются.
|
||||
|
||||
## Следующий этап — оценка 5
|
||||
## Оценка 5 — исследование цены масштабирования
|
||||
|
||||
Выбран трек «Цена масштабирования».
|
||||
### Цель эксперимента
|
||||
|
||||
Планируется исследовать зависимость производительности приложения от количества API-реплик при фиксированном суммарном бюджете CPU и RAM.
|
||||
Исследовать влияние количества API-реплик на пропускную способность и задержки приложения при фиксированном суммарном бюджете CPU и RAM.
|
||||
|
||||
Для этого необходимо:
|
||||
Сравниваются конфигурации с 1, 2 и 4 API-репликами. PostgreSQL, Redis и Nginx остаются общими компонентами системы.
|
||||
|
||||
1. Подготовить конфигурации с 1, 2 и 4 API-репликами.
|
||||
2. Зафиксировать общий ресурсный бюджет для сравниваемых конфигураций.
|
||||
3. Провести повторяемые нагрузочные испытания.
|
||||
4. Измерить RPS, задержки и количество ошибок.
|
||||
5. Определить, при каком количестве реплик рост производительности замедляется или прекращается.
|
||||
6. Построить график зависимости пропускной способности от числа реплик.
|
||||
7. Проанализировать влияние общих PostgreSQL и Redis на масштабирование.
|
||||
8. Предложить и проверить оптимизацию на основании результатов измерений.
|
||||
### Методика
|
||||
|
||||
Эксперименты оценки 5 будут оформлены отдельно после завершения и фиксации оценки 4.
|
||||
Для всех конфигураций установлен одинаковый суммарный лимит ресурсов API: 2 CPU и 1024 MiB RAM.
|
||||
|
||||
| API-реплик | CPU на реплику | RAM на реплику | Общий CPU | Общая RAM |
|
||||
|---|---|---|---|---|
|
||||
| 1 | 2 | 1024 MiB | 2 | 1024 MiB |
|
||||
| 2 | 1 | 512 MiB | 2 | 1024 MiB |
|
||||
| 4 | 0,5 | 256 MiB | 2 | 1024 MiB |
|
||||
|
||||
Конфигурации запускаются с использованием `compose.yaml` и `compose.scale.yaml`. Для каждого количества реплик подготовлена отдельная конфигурация Nginx.
|
||||
|
||||
Нагрузочные испытания выполняются скриптом `tests/load.py`. Генератор использует закрытую модель нагрузки с фиксированным количеством конкурентных клиентов, отправляющих POST-запросы на создание сообщений. Автоматические повторные попытки отсутствуют.
|
||||
|
||||
Первоначально для каждой конфигурации проведены тесты продолжительностью 60 секунд с 8, 16, 32 и 64 конкурентными клиентами.
|
||||
|
||||
Для сравнения воспроизводимости дополнительно выполнены повторные прогоны при 16 клиентах. В итоговом сравнении используются три измерения для каждой конфигурации.
|
||||
|
||||
Измеряются успешные запросы в секунду (RPS), задержки p50, p95, p99 и количество ошибок.
|
||||
|
||||
Исходные результаты сохранены в `evidence/scale/`. Скрипт `scripts/analyze_scale.py` вычисляет агрегированные показатели и формирует графики.
|
||||
|
||||
### Результаты при 16 клиентах
|
||||
|
||||
| API-реплик | RPS, прогон 1 | RPS, прогон 2 | RPS, прогон 3 | Средний RPS | Стандартное отклонение RPS |
|
||||
|---|---|---|---|---|---|
|
||||
| 1 | 145,953 | 142,549 | 142,668 | 143,723 | 1,932 |
|
||||
| 2 | 224,292 | 210,316 | 228,380 | 220,996 | 9,472 |
|
||||
| 4 | 106,885 | 97,026 | 108,340 | 104,084 | 6,155 |
|
||||
|
||||
Средние значения перцентилей отдельных прогонов:
|
||||
|
||||
| API-реплик | Средний p95 | Средний p99 | Ошибок за три прогона |
|
||||
|---|---|---|---|
|
||||
| 1 | 135,946 мс | 158,606 мс | 0 |
|
||||
| 2 | 129,875 мс | 371,534 мс | 0 |
|
||||
| 4 | 572,950 мс | 1152,931 мс | 0 |
|
||||
|
||||
При одинаковом суммарном бюджете ресурсов конфигурация с двумя репликами показала наибольшую пропускную способность — 220,996 RPS.
|
||||
|
||||
По сравнению с одной репликой прирост составил около 53,8%. При переходе с двух реплик на четыре пропускная способность, напротив, снизилась примерно на 52,9%.
|
||||
|
||||
При этом минимальное среднее значение p99 наблюдалось у одной реплики. Следовательно, выбор конфигурации зависит не только от максимального RPS, но и от требований к задержкам.
|
||||
|
||||
### Графики
|
||||
|
||||
Пропускная способность при 16 конкурентных клиентах:
|
||||
|
||||

|
||||
|
||||
Задержки p95 и p99:
|
||||
|
||||

|
||||
|
||||
На первом графике столбики погрешности обозначают выборочное стандартное отклонение RPS трёх прогонов.
|
||||
|
||||
На втором графике приведены средние значения перцентилей отдельных прогонов. Они не являются перцентилями объединённой выборки всех запросов.
|
||||
|
||||
### Диагностика ограничений CPU
|
||||
|
||||
Для конфигурации с четырьмя репликами дополнительно исследовано использование CPU.
|
||||
|
||||
Проверка параметров cgroup показала, что каждой реплике установлена квота 50000 микросекунд процессорного времени на период 100000 микросекунд, что соответствует 0,5 CPU.
|
||||
|
||||
Во время отдельного нагрузочного испытания зафиксировано ограничение процессорного времени (CPU throttling). Доля периодов с throttling составила приблизительно:
|
||||
|
||||
| Реплика | Доля периодов с throttling |
|
||||
|---|---|
|
||||
| api-1 | 55,0% |
|
||||
| api-2 | 35,8% |
|
||||
| api-3 | 41,4% |
|
||||
| api-4 | 37,8% |
|
||||
|
||||
Во время нагрузки наблюдалось использование CPU около установленного лимита, тогда как потребление памяти составляло примерно 70 MiB на реплику при лимите 256 MiB.
|
||||
|
||||
Это согласуется с предположением о существенном влиянии процессорных ограничений на результаты четырёх реплик.
|
||||
|
||||
### Дополнительный диагностический эксперимент
|
||||
|
||||
Для проверки влияния CPU-квоты проведён отдельный эксперимент с четырьмя репликами и 16 конкурентными клиентами.
|
||||
|
||||
CPU-квота каждой реплики временно увеличена с 0,5 до 1 CPU. Лимит памяти не изменялся.
|
||||
|
||||
При суммарном лимите 4 CPU получены следующие результаты:
|
||||
|
||||
- Успешная пропускная способность: 353,146 RPS.
|
||||
- p50: 31,047 мс.
|
||||
- p95: 125,895 мс.
|
||||
- p99: 300,611 мс.
|
||||
- Ошибок: 0.
|
||||
|
||||
Это приблизительно на 239,3% выше средней пропускной способности четырёх реплик при суммарном лимите 2 CPU.
|
||||
|
||||
Однако данный эксперимент использовал вдвое больший CPU-бюджет, поэтому его нельзя считать прямым сравнением эффективности масштабирования при одинаковых ресурсах.
|
||||
|
||||
После эксперимента ограничения четырёх реплик были возвращены к 0,5 CPU.
|
||||
|
||||
Результат свидетельствует о чувствительности производительности к доступному процессорному времени, но сам по себе не доказывает, что всё снижение производительности четырёх реплик вызвано исключительно CPU throttling.
|
||||
|
||||
### Ограничения исследования
|
||||
|
||||
Испытания выполнялись в одном локальном окружении. На результаты могли влиять фоновая нагрузка компьютера, планировщик CPU, состояние PostgreSQL и Redis, прогрев системы и накопление данных в базе.
|
||||
|
||||
Для каждой конфигурации при 16 клиентах проведено три прогона. Это позволяет оценить повторяемость результатов, но недостаточно для строгих статистических выводов.
|
||||
|
||||
Генератор использует закрытую модель нагрузки, поэтому результаты зависят от задержек ответов и производительности самого клиента. Возможны coordinated omission и дополнительная нагрузка со стороны генератора.
|
||||
|
||||
PostgreSQL, Redis и Nginx не масштабировались вместе с API. Поэтому эксперимент характеризует масштабирование API при фиксированной общей инфраструктуре.
|
||||
|
||||
Зафиксированы признаки CPU throttling, однако влияние других факторов на снижение производительности четырёх реплик полностью не исключено.
|
||||
|
||||
### Экспериментальная оптимизация CPU-периода
|
||||
|
||||
В качестве дополнительной оптимизации проверено изменение периода CPU-квоты для четырёх API-реплик при неизменном суммарном бюджете ресурсов.
|
||||
|
||||
В исходной конфигурации каждая реплика имела период 100000 мкс и квоту 50000 мкс. В экспериментальной конфигурации период увеличен до 200000 мкс, а квота — до 100000 мкс. В обоих случаях лимит каждой реплики составлял 0,5 CPU, суммарный бюджет — 2 CPU и 1024 MiB RAM.
|
||||
|
||||
Для экспериментальной конфигурации проведено три нагрузочных теста продолжительностью 60 секунд с 16 конкурентными клиентами.
|
||||
|
||||
| Прогон | RPS | p95 | p99 | Ошибок |
|
||||
|---|---:|---:|---:|---:|
|
||||
| 1 | 86,649 | 888,403 мс | 1559,440 мс | 1 |
|
||||
| 2 | 85,505 | 925,831 мс | 1351,136 мс | 0 |
|
||||
| 3 | 85,683 | 890,303 мс | 1366,728 мс | 0 |
|
||||
| Среднее | 85,946 | 901,512 мс | 1425,768 мс | — |
|
||||
|
||||
Сравнение со стандартным периодом 100 мс:
|
||||
|
||||
| Метрика | Период 100 мс | Период 200 мс | Изменение |
|
||||
|---|---:|---:|---:|
|
||||
| Средний RPS | 104,084 | 85,946 | −17,4% |
|
||||
| Средний p95 | 572,950 мс | 901,512 мс | +57,3% |
|
||||
| Средний p99 | 1152,931 мс | 1425,768 мс | +23,7% |
|
||||
| Ошибок за три прогона | 0 | 1 | — |
|
||||
|
||||
Увеличение CPU-периода не привело к улучшению производительности. Средняя пропускная способность снизилась на 17,4%, а задержки p95 и p99 увеличились.
|
||||
|
||||
Следовательно, предложенная оптимизация оказалась неэффективной в исследованных условиях. При этом результаты не позволяют утверждать, что увеличение CPU-периода всегда ухудшает производительность: вывод относится к данному приложению, окружению и выбранной нагрузке.
|
||||
|
||||
После эксперимента восстановлена стандартная конфигурация с двумя API-репликами.
|
||||
|
||||
Результаты сохранены в `evidence/scale/replicas-4-c16-period200.json`, `evidence/scale/replicas-4-c16-period200-repeat.json` и `evidence/scale/replicas-4-c16-period200-repeat2.json`.
|
||||
|
||||
### Итоговые выводы
|
||||
|
||||
В работе исследована цена горизонтального масштабирования API при фиксированном суммарном бюджете 2 CPU и 1024 MiB RAM.
|
||||
|
||||
При 16 конкурентных клиентах конфигурация с двумя репликами обеспечила максимальную среднюю пропускную способность среди проверенных вариантов — 220,996 RPS. Это приблизительно на 53,8% больше, чем у одной реплики, и на 112,3% больше, чем у четырёх.
|
||||
|
||||
При этом одна реплика показала наименьшую среднюю задержку p99 — 158,606 мс. Следовательно, оптимальный выбор зависит от требований к пропускной способности и задержкам.
|
||||
|
||||
Диагностика четырёх реплик выявила CPU throttling. Дополнительный эксперимент с увеличенным CPU-бюджетом подтвердил чувствительность приложения к доступному процессорному времени, но не позволил однозначно установить единственную причину снижения производительности.
|
||||
|
||||
Попытка оптимизации путём увеличения периода CPU-квоты со 100 до 200 мс при сохранении общего бюджета оказалась неэффективной: RPS снизился на 17,4%.
|
||||
|
||||
По результатам исследования для данной нагрузки выбрана конфигурация с двумя API-репликами по 1 CPU и 512 MiB RAM. Она обеспечивает наибольшую пропускную способность среди проверенных вариантов без увеличения суммарного бюджета ресурсов.
|
||||
|
||||
Таким образом, горизонтальное масштабирование необходимо оценивать экспериментально: увеличение числа реплик само по себе не гарантирует повышения производительности.(.venv) casablanca@CASABLANCA:~/mtuci/high_load_apps/mtusi2026lab3$
|
||||
|
||||
|
||||
## Команды для демонстрации
|
||||
|
||||
Все команды выполняются из корневого каталога проекта. Команды с `docker compose down` останавливают стенд, но без `-v` сохраняют постоянные данные PostgreSQL. Для демонстрации достаточно начать с обычной конфигурации двух реплик. Запуск тестов создаёт учебные записи в базе; повторные измерения на изменившемся состоянии базы могут отличаться от приведённых в отчёте.
|
||||
|
||||
### 1. Подготовка и запуск
|
||||
|
||||
```bash
|
||||
./scripts/bootstrap.sh
|
||||
docker compose config --quiet
|
||||
docker compose up -d --build
|
||||
docker compose ps -a
|
||||
```
|
||||
|
||||
При первом запуске локальных Python-тестов установить зависимости в виртуальное окружение:
|
||||
|
||||
```bash
|
||||
python3 -m venv .venv
|
||||
source .venv/bin/activate
|
||||
python -m pip install -r requirements-dev.txt
|
||||
```
|
||||
|
||||
Если `.venv` уже существует и зависимости установлены, повторять создание окружения не нужно. Для проверки миграций и журналов:
|
||||
|
||||
```bash
|
||||
docker compose ps -a
|
||||
docker compose logs --tail=50 migrate
|
||||
docker compose logs --tail=30 api-1 api-2 nginx
|
||||
```
|
||||
|
||||
Сервис `migrate` должен завершиться с кодом 0; две реплики API, PostgreSQL и Redis должны быть `healthy`.
|
||||
|
||||
### 2. Проверка API, балансировки и изоляции
|
||||
|
||||
```bash
|
||||
curl -i http://localhost:8080/health/live
|
||||
curl -i http://localhost:8080/health/ready
|
||||
for i in $(seq 1 12); do curl -s -D - -o /dev/null http://localhost:8080/health/live | grep -i '^x-instance-id:'; done
|
||||
docker compose ps
|
||||
docker compose port nginx 8080
|
||||
```
|
||||
|
||||
В заголовке `X-Instance-Id` при повторных запросах ожидаются ответы от `api-1` и `api-2`. Порты API, PostgreSQL и Redis на хост не публикуются; точка входа — Nginx на `localhost:8080`.
|
||||
|
||||
Проверка ресурсных ограничений и запуска API от непривилегированного пользователя:
|
||||
|
||||
```bash
|
||||
for i in 1 2; do docker inspect mtusi2026lab3-api-$i-1 --format '{{.Name}} NanoCpus={{.HostConfig.NanoCpus}} Memory={{.HostConfig.Memory}} StopTimeout={{.HostConfig.StopTimeout}}'; done
|
||||
docker compose exec -T api-1 id
|
||||
docker stats --no-stream
|
||||
```
|
||||
|
||||
### 3. Функциональные тесты и отказоустойчивость
|
||||
|
||||
```bash
|
||||
make check
|
||||
make validate
|
||||
make test
|
||||
make test-persistence ACTION_SCRIPT=./scripts/restart.sh
|
||||
make test-failover ACTION_SCRIPT=./scripts/stop-one.sh
|
||||
python3 tests/test_concurrent_idempotency.py
|
||||
python3 tests/test_failover_concurrent_idempotency.py
|
||||
docker compose start api-1 api-2
|
||||
docker compose ps
|
||||
```
|
||||
|
||||
Тесты проверяют контракт, сохранность данных, работу сессии при отказе и отсутствие дублирования сообщения при конкурентной отправке с одинаковым `Idempotency-Key`. После сценариев отказа необходимо восстановить обе реплики.
|
||||
|
||||
Для ручного показа остановки одной реплики и восстановления:
|
||||
|
||||
```bash
|
||||
docker compose stop api-1
|
||||
curl -i http://localhost:8080/health/ready
|
||||
docker compose ps
|
||||
docker compose start api-1
|
||||
docker compose ps
|
||||
```
|
||||
|
||||
### 4. Нагрузка и последовательное обновление на оценку 4
|
||||
|
||||
Базовый нагрузочный тест:
|
||||
|
||||
```bash
|
||||
python3 tests/load.py --duration 30 --concurrency 8 --output evidence/load-demo.json
|
||||
```
|
||||
|
||||
Для демонстрации rolling replacement запустить нагрузку в первом терминале:
|
||||
|
||||
```bash
|
||||
python3 tests/load.py --duration 90 --concurrency 8 --output evidence/load-rolling-demo.json
|
||||
```
|
||||
|
||||
Пока идёт тест, во втором терминале поочерёдно выполнить:
|
||||
|
||||
```bash
|
||||
docker compose up -d --no-deps --force-recreate api-1
|
||||
docker compose ps
|
||||
docker compose up -d --no-deps --force-recreate api-2
|
||||
docker compose ps
|
||||
```
|
||||
|
||||
После теста посмотреть JSON-файл с RPS, задержками и ошибками. Пересоздание под нагрузкой не гарантирует нулевое число ошибок: в исходном эксперименте была зафиксирована одна ошибка.
|
||||
|
||||
### 5. Воспроизведение сравнения 1, 2 и 4 реплик на оценку 5
|
||||
|
||||
Используются `compose.yaml`, `compose.scale.yaml` и конфигурации Nginx в `infra/scale/`. Для каждого варианта общий лимит API одинаков: 2 CPU и 1024 MiB RAM. Переход между вариантами выполняется с остановкой предыдущего стенда. Команды не используют `down -v`, поэтому накопленные данные сохраняются.
|
||||
|
||||
Одна реплика — 2 CPU и 1024 MiB:
|
||||
|
||||
```bash
|
||||
docker compose -f compose.yaml -f compose.scale.yaml down
|
||||
API_REPLICAS=1 API_CPUS=2.0 API_MEMORY=1024m docker compose -f compose.yaml -f compose.scale.yaml up -d --build postgres redis migrate api-1 nginx
|
||||
docker compose -f compose.yaml -f compose.scale.yaml ps
|
||||
python3 tests/load.py --duration 60 --concurrency 16 --output evidence/scale/demo-1-c16.json
|
||||
```
|
||||
|
||||
Две реплики — по 1 CPU и 512 MiB:
|
||||
|
||||
```bash
|
||||
docker compose -f compose.yaml -f compose.scale.yaml down
|
||||
API_REPLICAS=2 API_CPUS=1.0 API_MEMORY=512m docker compose -f compose.yaml -f compose.scale.yaml up -d --build postgres redis migrate api-1 api-2 nginx
|
||||
docker compose -f compose.yaml -f compose.scale.yaml ps
|
||||
python3 tests/load.py --duration 60 --concurrency 16 --output evidence/scale/demo-2-c16.json
|
||||
```
|
||||
|
||||
Четыре реплики — по 0,5 CPU и 256 MiB:
|
||||
|
||||
```bash
|
||||
docker compose -f compose.yaml -f compose.scale.yaml down
|
||||
API_REPLICAS=4 API_CPUS=0.5 API_MEMORY=256m docker compose -f compose.yaml -f compose.scale.yaml up -d --build postgres redis migrate api-1 api-2 api-3 api-4 nginx
|
||||
docker compose -f compose.yaml -f compose.scale.yaml ps
|
||||
python3 tests/load.py --duration 60 --concurrency 16 --output evidence/scale/demo-4-c16.json
|
||||
```
|
||||
|
||||
Для демонстрации ограничений четырёх реплик:
|
||||
|
||||
```bash
|
||||
for i in 1 2 3 4; do docker inspect mtusi2026lab3-api-$i-1 --format '{{.Name}} NanoCpus={{.HostConfig.NanoCpus}} Memory={{.HostConfig.Memory}}'; done
|
||||
docker stats --no-stream
|
||||
```
|
||||
|
||||
Исторические результаты всех прогонов находятся в `evidence/scale/`; графики уже сохранены в `evidence/scale/charts/`. Для повторного формирования графиков:
|
||||
|
||||
```bash
|
||||
python3 scripts/analyze_scale.py
|
||||
```
|
||||
|
||||
Для воспроизведения всех исходных серий вместо `--concurrency 16` последовательно использовать 8, 16, 32 и 64 клиента; для статистического сравнения провести по три прогона при 16 клиентах, сохраняя каждый результат в отдельный JSON-файл.
|
||||
|
||||
### 6. Проверка изменения CPU-периода
|
||||
|
||||
Этот эксперимент проводится на четырёх репликах. Он показал отрицательный результат, поэтому не является рекомендуемой рабочей конфигурацией. Дополнительный файл `compose.cpu-period.yaml` заменяет способ задания лимита CPU: `cpu_period: 200000` и `cpu_quota: 100000` вместо `cpus: 0.5`. Перед запуском убедиться, что файл присутствует в проекте.
|
||||
|
||||
```bash
|
||||
docker compose -f compose.yaml -f compose.scale.yaml down
|
||||
API_REPLICAS=4 API_CPUS=0.5 API_MEMORY=256m docker compose -f compose.yaml -f compose.scale.yaml -f compose.cpu-period.yaml config --quiet
|
||||
API_REPLICAS=4 API_CPUS=0.5 API_MEMORY=256m docker compose -f compose.yaml -f compose.scale.yaml -f compose.cpu-period.yaml up -d --build postgres redis migrate api-1 api-2 api-3 api-4 nginx
|
||||
for i in 1 2 3 4; do docker inspect mtusi2026lab3-api-$i-1 --format '{{.Name}} NanoCpus={{.HostConfig.NanoCpus}} CpuPeriod={{.HostConfig.CpuPeriod}} CpuQuota={{.HostConfig.CpuQuota}}'; done
|
||||
python3 tests/load.py --duration 60 --concurrency 16 --output evidence/scale/demo-4-c16-period200.json
|
||||
```
|
||||
|
||||
При корректной конфигурации каждая реплика имеет `NanoCpus=0`, `CpuPeriod=200000`, `CpuQuota=100000`, то есть 0,5 CPU. Для повторения методики выполнить три прогона с разными именами выходных файлов.
|
||||
|
||||
### 7. Возврат к основной конфигурации после демонстрации
|
||||
|
||||
```bash
|
||||
docker compose -f compose.yaml -f compose.scale.yaml -f compose.cpu-period.yaml down
|
||||
API_REPLICAS=2 API_CPUS=1.0 API_MEMORY=512m docker compose -f compose.yaml -f compose.scale.yaml up -d --build postgres redis migrate api-1 api-2 nginx
|
||||
docker compose -f compose.yaml -f compose.scale.yaml ps
|
||||
curl -i http://localhost:8080/health/ready
|
||||
```
|
||||
|
||||
Для обычной остановки без удаления данных:
|
||||
|
||||
```bash
|
||||
docker compose down
|
||||
```
|
||||
|
||||
`docker compose down -v` применять только при намеренном удалении учебной базы и volumes. При защите удобно показать сначала работающие две реплики, затем `X-Instance-Id`, проверки `make`, failover и результаты масштабирования; полные 60-секундные серии можно воспроизвести по приведённым командам при необходимости.
|
||||
|
||||
@@ -0,0 +1,21 @@
|
||||
|
||||
services:
|
||||
api-1:
|
||||
cpus: !reset null
|
||||
cpu_period: 200000
|
||||
cpu_quota: 100000
|
||||
|
||||
api-2:
|
||||
cpus: !reset null
|
||||
cpu_period: 200000
|
||||
cpu_quota: 100000
|
||||
|
||||
api-3:
|
||||
cpus: !reset null
|
||||
cpu_period: 200000
|
||||
cpu_quota: 100000
|
||||
|
||||
api-4:
|
||||
cpus: !reset null
|
||||
cpu_period: 200000
|
||||
cpu_quota: 100000
|
||||
@@ -0,0 +1,36 @@
|
||||
|
||||
services:
|
||||
api-1:
|
||||
cpus: ${API_CPUS:-1.0}
|
||||
mem_limit: ${API_MEMORY:-512m}
|
||||
|
||||
api-2:
|
||||
cpus: ${API_CPUS:-1.0}
|
||||
mem_limit: ${API_MEMORY:-512m}
|
||||
|
||||
api-3:
|
||||
extends:
|
||||
service: api-1
|
||||
file: compose.yaml
|
||||
environment:
|
||||
INSTANCE_ID: api-3
|
||||
cpus: ${API_CPUS:-1.0}
|
||||
mem_limit: ${API_MEMORY:-512m}
|
||||
|
||||
api-4:
|
||||
extends:
|
||||
service: api-1
|
||||
file: compose.yaml
|
||||
environment:
|
||||
INSTANCE_ID: api-4
|
||||
cpus: ${API_CPUS:-1.0}
|
||||
mem_limit: ${API_MEMORY:-512m}
|
||||
|
||||
nginx:
|
||||
volumes:
|
||||
- ./infra/scale/nginx-${API_REPLICAS:-2}.conf:/etc/nginx/nginx.conf:ro
|
||||
depends_on: !override
|
||||
api-1:
|
||||
condition: service_healthy
|
||||
|
||||
|
||||
@@ -0,0 +1,3 @@
|
||||
nr_periods 8378
|
||||
nr_throttled 3207
|
||||
throttled_time 270000128500
|
||||
@@ -0,0 +1,3 @@
|
||||
nr_periods 7410
|
||||
nr_throttled 2675
|
||||
throttled_time 222356681100
|
||||
@@ -0,0 +1,3 @@
|
||||
nr_periods 8371
|
||||
nr_throttled 2898
|
||||
throttled_time 237731735800
|
||||
@@ -0,0 +1,3 @@
|
||||
nr_periods 7403
|
||||
nr_throttled 2551
|
||||
throttled_time 203403537000
|
||||
@@ -0,0 +1,3 @@
|
||||
nr_periods 8357
|
||||
nr_throttled 2976
|
||||
throttled_time 242442862500
|
||||
@@ -0,0 +1,3 @@
|
||||
nr_periods 7391
|
||||
nr_throttled 2576
|
||||
throttled_time 209050114200
|
||||
@@ -0,0 +1,3 @@
|
||||
nr_periods 8378
|
||||
nr_throttled 2920
|
||||
throttled_time 235549876300
|
||||
@@ -0,0 +1,3 @@
|
||||
nr_periods 7414
|
||||
nr_throttled 2556
|
||||
throttled_time 203469227700
|
||||
Binary file not shown.
|
After Width: | Height: | Size: 34 KiB |
Binary file not shown.
|
After Width: | Height: | Size: 32 KiB |
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.106,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 8568,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 142.549,
|
||||
"successful_latency_ms": {
|
||||
"p50": 110.389,
|
||||
"p95": 136.182,
|
||||
"p99": 158.802
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.098,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 8574,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 142.668,
|
||||
"successful_latency_ms": {
|
||||
"p50": 109.902,
|
||||
"p95": 138.423,
|
||||
"p99": 158.119
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.088,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 8770,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 145.953,
|
||||
"successful_latency_ms": {
|
||||
"p50": 107.179,
|
||||
"p95": 133.233,
|
||||
"p99": 158.897
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.196,
|
||||
"concurrency": 32,
|
||||
"successful_requests": 8771,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 145.707,
|
||||
"successful_latency_ms": {
|
||||
"p50": 215.689,
|
||||
"p95": 329.942,
|
||||
"p99": 384.589
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.376,
|
||||
"concurrency": 64,
|
||||
"successful_requests": 8536,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 141.381,
|
||||
"successful_latency_ms": {
|
||||
"p50": 446.212,
|
||||
"p95": 789.407,
|
||||
"p99": 880.616
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.068,
|
||||
"concurrency": 8,
|
||||
"successful_requests": 6724,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 111.939,
|
||||
"successful_latency_ms": {
|
||||
"p50": 58.407,
|
||||
"p95": 112.768,
|
||||
"p99": 146.62
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.171,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 12655,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 210.316,
|
||||
"successful_latency_ms": {
|
||||
"p50": 69.914,
|
||||
"p95": 143.475,
|
||||
"p99": 393.474
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.066,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 13718,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 228.38,
|
||||
"successful_latency_ms": {
|
||||
"p50": 61.921,
|
||||
"p95": 122.108,
|
||||
"p99": 350.672
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.073,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 13474,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 224.292,
|
||||
"successful_latency_ms": {
|
||||
"p50": 63.238,
|
||||
"p95": 124.043,
|
||||
"p99": 370.455
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.177,
|
||||
"concurrency": 32,
|
||||
"successful_requests": 12789,
|
||||
"failed_requests": 1,
|
||||
"error_ratio": 7.8e-05,
|
||||
"successful_rps": 212.523,
|
||||
"successful_latency_ms": {
|
||||
"p50": 131.06,
|
||||
"p95": 351.284,
|
||||
"p99": 615.035
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.384,
|
||||
"concurrency": 64,
|
||||
"successful_requests": 14015,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 232.097,
|
||||
"successful_latency_ms": {
|
||||
"p50": 201.222,
|
||||
"p95": 615.727,
|
||||
"p99": 889.776
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.042,
|
||||
"concurrency": 8,
|
||||
"successful_requests": 13372,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 222.711,
|
||||
"successful_latency_ms": {
|
||||
"p50": 31.738,
|
||||
"p95": 54.653,
|
||||
"p99": 179.282
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.052,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 21207,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 353.146,
|
||||
"successful_latency_ms": {
|
||||
"p50": 31.047,
|
||||
"p95": 125.895,
|
||||
"p99": 300.611
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.172,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 6519,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 108.34,
|
||||
"successful_latency_ms": {
|
||||
"p50": 65.375,
|
||||
"p95": 484.37,
|
||||
"p99": 1067.28
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.16,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 5144,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 85.505,
|
||||
"successful_latency_ms": {
|
||||
"p50": 35.656,
|
||||
"p95": 925.831,
|
||||
"p99": 1351.136
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.759,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 5206,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 85.683,
|
||||
"successful_latency_ms": {
|
||||
"p50": 34.87,
|
||||
"p95": 890.303,
|
||||
"p99": 1366.728
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.208,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 5217,
|
||||
"failed_requests": 1,
|
||||
"error_ratio": 0.000192,
|
||||
"successful_rps": 86.649,
|
||||
"successful_latency_ms": {
|
||||
"p50": 32.204,
|
||||
"p95": 888.403,
|
||||
"p99": 1559.44
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.252,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 5846,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 97.026,
|
||||
"successful_latency_ms": {
|
||||
"p50": 26.896,
|
||||
"p95": 765.653,
|
||||
"p99": 1306.985
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.467,
|
||||
"concurrency": 16,
|
||||
"successful_requests": 6463,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 106.885,
|
||||
"successful_latency_ms": {
|
||||
"p50": 36.504,
|
||||
"p95": 468.828,
|
||||
"p99": 1084.529
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.791,
|
||||
"concurrency": 32,
|
||||
"successful_requests": 6457,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 106.217,
|
||||
"successful_latency_ms": {
|
||||
"p50": 61.313,
|
||||
"p95": 1079.084,
|
||||
"p99": 2016.636
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 62.112,
|
||||
"concurrency": 64,
|
||||
"successful_requests": 5285,
|
||||
"failed_requests": 9,
|
||||
"error_ratio": 0.0017,
|
||||
"successful_rps": 85.089,
|
||||
"successful_latency_ms": {
|
||||
"p50": 391.871,
|
||||
"p95": 2904.723,
|
||||
"p99": 3996.054
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,17 @@
|
||||
{
|
||||
"lab": 3,
|
||||
"workload": "closed-loop POST messages; no automatic retries",
|
||||
"requested_duration_seconds": 60.0,
|
||||
"elapsed_seconds": 60.27,
|
||||
"concurrency": 8,
|
||||
"successful_requests": 5960,
|
||||
"failed_requests": 0,
|
||||
"error_ratio": 0.0,
|
||||
"successful_rps": 98.888,
|
||||
"successful_latency_ms": {
|
||||
"p50": 30.52,
|
||||
"p95": 345.366,
|
||||
"p99": 511.875
|
||||
},
|
||||
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
|
||||
}
|
||||
@@ -0,0 +1,35 @@
|
||||
|
||||
events {
|
||||
worker_connections 1024;
|
||||
}
|
||||
|
||||
http {
|
||||
resolver 127.0.0.11 valid=5s ipv6=off;
|
||||
resolver_timeout 2s;
|
||||
|
||||
upstream api_backend {
|
||||
zone api_backend 64k;
|
||||
server api-1:8080 resolve max_fails=1 fail_timeout=5s;
|
||||
}
|
||||
|
||||
server {
|
||||
listen 8080;
|
||||
|
||||
location / {
|
||||
proxy_pass http://api_backend;
|
||||
proxy_http_version 1.1;
|
||||
|
||||
proxy_set_header Host $host;
|
||||
proxy_set_header X-Real-IP $remote_addr;
|
||||
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
|
||||
proxy_set_header X-Forwarded-Proto $scheme;
|
||||
|
||||
proxy_connect_timeout 2s;
|
||||
proxy_read_timeout 10s;
|
||||
proxy_send_timeout 10s;
|
||||
|
||||
proxy_next_upstream error timeout http_502 http_503 http_504;
|
||||
proxy_next_upstream_tries 2;
|
||||
}
|
||||
}
|
||||
}
|
||||
@@ -0,0 +1,36 @@
|
||||
|
||||
events {
|
||||
worker_connections 1024;
|
||||
}
|
||||
|
||||
http {
|
||||
resolver 127.0.0.11 valid=5s ipv6=off;
|
||||
resolver_timeout 2s;
|
||||
|
||||
upstream api_backend {
|
||||
zone api_backend 64k;
|
||||
server api-1:8080 resolve max_fails=1 fail_timeout=5s;
|
||||
server api-2:8080 resolve max_fails=1 fail_timeout=5s;
|
||||
}
|
||||
|
||||
server {
|
||||
listen 8080;
|
||||
|
||||
location / {
|
||||
proxy_pass http://api_backend;
|
||||
proxy_http_version 1.1;
|
||||
|
||||
proxy_set_header Host $host;
|
||||
proxy_set_header X-Real-IP $remote_addr;
|
||||
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
|
||||
proxy_set_header X-Forwarded-Proto $scheme;
|
||||
|
||||
proxy_connect_timeout 2s;
|
||||
proxy_read_timeout 10s;
|
||||
proxy_send_timeout 10s;
|
||||
|
||||
proxy_next_upstream error timeout http_502 http_503 http_504;
|
||||
proxy_next_upstream_tries 2;
|
||||
}
|
||||
}
|
||||
}
|
||||
@@ -0,0 +1,38 @@
|
||||
|
||||
events {
|
||||
worker_connections 1024;
|
||||
}
|
||||
|
||||
http {
|
||||
resolver 127.0.0.11 valid=5s ipv6=off;
|
||||
resolver_timeout 2s;
|
||||
|
||||
upstream api_backend {
|
||||
zone api_backend 64k;
|
||||
server api-1:8080 resolve max_fails=1 fail_timeout=5s;
|
||||
server api-2:8080 resolve max_fails=1 fail_timeout=5s;
|
||||
server api-3:8080 resolve max_fails=1 fail_timeout=5s;
|
||||
server api-4:8080 resolve max_fails=1 fail_timeout=5s;
|
||||
}
|
||||
|
||||
server {
|
||||
listen 8080;
|
||||
|
||||
location / {
|
||||
proxy_pass http://api_backend;
|
||||
proxy_http_version 1.1;
|
||||
|
||||
proxy_set_header Host $host;
|
||||
proxy_set_header X-Real-IP $remote_addr;
|
||||
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
|
||||
proxy_set_header X-Forwarded-Proto $scheme;
|
||||
|
||||
proxy_connect_timeout 2s;
|
||||
proxy_read_timeout 10s;
|
||||
proxy_send_timeout 10s;
|
||||
|
||||
proxy_next_upstream error timeout http_502 http_503 http_504;
|
||||
proxy_next_upstream_tries 2;
|
||||
}
|
||||
}
|
||||
}
|
||||
@@ -0,0 +1,91 @@
|
||||
|
||||
import json
|
||||
import statistics
|
||||
from pathlib import Path
|
||||
|
||||
import matplotlib
|
||||
|
||||
matplotlib.use("Agg")
|
||||
|
||||
import matplotlib.pyplot as plt
|
||||
|
||||
ROOT = Path("evidence/scale")
|
||||
OUTPUT = ROOT / "charts"
|
||||
|
||||
THIRD_RUN = {
|
||||
1: "repeat2",
|
||||
2: "repeat2",
|
||||
4: "diagnostics",
|
||||
}
|
||||
|
||||
OUTPUT.mkdir(parents=True, exist_ok=True)
|
||||
|
||||
summary = []
|
||||
|
||||
for replicas in (1, 2, 4):
|
||||
files = [
|
||||
ROOT / f"replicas-{replicas}-c16.json",
|
||||
ROOT / f"replicas-{replicas}-c16-repeat.json",
|
||||
ROOT / f"replicas-{replicas}-c16-{THIRD_RUN[replicas]}.json",
|
||||
]
|
||||
|
||||
results = [json.loads(path.read_text(encoding="utf-8")) for path in files]
|
||||
|
||||
rps = [result["successful_rps"] for result in results]
|
||||
p95 = [result["successful_latency_ms"]["p95"] for result in results]
|
||||
p99 = [result["successful_latency_ms"]["p99"] for result in results]
|
||||
errors = sum(result["failed_requests"] for result in results)
|
||||
|
||||
item = {
|
||||
"replicas": replicas,
|
||||
"rps_mean": statistics.mean(rps),
|
||||
"rps_std": statistics.stdev(rps),
|
||||
"p95_mean": statistics.mean(p95),
|
||||
"p99_mean": statistics.mean(p99),
|
||||
"errors": errors,
|
||||
}
|
||||
|
||||
summary.append(item)
|
||||
|
||||
print(f"\nРеплик: {replicas}")
|
||||
print(f"RPS: {', '.join(f'{value:.3f}' for value in rps)}")
|
||||
print(f"Средний RPS: {item['rps_mean']:.3f}")
|
||||
print(f"Стандартное отклонение RPS: {item['rps_std']:.3f}")
|
||||
print(f"Средний p95: {item['p95_mean']:.3f} мс")
|
||||
print(f"Средний p99: {item['p99_mean']:.3f} мс")
|
||||
print(f"Ошибок: {errors}")
|
||||
|
||||
replicas = [item["replicas"] for item in summary]
|
||||
rps_means = [item["rps_mean"] for item in summary]
|
||||
rps_stds = [item["rps_std"] for item in summary]
|
||||
p95_means = [item["p95_mean"] for item in summary]
|
||||
p99_means = [item["p99_mean"] for item in summary]
|
||||
|
||||
fig, ax = plt.subplots(figsize=(8, 5))
|
||||
ax.bar(replicas, rps_means, yerr=rps_stds, capsize=6)
|
||||
ax.set_xticks(replicas)
|
||||
ax.set_xlabel("API replicas")
|
||||
ax.set_ylabel("Successful requests per second")
|
||||
ax.set_title("Throughput at 16 concurrent clients")
|
||||
ax.grid(axis="y", alpha=0.3)
|
||||
fig.tight_layout()
|
||||
fig.savefig(OUTPUT / "throughput.png", dpi=160)
|
||||
plt.close(fig)
|
||||
|
||||
fig, ax = plt.subplots(figsize=(8, 5))
|
||||
positions = list(range(len(replicas)))
|
||||
width = 0.35
|
||||
|
||||
ax.bar([x - width / 2 for x in positions], p95_means, width, label="p95")
|
||||
ax.bar([x + width / 2 for x in positions], p99_means, width, label="p99")
|
||||
ax.set_xticks(positions, replicas)
|
||||
ax.set_xlabel("API replicas")
|
||||
ax.set_ylabel("Latency (ms)")
|
||||
ax.set_title("Mean latency percentiles at 16 concurrent clients")
|
||||
ax.legend()
|
||||
ax.grid(axis="y", alpha=0.3)
|
||||
fig.tight_layout()
|
||||
fig.savefig(OUTPUT / "latency.png", dpi=160)
|
||||
plt.close(fig)
|
||||
|
||||
print(f"\nГрафики сохранены в {OUTPUT}")
|
||||
Reference in New Issue
Block a user