From a06471a6c60f449cd08b50242966fe5a6c92f17f Mon Sep 17 00:00:00 2001 From: Ilya Date: Fri, 23 Oct 2026 16:40:34 +0300 Subject: [PATCH] =?UTF-8?q?lab4:=20evidence=20=D0=B8=20=D0=BE=D1=82=D1=87?= =?UTF-8?q?=D1=91=D1=82=20=D0=BF=D0=BE=D1=81=D0=BB=D0=B5=20=D0=BF=D0=BE?= =?UTF-8?q?=D0=BB=D0=BD=D0=BE=D0=B3=D0=BE=20=D0=B4=D0=B5=D0=BA=D0=BE=D0=B4?= =?UTF-8?q?=D0=B0=20=D0=B8=20=D0=B8=D1=81=D0=BF=D1=80=D0=B0=D0=B2=D0=BB?= =?UTF-8?q?=D0=B5=D0=BD=D0=B8=D1=8F=20=D0=BA=D0=BE=D0=BC=D0=BF=D0=B5=D0=BD?= =?UTF-8?q?=D1=81=D0=B0=D1=86=D0=B8=D0=B8;=20=D1=88=D0=B0=D0=B1=D0=BB?= =?UTF-8?q?=D0=BE=D0=BD=20PR?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- .github/pull_request_template.md | 15 +- REPORT.md | 188 +++++++----- evidence/lab4/bench/direct-1048576-c10.json | 295 +++++++++--------- evidence/lab4/bench/direct-131072-c10.json | 292 +++++++++--------- evidence/lab4/bench/direct-9961472-c10.json | 314 ++++++++++---------- evidence/lab4/bench/proxy-1048576-c10.json | 166 +++++------ evidence/lab4/bench/proxy-131072-c10.json | 234 ++++++++------- evidence/lab4/bench/proxy-9961472-c10.json | 166 +++++------ evidence/lab4/bench/proxy-9961472-c20.json | 238 ++++++++------- evidence/lab4/consistency.txt | 4 +- evidence/lab4/make-test-e2e.txt | 4 +- evidence/lab4/summary.md | 14 +- evidence/lab4/unit-tests.txt | 8 +- 13 files changed, 987 insertions(+), 951 deletions(-) diff --git a/.github/pull_request_template.md b/.github/pull_request_template.md index 8508ab0..627df3c 100644 --- a/.github/pull_request_template.md +++ b/.github/pull_request_template.md @@ -7,10 +7,11 @@ Что реализовано и что перенесено: - Перенесено из lab3: NestJS 12 + Fastify 5, PostgreSQL, Redis-сессии и кэш, идемпотентность POST сообщений, HAProxy + 2 API-реплики, хуки `restart.sh` / `stop-one.sh` / `start-replica.sh`. - Стенд: MinIO (образ закреплён по digest), идемпотентный bootstrap `s3-init` (приватный bucket, политика `messenger-api` только на `attachments/*`, отдельный пользователь API), секреты через Docker secrets (`make init-env`), консоль MinIO отключена, порт 9001 не публикуется, корневая ФС API `read_only`. -- Proxy upload PNG/JPEG: потоковая передача в S3 без буферизации тела; `ImageInspector` проверяет сигнатуру, структуру и CRC, лимиты 10 MiB / 40 млн пикселей применяются до чтения; при отказе — компенсация; 201 ready только после PUT в S3 и `markReady`. +- Proxy upload PNG/JPEG: потоковая передача в S3; два слоя проверки — `ImageInspector` (сигнатура, структура, CRC, тип, лимит 40 млн пикселей до любого декода) и полный декод libvips/sharp (`failOn: 'warning'`), последний кусок уходит в S3 только после обоих; лимит 10 MiB до чтения; 201 ready только после PUT в S3 и `markReady`. +- Компенсация не теряет оригинал: сначала захват строки `pending → deleting`, объект удаляется только после успешного захвата; если COMMIT `ready` прошёл, а ответ потерян — объект сохраняется, клиент получает 201; при недоступной БД ничего не удаляется (уборщик). - Download через API с проверкой членства в чате; `attachment_ids` в сообщениях (атомарно в `CREATE_ONCE_SQL`, составные FK запрещают вложение другого чата); уборщик незавершённых загрузок с grace period; CLI sweep. - Недоступность S3 — деградация: вложения отвечают 503, текст, история и readiness работают. -- Трек 1: `POST /chats/{id}/attachments/direct-uploads` → presigned PUT (подписаны content-type, content-length, x-amz-checksum-sha256) → `POST /attachments/{id}/complete` (HEAD + чтение заголовка изображения, статус `rejected` для отклонённых); расширение — `contracts/extensions.openapi.json`, обязательный proxy endpoint не изменён. +- Трек 1: `POST /chats/{id}/attachments/direct-uploads` → presigned PUT (подписаны content-type, content-length, x-amz-checksum-sha256) → `POST /attachments/{id}/complete` (HEAD размера и checksum, полное чтение и декод объекта, статус `rejected` для отклонённых); расширение — `contracts/extensions.openapi.json`, обязательный proxy endpoint не изменён. Команды запуска из чистого clone: ```sh @@ -25,16 +26,16 @@ make bench Результаты проверок и ссылка на REPORT.md: [REPORT.md](../REPORT.md); вывод — `evidence/lab4/`. - `make check` — PASS; `make test` — PASS (`make-check.txt`, `make-test.txt`). -- `make test-e2e`: 34 passed, 8 skipped (opt-in); unit-тесты: 36 passed. -- `make test-dependencies`: 6 passed (Redis, PG, S3 down, PG down между PUT и ready). +- `make test-e2e`: 38 passed, 8 skipped (opt-in); unit-тесты: 43 passed (включая регрессию потерянного COMMIT и декодер). +- `make test-dependencies`: 6 passed (Redis, PG, S3 down, PG down между PUT и ready — объект сохранён до уборки); короткий TTL: 9 passed. - Persistence и failover — PASS; download после остановки каждой из реплик возвращает тот же sha256. - `make s3-security`: 9 PASS; `make consistency`: orphans 0, missing 0; спайк подписи: чужие байты → S3 400/403. -- Эксперимент: proxy 10×9.5 MiB — пик Δrss 15.7 MiB, 20×9.5 MiB — 16.5 MiB; direct — трафик API ≈0.07 MiB на загрузку при любом размере, proxy ≈2×size. +- Эксперимент: proxy 10×9.5 MiB — медиана пика Δrss 43 MiB, 20×9.5 MiB — 50 MiB (граница по конфигурации ≈422 MiB, пик RSS ≤ 391 из 768 MiB); худший декод 40 млн px — 131 MiB; direct снимает с API исходящий трафик (≈0.01 MiB против size), входящий одинаков (≈size), т.к. complete проверяет объект целиком. Ограничения / известные ошибки: -- Прямой путь проверяет только заголовок изображения (структура хвоста файла >64 KiB не проверяется; байты зафиксированы подписанным SHA-256). +- Полная проверка стоит памяти (копия тела ≤10 MiB + декод) и времени (p50 proxy 9.5 MiB вырос с 239 до 642 мс); direct не экономит входящий трафик API — нужна асинхронная проверка рядом с хранилищем. +- Потерянный ответ COMMIT проверен unit-тестом с моком (в стенде нет прокси, рвущего соединение после COMMIT). - Не атомарна проверка лимита незавершённых заявок прямой загрузки (гонка параллельных init). -- Порядок компенсации proxy (сначала объект, потом строка): при ложном обрыве после commit возможна потеря объекта. - Тайм-аут загрузки обрывает сокет вместо ответа 400. - Нет автоматического reconciler'а orphan-объектов (только `make consistency`), нет TLS (до lab7), нет вариантов/WebP/delete-API. - Репозиторий MinIO, вероятно, архивирован (в этой работе не перепроверялось). diff --git a/REPORT.md b/REPORT.md index 5edd980..79ba273 100644 --- a/REPORT.md +++ b/REPORT.md @@ -61,8 +61,9 @@ ATTACHMENT_SWEEP_INTERVAL_MS=1000 docker compose --env-file .env up -d --no-deps хранится для отображения и никогда не попадает в ключ или путь. На API нет локального файла оригинала: корневая ФС контейнера `read_only: true`, `/tmp` — tmpfs 16 MiB (`evidence/lab4/readonly-api.txt`). -- **Жизненный цикл строки:** `pending` (байты не подтверждены) → `ready` (видна участникам чата) или - `deleting` (захвачена уборщиком) → строка удалена. Публично существуют только `ready`. +- **Жизненный цикл строки:** `pending` (байты не подтверждены) → `ready` (видна участникам чата), + либо `deleting` (захвачена компенсацией или уборщиком) → строка удалена, либо (direct) `rejected` + (проверка не пройдена, URL ещё может действовать) → уборщик. Публично существуют только `ready`. Инварианты в БД: составные FK `(chat_id, owner_id) → chat_members` и `(attachment_id, chat_id) → attachments(id, chat_id)` делают «вложение другого чата» невозможным; `CHECK` требует size/sha256/width/height у `ready` и `expires_at` у незавершённых; FK @@ -71,29 +72,53 @@ ATTACHMENT_SWEEP_INTERVAL_MS=1000 docker compose --env-file .env up -d --no-deps - **Когда честно 201 (proxy):** только после того, как S3 принял весь объект (`PutObject` завершён) и `UPDATE … SET status='ready' WHERE status='pending'` изменил строку. Этот `UPDATE` проигрывает захвату уборщиком атомарно (строка уже `deleting` → 503, а не фальшивый 201). -- **S3 PUT прошёл, а COMMIT нет:** строка остаётся `pending`, объект есть. Запрос сначала пытается - компенсировать (`DeleteObject`, затем `DELETE … WHERE status='pending'`); если не удалось - (PG/S3 недоступны) — счётчик `attachments.compensation_deferred`, строка остаётся и через - `expires_at + ATTACHMENT_SWEEP_GRACE_SECONDS` её убирает уборщик (удаляет объект, затем строку). - Сверка: `make consistency`. Наблюдение — `dependency-failures` «compensates the S3 write when - PostgreSQL fails before ready». -- **Потоковая обработка (proxy):** тело читается как поток и сразу идёт в S3 с заранее известным - `Content-Length` (≤ 10 MiB, иначе 413 до чтения). Параллельно `ImageInspector` (байтовый автомат - PNG/JPEG, без декодирования и без буферизации тела) проверяет сигнатуру, структуру, CRC чанков PNG - и число пикселей (≤ 40 млн, 413). До появления заголовка (≤ 1 MiB) нет ни строки, ни объекта. - Последний кусок отдаётся в S3 только после `inspector.finish()` — S3 не получит полное тело - невалидного файла и не зафиксирует объект. Ограничители: `UPLOAD_MAX_IN_FLIGHT` (429 + - `Retry-After`), `UPLOAD_TIMEOUT_MS` (жёсткий дедлайн запроса), тайм-ауты S3-клиента. - Fastify `bodyLimit` к `image/*` не применяется: контент-парсеры отдают сырой поток (для - `text/plain` встроенный буферизующий парсер заменён — иначе бинарное тело давало 400). +- **S3 PUT прошёл, а COMMIT нет — и как не потерять оригинал.** Ошибка `markReady` на стороне API + не означает, что COMMIT не прошёл: соединение может оборваться *после* фиксации, и тогда строка + уже `ready`. Поэтому компенсация сначала **захватывает строку** + (`UPDATE … SET status='deleting' WHERE id=$1 AND status='pending'`) и удаляет объект **только после + успешного захвата**, затем удаляет строку: + - захват не сработал (строка уже не `pending`) — объект не трогается; если строка `ready`, API + отвечает 201 с этим вложением (`attachments.upload.recovered`): COMMIT был, это правда; + - PostgreSQL недоступен — ничего не удаляется (`attachments.compensation_deferred`): по строке + `pending` объект найдёт уборщик через `expires_at + ATTACHMENT_SWEEP_GRACE_SECONDS`, и он тоже + сначала захватывает строку; + - S3 недоступен после захвата — строка остаётся `deleting` и перезахватывается уборщиком через минуту. + + Так «объект без строки» не возникает ни при каком сбое, а `ready` без объекта — только при внешнем + удалении из bucket. Первая версия удаляла объект до строки и теряла оригинал при потерянном ответе + COMMIT; регрессия — `attachments.service.spec.ts` (unit, мок «COMMIT прошёл, ответ потерян»), а + fault-тест `dependency-failures` «keeps the object while PostgreSQL is down before ready» проверяет, + что при остановленном PG объект сохраняется до уборки. +- **Proxy: потоковая передача + полная проверка изображения.** Тело читается как поток и сразу идёт + в S3 с заранее известным `Content-Length` (≤ 10 MiB, иначе 413 до чтения). Проверка в два слоя: + 1. `ImageInspector` — байтовый автомат PNG/JPEG без буферизации: сигнатура, структура, CRC чанков + PNG, тип по содержимому и число пикселей (≤ 40 млн → 413) по IHDR/SOF. До появления заголовка + (≤ 1 MiB) нет ни строки, ни объекта; pixel bomb отвергается до любого декодирования. + 2. `ImageDecoder` — полный декод всех пикселей libvips (sharp 0.35, `failOn: 'warning'`, + `limitInputPixels`). Структуры и CRC недостаточно: PNG с мусорным zlib-потоком (верные CRC) и JPEG + без данных скана проходят первый слой — их ловит только декод (первая версия возвращала на них + 201). Декод ограничен `IMAGE_DECODE_MAX_CONCURRENT` (очередь), libvips — один поток, без кэша. + + Последний кусок отдаётся в S3 только после обоих слоёв — S3 не получает полное тело невалидного + файла и не фиксирует объект. Цена: на время загрузки API держит копию тела (≤ 10 MiB) для декода + (libvips не принимает поток), плюс память декода (≈117–131 MiB на изображение 40 млн пикселей, + `evidence/lab4/decode-memory.txt`). Верхняя граница на реплику: + `UPLOAD_MAX_IN_FLIGHT × 10 MiB + IMAGE_DECODE_MAX_CONCURRENT × 131 MiB` = 16 × 10 + 2 × 131 ≈ 422 MiB + при лимите контейнера 768 MiB. Остальные ограничители: `UPLOAD_MAX_IN_FLIGHT` (429 + + `Retry-After`, общий для proxy и direct complete), `UPLOAD_TIMEOUT_MS`, тайм-ауты S3-клиента. + Fastify `bodyLimit` к `image/*` не применяется: контент-парсеры отдают сырой поток только маршруту + загрузки (для `text/plain` на нём встроенный буферизующий парсер заменён — иначе бинарное тело + давало 400; на остальных маршрутах `image/*` → 415, `text/plain` буферизуется как прежде). - **Прямая загрузка (трек 1):** `POST /api/v1/chats/{id}/attachments/direct-uploads` создаёт строку `pending` (`expires_at = now + TTL`) и возвращает presigned PUT. Подписаны `content-type`, `content-length` и `x-amz-checksum-sha256`: S3 сам отвергает тело другого размера (403 `SignatureDoesNotMatch`) или с другим SHA-256 (400 `XAmzContentChecksumMismatch`), объект при этом не создаётся (`evidence/lab4/presign-spike.txt`). `POST /api/v1/attachments/{id}/complete` - (только владелец): `HEAD` (размер + подписанный checksum), чтение заголовка изображения (первый - диапазон 64 KiB, при необходимости расширяется до 1 MiB; объект, целиком попавший в диапазон, - проверяется до конца, включая CRC/EOI), сверка типа и пикселей, `markReady`. Несоответствие + (только владелец): `HEAD` (размер + подписанный checksum), затем объект **читается целиком** и + проходит те же два слоя, что и proxy (инспектор + полный декод), сверка типа и пикселей, `markReady`. + Подписанный checksum доказывает лишь, что байты те, что заявил клиент, а не что это изображение: + первая версия читала только начало и принимала усечённый PNG и файл, повреждённый после первых + 64 KiB (оба с верным checksum). Цена — входящий трафик API = size на `complete` (см. H2). Несоответствие (размер/checksum/тип/пиксели) → 409/413/415, объект удаляется, а строка получает статус `rejected` и сохраняет `expires_at`: подписанный URL ещё может быть использован, и повторный PUT оставил бы объект без строки; уборщик удаляет `rejected` после `expires_at` + grace, пока же строка @@ -137,7 +162,8 @@ ATTACHMENT_SWEEP_INTERVAL_MS=1000 docker compose --env-file .env up -d --no-deps | `S3_ACCESS_KEY_ID_FILE`, `S3_SECRET_ACCESS_KEY_FILE` | `resolveSecret` → `S3_ACCESS_KEY_ID`/`S3_SECRET_ACCESS_KEY` | API-credentials из Docker secrets | | `S3_CONNECT_TIMEOUT_MS`, `S3_REQUEST_TIMEOUT_MS` | `NodeHttpHandler` | тайм-ауты S3-клиента | | `MAX_UPLOAD_BYTES`, `MAX_IMAGE_PIXELS` | `AttachmentsService`, `DirectUploadsService` | 10 MiB, 40 млн пикселей | -| `UPLOAD_TIMEOUT_MS`, `UPLOAD_MAX_IN_FLIGHT` | `AttachmentsService` | дедлайн запроса и число одновременных proxy-загрузок на реплику | +| `UPLOAD_TIMEOUT_MS`, `UPLOAD_MAX_IN_FLIGHT` | `AttachmentsService`, `UploadSlots` | дедлайн запроса; число одновременных proxy-загрузок и direct complete на реплику (16) | +| `IMAGE_DECODE_MAX_CONCURRENT` | `ImageDecoder` | одновременные полные декоды на реплику (2) | | `ATTACHMENT_SWEEP_INTERVAL_MS`, `ATTACHMENT_SWEEP_GRACE_SECONDS` | `AttachmentSweeper`, CLI | период фонового прохода (0 = выкл.) и grace после `expires_at` | | `DIRECT_UPLOAD_URL_TTL_SECONDS`, `DIRECT_UPLOAD_MAX_PENDING_PER_USER` | `DirectUploadsService` | TTL подписи; лимит незавершённых заявок | | `S3_PUBLIC_BIND`, `S3_PUBLIC_PORT`, `S3_CPUS`, `S3_MEMORY` | `compose.yaml` (сервис `s3`) | публикация порта на loopback; лимиты контейнера | @@ -148,10 +174,11 @@ ATTACHMENT_SWEEP_INTERVAL_MS=1000 docker compose --env-file .env up -d --no-deps ### Компенсация, сверка, очистка (grace period) `expires_at` у proxy = старт + `UPLOAD_TIMEOUT_MS` (жёсткий дедлайн запроса), у direct = выдача URL + TTL. -Уборщик берёт строку только через `ATTACHMENT_SWEEP_GRACE_SECONDS` (900 с по умолчанию) после этого: +Уборщик берёт строки `pending`/`rejected` только через `ATTACHMENT_SWEEP_GRACE_SECONDS` (900 с по умолчанию) после этого: живую загрузку он не застанет, а `markReady … WHERE status='pending'` проигрывает захвату (`pending → deleting`, `FOR UPDATE SKIP LOCKED`, реплики не мешают друг другу). Застрявшая в -`deleting` строка (упавший уборщик) перезахватывается через минуту. Ручной запуск: +`deleting` строка (упавший уборщик или компенсация, которой не ответил S3) перезахватывается через +минуту — живая компенсация за это время либо завершается, либо уже не идёт. Ручной запуск: `docker compose exec api node dist/attachments/attachments-sweep.cli.js`. Сверка в обе стороны (только чтение): `make consistency` — `orphans` (объект без строки) и `missing` (`ready` без объекта). Отсутствующий объект у `ready`-строки при download — это потеря данных: 500 и счётчик @@ -165,16 +192,16 @@ ATTACHMENT_SWEEP_INTERVAL_MS=1000 docker compose --env-file .env up -d --no-deps | --- | --- | --- | --- | | Публичный smoke | `make test` | `PASS: lab4 public API scenario` (upload 201 ready, сообщение с `''` и `attachment_ids`, download bob = байты, eve 404) | `make-test.txt` | | Контракт offline | `make check` | PASS, `contracts/extensions.openapi.json` — валидный JSON | `make-check.txt` | -| 3: S3 в общем стенде, приватный bucket, метаданные в PG, байты в bucket | `make stand-up`; `docker compose ps`; `make consistency` | `s3` healthy, `s3-init` завершён с 0; bucket приватный (`mc anonymous set none`); число объектов в bucket = числу `ready`-строк (2577 после серий `make bench` и e2e; ещё 33 `pending` без объектов и 6 `rejected` ждут истечения + grace), orphans/missing = 0 | `bootstrap-rerun.txt`, `consistency.txt` | +| 3: S3 в общем стенде, приватный bucket, метаданные в PG, байты в bucket | `make stand-up`; `docker compose ps`; `make consistency` | `s3` healthy, `s3-init` завершён с 0; bucket приватный (`mc anonymous set none`); после серий `make bench`, e2e и fault-тестов: 5066 объектов на 5065 `ready` + 15 незавершённых строк (`pending`/`rejected`, ждут истечения + grace; одна из них — с объектом), orphans/missing = 0 | `bootstrap-rerun.txt`, `consistency.txt` | | 3: 201 ready, побайтный download, `attachment_ids` | `make test-e2e` (`attachments.e2e-spec.ts`) | sha256 в ответе = sha256 файла; content = байты, `nosniff`, `Content-Length` | `make-test-e2e.txt` | -| 3: PNG/JPEG ≤10 MiB и ≤40 млн px; MIME по содержимому; опасные filename; лимиты до чтения | e2e: 10485760 → 201, 10485761 → 413, pixel bomb 8000×5001 → 413 сразу после IHDR, PNG как `image/jpeg` → 415, `a/b.png`, `\u202E`, NUL, 256 символов → 400, 255×😀 → 201 | кейсы перечислены в `app/test/attachments.e2e-spec.ts` (в evidence — итог: 34 passed, 8 skipped opt-in); raw image/text тело на JSON-маршрутах → 415/400, не 500 | `make-test-e2e.txt`, `unit-tests.txt` (`image-inspector.spec.ts`) | +| 3: PNG/JPEG ≤10 MiB и ≤40 млн px; MIME по содержимому; опасные filename; лимиты до чтения | e2e: 10485760 → 201, 10485761 → 413, pixel bomb 8000×5001 → 413 сразу после IHDR, PNG как `image/jpeg` → 415, `a/b.png`, `\u202E`, NUL, 256 символов → 400, 255×😀 → 201 | кейсы перечислены в `app/test/attachments.e2e-spec.ts` (в evidence — итог: 38 passed, 8 skipped opt-in); raw image/text тело на JSON-маршрутах → 415/400, не 500 | `make-test-e2e.txt`, `unit-tests.txt` (43 passed: `image-inspector.spec.ts`, `image-decoder.spec.ts`, `attachments.service.spec.ts`) | | 3: другая реплика отдаёт файл после остановки загрузившей; restart сохраняет данные | `scripts/stop-one.sh` (обе реплики по очереди), `make test-failover`; `make test-persistence ACTION_SCRIPT=scripts/restart.sh` | failover: 0 неуспешных попыток, восстановление ≈3.3 с; download с тем же sha256 после остановки api-1 и api-2; persistence: `StartedAt` у postgres, redis, s3, api×2, haproxy изменился, данные и сессия сохранены | `failover.txt`, `failover-attachment.txt`, `persistence.txt` | | 3: на API нет локального файла оригинала | `touch` в корне контейнера | `Read-only file system` | `readonly-api.txt` | -| 4: тесты: большой файл, повреждённое изображение, подмена MIME, чужое `attachment_id`, вложение другого чата, нет 500 | `make test-e2e` | 413; усечённый PNG, флип байта (CRC), сигнатура+мусор, пустое тело → 415; подмена MIME → 415; чужое/неизвестное/незавершённое → 404; вложение чата eve в чате alice → 404 | `make-test-e2e.txt` | -| 4: прерывание загрузки и отказ между S3/БД не оставляют вечных объектов | e2e «client drops the connection»; `make test-dependencies` | обрыв клиента → строк 0 за ≤10 с; S3 down → одна `pending`, после старта и sweep — 0; PG down между PUT и ready → 503, объекта в S3 нет, `pending` убрана sweep; затем `orphans: 0, missing: 0` | `make-test-e2e.txt`, `make-test-dependencies.txt`, `consistency.txt` | -| 4: лимиты, таймауты, потоковая обработка; эксперимент ≥10 загрузок с пиком памяти | `make bench` (proxy, C=10 и C=20, 9.5 MiB) | max Δrss реплики 15.7 MiB при C=10 и 16.5 MiB при C=20 против 95/190 MiB тел в полёте — см. «Эксперименты» | `summary.md`, `bench/*.json` | +| 4: тесты: большой файл, повреждённое изображение, подмена MIME, чужое `attachment_id`, вложение другого чата, нет 500 | `make test-e2e` | 413; усечённый PNG, флип байта (CRC), сигнатура+мусор, пустое тело, PNG с мусорным zlib-потоком при верных CRC, JPEG (baseline и прогрессивный) без данных скана → 415; подмена MIME → 415; чужое/неизвестное/незавершённое → 404; вложение чата eve в чате alice → 404 | `make-test-e2e.txt` | +| 4: прерывание загрузки и отказ между S3/БД не оставляют вечных объектов | e2e «client drops the connection»; `make test-dependencies` | обрыв клиента → строк 0 за ≤10 с; S3 down → строка в `deleting`, после старта перезахвачена и убрана sweep; PG down между PUT и ready → 503, объект сохранён до уборки (строка `pending` его учитывает), после sweep нет ни объекта, ни строки; потерянный ответ COMMIT → объект не удаляется, 201 (unit `attachments.service.spec.ts`); затем `orphans: 0, missing: 0` | `make-test-e2e.txt`, `make-test-dependencies.txt`, `consistency.txt` | +| 4: лимиты, таймауты, потоковая обработка; эксперимент ≥10 загрузок с пиком памяти | `make bench` (proxy, C=10 и C=20, 9.5 MiB) | медиана max Δrss реплики 43 MiB при C=10 и 50 MiB при C=20 (≈95/190 MiB тел в полёте), абсолютный пик RSS ≤ 391 MiB при лимите 768 MiB; граница по конфигурации ≈422 MiB сверх базового RSS; худший декод 40 млн px — 131 MiB — см. «Эксперименты» | `summary.md`, `bench/*.json`, `decode-memory.txt` | | 4: идемпотентный bootstrap; отдельные ограниченные credentials; консоль закрыта; private bucket вне API | `docker compose run s3-init` дважды; `make s3-security` | повтор → `bootstrap ok`; анонимные GET/list/PUT → 403; API-credentials не создают bucket, не вызывают admin, не пишут вне `attachments/`, читают `attachments/*`; порт 9001 не опубликован и не отвечает | `bootstrap-rerun.txt`, `s3-security.txt` | -| 5 / трек 1: presigned flow (короткая подпись, уникальный ключ, принадлежность, размер/checksum на complete, незавершённые) | `direct-upload.e2e-spec.ts`; спайк подписи | init → PUT мимо API → complete → metadata/content → сообщение; чужой/посторонний complete → 404; подмена байта → S3 400, затем complete 409; JPEG под видом PNG → 415, затем 404; pixel bomb → 413; 11-я заявка → 429 + `Retry-After` | `make-test-e2e.txt`, `presign-spike.txt` | +| 5 / трек 1: presigned flow (короткая подпись, уникальный ключ, принадлежность, размер/checksum на complete, незавершённые) | `direct-upload.e2e-spec.ts`; спайк подписи | init → PUT мимо API → complete → metadata/content → сообщение; чужой/посторонний complete → 404; усечённый PNG и PNG, повреждённый после первых 64 KiB (оба с верным checksum) → 415, затем 404; подмена байта → S3 400, затем complete 409; JPEG под видом PNG → 415, затем 404; pixel bomb → 413; 11-я заявка → 429 + `Retry-After` | `make-test-e2e.txt`, `presign-spike.txt` | | 5 / трек 1: истёкший URL и уборка | `E2E_DIRECT_TTL_SHORT=1` на стенде с TTL 5 с | PUT после `expires_at` → 403, строка убрана уборщиком, complete → 404 | `direct-ttl-short.txt` | | 5 / трек 1: сравнение трафика и RAM API на ≥2 размерах | `make bench` (0.125, 1, 9.5 MiB) | см. таблицу ниже | `summary.md`, `bench/*.json` | @@ -189,48 +216,55 @@ ATTACHMENT_SWEEP_INTERVAL_MS=1000 docker compose --env-file .env up -d --no-deps **Методика.** Хост: 8 логических CPU, 16 GiB RAM, один Docker-хост. Лимиты: API 1.5 CPU / 768 MiB на реплику (2 реплики), MinIO 1 CPU / 512 MiB, PG 1.5 CPU / 512 MiB. Версии — см. «Запуск». Нагрузка: `scripts/lab4/attachments_bench.py`, closed-loop: C потоков × 5 загрузок несжимаемых PNG -(`noise_png`, разные seed), R = 3 повтора; один прогрев на конфигурацию (2 × число реплик загрузок, +(`noise_png`, разные seed — несжимаемые, поэтому декод не дешевле реальных фото), R = 3 повтора; один прогрев на конфигурацию (2 × число реплик загрузок, не измеряется), перед каждым повтором — `POST /internal/metrics/reset` на каждой реплике. Трафик API — дельта `eth0` rx/tx из `/proc/net/dev` контейнера; RAM — пик `process.memoryUsage().rss` с шагом 50 мс минус RSS в момент reset (Δrss); в таблицу идёт медиана по повторам, для Δrss — максимум по репликам. Команда: `make bench` (`scripts/lab4/run_matrix.sh`); raw — `evidence/lab4/bench/*.json` (без токенов и URL). -**H1 (уровень 4).** Потоковый proxy держит рост пикового RSS реплики ограниченным и почти независимым -от размера файла: Δrss при 10 × 9.5 MiB много меньше суммарного объёма тел в полёте. +**H1 (уровень 4).** Память реплики при ≥ 10 параллельных загрузках ограничена сверху конфигурацией +(`UPLOAD_MAX_IN_FLIGHT × 10 MiB + IMAGE_DECODE_MAX_CONCURRENT × ≈131 MiB` ≈ 422 MiB) и не зависит от +числа клиентов сверх этого лимита. Исходная формулировка («Δrss почти не зависит от размера файла») для +текущей версии неверна по построению: ради полного декода API держит копию тела. -**H2 (трек 1).** Прямая загрузка снижает трафик API на загрузку с ≈2 × size (вход от клиента + выход в -S3) до малой величины, не зависящей от размера, и не растит RSS; латентность малых файлов у direct -выше из-за трёх round trip. +**H2 (трек 1).** Прямая загрузка снимает с API передачу байтов в S3 (tx) и не требует держать соединение +клиента на время заливки; входящий трафик API она не снижает, потому что `complete` читает объект +целиком для проверки; латентность direct выше из-за трёх round trip и повторного чтения. -Результаты (`evidence/lab4/summary.md`; 150 загрузок на строку при C=10, 300 при C=20; ошибок 0): +Результаты (`evidence/lab4/summary.md`, коммит `4badd5a`; 150 загрузок на строку при C=10, 300 при +C=20; ошибок 0): | mode | size, MiB | C | API rx/upload, MiB | API tx/upload, MiB | max Δrss, MiB | p50, ms | p95, ms | | --- | --- | --- | --- | --- | --- | --- | --- | -| direct | 0.12 | 10 | 0.07 | 0.01 | 0.40 | 45 | 65 | -| proxy | 0.12 | 10 | 0.13 | 0.13 | 3.78 | 32 | 62 | -| direct | 1.00 | 10 | 0.07 | 0.01 | 0.75 | 75 | 137 | -| proxy | 1.00 | 10 | 1.01 | 1.01 | 4.38 | 59 | 110 | -| direct | 9.50 | 10 | 0.07 | 0.01 | 0.88 | 346 | 571 | -| proxy | 9.50 | 10 | 9.52 | 9.53 | 15.70 | 239 | 394 | -| proxy | 9.50 | 20 | 9.53 | 9.53 | 16.46 | 409 | 812 | +| direct | 0.12 | 10 | 0.13 | 0.01 | 5.25 | 72 | 120 | +| proxy | 0.12 | 10 | 0.13 | 0.13 | 3.00 | 57 | 87 | +| direct | 1.00 | 10 | 1.01 | 0.01 | 1.38 | 154 | 252 | +| proxy | 1.00 | 10 | 1.01 | 1.01 | 2.00 | 132 | 183 | +| direct | 9.50 | 10 | 9.52 | 0.01 | 83.62 | 755 | 1018 | +| proxy | 9.50 | 10 | 9.52 | 9.53 | 42.94 | 642 | 889 | +| proxy | 9.50 | 20 | 9.53 | 9.53 | 49.98 | 1336 | 1743 | Выводы: -- **H1 подтверждена с оговоркой.** При C=10 и 9.5 MiB пик Δrss — 15.7 MiB (по повторам 14.5–18.1) при - ≈95 MiB тел в полёте; при C=20 — 16.5 MiB (12.1–21.0) при ≈190 MiB: удвоение concurrency в пределах - шума не изменило пик. Память не пропорциональна размеру файла (размер ×76: 0.12 → 9.5 MiB дал Δrss - 3.78 → 15.7 MiB, ×4.2), но и не постоянна: растёт с размером (буферы сокетов, чанки в полёте, - аллокатор), оставаясь на порядок меньше тел в полёте. Δrss — шумная величина (между повторами одной - конфигурации 1.9–6.3 MiB для proxy 0.12/1 MiB), поэтому разница между C=10 и C=20 не интерпретируется. -- **H2 подтверждена.** Для proxy tx ≈ rx ≈ size (≈2 × size суммарно: вход от клиента и выход в S3). - Для direct при любом из трёх размеров API видит ≈0.07 MiB rx (первый диапазон 64 KiB + служебные - запросы) и ≈0.01 MiB tx, Δrss ≤ 0.9 MiB. Для размера 0.12 MiB выигрыш по rx вдвое (0.13 → 0.07), - по tx — на порядок. Латентность direct выше (p50 45 против 32 мс, 75 против 59 мс — три запроса - вместо одного) и на 9.5 MiB (346 против 239 мс): клиент заливает через loopback в MinIO с лимитом - 1 CPU, а не через API; причина прироста в эксперименте не выяснялась и остаётся гипотезой (вероятно, - проверка подписи и checksum в MinIO). Первая версия `complete` читала диапазон до 1 MiB и - останавливалась по заголовку: сокет к этому моменту уже вычитывал 110–176 KB (read-ahead), а для файлов - ≤ 1 MiB объект читался целиком (rx = size). Это нашло ревью; диапазон 64 KiB убрал оба эффекта. +- **H1 подтверждена.** Рост памяти сверх базового RSS процесса (≈240–255 MiB после прогрева, включая + загруженный libvips): Δrss 26–57 MiB по повторам при proxy 9.5 MiB C=10 (медиана 43) и 28–121 MiB при + C=20 (медиана 50) — ниже границы ≈422 MiB и намного меньше ≈95/190 MiB тел в полёте на весь стенд. + Абсолютный пик RSS реплики — 311–391 MiB при лимите контейнера 768 MiB. Рост от размера файла есть + (0.12 и 1 MiB — 0.5–6 MiB, 9.5 MiB — десятки MiB): это копия тела для декода и сам декод (≈155 мс на + файл 9.5 MiB, счётчик `attachments.decode.ms`). Худший допустимый декод (40 млн пикселей) — ≈131 MiB, + измерен отдельно (`decode-memory.txt`) и в бенчмарк не входил. Δrss шумная (у одной конфигурации + разброс до 4×), поэтому разница между C=10 и C=20 не интерпретируется. +- **H2 подтверждена в новой формулировке.** API tx у direct ≈0.01 MiB против size у proxy (≈1000× для + 9.5 MiB); API rx одинаков (≈size), потому что `complete` читает объект целиком. Ранняя версия, читавшая + только начало объекта, давала rx ≈0.07 MiB, но принимала повреждённые изображения — этот выигрыш был + ценой корректности и отозван. Δrss у direct 9.5 MiB выше, чем у proxy (84 против 43 MiB): объект + читается из S3 быстрее, чем приходит от клиента, и больше копий одновременно ждут декода. Латентность + direct выше на всех размерах (p50 72/154/755 против 57/132/642 мс): три запроса и повторное чтение + объекта. Выигрыш direct в этой реализации — только снятие с API исходящего трафика в S3 и времени + заливки клиентом; для полного выигрыша по rx проверку нужно вынести с API (асинхронный воркер рядом + с хранилищем) — это следующий шаг, не реализован. +- Сравнение с предыдущими прогонами (без полного декода, коммит `830e581`): p50 proxy 9.5 MiB C=10 вырос + с 239 до 642 мс, медиана Δrss — с 15.7 до 42.9 MiB. Это цена закрытия дыры в валидации. **Ограничения измерений.** Один Docker-хост: клиент, LB, API и MinIO делят 8 CPU, без реальной сети; `/proc/net/dev` реплики включает трафик PG/Redis и служебные запросы метрик (≈7–8 KiB на загрузку, @@ -243,8 +277,9 @@ S3) до малой величины, не зависящей от размер | Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных | | --- | --- | --- | --- | -| S3 остановлен (`compose stop s3`) | вложения → bounded 503; текст, история, метаданные, `/health/ready` работают | upload → 503 `unavailable` без утечки деталей; метаданные 200; content 503; текстовое сообщение 201; readiness 200; одна `pending`-строка неудачной загрузки | после `start s3` и healthy download старого файла 200 с теми же байтами, новый upload 201; `pending` убрана sweep; потерь нет | -| PostgreSQL остановлен между S3 PUT и `ready` | 503; объект не должен остаться | ответ 503; объект в S3 компенсирован (`mc stat` — нет), `pending`-строка осталась (БД недоступна) | после старта PG и `waitForReadiness`; строка убрана sweep после `expires_at`; `orphans: 0` | +| S3 остановлен (`compose stop s3`) | вложения → bounded 503; текст, история, метаданные, `/health/ready` работают | upload → 503 `unavailable` без утечки деталей; метаданные 200; content 503; текстовое сообщение 201; readiness 200; строка неудачной загрузки в `deleting` (захвачена, удаление объекта не прошло) | после `start s3` и healthy download старого файла 200 с теми же байтами, новый upload 201; строка перезахвачена и убрана sweep через минуту; потерь нет | +| PostgreSQL остановлен между S3 PUT и `ready` | 503; API не знает, прошёл ли COMMIT, — ничего не удаляет; объект учтён строкой | ответ 503; после старта PG строка `pending`, объект на месте (`mc stat` — есть); после `expires_at` sweep удалил объект и строку | уборка через `expires_at` + grace; `orphans: 0`, `missing: 0` | +| COMMIT `ready` прошёл, ответ PostgreSQL потерян | объект не удаляется, клиент получает 201 | unit `attachments.service.spec.ts`: захват строки не срабатывает, `delete` не вызывается, ответ 201 `ready` | потерь нет (в стенде не воспроизводится без прокси, разрывающего соединение после COMMIT) | | Обрыв клиента посреди загрузки (512 KiB из 2 MiB) | не остаётся ни строки, ни объекта | PUT прерывается (`S3 put failed: AbortError` в логе API, в evidence не сохранён) без ожидания тайм-аута, компенсация, строк в чате 0 | ≤10 с (предел ожидания теста; точное время не измерялось) | | Остановка обслужившей реплики | другая реплика отдаёт тот же файл | download 200, тот же sha256, другой `X-Instance-Id` для api-1 и api-2 | ≈3.3 с до первого успешного запроса, 0 неуспешных записей из 134–140 | | Restart стенда (`scripts/restart.sh`) | метаданные и оригиналы сохраняются, сессия жива | persistence PASS; `StartedAt` всех сервисов изменился | потерь нет (время до готовности отдельно не измерялось) | @@ -256,28 +291,31 @@ S3) до малой величины, не зависящей от размер - **MinIO:** закреплён образ `RELEASE.2025-09-07T16-13-09Z`; по данным, использованным при планировании, репозиторий `minio/minio` архивирован — новых образов и исправлений не будет *(в этой сессии не перепроверялось)*. Для продакшена потребуется замена (SeaweedFS/RustFS) или форк. -- **Прямой путь не проверяет структуру хвоста файла** при size > 64 KiB: только заголовок (первые 64 KiB, при необходимости до 1 MiB) и - подписанный SHA-256/размер. Байты гарантированно те, что заявил клиент, но заявил он их сам; - усечённый или «склеенный» файл с корректным заголовком пройдёт `complete`. В proxy-режиме проверяется - весь поток (CRC чанков PNG, EOI JPEG). Для size ≤ 64 KiB direct проверяет всё, ценой входящего - трафика API. +- **Полная проверка изображения стоит памяти и времени:** копия тела (≤ 10 MiB) на загрузку и декод + через libvips (нативная зависимость sharp, ≈131 MiB на худший вход). `failOn: 'warning'` строже + браузеров: файл с предупреждением libjpeg/libpng будет отвергнут (на 300 изображениях с хоста ложных + отказов не было, но выборка не репрезентативна для фото с камер). Проверяются декодируемость и + целостность, а не «безопасность для всех декодеров» — перекодирование в чистый формат не делается. +- **Direct не экономит входящий трафик API** (см. H2); это следствие проверки на API. Следующий шаг — + асинхронная проверка воркером рядом с хранилищем (`status: processing`), что требует расширения + контракта. - **Гонка лимита заявок:** `countPendingDirect` и `insertPending` не атомарны — параллельные `init` одного пользователя могут превысить лимит на число параллельных запросов; для лабораторной принято. - **Загрузка, не доставленная до `ready`, видна уборщику только через grace (по умолчанию 15 мин):** до этого объект занимает место; для быстрой очистки в тестах grace уменьшается переменной окружения. -- **Недоступность S3 при `compensate`** оставляет объект, если сам `DeleteObject` не прошёл; его - убирает уборщик по строке. Объект без строки (например, строку удалили вручную) обнаружит только - `make consistency` — автоматического reconciler'а для orphan-объектов нет (это трек 2). -- **Порядок компенсации proxy:** сначала удаляется объект, затем строка. Если `markReady` на самом деле - зафиксирован, а клиент БД увидел обрыв соединения, объект будет удалён у строки `ready` (потеря данных; - `object_missing` → 500 на download). Обратный порядок противоречил бы требованию «объекта не должно - остаться при отказе PG»; окно — доли секунды между commit и обрывом, принято как ограничение. +- **Компенсация при недоступной БД ничего не удаляет:** объект остаётся до уборки + (`expires_at` + 900 с grace) — сознательный выбор: без БД нельзя отличить «COMMIT не прошёл» от «ответ + потерян», а удаление в втором случае теряет оригинал. Объект без строки (например, строку удалили + вручную) обнаружит только `make consistency` — автоматического reconciler'а нет (это трек 2). +- **Потерянный COMMIT проверен только unit-тестом** с моком репозитория: стенд не умеет разорвать + соединение PostgreSQL ровно после COMMIT (для этого нужен прокси вроде toxiproxy). - **Таймаут загрузки** уничтожает тело (и сокет) — клиент может получить обрыв соединения вместо ожидаемого 400 «Upload was interrupted»; строка и объект при этом компенсируются. - **TLS нет** до lab7: presigned URL и токены ходят по HTTP; консоль MinIO отключена полностью, поэтому администрирование — только через `mc` из контейнера. - **Не реализовано:** варианты вложений (`variants` всегда `[]`; `variant=thumbnail|crop|optimized` → 404), delete-API вложений, WebP. -- **Подтверждено измерением:** потоковый proxy ограничивает память, direct уменьшает tx и rx API для - любого из проверенных размеров. **Остаётся гипотезой:** причина роста латентности direct на 9.5 MiB; зависимость Δrss от - concurrency за пределами C=20. +- **Подтверждено измерением:** память реплики ограничена конфигурацией и в эксперименте далеко от + лимита; direct снимает с API исходящий трафик в S3. **Опровергнуто для текущей версии:** снижение + входящего трафика API прямой загрузкой. **Остаётся гипотезой:** поведение памяти при C ≫ 20 (упор в + `UPLOAD_MAX_IN_FLIGHT`, 429) и на реальных фото, а не на шуме. diff --git a/evidence/lab4/bench/direct-1048576-c10.json b/evidence/lab4/bench/direct-1048576-c10.json index 3ea6569..641fc4b 100644 --- a/evidence/lab4/bench/direct-1048576-c10.json +++ b/evidence/lab4/bench/direct-1048576-c10.json @@ -1,6 +1,6 @@ { - "date": "2026-10-23T13:32:53+00:00", - "git": "b32ce9a", + "date": "2026-10-23T13:37:36+00:00", + "git": "4badd5a", "params": { "mode": "direct", "size_bytes": 1048576, @@ -21,193 +21,194 @@ "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 0.939, + "duration_s": 0.97, "latency_ms": { - "p50": 168.0, - "p95": 249.0, - "p99": 276.8 + "p50": 159.8, + "p95": 252.1, + "p99": 272.0 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 32727785, - "delta_tx_bytes": 202005, - "baseline_rss_bytes": 227401728, + "delta_rx_bytes": 31673930, + "delta_tx_bytes": 203789, + "baseline_rss_bytes": 233545728, "peak_memory_bytes": { - "rss": 237686784, - "heap_used": 55834912, - "external": 36616919, - "array_buffers": 32826575 + "rss": 236560384, + "heap_used": 54194600, + "external": 35034666, + "array_buffers": 31244322 }, - "delta_rss_bytes": 10285056, + "delta_rss_bytes": 3014656, "counters": { - "attachments.count_pending_direct": 19, - "attachments.insert_pending": 19, - "attachments.direct.initiated": 19, - "attachments.find_for_complete": 31, - "attachments.direct.verify_bytes": 32505856, - "attachments.decode.ms": 1715.4081129999686, - "attachments.mark_ready": 31, - "attachments.direct.completed": 31 + "attachments.count_pending_direct": 20, + "attachments.insert_pending": 20, + "attachments.direct.initiated": 20, + "attachments.find_for_complete": 30, + "attachments.direct.verify_bytes": 31457280, + "attachments.decode.ms": 1724.6966849999153, + "attachments.mark_ready": 30, + "attachments.direct.completed": 30 } }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 20096072, - "delta_tx_bytes": 188541, - "baseline_rss_bytes": 215158784, + "delta_rx_bytes": 21149099, + "delta_tx_bytes": 198366, + "baseline_rss_bytes": 268025856, "peak_memory_bytes": { - "rss": 219668480, - "heap_used": 53068512, - "external": 26447857, - "array_buffers": 22657513 + "rss": 269074432, + "heap_used": 54788360, + "external": 25616254, + "array_buffers": 21825910 }, - "delta_rss_bytes": 4509696, + "delta_rss_bytes": 1048576, "counters": { - "attachments.count_pending_direct": 31, - "attachments.insert_pending": 31, - "attachments.direct.initiated": 31, - "attachments.find_for_complete": 19, - "attachments.direct.verify_bytes": 19922944, - "attachments.decode.ms": 711.329723999952, - "attachments.mark_ready": 19, - "attachments.direct.completed": 19 + "attachments.count_pending_direct": 30, + "attachments.insert_pending": 30, + "attachments.direct.initiated": 30, + "attachments.find_for_complete": 20, + "attachments.direct.verify_bytes": 20971520, + "attachments.decode.ms": 688.2958910000743, + "attachments.mark_ready": 20, + "attachments.direct.completed": 20 } } ], - "total_delta_rx_bytes": 52823857, - "total_delta_tx_bytes": 390546, - "rx_bytes_per_upload": 1056477, - "tx_bytes_per_upload": 7811, - "max_delta_rss_bytes": 10285056 + "total_delta_rx_bytes": 52823029, + "total_delta_tx_bytes": 402155, + "rx_bytes_per_upload": 1056461, + "tx_bytes_per_upload": 8043, + "max_delta_rss_bytes": 3014656 }, { "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 0.91, + "duration_s": 0.9, "latency_ms": { - "p50": 151.5, - "p95": 258.3, - "p99": 269.0 + "p50": 141.1, + "p95": 244.2, + "p99": 270.7 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 27461632, - "delta_tx_bytes": 190483, - "baseline_rss_bytes": 235499520, + "delta_rx_bytes": 27465799, + "delta_tx_bytes": 191310, + "baseline_rss_bytes": 236560384, "peak_memory_bytes": { - "rss": 235499520, - "heap_used": 55890664, - "external": 36465919, - "array_buffers": 32675575 + "rss": 236953600, + "heap_used": 54493200, + "external": 30789946, + "array_buffers": 26999410 + }, + "delta_rss_bytes": 393216, + "counters": { + "attachments.count_pending_direct": 24, + "attachments.insert_pending": 24, + "attachments.direct.initiated": 24, + "attachments.find_for_complete": 26, + "attachments.direct.verify_bytes": 27262976, + "attachments.decode.ms": 1384.4109410000383, + "attachments.mark_ready": 26, + "attachments.direct.completed": 26 + } + }, + { + "instance_id": "ff9a363e52b1", + "delta_rx_bytes": 25357866, + "delta_tx_bytes": 191558, + "baseline_rss_bytes": 269074432, + "peak_memory_bytes": { + "rss": 270516224, + "heap_used": 54339648, + "external": 30902899, + "array_buffers": 27112555 + }, + "delta_rss_bytes": 1441792, + "counters": { + "attachments.count_pending_direct": 26, + "attachments.insert_pending": 26, + "attachments.direct.initiated": 26, + "attachments.find_for_complete": 24, + "attachments.direct.verify_bytes": 25165824, + "attachments.decode.ms": 1058.1902670000563, + "attachments.mark_ready": 24, + "attachments.direct.completed": 24 + } + } + ], + "total_delta_rx_bytes": 52823665, + "total_delta_tx_bytes": 382868, + "rx_bytes_per_upload": 1056473, + "tx_bytes_per_upload": 7657, + "max_delta_rss_bytes": 1441792 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.969, + "latency_ms": { + "p50": 154.4, + "p95": 274.5, + "p99": 328.1 + }, + "replicas": [ + { + "instance_id": "7c7cf67931e5", + "delta_rx_bytes": 24307994, + "delta_tx_bytes": 188454, + "baseline_rss_bytes": 236953600, + "peak_memory_bytes": { + "rss": 236953600, + "heap_used": 53822176, + "external": 29735853, + "array_buffers": 25943144 }, "delta_rss_bytes": 0, "counters": { - "attachments.count_pending_direct": 24, - "attachments.insert_pending": 24, - "attachments.direct.initiated": 24, - "attachments.find_for_complete": 26, - "attachments.direct.verify_bytes": 27262976, - "attachments.decode.ms": 1528.2079319999611, - "attachments.mark_ready": 26, - "attachments.direct.completed": 26 + "attachments.count_pending_direct": 27, + "attachments.insert_pending": 27, + "attachments.direct.initiated": 27, + "attachments.find_for_complete": 23, + "attachments.direct.verify_bytes": 24117248, + "attachments.decode.ms": 1452.813747000182, + "attachments.mark_ready": 23, + "attachments.direct.completed": 23 } }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 25359054, - "delta_tx_bytes": 191385, - "baseline_rss_bytes": 209186816, + "delta_rx_bytes": 28514629, + "delta_tx_bytes": 189117, + "baseline_rss_bytes": 270516224, "peak_memory_bytes": { - "rss": 224399360, - "heap_used": 55409152, - "external": 31990072, - "array_buffers": 25029140 + "rss": 271433728, + "heap_used": 54290488, + "external": 34042295, + "array_buffers": 30251951 }, - "delta_rss_bytes": 15212544, + "delta_rss_bytes": 917504, "counters": { - "attachments.count_pending_direct": 26, - "attachments.insert_pending": 26, - "attachments.direct.initiated": 26, - "attachments.find_for_complete": 24, - "attachments.direct.verify_bytes": 25165824, - "attachments.decode.ms": 1024.5066690000385, - "attachments.mark_ready": 24, - "attachments.direct.completed": 24 + "attachments.claim_expired": 1, + "attachments.count_pending_direct": 23, + "attachments.insert_pending": 23, + "attachments.direct.initiated": 23, + "attachments.find_for_complete": 27, + "attachments.direct.verify_bytes": 28311552, + "attachments.decode.ms": 1425.6747240000404, + "attachments.mark_ready": 27, + "attachments.direct.completed": 27 } } ], - "total_delta_rx_bytes": 52820686, - "total_delta_tx_bytes": 381868, - "rx_bytes_per_upload": 1056414, - "tx_bytes_per_upload": 7637, - "max_delta_rss_bytes": 15212544 - }, - { - "uploads": 50, - "succeeded": 50, - "failed": 0, - "duration_s": 0.936, - "latency_ms": { - "p50": 164.5, - "p95": 215.8, - "p99": 221.0 - }, - "replicas": [ - { - "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 27463159, - "delta_tx_bytes": 187686, - "baseline_rss_bytes": 226234368, - "peak_memory_bytes": { - "rss": 231608320, - "heap_used": 55751432, - "external": 34449311, - "array_buffers": 30658967 - }, - "delta_rss_bytes": 5373952, - "counters": { - "attachments.count_pending_direct": 24, - "attachments.insert_pending": 24, - "attachments.direct.initiated": 24, - "attachments.find_for_complete": 26, - "attachments.direct.verify_bytes": 27262976, - "attachments.decode.ms": 975.2134359999909, - "attachments.mark_ready": 26, - "attachments.direct.completed": 26 - } - }, - { - "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 25357194, - "delta_tx_bytes": 186994, - "baseline_rss_bytes": 223174656, - "peak_memory_bytes": { - "rss": 225120256, - "heap_used": 53461888, - "external": 29769942, - "array_buffers": 25979406 - }, - "delta_rss_bytes": 1945600, - "counters": { - "attachments.count_pending_direct": 26, - "attachments.insert_pending": 26, - "attachments.direct.initiated": 26, - "attachments.find_for_complete": 24, - "attachments.direct.verify_bytes": 25165824, - "attachments.decode.ms": 805.6966420000099, - "attachments.mark_ready": 24, - "attachments.direct.completed": 24 - } - } - ], - "total_delta_rx_bytes": 52820353, - "total_delta_tx_bytes": 374680, - "rx_bytes_per_upload": 1056407, - "tx_bytes_per_upload": 7494, - "max_delta_rss_bytes": 5373952 + "total_delta_rx_bytes": 52822623, + "total_delta_tx_bytes": 377571, + "rx_bytes_per_upload": 1056452, + "tx_bytes_per_upload": 7551, + "max_delta_rss_bytes": 917504 } ] } diff --git a/evidence/lab4/bench/direct-131072-c10.json b/evidence/lab4/bench/direct-131072-c10.json index 5563c6b..896afa4 100644 --- a/evidence/lab4/bench/direct-131072-c10.json +++ b/evidence/lab4/bench/direct-131072-c10.json @@ -1,6 +1,6 @@ { - "date": "2026-10-23T13:32:40+00:00", - "git": "b32ce9a", + "date": "2026-10-23T13:37:23+00:00", + "git": "4badd5a", "params": { "mode": "direct", "size_bytes": 131072, @@ -21,193 +21,193 @@ "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 0.421, + "duration_s": 0.413, "latency_ms": { - "p50": 68.3, - "p95": 104.0, - "p99": 117.0 + "p50": 72.1, + "p95": 114.3, + "p99": 142.9 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 3707052, - "delta_tx_bytes": 186917, - "baseline_rss_bytes": 193892352, + "delta_rx_bytes": 3172654, + "delta_tx_bytes": 183439, + "baseline_rss_bytes": 224358400, "peak_memory_bytes": { - "rss": 195555328, - "heap_used": 52983040, - "external": 6914994, - "array_buffers": 3122532 + "rss": 224620544, + "heap_used": 49708416, + "external": 6066500, + "array_buffers": 2276156 }, - "delta_rss_bytes": 1662976, - "counters": { - "attachments.count_pending_direct": 23, - "attachments.insert_pending": 23, - "attachments.direct.initiated": 23, - "attachments.find_for_complete": 27, - "attachments.direct.verify_bytes": 3538944, - "attachments.decode.ms": 666.184485999991, - "attachments.mark_ready": 27, - "attachments.direct.completed": 27 - } - }, - { - "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 3172669, - "delta_tx_bytes": 183467, - "baseline_rss_bytes": 194297856, - "peak_memory_bytes": { - "rss": 196395008, - "heap_used": 53364080, - "external": 9480998, - "array_buffers": 5688536 - }, - "delta_rss_bytes": 2097152, + "delta_rss_bytes": 262144, "counters": { "attachments.count_pending_direct": 27, "attachments.insert_pending": 27, "attachments.direct.initiated": 27, "attachments.find_for_complete": 23, "attachments.direct.verify_bytes": 3014656, - "attachments.decode.ms": 578.859613999979, + "attachments.decode.ms": 395.56102700001793, "attachments.mark_ready": 23, "attachments.direct.completed": 23 } + }, + { + "instance_id": "ff9a363e52b1", + "delta_rx_bytes": 3707235, + "delta_tx_bytes": 187659, + "baseline_rss_bytes": 255918080, + "peak_memory_bytes": { + "rss": 257359872, + "heap_used": 50212920, + "external": 8800241, + "array_buffers": 5009897 + }, + "delta_rss_bytes": 1441792, + "counters": { + "attachments.count_pending_direct": 23, + "attachments.insert_pending": 23, + "attachments.direct.initiated": 23, + "attachments.find_for_complete": 27, + "attachments.direct.verify_bytes": 3538944, + "attachments.decode.ms": 743.5491730003268, + "attachments.mark_ready": 27, + "attachments.direct.completed": 27 + } } ], - "total_delta_rx_bytes": 6879721, - "total_delta_tx_bytes": 370384, - "rx_bytes_per_upload": 137594, - "tx_bytes_per_upload": 7408, - "max_delta_rss_bytes": 2097152 + "total_delta_rx_bytes": 6879889, + "total_delta_tx_bytes": 371098, + "rx_bytes_per_upload": 137598, + "tx_bytes_per_upload": 7422, + "max_delta_rss_bytes": 1441792 }, { "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 0.419, + "duration_s": 0.434, "latency_ms": { - "p50": 78.9, - "p95": 123.4, - "p99": 144.3 + "p50": 82.0, + "p95": 119.6, + "p99": 136.5 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 3172151, - "delta_tx_bytes": 182160, - "baseline_rss_bytes": 195555328, + "delta_rx_bytes": 3572309, + "delta_tx_bytes": 186069, + "baseline_rss_bytes": 224620544, "peak_memory_bytes": { - "rss": 195686400, - "heap_used": 55040192, - "external": 7674854, - "array_buffers": 3882392 + "rss": 224751616, + "heap_used": 49977872, + "external": 6204496, + "array_buffers": 2414152 }, "delta_rss_bytes": 131072, - "counters": { - "attachments.count_pending_direct": 27, - "attachments.insert_pending": 27, - "attachments.direct.initiated": 27, - "attachments.find_for_complete": 23, - "attachments.direct.verify_bytes": 3014656, - "attachments.decode.ms": 521.6287550000125, - "attachments.mark_ready": 23, - "attachments.direct.completed": 23 - } - }, - { - "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 3706567, - "delta_tx_bytes": 185794, - "baseline_rss_bytes": 196395008, - "peak_memory_bytes": { - "rss": 196788224, - "heap_used": 53658784, - "external": 10141571, - "array_buffers": 6134972 - }, - "delta_rss_bytes": 393216, - "counters": { - "attachments.count_pending_direct": 23, - "attachments.insert_pending": 23, - "attachments.direct.initiated": 23, - "attachments.find_for_complete": 27, - "attachments.direct.verify_bytes": 3538944, - "attachments.decode.ms": 674.9609369999744, - "attachments.mark_ready": 27, - "attachments.direct.completed": 27 - } - } - ], - "total_delta_rx_bytes": 6878718, - "total_delta_tx_bytes": 367954, - "rx_bytes_per_upload": 137574, - "tx_bytes_per_upload": 7359, - "max_delta_rss_bytes": 393216 - }, - { - "uploads": 50, - "succeeded": 50, - "failed": 0, - "duration_s": 0.395, - "latency_ms": { - "p50": 67.0, - "p95": 95.3, - "p99": 116.5 - }, - "replicas": [ - { - "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 3305839, - "delta_tx_bytes": 183731, - "baseline_rss_bytes": 191291392, - "peak_memory_bytes": { - "rss": 192471040, - "heap_used": 56329664, - "external": 7513663, - "array_buffers": 3721201 - }, - "delta_rss_bytes": 1179648, - "counters": { - "attachments.count_pending_direct": 26, - "attachments.insert_pending": 26, - "attachments.direct.initiated": 26, - "attachments.find_for_complete": 24, - "attachments.direct.verify_bytes": 3145728, - "attachments.decode.ms": 499.52755800001614, - "attachments.mark_ready": 24, - "attachments.direct.completed": 24 - } - }, - { - "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 3572208, - "delta_tx_bytes": 183605, - "baseline_rss_bytes": 196788224, - "peak_memory_bytes": { - "rss": 197181440, - "heap_used": 55084856, - "external": 7691196, - "array_buffers": 3898734 - }, - "delta_rss_bytes": 393216, "counters": { "attachments.count_pending_direct": 24, "attachments.insert_pending": 24, "attachments.direct.initiated": 24, "attachments.find_for_complete": 26, "attachments.direct.verify_bytes": 3407872, - "attachments.decode.ms": 667.7248300000065, + "attachments.decode.ms": 610.345750999928, "attachments.mark_ready": 26, "attachments.direct.completed": 26 } + }, + { + "instance_id": "ff9a363e52b1", + "delta_rx_bytes": 3306233, + "delta_tx_bytes": 183451, + "baseline_rss_bytes": 257359872, + "peak_memory_bytes": { + "rss": 262864896, + "heap_used": 53884096, + "external": 9284140, + "array_buffers": 5493796 + }, + "delta_rss_bytes": 5505024, + "counters": { + "attachments.count_pending_direct": 26, + "attachments.insert_pending": 26, + "attachments.direct.initiated": 26, + "attachments.find_for_complete": 24, + "attachments.direct.verify_bytes": 3145728, + "attachments.decode.ms": 675.0934380001272, + "attachments.mark_ready": 24, + "attachments.direct.completed": 24 + } } ], - "total_delta_rx_bytes": 6878047, - "total_delta_tx_bytes": 367336, - "rx_bytes_per_upload": 137561, + "total_delta_rx_bytes": 6878542, + "total_delta_tx_bytes": 369520, + "rx_bytes_per_upload": 137571, + "tx_bytes_per_upload": 7390, + "max_delta_rss_bytes": 5505024 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.457, + "latency_ms": { + "p50": 69.4, + "p95": 160.1, + "p99": 168.0 + }, + "replicas": [ + { + "instance_id": "7c7cf67931e5", + "delta_rx_bytes": 3973401, + "delta_tx_bytes": 186806, + "baseline_rss_bytes": 224751616, + "peak_memory_bytes": { + "rss": 231305216, + "heap_used": 52952680, + "external": 7971474, + "array_buffers": 4181130 + }, + "delta_rss_bytes": 6553600, + "counters": { + "attachments.count_pending_direct": 21, + "attachments.insert_pending": 21, + "attachments.direct.initiated": 21, + "attachments.find_for_complete": 29, + "attachments.direct.verify_bytes": 3801088, + "attachments.decode.ms": 828.3032130000065, + "attachments.mark_ready": 29, + "attachments.direct.completed": 29 + } + }, + { + "instance_id": "ff9a363e52b1", + "delta_rx_bytes": 2904621, + "delta_tx_bytes": 180542, + "baseline_rss_bytes": 262864896, + "peak_memory_bytes": { + "rss": 262995968, + "heap_used": 53715664, + "external": 7518119, + "array_buffers": 3727743 + }, + "delta_rss_bytes": 131072, + "counters": { + "attachments.count_pending_direct": 29, + "attachments.insert_pending": 29, + "attachments.direct.initiated": 29, + "attachments.find_for_complete": 21, + "attachments.direct.verify_bytes": 2752512, + "attachments.decode.ms": 312.0048850000021, + "attachments.mark_ready": 21, + "attachments.direct.completed": 21 + } + } + ], + "total_delta_rx_bytes": 6878022, + "total_delta_tx_bytes": 367348, + "rx_bytes_per_upload": 137560, "tx_bytes_per_upload": 7347, - "max_delta_rss_bytes": 1179648 + "max_delta_rss_bytes": 6553600 } ] } diff --git a/evidence/lab4/bench/direct-9961472-c10.json b/evidence/lab4/bench/direct-9961472-c10.json index fc84204..1aa8c09 100644 --- a/evidence/lab4/bench/direct-9961472-c10.json +++ b/evidence/lab4/bench/direct-9961472-c10.json @@ -1,6 +1,6 @@ { - "date": "2026-10-23T13:33:31+00:00", - "git": "b32ce9a", + "date": "2026-10-23T13:38:14+00:00", + "git": "4badd5a", "params": { "mode": "direct", "size_bytes": 9961472, @@ -21,193 +21,193 @@ "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 5.212, + "duration_s": 4.981, "latency_ms": { - "p50": 693.0, - "p95": 1084.0, - "p99": 1175.0 + "p50": 754.7, + "p95": 975.5, + "p99": 1146.0 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 269480509, - "delta_tx_bytes": 305993, - "baseline_rss_bytes": 283983872, + "delta_rx_bytes": 289415606, + "delta_tx_bytes": 315409, + "baseline_rss_bytes": 233209856, "peak_memory_bytes": { - "rss": 404570112, - "heap_used": 50680344, - "external": 123548186, - "array_buffers": 119757842 + "rss": 348733440, + "heap_used": 50095696, + "external": 115684307, + "array_buffers": 111893963 }, - "delta_rss_bytes": 120586240, + "delta_rss_bytes": 115523584, + "counters": { + "attachments.count_pending_direct": 21, + "attachments.insert_pending": 21, + "attachments.direct.initiated": 21, + "attachments.find_for_complete": 29, + "attachments.direct.verify_bytes": 288882688, + "attachments.decode.ms": 7608.848039000004, + "attachments.mark_ready": 29, + "attachments.direct.completed": 29 + } + }, + { + "instance_id": "ff9a363e52b1", + "delta_rx_bytes": 209597436, + "delta_tx_bytes": 298627, + "baseline_rss_bytes": 299487232, + "peak_memory_bytes": { + "rss": 330563584, + "heap_used": 51925192, + "external": 97861662, + "array_buffers": 94071318 + }, + "delta_rss_bytes": 31076352, + "counters": { + "attachments.count_pending_direct": 29, + "attachments.insert_pending": 29, + "attachments.direct.initiated": 29, + "attachments.find_for_complete": 21, + "attachments.direct.verify_bytes": 209190912, + "attachments.decode.ms": 5015.750637000019, + "attachments.mark_ready": 21, + "attachments.direct.completed": 21 + } + } + ], + "total_delta_rx_bytes": 499013042, + "total_delta_tx_bytes": 614036, + "rx_bytes_per_upload": 9980261, + "tx_bytes_per_upload": 12281, + "max_delta_rss_bytes": 115523584 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 5.254, + "latency_ms": { + "p50": 900.1, + "p95": 1222.8, + "p99": 1235.6 + }, + "replicas": [ + { + "instance_id": "7c7cf67931e5", + "delta_rx_bytes": 309427096, + "delta_tx_bytes": 332725, + "baseline_rss_bytes": 282836992, + "peak_memory_bytes": { + "rss": 370515968, + "heap_used": 52368944, + "external": 134179853, + "array_buffers": 130389509 + }, + "delta_rss_bytes": 87678976, + "counters": { + "attachments.count_pending_direct": 19, + "attachments.insert_pending": 19, + "attachments.direct.initiated": 19, + "attachments.find_for_complete": 31, + "attachments.direct.verify_bytes": 308805632, + "attachments.decode.ms": 8379.456620000012, + "attachments.mark_ready": 31, + "attachments.direct.completed": 31 + } + }, + { + "instance_id": "ff9a363e52b1", + "delta_rx_bytes": 189647218, + "delta_tx_bytes": 291721, + "baseline_rss_bytes": 286593024, + "peak_memory_bytes": { + "rss": 338497536, + "heap_used": 53161904, + "external": 107895361, + "array_buffers": 104105017 + }, + "delta_rss_bytes": 51904512, + "counters": { + "attachments.count_pending_direct": 31, + "attachments.insert_pending": 31, + "attachments.direct.initiated": 31, + "attachments.find_for_complete": 19, + "attachments.direct.verify_bytes": 189267968, + "attachments.decode.ms": 3974.233845000039, + "attachments.mark_ready": 19, + "attachments.direct.completed": 19 + } + } + ], + "total_delta_rx_bytes": 499074314, + "total_delta_tx_bytes": 624446, + "rx_bytes_per_upload": 9981486, + "tx_bytes_per_upload": 12489, + "max_delta_rss_bytes": 87678976 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 4.652, + "latency_ms": { + "p50": 692.0, + "p95": 1018.5, + "p99": 1133.8 + }, + "replicas": [ + { + "instance_id": "7c7cf67931e5", + "delta_rx_bytes": 269445871, + "delta_tx_bytes": 269717, + "baseline_rss_bytes": 340176896, + "peak_memory_bytes": { + "rss": 342388736, + "heap_used": 50625080, + "external": 119380564, + "array_buffers": 100369674 + }, + "delta_rss_bytes": 2211840, "counters": { "attachments.count_pending_direct": 23, "attachments.insert_pending": 23, "attachments.direct.initiated": 23, "attachments.find_for_complete": 27, "attachments.direct.verify_bytes": 268959744, - "attachments.decode.ms": 6438.860078999976, + "attachments.decode.ms": 7779.908828999905, "attachments.mark_ready": 27, "attachments.direct.completed": 27 } }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 229561819, - "delta_tx_bytes": 313227, - "baseline_rss_bytes": 328466432, + "delta_rx_bytes": 229550093, + "delta_tx_bytes": 268720, + "baseline_rss_bytes": 308649984, "peak_memory_bytes": { - "rss": 385613824, - "heap_used": 52894936, - "external": 114148298, - "array_buffers": 110357821 + "rss": 354787328, + "heap_used": 52204288, + "external": 121315649, + "array_buffers": 100267973 }, - "delta_rss_bytes": 57147392, + "delta_rss_bytes": 46137344, "counters": { "attachments.count_pending_direct": 27, "attachments.insert_pending": 27, "attachments.direct.initiated": 27, "attachments.find_for_complete": 23, "attachments.direct.verify_bytes": 229113856, - "attachments.decode.ms": 5666.515076999989, + "attachments.decode.ms": 6111.090034999943, "attachments.mark_ready": 23, "attachments.direct.completed": 23 } } ], - "total_delta_rx_bytes": 499042328, - "total_delta_tx_bytes": 619220, - "rx_bytes_per_upload": 9980847, - "tx_bytes_per_upload": 12384, - "max_delta_rss_bytes": 120586240 - }, - { - "uploads": 50, - "succeeded": 50, - "failed": 0, - "duration_s": 4.689, - "latency_ms": { - "p50": 668.9, - "p95": 1081.6, - "p99": 1164.9 - }, - "replicas": [ - { - "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 249519521, - "delta_tx_bytes": 283986, - "baseline_rss_bytes": 324087808, - "peak_memory_bytes": { - "rss": 408424448, - "heap_used": 51009296, - "external": 126698352, - "array_buffers": 122908008 - }, - "delta_rss_bytes": 84336640, - "counters": { - "attachments.count_pending_direct": 25, - "attachments.insert_pending": 25, - "attachments.direct.initiated": 25, - "attachments.find_for_complete": 25, - "attachments.direct.verify_bytes": 249036800, - "attachments.decode.ms": 6319.900557000001, - "attachments.mark_ready": 25, - "attachments.direct.completed": 25 - } - }, - { - "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 249503096, - "delta_tx_bytes": 276564, - "baseline_rss_bytes": 320462848, - "peak_memory_bytes": { - "rss": 388620288, - "heap_used": 50687792, - "external": 135613815, - "array_buffers": 131823471 - }, - "delta_rss_bytes": 68157440, - "counters": { - "attachments.count_pending_direct": 25, - "attachments.insert_pending": 25, - "attachments.direct.initiated": 25, - "attachments.find_for_complete": 25, - "attachments.direct.verify_bytes": 249036800, - "attachments.decode.ms": 6777.923052999977, - "attachments.mark_ready": 25, - "attachments.direct.completed": 25 - } - } - ], - "total_delta_rx_bytes": 499022617, - "total_delta_tx_bytes": 560550, - "rx_bytes_per_upload": 9980452, - "tx_bytes_per_upload": 11211, - "max_delta_rss_bytes": 84336640 - }, - { - "uploads": 50, - "succeeded": 50, - "failed": 0, - "duration_s": 4.773, - "latency_ms": { - "p50": 695.7, - "p95": 1021.4, - "p99": 1371.6 - }, - "replicas": [ - { - "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 269526599, - "delta_tx_bytes": 273432, - "baseline_rss_bytes": 303702016, - "peak_memory_bytes": { - "rss": 389439488, - "heap_used": 50333808, - "external": 124077219, - "array_buffers": 120286875 - }, - "delta_rss_bytes": 85737472, - "counters": { - "attachments.count_pending_direct": 23, - "attachments.insert_pending": 23, - "attachments.direct.initiated": 23, - "attachments.find_for_complete": 27, - "attachments.direct.verify_bytes": 268959744, - "attachments.decode.ms": 7513.258526999998, - "attachments.mark_ready": 27, - "attachments.direct.completed": 27 - } - }, - { - "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 229549332, - "delta_tx_bytes": 263832, - "baseline_rss_bytes": 367620096, - "peak_memory_bytes": { - "rss": 367620096, - "heap_used": 50715496, - "external": 84222677, - "array_buffers": 80432333 - }, - "delta_rss_bytes": 0, - "counters": { - "attachments.count_pending_direct": 27, - "attachments.insert_pending": 27, - "attachments.direct.initiated": 27, - "attachments.find_for_complete": 23, - "attachments.direct.verify_bytes": 229113856, - "attachments.decode.ms": 6132.513337000011, - "attachments.mark_ready": 23, - "attachments.direct.completed": 23 - } - } - ], - "total_delta_rx_bytes": 499075931, - "total_delta_tx_bytes": 537264, - "rx_bytes_per_upload": 9981519, - "tx_bytes_per_upload": 10745, - "max_delta_rss_bytes": 85737472 + "total_delta_rx_bytes": 498995964, + "total_delta_tx_bytes": 538437, + "rx_bytes_per_upload": 9979919, + "tx_bytes_per_upload": 10769, + "max_delta_rss_bytes": 46137344 } ] } diff --git a/evidence/lab4/bench/proxy-1048576-c10.json b/evidence/lab4/bench/proxy-1048576-c10.json index ea636ea..837c66c 100644 --- a/evidence/lab4/bench/proxy-1048576-c10.json +++ b/evidence/lab4/bench/proxy-1048576-c10.json @@ -1,6 +1,6 @@ { - "date": "2026-10-23T13:32:46+00:00", - "git": "b32ce9a", + "date": "2026-10-23T13:37:29+00:00", + "git": "4badd5a", "params": { "mode": "proxy", "size_bytes": 1048576, @@ -21,29 +21,29 @@ "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 0.854, + "duration_s": 0.885, "latency_ms": { - "p50": 142.8, - "p95": 192.1, - "p99": 208.3 + "p50": 156.2, + "p95": 207.1, + "p99": 235.1 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 26385133, - "delta_tx_bytes": 26401283, - "baseline_rss_bytes": 197070848, + "delta_rx_bytes": 26389500, + "delta_tx_bytes": 26402061, + "baseline_rss_bytes": 231522304, "peak_memory_bytes": { - "rss": 217759744, - "heap_used": 55062960, - "external": 22455454, - "array_buffers": 18665110 + "rss": 231522304, + "heap_used": 52773312, + "external": 23343330, + "array_buffers": 19552986 }, - "delta_rss_bytes": 20688896, + "delta_rss_bytes": 0, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 26214400, - "attachments.decode.ms": 1479.7760639999906, + "attachments.decode.ms": 1601.4592339998344, "attachments.proxy.bytes_to_s3": 26214400, "attachments.mark_ready": 25, "attachments.upload.created": 25 @@ -51,59 +51,59 @@ }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 26379459, - "delta_tx_bytes": 26398957, - "baseline_rss_bytes": 199708672, + "delta_rx_bytes": 26384219, + "delta_tx_bytes": 26403431, + "baseline_rss_bytes": 264105984, "peak_memory_bytes": { - "rss": 214302720, - "heap_used": 55570040, - "external": 24543846, - "array_buffers": 20174104 + "rss": 266989568, + "heap_used": 49942048, + "external": 24835619, + "array_buffers": 18813186 }, - "delta_rss_bytes": 14594048, + "delta_rss_bytes": 2883584, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 26214400, - "attachments.decode.ms": 1331.2164019999764, + "attachments.decode.ms": 1562.9852019998943, "attachments.proxy.bytes_to_s3": 26214400, "attachments.mark_ready": 25, "attachments.upload.created": 25 } } ], - "total_delta_rx_bytes": 52764592, - "total_delta_tx_bytes": 52800240, - "rx_bytes_per_upload": 1055292, - "tx_bytes_per_upload": 1056005, - "max_delta_rss_bytes": 20688896 + "total_delta_rx_bytes": 52773719, + "total_delta_tx_bytes": 52805492, + "rx_bytes_per_upload": 1055474, + "tx_bytes_per_upload": 1056110, + "max_delta_rss_bytes": 2883584 }, { "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 0.82, + "duration_s": 0.771, "latency_ms": { - "p50": 137.2, - "p95": 181.4, - "p99": 245.1 + "p50": 131.9, + "p95": 174.7, + "p99": 175.6 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 26381801, - "delta_tx_bytes": 26401373, - "baseline_rss_bytes": 217759744, + "delta_rx_bytes": 26384709, + "delta_tx_bytes": 26401945, + "baseline_rss_bytes": 231522304, "peak_memory_bytes": { - "rss": 220250112, - "heap_used": 50014112, - "external": 24298087, - "array_buffers": 20507743 + "rss": 233619456, + "heap_used": 51880616, + "external": 32630526, + "array_buffers": 26533593 }, - "delta_rss_bytes": 2490368, + "delta_rss_bytes": 2097152, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 26214400, - "attachments.decode.ms": 1444.9002450000553, + "attachments.decode.ms": 1264.4056559997844, "attachments.proxy.bytes_to_s3": 26214400, "attachments.mark_ready": 25, "attachments.upload.created": 25 @@ -111,59 +111,59 @@ }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 26383381, - "delta_tx_bytes": 26401803, - "baseline_rss_bytes": 209428480, + "delta_rx_bytes": 26376275, + "delta_tx_bytes": 26401865, + "baseline_rss_bytes": 266989568, "peak_memory_bytes": { - "rss": 212426752, - "heap_used": 49637440, - "external": 21932135, - "array_buffers": 18141791 + "rss": 266989568, + "heap_used": 50529400, + "external": 26599488, + "array_buffers": 22809144 }, - "delta_rss_bytes": 2998272, + "delta_rss_bytes": 0, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 26214400, - "attachments.decode.ms": 1494.1810810000025, + "attachments.decode.ms": 1410.3865230001393, "attachments.proxy.bytes_to_s3": 26214400, "attachments.mark_ready": 25, "attachments.upload.created": 25 } } ], - "total_delta_rx_bytes": 52765182, - "total_delta_tx_bytes": 52803176, - "rx_bytes_per_upload": 1055304, - "tx_bytes_per_upload": 1056064, - "max_delta_rss_bytes": 2998272 + "total_delta_rx_bytes": 52760984, + "total_delta_tx_bytes": 52803810, + "rx_bytes_per_upload": 1055220, + "tx_bytes_per_upload": 1056076, + "max_delta_rss_bytes": 2097152 }, { "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 0.818, + "duration_s": 0.792, "latency_ms": { - "p50": 146.1, - "p95": 209.1, - "p99": 245.9 + "p50": 126.4, + "p95": 182.7, + "p99": 191.3 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 26379700, - "delta_tx_bytes": 26402387, - "baseline_rss_bytes": 216440832, + "delta_rx_bytes": 26385221, + "delta_tx_bytes": 26404709, + "baseline_rss_bytes": 233619456, "peak_memory_bytes": { - "rss": 229879808, - "heap_used": 52186344, - "external": 34161027, - "array_buffers": 30370683 + "rss": 233619456, + "heap_used": 51420296, + "external": 29512306, + "array_buffers": 25721962 }, - "delta_rss_bytes": 13438976, + "delta_rss_bytes": 0, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 26214400, - "attachments.decode.ms": 1491.96600400006, + "attachments.decode.ms": 1199.6556880001444, "attachments.proxy.bytes_to_s3": 26214400, "attachments.mark_ready": 25, "attachments.upload.created": 25 @@ -171,31 +171,31 @@ }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 26384562, - "delta_tx_bytes": 26402573, - "baseline_rss_bytes": 212082688, + "delta_rx_bytes": 26378117, + "delta_tx_bytes": 26400049, + "baseline_rss_bytes": 266989568, "peak_memory_bytes": { - "rss": 217251840, - "heap_used": 51036376, - "external": 26410042, - "array_buffers": 22619698 + "rss": 267907072, + "heap_used": 51921864, + "external": 30362031, + "array_buffers": 26571687 }, - "delta_rss_bytes": 5169152, + "delta_rss_bytes": 917504, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 26214400, - "attachments.decode.ms": 1386.4965829999855, + "attachments.decode.ms": 1393.8144420000026, "attachments.proxy.bytes_to_s3": 26214400, "attachments.mark_ready": 25, "attachments.upload.created": 25 } } ], - "total_delta_rx_bytes": 52764262, - "total_delta_tx_bytes": 52804960, - "rx_bytes_per_upload": 1055285, - "tx_bytes_per_upload": 1056099, - "max_delta_rss_bytes": 13438976 + "total_delta_rx_bytes": 52763338, + "total_delta_tx_bytes": 52804758, + "rx_bytes_per_upload": 1055267, + "tx_bytes_per_upload": 1056095, + "max_delta_rss_bytes": 917504 } ] } diff --git a/evidence/lab4/bench/proxy-131072-c10.json b/evidence/lab4/bench/proxy-131072-c10.json index 84939c0..7cabee1 100644 --- a/evidence/lab4/bench/proxy-131072-c10.json +++ b/evidence/lab4/bench/proxy-131072-c10.json @@ -1,6 +1,6 @@ { - "date": "2026-10-23T13:32:35+00:00", - "git": "b32ce9a", + "date": "2026-10-23T13:37:18+00:00", + "git": "4badd5a", "params": { "mode": "proxy", "size_bytes": 131072, @@ -21,89 +21,29 @@ "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 0.363, + "duration_s": 0.331, "latency_ms": { - "p50": 60.4, - "p95": 113.2, - "p99": 139.1 + "p50": 57.2, + "p95": 80.6, + "p99": 88.9 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 3381618, - "delta_tx_bytes": 3399633, - "baseline_rss_bytes": 180125696, + "delta_rx_bytes": 3385418, + "delta_tx_bytes": 3400077, + "baseline_rss_bytes": 218017792, "peak_memory_bytes": { - "rss": 187985920, - "heap_used": 50414440, - "external": 8673461, - "array_buffers": 4505870 - }, - "delta_rss_bytes": 7860224, - "counters": { - "attachments.insert_pending": 25, - "attachments.proxy.bytes_in": 3276800, - "attachments.decode.ms": 528.2537349999984, - "attachments.proxy.bytes_to_s3": 3276800, - "attachments.mark_ready": 25, - "attachments.upload.created": 25 - } - }, - { - "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 3384159, - "delta_tx_bytes": 3399409, - "baseline_rss_bytes": 181567488, - "peak_memory_bytes": { - "rss": 189956096, - "heap_used": 51892912, - "external": 9517393, - "array_buffers": 5724803 - }, - "delta_rss_bytes": 8388608, - "counters": { - "attachments.insert_pending": 25, - "attachments.proxy.bytes_in": 3276800, - "attachments.decode.ms": 670.2341740000047, - "attachments.proxy.bytes_to_s3": 3276800, - "attachments.mark_ready": 25, - "attachments.upload.created": 25 - } - } - ], - "total_delta_rx_bytes": 6765777, - "total_delta_tx_bytes": 6799042, - "rx_bytes_per_upload": 135316, - "tx_bytes_per_upload": 135981, - "max_delta_rss_bytes": 8388608 - }, - { - "uploads": 50, - "succeeded": 50, - "failed": 0, - "duration_s": 0.351, - "latency_ms": { - "p50": 51.1, - "p95": 105.8, - "p99": 118.4 - }, - "replicas": [ - { - "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 3380483, - "delta_tx_bytes": 3398895, - "baseline_rss_bytes": 187985920, - "peak_memory_bytes": { - "rss": 190345216, - "heap_used": 52699440, - "external": 10502334, - "array_buffers": 6709680 + "rss": 220377088, + "heap_used": 50283096, + "external": 8478293, + "array_buffers": 4687725 }, "delta_rss_bytes": 2359296, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 3276800, - "attachments.decode.ms": 633.1175999999905, + "attachments.decode.ms": 575.8783200000762, "attachments.proxy.bytes_to_s3": 3276800, "attachments.mark_ready": 25, "attachments.upload.created": 25 @@ -111,93 +51,151 @@ }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 3376222, - "delta_tx_bytes": 3395913, - "baseline_rss_bytes": 189956096, + "delta_rx_bytes": 3385072, + "delta_tx_bytes": 3399873, + "baseline_rss_bytes": 249233408, "peak_memory_bytes": { - "rss": 193220608, - "heap_used": 52790776, - "external": 10858460, - "array_buffers": 7065998 + "rss": 252379136, + "heap_used": 50306832, + "external": 9099311, + "array_buffers": 5308711 }, - "delta_rss_bytes": 3264512, + "delta_rss_bytes": 3145728, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 3276800, - "attachments.decode.ms": 359.4751439999891, + "attachments.decode.ms": 590.1611679997877, "attachments.proxy.bytes_to_s3": 3276800, "attachments.mark_ready": 25, "attachments.upload.created": 25 } } ], - "total_delta_rx_bytes": 6756705, - "total_delta_tx_bytes": 6794808, - "rx_bytes_per_upload": 135134, - "tx_bytes_per_upload": 135896, - "max_delta_rss_bytes": 3264512 + "total_delta_rx_bytes": 6770490, + "total_delta_tx_bytes": 6799950, + "rx_bytes_per_upload": 135410, + "tx_bytes_per_upload": 135999, + "max_delta_rss_bytes": 3145728 }, { "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 0.354, + "duration_s": 0.316, "latency_ms": { - "p50": 60.3, - "p95": 96.3, - "p99": 120.9 + "p50": 55.2, + "p95": 87.2, + "p99": 99.2 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 3377197, - "delta_tx_bytes": 3396754, - "baseline_rss_bytes": 190345216, + "delta_rx_bytes": 3376247, + "delta_tx_bytes": 3395251, + "baseline_rss_bytes": 220508160, "peak_memory_bytes": { - "rss": 193884160, - "heap_used": 53140928, - "external": 13245272, - "array_buffers": 9452618 + "rss": 223653888, + "heap_used": 50422968, + "external": 8537602, + "array_buffers": 4747258 }, - "delta_rss_bytes": 3538944, + "delta_rss_bytes": 3145728, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 3276800, - "attachments.decode.ms": 518.702403999996, + "attachments.decode.ms": 568.8078680001199, "attachments.proxy.bytes_to_s3": 3276800, "attachments.mark_ready": 25, - "attachments.upload.created": 25, - "attachments.claim_expired": 1 + "attachments.upload.created": 25 } }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 3377745, - "delta_tx_bytes": 3397208, - "baseline_rss_bytes": 193220608, + "delta_rx_bytes": 3378432, + "delta_tx_bytes": 3395587, + "baseline_rss_bytes": 252379136, "peak_memory_bytes": { - "rss": 193744896, - "heap_used": 52880424, - "external": 11681352, - "array_buffers": 7888698 + "rss": 255524864, + "heap_used": 49969448, + "external": 10496847, + "array_buffers": 6706503 + }, + "delta_rss_bytes": 3145728, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 3276800, + "attachments.decode.ms": 575.633941000211, + "attachments.proxy.bytes_to_s3": 3276800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + } + ], + "total_delta_rx_bytes": 6754679, + "total_delta_tx_bytes": 6790838, + "rx_bytes_per_upload": 135094, + "tx_bytes_per_upload": 135817, + "max_delta_rss_bytes": 3145728 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.364, + "latency_ms": { + "p50": 61.0, + "p95": 100.6, + "p99": 109.1 + }, + "replicas": [ + { + "instance_id": "7c7cf67931e5", + "delta_rx_bytes": 3377231, + "delta_tx_bytes": 3396261, + "baseline_rss_bytes": 223653888, + "peak_memory_bytes": { + "rss": 224178176, + "heap_used": 50203952, + "external": 12043208, + "array_buffers": 8243836 }, "delta_rss_bytes": 524288, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 3276800, - "attachments.decode.ms": 643.8722639999905, + "attachments.decode.ms": 554.1256450000219, "attachments.proxy.bytes_to_s3": 3276800, "attachments.mark_ready": 25, - "attachments.upload.created": 25, - "attachments.claim_expired": 1 + "attachments.upload.created": 25 + } + }, + { + "instance_id": "ff9a363e52b1", + "delta_rx_bytes": 3376327, + "delta_tx_bytes": 3397971, + "baseline_rss_bytes": 255524864, + "peak_memory_bytes": { + "rss": 255655936, + "heap_used": 50414024, + "external": 11828788, + "array_buffers": 8038444 + }, + "delta_rss_bytes": 131072, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 3276800, + "attachments.decode.ms": 655.3769140000804, + "attachments.proxy.bytes_to_s3": 3276800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 } } ], - "total_delta_rx_bytes": 6754942, - "total_delta_tx_bytes": 6793962, - "rx_bytes_per_upload": 135099, - "tx_bytes_per_upload": 135879, - "max_delta_rss_bytes": 3538944 + "total_delta_rx_bytes": 6753558, + "total_delta_tx_bytes": 6794232, + "rx_bytes_per_upload": 135071, + "tx_bytes_per_upload": 135885, + "max_delta_rss_bytes": 524288 } ] } diff --git a/evidence/lab4/bench/proxy-9961472-c10.json b/evidence/lab4/bench/proxy-9961472-c10.json index d41c413..da8a146 100644 --- a/evidence/lab4/bench/proxy-9961472-c10.json +++ b/evidence/lab4/bench/proxy-9961472-c10.json @@ -1,6 +1,6 @@ { - "date": "2026-10-23T13:33:12+00:00", - "git": "b32ce9a", + "date": "2026-10-23T13:37:55+00:00", + "git": "4badd5a", "params": { "mode": "proxy", "size_bytes": 9961472, @@ -21,29 +21,29 @@ "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 4.768, + "duration_s": 4.75, "latency_ms": { - "p50": 712.4, - "p95": 946.8, - "p99": 1012.6 + "p50": 586.5, + "p95": 851.2, + "p99": 924.0 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 249658454, - "delta_tx_bytes": 249823407, - "baseline_rss_bytes": 252616704, + "delta_rx_bytes": 249636366, + "delta_tx_bytes": 249800729, + "baseline_rss_bytes": 242110464, "peak_memory_bytes": { - "rss": 364154880, - "heap_used": 49794104, - "external": 95705802, - "array_buffers": 78688662 + "rss": 302125056, + "heap_used": 50330056, + "external": 79829666, + "array_buffers": 76039322 }, - "delta_rss_bytes": 111538176, + "delta_rss_bytes": 60014592, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 249036800, - "attachments.decode.ms": 7843.138166000004, + "attachments.decode.ms": 7776.616332000063, "attachments.proxy.bytes_to_s3": 249036800, "attachments.mark_ready": 25, "attachments.upload.created": 25 @@ -51,59 +51,59 @@ }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 249677855, - "delta_tx_bytes": 249819092, - "baseline_rss_bytes": 228974592, + "delta_rx_bytes": 249671660, + "delta_tx_bytes": 249815904, + "baseline_rss_bytes": 279318528, "peak_memory_bytes": { - "rss": 359043072, - "heap_used": 50979480, - "external": 105502404, - "array_buffers": 101712060 + "rss": 335978496, + "heap_used": 50779240, + "external": 99370165, + "array_buffers": 91157282 }, - "delta_rss_bytes": 130068480, + "delta_rss_bytes": 56659968, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 249036800, - "attachments.decode.ms": 7969.015626000037, + "attachments.decode.ms": 7460.193873999873, "attachments.proxy.bytes_to_s3": 249036800, "attachments.mark_ready": 25, "attachments.upload.created": 25 } } ], - "total_delta_rx_bytes": 499336309, - "total_delta_tx_bytes": 499642499, - "rx_bytes_per_upload": 9986726, - "tx_bytes_per_upload": 9992850, - "max_delta_rss_bytes": 130068480 + "total_delta_rx_bytes": 499308026, + "total_delta_tx_bytes": 499616633, + "rx_bytes_per_upload": 9986161, + "tx_bytes_per_upload": 9992333, + "max_delta_rss_bytes": 60014592 }, { "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 4.843, + "duration_s": 4.661, "latency_ms": { - "p50": 687.8, - "p95": 997.1, - "p99": 1046.8 + "p50": 656.5, + "p95": 888.8, + "p99": 959.9 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 249636288, - "delta_tx_bytes": 249801589, - "baseline_rss_bytes": 349237248, + "delta_rx_bytes": 249639519, + "delta_tx_bytes": 249795892, + "baseline_rss_bytes": 281255936, "peak_memory_bytes": { - "rss": 367636480, - "heap_used": 50033840, - "external": 85069927, - "array_buffers": 81278745 + "rss": 326279168, + "heap_used": 49159264, + "external": 96056449, + "array_buffers": 80803439 }, - "delta_rss_bytes": 18399232, + "delta_rss_bytes": 45023232, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 249036800, - "attachments.decode.ms": 7391.692848000006, + "attachments.decode.ms": 7871.141386000323, "attachments.proxy.bytes_to_s3": 249036800, "attachments.mark_ready": 25, "attachments.upload.created": 25 @@ -111,59 +111,59 @@ }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 249653773, - "delta_tx_bytes": 249814308, - "baseline_rss_bytes": 270807040, + "delta_rx_bytes": 249675448, + "delta_tx_bytes": 249820400, + "baseline_rss_bytes": 305864704, "peak_memory_bytes": { - "rss": 336084992, - "heap_used": 49357656, - "external": 85003828, - "array_buffers": 81213484 + "rss": 325267456, + "heap_used": 49459520, + "external": 94883105, + "array_buffers": 91092761 }, - "delta_rss_bytes": 65277952, + "delta_rss_bytes": 19402752, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 249036800, - "attachments.decode.ms": 7897.397337000031, + "attachments.decode.ms": 7501.386025000014, "attachments.proxy.bytes_to_s3": 249036800, "attachments.mark_ready": 25, "attachments.upload.created": 25 } } ], - "total_delta_rx_bytes": 499290061, - "total_delta_tx_bytes": 499615897, - "rx_bytes_per_upload": 9985801, - "tx_bytes_per_upload": 9992318, - "max_delta_rss_bytes": 65277952 + "total_delta_rx_bytes": 499314967, + "total_delta_tx_bytes": 499616292, + "rx_bytes_per_upload": 9986299, + "tx_bytes_per_upload": 9992326, + "max_delta_rss_bytes": 45023232 }, { "uploads": 50, "succeeded": 50, "failed": 0, - "duration_s": 4.694, + "duration_s": 4.725, "latency_ms": { - "p50": 637.3, - "p95": 848.8, - "p99": 979.4 + "p50": 642.3, + "p95": 1021.8, + "p99": 1063.9 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 249629894, - "delta_tx_bytes": 249780802, - "baseline_rss_bytes": 322142208, + "delta_rx_bytes": 249673539, + "delta_tx_bytes": 249815151, + "baseline_rss_bytes": 301092864, "peak_memory_bytes": { - "rss": 366731264, - "heap_used": 50163968, - "external": 85133242, - "array_buffers": 81342898 + "rss": 327974912, + "heap_used": 49201912, + "external": 94750424, + "array_buffers": 90960080 }, - "delta_rss_bytes": 44589056, + "delta_rss_bytes": 26882048, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 249036800, - "attachments.decode.ms": 7874.299524000016, + "attachments.decode.ms": 7622.966706999927, "attachments.proxy.bytes_to_s3": 249036800, "attachments.mark_ready": 25, "attachments.upload.created": 25 @@ -171,31 +171,31 @@ }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 249682445, - "delta_tx_bytes": 249837698, - "baseline_rss_bytes": 325865472, + "delta_rx_bytes": 249648565, + "delta_tx_bytes": 249815222, + "baseline_rss_bytes": 296456192, "peak_memory_bytes": { - "rss": 365383680, - "heap_used": 50007528, - "external": 84862098, - "array_buffers": 81070915 + "rss": 307523584, + "heap_used": 50677504, + "external": 85057449, + "array_buffers": 81100125 }, - "delta_rss_bytes": 39518208, + "delta_rss_bytes": 11067392, "counters": { "attachments.insert_pending": 25, "attachments.proxy.bytes_in": 249036800, - "attachments.decode.ms": 7699.224510000015, + "attachments.decode.ms": 7061.106053000025, "attachments.proxy.bytes_to_s3": 249036800, "attachments.mark_ready": 25, "attachments.upload.created": 25 } } ], - "total_delta_rx_bytes": 499312339, - "total_delta_tx_bytes": 499618500, - "rx_bytes_per_upload": 9986247, - "tx_bytes_per_upload": 9992370, - "max_delta_rss_bytes": 44589056 + "total_delta_rx_bytes": 499322104, + "total_delta_tx_bytes": 499630373, + "rx_bytes_per_upload": 9986442, + "tx_bytes_per_upload": 9992607, + "max_delta_rss_bytes": 26882048 } ] } diff --git a/evidence/lab4/bench/proxy-9961472-c20.json b/evidence/lab4/bench/proxy-9961472-c20.json index 34dbd64..aa8e977 100644 --- a/evidence/lab4/bench/proxy-9961472-c20.json +++ b/evidence/lab4/bench/proxy-9961472-c20.json @@ -1,6 +1,6 @@ { - "date": "2026-10-23T13:34:02+00:00", - "git": "b32ce9a", + "date": "2026-10-23T13:38:46+00:00", + "git": "4badd5a", "params": { "mode": "proxy", "size_bytes": 9961472, @@ -21,53 +21,111 @@ "uploads": 100, "succeeded": 100, "failed": 0, - "duration_s": 8.965, + "duration_s": 8.833, "latency_ms": { - "p50": 1396.5, - "p95": 1795.3, - "p99": 1927.7 + "p50": 1330.2, + "p95": 1656.1, + "p99": 1727.7 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 500201125, - "delta_tx_bytes": 500377070, - "baseline_rss_bytes": 305356800, + "delta_rx_bytes": 499759117, + "delta_tx_bytes": 499989656, + "baseline_rss_bytes": 261660672, "peak_memory_bytes": { - "rss": 434417664, - "heap_used": 51274840, - "external": 145565797, - "array_buffers": 141709917 + "rss": 388141056, + "heap_used": 50630264, + "external": 155166578, + "array_buffers": 139745634 }, - "delta_rss_bytes": 129060864, + "delta_rss_bytes": 126480384, "counters": { "attachments.insert_pending": 50, "attachments.proxy.bytes_in": 498073600, - "attachments.decode.ms": 15301.763066, + "attachments.decode.ms": 15729.830076000188, "attachments.proxy.bytes_to_s3": 498073600, "attachments.mark_ready": 50, - "attachments.upload.created": 50, - "attachments.claim_expired": 1, - "attachments.delete_claimed": 2, - "attachments.sweep.deleted": 2 + "attachments.upload.created": 50 } }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 499840721, - "delta_tx_bytes": 500065968, - "baseline_rss_bytes": 315572224, + "delta_rx_bytes": 499883600, + "delta_tx_bytes": 500123779, + "baseline_rss_bytes": 292487168, "peak_memory_bytes": { - "rss": 417861632, - "heap_used": 51333520, - "external": 141534029, - "array_buffers": 137743685 + "rss": 393953280, + "heap_used": 51133536, + "external": 142116265, + "array_buffers": 138325921 }, - "delta_rss_bytes": 102289408, + "delta_rss_bytes": 101466112, "counters": { "attachments.insert_pending": 50, "attachments.proxy.bytes_in": 498073600, - "attachments.decode.ms": 15764.19308799997, + "attachments.decode.ms": 15020.501326000027, + "attachments.proxy.bytes_to_s3": 498073600, + "attachments.mark_ready": 50, + "attachments.upload.created": 50 + } + } + ], + "total_delta_rx_bytes": 999642717, + "total_delta_tx_bytes": 1000113435, + "rx_bytes_per_upload": 9996427, + "tx_bytes_per_upload": 10001134, + "max_delta_rss_bytes": 126480384 + }, + { + "uploads": 100, + "succeeded": 100, + "failed": 0, + "duration_s": 8.864, + "latency_ms": { + "p50": 1336.0, + "p95": 1742.8, + "p99": 1799.2 + }, + "replicas": [ + { + "instance_id": "7c7cf67931e5", + "delta_rx_bytes": 499464722, + "delta_tx_bytes": 499742563, + "baseline_rss_bytes": 380321792, + "peak_memory_bytes": { + "rss": 402067456, + "heap_used": 50852712, + "external": 145616176, + "array_buffers": 130815545 + }, + "delta_rss_bytes": 21745664, + "counters": { + "attachments.insert_pending": 50, + "attachments.proxy.bytes_in": 498073600, + "attachments.decode.ms": 15730.587417000032, + "attachments.proxy.bytes_to_s3": 498073600, + "attachments.mark_ready": 50, + "attachments.upload.created": 50, + "attachments.claim_expired": 1 + } + }, + { + "instance_id": "ff9a363e52b1", + "delta_rx_bytes": 499665326, + "delta_tx_bytes": 499906835, + "baseline_rss_bytes": 365027328, + "peak_memory_bytes": { + "rss": 393994240, + "heap_used": 50916312, + "external": 127865497, + "array_buffers": 124075153 + }, + "delta_rss_bytes": 28966912, + "counters": { + "attachments.insert_pending": 50, + "attachments.proxy.bytes_in": 498073600, + "attachments.decode.ms": 16026.04880199983, "attachments.proxy.bytes_to_s3": 498073600, "attachments.mark_ready": 50, "attachments.upload.created": 50, @@ -75,39 +133,39 @@ } } ], - "total_delta_rx_bytes": 1000041846, - "total_delta_tx_bytes": 1000443038, - "rx_bytes_per_upload": 10000418, - "tx_bytes_per_upload": 10004430, - "max_delta_rss_bytes": 129060864 + "total_delta_rx_bytes": 999130048, + "total_delta_tx_bytes": 999649398, + "rx_bytes_per_upload": 9991300, + "tx_bytes_per_upload": 9996494, + "max_delta_rss_bytes": 28966912 }, { "uploads": 100, "succeeded": 100, "failed": 0, - "duration_s": 8.87, + "duration_s": 9.064, "latency_ms": { - "p50": 1327.7, - "p95": 1753.9, - "p99": 2016.9 + "p50": 1457.1, + "p95": 1774.1, + "p99": 1926.1 }, "replicas": [ { "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 500384354, - "delta_tx_bytes": 500549484, - "baseline_rss_bytes": 405041152, + "delta_rx_bytes": 499401262, + "delta_tx_bytes": 499684797, + "baseline_rss_bytes": 357986304, "peak_memory_bytes": { - "rss": 442638336, - "heap_used": 51584448, - "external": 136101545, - "array_buffers": 132311201 + "rss": 410398720, + "heap_used": 50734960, + "external": 146163060, + "array_buffers": 132312269 }, - "delta_rss_bytes": 37597184, + "delta_rss_bytes": 52412416, "counters": { "attachments.insert_pending": 50, "attachments.proxy.bytes_in": 498073600, - "attachments.decode.ms": 15850.254651000054, + "attachments.decode.ms": 16195.981729999883, "attachments.proxy.bytes_to_s3": 498073600, "attachments.mark_ready": 50, "attachments.upload.created": 50 @@ -115,91 +173,31 @@ }, { "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 500629918, - "delta_tx_bytes": 500817708, - "baseline_rss_bytes": 379080704, + "delta_rx_bytes": 499729379, + "delta_tx_bytes": 499980797, + "baseline_rss_bytes": 355852288, "peak_memory_bytes": { - "rss": 435548160, - "heap_used": 51076952, - "external": 146391435, - "array_buffers": 142601091 + "rss": 408215552, + "heap_used": 50802144, + "external": 136256487, + "array_buffers": 132466143 }, - "delta_rss_bytes": 56467456, + "delta_rss_bytes": 52363264, "counters": { "attachments.insert_pending": 50, "attachments.proxy.bytes_in": 498073600, - "attachments.decode.ms": 15065.693191000057, + "attachments.decode.ms": 16008.327908000094, "attachments.proxy.bytes_to_s3": 498073600, "attachments.mark_ready": 50, "attachments.upload.created": 50 } } ], - "total_delta_rx_bytes": 1001014272, - "total_delta_tx_bytes": 1001367192, - "rx_bytes_per_upload": 10010143, - "tx_bytes_per_upload": 10013672, - "max_delta_rss_bytes": 56467456 - }, - { - "uploads": 100, - "succeeded": 100, - "failed": 0, - "duration_s": 9.117, - "latency_ms": { - "p50": 1442.2, - "p95": 1862.3, - "p99": 1962.7 - }, - "replicas": [ - { - "instance_id": "7c7cf67931e5", - "delta_rx_bytes": 499434564, - "delta_tx_bytes": 499705234, - "baseline_rss_bytes": 421199872, - "peak_memory_bytes": { - "rss": 441876480, - "heap_used": 50736392, - "external": 135949482, - "array_buffers": 132036017 - }, - "delta_rss_bytes": 20676608, - "counters": { - "attachments.insert_pending": 50, - "attachments.proxy.bytes_in": 498073600, - "attachments.decode.ms": 16234.571914999979, - "attachments.proxy.bytes_to_s3": 498073600, - "attachments.mark_ready": 50, - "attachments.upload.created": 50 - } - }, - { - "instance_id": "ff9a363e52b1", - "delta_rx_bytes": 499505499, - "delta_tx_bytes": 499795523, - "baseline_rss_bytes": 348524544, - "peak_memory_bytes": { - "rss": 441692160, - "heap_used": 50551064, - "external": 136342743, - "array_buffers": 132552399 - }, - "delta_rss_bytes": 93167616, - "counters": { - "attachments.insert_pending": 50, - "attachments.proxy.bytes_in": 498073600, - "attachments.decode.ms": 16105.769058999955, - "attachments.proxy.bytes_to_s3": 498073600, - "attachments.mark_ready": 50, - "attachments.upload.created": 50 - } - } - ], - "total_delta_rx_bytes": 998940063, - "total_delta_tx_bytes": 999500757, - "rx_bytes_per_upload": 9989401, - "tx_bytes_per_upload": 9995008, - "max_delta_rss_bytes": 93167616 + "total_delta_rx_bytes": 999130641, + "total_delta_tx_bytes": 999665594, + "rx_bytes_per_upload": 9991306, + "tx_bytes_per_upload": 9996656, + "max_delta_rss_bytes": 52412416 } ] } diff --git a/evidence/lab4/consistency.txt b/evidence/lab4/consistency.txt index 7e9b047..fe77da3 100644 --- a/evidence/lab4/consistency.txt +++ b/evidence/lab4/consistency.txt @@ -1,9 +1,9 @@ scripts/lab4/consistency_check.sh bucket: messenger-attachments -objects: 3823 +objects: 5066 rows by status: 11 pending - 3822 ready + 5065 ready 4 rejected orphans: 0 missing: 0 diff --git a/evidence/lab4/make-test-e2e.txt b/evidence/lab4/make-test-e2e.txt index 9dd7805..bf6dd22 100644 --- a/evidence/lab4/make-test-e2e.txt +++ b/evidence/lab4/make-test-e2e.txt @@ -4,5 +4,5 @@ The plugin "vite-tsconfig-paths" is detected. Vite now supports tsconfig paths r RUN v4.1.11 /home/tomato/Projects/VP/mtusi2026lab4/app Test Files 3 passed | 1 skipped (4) Tests 38 passed | 8 skipped (46) - Start at 16:30:56 - Duration 4.59s (transform 196ms, setup 0ms, import 593ms, tests 10.10s, environment 0ms) + Start at 16:39:49 + Duration 4.15s (transform 319ms, setup 0ms, import 598ms, tests 8.73s, environment 0ms) diff --git a/evidence/lab4/summary.md b/evidence/lab4/summary.md index 322a225..c5e16e8 100644 --- a/evidence/lab4/summary.md +++ b/evidence/lab4/summary.md @@ -1,9 +1,9 @@ | mode | size, MiB | C | ok | API rx/upload, MiB | API tx/upload, MiB | max Δrss, MiB | p50, ms | p95, ms | |---|---|---|---|---|---|---|---|---| -| direct | 0.12 | 10 | 150/150 | 0.13 | 0.01 | 1.12 | 68 | 104 | -| proxy | 0.12 | 10 | 150/150 | 0.13 | 0.13 | 3.38 | 60 | 106 | -| direct | 1.00 | 10 | 150/150 | 1.01 | 0.01 | 9.81 | 164 | 249 | -| proxy | 1.00 | 10 | 150/150 | 1.01 | 1.01 | 12.82 | 143 | 192 | -| direct | 9.50 | 10 | 150/150 | 9.52 | 0.01 | 81.77 | 693 | 1082 | -| proxy | 9.50 | 10 | 150/150 | 9.52 | 9.53 | 62.25 | 688 | 947 | -| proxy | 9.50 | 20 | 300/300 | 9.54 | 9.54 | 88.85 | 1396 | 1795 | +| direct | 0.12 | 10 | 150/150 | 0.13 | 0.01 | 5.25 | 72 | 120 | +| proxy | 0.12 | 10 | 150/150 | 0.13 | 0.13 | 3.00 | 57 | 87 | +| direct | 1.00 | 10 | 150/150 | 1.01 | 0.01 | 1.38 | 154 | 252 | +| proxy | 1.00 | 10 | 150/150 | 1.01 | 1.01 | 2.00 | 132 | 183 | +| direct | 9.50 | 10 | 150/150 | 9.52 | 0.01 | 83.62 | 755 | 1018 | +| proxy | 9.50 | 10 | 150/150 | 9.52 | 9.53 | 42.94 | 642 | 889 | +| proxy | 9.50 | 20 | 300/300 | 9.53 | 9.53 | 49.98 | 1336 | 1743 | diff --git a/evidence/lab4/unit-tests.txt b/evidence/lab4/unit-tests.txt index 273e164..5c51ded 100644 --- a/evidence/lab4/unit-tests.txt +++ b/evidence/lab4/unit-tests.txt @@ -1,6 +1,6 @@ -[Nest] 3821708 - 10/23/2026, 4:31:09 PM WARN [MessagesCacheService] Cache fill failed: redis down -[Nest] 3821732 - 10/23/2026, 4:31:10 PM WARN [AttachmentsService] Compensation of attachment 26212360-edf3-428c-9246-43cb29900490 deferred: Connection terminated unexpectedly +[Nest] 3895186 - 10/23/2026, 4:39:54 PM WARN [MessagesCacheService] Cache fill failed: redis down +[Nest] 3895204 - 10/23/2026, 4:39:56 PM WARN [AttachmentsService] Compensation of attachment 5f9c0c33-dfa1-42a3-80a8-37f3ea9ef571 deferred: Connection terminated unexpectedly Test Files 12 passed (12) Tests 43 passed (43) - Start at 16:31:08 - Duration 2.59s (transform 791ms, setup 0ms, import 8.70s, tests 543ms, environment 2ms) + Start at 16:39:54 + Duration 2.47s (transform 762ms, setup 0ms, import 7.87s, tests 495ms, environment 2ms)