diff --git a/REPORT.md b/REPORT.md index 9ad2b84f..e79fd454 100644 --- a/REPORT.md +++ b/REPORT.md @@ -1,37 +1,270 @@ # Отчёт — лабораторная 4 -- Автор, группа: TODO -- Целевая оценка; выбранный трек 5, если нужен: TODO -- Commit/PR: TODO после публикации -- Использованные источники, библиотеки и помощь ИИ: TODO +- **Автор, группа:** Илья Тюнин; группа — БВТ2303 +- **Целевая оценка:** 5, трек 1 «Прямой upload» (presigned PUT) +- **Commit/PR:** ветка `lab4`, коммиты с префиксом `lab4: ` (стенд MinIO; конфигурация и `ObjectStorage`; + схема и потоковый валидатор; вложения и `attachment_ids`; e2e и отказы; прямая загрузка, скрипты + экспериментов). PR — после пуша ветки в origin. +- **Источники, библиотеки и помощь ИИ:** контракт `contracts/openapi.json`, `contracts/README.md`; + AWS S3 User Guide (object uploads, presigned URLs, checksums); документация MinIO (`mc`, политики, + `MINIO_*_FILE`); AWS SDK for JavaScript v3 (`@aws-sdk/client-s3` 3.1156.0, `s3-request-presigner`, + `@smithy/node-http-handler`); спецификации PNG (RFC 2083 / W3C) и JPEG (ITU-T T.81) для + потокового валидатора. Код и эксперименты подготовлены с помощью ИИ-ассистента; все числа ниже + получены прогонами на описанном стенде и лежат в `evidence/lab4/`. ## Запуск из чистого clone -TODO: версии runtime/образов, prerequisites, команды создания локальных secrets/.env, build, миграций, запуска, ожидания готовности, тестов и остановки. Указать необходимые действия оператора. Не вставлять секреты. Отдельно указать безопасную остановку и команду намеренного удаления учебных данных. +Версии: Docker 29.9.1, Docker Compose v5.6.0, Node.js 25.7.0 (сборка API — образ `node:25.7.0-slim`), +Python 3.14 (проверки и харнесс; нужен ≥3.9). Образы закреплены по digest: +`minio/minio:RELEASE.2025-09-07T16-13-09Z@sha256:14cea493…8936e`, +`minio/mc:RELEASE.2025-08-13T08-35-41Z@sha256:a7fe349e…1727`, `postgres:16.4-alpine`, +`redis:7.4.2-alpine`, `haproxy:3.2-alpine`. Хост — Fedora, 8 логических CPU, 16 GiB RAM. + +```sh +git clone lab4 && cd lab4 +make init-env # создаёт .env (пароль PG, METRICS_TOKEN) и secrets/* (root и API-credentials MinIO); идемпотентно, значения не печатает +make stand-up # docker compose up -d --build --wait: postgres, redis, s3, s3-init, migrate, api x2, haproxy +make wait-ready # GET /health/ready через LB +make test # публичный smoke (через LB) +make check # оффлайн-проверка структуры контракта +make test-e2e # black-box набор: app / attachments / direct-upload (нужны loopback-порты PG, Redis, MinIO) +make test-dependencies # отказы Redis/PG/S3 (останавливают контейнеры стенда и возвращают их) +make s3-security # приватность bucket и права API-credentials вне API +make consistency # сверка bucket и БД (orphans / missing) +make bench # матрица экспериментов, пишет evidence/lab4/bench/*.json и summary.md +make test-persistence ACTION_SCRIPT=scripts/restart.sh +make test-failover ACTION_SCRIPT=scripts/stop-one.sh && scripts/start-replica.sh +``` + +Действия оператора: только `make init-env` (секреты создаются локально в `secrets/`, каталог в +`.gitignore`; `secrets/` и `.env` нельзя коммитить). Остановка с сохранением данных — `make stand-down` +(тома `postgres-data`, `redis-data`, `s3-data` сохраняются). **Намеренное удаление учебных данных:** +`docker compose --env-file .env down -v` (удаляет все три тома, включая загруженные файлы; следующий +`make stand-up` создаёт пустую схему и заново идемпотентно настраивает bucket). + +Короткий TTL для проверки истёкшего URL: `DIRECT_UPLOAD_URL_TTL_SECONDS=5 ATTACHMENT_SWEEP_GRACE_SECONDS=0 +ATTACHMENT_SWEEP_INTERVAL_MS=1000 docker compose --env-file .env up -d --no-deps api`, затем +`E2E_DIRECT_TTL_SHORT=1 scripts/app-e2e.sh direct-upload`, затем вернуть стенд тем же `up -d --no-deps api` +без переменных. ## Архитектура и решения -TODO: схема процессов/хранилищ, источник истины, транзакционные границы, ограничения. Что перенесено из lab3, что изменено в этой работе. Соответствие переменных из .env.example реальной конфигурации. +``` +клиент ──► HAProxy ──► API × 2 ──► PostgreSQL (метаданные, связи, идемпотентность) + │ ├──► Redis (сессии, кэш истории) + │ └──► MinIO (s3) (байты оригиналов, приватный bucket) +клиент ───────────── presigned PUT (трек 1) ───► MinIO (минуя API) +``` + +- **Источник истины:** метаданные и связи «сообщение ↔ вложение» — PostgreSQL (`attachments`, + `message_attachments`); байты — только в bucket по ключу `attachments//original`. Имя файла + хранится для отображения и никогда не попадает в ключ или путь. На API нет локального файла + оригинала: корневая ФС контейнера `read_only: true`, `/tmp` — tmpfs 16 MiB + (`evidence/lab4/readonly-api.txt`). +- **Жизненный цикл строки:** `pending` (байты не подтверждены) → `ready` (видна участникам чата) или + `deleting` (захвачена уборщиком) → строка удалена. Публично существуют только `ready`. + Инварианты в БД: составные FK `(chat_id, owner_id) → chat_members` и + `(attachment_id, chat_id) → attachments(id, chat_id)` делают «вложение другого чата» невозможным; + `CHECK` требует size/sha256/width/height у `ready` и `expires_at` у незавершённых; FK + `message_attachments → attachments` без каскада запрещает удалить вложение, на которое ссылается + сообщение, а каскад удаления чата проходит. +- **Когда честно 201 (proxy):** только после того, как S3 принял весь объект (`PutObject` завершён) и + `UPDATE … SET status='ready' WHERE status='pending'` изменил строку. Этот `UPDATE` проигрывает + захвату уборщиком атомарно (строка уже `deleting` → 503, а не фальшивый 201). +- **S3 PUT прошёл, а COMMIT нет:** строка остаётся `pending`, объект есть. Запрос сначала пытается + компенсировать (`DeleteObject`, затем `DELETE … WHERE status='pending'`); если не удалось + (PG/S3 недоступны) — счётчик `attachments.compensation_deferred`, строка остаётся и через + `expires_at + ATTACHMENT_SWEEP_GRACE_SECONDS` её убирает уборщик (удаляет объект, затем строку). + Сверка: `make consistency`. Наблюдение — `dependency-failures` «compensates the S3 write when + PostgreSQL fails before ready». +- **Потоковая обработка (proxy):** тело читается как поток и сразу идёт в S3 с заранее известным + `Content-Length` (≤ 10 MiB, иначе 413 до чтения). Параллельно `ImageInspector` (байтовый автомат + PNG/JPEG, без декодирования и без буферизации тела) проверяет сигнатуру, структуру, CRC чанков PNG + и число пикселей (≤ 40 млн, 413). До появления заголовка (≤ 1 MiB) нет ни строки, ни объекта. + Последний кусок отдаётся в S3 только после `inspector.finish()` — S3 не получит полное тело + невалидного файла и не зафиксирует объект. Ограничители: `UPLOAD_MAX_IN_FLIGHT` (429 + + `Retry-After`), `UPLOAD_TIMEOUT_MS` (жёсткий дедлайн запроса), тайм-ауты S3-клиента. + Fastify `bodyLimit` к `image/*` не применяется: контент-парсеры отдают сырой поток (для + `text/plain` встроенный буферизующий парсер заменён — иначе бинарное тело давало 400). +- **Прямая загрузка (трек 1):** `POST /api/v1/chats/{id}/attachments/direct-uploads` создаёт строку + `pending` (`expires_at = now + TTL`) и возвращает presigned PUT. Подписаны `content-type`, + `content-length` и `x-amz-checksum-sha256`: S3 сам отвергает тело другого размера (403 + `SignatureDoesNotMatch`) или с другим SHA-256 (400 `XAmzContentChecksumMismatch`), объект при этом + не создаётся (`evidence/lab4/presign-spike.txt`). `POST /api/v1/attachments/{id}/complete` + (только владелец): `HEAD` (размер + подписанный checksum), чтение заголовка изображения (диапазон + до 1 MiB, поток обрывается после получения заголовка), сверка типа и пикселей, `markReady`. + Любое несоответствие → компенсация и 409/413/415; повторный `complete` готового — 200. Лимит + незавершённых заявок на пользователя: `DIRECT_UPLOAD_MAX_PENDING_PER_USER` (429 с `Retry-After`). + Перезапись по тому же URL до истечения TTL возможна только теми же байтами (checksum подписан). + Расширение контракта: `contracts/extensions.openapi.json`; обязательный proxy endpoint не менялся. +- **Почему volume реплики ≠ объектное хранилище:** файл в volume одной реплики недоступен другой, + теряется при пересоздании контейнера и не масштабируется; здесь байты лежат в общем MinIO со своим + томом, поэтому download через любую реплику возвращает тот же объект + (`evidence/lab4/failover-attachment.txt`). +- **Почему случайный ключ и приватный bucket не заменяют ACL приложения:** ключ — не секрет (он + может утечь через логи, presigned URL, дамп БД), а bucket приватен для всех, кроме API. Решение + «кто из пользователей видит вложение» принимает только приложение: каждый запрос метаданных и + content проверяет членство в чате (`findVisible`), посторонний получает 404; у bucket нет + понятия «участник чата». +- **Недоступность S3 — деградация, не отказ готовности:** S3 не входит в `/health/ready`; + вложения отвечают bounded `503 unavailable`, а текст, чаты, история, метаданные продолжают работать. + Так реплики не уходят из ротации LB из-за зависимости, нужной лишь части функций. +- **Секреты:** `secrets/*` монтируются как Docker secrets; MinIO читает root через + `MINIO_ROOT_USER_FILE`/`MINIO_ROOT_PASSWORD_FILE`, API — через `S3_*_FILE`. У API отдельный + пользователь с политикой `messenger-api`: `Get/Put/DeleteObject` только на `attachments/*` и + `ListBucket` (чтобы отсутствующий ключ давал 404, а не 403). `migrate` S3-секретов не получает + (`parseDatabaseConfig`). Консоль MinIO отключена (`MINIO_BROWSER=off`), порт 9001 не публикуется, + порт API S3 `9000` опубликован только на loopback (`S3_PUBLIC_BIND=127.0.0.1`) — нужен клиенту + presigned URL и тестам. + +Что перенесено из lab3: приложение NestJS/Fastify, HAProxy, Redis-сессии, идемпотентность, хуки. +Изменено: `messages.attachment_ids` (в `CREATE_ONCE_SQL` проверка и вставка ссылок в том же операторе, +что и сообщение и ключ идемпотентности; отпечаток текстовых сообщений совпадает с lab3), пустой +`text` допустим при наличии вложений, метрики (`add`, пики памяти с шагом 50 мс), заголовок +`Retry-After` у 429. + +### Соответствие `.env.example` → конфигурация + +| Переменная | Где читается | Назначение | +| --- | --- | --- | +| `S3_ENDPOINT`, `S3_PUBLIC_ENDPOINT` | `ObjectStorage` (клиент `internal` / клиент подписи) | сетевой адрес для API / хост в presigned URL | +| `S3_REGION`, `S3_BUCKET` | `ObjectStorage`, `infra/minio/bootstrap.sh` | регион подписи; имя bucket | +| `S3_ACCESS_KEY_ID_FILE`, `S3_SECRET_ACCESS_KEY_FILE` | `resolveSecret` → `S3_ACCESS_KEY_ID`/`S3_SECRET_ACCESS_KEY` | API-credentials из Docker secrets | +| `S3_CONNECT_TIMEOUT_MS`, `S3_REQUEST_TIMEOUT_MS` | `NodeHttpHandler` | тайм-ауты S3-клиента | +| `MAX_UPLOAD_BYTES`, `MAX_IMAGE_PIXELS` | `AttachmentsService`, `DirectUploadsService` | 10 MiB, 40 млн пикселей | +| `UPLOAD_TIMEOUT_MS`, `UPLOAD_MAX_IN_FLIGHT` | `AttachmentsService` | дедлайн запроса и число одновременных proxy-загрузок на реплику | +| `ATTACHMENT_SWEEP_INTERVAL_MS`, `ATTACHMENT_SWEEP_GRACE_SECONDS` | `AttachmentSweeper`, CLI | период фонового прохода (0 = выкл.) и grace после `expires_at` | +| `DIRECT_UPLOAD_URL_TTL_SECONDS`, `DIRECT_UPLOAD_MAX_PENDING_PER_USER` | `DirectUploadsService` | TTL подписи; лимит незавершённых заявок | +| `S3_PUBLIC_BIND`, `S3_PUBLIC_PORT`, `S3_CPUS`, `S3_MEMORY` | `compose.yaml` (сервис `s3`) | публикация порта на loopback; лимиты контейнера | +| `minio_root_*`, `s3_api_*` | `secrets/*` → `compose.yaml` secrets | credentials; создаются `scripts/init-env.sh` | + +Остальные переменные (`DATABASE_URL`, `REDIS_URL`, `METRICS_TOKEN`, лимиты, порты) — как в lab3. + +### Компенсация, сверка, очистка (grace period) + +`expires_at` у proxy = старт + `UPLOAD_TIMEOUT_MS` (жёсткий дедлайн запроса), у direct = выдача URL + TTL. +Уборщик берёт строку только через `ATTACHMENT_SWEEP_GRACE_SECONDS` (900 с по умолчанию) после этого: +живую загрузку он не застанет, а `markReady … WHERE status='pending'` проигрывает захвату +(`pending → deleting`, `FOR UPDATE SKIP LOCKED`, реплики не мешают друг другу). Застрявшая в +`deleting` строка (упавший уборщик) перезахватывается через минуту. Ручной запуск: +`docker compose exec api node dist/attachments/attachments-sweep.cli.js`. Сверка в обе стороны (только +чтение): `make consistency` — `orphans` (объект без строки) и `missing` (`ready` без объекта). +Отсутствующий объект у `ready`-строки при download — это потеря данных: 500 и счётчик +`attachments.object_missing`, а не клиентская ошибка. ## Доказательства критериев +Все файлы — в `evidence/lab4/`; в них нет `.env`, токенов, секретов и подписанных URL. + | Критерий README | Команда/сценарий | Наблюдаемый результат | Файл доказательства | | --- | --- | --- | --- | -| Публичный smoke | make test | TODO | TODO | -| Остальные пункты уровня 3 | TODO | TODO | TODO | -| Все пункты уровня 4, если заявлен | TODO | TODO | TODO | -| Выбранный трек 5, если заявлен | TODO | TODO | TODO | +| Публичный smoke | `make test` | `PASS: lab4 public API scenario` (upload 201 ready, сообщение с `''` и `attachment_ids`, download bob = байты, eve 404) | `make-test.txt` | +| Контракт offline | `make check` | PASS, `contracts/extensions.openapi.json` — валидный JSON | `make-check.txt` | +| 3: S3 в общем стенде, приватный bucket, метаданные в PG, байты в bucket | `make stand-up`; `docker compose ps`; `make consistency` | `s3` healthy, `s3-init` завершён с 0; bucket приватный (`mc anonymous set none`); число объектов в bucket = числу `ready`-строк (1308 после серии `make bench` и e2e), orphans/missing = 0 | `bootstrap-rerun.txt`, `consistency.txt` | +| 3: 201 ready, побайтный download, `attachment_ids` | `make test-e2e` (`attachments.e2e-spec.ts`) | sha256 в ответе = sha256 файла; content = байты, `nosniff`, `Content-Length` | `make-test-e2e.txt` | +| 3: PNG/JPEG ≤10 MiB и ≤40 млн px; MIME по содержимому; опасные filename; лимиты до чтения | e2e: 10485760 → 201, 10485761 → 413, pixel bomb 8000×5001 → 413 сразу после IHDR, PNG как `image/jpeg` → 415, `a/b.png`, `\u202E`, NUL, 256 символов → 400, 255×😀 → 201 | все кейсы зелёные, пользовательских 500 нет | `make-test-e2e.txt`, `unit-tests.txt` (`image-inspector.spec.ts`) | +| 3: другая реплика отдаёт файл после остановки загрузившей; restart сохраняет данные | `scripts/stop-one.sh` (обе реплики по очереди), `make test-failover`; `make test-persistence ACTION_SCRIPT=scripts/restart.sh` | failover: 0 неуспешных попыток, восстановление ≈3.3 с; download с тем же sha256 после остановки api-1 и api-2; persistence: `StartedAt` у postgres, redis, s3, api×2, haproxy изменился, данные и сессия сохранены | `failover.txt`, `failover-attachment.txt`, `persistence.txt` | +| 3: на API нет локального файла оригинала | `touch` в корне контейнера | `Read-only file system` | `readonly-api.txt` | +| 4: тесты: большой файл, повреждённое изображение, подмена MIME, чужое `attachment_id`, вложение другого чата, нет 500 | `make test-e2e` | 413; усечённый PNG, флип байта (CRC), сигнатура+мусор, пустое тело → 415; подмена MIME → 415; чужое/неизвестное/незавершённое → 404; вложение чата eve в чате alice → 404 | `make-test-e2e.txt` | +| 4: прерывание загрузки и отказ между S3/БД не оставляют вечных объектов | e2e «client drops the connection»; `make test-dependencies` | обрыв клиента → строк 0 за ≤10 с; S3 down → одна `pending`, после старта и sweep — 0; PG down между PUT и ready → 503, объекта в S3 нет, `pending` убрана sweep; затем `orphans: 0, missing: 0` | `make-test-e2e.txt`, `make-test-dependencies.txt`, `consistency.txt` | +| 4: лимиты, таймауты, потоковая обработка; эксперимент ≥10 загрузок с пиком памяти | `make bench` (proxy, C=10 и C=20, 9.5 MiB) | max Δrss реплики 10.7 MiB при C=10 и 17.9 MiB при C=20 против 95/190 MiB тел в полёте — см. «Эксперименты» | `summary.md`, `bench/*.json` | +| 4: идемпотентный bootstrap; отдельные ограниченные credentials; консоль закрыта; private bucket вне API | `docker compose run s3-init` дважды; `make s3-security` | повтор → `bootstrap ok`; анонимные GET/list/PUT → 403; API-credentials не создают bucket, не вызывают admin, не пишут вне `attachments/`, читают `attachments/*`; порт 9001 не опубликован и не отвечает | `bootstrap-rerun.txt`, `s3-security.txt` | +| 5 / трек 1: presigned flow (короткая подпись, уникальный ключ, принадлежность, размер/checksum на complete, незавершённые) | `direct-upload.e2e-spec.ts`; спайк подписи | init → PUT мимо API → complete → metadata/content → сообщение; чужой/посторонний complete → 404; подмена байта → S3 400, затем complete 409; JPEG под видом PNG → 415, затем 404; pixel bomb → 413; 11-я заявка → 429 + `Retry-After` | `make-test-e2e.txt`, `presign-spike.txt` | +| 5 / трек 1: истёкший URL и уборка | `E2E_DIRECT_TTL_SHORT=1` на стенде с TTL 5 с | PUT после `expires_at` → 403, строка убрана уборщиком, complete → 404 | `direct-ttl-short.txt` | +| 5 / трек 1: сравнение трафика и RAM API на ≥2 размерах | `make bench` (0.125, 1, 9.5 MiB) | см. таблицу ниже | `summary.md`, `bench/*.json` | -TODO: добавить отдельную строку для каждого заявленного критерия. PASS без команды и наблюдения не является доказательством. Проверка инфраструктурного hook требует подтверждения, какие реальные процессы/хранилища перезапущены. +Оговорка по hook'ам: `make test-persistence` и `make test-failover` подтверждают сохранность данных и +сессии; какие процессы перезапущены, видно по `StartedAt` до/после (`persistence.txt`). +`scripts/stop-one.sh` останавливает только реплику, обслужившую сессию теста (в трёх прогонах +`make test-failover` это была одна и та же реплика), поэтому остановка обеих реплик показана отдельно +`failover-attachment.txt`. ## Эксперименты и отказы -TODO: гипотеза, hardware/лимиты, версии, объём данных, профиль нагрузки, concurrency/arrival rate, длительность/прогрев, повторы, успешные RPS, ошибки, p50/p95/p99, CPU/RAM. Сохранить raw summary без tokens и объяснить ограничения измерения. +**Методика.** Хост: 8 логических CPU, 16 GiB RAM, один Docker-хост. Лимиты: API 1.5 CPU / 768 MiB на +реплику (2 реплики), MinIO 1 CPU / 512 MiB, PG 1.5 CPU / 512 MiB. Версии — см. «Запуск». Нагрузка: +`scripts/lab4/attachments_bench.py`, closed-loop: C потоков × 5 загрузок несжимаемых PNG +(`noise_png`, разные seed), R = 3 повтора, перед каждым повтором — прогрев (не измеряется) и +`POST /internal/metrics/reset` на каждой реплике. Трафик API — дельта `eth0` rx/tx из `/proc/net/dev` +контейнера; RAM — пик `process.memoryUsage().rss` с шагом 50 мс минус RSS в момент reset (Δrss); +в таблицу идёт медиана по повторам, для Δrss — максимум по репликам. Команда: `make bench` +(`scripts/lab4/run_matrix.sh`); raw — `evidence/lab4/bench/*.json` (без токенов и URL). + +**H1 (уровень 4).** Потоковый proxy держит рост пикового RSS реплики ограниченным и почти независимым +от размера файла: Δrss при 10 × 9.5 MiB много меньше суммарного объёма тел в полёте. + +**H2 (трек 1).** Прямая загрузка снижает трафик API на загрузку с ≈2 × size (вход от клиента + выход в +S3) до малой величины, не зависящей от размера, и не растит RSS; латентность малых файлов у direct +выше из-за трёх round trip. + +Результаты (`evidence/lab4/summary.md`; 150 загрузок на строку при C=10, 300 при C=20; ошибок 0): + +| mode | size, MiB | C | API rx/upload, MiB | API tx/upload, MiB | max Δrss, MiB | p50, ms | p95, ms | +| --- | --- | --- | --- | --- | --- | --- | --- | +| direct | 0.12 | 10 | 0.13 | 0.01 | 0.62 | 42 | 62 | +| proxy | 0.12 | 10 | 0.13 | 0.13 | 3.75 | 26 | 53 | +| direct | 1.00 | 10 | 1.01 | 0.01 | 3.88 | 69 | 100 | +| proxy | 1.00 | 10 | 1.01 | 1.01 | 5.12 | 44 | 79 | +| direct | 9.50 | 10 | 0.14 | 0.01 | 0.25 | 377 | 493 | +| proxy | 9.50 | 10 | 9.53 | 9.53 | 10.65 | 212 | 374 | +| proxy | 9.50 | 20 | 9.53 | 9.53 | 17.92 | 414 | 802 | + +Выводы: + +- **H1 подтверждена с оговоркой.** При C=10 и 9.5 MiB пик Δrss — 10.7 MiB при ≈95 MiB тел в полёте; при + C=20 — 17.9 MiB при ≈190 MiB. Память не пропорциональна размеру файла (размер ×76: 0.12 → 9.5 MiB + дал Δrss 3.75 → 10.65 MiB, ×2.8), но и не строго постоянна: растёт слабо с размером и с + concurrency (буферы сокетов, чанки в полёте, аллокатор). Δrss — шумная величина (между повторами одной + конфигурации 9.0–13.4 MiB для proxy 9.5 MiB C=10 и 2.0–5.5 MiB для proxy 1 MiB). +- **H2 подтверждена частично.** Для proxy tx ≈ rx ≈ size (≈2 × size суммарно: вход от клиента и выход + в S3). Для direct при size > 1 MiB API видит ≈0.14 MiB rx (заголовок изображения) и ≈0.01 MiB tx + независимо от размера, Δrss ≈ 0. **Для size ≤ 1 MiB direct не снижает входящий трафик API:** + `complete` читает диапазон до `IMAGE_HEADER_MAX_BYTES` = 1 MiB, и если он покрывает весь объект, + файл дочитывается до конца для `finish()` (структурная проверка) — rx = size (0.13 и 1.01 MiB); + выигрыш только по tx (≈0.01 против size). Латентность direct выше при малых/средних файлах + (p50 42 против 26 мс, 69 против 44 мс — три запроса вместо одного) и выше на 9.5 MiB + (377 против 212 мс): клиент заливает через loopback в MinIO с лимитом 1 CPU, а не через API; прирост + не объясняется в эксперименте и остаётся гипотезой (вероятно, проверка подписи и checksum в MinIO). + +**Ограничения измерений.** Один Docker-хост: клиент, LB, API и MinIO делят 8 CPU, без реальной сети; +`/proc/net/dev` реплики включает трафик PG/Redis и служебные запросы метрик (≈7–8 KiB на загрузку, +видно в tx у direct); closed-loop клиент не моделирует arrival rate; выборка RSS 50 мс может +пропустить короткий пик; нет TLS (до lab7); Python-клиент сам ограничен по CPU, поэтому абсолютные +латентности не переносимы. + +### Отказы | Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных | | --- | --- | --- | --- | -| TODO | TODO | TODO | TODO | +| S3 остановлен (`compose stop s3`) | вложения → bounded 503; текст, история, метаданные, `/health/ready` работают | upload → 503 `unavailable` без утечки деталей; метаданные 200; content 503; текстовое сообщение 201; readiness 200; одна `pending`-строка неудачной загрузки | после `start s3` и healthy download старого файла 200 с теми же байтами, новый upload 201; `pending` убрана sweep; потерь нет | +| PostgreSQL остановлен между S3 PUT и `ready` | 503; объект не должен остаться | ответ 503; объект в S3 компенсирован (`mc stat` — нет), `pending`-строка осталась (БД недоступна) | после старта PG и `waitForReadiness`; строка убрана sweep после `expires_at`; `orphans: 0` | +| Обрыв клиента посреди загрузки (512 KiB из 2 MiB) | не остаётся ни строки, ни объекта | `AbortError` у PUT (без ожидания тайм-аута), компенсация, строк в чате 0 | ≤10 с (предел ожидания теста; точное время не измерялось) | +| Остановка обслужившей реплики | другая реплика отдаёт тот же файл | download 200, тот же sha256, другой `X-Instance-Id` для api-1 и api-2 | ≈3.3 с до первого успешного запроса, 0 неуспешных записей из 134–140 | +| Restart стенда (`scripts/restart.sh`) | метаданные и оригиналы сохраняются, сессия жива | persistence PASS; `StartedAt` всех сервисов изменился | весь прогон `make test-persistence` — 11 с; потерь нет | +| Истёкший presigned URL | PUT отвергается, заявка убирается | PUT → 403; строка убрана уборщиком; complete → 404 | TTL (5 с в прогоне) + grace 0 + период уборщика 1 с | +| Подмена байтов / размера при прямой загрузке | S3 отвергает, объект не создаётся | 400 `XAmzContentChecksumMismatch` / 403 `SignatureDoesNotMatch`; complete → 409 | заявка остаётся до TTL, клиент может доотправить | ## Ограничения и следующие шаги -TODO: какие отказы выдерживаются и какие нет; что не реализовано; где учебное упрощение; какое улучшение подтверждено, а какое пока гипотеза. +- **MinIO:** закреплён образ `RELEASE.2025-09-07T16-13-09Z`; по данным, использованным при планировании, + репозиторий `minio/minio` архивирован — новых образов и исправлений не будет *(в этой сессии не + перепроверялось)*. Для продакшена потребуется замена (SeaweedFS/RustFS) или форк. +- **Прямой путь не проверяет структуру хвоста файла** при size > 1 MiB: только заголовок (до 1 MiB) и + подписанный SHA-256/размер. Байты гарантированно те, что заявил клиент, но заявил он их сам; + усечённый или «склеенный» файл с корректным заголовком пройдёт `complete`. В proxy-режиме проверяется + весь поток (CRC чанков PNG, EOI JPEG). Для size ≤ 1 MiB direct проверяет всё, ценой входящего + трафика API. +- **Гонка лимита заявок:** `countPendingDirect` и `insertPending` не атомарны — параллельные `init` + одного пользователя могут превысить лимит на число параллельных запросов; для лабораторной принято. +- **Загрузка, не доставленная до `ready`, видна уборщику только через grace (по умолчанию 15 мин):** + до этого объект занимает место; для быстрой очистки в тестах grace уменьшается переменной окружения. +- **Недоступность S3 при `compensate`** оставляет объект, если сам `DeleteObject` не прошёл; его + убирает уборщик, но объект без строки (если строка уже удалена вручную) обнаружит только + `make consistency` — автоматического reconciler'а для orphan-объектов без строки нет (это трек 2). +- **TLS нет** до lab7: presigned URL и токены ходят по HTTP; консоль MinIO отключена полностью, поэтому + администрирование — только через `mc` из контейнера. +- **Не реализовано:** варианты вложений (`variants` всегда `[]`; `variant=thumbnail|crop|optimized` → 404), + delete-API вложений, WebP. +- **Подтверждено измерением:** потоковый proxy ограничивает память, direct уменьшает tx API и rx API для + файлов > 1 MiB. **Остаётся гипотезой:** причина роста латентности direct на 9.5 MiB; зависимость Δrss от + concurrency за пределами C=20. diff --git a/app/test/attachments.e2e-spec.ts b/app/test/attachments.e2e-spec.ts index ae6d08c0..4ab1009d 100644 --- a/app/test/attachments.e2e-spec.ts +++ b/app/test/attachments.e2e-spec.ts @@ -314,9 +314,12 @@ describe('attachments (proxy upload)', () => { it('serves unknown content variants as errors, not bytes', async () => { const created = await ready(png); const variant = (name: string) => - http(`/api/v1/attachments/${created.id}/content?variant=${name}`, { - headers: bearer(alice.token), - }); + http( + `/api/v1/attachments/${created.id}/content?variant=${name}`, + { + headers: bearer(alice.token), + }, + ); expect((await variant('original')).response.status).toBe(200); expectError(await variant('thumbnail'), 404, 'not_found'); expectError(await variant('bogus'), 400, 'invalid_request'); diff --git a/evidence/lab4/bench/direct-1048576-c10.json b/evidence/lab4/bench/direct-1048576-c10.json new file mode 100644 index 00000000..ff6950e6 --- /dev/null +++ b/evidence/lab4/bench/direct-1048576-c10.json @@ -0,0 +1,207 @@ +{ + "date": "2026-10-22T19:43:37+00:00", + "git": "39a6df8", + "params": { + "mode": "direct", + "size_bytes": 1048576, + "concurrency": 10, + "uploads_per_worker": 5, + "repeat": 3 + }, + "host": { + "nproc": 8, + "mem_total_bytes": 16538955776 + }, + "api_container_limits_nanocpus_memory": [ + "1500000000 805306368", + "1500000000 805306368" + ], + "repeats": [ + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.472, + "latency_ms": { + "p50": 68.8, + "p95": 100.5, + "p99": 116.7 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 24305156, + "delta_tx_bytes": 190336, + "baseline_rss_bytes": 196403200, + "peak_memory_bytes": { + "rss": 196403200, + "heap_used": 54520056, + "external": 19317560, + "array_buffers": 15527216 + }, + "delta_rss_bytes": 0, + "counters": { + "attachments.count_pending_direct": 27, + "attachments.insert_pending": 27, + "attachments.direct.initiated": 27, + "attachments.find_for_complete": 23, + "attachments.direct.verify_bytes": 24117248, + "attachments.mark_ready": 23, + "attachments.direct.completed": 23 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 28515385, + "delta_tx_bytes": 191536, + "baseline_rss_bytes": 192991232, + "peak_memory_bytes": { + "rss": 192991232, + "heap_used": 50609288, + "external": 23827415, + "array_buffers": 13323225 + }, + "delta_rss_bytes": 0, + "counters": { + "attachments.count_pending_direct": 23, + "attachments.insert_pending": 23, + "attachments.direct.initiated": 23, + "attachments.find_for_complete": 27, + "attachments.direct.verify_bytes": 28311552, + "attachments.mark_ready": 27, + "attachments.direct.completed": 27 + } + } + ], + "total_delta_rx_bytes": 52820541, + "total_delta_tx_bytes": 381872, + "rx_bytes_per_upload": 1056411, + "tx_bytes_per_upload": 7637, + "max_delta_rss_bytes": 0 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.526, + "latency_ms": { + "p50": 73.9, + "p95": 109.6, + "p99": 127.7 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 28515174, + "delta_tx_bytes": 193117, + "baseline_rss_bytes": 193875968, + "peak_memory_bytes": { + "rss": 203390976, + "heap_used": 57046056, + "external": 29834167, + "array_buffers": 26043823 + }, + "delta_rss_bytes": 9515008, + "counters": { + "attachments.count_pending_direct": 23, + "attachments.insert_pending": 23, + "attachments.direct.initiated": 23, + "attachments.find_for_complete": 27, + "attachments.direct.verify_bytes": 28311552, + "attachments.mark_ready": 27, + "attachments.direct.completed": 27 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 24304620, + "delta_tx_bytes": 183249, + "baseline_rss_bytes": 187240448, + "peak_memory_bytes": { + "rss": 193400832, + "heap_used": 55168312, + "external": 23469861, + "array_buffers": 19679517 + }, + "delta_rss_bytes": 6160384, + "counters": { + "attachments.count_pending_direct": 27, + "attachments.insert_pending": 27, + "attachments.direct.initiated": 27, + "attachments.find_for_complete": 23, + "attachments.direct.verify_bytes": 24117248, + "attachments.mark_ready": 23, + "attachments.direct.completed": 23 + } + } + ], + "total_delta_rx_bytes": 52819794, + "total_delta_tx_bytes": 376366, + "rx_bytes_per_upload": 1056396, + "tx_bytes_per_upload": 7527, + "max_delta_rss_bytes": 9515008 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.466, + "latency_ms": { + "p50": 64.7, + "p95": 93.7, + "p99": 107.8 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 26412041, + "delta_tx_bytes": 186281, + "baseline_rss_bytes": 195010560, + "peak_memory_bytes": { + "rss": 195010560, + "heap_used": 51614528, + "external": 19277639, + "array_buffers": 15487295 + }, + "delta_rss_bytes": 0, + "counters": { + "attachments.count_pending_direct": 25, + "attachments.insert_pending": 25, + "attachments.direct.initiated": 25, + "attachments.find_for_complete": 25, + "attachments.direct.verify_bytes": 26214400, + "attachments.mark_ready": 25, + "attachments.direct.completed": 25 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 26410201, + "delta_tx_bytes": 187551, + "baseline_rss_bytes": 190717952, + "peak_memory_bytes": { + "rss": 194781184, + "heap_used": 53366896, + "external": 19243061, + "array_buffers": 15452717 + }, + "delta_rss_bytes": 4063232, + "counters": { + "attachments.count_pending_direct": 25, + "attachments.insert_pending": 25, + "attachments.direct.initiated": 25, + "attachments.find_for_complete": 25, + "attachments.direct.verify_bytes": 26214400, + "attachments.mark_ready": 25, + "attachments.direct.completed": 25 + } + } + ], + "total_delta_rx_bytes": 52822242, + "total_delta_tx_bytes": 373832, + "rx_bytes_per_upload": 1056445, + "tx_bytes_per_upload": 7477, + "max_delta_rss_bytes": 4063232 + } + ] +} diff --git a/evidence/lab4/bench/direct-131072-c10.json b/evidence/lab4/bench/direct-131072-c10.json new file mode 100644 index 00000000..5ec49ab8 --- /dev/null +++ b/evidence/lab4/bench/direct-131072-c10.json @@ -0,0 +1,207 @@ +{ + "date": "2026-10-22T19:43:26+00:00", + "git": "39a6df8", + "params": { + "mode": "direct", + "size_bytes": 131072, + "concurrency": 10, + "uploads_per_worker": 5, + "repeat": 3 + }, + "host": { + "nproc": 8, + "mem_total_bytes": 16538955776 + }, + "api_container_limits_nanocpus_memory": [ + "1500000000 805306368", + "1500000000 805306368" + ], + "repeats": [ + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.265, + "latency_ms": { + "p50": 48.2, + "p95": 62.4, + "p99": 72.8 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 3306431, + "delta_tx_bytes": 182851, + "baseline_rss_bytes": 182366208, + "peak_memory_bytes": { + "rss": 184594432, + "heap_used": 61323144, + "external": 8848467, + "array_buffers": 5055973 + }, + "delta_rss_bytes": 2228224, + "counters": { + "attachments.count_pending_direct": 26, + "attachments.insert_pending": 26, + "attachments.direct.initiated": 26, + "attachments.find_for_complete": 24, + "attachments.direct.verify_bytes": 3145728, + "attachments.mark_ready": 24, + "attachments.direct.completed": 24 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 3573839, + "delta_tx_bytes": 184939, + "baseline_rss_bytes": 182042624, + "peak_memory_bytes": { + "rss": 182796288, + "heap_used": 60727960, + "external": 8999631, + "array_buffers": 5207169 + }, + "delta_rss_bytes": 753664, + "counters": { + "attachments.count_pending_direct": 24, + "attachments.insert_pending": 24, + "attachments.direct.initiated": 24, + "attachments.find_for_complete": 26, + "attachments.direct.verify_bytes": 3407872, + "attachments.mark_ready": 26, + "attachments.direct.completed": 26 + } + } + ], + "total_delta_rx_bytes": 6880270, + "total_delta_tx_bytes": 367790, + "rx_bytes_per_upload": 137605, + "tx_bytes_per_upload": 7356, + "max_delta_rss_bytes": 2228224 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.211, + "latency_ms": { + "p50": 36.7, + "p95": 50.0, + "p99": 54.8 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 3574513, + "delta_tx_bytes": 184486, + "baseline_rss_bytes": 184594432, + "peak_memory_bytes": { + "rss": 184987648, + "heap_used": 60934432, + "external": 9389278, + "array_buffers": 5596784 + }, + "delta_rss_bytes": 393216, + "counters": { + "attachments.count_pending_direct": 24, + "attachments.insert_pending": 24, + "attachments.direct.initiated": 24, + "attachments.find_for_complete": 26, + "attachments.direct.verify_bytes": 3407872, + "attachments.mark_ready": 26, + "attachments.direct.completed": 26 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 3306277, + "delta_tx_bytes": 181456, + "baseline_rss_bytes": 182796288, + "peak_memory_bytes": { + "rss": 183058432, + "heap_used": 59419712, + "external": 8997869, + "array_buffers": 5205407 + }, + "delta_rss_bytes": 262144, + "counters": { + "attachments.count_pending_direct": 26, + "attachments.insert_pending": 26, + "attachments.direct.initiated": 26, + "attachments.find_for_complete": 24, + "attachments.direct.verify_bytes": 3145728, + "attachments.mark_ready": 24, + "attachments.direct.completed": 24 + } + } + ], + "total_delta_rx_bytes": 6880790, + "total_delta_tx_bytes": 365942, + "rx_bytes_per_upload": 137616, + "tx_bytes_per_upload": 7319, + "max_delta_rss_bytes": 393216 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.241, + "latency_ms": { + "p50": 41.6, + "p95": 64.6, + "p99": 72.2 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 3574028, + "delta_tx_bytes": 183565, + "baseline_rss_bytes": 184987648, + "peak_memory_bytes": { + "rss": 185643008, + "heap_used": 62756424, + "external": 9669133, + "array_buffers": 5876639 + }, + "delta_rss_bytes": 655360, + "counters": { + "attachments.count_pending_direct": 24, + "attachments.insert_pending": 24, + "attachments.direct.initiated": 24, + "attachments.find_for_complete": 26, + "attachments.direct.verify_bytes": 3407872, + "attachments.mark_ready": 26, + "attachments.direct.completed": 26 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 3306617, + "delta_tx_bytes": 181349, + "baseline_rss_bytes": 183058432, + "peak_memory_bytes": { + "rss": 183713792, + "heap_used": 62301928, + "external": 9312649, + "array_buffers": 5520187 + }, + "delta_rss_bytes": 655360, + "counters": { + "attachments.count_pending_direct": 26, + "attachments.insert_pending": 26, + "attachments.direct.initiated": 26, + "attachments.find_for_complete": 24, + "attachments.direct.verify_bytes": 3145728, + "attachments.mark_ready": 24, + "attachments.direct.completed": 24 + } + } + ], + "total_delta_rx_bytes": 6880645, + "total_delta_tx_bytes": 364914, + "rx_bytes_per_upload": 137613, + "tx_bytes_per_upload": 7298, + "max_delta_rss_bytes": 655360 + } + ] +} diff --git a/evidence/lab4/bench/direct-9961472-c10.json b/evidence/lab4/bench/direct-9961472-c10.json new file mode 100644 index 00000000..f0b946b7 --- /dev/null +++ b/evidence/lab4/bench/direct-9961472-c10.json @@ -0,0 +1,208 @@ +{ + "date": "2026-10-22T19:44:02+00:00", + "git": "39a6df8", + "params": { + "mode": "direct", + "size_bytes": 9961472, + "concurrency": 10, + "uploads_per_worker": 5, + "repeat": 3 + }, + "host": { + "nproc": 8, + "mem_total_bytes": 16538955776 + }, + "api_container_limits_nanocpus_memory": [ + "1500000000 805306368", + "1500000000 805306368" + ], + "repeats": [ + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 2.977, + "latency_ms": { + "p50": 373.6, + "p95": 580.2, + "p99": 606.3 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 5859769, + "delta_tx_bytes": 204758, + "baseline_rss_bytes": 206934016, + "peak_memory_bytes": { + "rss": 207065088, + "heap_used": 59528520, + "external": 23734700, + "array_buffers": 19944356 + }, + "delta_rss_bytes": 131072, + "counters": { + "attachments.count_pending_direct": 24, + "attachments.insert_pending": 24, + "attachments.direct.initiated": 24, + "attachments.find_for_complete": 26, + "attachments.direct.verify_bytes": 573886, + "attachments.mark_ready": 26, + "attachments.direct.completed": 26 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 2941745, + "delta_tx_bytes": 201620, + "baseline_rss_bytes": 204890112, + "peak_memory_bytes": { + "rss": 205152256, + "heap_used": 58915888, + "external": 11971121, + "array_buffers": 8180777 + }, + "delta_rss_bytes": 262144, + "counters": { + "attachments.count_pending_direct": 26, + "attachments.insert_pending": 26, + "attachments.direct.initiated": 26, + "attachments.find_for_complete": 24, + "attachments.direct.verify_bytes": 454808, + "attachments.mark_ready": 24, + "attachments.direct.completed": 24 + } + } + ], + "total_delta_rx_bytes": 8801514, + "total_delta_tx_bytes": 406378, + "rx_bytes_per_upload": 176030, + "tx_bytes_per_upload": 8128, + "max_delta_rss_bytes": 262144 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 3.016, + "latency_ms": { + "p50": 377.9, + "p95": 493.4, + "p99": 534.7 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 3426165, + "delta_tx_bytes": 205333, + "baseline_rss_bytes": 207065088, + "peak_memory_bytes": { + "rss": 210079744, + "heap_used": 59538608, + "external": 12156543, + "array_buffers": 8366167 + }, + "delta_rss_bytes": 3014656, + "counters": { + "attachments.count_pending_direct": 24, + "attachments.insert_pending": 24, + "attachments.direct.initiated": 24, + "attachments.find_for_complete": 26, + "attachments.direct.verify_bytes": 553814, + "attachments.mark_ready": 26, + "attachments.direct.completed": 26 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 2100305, + "delta_tx_bytes": 201255, + "baseline_rss_bytes": 205152256, + "peak_memory_bytes": { + "rss": 208429056, + "heap_used": 59913256, + "external": 9769093, + "array_buffers": 5978717 + }, + "delta_rss_bytes": 3276800, + "counters": { + "attachments.count_pending_direct": 26, + "attachments.insert_pending": 26, + "attachments.direct.initiated": 26, + "attachments.find_for_complete": 24, + "attachments.direct.verify_bytes": 258704, + "attachments.mark_ready": 24, + "attachments.direct.completed": 24 + } + } + ], + "total_delta_rx_bytes": 5526470, + "total_delta_tx_bytes": 406588, + "rx_bytes_per_upload": 110529, + "tx_bytes_per_upload": 8132, + "max_delta_rss_bytes": 3276800 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 3.128, + "latency_ms": { + "p50": 376.7, + "p95": 483.1, + "p99": 546.2 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 3752711, + "delta_tx_bytes": 204356, + "baseline_rss_bytes": 207192064, + "peak_memory_bytes": { + "rss": 207192064, + "heap_used": 59773496, + "external": 12099081, + "array_buffers": 8308705 + }, + "delta_rss_bytes": 0, + "counters": { + "attachments.claim_expired": 1, + "attachments.count_pending_direct": 24, + "attachments.insert_pending": 24, + "attachments.direct.initiated": 24, + "attachments.find_for_complete": 26, + "attachments.direct.verify_bytes": 458246, + "attachments.mark_ready": 26, + "attachments.direct.completed": 26 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 3511316, + "delta_tx_bytes": 203010, + "baseline_rss_bytes": 205549568, + "peak_memory_bytes": { + "rss": 205549568, + "heap_used": 59832920, + "external": 10075786, + "array_buffers": 6285218 + }, + "delta_rss_bytes": 0, + "counters": { + "attachments.count_pending_direct": 26, + "attachments.insert_pending": 26, + "attachments.direct.initiated": 26, + "attachments.find_for_complete": 24, + "attachments.direct.verify_bytes": 477352, + "attachments.mark_ready": 24, + "attachments.direct.completed": 24 + } + } + ], + "total_delta_rx_bytes": 7264027, + "total_delta_tx_bytes": 407366, + "rx_bytes_per_upload": 145281, + "tx_bytes_per_upload": 8147, + "max_delta_rss_bytes": 0 + } + ] +} diff --git a/evidence/lab4/bench/proxy-1048576-c10.json b/evidence/lab4/bench/proxy-1048576-c10.json new file mode 100644 index 00000000..5df735eb --- /dev/null +++ b/evidence/lab4/bench/proxy-1048576-c10.json @@ -0,0 +1,195 @@ +{ + "date": "2026-10-22T19:43:32+00:00", + "git": "39a6df8", + "params": { + "mode": "proxy", + "size_bytes": 1048576, + "concurrency": 10, + "uploads_per_worker": 5, + "repeat": 3 + }, + "host": { + "nproc": 8, + "mem_total_bytes": 16538955776 + }, + "api_container_limits_nanocpus_memory": [ + "1500000000 805306368", + "1500000000 805306368" + ], + "repeats": [ + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.391, + "latency_ms": { + "p50": 44.5, + "p95": 80.1, + "p99": 85.9 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 26377008, + "delta_tx_bytes": 26400949, + "baseline_rss_bytes": 185679872, + "peak_memory_bytes": { + "rss": 191053824, + "heap_used": 54312648, + "external": 18076371, + "array_buffers": 14283909 + }, + "delta_rss_bytes": 5373952, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 26214400, + "attachments.proxy.bytes_to_s3": 26214400, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 26381521, + "delta_tx_bytes": 26398219, + "baseline_rss_bytes": 183795712, + "peak_memory_bytes": { + "rss": 187359232, + "heap_used": 62541304, + "external": 18146585, + "array_buffers": 9966050 + }, + "delta_rss_bytes": 3563520, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 26214400, + "attachments.proxy.bytes_to_s3": 26214400, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + } + ], + "total_delta_rx_bytes": 52758529, + "total_delta_tx_bytes": 52799168, + "rx_bytes_per_upload": 1055171, + "tx_bytes_per_upload": 1055983, + "max_delta_rss_bytes": 5373952 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.387, + "latency_ms": { + "p50": 47.1, + "p95": 78.9, + "p99": 92.5 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 26389036, + "delta_tx_bytes": 26402274, + "baseline_rss_bytes": 191053824, + "peak_memory_bytes": { + "rss": 196558848, + "heap_used": 56457808, + "external": 23809883, + "array_buffers": 20017421 + }, + "delta_rss_bytes": 5505024, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 26214400, + "attachments.proxy.bytes_to_s3": 26214400, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 26383409, + "delta_tx_bytes": 26401615, + "baseline_rss_bytes": 187490304, + "peak_memory_bytes": { + "rss": 187490304, + "heap_used": 49941720, + "external": 17342677, + "array_buffers": 13550957 + }, + "delta_rss_bytes": 0, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 26214400, + "attachments.proxy.bytes_to_s3": 26214400, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + } + ], + "total_delta_rx_bytes": 52772445, + "total_delta_tx_bytes": 52803889, + "rx_bytes_per_upload": 1055449, + "tx_bytes_per_upload": 1056078, + "max_delta_rss_bytes": 5505024 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.361, + "latency_ms": { + "p50": 42.5, + "p95": 64.3, + "p99": 77.5 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 26387499, + "delta_tx_bytes": 26400516, + "baseline_rss_bytes": 195969024, + "peak_memory_bytes": { + "rss": 197935104, + "heap_used": 51834416, + "external": 25755964, + "array_buffers": 16217341 + }, + "delta_rss_bytes": 1966080, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 26214400, + "attachments.proxy.bytes_to_s3": 26214400, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 26383525, + "delta_tx_bytes": 26400510, + "baseline_rss_bytes": 185294848, + "peak_memory_bytes": { + "rss": 187260928, + "heap_used": 49345096, + "external": 15398018, + "array_buffers": 11607674 + }, + "delta_rss_bytes": 1966080, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 26214400, + "attachments.proxy.bytes_to_s3": 26214400, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + } + ], + "total_delta_rx_bytes": 52771024, + "total_delta_tx_bytes": 52801026, + "rx_bytes_per_upload": 1055420, + "tx_bytes_per_upload": 1056021, + "max_delta_rss_bytes": 1966080 + } + ] +} diff --git a/evidence/lab4/bench/proxy-131072-c10.json b/evidence/lab4/bench/proxy-131072-c10.json new file mode 100644 index 00000000..3c4f9adf --- /dev/null +++ b/evidence/lab4/bench/proxy-131072-c10.json @@ -0,0 +1,195 @@ +{ + "date": "2026-10-22T19:43:22+00:00", + "git": "39a6df8", + "params": { + "mode": "proxy", + "size_bytes": 131072, + "concurrency": 10, + "uploads_per_worker": 5, + "repeat": 3 + }, + "host": { + "nproc": 8, + "mem_total_bytes": 16538955776 + }, + "api_container_limits_nanocpus_memory": [ + "1500000000 805306368", + "1500000000 805306368" + ], + "repeats": [ + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.203, + "latency_ms": { + "p50": 32.4, + "p95": 56.7, + "p99": 62.2 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 3381217, + "delta_tx_bytes": 3397557, + "baseline_rss_bytes": 171487232, + "peak_memory_bytes": { + "rss": 177647616, + "heap_used": 58529080, + "external": 7415675, + "array_buffers": 3621869 + }, + "delta_rss_bytes": 6160384, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 3276800, + "attachments.proxy.bytes_to_s3": 3276800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 3382121, + "delta_tx_bytes": 3397761, + "baseline_rss_bytes": 169697280, + "peak_memory_bytes": { + "rss": 176513024, + "heap_used": 56215752, + "external": 6720398, + "array_buffers": 2926784 + }, + "delta_rss_bytes": 6815744, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 3276800, + "attachments.proxy.bytes_to_s3": 3276800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + } + ], + "total_delta_rx_bytes": 6763338, + "total_delta_tx_bytes": 6795318, + "rx_bytes_per_upload": 135267, + "tx_bytes_per_upload": 135906, + "max_delta_rss_bytes": 6815744 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.147, + "latency_ms": { + "p50": 24.3, + "p95": 37.7, + "p99": 48.6 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 3376685, + "delta_tx_bytes": 3395659, + "baseline_rss_bytes": 177647616, + "peak_memory_bytes": { + "rss": 181579776, + "heap_used": 58637216, + "external": 10920677, + "array_buffers": 7128215 + }, + "delta_rss_bytes": 3932160, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 3276800, + "attachments.proxy.bytes_to_s3": 3276800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 3378833, + "delta_tx_bytes": 3397177, + "baseline_rss_bytes": 176250880, + "peak_memory_bytes": { + "rss": 179134464, + "heap_used": 60877184, + "external": 11462611, + "array_buffers": 7669957 + }, + "delta_rss_bytes": 2883584, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 3276800, + "attachments.proxy.bytes_to_s3": 3276800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + } + ], + "total_delta_rx_bytes": 6755518, + "total_delta_tx_bytes": 6792836, + "rx_bytes_per_upload": 135110, + "tx_bytes_per_upload": 135857, + "max_delta_rss_bytes": 3932160 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 0.161, + "latency_ms": { + "p50": 26.4, + "p95": 52.8, + "p99": 56.1 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 3377664, + "delta_tx_bytes": 3397060, + "baseline_rss_bytes": 181579776, + "peak_memory_bytes": { + "rss": 182104064, + "heap_used": 56837496, + "external": 12815773, + "array_buffers": 9023311 + }, + "delta_rss_bytes": 524288, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 3276800, + "attachments.proxy.bytes_to_s3": 3276800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 3375364, + "delta_tx_bytes": 3395107, + "baseline_rss_bytes": 179134464, + "peak_memory_bytes": { + "rss": 182018048, + "heap_used": 61048680, + "external": 12510518, + "array_buffers": 8718024 + }, + "delta_rss_bytes": 2883584, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 3276800, + "attachments.proxy.bytes_to_s3": 3276800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + } + ], + "total_delta_rx_bytes": 6753028, + "total_delta_tx_bytes": 6792167, + "rx_bytes_per_upload": 135061, + "tx_bytes_per_upload": 135843, + "max_delta_rss_bytes": 2883584 + } + ] +} diff --git a/evidence/lab4/bench/proxy-9961472-c10.json b/evidence/lab4/bench/proxy-9961472-c10.json new file mode 100644 index 00000000..be1fe8fc --- /dev/null +++ b/evidence/lab4/bench/proxy-9961472-c10.json @@ -0,0 +1,195 @@ +{ + "date": "2026-10-22T19:43:49+00:00", + "git": "39a6df8", + "params": { + "mode": "proxy", + "size_bytes": 9961472, + "concurrency": 10, + "uploads_per_worker": 5, + "repeat": 3 + }, + "host": { + "nproc": 8, + "mem_total_bytes": 16538955776 + }, + "api_container_limits_nanocpus_memory": [ + "1500000000 805306368", + "1500000000 805306368" + ], + "repeats": [ + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 2.888, + "latency_ms": { + "p50": 212.3, + "p95": 379.1, + "p99": 447.0 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 249726853, + "delta_tx_bytes": 249832292, + "baseline_rss_bytes": 201834496, + "peak_memory_bytes": { + "rss": 207208448, + "heap_used": 48318768, + "external": 33637892, + "array_buffers": 24213167 + }, + "delta_rss_bytes": 5373952, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 249036800, + "attachments.proxy.bytes_to_s3": 249036800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 249652918, + "delta_tx_bytes": 249806626, + "baseline_rss_bytes": 194772992, + "peak_memory_bytes": { + "rss": 208158720, + "heap_used": 48256584, + "external": 27701797, + "array_buffers": 23911453 + }, + "delta_rss_bytes": 13385728, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 249036800, + "attachments.proxy.bytes_to_s3": 249036800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + } + ], + "total_delta_rx_bytes": 499379771, + "total_delta_tx_bytes": 499638918, + "rx_bytes_per_upload": 9987595, + "tx_bytes_per_upload": 9992778, + "max_delta_rss_bytes": 13385728 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 2.74, + "latency_ms": { + "p50": 188.3, + "p95": 357.0, + "p99": 439.5 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 249720677, + "delta_tx_bytes": 249833753, + "baseline_rss_bytes": 198889472, + "peak_memory_bytes": { + "rss": 207929344, + "heap_used": 48141072, + "external": 34434837, + "array_buffers": 24758541 + }, + "delta_rss_bytes": 9039872, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 249036800, + "attachments.proxy.bytes_to_s3": 249036800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 249698838, + "delta_tx_bytes": 249844044, + "baseline_rss_bytes": 195190784, + "peak_memory_bytes": { + "rss": 202661888, + "heap_used": 48064416, + "external": 26063110, + "array_buffers": 21189095 + }, + "delta_rss_bytes": 7471104, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 249036800, + "attachments.proxy.bytes_to_s3": 249036800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + } + ], + "total_delta_rx_bytes": 499419515, + "total_delta_tx_bytes": 499677797, + "rx_bytes_per_upload": 9988390, + "tx_bytes_per_upload": 9993556, + "max_delta_rss_bytes": 9039872 + }, + { + "uploads": 50, + "succeeded": 50, + "failed": 0, + "duration_s": 2.786, + "latency_ms": { + "p50": 226.6, + "p95": 373.9, + "p99": 483.8 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 249712459, + "delta_tx_bytes": 249847251, + "baseline_rss_bytes": 199180288, + "peak_memory_bytes": { + "rss": 207888384, + "heap_used": 48883976, + "external": 33646702, + "array_buffers": 29856358 + }, + "delta_rss_bytes": 8708096, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 249036800, + "attachments.proxy.bytes_to_s3": 249036800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 249713568, + "delta_tx_bytes": 249832760, + "baseline_rss_bytes": 193859584, + "peak_memory_bytes": { + "rss": 205029376, + "heap_used": 49053528, + "external": 28839619, + "array_buffers": 25049275 + }, + "delta_rss_bytes": 11169792, + "counters": { + "attachments.insert_pending": 25, + "attachments.proxy.bytes_in": 249036800, + "attachments.proxy.bytes_to_s3": 249036800, + "attachments.mark_ready": 25, + "attachments.upload.created": 25 + } + } + ], + "total_delta_rx_bytes": 499426027, + "total_delta_tx_bytes": 499680011, + "rx_bytes_per_upload": 9988521, + "tx_bytes_per_upload": 9993600, + "max_delta_rss_bytes": 11169792 + } + ] +} diff --git a/evidence/lab4/bench/proxy-9961472-c20.json b/evidence/lab4/bench/proxy-9961472-c20.json new file mode 100644 index 00000000..3d2ba65c --- /dev/null +++ b/evidence/lab4/bench/proxy-9961472-c20.json @@ -0,0 +1,196 @@ +{ + "date": "2026-10-22T19:44:24+00:00", + "git": "39a6df8", + "params": { + "mode": "proxy", + "size_bytes": 9961472, + "concurrency": 20, + "uploads_per_worker": 5, + "repeat": 3 + }, + "host": { + "nproc": 8, + "mem_total_bytes": 16538955776 + }, + "api_container_limits_nanocpus_memory": [ + "1500000000 805306368", + "1500000000 805306368" + ], + "repeats": [ + { + "uploads": 100, + "succeeded": 100, + "failed": 0, + "duration_s": 6.29, + "latency_ms": { + "p50": 424.1, + "p95": 796.0, + "p99": 937.9 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 499638310, + "delta_tx_bytes": 499870304, + "baseline_rss_bytes": 192036864, + "peak_memory_bytes": { + "rss": 210829312, + "heap_used": 49626176, + "external": 34069726, + "array_buffers": 30279382 + }, + "delta_rss_bytes": 18792448, + "counters": { + "attachments.insert_pending": 50, + "attachments.proxy.bytes_in": 498073600, + "attachments.proxy.bytes_to_s3": 498073600, + "attachments.mark_ready": 50, + "attachments.upload.created": 50 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 499750187, + "delta_tx_bytes": 500007552, + "baseline_rss_bytes": 194543616, + "peak_memory_bytes": { + "rss": 210604032, + "heap_used": 48759736, + "external": 32187556, + "array_buffers": 28397212 + }, + "delta_rss_bytes": 16060416, + "counters": { + "attachments.insert_pending": 50, + "attachments.proxy.bytes_in": 498073600, + "attachments.proxy.bytes_to_s3": 498073600, + "attachments.mark_ready": 50, + "attachments.upload.created": 50, + "attachments.claim_expired": 1 + } + } + ], + "total_delta_rx_bytes": 999388497, + "total_delta_tx_bytes": 999877856, + "rx_bytes_per_upload": 9993885, + "tx_bytes_per_upload": 9998779, + "max_delta_rss_bytes": 18792448 + }, + { + "uploads": 100, + "succeeded": 100, + "failed": 0, + "duration_s": 5.824, + "latency_ms": { + "p50": 403.2, + "p95": 802.4, + "p99": 987.2 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 499452630, + "delta_tx_bytes": 499737912, + "baseline_rss_bytes": 197160960, + "peak_memory_bytes": { + "rss": 223768576, + "heap_used": 50330816, + "external": 46988209, + "array_buffers": 43197865 + }, + "delta_rss_bytes": 26607616, + "counters": { + "attachments.insert_pending": 50, + "attachments.proxy.bytes_in": 498073600, + "attachments.proxy.bytes_to_s3": 498073600, + "attachments.mark_ready": 50, + "attachments.upload.created": 50 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 499486574, + "delta_tx_bytes": 499756038, + "baseline_rss_bytes": 197701632, + "peak_memory_bytes": { + "rss": 215396352, + "heap_used": 49478224, + "external": 43102012, + "array_buffers": 30263688 + }, + "delta_rss_bytes": 17694720, + "counters": { + "attachments.insert_pending": 50, + "attachments.proxy.bytes_in": 498073600, + "attachments.proxy.bytes_to_s3": 498073600, + "attachments.mark_ready": 50, + "attachments.upload.created": 50 + } + } + ], + "total_delta_rx_bytes": 998939204, + "total_delta_tx_bytes": 999493950, + "rx_bytes_per_upload": 9989392, + "tx_bytes_per_upload": 9994940, + "max_delta_rss_bytes": 26607616 + }, + { + "uploads": 100, + "succeeded": 100, + "failed": 0, + "duration_s": 5.757, + "latency_ms": { + "p50": 413.8, + "p95": 866.6, + "p99": 1090.4 + }, + "replicas": [ + { + "instance_id": "b50bb8514a7b", + "delta_rx_bytes": 499421823, + "delta_tx_bytes": 499732729, + "baseline_rss_bytes": 195944448, + "peak_memory_bytes": { + "rss": 214212608, + "heap_used": 50078520, + "external": 38151413, + "array_buffers": 34361069 + }, + "delta_rss_bytes": 18268160, + "counters": { + "attachments.insert_pending": 50, + "attachments.proxy.bytes_in": 498073600, + "attachments.proxy.bytes_to_s3": 498073600, + "attachments.mark_ready": 50, + "attachments.upload.created": 50 + } + }, + { + "instance_id": "fc61f806b880", + "delta_rx_bytes": 499373397, + "delta_tx_bytes": 499664859, + "baseline_rss_bytes": 196259840, + "peak_memory_bytes": { + "rss": 207290368, + "heap_used": 49133976, + "external": 31644969, + "array_buffers": 27854625 + }, + "delta_rss_bytes": 11030528, + "counters": { + "attachments.insert_pending": 50, + "attachments.proxy.bytes_in": 498073600, + "attachments.proxy.bytes_to_s3": 498073600, + "attachments.mark_ready": 50, + "attachments.upload.created": 50 + } + } + ], + "total_delta_rx_bytes": 998795220, + "total_delta_tx_bytes": 999397588, + "rx_bytes_per_upload": 9987952, + "tx_bytes_per_upload": 9993976, + "max_delta_rss_bytes": 18268160 + } + ] +} diff --git a/evidence/lab4/consistency.txt b/evidence/lab4/consistency.txt new file mode 100644 index 00000000..0b8c1b25 --- /dev/null +++ b/evidence/lab4/consistency.txt @@ -0,0 +1,8 @@ +scripts/lab4/consistency_check.sh +bucket: messenger-attachments +objects: 1308 +rows by status: + 11 pending + 1308 ready +orphans: 0 +missing: 0 diff --git a/evidence/lab4/direct-ttl-short.txt b/evidence/lab4/direct-ttl-short.txt new file mode 100644 index 00000000..09d52f88 --- /dev/null +++ b/evidence/lab4/direct-ttl-short.txt @@ -0,0 +1,8 @@ +> app@0.0.1 test:e2e +> vitest run --config ./vitest.config.e2e.ts direct-upload +The plugin "vite-tsconfig-paths" is detected. Vite now supports tsconfig paths resolution natively via the resolve.tsconfigPaths option. You can remove the plugin and set resolve.tsconfigPaths: true in your Vite config instead. + RUN v4.1.11 /home/tomato/Projects/VP/mtusi2026lab4/app + Test Files 1 passed (1) + Tests 7 passed (7) + Start at 22:45:08 + Duration 8.14s (transform 44ms, setup 0ms, import 75ms, tests 7.94s, environment 0ms) diff --git a/evidence/lab4/failover-attachment.txt b/evidence/lab4/failover-attachment.txt new file mode 100644 index 00000000..8a642656 --- /dev/null +++ b/evidence/lab4/failover-attachment.txt @@ -0,0 +1,11 @@ +# attachment download survives the stop of either replica (sha256 of sample.png: 99ea7533c441f79cd630d15ce4d58d1ec4e06f6f0efb3b77a5c088305cd1bd75) +stopped mtusi-lab4-api-1 + GET content -> HTTP/1.1 200 OK x-instance-id: fc61f806b880 sha256=99ea7533c441f79cd630d15ce4d58d1ec4e06f6f0efb3b77a5c088305cd1bd75 + GET content -> HTTP/1.1 200 OK x-instance-id: fc61f806b880 sha256=99ea7533c441f79cd630d15ce4d58d1ec4e06f6f0efb3b77a5c088305cd1bd75 + GET content -> HTTP/1.1 200 OK x-instance-id: fc61f806b880 sha256=99ea7533c441f79cd630d15ce4d58d1ec4e06f6f0efb3b77a5c088305cd1bd75 +stopped mtusi-lab4-api-2 + GET content -> HTTP/1.1 200 OK x-instance-id: b50bb8514a7b sha256=99ea7533c441f79cd630d15ce4d58d1ec4e06f6f0efb3b77a5c088305cd1bd75 + GET content -> HTTP/1.1 200 OK x-instance-id: b50bb8514a7b sha256=99ea7533c441f79cd630d15ce4d58d1ec4e06f6f0efb3b77a5c088305cd1bd75 + GET content -> HTTP/1.1 200 OK x-instance-id: b50bb8514a7b sha256=99ea7533c441f79cd630d15ce4d58d1ec4e06f6f0efb3b77a5c088305cd1bd75 +mtusi-lab4-api-1 Up 14 seconds (healthy) +mtusi-lab4-api-2 Up 5 seconds (healthy) diff --git a/evidence/lab4/failover.txt b/evidence/lab4/failover.txt new file mode 100644 index 00000000..c2f9f401 --- /dev/null +++ b/evidence/lab4/failover.txt @@ -0,0 +1,21 @@ +# failover round 1 +python3 tests/resilience.py --mode failover --action-script "scripts/stop-one.sh" --base-url "http://localhost:8080" +Executing explicit failover hook; hook output suppressed to avoid leaking secrets. +{"observed_instances_before": 2, "successful_writes": 140, "failed_attempts": 0, "first_recovery_seconds": 3.331} +PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence. +api mtusi-lab4-api-1 Up 26 seconds (healthy) + Container mtusi-lab4-api-1 Running +# failover round 2 +Executing explicit failover hook; hook output suppressed to avoid leaking secrets. +{"observed_instances_before": 2, "successful_writes": 134, "failed_attempts": 0, "first_recovery_seconds": 3.359} +PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence. +mtusi-lab4-api-1 Up 50 seconds (healthy) +mtusi-lab4-api-2 Exited (0) 12 seconds ago +# failover round 3 +Executing explicit failover hook; hook output suppressed to avoid leaking secrets. +{"observed_instances_before": 2, "successful_writes": 134, "failed_attempts": 0, "first_recovery_seconds": 3.328} +PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence. +mtusi-lab4-api-1 Up About a minute (healthy) +mtusi-lab4-api-2 Exited (0) 12 seconds ago +mtusi-lab4-api-1 Up About a minute (healthy) +mtusi-lab4-api-2 Up 5 seconds (healthy) diff --git a/evidence/lab4/make-check.txt b/evidence/lab4/make-check.txt new file mode 100644 index 00000000..9a553306 --- /dev/null +++ b/evidence/lab4/make-check.txt @@ -0,0 +1,2 @@ +python3 scripts/check_contract.py +PASS: offline skeleton structure, local refs and Python syntax; application NOT tested. diff --git a/evidence/lab4/make-test-dependencies.txt b/evidence/lab4/make-test-dependencies.txt new file mode 100644 index 00000000..2e2dd11e --- /dev/null +++ b/evidence/lab4/make-test-dependencies.txt @@ -0,0 +1,9 @@ +cd app && E2E_COMPOSE_DIR="/home/tomato/Projects/VP/mtusi2026lab4" E2E_COMPOSE_ENV_FILE=".env" npm run test:dependencies +> app@0.0.1 test:dependencies +> E2E_DEPENDENCY_FAULTS=1 vitest run --config ./vitest.config.e2e.ts dependency-failures +The plugin "vite-tsconfig-paths" is detected. Vite now supports tsconfig paths resolution natively via the resolve.tsconfigPaths option. You can remove the plugin and set resolve.tsconfigPaths: true in your Vite config instead. + RUN v4.1.11 /home/tomato/Projects/VP/mtusi2026lab4/app + Test Files 1 passed (1) + Tests 6 passed (6) + Start at 22:45:26 + Duration 89.83s (transform 52ms, setup 0ms, import 69ms, tests 89.66s, environment 0ms) diff --git a/evidence/lab4/make-test-e2e.txt b/evidence/lab4/make-test-e2e.txt new file mode 100644 index 00000000..ecaf8051 --- /dev/null +++ b/evidence/lab4/make-test-e2e.txt @@ -0,0 +1,8 @@ +> app@0.0.1 test:e2e +> vitest run --config ./vitest.config.e2e.ts +The plugin "vite-tsconfig-paths" is detected. Vite now supports tsconfig paths resolution natively via the resolve.tsconfigPaths option. You can remove the plugin and set resolve.tsconfigPaths: true in your Vite config instead. + RUN v4.1.11 /home/tomato/Projects/VP/mtusi2026lab4/app + Test Files 3 passed | 1 skipped (4) + Tests 33 passed | 8 skipped (41) + Start at 22:44:49 + Duration 3.73s (transform 239ms, setup 0ms, import 536ms, tests 7.77s, environment 0ms) diff --git a/evidence/lab4/make-test.txt b/evidence/lab4/make-test.txt new file mode 100644 index 00000000..1e7b9ff4 --- /dev/null +++ b/evidence/lab4/make-test.txt @@ -0,0 +1,2 @@ +python3 tests/smoke.py --base-url "http://localhost:8080" +PASS: lab4 public API scenario; infrastructure and grading evidence remain separate. diff --git a/evidence/lab4/persistence.txt b/evidence/lab4/persistence.txt new file mode 100644 index 00000000..1d5f8889 --- /dev/null +++ b/evidence/lab4/persistence.txt @@ -0,0 +1,29 @@ +# before +api Up 19 seconds (healthy) +api Up 19 seconds (healthy) +haproxy Up 11 minutes +postgres Up 2 minutes (healthy) +redis Up 3 minutes (healthy) +s3 Up 3 minutes (healthy) +/mtusi-lab4-postgres-1 2026-10-22T19:38:19.352217508Z +/mtusi-lab4-redis-1 2026-10-22T19:37:15.343086395Z +/mtusi-lab4-s3-1 2026-10-22T19:37:46.289807129Z +/mtusi-lab4-api-1 2026-10-22T19:40:39.879853813Z +/mtusi-lab4-api-2 2026-10-22T19:40:39.774525559Z +/mtusi-lab4-haproxy-1 2026-10-22T19:29:53.978761189Z +python3 tests/resilience.py --mode persistence --action-script "scripts/restart.sh" --base-url "http://localhost:8080" +Executing explicit persistence hook; hook output suppressed to avoid leaking secrets. +PASS: persistence preserved confirmed data and existing session. Hook scope needs operator evidence. +# after +api Up 6 seconds (healthy) +api Up 6 seconds (healthy) +haproxy Up 9 seconds +postgres Up 9 seconds (healthy) +redis Up 9 seconds (healthy) +s3 Up 9 seconds (healthy) +/mtusi-lab4-postgres-1 2026-10-22T19:41:00.616425802Z +/mtusi-lab4-redis-1 2026-10-22T19:41:00.545701172Z +/mtusi-lab4-s3-1 2026-10-22T19:41:00.507714044Z +/mtusi-lab4-api-1 2026-10-22T19:41:03.631509569Z +/mtusi-lab4-api-2 2026-10-22T19:41:03.665389961Z +/mtusi-lab4-haproxy-1 2026-10-22T19:41:00.434084255Z diff --git a/evidence/lab4/readonly-api.txt b/evidence/lab4/readonly-api.txt new file mode 100644 index 00000000..982ea3b8 --- /dev/null +++ b/evidence/lab4/readonly-api.txt @@ -0,0 +1 @@ +touch: cannot touch '/usr/src/app/x': Read-only file system diff --git a/evidence/lab4/s3-security.txt b/evidence/lab4/s3-security.txt new file mode 100644 index 00000000..be087818 --- /dev/null +++ b/evidence/lab4/s3-security.txt @@ -0,0 +1,10 @@ +scripts/lab4/check_s3_security.sh +PASS anonymous GET of a ready object -> 403 +PASS anonymous list of the bucket -> 403 +PASS anonymous PUT -> 403 +PASS API credentials cannot create buckets +PASS API credentials cannot use admin API +PASS API credentials can read attachments/* +PASS API credentials cannot write outside attachments/ +PASS console port 9001 is not published +PASS console not reachable on localhost:9001 diff --git a/evidence/lab4/summary.md b/evidence/lab4/summary.md new file mode 100644 index 00000000..eb63419d --- /dev/null +++ b/evidence/lab4/summary.md @@ -0,0 +1,9 @@ +| mode | size, MiB | C | ok | API rx/upload, MiB | API tx/upload, MiB | max Δrss, MiB | p50, ms | p95, ms | +|---|---|---|---|---|---|---|---|---| +| direct | 0.12 | 10 | 150/150 | 0.13 | 0.01 | 0.62 | 42 | 62 | +| proxy | 0.12 | 10 | 150/150 | 0.13 | 0.13 | 3.75 | 26 | 53 | +| direct | 1.00 | 10 | 150/150 | 1.01 | 0.01 | 3.88 | 69 | 100 | +| proxy | 1.00 | 10 | 150/150 | 1.01 | 1.01 | 5.12 | 44 | 79 | +| direct | 9.50 | 10 | 150/150 | 0.14 | 0.01 | 0.25 | 377 | 493 | +| proxy | 9.50 | 10 | 150/150 | 9.53 | 9.53 | 10.65 | 212 | 374 | +| proxy | 9.50 | 20 | 300/300 | 9.53 | 9.53 | 17.92 | 414 | 802 | diff --git a/evidence/lab4/unit-tests.txt b/evidence/lab4/unit-tests.txt new file mode 100644 index 00000000..5a32feef --- /dev/null +++ b/evidence/lab4/unit-tests.txt @@ -0,0 +1,8 @@ +The plugin "vite-tsconfig-paths" is detected. Vite now supports tsconfig paths resolution natively via the resolve.tsconfigPaths option. You can remove the plugin and set resolve.tsconfigPaths: true in your Vite config instead. + RUN v4.1.11 /home/tomato/Projects/VP/mtusi2026lab4/app +[Nest] 3057161 - 10/22/2026, 10:44:47 PM WARN [MessagesCacheService] Cache read failed, serving PostgreSQL: redis down +[Nest] 3057161 - 10/22/2026, 10:44:47 PM WARN [MessagesCacheService] Cache fill failed: redis down + Test Files 10 passed (10) + Tests 36 passed (36) + Start at 22:44:46 + Duration 1.93s (transform 718ms, setup 0ms, import 5.44s, tests 373ms, environment 1ms)