ЛР 4 — БВТ2303 — Тюнин — на 5 #12

Closed
ilya.tyunin wants to merge 15 commits from ilya.tyunin/mtusi2026lab4:lab4 into main
First-time contributor

Лабораторная 4

Автор / группа: Илья Тюнин / БВТ2303
Целевая оценка (3/4/5): 5
Трек 5, если заявлен: трек 1 «Прямой upload» (presigned PUT)

Что реализовано и что перенесено:

  • Перенесено из lab3: NestJS 12 + Fastify 5, PostgreSQL, Redis-сессии и кэш, идемпотентность POST сообщений, HAProxy + 2 API-реплики, хуки restart.sh / stop-one.sh / start-replica.sh.
  • Стенд: MinIO (образ закреплён по digest), идемпотентный bootstrap s3-init (приватный bucket, политика messenger-api только на attachments/*, отдельный пользователь API), секреты через Docker secrets (make init-env), консоль MinIO отключена, порт 9001 не публикуется, корневая ФС API read_only.
  • Proxy upload PNG/JPEG: потоковая передача в S3 без буферизации тела; ImageInspector проверяет сигнатуру, структуру и CRC, лимиты 10 MiB / 40 млн пикселей применяются до чтения; при отказе — компенсация; 201 ready только после PUT в S3 и markReady.
  • Download через API с проверкой членства в чате; attachment_ids в сообщениях (атомарно в CREATE_ONCE_SQL, составные FK запрещают вложение другого чата); уборщик незавершённых загрузок с grace period; CLI sweep.
  • Недоступность S3 — деградация: вложения отвечают 503, текст, история и readiness работают.
  • Трек 1: POST /chats/{id}/attachments/direct-uploads → presigned PUT (подписаны content-type, content-length, x-amz-checksum-sha256) → POST /attachments/{id}/complete (HEAD + чтение заголовка изображения, статус rejected для отклонённых); расширение — contracts/extensions.openapi.json, обязательный proxy endpoint не изменён.

Команды запуска из чистого clone:

make init-env && make stand-up && make wait-ready
make check && make test && make test-e2e
make test-dependencies && make s3-security && make consistency
make test-persistence ACTION_SCRIPT=scripts/restart.sh
make test-failover ACTION_SCRIPT=scripts/stop-one.sh && scripts/start-replica.sh
make bench

Остановка: make stand-down (тома сохраняются); удаление данных: docker compose --env-file .env down -v.

Результаты проверок и ссылка на REPORT.md: REPORT.md; вывод — evidence/lab4/.

  • make check — PASS; make test — PASS (make-check.txt, make-test.txt).

  • make test-e2e: 34 passed, 8 skipped (opt-in); unit-тесты: 36 passed.

  • make test-dependencies: 6 passed (Redis, PG, S3 down, PG down между PUT и ready).

  • Persistence и failover — PASS; download после остановки каждой из реплик возвращает тот же sha256.

  • make s3-security: 9 PASS; make consistency: orphans 0, missing 0; спайк подписи: чужие байты → S3 400/403.

  • Эксперимент: proxy 10×9.5 MiB — пик Δrss 15.7 MiB, 20×9.5 MiB — 16.5 MiB; direct — трафик API ≈0.07 MiB на загрузку при любом размере, proxy ≈2×size.

  • Весь обязательный минимум текущей и предыдущих работ сохранён с объявленными переходами.

  • Контракт и публичные тесты не ослаблены.

  • make check и make test выполнены; приложен реальный вывод.

  • Сценарии отказов/безопасности своего уровня воспроизведены.

  • Все секреты и приватные ключи находятся вне Git; отчёт не содержит tokens.

  • README задания сохранён, REPORT.md содержит инструкцию именно моего решения.

## Лабораторная 4 Автор / группа: Илья Тюнин / БВТ2303 Целевая оценка (3/4/5): 5 Трек 5, если заявлен: трек 1 «Прямой upload» (presigned PUT) Что реализовано и что перенесено: - Перенесено из lab3: NestJS 12 + Fastify 5, PostgreSQL, Redis-сессии и кэш, идемпотентность POST сообщений, HAProxy + 2 API-реплики, хуки `restart.sh` / `stop-one.sh` / `start-replica.sh`. - Стенд: MinIO (образ закреплён по digest), идемпотентный bootstrap `s3-init` (приватный bucket, политика `messenger-api` только на `attachments/*`, отдельный пользователь API), секреты через Docker secrets (`make init-env`), консоль MinIO отключена, порт 9001 не публикуется, корневая ФС API `read_only`. - Proxy upload PNG/JPEG: потоковая передача в S3 без буферизации тела; `ImageInspector` проверяет сигнатуру, структуру и CRC, лимиты 10 MiB / 40 млн пикселей применяются до чтения; при отказе — компенсация; 201 ready только после PUT в S3 и `markReady`. - Download через API с проверкой членства в чате; `attachment_ids` в сообщениях (атомарно в `CREATE_ONCE_SQL`, составные FK запрещают вложение другого чата); уборщик незавершённых загрузок с grace period; CLI sweep. - Недоступность S3 — деградация: вложения отвечают 503, текст, история и readiness работают. - Трек 1: `POST /chats/{id}/attachments/direct-uploads` → presigned PUT (подписаны content-type, content-length, x-amz-checksum-sha256) → `POST /attachments/{id}/complete` (HEAD + чтение заголовка изображения, статус `rejected` для отклонённых); расширение — `contracts/extensions.openapi.json`, обязательный proxy endpoint не изменён. Команды запуска из чистого clone: ```sh make init-env && make stand-up && make wait-ready make check && make test && make test-e2e make test-dependencies && make s3-security && make consistency make test-persistence ACTION_SCRIPT=scripts/restart.sh make test-failover ACTION_SCRIPT=scripts/stop-one.sh && scripts/start-replica.sh make bench ``` Остановка: `make stand-down` (тома сохраняются); удаление данных: `docker compose --env-file .env down -v`. Результаты проверок и ссылка на REPORT.md: [REPORT.md](../REPORT.md); вывод — `evidence/lab4/`. - `make check` — PASS; `make test` — PASS (`make-check.txt`, `make-test.txt`). - `make test-e2e`: 34 passed, 8 skipped (opt-in); unit-тесты: 36 passed. - `make test-dependencies`: 6 passed (Redis, PG, S3 down, PG down между PUT и ready). - Persistence и failover — PASS; download после остановки каждой из реплик возвращает тот же sha256. - `make s3-security`: 9 PASS; `make consistency`: orphans 0, missing 0; спайк подписи: чужие байты → S3 400/403. - Эксперимент: proxy 10×9.5 MiB — пик Δrss 15.7 MiB, 20×9.5 MiB — 16.5 MiB; direct — трафик API ≈0.07 MiB на загрузку при любом размере, proxy ≈2×size. - [x] Весь обязательный минимум текущей и предыдущих работ сохранён с объявленными переходами. - [x] Контракт и публичные тесты не ослаблены. - [x] make check и make test выполнены; приложен реальный вывод. - [x] Сценарии отказов/безопасности своего уровня воспроизведены. - [x] Все секреты и приватные ключи находятся вне Git; отчёт не содержит tokens. - [x] README задания сохранён, REPORT.md содержит инструкцию именно моего решения.
ilya.tyunin added 9 commits 2026-10-23 01:54:45 +03:00
Owner

Криты:

  1. Потеря оригинала при сбое связи с PostgreSQL — самое критичное. COMMIT уже выполнен, но API теряет ответ и удаляет объект S3. В БД остаётся ready, а скачивание возвращает 500. Подтверждено fault-тестом. Причина: attachments.service.ts:284.
  2. Proxy принимает файлы, которые не являются валидными изображениями. PNG с невалидным IDAT и фиктивный JPEG без данных изображения получают 201 ready вместо 415. Проверки структуры и CRC недостаточно: image-inspector.ts:99.
  3. Direct complete пропускает повреждённые изображения. Усечённый PNG и файл с повреждением после первых 64 KiB получают 200 ready. Проверяется только начало; правильный checksum повреждённого файла это не исправляет: direct-uploads.service.ts:210.
Криты: 1. Потеря оригинала при сбое связи с PostgreSQL — самое критичное. COMMIT уже выполнен, но API теряет ответ и удаляет объект S3. В БД остаётся ready, а скачивание возвращает 500. Подтверждено fault-тестом. Причина: [attachments.service.ts:284](https://gitea.privcloud.tech/ilya.tyunin/mtusi2026lab4/src/commit/b32ce9a75deb8f4e68e8472b9d9be0d2af3ca9f8/app/src/attachments/attachments.service.ts#L284). 2. Proxy принимает файлы, которые не являются валидными изображениями. PNG с невалидным IDAT и фиктивный JPEG без данных изображения получают 201 ready вместо 415. Проверки структуры и CRC недостаточно: [image-inspector.ts:99](https://gitea.privcloud.tech/ilya.tyunin/mtusi2026lab4/src/commit/b32ce9a75deb8f4e68e8472b9d9be0d2af3ca9f8/app/src/attachments/image/image-inspector.ts#L99). 3. Direct complete пропускает повреждённые изображения. Усечённый PNG и файл с повреждением после первых 64 KiB получают 200 ready. Проверяется только начало; правильный checksum повреждённого файла это не исправляет: [direct-uploads.service.ts:210](https://gitea.privcloud.tech/ilya.tyunin/mtusi2026lab4/src/commit/b32ce9a75deb8f4e68e8472b9d9be0d2af3ca9f8/app/src/attachments/direct-uploads.service.ts#L210).
ilya.tyunin added 6 commits 2026-10-23 17:35:38 +03:00
Owner

Принято. Закрываю МР.

Принято. Закрываю МР.
veprickiy closed this pull request 2026-10-24 16:17:29 +03:00

Pull request closed

Please reopen this pull request to perform a merge.
Sign in to join this conversation.
No Reviewers
No labels
2 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: mtusi2026/mtusi2026lab4#12