Байты вложения лежат в общем S3, метаданные — в PostgreSQL, поэтому остановка загрузившей реплики не мешает другой отдать тот же файл. Idempotency-Key не даёт повторной отправке создать второе сообщение. Автор / группа: ivanstorozhev, БВТ2304 Целевая оценка (3/4/5): 3 Трек 5, если заявлен: не заявлен Что реализовано и что перенесено: из lab3 перенесены Spring Boot API, PostgreSQL, Redis-кэш сессий, Argon2id, Liquibase через одноразовый сервис migrate, HAProxy без sticky session, две реплики, X-Instance-Id, обязательный Idempotency-Key, scripts/stop-one.sh и scripts/restart.sh. Добавлены приватный SeaweedFS, таблица attachments, связь сообщения с вложениями и скачивание оригинала через API. Ключ объекта назначает сервер, имя файла только отображается. Команды запуска из чистого clone: cp .env.example .env docker compose --env-file .env config --quiet docker compose --env-file .env up -d --build curl -fsS http://127.0.0.1:8080/health/ready make test make test-persistence ACTION_SCRIPT=scripts/restart.sh make test-failover ACTION_SCRIPT=scripts/stop-one.sh docker compose --env-file .env start api Результаты проверок и ссылка на REPORT.md: подробности и числа в REPORT.md make check — PASS: offline skeleton structure, local refs and Python syntax. make test — PASS: lab4 public API scenario. make test-persistence ACTION_SCRIPT=scripts/restart.sh — PASS: persistence preserved confirmed data and existing session. make test-failover ACTION_SCRIPT=scripts/stop-one.sh — PASS: две реплики до отказа, восстановление записи за 1.665 с, 119 успешных записей и 1 ошибка перехода. mvn -q test в backend/ — 16 тестов без ошибок, включая PNG по содержимому, подмену MIME, опасное имя файла и чужое вложение. Анонимный GET объекта в сети стенда — HTTP 403. Ограничения / известные ошибки: трек 5 и полный уровень 4 не делались. Один Docker-хост, единственные PostgreSQL, Redis, SeaweedFS и HAProxy остаются точками отказа. Если процесс умер после PUT и до COMMIT, объект может остаться без строки в БД. Ключ S3 один, с правами Admin. Пик памяти при параллельных загрузках не измерялся. Пока HAProxy не снял backend, часть запросов на останавливаемую реплику завершается ошибкой соединения; повтор с тем же Idempotency-Key безопасен для отправки сообщения. Источники и использование ИИ: контракт contracts/openapi.json и contracts/README.md; код lab3; Spring Boot 4.1.1, Spring Data JPA, spring-security-crypto, Spring Data Redis, Liquibase, Actuator, MapStruct 1.6.3, OpenAPI Generator 7.17.0, AWS SDK for Java 2.31.50, Bouncy Castle, PostgreSQL 16.10, Redis 7.4.6, HAProxy 3.2.6, SeaweedFS 4.52, Testcontainers. Реализация собрана в Cursor. Весь обязательный минимум текущей и предыдущих работ сохранён с объявленными переходами. Контракт и публичные тесты не ослаблены. make check и make test выполнены; приложен реальный вывод. Сценарии отказов своего уровня воспроизведены. Все секреты и приватные ключи находятся вне Git; отчёт не содержит tokens. README задания сохранён, REPORT.md содержит инструкцию именно моего решения.
13 KiB
Отчёт — лабораторная 4
- Автор, группа: ivanstorozhev, БВТ2304
- Целевая оценка: 3
- Трек 5: не выбран
- Commit/PR: TODO после публикации
- Использованные источники, библиотеки и помощь ИИ: контракт
contracts/openapi.json1.4.0 иcontracts/README.md; код lab3 (Spring Boot 4.1.1, Spring Data JPA, Liquibase, Redis-кэш сессий, HAProxy, Argon2id, MapStruct, OpenAPI Generator 7.17.0). Новое: AWS SDK for Java 2.31.50 (s3,apache-client), SeaweedFS 4.52 как S3. Помощь ИИ: реализация стенда и отчёта в Cursor.
Запуск из чистого clone
Нужны Docker Desktop (проверено 28.5.1), Docker Compose и Python 3.9+. JDK 21 и Maven 3.9 нужны только для mvn test вне образа.
cp .env.example .env
# Перед общим стендом замените учебные пароли PostgreSQL и ключ S3 в .env.
docker compose --env-file .env config --quiet
docker compose --env-file .env up -d --build
curl -fsS http://127.0.0.1:8080/health/ready
make test
make test-persistence ACTION_SCRIPT=scripts/restart.sh
make test-failover ACTION_SCRIPT=scripts/stop-one.sh
# Поднять остановленную реплику:
docker compose --env-file .env start api
Миграции выполняет одноразовый сервис migrate: тот же JAR с профилем migrate. Реплики api стартуют после него с SPRING_LIQUIBASE_ENABLED=false. Bucket messenger-attachments создаёт API при readiness (headBucket, при 404 — createBucket). Повторный старт тот же bucket не пересоздаёт.
Остановка без удаления данных: docker compose --env-file .env stop. Снятие контейнеров с сохранением volumes: docker compose --env-file .env down. Намеренное удаление учебных данных: docker compose --env-file .env down -v. Файл .env в Git не входит.
Свои проверки: mvn -q test в backend/ (Testcontainers поднимает PostgreSQL, Redis и SeaweedFS).
Архитектура и решения
Клиент ходит только в HAProxy на 127.0.0.1:8080. Две реплики api портов наружу не публикуют. Балансировка, сессии, идемпотентность и X-Instance-Id перенесены из lab3 без изменений смысла: PostgreSQL — источник истины пользователей, чатов, сообщений и сессий; Redis — только кэш разбора Bearer.
Байты вложения лежат в SeaweedFS (chrislusf/seaweedfs:4.52, команда server -s3), не в PostgreSQL и не на диске API. Образ MinIO с Docker Hub к этой дате снят, поэтому выбран SeaweedFS. Порты S3, master и filer наружу не опубликованы. Filer UI выключен (-filer.exposeDirectoryData=false). Анонимной личности в infra/s3.json нет.
Метаданные — таблица attachments (чат, владелец, отображаемое имя, MIME, размер, SHA-256, ключ объекта, статус ready). Связь с сообщением — message_attachments с порядком. Ключ объекта назначает сервер (originals/{uuid}) и в API не возвращается. Имя файла только для отображения: 1–255 кодовых точек, без /, \ и управляющих символов.
POST /api/v1/chats/{chat_id}/attachments принимает сырые байты image/png или image/jpeg. Длина режется по Content-Length и по чтению не больше 10 MiB до разбора картинки. PNG и JPEG проверяются по сигнатуре и заголовкам (размеры, IEND/EOI), пиксели не распаковываются. Подмена MIME и мусор — 415, больше 10 MiB или 40 млн пикселей — 413. После PUT в S3 строка пишется в PostgreSQL. Если транзакция не прошла, этот же запрос удаляет только что записанный объект. 201 возвращается со status=ready.
Скачивание идёт через API (GET /api/v1/attachments/{id}/content), без редиректа. Участник чата получает те же байты и исходный Content-Type. Посторонний и вложение другого чата — 404. variant кроме original — 400.
Пустой текст сообщения допустим, только если есть хотя бы одно вложение. Нет поля attachment_ids и [] дают один и тот же ключ идемпотентности. Другой набор id при том же ключе — 409.
/health/ready включает процесс, PostgreSQL и S3. Redis в readiness не входит. scripts/restart.sh перезапускает lb, api, postgres, redis и s3, затем ждёт /health/ready и ещё 5 с: сразу после старта SeaweedFS master уже отвечает, а чтение объекта ещё может не успеть уложиться в таймаут клиента (2 с).
| Роль | Сервис | Образ | Готовность | Volume | Сеть | Credentials |
|---|---|---|---|---|---|---|
| API | api × API_REPLICAS |
messenger-lab4:1.0.0, сборка из backend/ |
GET /health/ready |
нет локального файла оригинала | порт наружу не опубликован | env Spring и S3 |
| Балансировщик | lb |
haproxy:3.2.6 |
процесс слушает 8080 | нет | только 127.0.0.1:8080 |
нет |
| Метаданные | postgres |
postgres:16.10 |
pg_isready |
postgres-data |
5432 только внутри сети | POSTGRES_* из .env |
| Кэш сессии | redis |
redis:7.4.6 |
redis-cli ping |
redis-data |
6379 только внутри сети | без пароля, сеть стенда |
| Объекты | s3 |
chrislusf/seaweedfs:4.52 |
GET :9333/cluster/status |
s3-data |
8333/9333 только внутри сети | S3_ACCESS_KEY / S3_SECRET_KEY, SeaweedFS подставляет их в infra/s3.json |
| Миграции | migrate |
тот же образ API | завершается с кодом 0 | нет | нет | тот же datasource |
Лимиты контейнеров: API 1 CPU и 1024 MiB на реплику, PostgreSQL 1 CPU и 512 MiB, Redis 0.25 CPU и 128 MiB, HAProxy 0.25 CPU и 128 MiB, S3 0.5 CPU и 512 MiB.
Соответствие .env.example: переменные lab3 те же. S3_ENDPOINT в Compose — http://s3:8333, регион us-east-1, bucket messenger-attachments. MAX_UPLOAD_BYTES и MAX_IMAGE_PIXELS задают лимиты загрузки. Имена *_FILE из курса оставлены комментарием: стенд передаёт доступ переменными окружения, не файлами секретов.
Доказательства критериев
Стенд: Mac, arm64, 12 CPU, 24 GiB RAM, Docker 28.5.1. Прогон 5 ноября 2026.
| Критерий README | Команда/сценарий | Наблюдаемый результат | Файл доказательства |
|---|---|---|---|
| Публичный smoke, checksum, чужой пользователь | make test |
PASS: lab4 public API scenario |
evidence/results.txt |
| Две реплики, S3 и API без внешнего порта | docker compose ps и docker inspect |
два API healthy, наружу только lb на 127.0.0.1:8080; у api и s3 host-порт null |
evidence/limits.txt, evidence/results.txt |
| Приватный bucket | анонимный GET объекта из контейнера в сети стенда | HTTP 403, ключей в запросе не было | evidence/results.txt |
| Метаданные и оригинал переживают рестарт | make test-persistence ACTION_SCRIPT=scripts/restart.sh |
PASS: persistence preserved confirmed data and existing session. Хук перезапускает lb, api, postgres, redis и s3, volumes не удаляет |
evidence/results.txt, scripts/restart.sh |
| Скачивание с другой реплики | make test-failover ACTION_SCRIPT=scripts/stop-one.sh на прогретом стенде |
до отказа 2 instance id; 119 успешных записей, 1 ошибка на переходе, первая успешная запись через 1.665 с. PASS. В ps сразу после теста не было остановленной реплики api-2; docker compose start api вернул её в healthy |
evidence/results.txt |
| Реальный PNG, MIME, опасное имя, чужой чат | mvn -q test |
fixture 320×200 проходит; мусор с Content-Type: image/png — 415; ../secret.png — 400; вложение другого чата — 404; посторонний — 404; заголовок PNG 8000×8000 — 413 без распаковки пикселей. Всего 16 тестов, 0 ошибок |
ImageFilesTest, AttachmentIntegrationTest |
| Возможности lab3 | те же тесты идемпотентности и стенд из lab3 | IdempotencyIntegrationTest входит в те же 16 тестов |
backend/src/test |
| Трек 5 и уровень 4 целиком | не заявлялись | — | — |
Эксперименты и отказы
Отдельного профиля нагрузки для lab4 нет: целевая оценка 3, измерение RAM при ≥10 одновременных загрузках не проводилось. Клиент публичных тестов отказов обрывает запрос через 2 с.
| Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных |
|---|---|---|---|
scripts/restart.sh перезапускает lb, api, postgres, redis, s3 |
тот же Bearer читает сообщение и исходные байты | persistence-тест прошёл после паузы 5 с за /health/ready |
подтверждённые метаданные и оригинал на месте |
| Первый failover сразу после этого рестарта | загрузка fixture и затем остановка реплики | TimeoutError на POST вложения ещё до hook: чтение S3 не уложилось в 2 с |
повтор на уже прогретом стенде прошёл |
stop-one.sh на прогретом стенде |
другая реплика отдаёт тот же файл, остановленная сама не поднимается | 2 instance id до отказа, восстановление записи 1.665 с, PASS; остановленная реплика отсутствовала в ps |
подтверждённые данные на месте, реплика поднята вручную start api |
Ограничения и следующие шаги
Один Docker-host не переживает потерю этой машины. Единственные PostgreSQL, Redis, SeaweedFS и HAProxy остаются точками отказа.
Если процесс API умирает после успешного PUT и до COMMIT, объект в bucket остаётся без строки в PostgreSQL. Обратная компенсация есть только в том же запросе, когда ошибка поймана. Отдельного reconciler и grace period нет — это пункт оценки 4, здесь не сделан.
Ключ S3 один, с правами Admin/Read/Write/List/Tagging. Отдельного пользователя только на запись и чтение своего bucket нет. Консоль наружу не открыта, анонимное чтение отвечает 403.
Тело больше примерно 12 MiB может обрезать Tomcat своим 413 до JSON приложения. Лимит контракта 10 MiB проверяется в приложении. Пик памяти на 10 параллельных загрузок не измерялся.
Пока HAProxy не снял backend, часть запросов попадает в останавливаемую реплику. Балансировщик POST не повторяет. Клиент может повторить тот же Idempotency-Key.