38 changed files with 4343 additions and 14 deletions
+7
View File
@@ -0,0 +1,7 @@
*.sh text eol=lf
Dockerfile text eol=lf
*.sql text eol=lf
*.py text eol=lf
*.cmd text eol=crlf
*.cfg text eol=lf
*.yaml text eol=lf
+11
View File
@@ -0,0 +1,11 @@
FROM python:3.12.7-slim-bookworm
ENV PYTHONDONTWRITEBYTECODE=1 PYTHONUNBUFFERED=1
WORKDIR /app
COPY src/requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt
COPY src/ .
RUN useradd -r -u 10001 appuser
USER appuser
EXPOSE 8080
HEALTHCHECK --interval=5s --timeout=3s --retries=10 CMD python -c "import urllib.request as u;u.urlopen('http://127.0.0.1:8080/health/live',timeout=2)"
CMD ["uvicorn","app.main:app","--host","0.0.0.0","--port","8080","--timeout-graceful-shutdown","10"]
+134 -14
View File
@@ -1,37 +1,157 @@
# Отчёт — лабораторная 4
- Автор, группа: TODO
- Целевая оценка; выбранный трек 5, если нужен: TODO
- Commit/PR: TODO после публикации
- Использованные источники, библиотеки и помощь ИИ: TODO
- Автор, группа: Корнилов Михаил, БПИ2304
- Целевая оценка: 3. Трек 5 не заявлен.
- Использованные источники, библиотеки и помощь ИИ:
Библиотеки: starlette, uvicorn, psycopg 3 + psycopg_pool, argon2-cffi, boto3 1.35.99 (S3-клиент).
Образы: `postgres:16.4-alpine`, `haproxy:2.8.10-alpine`, `chrislusf/seaweedfs:4.42`, `python:3.12.7-slim-bookworm`.
При подготовке использовалась помощь Claude
## Запуск из чистого clone
TODO: версии runtime/образов, prerequisites, команды создания локальных secrets/.env, build, миграций, запуска, ожидания готовности, тестов и остановки. Указать необходимые действия оператора. Не вставлять секреты. Отдельно указать безопасную остановку и команду намеренного удаления учебных данных.
Prerequisites: Docker Desktop (Compose v2), Git Bash (Windows) либо любой sh, Python 3.9+ для тестов. Версии для прогона записаны в `evidence/01-env.txt`. Внимание: порт `127.0.0.1:8080` должен быть свободен (остановите стенды предыдущих лабораторных: `docker compose stop` в их папках).
```sh
sh scripts/setup-secrets.sh # secrets/*: пароль БД, ключи S3 (admin и ограниченный ключ API), конфигурация S3; значения не печатаются
cp .env.example .env # необязательно: у переменных есть значения по умолчанию в compose.yaml
docker compose --env-file .env config --quiet
docker compose up -d --build # postgres, s3 -> migrate, s3-init (однократно) -> api x2 -> lb; ~1-2 минуты (S3 стартует ~20 с)
curl http://localhost:8080/health/ready # ждём {"status":"ok"}
python tests/smoke.py --base-url http://localhost:8080 # = make test
python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd --base-url http://localhost:8080 # = make test-failover
python tests/resilience.py --mode persistence --action-script scripts/restart.cmd --base-url http://localhost:8080 # = make test-persistence
# Linux/macOS: те же команды с scripts/stop-one.sh и scripts/restart.sh
docker compose start api # вернуть остановленную тестом реплику
sh scripts/collect-evidence.sh # все проверки ниже и сохранение в evidence/ (--fresh сначала удаляет данные)
docker compose stop # безопасная остановка: контейнеры остановлены, данные (pgdata, s3data) сохранены
docker compose down -v # ОСОЗНАННОЕ удаление учебных данных (тома pgdata и s3data)
```
Действия оператора: только `setup-secrets.sh` (создать секреты). Порт опубликован только у LB (`127.0.0.1:8080`); API-реплики, PostgreSQL и S3 наружу не публикуются.
## Архитектура и решения
TODO: схема процессов/хранилищ, источник истины, транзакционные границы, ограничения. Что перенесено из lab3, что изменено в этой работе. Соответствие переменных из .env.example реальной конфигурации.
```
клиент -> lb (HAProxy, :8080) -> api x N -> postgres (пользователи, чаты, сообщения, сессии, ключи идемпотентности, метаданные вложений)
\-> s3 (SeaweedFS, приватный bucket; только байты вложений)
migrate (one-shot) -> postgres s3-init (one-shot) -> s3
```
| Роль | Service | Версия | Готовность | Volume | Сеть/порт | Credentials |
| --- | --- | --- | --- | --- | --- | --- |
| load_balancer | `lb` | `haproxy:2.8.10-alpine` | `wget 127.0.0.1:8081/healthz` | нет | публикует `127.0.0.1:8080` | нет |
| api (>=2) | `api`, `deploy.replicas=${API_REPLICAS:-2}` | сборка из `Dockerfile` | `GET /health/ready` (БД и версия схемы) | нет | `expose 8080`, не публикуется | secrets `database_url`, ограниченный ключ S3 |
| postgres | `postgres` | `postgres:16.4-alpine` | `pg_isready` | именованный `pgdata` | не публикуется | secret `pg_password` |
| object_storage | `s3` | `chrislusf/seaweedfs:4.42` (`weed server -s3`) | `GET :8333/healthz` | именованный `s3data` | `expose 8333`, не публикуется | secret `s3_config` (ключи admin и API) |
| миграции | `migrate` (one-shot) | образ `api` | завершился с кодом 0 | нет | внутри сети | secret `database_url` |
| bootstrap S3 | `s3-init` (one-shot) | образ `api` | завершился с кодом 0 | нет | внутри сети | secrets admin и ограниченного ключей |
Выбор сервера: MinIO не использован, потому что его официальные образы больше не публикуются на Docker Hub. SeaweedFS (`weed server -s3`) поднимает только master, volume, filer и S3-шлюз; административная консоль отдельным процессом не запускается. Образ запускается с `entrypoint: weed`, чтобы не получить дополнительные флаги стандартного entrypoint (предвыделение томов).
**Модель данных** (`003_attachments.sql`):
- `attachments`: `id`, `chat_id`, `owner_id`, `filename` (только отображаемое имя), `content_type`, `size_bytes`, `sha256`, `width`, `height`, `object_key` (UNIQUE, `attachments/<uuid>`, назначает сервер; имя файла в ключе не участвует), `status` (`uploading` или `ready`), `created_at`, `updated_at`.
- `message_attachments(message_id, attachment_id, position)`: связь с сохранением порядка; одно вложение чата можно использовать в нескольких сообщениях.
- `messages.text` теперь допускает пустую строку (проверка «не пусто и не пробелы без вложений» выполняется приложением).
**Загрузка (`POST /chats/{id}/attachments?filename=`)** — один последовательный процесс без локальных файлов:
1. Аутентификация, доступ к чату (404), проверка `filename` (400) и `Content-Type` (415) — до чтения тела.
2. Тело читается потоком с лимитом 10 MiB (413 по `Content-Length` или по накопленному объёму).
3. Проверка по содержимому без декодирования пикселей: сигнатура и совпадение с заявленным типом, структура (у PNG — CRC каждого блока, IHDR/IDAT/IEND; у JPEG — сегменты, SOF/SOS, EOI), число пикселей из заголовка (больше 40 000 000 — 413). Повреждённые, усечённые и чужие форматы — 415.
4. `INSERT` строки со статусом `uploading` (commit), затем `PUT` объекта в S3 и `UPDATE ... status='ready'`. **201 возвращается только после успешного PUT и commit.**
5. Если PUT или UPDATE упал, выполняется быстрая компенсация (удаление объекта); строка БД удаляется, только если удаление объекта подтверждено. Иначе строка остаётся в статусе `uploading` с известным `object_key`, и команда `python -m app.sweep` позже удаляет объект и строку (grace period по умолчанию 900 с). Так отказ между S3 и PostgreSQL не оставляет неучтённых объектов.
**Ответ на вопрос «S3 PUT прошёл, а COMMIT нет»:** клиент получает 503 (не 201), строка `uploading` остаётся в БД, объект известен по `object_key` и убирается компенсацией или `sweep`. Это обратный порядок к «сначала S3, потом БД», где такой объект был бы потерян.
**Скачивание (`GET /attachments/{id}/content`)**: проверка сессии и членства в чате, затем потоковая отдача объекта из S3 (`Content-Type` истинный, `Content-Length` из БД, `X-Content-Type-Options: nosniff`, `Cache-Control: private, no-store`). Ошибка S3 даёт 503 до отправки заголовков, а не оборванный 200. Вариант `thumbnail|crop|optimized` отсутствует и даёт 404, неизвестное имя варианта — 400.
**Сообщения**: `attachment_ids` — массив до 10 неповторяющихся UUID; все должны быть `ready` и принадлежать этому же чату, иначе 404; пустой/пробельный `text` допустим только при наличии вложений. Хэш идемпотентности (`Idempotency-Key`) учитывает `text` и упорядоченный список `attachment_ids`; отсутствующее поле равно `[]`.
**Приватность S3**: анонимного доступа нет, порты S3 наружу не публикуются. Ключи двух ролей: `admin` (только `s3-init`, создаёт bucket) и ключ API с правами `Read/Write/List` только на свой bucket (не может создавать/удалять другие bucket и писать в чужие). `s3-init` идемпотентно создаёт bucket и при каждом запуске проверяет: анонимный GET объекта и списка — 403, ограниченный ключ не создаёт чужой bucket. API при этом **не** считает приватность bucket заменой ACL: доступ проверяется приложением по членству в чате, а случайный object key — только дополнительный слой.
**Деградация при отказе S3**: `/health/ready` зависит от PostgreSQL и версии схемы, но не от S3. Поэтому при недоступном S3 текстовый API, метаданные и сообщения со старыми вложениями продолжают работать, а загрузка и скачивание байтов дают 503. Каждая операция S3 выполняется под жёстким дедлайном (PUT 8 с, получение объекта 5 с, компенсирующее удаление 2 с), потому что таймауты botocore не покрывают разрешение имени и зависшие соединения: в первом прогоне на Docker запрос на загрузку при остановленном S3 отвечал 503 за 15,4 с. После сбоя «предохранитель» на 5 с отдаёт 503 сразу, не обращаясь к S3, затем делается новая попытка.
**Из lab3 перенесено без изменений:** весь API, PostgreSQL, сессии в БД, идемпотентность отправки, две API-реплики за HAProxy, отдельный сервис миграций, `X-Instance-Id`, скрипты `stop-one` и `restart` (теперь `restart` перезапускает и S3 и дожидается его готовности).
**Изменено в lab4:** новый `s3` и `s3-init`, миграция `003`, три endpoint вложений, поле `attachment_ids` в сообщениях и истории, зависимость `boto3`, расширенные собственные проверки и сбор доказательств.
**Соответствие `.env.example`:**
| Переменная | Статус |
| --- | --- |
| `S3_ENDPOINT` | в `.env.example` указан пример `http://s3:9000` (MinIO); в compose используется `http://s3:8333` (порт S3 SeaweedFS), значение задано в `compose.yaml` |
| `S3_REGION`, `S3_BUCKET`, `MAX_UPLOAD_BYTES`, `MAX_IMAGE_PIXELS` | используются (compose передаёт в API) |
| `S3_ACCESS_KEY_ID_FILE`, `S3_SECRET_ACCESS_KEY_FILE` | используются: ограниченный ключ API (Docker secrets) |
| `S3_ADMIN_ACCESS_KEY_ID_FILE`, `S3_ADMIN_SECRET_ACCESS_KEY_FILE` | нет в `.env.example`; используются только сервисом `s3-init` |
| `S3_CONNECT_TIMEOUT`, `S3_READ_TIMEOUT`, `S3_PUT_DEADLINE`, `S3_GET_DEADLINE`, `S3_FAST_DEADLINE`, `S3_BREAKER_SECONDS`, `S3_WORKERS`, `SWEEP_GRACE_SECONDS` | нет в `.env.example`; необязательные (по умолчанию 2, 20, 8, 5, 2, 5 с, 32 потока, 900 с) |
| `API_REPLICAS`, `SESSION_TTL_SECONDS`, `IDEMPOTENCY_TTL_SECONDS`, `DATABASE_URL_FILE` | используются, как в lab3 |
| `APP_ENV` | передаётся в контейнер, приложением не читается |
| `APP_HOST`, `APP_PORT` | не читаются; адрес и порт заданы в `CMD` Dockerfile (`0.0.0.0:8080`) |
| `SESSION_STORE=postgres` | маркер: сессии всегда в PostgreSQL |
| `CACHE_URL_FILE` | не используется (Redis нужен только для уровня 4 в lab2) |
| `DB_POOL_MAX`, `RUN_MIGRATIONS`, `INSTANCE_ID` | читаются приложением (в `.env.example` нет): размер пула (10), запуск миграций при старте (в compose 0), переопределение идентификатора реплики |
## Доказательства критериев
Все файлы лежат в `evidence/`; они собираются одним запуском `sh scripts/collect-evidence.sh --fresh` (Windows 11, Docker Desktop 28.0.4, Compose v2.34.0, 16 CPU / 8 ГБ), токены, пароли и ключи S3 в них не печатаются. Шаги 03, 05 и 10 перезапускались отдельно (`STEPS="03 05 10" sh scripts/collect-evidence.sh`) после исправления тестов; у каждого файла в заголовке своя метка времени.
| Критерий README | Команда/сценарий | Наблюдаемый результат | Файл доказательства |
| --- | --- | --- | --- |
| Публичный smoke | make test | TODO | TODO |
| Остальные пункты уровня 3 | TODO | TODO | TODO |
| Все пункты уровня 4, если заявлен | TODO | TODO | TODO |
| Выбранный трек 5, если заявлен | TODO | TODO | TODO |
| Стенд в одном `compose.yaml`, S3 и persistent volumes в нём; все возможности lab3 | `docker compose up -d --build`, `docker compose ps -a` | чистый старт до готовности за 19 с; `postgres`, `s3`, `api-1`, `api-2`, `lb` — healthy, `migrate` и `s3-init` — Exited (0); том `mtusi-lab4_s3data` | `00-clean-start.txt`, `01-env.txt`, `08-s3-storage.txt` |
| Публичный smoke lab4 (checksum, чужой пользователь) | `python tests/smoke.py --base-url http://localhost:8080` | PASS, exit code 0; `check_contract.py` — PASS | `02-smoke.txt` |
| Запросы одного пользователя на разных репликах без повторного входа | 40 запросов `GET /users/me` с одним токеном | по 20 ответов от `2c12200fa922` и `45517da31576`; порты API-контейнеров наружу не опубликованы, LB — `127.0.0.1:8080` | `04-load-balancing.txt` |
| Метаданные в PostgreSQL, байты в приватном bucket, не в БД и не в каталоге API | `\d attachments`, `docker diff` API-контейнеров, сверка `ready` и объектов S3 | таблицы `attachments` и `message_attachments` созданы миграцией 003; `docker diff` обоих API-контейнеров не показывает изменений, кроме смонтированных `/run/secrets`; в БД 6 `ready` и 0 `uploading`, в S3 6 объектов | `07-db-migrations.txt`, `08-s3-storage.txt` |
| 201 ready после сохранения; оригинал скачивается побайтно; сообщение с `attachment_ids` читают участники | `lab4_checks.py` (62 проверки), `lab3_checks.py` main (41) и idem (20) | все 123 PASS, 0 FAIL, коды выхода всех трёх команд 0: загрузка PNG и JPEG — 201 со `status=ready` и верными `sha256`/`size_bytes`; скачивание совпадает побайтно, `Content-Type` верный, `nosniff`; сообщение с `attachment_ids` (в том числе с пустым `text`) читают оба участника | `03-student-checks.txt` |
| Приём реальных PNG/JPEG; MIME по содержимому; подмена типа, битые и усечённые файлы — 415 | `lab4_checks.py`: PNG и JPEG, PNG как JPEG, JPEG как PNG, CRC, усечение, мусор в конце | PASS: PNG и JPEG — 201; PNG как `image/jpeg`, JPEG как `image/png`, текст как `image/png`, `text/plain`, `image/gif`, пустое тело, PNG с повреждённым CRC, усечённые PNG и JPEG, PNG с мусором в конце — 415 | `03-student-checks.txt` |
| Лимиты до чтения/декодирования: 10 MiB и 40 млн пикселей | 10 MiB+1 байт — 413; 8000x5000 (ровно 40 млн) — 201; 8001x5000 — 413; 20000x20000 малого размера — 413 | PASS: все четыре случая дали ожидаемые коды; «бомба» 20000x20000 малого размера отклонена по заголовку без декодирования | `03-student-checks.txt` |
| Опасные filename отклоняются | `/`, `\`, NUL, перевод строки, пустое, пробелы, 256 символов, отсутствие — 400 | PASS: все 400; имя из 255 символов и Unicode-имя принимаются (201); имя файла не участвует в ключе объекта | `03-student-checks.txt` |
| Чужой чат и посторонний: 404 на метаданные и байты; без токена 401; неверный UUID 400 | собственные проверки | PASS: посторонний — 404 на метаданные, содержимое и загрузку в чужой чат; без токена — 401; неверный UUID — 400; неизвестный UUID — 404; `?variant=thumbnail` — 404, `?variant=bogus` — 400 | `03-student-checks.txt` |
| Приватный bucket вне API: аноним не читает; ключ API ограничен | `python -m app.s3init` внутри compose-сети (запущен дважды) | 19 PASS, 0 FAIL: анонимный GET объекта и списка bucket — 403; ключ API не создаёт другой bucket, не удаляет рабочий и не пишет в чужой (`AccessDenied`); порты S3 наружу не опубликованы | `08-s3-storage.txt` |
| Upload -> остановка обслужившей реплики -> download через другую возвращает тот же файл | `lab4_checks.py --mode upload-stop --target-index 0/1` | PASS в обоих раундах: раунд 1 — файл принят и затем остановлена `2c12200fa922` (api-1), файл снова доступен через `45517da31576` через 2,31 с; раунд 2 — принята и остановлена `45517da31576` (api-2), файл доступен через `2c12200fa922` через 1,29 с; байты те же, остановленная реплика не отвечает, сообщение с вложением доступно | `05-failover.txt` |
| Failover lab3: запись возобновляется за <=10 с, дублей нет (с чтением оригинала) | `tests/resilience.py --mode failover`, два раунда | PASS в обоих раундах: 118 и 112 успешных записей, по 1 неудачной попытке, запись возобновилась через 1,75 и 1,734 с; в обоих раундах тест остановил реплику `45517da31576` (api-2), так как она обслужила первое сообщение; обе реплики покрыты сценарием `upload-stop` выше | `05-failover.txt` |
| Restart с сохранением volumes сохраняет метаданные и оригинал | `tests/resilience.py --mode persistence`, hook `restart.cmd` (postgres, s3, api, lb) | PASS; после рестарта в БД users=26, chats=12, messages=247, sessions=26, idempotency_keys=247, attachments=6; объектов в S3 до 5, после 6 (+1 вложение создал сам тест) | `06-persistence.txt` |
| Hook перезапускает реальные процессы | `docker inspect -f StartedAt` до/после | у `postgres`, `s3`, `api-1`, `api-2`, `lb` значение `StartedAt` изменилось, `RestartCount=0` | `06-persistence.txt` |
| Недоступность S3 | `lab4_checks.py --mode s3-outage` (`docker compose stop s3`) | PASS (9 проверок): при остановленном S3 загрузка — 503 `unavailable` за 8,1 с (дедлайн), скачивание — 503, метаданные — 200, обычное сообщение и сообщение со старым вложением — 201, `/health/ready` — 200; после старта S3 загрузка снова 201 (через 25 с), старое вложение скачивается (через 1,1 с, 2 попытки: «предохранитель» реплики) | `10-s3-down.txt` |
| Идемпотентность и сообщения с вложениями (повтор, другой набор вложений — 409) | `lab3_checks.py --mode idem`, `lab4_checks.py` | PASS: повтор того же ключа возвращает то же сообщение; другое тело или другой набор вложений — 409; 30 параллельных повторов через обе реплики дают одно сообщение; вложение другого чата, неизвестное, повтор id и более 10 вложений отклоняются (404/400) | `03-student-checks.txt` |
| Миграции однократно отдельным шагом, повтор безопасен | `docker compose ps -a migrate`, `run --rm migrate` | `migrate` — Exited (0); в `schema_migrations` три записи (001, 002, 003) без дублей; три повторных запуска — `migrations: ok, latest = 003_attachments.sql`; API стартуют с `RUN_MIGRATIONS=0` | `07-db-migrations.txt` |
| Пароли Argon2id, токены только как sha256 | `select left(password_hash,10)`, `length(token_hash)` | 26 из 26 хэшей начинаются с `$argon2id$`; 26 из 26 `token_hash` длиной 32 байта | `07-db-migrations.txt` |
| Секреты и volumes вне Git | `git check-ignore`, `git ls-files` | `secrets/` и `.env` игнорируются, отслеживаемых секретов нет | `12-git-hygiene.txt` |
TODO: добавить отдельную строку для каждого заявленного критерия. PASS без команды и наблюдения не является доказательством. Проверка инфраструктурного hook требует подтверждения, какие реальные процессы/хранилища перезапущены.
Примечание к проверке hook: тесты подтверждают сохранность данных, сессии и оригинала, а какие процессы перезапущены или остановлены, показывают `docker ps -a` и `StartedAt` в `05-failover.txt` и `06-persistence.txt`.
## Эксперименты и отказы
TODO: гипотеза, hardware/лимиты, версии, объём данных, профиль нагрузки, concurrency/arrival rate, длительность/прогрев, повторы, успешные RPS, ошибки, p50/p95/p99, CPU/RAM. Сохранить raw summary без tokens и объяснить ограничения измерения.
Нагрузочные измерения (RPS, p50/p95/p99, пик памяти при параллельных загрузках) на уровне 3 не проводились. Проверены отказы:
| Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных |
| --- | --- | --- | --- |
| TODO | TODO | TODO | TODO |
| Остановка API-реплики, принявшей файл (`api-1`, `2c12200fa922`) | файл скачивается через другую реплику, байты те же | PASS: файл принят репликой 1, реплика остановлена, файл отдан репликой 2 с теми же байтами | файл снова доступен через 2,31 с после запуска hook; потерь нет |
| То же для второй реплики (`api-2`, `45517da31576`) | то же | PASS: файл принят репликой 2, реплика остановлена, файл отдан репликой 1 | 1,29 с; потерь нет |
| Failover lab3 (два раунда, обе останавливали `api-2`) | запись возобновляется <=10 с, дублей нет | PASS: 118 и 112 успешных записей, 1 неудачная попытка за раунд (повторена с тем же ключом), реплика исключена из ротации | 1,75 и 1,734 с до возобновления записи; реплика возвращена командой `docker compose start api` и видна через LB через 3-5 с; потерь и дублей нет |
| Рестарт PostgreSQL, S3, API и LB (`scripts/restart.*`) | метаданные и оригинал сохраняются | PASS persistence; у всех пяти контейнеров изменился `StartedAt`; данные и оригинал сохранены | рестарт всего стенда вместе с ожиданием S3: готов через 54 с (S3 стартует около 20 с); потерь нет |
| `docker compose stop s3` при живых API и PostgreSQL | загрузка и скачивание — 503 за ограниченное время; текст, метаданные и `/health/ready` — работают | PASS: загрузка — 503 за 8,1 с (дедлайн PUT 8 с; в первом прогоне без дедлайна было 15,4 с), скачивание — 503, остальной API работает; за 41 с недоступности остались 15 строк `uploading`, `python -m app.sweep --grace 0` удалил их все | после старта S3 загрузка снова работает через 25 с, скачивание старого вложения — через 1,1 с (повтор из-за 5-секундного «предохранителя» реплики); после очистки в БД 32 `ready` и в S3 32 объекта |
| `docker compose stop postgres` | `ready` недоступен, LB отвечает 503; после старта БД сервис возвращается | `/health/ready` и `/api/v1/users/me` через LB — 503 | `ready` и две реплики вернулись через 4 с; потерь нет |
Версии, лимиты и загрузка на момент прогона — `evidence/01-env.txt`.
## Ограничения и следующие шаги
TODO: какие отказы выдерживаются и какие нет; что не реализовано; где учебное упрощение; какое улучшение подтверждено, а какое пока гипотеза.
- Уровень 4 и трек 5 не заявлены. Для уровня 4 не хватает: измерения пика памяти при >=10 одновременных загрузках и потоковой передачи в S3 (сейчас тело файла целиком буферизуется в памяти реплики, максимум 10 MiB на загрузку, поэтому одновременные загрузки линейно увеличивают RAM). Остальные пункты 4 (тесты ошибок, компенсация и очистка, идемпотентный bootstrap и ограниченные ключи, приватность вне API) реализованы, но формально не заявлены.
- `sweep` запускается вручную (`python -m app.sweep`), по расписанию не выполняется: до очистки незавершённые загрузки (`uploading`) остаются в БД и, возможно, в S3.
- Если PUT выполнился, а сервер не получил подтверждения и удалить объект не удалось, объект остаётся до `sweep`; клиент в это время получает 503 и должен повторить загрузку.
- Приватность S3 в compose-сети: S3 не публикуется наружу, но filer SeaweedFS (порт 8888) внутри сети compose не требует аутентификации. Скомпрометированный контейнер API мог бы обратиться к нему напрямую. Для учебного стенда принято, для промышленного нужна отдельная сеть для S3 и закрытый filer.
- Проверка изображений структурная (CRC, сегменты, заголовки), пиксели не декодируются: файл, у которого корректны заголовки и контрольные суммы, но битые сжатые данные, будет принят. Это сознательный компромисс против decompression bomb.
- Нет перекодирования, миниатюр и вариантов изображений, поэтому `variants` всегда пуст.
- SPOF сохраняются из lab3: один LB, одна PostgreSQL, один S3 без репликации и один Docker host.
- Время сообщения берётся из `clock_timestamp()`; при конкурентных вставках в один чат порядок коммитов может не совпасть с порядком времени.
- `X-Instance-Id` раскрывает короткий ID контейнера (допустимо для lab4).
- Образы закреплены по тегам, не по digest. Если тег `chrislusf/seaweedfs:4.42` недоступен для скачивания, замените его на ближайший доступный `4.x` и укажите это в отчёте.
- Реализация учебная: работоспособна и проверена на локальном стенде, но не претендует на промышленную готовность.
## Windows (без make)
```sh
python tests/smoke.py --base-url http://localhost:8080
python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd --base-url http://localhost:8080
python tests/resilience.py --mode persistence --action-script scripts/restart.cmd --base-url http://localhost:8080
```
Секреты: `sh scripts/setup-secrets.sh` из Git Bash. Docker Desktop с бэкендом WSL2.
+139
View File
@@ -0,0 +1,139 @@
# Стенд lab4: клиент -> lb (HAProxy) -> api x N -> postgres (метаданные, сессии, идемпотентность) и s3 (байты вложений).
# Запуск: sh scripts/setup-secrets.sh && docker compose up -d --build
name: mtusi-lab4
services:
postgres:
image: postgres:16.4-alpine
restart: unless-stopped
environment:
POSTGRES_USER: msg
POSTGRES_DB: msg
POSTGRES_PASSWORD_FILE: /run/secrets/pg_password
secrets: [pg_password]
volumes:
- pgdata:/var/lib/postgresql/data
healthcheck:
test: ["CMD-SHELL", "pg_isready -U msg -d msg"]
interval: 3s
timeout: 3s
retries: 20
# Приватное S3-хранилище (SeaweedFS). Порты наружу не публикуются, анонимного доступа нет, данные в томе s3data.
# entrypoint заменён на weed: стандартный entrypoint образа добавил бы собственные флаги (предвыделение томов).
s3:
image: chrislusf/seaweedfs:4.42
restart: unless-stopped
entrypoint: ["weed"]
command: ["server", "-dir=/data", "-s3", "-s3.config=/run/secrets/s3_config", "-ip.bind=0.0.0.0",
"-master.volumeSizeLimitMB=256", "-volume.max=30"]
secrets: [s3_config]
volumes:
- s3data:/data
expose: ["8333"]
stop_grace_period: 20s
healthcheck:
test: ["CMD-SHELL", "wget -q -O /dev/null http://127.0.0.1:8333/healthz"]
interval: 3s
timeout: 3s
retries: 40
start_period: 5s
# Одноразовая миграция: выполняется один раз перед запуском реплик, а не гонкой всех реплик при старте.
migrate:
build: .
image: mtusi-lab4-api:1
command: ["python", "-m", "app.migrate"]
restart: "no"
depends_on:
postgres: {condition: service_healthy}
environment:
DATABASE_URL_FILE: /run/secrets/database_url
secrets: [database_url]
# Одноразовая подготовка S3: создаёт приватный bucket (идемпотентно) и проверяет права ключа API и отказ анониму.
s3-init:
build: .
image: mtusi-lab4-api:1
command: ["python", "-m", "app.s3init"]
restart: "no"
depends_on:
s3: {condition: service_healthy}
environment:
S3_ENDPOINT: http://s3:8333
S3_BUCKET: ${S3_BUCKET:-messenger-attachments}
S3_ACCESS_KEY_ID_FILE: /run/secrets/s3_access_key_id
S3_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_secret_access_key
S3_ADMIN_ACCESS_KEY_ID_FILE: /run/secrets/s3_admin_access_key_id
S3_ADMIN_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_admin_secret_access_key
secrets: [s3_access_key_id, s3_secret_access_key, s3_admin_access_key_id, s3_admin_secret_access_key]
# Один сервис, несколько одинаковых реплик; без container_name и без опубликованных портов.
api:
build: .
image: mtusi-lab4-api:1
restart: unless-stopped
deploy:
replicas: ${API_REPLICAS:-2}
depends_on:
postgres: {condition: service_healthy}
migrate: {condition: service_completed_successfully}
s3-init: {condition: service_completed_successfully}
environment:
DATABASE_URL_FILE: /run/secrets/database_url
RUN_MIGRATIONS: "0"
S3_ENDPOINT: http://s3:8333
S3_REGION: ${S3_REGION:-us-east-1}
S3_BUCKET: ${S3_BUCKET:-messenger-attachments}
S3_ACCESS_KEY_ID_FILE: /run/secrets/s3_access_key_id
S3_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_secret_access_key
MAX_UPLOAD_BYTES: ${MAX_UPLOAD_BYTES:-10485760}
MAX_IMAGE_PIXELS: ${MAX_IMAGE_PIXELS:-40000000}
SESSION_TTL_SECONDS: ${SESSION_TTL_SECONDS:-3600}
IDEMPOTENCY_TTL_SECONDS: ${IDEMPOTENCY_TTL_SECONDS:-86400}
APP_ENV: ${APP_ENV:-lab}
secrets: [database_url, s3_access_key_id, s3_secret_access_key]
expose: ["8080"]
stop_grace_period: 15s
healthcheck:
test: ["CMD", "python", "-c", "import urllib.request as u;u.urlopen('http://127.0.0.1:8080/health/ready',timeout=2)"]
interval: 3s
timeout: 3s
retries: 10
start_period: 5s
# Единственная публичная точка входа. Адреса реплик берутся из DNS Docker и обновляются каждую секунду.
lb:
image: haproxy:2.8.10-alpine
restart: unless-stopped
stop_grace_period: 10s
depends_on:
api: {condition: service_healthy}
ports: ["127.0.0.1:8080:8080"]
volumes:
- ./infra/haproxy/haproxy.cfg:/usr/local/etc/haproxy/haproxy.cfg:ro
healthcheck:
test: ["CMD-SHELL", "wget -q -O /dev/null http://127.0.0.1:8081/healthz"]
interval: 3s
timeout: 3s
retries: 10
secrets:
pg_password:
file: ./secrets/pg_password
database_url:
file: ./secrets/database_url
s3_config:
file: ./secrets/s3_config.json
s3_access_key_id:
file: ./secrets/s3_access_key_id
s3_secret_access_key:
file: ./secrets/s3_secret_access_key
s3_admin_access_key_id:
file: ./secrets/s3_admin_access_key_id
s3_admin_secret_access_key:
file: ./secrets/s3_admin_secret_access_key
volumes:
pgdata:
s3data:
+218
View File
@@ -0,0 +1,218 @@
# 00 чистый старт (2026-11-14T10:58:41Z)
$ docker compose down -v
Container mtusi-lab4-lb-1 Stopping
Container mtusi-lab4-lb-1 Stopped
Container mtusi-lab4-lb-1 Removing
Container mtusi-lab4-lb-1 Removed
Container mtusi-lab4-api-1 Stopping
Container mtusi-lab4-api-2 Stopping
Container mtusi-lab4-api-1 Stopped
Container mtusi-lab4-api-1 Removing
Container mtusi-lab4-api-1 Removed
Container mtusi-lab4-api-2 Stopped
Container mtusi-lab4-api-2 Removing
Container mtusi-lab4-api-2 Removed
Container mtusi-lab4-s3-init-1 Stopping
Container mtusi-lab4-migrate-1 Stopping
Container mtusi-lab4-s3-init-1 Stopped
Container mtusi-lab4-s3-init-1 Removing
Container mtusi-lab4-migrate-1 Stopped
Container mtusi-lab4-migrate-1 Removing
Container mtusi-lab4-s3-init-1 Removed
Container mtusi-lab4-s3-1 Stopping
Container mtusi-lab4-migrate-1 Removed
Container mtusi-lab4-postgres-1 Stopping
Container mtusi-lab4-postgres-1 Stopped
Container mtusi-lab4-postgres-1 Removing
Container mtusi-lab4-postgres-1 Removed
Container mtusi-lab4-s3-1 Stopped
Container mtusi-lab4-s3-1 Removing
Container mtusi-lab4-s3-1 Removed
Volume mtusi-lab4_s3data Removing
Volume mtusi-lab4_pgdata Removing
Network mtusi-lab4_default Removing
Volume mtusi-lab4_pgdata Removed
Volume mtusi-lab4_s3data Removed
Network mtusi-lab4_default Removed
$ sh scripts/setup-secrets.sh
secrets: ok (значения не печатаются)
secrets: ok (значения не печатаются)
$ docker compose up -d --build
Compose can now delegate builds to bake for better performance.
To do so, set COMPOSE_BAKE=true.
#0 building with "desktop-linux" instance using docker driver
#1 [s3-init internal] load build definition from Dockerfile
#1 transferring dockerfile: 535B done
#1 DONE 0.0s
#2 [migrate internal] load build definition from Dockerfile
#2 transferring dockerfile: 535B 0.0s done
#2 DONE 0.0s
#3 [migrate internal] load metadata for docker.io/library/python:3.12.7-slim-bookworm
#3 DONE 1.4s
#4 [migrate internal] load .dockerignore
#4 transferring context: 216B done
#4 DONE 0.0s
#5 [s3-init internal] load .dockerignore
#5 transferring context: 216B done
#5 DONE 0.0s
#6 [migrate 1/6] FROM docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d
#6 resolve docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d 0.0s done
#6 DONE 0.0s
#7 [s3-init internal] load build context
#7 transferring context: 53.68kB done
#7 DONE 0.0s
#8 [migrate internal] load build context
#8 transferring context: 53.68kB done
#8 DONE 0.0s
#9 [s3-init 2/6] WORKDIR /app
#9 CACHED
#10 [s3-init 3/6] COPY src/requirements.txt .
#10 CACHED
#11 [migrate 4/6] RUN pip install --no-cache-dir -r requirements.txt
#11 CACHED
#12 [s3-init 5/6] COPY src/ .
#12 DONE 0.0s
#13 [s3-init 6/6] RUN useradd -r -u 10001 appuser
#13 0.340 useradd warning: appuser's uid 10001 is greater than SYS_UID_MAX 999
#13 DONE 0.4s
#14 [s3-init] exporting to image
#14 exporting layers 0.1s done
#14 exporting manifest sha256:4ae2a791bbba577bcb815375108ea737a327a44f3cb92b050371582871ca77a1 0.0s done
#14 exporting config sha256:fd2ebb00c346e3417687248874a92ffcf783d91a1cc83d788d70d5bfea6d0544 0.0s done
#14 exporting attestation manifest sha256:ae0da9de98954a73ad89771c32e4f4d1a8a061ce5fa1a3624287d97b91a368c4
#14 exporting attestation manifest sha256:ae0da9de98954a73ad89771c32e4f4d1a8a061ce5fa1a3624287d97b91a368c4 0.1s done
#14 exporting manifest list sha256:e51688c9cb5dc910f9520e2eb97fefa0d9e1d284df053199f4a2fa3b6a0a8cb0 0.0s done
#14 naming to docker.io/library/mtusi-lab4-api:1
#14 naming to docker.io/library/mtusi-lab4-api:1 0.0s done
#14 unpacking to docker.io/library/mtusi-lab4-api:1 0.1s done
#14 DONE 0.4s
#15 [migrate] exporting to image
#15 exporting layers 0.1s done
#15 exporting manifest sha256:d4b8df4de55e399aa1f89ec53b8fd34515066d4e32a3d2da4584d541275b3230 0.0s done
#15 exporting config sha256:e859f5e9831d26a74f7f454640182463334862757cbb876e878ebc60464ae04d 0.0s done
#15 exporting attestation manifest sha256:9bdce302a45c5a9ba9bc835944c8aa6fc46f18c25817a5d63aa987840ca12387 0.1s done
#15 exporting manifest list sha256:76901d91a4007adbe41c8041eeabb616dd078be07048f3dbdef5f0f5fee4ff57 0.0s done
#15 naming to docker.io/library/mtusi-lab4-api:1 done
#15 unpacking to docker.io/library/mtusi-lab4-api:1 0.1s done
#15 DONE 0.5s
#16 [s3-init] resolving provenance for metadata file
#16 DONE 0.0s
#17 [migrate] resolving provenance for metadata file
#17 DONE 0.0s
#18 [api internal] load build definition from Dockerfile
#18 transferring dockerfile: 535B done
#18 DONE 0.0s
#3 [api internal] load metadata for docker.io/library/python:3.12.7-slim-bookworm
#3 DONE 1.7s
#19 [api internal] load .dockerignore
#19 transferring context: 216B done
#19 DONE 0.0s
#6 [api 1/6] FROM docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d
#6 resolve docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d 0.0s done
#6 DONE 0.1s
#20 [api internal] load build context
#20 transferring context: 538B done
#20 DONE 0.0s
#21 [api 3/6] COPY src/requirements.txt .
#21 CACHED
#22 [api 4/6] RUN pip install --no-cache-dir -r requirements.txt
#22 CACHED
#23 [api 5/6] COPY src/ .
#23 CACHED
#9 [api 2/6] WORKDIR /app
#9 CACHED
#24 [api 6/6] RUN useradd -r -u 10001 appuser
#24 CACHED
#25 [api] exporting to image
#25 exporting layers done
#25 exporting manifest sha256:e340936d2ef95177fc4964b2ae581b17640ba56d9c391e5c1a919f762e75c1de 0.0s done
#25 exporting config sha256:962e9fd67f6859d238fcc659d62158046c2b41e06ac7728888f37c8d1cb2888c
#25 exporting config sha256:962e9fd67f6859d238fcc659d62158046c2b41e06ac7728888f37c8d1cb2888c 0.0s done
#25 exporting attestation manifest sha256:b791b5198f6c076c00999275b27ec867bf9dad754f65c4f53cbbe5e4ee3bf72c 0.0s done
#25 exporting manifest list sha256:2cc1a39bf9a24bc4274e218d769668dfff377fe32863850f110697231fbebbc3 0.0s done
#25 naming to docker.io/library/mtusi-lab4-api:1 done
#25 unpacking to docker.io/library/mtusi-lab4-api:1 0.0s done
#25 DONE 0.1s
#26 [api] resolving provenance for metadata file
#26 DONE 0.0s
api Built
migrate Built
s3-init Built
Network mtusi-lab4_default Creating
Network mtusi-lab4_default Created
Volume "mtusi-lab4_pgdata" Creating
Volume "mtusi-lab4_pgdata" Created
Volume "mtusi-lab4_s3data" Creating
Volume "mtusi-lab4_s3data" Created
Container mtusi-lab4-postgres-1 Creating
Container mtusi-lab4-s3-1 Creating
Container mtusi-lab4-s3-1 Created
Container mtusi-lab4-s3-init-1 Creating
Container mtusi-lab4-postgres-1 Created
Container mtusi-lab4-migrate-1 Creating
Container mtusi-lab4-s3-init-1 Created
Container mtusi-lab4-migrate-1 Created
Container mtusi-lab4-api-2 Creating
Container mtusi-lab4-api-1 Creating
Container mtusi-lab4-api-2 Created
Container mtusi-lab4-api-1 Created
Container mtusi-lab4-lb-1 Creating
Container mtusi-lab4-lb-1 Created
Container mtusi-lab4-s3-1 Starting
Container mtusi-lab4-postgres-1 Starting
Container mtusi-lab4-postgres-1 Started
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-s3-1 Started
Container mtusi-lab4-s3-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Starting
Container mtusi-lab4-migrate-1 Started
Container mtusi-lab4-s3-1 Healthy
Container mtusi-lab4-s3-init-1 Starting
Container mtusi-lab4-s3-init-1 Started
Container mtusi-lab4-s3-init-1 Waiting
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-migrate-1 Waiting
Container mtusi-lab4-migrate-1 Exited
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-s3-init-1 Exited
Container mtusi-lab4-api-1 Starting
Container mtusi-lab4-api-1 Started
Container mtusi-lab4-api-2 Starting
Container mtusi-lab4-api-2 Started
Container mtusi-lab4-api-1 Waiting
Container mtusi-lab4-api-2 Waiting
Container mtusi-lab4-api-1 Healthy
Container mtusi-lab4-api-2 Healthy
Container mtusi-lab4-lb-1 Starting
Container mtusi-lab4-lb-1 Started
ready через 19 с после запуска up
+61
View File
@@ -0,0 +1,61 @@
# 01 окружение (2026-11-14T10:59:26Z)
commit: ec540a1a725862a8619fcb758daec4ad197f0dd5
git status:
M REPORT.md
A scripts/collect-evidence.sh
A scripts/restart.sh
A scripts/setup-secrets.sh
A scripts/stop-one.sh
?? .gitattributes
?? Dockerfile
?? compose.yaml
?? evidence/00-clean-start.txt
?? evidence/01-env.txt
?? evidence/02-smoke.txt
?? evidence/03-student-checks.txt
?? evidence/04-load-balancing.txt
?? evidence/05-failover.txt
?? evidence/06-persistence.txt
?? evidence/07-db-migrations.txt
?? evidence/08-s3-storage.txt
?? evidence/09-db-down.txt
?? evidence/10-s3-down.txt
?? evidence/11-lb-config.txt
$ docker version
client=28.0.4 server=28.0.4 os=linux/amd64
$ docker compose version
Docker Compose version v2.34.0-desktop.1
python: Python 3.11.5
$ docker compose config --quiet
compose config: OK
$ docker compose images
CONTAINER REPOSITORY TAG IMAGE ID SIZE
mtusi-lab4-api-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
mtusi-lab4-api-2 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
mtusi-lab4-lb-1 haproxy 2.8.10-alpine 54af6e4943e4 12.2MB
mtusi-lab4-migrate-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
mtusi-lab4-postgres-1 postgres 16.4-alpine 5660c2cbfea5 99.2MB
mtusi-lab4-s3-1 chrislusf/seaweedfs 4.42 f7cbc8bdbbf6 106MB
mtusi-lab4-s3-init-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
$ docker compose ps -a
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 17 seconds ago Up 9 seconds (healthy) 8080/tcp
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 17 seconds ago Up 8 seconds (healthy) 8080/tcp
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 17 seconds ago Up 3 seconds (health: starting) 127.0.0.1:8080->8080/tcp
mtusi-lab4-migrate-1 mtusi-lab4-api:1 "python -m app.migra…" migrate 18 seconds ago Exited (0) 12 seconds ago
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 18 seconds ago Up 17 seconds (healthy) 5432/tcp
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 18 seconds ago Up 17 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
mtusi-lab4-s3-init-1 mtusi-lab4-api:1 "python -m app.s3init" s3-init 18 seconds ago Exited (0) 9 seconds ago
$ docker volume ls (pgdata)
local mtusi2026lab2_pgdata
local mtusi-lab3_pgdata
local mtusi-lab4_pgdata
$ docker stats --no-stream
NAME CPU % MEM USAGE / LIMIT
mtusi-lab4-api-1 0.55% 39.4MiB / 7.694GiB
mtusi-lab4-api-2 0.43% 39.11MiB / 7.694GiB
mtusi-lab4-lb-1 0.57% 12.05MiB / 7.694GiB
mtusi-lab4-postgres-1 0.45% 46.62MiB / 7.694GiB
mtusi-lab4-s3-1 0.19% 46.34MiB / 7.694GiB
$ docker info (лимиты хоста)
CPUs=16 Mem=8261029888
+7
View File
@@ -0,0 +1,7 @@
# 02 публичные проверки через LB (2026-11-14T10:59:31Z)
$ python scripts/check_contract.py
PASS: offline skeleton structure, local refs and Python syntax; application NOT tested.
exit code: 0
$ python tests/smoke.py --base-url http://localhost:8080
PASS: lab4 public API scenario; infrastructure and grading evidence remain separate.
exit code: 0
+131
View File
@@ -0,0 +1,131 @@
# 03 собственные проверки (2026-11-14T15:45:54Z)
$ python student-tests/lab3_checks.py --base-url http://localhost:8080
PASS: повторный username -> 409
PASS: пароль короче 12 -> 400
PASS: лишнее поле -> 400
PASS: User не содержит пароль/hash/токен
PASS: гонка одинакового username: ровно один 201, остальные 409
PASS: неверный пароль и неизвестный пользователь неразличимы (401, тот же code/message/заголовок)
PASS: вход JSON-телом без Basic -> 401
PASS: Bearer на POST /auth/sessions -> 401
PASS: токен >=256 бит, token_type Bearer
PASS: Basic на бизнес-endpoint -> 401 + WWW-Authenticate: Bearer
PASS: один X-User-Id доступа не даёт
PASS: X-User-Id игнорируется: владелец определяется токеном
PASS: неизвестный токен -> 401
PASS: X-Request-Id совпадает с request_id в теле ошибки
PASS: чат с неизвестным участником -> 400
PASS: после отказа новый чат не появился (нет частичной записи)
PASS: чат создан с обоими участниками
PASS: создатель обязан быть среди member_ids -> 400
PASS: посторонний: GET /chat -> 404
PASS: посторонний: GET /messages -> 404
PASS: посторонний не может писать -> 404
PASS: неверный UUID /chats/not-a-uuid -> 400
PASS: неверный UUID /chats/not-a-uuid/messages -> 400
PASS: sender_id в запросе не принимается -> 400
PASS: пробельный текст -> 400
PASS: отправитель берётся из токена
PASS: пагинация limit=2: без повторов, все 6 сообщений
PASS: cursor от другого чата -> 400
PASS: ?limit=0 -> 400
PASS: ?limit=101 -> 400
PASS: ?limit=abc -> 400
PASS: ?limit=%2B5 -> 400
PASS: ?limit=2&limit=3 -> 400
PASS: тело >1 MiB -> 413
PASS: не JSON Content-Type -> 415
PASS: битый JSON -> 400
PASS: logout -> 204
PASS: повторный logout с отозванным токеном -> 401
PASS: отозванный токен -> 401 + WWW-Authenticate: Bearer
PASS: logout одного пользователя не затрагивает чужие сессии
PASS: все проверки режима 'main'
exit code: 0
$ python student-tests/lab3_checks.py --base-url http://localhost:8080 --mode idem --min-instances 2
PASS: через LB отвечают >= 2 реплик с одним токеном (X-Instance-Id: 2)
PASS: повтор с тем же ключом: тот же 201 и то же сообщение
PASS: повтор не создал дубль
PASS: тот же ключ с другим телом -> 409
PASS: тот же ключ и то же тело (другое форматирование JSON) -> тот же результат
PASS: тот же ключ в другом чате независим
PASS: тот же ключ у другого пользователя независим
PASS: нет Idempotency-Key -> 400
PASS: неверный ключ 'bad key!' -> 400
PASS: неверный ключ 'a/b' -> 400
PASS: неверный ключ 'aaaaaaaaaaaa' -> 400
PASS: неверный ключ '' -> 400
PASS: посторонний с тем же ключом -> 404 (доступ проверяется при повторе)
PASS: без токена -> 401
PASS: 30 параллельных запросов с одним ключом: все 201 и одно и то же сообщение
PASS: в истории ровно одно такое сообщение
INFO: параллельные повторы обслужили реплики: ['2c12200fa922', '45517da31576']
PASS: параллельно один ключ и два разных тела: победитель один, остальным другого тела -> 409
PASS: создано ровно одно сообщение из конкурирующих
PASS: повтор с отозванным токеном -> 401
PASS: все проверки режима 'idem'
exit code: 0
$ python student-tests/lab4_checks.py --base-url http://localhost:8080 (вложения: форматы, лимиты, права, сообщения)
PASS: загрузка PNG -> 201, status ready, ожидаемые поля
PASS: в ответе есть X-Instance-Id и X-Request-Id
PASS: загрузка JPEG -> 201 и верный sha256
PASS: созданный PNG другого размера -> 201
PASS: метаданные доступны другому участнику чата
PASS: скачивание: байты совпадают, Content-Type верный, nosniff
PASS: Content-Length равен размеру
PASS: метаданные постороннему -> 404
PASS: содержимое постороннему -> 404
PASS: без токена -> 401
PASS: неверный UUID -> 400
PASS: неизвестный UUID -> 404
PASS: загрузка в чужой чат -> 404
PASS: загрузка без токена -> 401
PASS: загрузка в неверный UUID чата -> 400
PASS: ?variant=thumbnail (вариантов нет) -> 404
PASS: ?variant=bogus -> 400
PASS: ?variant=original -> 200
PASS: filename: слэш -> 400
PASS: filename: обратный слэш -> 400
PASS: filename: NUL -> 400
PASS: filename: перевод строки -> 400
PASS: filename: пустое -> 400
PASS: filename: пробелы -> 400
PASS: filename: 256 символов -> 400
PASS: filename не указан -> 400
PASS: filename из 255 символов -> 201
PASS: имя «../..» без разделителей принимается и не влияет на ключ объекта
PASS: Content-Type text/plain -> 415
PASS: Content-Type image/gif -> 415
PASS: PNG под видом image/jpeg -> 415
PASS: текст под видом image/png -> 415
PASS: пустое тело -> 415
PASS: PNG с повреждённым блоком (CRC) -> 415
PASS: усечённый PNG -> 415
PASS: PNG с мусором в конце -> 415
PASS: усечённый JPEG -> 415
PASS: JPEG под видом image/png -> 415
PASS: ровно 40 000 000 пикселей (8000x5000) -> 201
PASS: 40 005 000 пикселей (8001x5000) -> 413
PASS: «бомба» 20000x20000 малого размера -> 413
PASS: тело 10 MiB + 1 байт -> 413
PASS: сообщение только с вложением (text='') -> 201 с attachment_ids
PASS: attachment_ids=[] даёт обычное сообщение с пустым массивом
PASS: без attachment_ids в ответе всё равно attachment_ids=[]
PASS: пустой текст без вложений -> 400
PASS: пробельный текст без вложений -> 400
PASS: пробельный текст с вложением допустим -> 201
PASS: неизвестное вложение -> 404
PASS: attachment_ids не массив -> 400
PASS: attachment_ids с неверным UUID -> 400
PASS: повтор одного id в attachment_ids -> 400
PASS: 11 вложений в сообщении -> 400
PASS: 10 вложений -> 201 с сохранением порядка
PASS: вложение другого чата в сообщении -> 404
PASS: участник может сослаться на вложение другого участника
PASS: повтор с вложением и тем же ключом: тот же результат
PASS: тот же ключ с другим набором вложений -> 409
PASS: тот же ключ без вложений (иное тело) -> 409
PASS: в истории одно такое сообщение, attachment_ids присутствует у каждого сообщения
PASS: вложение из истории скачивается вторым участником
PASS: все проверки режима 'attach'
exit code: 0
+17
View File
@@ -0,0 +1,17 @@
# 04 балансировка: одна сессия, разные реплики (2026-11-14T10:59:37Z)
$ docker compose ps api (реплики одного сервиса, без container_name)
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 27 seconds ago Up 19 seconds (healthy) 8080/tcp
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 27 seconds ago Up 18 seconds (healthy) 8080/tcp
--- ID работающих API-контейнеров (X-Instance-Id = hostname = короткий ID контейнера)
2c12200fa922
45517da31576
--- порты API-контейнеров наружу (должно быть пусто: вход только через LB)
container 2c12200fa922:
container 45517da31576:
--- порты LB
127.0.0.1:8080
--- 40 запросов с ОДНИМ токеном к GET /users/me через LB: число ответов на каждую реплику
20 X-Instance-Id=2c12200fa922
20 X-Instance-Id=45517da31576
реплик увидено: 2 | токен не печатается, повторный вход не выполнялся
+138
View File
@@ -0,0 +1,138 @@
# 05 отказ API-реплики: последовательно каждая из двух (2026-11-14T15:46:00Z)
hook: scripts/stop-one.cmd
=== раунд 1 ===
--- до
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
45517da31576 mtusi-lab4-api-2 Up 5 hours (healthy)
$ python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd
Executing explicit failover hook; hook output suppressed to avoid leaking secrets.
{"observed_instances_before": 2, "successful_writes": 118, "failed_attempts": 1, "first_recovery_seconds": 1.75}
PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence.
exit code: 0
--- после (ровно одна реплика должна быть Exited; остальные Up)
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
45517da31576 mtusi-lab4-api-2 Exited (0) 14 seconds ago
--- LB сейчас: ответы по репликам (остановленной быть не должно)
20 x-instance-id: 2c12200fa922
--- восстановление: docker compose start api
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-s3-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Starting
Container mtusi-lab4-s3-1 Healthy
Container mtusi-lab4-s3-init-1 Starting
Container mtusi-lab4-migrate-1 Started
Container mtusi-lab4-s3-init-1 Started
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-migrate-1 Waiting
Container mtusi-lab4-s3-init-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Exited
Container mtusi-lab4-s3-init-1 Exited
Container mtusi-lab4-api-2 Starting
Container mtusi-lab4-api-2 Started
обе реплики снова видны через LB через 5 с
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
45517da31576 mtusi-lab4-api-2 Up 5 seconds (health: starting)
=== раунд 2 ===
--- до
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
45517da31576 mtusi-lab4-api-2 Up 5 seconds (healthy)
$ python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd
Executing explicit failover hook; hook output suppressed to avoid leaking secrets.
{"observed_instances_before": 2, "successful_writes": 112, "failed_attempts": 1, "first_recovery_seconds": 1.734}
PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence.
exit code: 0
--- после (ровно одна реплика должна быть Exited; остальные Up)
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
45517da31576 mtusi-lab4-api-2 Exited (0) 14 seconds ago
--- LB сейчас: ответы по репликам (остановленной быть не должно)
20 x-instance-id: 2c12200fa922
--- восстановление: docker compose start api
Container mtusi-lab4-s3-1 Waiting
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-s3-1 Healthy
Container mtusi-lab4-s3-init-1 Starting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Starting
Container mtusi-lab4-s3-init-1 Started
Container mtusi-lab4-migrate-1 Started
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-migrate-1 Waiting
Container mtusi-lab4-s3-init-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Exited
Container mtusi-lab4-s3-init-1 Exited
Container mtusi-lab4-api-2 Starting
Container mtusi-lab4-api-2 Started
обе реплики снова видны через LB через 3 с
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
45517da31576 mtusi-lab4-api-2 Up 3 seconds (health: starting)
=== вложение + остановка принявшей реплики, раунд 1 (--target-index 0: останавливается другая реплика) ===
$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook scripts/stop-one.cmd --target-index 0
PASS: через LB видны >= 2 реплик
PASS: файл принят выбранной репликой 2c12200fa922
PASS: hook остановил реплику 2c12200fa922 (код 0, 1.4 с)
PASS: после остановки реплики вложение скачивается через другую реплику (байты те же)
INFO: вложение снова доступно через 2.31 с после запуска hook (реплика ['45517da31576'])
PASS: подтверждённое сообщение с вложением доступно
PASS: остановленная реплика больше не отвечает
PASS: все проверки режима 'upload-stop'
exit code: 0
--- после
2c12200fa922 mtusi-lab4-api-1 Exited (0) 2 seconds ago
45517da31576 mtusi-lab4-api-2 Up 7 seconds (healthy)
--- восстановление: docker compose start api
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-s3-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Starting
Container mtusi-lab4-s3-1 Healthy
Container mtusi-lab4-s3-init-1 Starting
Container mtusi-lab4-migrate-1 Started
Container mtusi-lab4-s3-init-1 Started
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-migrate-1 Waiting
Container mtusi-lab4-s3-init-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Exited
Container mtusi-lab4-s3-init-1 Exited
Container mtusi-lab4-api-1 Starting
Container mtusi-lab4-api-1 Started
обе реплики снова видны через LB через 5 с
=== вложение + остановка принявшей реплики, раунд 2 (--target-index 1: останавливается другая реплика) ===
$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook scripts/stop-one.cmd --target-index 1
PASS: через LB видны >= 2 реплик
PASS: файл принят выбранной репликой 45517da31576
PASS: hook остановил реплику 45517da31576 (код 0, 0.9 с)
PASS: после остановки реплики вложение скачивается через другую реплику (байты те же)
INFO: вложение снова доступно через 1.29 с после запуска hook (реплика ['2c12200fa922'])
PASS: подтверждённое сообщение с вложением доступно
PASS: остановленная реплика больше не отвечает
PASS: все проверки режима 'upload-stop'
exit code: 0
--- после
2c12200fa922 mtusi-lab4-api-1 Up 7 seconds (healthy)
45517da31576 mtusi-lab4-api-2 Exited (0) 1 second ago
--- восстановление: docker compose start api
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-s3-1 Waiting
Container mtusi-lab4-s3-1 Healthy
Container mtusi-lab4-s3-init-1 Starting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Starting
Container mtusi-lab4-migrate-1 Started
Container mtusi-lab4-s3-init-1 Started
Container mtusi-lab4-s3-init-1 Waiting
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-migrate-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Exited
Container mtusi-lab4-s3-init-1 Exited
Container mtusi-lab4-api-2 Starting
Container mtusi-lab4-api-2 Started
обе реплики снова видны через LB через 3 с
+74
View File
@@ -0,0 +1,74 @@
# 06 сохранность при рестарте всего стенда (PostgreSQL, S3, API, LB) (2026-11-14T11:00:44Z)
--- до
/mtusi-lab4-api-1 StartedAt=2026-11-14T11:00:41.418189002Z RestartCount=0
/mtusi-lab4-api-2 StartedAt=2026-11-14T10:59:18.845998391Z RestartCount=0
/mtusi-lab4-lb-1 StartedAt=2026-11-14T10:59:24.60449319Z RestartCount=0
/mtusi-lab4-postgres-1 StartedAt=2026-11-14T10:59:10.646170885Z RestartCount=0
/mtusi-lab4-s3-1 StartedAt=2026-11-14T10:59:10.657148631Z RestartCount=0
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api About a minute ago Up 4 seconds (health: starting) 8080/tcp
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api About a minute ago Up About a minute (healthy) 8080/tcp
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb About a minute ago Up About a minute (healthy) 127.0.0.1:8080->8080/tcp
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres About a minute ago Up About a minute (healthy) 5432/tcp
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 About a minute ago Up About a minute (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
объектов в S3 до рестарта: 5
$ python tests/resilience.py --mode persistence --action-script scripts/restart.cmd
Executing explicit persistence hook; hook output suppressed to avoid leaking secrets.
PASS: persistence preserved confirmed data and existing session. Hook scope needs operator evidence.
exit code: 0
--- после (StartedAt должен измениться у postgres, api и lb)
/mtusi-lab4-api-1 StartedAt=2026-11-14T11:01:28.768539654Z RestartCount=0
/mtusi-lab4-api-2 StartedAt=2026-11-14T11:01:28.927527738Z RestartCount=0
/mtusi-lab4-lb-1 StartedAt=2026-11-14T11:01:29.197680185Z RestartCount=0
/mtusi-lab4-postgres-1 StartedAt=2026-11-14T11:00:49.753628396Z RestartCount=0
/mtusi-lab4-s3-1 StartedAt=2026-11-14T11:01:09.731773197Z RestartCount=0
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 2 minutes ago Up 6 seconds (healthy) 8080/tcp
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 2 minutes ago Up 6 seconds (healthy) 8080/tcp
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 2 minutes ago Up 6 seconds (healthy) 127.0.0.1:8080->8080/tcp
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 2 minutes ago Up 45 seconds (healthy) 5432/tcp
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 2 minutes ago Up 25 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
--- время восстановления одного рестарта (hook + ожидание /health/ready и 2 реплик)
Container mtusi-lab4-postgres-1 Restarting
Container mtusi-lab4-s3-1 Restarting
Container mtusi-lab4-postgres-1 Started
Container mtusi-lab4-s3-1 Started
Container mtusi-lab4-api-2 Restarting
Container mtusi-lab4-api-1 Restarting
Container mtusi-lab4-lb-1 Restarting
Container mtusi-lab4-api-2 Started
Container mtusi-lab4-lb-1 Started
Container mtusi-lab4-api-1 Started
Container mtusi-lab4-s3-1 Running
Container mtusi-lab4-postgres-1 Running
Container mtusi-lab4-s3-init-1 Created
Container mtusi-lab4-migrate-1 Created
Container mtusi-lab4-api-1 Running
Container mtusi-lab4-api-2 Running
Container mtusi-lab4-lb-1 Running
Container mtusi-lab4-s3-1 Waiting
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-s3-1 Healthy
Container mtusi-lab4-s3-init-1 Starting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Starting
Container mtusi-lab4-s3-init-1 Started
Container mtusi-lab4-migrate-1 Started
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-migrate-1 Waiting
Container mtusi-lab4-s3-init-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Exited
Container mtusi-lab4-s3-init-1 Exited
Container mtusi-lab4-api-1 Waiting
Container mtusi-lab4-api-2 Waiting
Container mtusi-lab4-api-1 Healthy
Container mtusi-lab4-api-2 Healthy
готов через 54 с
объектов в S3 после рестарта: 6
--- данные в БД после рестарта
users | chats | messages | sessions | idempotency_keys | attachments
-------+-------+----------+----------+------------------+-------------
26 | 12 | 247 | 26 | 247 | 6
(1 row)
+145
View File
@@ -0,0 +1,145 @@
# 07 схема БД и миграции (2026-11-14T11:02:32Z)
version | applied_at
---------------------+-------------------------------
001_init.sql | 2026-11-14 10:59:15.430991+00
002_idempotency.sql | 2026-11-14 10:59:15.491662+00
003_attachments.sql | 2026-11-14 10:59:15.505907+00
(3 rows)
List of relations
Schema | Name | Type | Owner
--------+---------------------+-------+-------
public | attachments | table | msg
public | chat_members | table | msg
public | chats | table | msg
public | idempotency_keys | table | msg
public | message_attachments | table | msg
public | messages | table | msg
public | schema_migrations | table | msg
public | sessions | table | msg
public | users | table | msg
(9 rows)
Table "public.attachments"
Column | Type | Collation | Nullable | Default
--------------+--------------------------+-----------+----------+-------------------
id | uuid | | not null |
chat_id | uuid | | not null |
owner_id | uuid | | not null |
filename | text | | not null |
content_type | text | | not null |
size_bytes | bigint | | not null |
sha256 | text | | not null |
width | integer | | not null |
height | integer | | not null |
object_key | text | | not null |
status | text | | not null | 'uploading'::text
created_at | timestamp with time zone | | not null | now()
updated_at | timestamp with time zone | | not null | now()
Indexes:
"attachments_pkey" PRIMARY KEY, btree (id)
"attachments_chat_idx" btree (chat_id, created_at)
"attachments_object_key_key" UNIQUE CONSTRAINT, btree (object_key)
"attachments_pending_idx" btree (created_at) WHERE status = 'uploading'::text
Check constraints:
"attachments_content_type_check" CHECK (content_type = ANY (ARRAY['image/png'::text, 'image/jpeg'::text]))
"attachments_filename_check" CHECK (char_length(filename) >= 1 AND char_length(filename) <= 255)
"attachments_height_check" CHECK (height > 0)
"attachments_sha256_check" CHECK (sha256 ~ '^[a-f0-9]{64}$'::text)
"attachments_size_bytes_check" CHECK (size_bytes >= 1 AND size_bytes <= 10485760)
"attachments_status_check" CHECK (status = ANY (ARRAY['uploading'::text, 'ready'::text]))
"attachments_width_check" CHECK (width > 0)
Foreign-key constraints:
"attachments_chat_id_fkey" FOREIGN KEY (chat_id) REFERENCES chats(id) ON DELETE CASCADE
"attachments_owner_id_fkey" FOREIGN KEY (owner_id) REFERENCES users(id)
Referenced by:
TABLE "message_attachments" CONSTRAINT "message_attachments_attachment_id_fkey" FOREIGN KEY (attachment_id) REFERENCES attachments(id)
Table "public.message_attachments"
Column | Type | Collation | Nullable | Default
---------------+---------+-----------+----------+---------
message_id | uuid | | not null |
attachment_id | uuid | | not null |
position | integer | | not null |
Indexes:
"message_attachments_pkey" PRIMARY KEY, btree (message_id, attachment_id)
"message_attachments_att_idx" btree (attachment_id)
Foreign-key constraints:
"message_attachments_attachment_id_fkey" FOREIGN KEY (attachment_id) REFERENCES attachments(id)
"message_attachments_message_id_fkey" FOREIGN KEY (message_id) REFERENCES messages(id) ON DELETE CASCADE
Table "public.idempotency_keys"
Column | Type | Collation | Nullable | Default
--------------+--------------------------+-----------+----------+---------
user_id | uuid | | not null |
method | text | | not null |
path | text | | not null |
key | text | | not null |
request_hash | bytea | | not null |
status_code | integer | | not null |
response | jsonb | | not null |
created_at | timestamp with time zone | | not null | now()
expires_at | timestamp with time zone | | not null |
Indexes:
"idempotency_keys_pkey" PRIMARY KEY, btree (user_id, method, path, key)
"idempotency_expires_idx" btree (expires_at)
Check constraints:
"idempotency_keys_key_check" CHECK (key ~ '^[A-Za-z0-9._:-]{1,128}$'::text)
Foreign-key constraints:
"idempotency_keys_user_id_fkey" FOREIGN KEY (user_id) REFERENCES users(id)
Table "public.messages"
Column | Type | Collation | Nullable | Default
------------+--------------------------+-----------+----------+-------------------
id | uuid | | not null |
chat_id | uuid | | not null |
sender_id | uuid | | not null |
text | text | | not null |
created_at | timestamp with time zone | | not null | clock_timestamp()
Indexes:
"messages_pkey" PRIMARY KEY, btree (id)
"messages_history_idx" btree (chat_id, created_at, id)
Check constraints:
"messages_text_check" CHECK (char_length(text) <= 4000)
Foreign-key constraints:
"messages_chat_id_fkey" FOREIGN KEY (chat_id) REFERENCES chats(id) ON DELETE CASCADE
"messages_sender_id_fkey" FOREIGN KEY (sender_id) REFERENCES users(id)
Referenced by:
TABLE "message_attachments" CONSTRAINT "message_attachments_message_id_fkey" FOREIGN KEY (message_id) REFERENCES messages(id) ON DELETE CASCADE
--- статусы вложений в БД (после тестов не должно быть uploading)
status | count
--------+-------
ready | 6
(1 row)
--- пароли хранятся как Argon2id, в sessions только sha256 токена
hash_prefix | count
-------------+-------
$argon2id$ | 26
(1 row)
token_hash_bytes | count
------------------+-------
32 | 26
(1 row)
--- миграции выполняет отдельный one-shot сервис migrate (однократно, не репликами)
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-migrate-1 mtusi-lab4-api:1 "python -m app.migra…" migrate 3 minutes ago Exited (0) 10 seconds ago
migrations: ok, latest = 003_attachments.sql
migrations: ok, latest = 003_attachments.sql
migrations: ok, latest = 003_attachments.sql
--- API-реплики стартуют с RUN_MIGRATIONS=0
RUN_MIGRATIONS=0
IDEMPOTENCY_TTL_SECONDS=86400
SESSION_TTL_SECONDS=3600
--- повторный явный запуск миграции безопасен
migrations: ok, latest = 003_attachments.sql
version
---------------------
001_init.sql
002_idempotency.sql
003_attachments.sql
(3 rows)
+48
View File
@@ -0,0 +1,48 @@
# 08 приватное S3-хранилище вложений (2026-11-14T11:02:39Z)
$ docker compose ps -a s3 s3-init
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 3 minutes ago Up 43 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
mtusi-lab4-s3-init-1 mtusi-lab4-api:1 "python -m app.s3init" s3-init 3 minutes ago Exited (0) 14 seconds ago
--- порты S3 наружу (должно быть пусто: S3 доступен только внутри сети compose)
--- журнал s3-init (bucket создаётся идемпотентно)
PASS: ключ API не может удалить рабочий bucket -> AccessDenied
PASS: ключ API не может писать в чужой bucket -> AccessDenied
PASS: ключ API: delete_object -> 404
bucket messenger-attachments: уже существует
PASS: ключ API: put_object в bucket -> OK
PASS: ключ API: get_object из bucket -> OK
PASS: анонимный GET объекта без подписи (HTTP-статус) -> 403
PASS: анонимный GET списка bucket (HTTP-статус) -> 403
PASS: ключ API не может создать другой bucket -> AccessDenied
PASS: ключ API не может удалить рабочий bucket -> AccessDenied
PASS: ключ API не может писать в чужой bucket -> AccessDenied
PASS: ключ API: delete_object -> 404
--- повторный запуск s3-init и проверки приватности/прав (анонимный доступ, ограниченный ключ)
bucket messenger-attachments: уже существует
PASS: ключ API: put_object в bucket -> OK
PASS: ключ API: get_object из bucket -> OK
PASS: анонимный GET объекта без подписи (HTTP-статус) -> 403
PASS: анонимный GET списка bucket (HTTP-статус) -> 403
PASS: ключ API не может создать другой bucket -> AccessDenied
PASS: ключ API не может удалить рабочий bucket -> AccessDenied
PASS: ключ API не может писать в чужой bucket -> AccessDenied
PASS: ключ API: delete_object -> 404
exit code: 0
--- у API-реплик есть только ограниченный ключ (имена секретов; значения не печатаются)
/run/secrets/database_url
/run/secrets/s3_access_key_id
/run/secrets/s3_secret_access_key
--- у API-контейнеров нет локального хранилища вложений: изменения файловой системы после всех загрузок (должно быть пусто)
(записи /run/secrets относятся к смонтированным Docker secrets и не являются данными вложений)
container 2c12200fa922:
изменений файловой системы нет, кроме /run/secrets
container 45517da31576:
изменений файловой системы нет, кроме /run/secrets
--- сверка БД и S3: число готовых вложений и объектов в bucket
ready в БД: 6
uploading в БД: 0
объектов в S3: 6
--- volume с данными S3
volume mtusi-lab4_s3data -> /data
bind -> /run/secrets/s3_config
+16
View File
@@ -0,0 +1,16 @@
# 09 недоступность PostgreSQL (2026-11-14T11:02:48Z)
$ docker compose stop postgres
Container mtusi-lab4-postgres-1 Stopping
Container mtusi-lab4-postgres-1 Stopped
GET /health/ready (через LB) -> 503 (все backend не готовы, LB отвечает 503)
GET /api/v1/users/me -> 503
$ docker compose start postgres
Container mtusi-lab4-postgres-1 Starting
Container mtusi-lab4-postgres-1 Started
ready и 2 реплики снова через 4 с
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 3 minutes ago Up 34 seconds (healthy) 8080/tcp
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 3 minutes ago Up 34 seconds (healthy) 8080/tcp
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 3 minutes ago Up 34 seconds (healthy) 127.0.0.1:8080->8080/tcp
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 3 minutes ago Up 3 seconds (healthy) 5432/tcp
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 3 minutes ago Up About a minute (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
+36
View File
@@ -0,0 +1,36 @@
# 10 недоступность S3 при живых API и PostgreSQL (2026-11-14T15:47:12Z)
$ python student-tests/lab4_checks.py --mode s3-outage (внутри: docker compose stop s3 ... docker compose start s3)
PASS: до сбоя: загрузка -> 201
PASS: S3 остановлен: загрузка -> 503 (code unavailable), 8.1 с
PASS: S3 остановлен: скачивание -> 503, а не 500/зависание
PASS: S3 остановлен: метаданные (только PostgreSQL) -> 200
PASS: S3 остановлен: обычное сообщение -> 201
PASS: S3 остановлен: сообщение со старым вложением -> 201 (только PostgreSQL)
PASS: S3 остановлен: /health/ready остаётся 200 (S3 некритичен для текстового API)
PASS: после старта S3 загрузка снова -> 201 (через 25 с)
PASS: после старта S3 старое вложение скачивается, байты те же (через 1.1 с, попыток: 2)
INFO: S3 был недоступен около 41 с
PASS: все проверки режима 's3-outage'
exit code: 0
S3 healthy
--- после сбоя в БД остаются строки uploading (если удаление объекта подтвердить не удалось)
status | count
-----------+-------
ready | 32
uploading | 15
(2 rows)
$ python -m app.sweep --grace 0 (очистка незавершённых загрузок)
sweep: найдено 15, удалено 15, не удалось 0 (grace=0 с)
status | count
--------+-------
ready | 32
(1 row)
объектов в S3: 32
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 5 hours ago Up About a minute (healthy) 8080/tcp
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 5 hours ago Up About a minute (healthy) 8080/tcp
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 5 hours ago Up 5 hours (healthy) 127.0.0.1:8080->8080/tcp
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 5 hours ago Up 5 hours (healthy) 5432/tcp
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 5 hours ago Up 33 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
+33
View File
@@ -0,0 +1,33 @@
# 11 настройка LB: проверки и время обнаружения отказа (2026-11-14T11:04:02Z)
option redispatch 1 # при неудачном соединении последняя попытка уходит на другой backend
retries 3 # повторяем только установку соединения: запрос ещё не отправлен, это безопасно
timeout connect 1s
timeout client 30s
timeout server 30s
timeout http-request 10s
timeout check 1s
timeout resolve 1s
timeout retry 1s
hold valid 1s
option httpchk
http-check send meth GET uri /health/ready ver HTTP/1.1 hdr Host api
http-check expect status 200
default-server check inter 1s fall 2 rise 2 resolvers docker resolve-prefer ipv4 init-addr none on-marked-down shutdown-sessions
server-template api 6 api:8080
Максимальное время обнаружения отказа по конфигурации: inter 1s x fall 2 + timeout check 1s = около 3 с (порог задания: 10 с).
--- фактическое состояние backend в HAProxy (через stats нет; смотрим логи LB за последние строки)
172.25.0.1:44958 [14/Nov/2026:11:03:36.713] public api/api2 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:44984 [14/Nov/2026:11:03:37.747] public api/api1 0/0/0/21/21 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:44988 [14/Nov/2026:11:03:38.788] public api/api2 0/0/0/876/877 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:45008 [14/Nov/2026:11:03:40.669] public api/api1 0/0/0/14/14 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:57982 [14/Nov/2026:11:03:41.701] public api/api2 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:57988 [14/Nov/2026:11:03:42.726] public api/api1 0/0/1/1081/1082 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:58024 [14/Nov/2026:11:03:44.832] public api/api2 0/0/0/1304/1304 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:58034 [14/Nov/2026:11:03:47.163] public api/api1 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:58064 [14/Nov/2026:11:03:48.174] public api/api2 0/0/0/12/12 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:58076 [14/Nov/2026:11:03:49.213] public api/api1 0/0/1/1546/1547 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:39882 [14/Nov/2026:11:03:51.782] public api/api2 0/0/0/1222/1222 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:39904 [14/Nov/2026:11:03:54.023] public api/api1 0/0/1/6/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:39912 [14/Nov/2026:11:03:55.051] public api/api2 0/0/1/7/8 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:39920 [14/Nov/2026:11:03:56.081] public api/api1 0/0/1/27/29 201 620 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:39926 [14/Nov/2026:11:03:56.127] public api/api2 0/0/1/2/3 503 354 - - ---- 1/1/0/0/0 0/0 "GET /api/v1/attachments/05bb3ffb-93bb-4e5c-ad31-fe99c47930ce/content HTTP/1.1"
+7
View File
@@ -0,0 +1,7 @@
# 12 секреты и volumes вне Git (2026-11-14T11:04:03Z)
$ git check-ignore -v secrets/pg_password secrets/database_url .env
.gitignore:5:secrets/ secrets/pg_password
.gitignore:5:secrets/ secrets/database_url
.gitignore:2:.env .env
$ отслеживаемые файлы, похожие на секреты:
нет
+962
View File
@@ -0,0 +1,962 @@
# Сводка сбора доказательств lab4 (2026-11-14T15:48:22Z)
03 собственные -> evidence/03-student-checks.txt: 123 PASS, 0 FAIL, 0 команд с ошибкой
05 failover -> evidence/05-failover.txt: 2 из 2 раундов PASS, upload-stop: 2 из 2
10 S3 недоступен -> evidence/10-s3-down.txt: PASS: все проверки режима 's3-outage'
=================== evidence/00-clean-start.txt
# 00 чистый старт (2026-11-14T10:58:41Z)
$ docker compose down -v
Container mtusi-lab4-lb-1 Stopping
Container mtusi-lab4-lb-1 Stopped
Container mtusi-lab4-lb-1 Removing
Container mtusi-lab4-lb-1 Removed
Container mtusi-lab4-api-1 Stopping
Container mtusi-lab4-api-2 Stopping
Container mtusi-lab4-api-1 Stopped
Container mtusi-lab4-api-1 Removing
Container mtusi-lab4-api-1 Removed
Container mtusi-lab4-api-2 Stopped
Container mtusi-lab4-api-2 Removing
Container mtusi-lab4-api-2 Removed
Container mtusi-lab4-s3-init-1 Stopping
Container mtusi-lab4-migrate-1 Stopping
Container mtusi-lab4-s3-init-1 Stopped
Container mtusi-lab4-s3-init-1 Removing
Container mtusi-lab4-migrate-1 Stopped
Container mtusi-lab4-migrate-1 Removing
Container mtusi-lab4-s3-init-1 Removed
Container mtusi-lab4-s3-1 Stopping
Container mtusi-lab4-migrate-1 Removed
Container mtusi-lab4-postgres-1 Stopping
Container mtusi-lab4-postgres-1 Stopped
Container mtusi-lab4-postgres-1 Removing
Container mtusi-lab4-postgres-1 Removed
Container mtusi-lab4-s3-1 Stopped
Container mtusi-lab4-s3-1 Removing
Container mtusi-lab4-s3-1 Removed
Volume mtusi-lab4_s3data Removing
Volume mtusi-lab4_pgdata Removing
Network mtusi-lab4_default Removing
Volume mtusi-lab4_pgdata Removed
Volume mtusi-lab4_s3data Removed
Network mtusi-lab4_default Removed
$ sh scripts/setup-secrets.sh
secrets: ok (значения не печатаются)
secrets: ok (значения не печатаются)
$ docker compose up -d --build
Compose can now delegate builds to bake for better performance.
To do so, set COMPOSE_BAKE=true.
#0 building with "desktop-linux" instance using docker driver
#1 [s3-init internal] load build definition from Dockerfile
#1 transferring dockerfile: 535B done
#1 DONE 0.0s
#2 [migrate internal] load build definition from Dockerfile
#2 transferring dockerfile: 535B 0.0s done
#2 DONE 0.0s
#3 [migrate internal] load metadata for docker.io/library/python:3.12.7-slim-bookworm
#3 DONE 1.4s
#4 [migrate internal] load .dockerignore
#4 transferring context: 216B done
#4 DONE 0.0s
#5 [s3-init internal] load .dockerignore
#5 transferring context: 216B done
#5 DONE 0.0s
#6 [migrate 1/6] FROM docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d
#6 resolve docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d 0.0s done
#6 DONE 0.0s
#7 [s3-init internal] load build context
#7 transferring context: 53.68kB done
#7 DONE 0.0s
#8 [migrate internal] load build context
#8 transferring context: 53.68kB done
#8 DONE 0.0s
#9 [s3-init 2/6] WORKDIR /app
#9 CACHED
#10 [s3-init 3/6] COPY src/requirements.txt .
#10 CACHED
#11 [migrate 4/6] RUN pip install --no-cache-dir -r requirements.txt
#11 CACHED
#12 [s3-init 5/6] COPY src/ .
#12 DONE 0.0s
#13 [s3-init 6/6] RUN useradd -r -u 10001 appuser
#13 0.340 useradd warning: appuser's uid 10001 is greater than SYS_UID_MAX 999
#13 DONE 0.4s
#14 [s3-init] exporting to image
#14 exporting layers 0.1s done
#14 exporting manifest sha256:4ae2a791bbba577bcb815375108ea737a327a44f3cb92b050371582871ca77a1 0.0s done
#14 exporting config sha256:fd2ebb00c346e3417687248874a92ffcf783d91a1cc83d788d70d5bfea6d0544 0.0s done
#14 exporting attestation manifest sha256:ae0da9de98954a73ad89771c32e4f4d1a8a061ce5fa1a3624287d97b91a368c4
#14 exporting attestation manifest sha256:ae0da9de98954a73ad89771c32e4f4d1a8a061ce5fa1a3624287d97b91a368c4 0.1s done
#14 exporting manifest list sha256:e51688c9cb5dc910f9520e2eb97fefa0d9e1d284df053199f4a2fa3b6a0a8cb0 0.0s done
#14 naming to docker.io/library/mtusi-lab4-api:1
#14 naming to docker.io/library/mtusi-lab4-api:1 0.0s done
#14 unpacking to docker.io/library/mtusi-lab4-api:1 0.1s done
#14 DONE 0.4s
#15 [migrate] exporting to image
#15 exporting layers 0.1s done
#15 exporting manifest sha256:d4b8df4de55e399aa1f89ec53b8fd34515066d4e32a3d2da4584d541275b3230 0.0s done
#15 exporting config sha256:e859f5e9831d26a74f7f454640182463334862757cbb876e878ebc60464ae04d 0.0s done
#15 exporting attestation manifest sha256:9bdce302a45c5a9ba9bc835944c8aa6fc46f18c25817a5d63aa987840ca12387 0.1s done
#15 exporting manifest list sha256:76901d91a4007adbe41c8041eeabb616dd078be07048f3dbdef5f0f5fee4ff57 0.0s done
#15 naming to docker.io/library/mtusi-lab4-api:1 done
#15 unpacking to docker.io/library/mtusi-lab4-api:1 0.1s done
#15 DONE 0.5s
#16 [s3-init] resolving provenance for metadata file
#16 DONE 0.0s
#17 [migrate] resolving provenance for metadata file
#17 DONE 0.0s
#18 [api internal] load build definition from Dockerfile
#18 transferring dockerfile: 535B done
#18 DONE 0.0s
#3 [api internal] load metadata for docker.io/library/python:3.12.7-slim-bookworm
#3 DONE 1.7s
#19 [api internal] load .dockerignore
#19 transferring context: 216B done
#19 DONE 0.0s
#6 [api 1/6] FROM docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d
#6 resolve docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d 0.0s done
#6 DONE 0.1s
#20 [api internal] load build context
#20 transferring context: 538B done
#20 DONE 0.0s
#21 [api 3/6] COPY src/requirements.txt .
#21 CACHED
#22 [api 4/6] RUN pip install --no-cache-dir -r requirements.txt
#22 CACHED
#23 [api 5/6] COPY src/ .
#23 CACHED
#9 [api 2/6] WORKDIR /app
#9 CACHED
#24 [api 6/6] RUN useradd -r -u 10001 appuser
#24 CACHED
#25 [api] exporting to image
#25 exporting layers done
#25 exporting manifest sha256:e340936d2ef95177fc4964b2ae581b17640ba56d9c391e5c1a919f762e75c1de 0.0s done
#25 exporting config sha256:962e9fd67f6859d238fcc659d62158046c2b41e06ac7728888f37c8d1cb2888c
#25 exporting config sha256:962e9fd67f6859d238fcc659d62158046c2b41e06ac7728888f37c8d1cb2888c 0.0s done
#25 exporting attestation manifest sha256:b791b5198f6c076c00999275b27ec867bf9dad754f65c4f53cbbe5e4ee3bf72c 0.0s done
#25 exporting manifest list sha256:2cc1a39bf9a24bc4274e218d769668dfff377fe32863850f110697231fbebbc3 0.0s done
#25 naming to docker.io/library/mtusi-lab4-api:1 done
#25 unpacking to docker.io/library/mtusi-lab4-api:1 0.0s done
#25 DONE 0.1s
#26 [api] resolving provenance for metadata file
#26 DONE 0.0s
api Built
migrate Built
s3-init Built
Network mtusi-lab4_default Creating
Network mtusi-lab4_default Created
Volume "mtusi-lab4_pgdata" Creating
Volume "mtusi-lab4_pgdata" Created
Volume "mtusi-lab4_s3data" Creating
Volume "mtusi-lab4_s3data" Created
Container mtusi-lab4-postgres-1 Creating
Container mtusi-lab4-s3-1 Creating
Container mtusi-lab4-s3-1 Created
Container mtusi-lab4-s3-init-1 Creating
Container mtusi-lab4-postgres-1 Created
Container mtusi-lab4-migrate-1 Creating
Container mtusi-lab4-s3-init-1 Created
Container mtusi-lab4-migrate-1 Created
Container mtusi-lab4-api-2 Creating
Container mtusi-lab4-api-1 Creating
Container mtusi-lab4-api-2 Created
Container mtusi-lab4-api-1 Created
Container mtusi-lab4-lb-1 Creating
Container mtusi-lab4-lb-1 Created
Container mtusi-lab4-s3-1 Starting
Container mtusi-lab4-postgres-1 Starting
Container mtusi-lab4-postgres-1 Started
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-s3-1 Started
Container mtusi-lab4-s3-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Starting
Container mtusi-lab4-migrate-1 Started
Container mtusi-lab4-s3-1 Healthy
Container mtusi-lab4-s3-init-1 Starting
Container mtusi-lab4-s3-init-1 Started
Container mtusi-lab4-s3-init-1 Waiting
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-migrate-1 Waiting
Container mtusi-lab4-migrate-1 Exited
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-s3-init-1 Exited
Container mtusi-lab4-api-1 Starting
Container mtusi-lab4-api-1 Started
Container mtusi-lab4-api-2 Starting
Container mtusi-lab4-api-2 Started
Container mtusi-lab4-api-1 Waiting
Container mtusi-lab4-api-2 Waiting
Container mtusi-lab4-api-1 Healthy
Container mtusi-lab4-api-2 Healthy
Container mtusi-lab4-lb-1 Starting
Container mtusi-lab4-lb-1 Started
ready через 19 с после запуска up
=================== evidence/01-env.txt
# 01 окружение (2026-11-14T10:59:26Z)
commit: ec540a1a725862a8619fcb758daec4ad197f0dd5
git status:
M REPORT.md
A scripts/collect-evidence.sh
A scripts/restart.sh
A scripts/setup-secrets.sh
A scripts/stop-one.sh
?? .gitattributes
?? Dockerfile
?? compose.yaml
?? evidence/00-clean-start.txt
?? evidence/01-env.txt
?? evidence/02-smoke.txt
?? evidence/03-student-checks.txt
?? evidence/04-load-balancing.txt
?? evidence/05-failover.txt
?? evidence/06-persistence.txt
?? evidence/07-db-migrations.txt
?? evidence/08-s3-storage.txt
?? evidence/09-db-down.txt
?? evidence/10-s3-down.txt
?? evidence/11-lb-config.txt
$ docker version
client=28.0.4 server=28.0.4 os=linux/amd64
$ docker compose version
Docker Compose version v2.34.0-desktop.1
python: Python 3.11.5
$ docker compose config --quiet
compose config: OK
$ docker compose images
CONTAINER REPOSITORY TAG IMAGE ID SIZE
mtusi-lab4-api-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
mtusi-lab4-api-2 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
mtusi-lab4-lb-1 haproxy 2.8.10-alpine 54af6e4943e4 12.2MB
mtusi-lab4-migrate-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
mtusi-lab4-postgres-1 postgres 16.4-alpine 5660c2cbfea5 99.2MB
mtusi-lab4-s3-1 chrislusf/seaweedfs 4.42 f7cbc8bdbbf6 106MB
mtusi-lab4-s3-init-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
$ docker compose ps -a
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 17 seconds ago Up 9 seconds (healthy) 8080/tcp
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 17 seconds ago Up 8 seconds (healthy) 8080/tcp
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 17 seconds ago Up 3 seconds (health: starting) 127.0.0.1:8080->8080/tcp
mtusi-lab4-migrate-1 mtusi-lab4-api:1 "python -m app.migra…" migrate 18 seconds ago Exited (0) 12 seconds ago
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 18 seconds ago Up 17 seconds (healthy) 5432/tcp
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 18 seconds ago Up 17 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
mtusi-lab4-s3-init-1 mtusi-lab4-api:1 "python -m app.s3init" s3-init 18 seconds ago Exited (0) 9 seconds ago
$ docker volume ls (pgdata)
local mtusi2026lab2_pgdata
local mtusi-lab3_pgdata
local mtusi-lab4_pgdata
$ docker stats --no-stream
NAME CPU % MEM USAGE / LIMIT
mtusi-lab4-api-1 0.55% 39.4MiB / 7.694GiB
mtusi-lab4-api-2 0.43% 39.11MiB / 7.694GiB
mtusi-lab4-lb-1 0.57% 12.05MiB / 7.694GiB
mtusi-lab4-postgres-1 0.45% 46.62MiB / 7.694GiB
mtusi-lab4-s3-1 0.19% 46.34MiB / 7.694GiB
$ docker info (лимиты хоста)
CPUs=16 Mem=8261029888
=================== evidence/02-smoke.txt
# 02 публичные проверки через LB (2026-11-14T10:59:31Z)
$ python scripts/check_contract.py
PASS: offline skeleton structure, local refs and Python syntax; application NOT tested.
exit code: 0
$ python tests/smoke.py --base-url http://localhost:8080
PASS: lab4 public API scenario; infrastructure and grading evidence remain separate.
exit code: 0
=================== evidence/03-student-checks.txt
# 03 собственные проверки (2026-11-14T15:45:54Z)
$ python student-tests/lab3_checks.py --base-url http://localhost:8080
PASS: повторный username -> 409
PASS: пароль короче 12 -> 400
PASS: лишнее поле -> 400
PASS: User не содержит пароль/hash/токен
PASS: гонка одинакового username: ровно один 201, остальные 409
PASS: неверный пароль и неизвестный пользователь неразличимы (401, тот же code/message/заголовок)
PASS: вход JSON-телом без Basic -> 401
PASS: Bearer на POST /auth/sessions -> 401
PASS: токен >=256 бит, token_type Bearer
PASS: Basic на бизнес-endpoint -> 401 + WWW-Authenticate: Bearer
PASS: один X-User-Id доступа не даёт
PASS: X-User-Id игнорируется: владелец определяется токеном
PASS: неизвестный токен -> 401
PASS: X-Request-Id совпадает с request_id в теле ошибки
PASS: чат с неизвестным участником -> 400
PASS: после отказа новый чат не появился (нет частичной записи)
PASS: чат создан с обоими участниками
PASS: создатель обязан быть среди member_ids -> 400
PASS: посторонний: GET /chat -> 404
PASS: посторонний: GET /messages -> 404
PASS: посторонний не может писать -> 404
PASS: неверный UUID /chats/not-a-uuid -> 400
PASS: неверный UUID /chats/not-a-uuid/messages -> 400
PASS: sender_id в запросе не принимается -> 400
PASS: пробельный текст -> 400
PASS: отправитель берётся из токена
PASS: пагинация limit=2: без повторов, все 6 сообщений
PASS: cursor от другого чата -> 400
PASS: ?limit=0 -> 400
PASS: ?limit=101 -> 400
PASS: ?limit=abc -> 400
PASS: ?limit=%2B5 -> 400
PASS: ?limit=2&limit=3 -> 400
PASS: тело >1 MiB -> 413
PASS: не JSON Content-Type -> 415
PASS: битый JSON -> 400
PASS: logout -> 204
PASS: повторный logout с отозванным токеном -> 401
PASS: отозванный токен -> 401 + WWW-Authenticate: Bearer
PASS: logout одного пользователя не затрагивает чужие сессии
PASS: все проверки режима 'main'
exit code: 0
$ python student-tests/lab3_checks.py --base-url http://localhost:8080 --mode idem --min-instances 2
PASS: через LB отвечают >= 2 реплик с одним токеном (X-Instance-Id: 2)
PASS: повтор с тем же ключом: тот же 201 и то же сообщение
PASS: повтор не создал дубль
PASS: тот же ключ с другим телом -> 409
PASS: тот же ключ и то же тело (другое форматирование JSON) -> тот же результат
PASS: тот же ключ в другом чате независим
PASS: тот же ключ у другого пользователя независим
PASS: нет Idempotency-Key -> 400
PASS: неверный ключ 'bad key!' -> 400
PASS: неверный ключ 'a/b' -> 400
PASS: неверный ключ 'aaaaaaaaaaaa' -> 400
PASS: неверный ключ '' -> 400
PASS: посторонний с тем же ключом -> 404 (доступ проверяется при повторе)
PASS: без токена -> 401
PASS: 30 параллельных запросов с одним ключом: все 201 и одно и то же сообщение
PASS: в истории ровно одно такое сообщение
INFO: параллельные повторы обслужили реплики: ['2c12200fa922', '45517da31576']
PASS: параллельно один ключ и два разных тела: победитель один, остальным другого тела -> 409
PASS: создано ровно одно сообщение из конкурирующих
PASS: повтор с отозванным токеном -> 401
PASS: все проверки режима 'idem'
exit code: 0
$ python student-tests/lab4_checks.py --base-url http://localhost:8080 (вложения: форматы, лимиты, права, сообщения)
PASS: загрузка PNG -> 201, status ready, ожидаемые поля
PASS: в ответе есть X-Instance-Id и X-Request-Id
PASS: загрузка JPEG -> 201 и верный sha256
PASS: созданный PNG другого размера -> 201
PASS: метаданные доступны другому участнику чата
PASS: скачивание: байты совпадают, Content-Type верный, nosniff
PASS: Content-Length равен размеру
PASS: метаданные постороннему -> 404
PASS: содержимое постороннему -> 404
PASS: без токена -> 401
PASS: неверный UUID -> 400
PASS: неизвестный UUID -> 404
PASS: загрузка в чужой чат -> 404
PASS: загрузка без токена -> 401
PASS: загрузка в неверный UUID чата -> 400
PASS: ?variant=thumbnail (вариантов нет) -> 404
PASS: ?variant=bogus -> 400
PASS: ?variant=original -> 200
PASS: filename: слэш -> 400
PASS: filename: обратный слэш -> 400
PASS: filename: NUL -> 400
PASS: filename: перевод строки -> 400
PASS: filename: пустое -> 400
PASS: filename: пробелы -> 400
PASS: filename: 256 символов -> 400
PASS: filename не указан -> 400
PASS: filename из 255 символов -> 201
PASS: имя «../..» без разделителей принимается и не влияет на ключ объекта
PASS: Content-Type text/plain -> 415
PASS: Content-Type image/gif -> 415
PASS: PNG под видом image/jpeg -> 415
PASS: текст под видом image/png -> 415
PASS: пустое тело -> 415
PASS: PNG с повреждённым блоком (CRC) -> 415
PASS: усечённый PNG -> 415
PASS: PNG с мусором в конце -> 415
PASS: усечённый JPEG -> 415
PASS: JPEG под видом image/png -> 415
PASS: ровно 40 000 000 пикселей (8000x5000) -> 201
PASS: 40 005 000 пикселей (8001x5000) -> 413
PASS: «бомба» 20000x20000 малого размера -> 413
PASS: тело 10 MiB + 1 байт -> 413
PASS: сообщение только с вложением (text='') -> 201 с attachment_ids
PASS: attachment_ids=[] даёт обычное сообщение с пустым массивом
PASS: без attachment_ids в ответе всё равно attachment_ids=[]
PASS: пустой текст без вложений -> 400
PASS: пробельный текст без вложений -> 400
PASS: пробельный текст с вложением допустим -> 201
PASS: неизвестное вложение -> 404
PASS: attachment_ids не массив -> 400
PASS: attachment_ids с неверным UUID -> 400
PASS: повтор одного id в attachment_ids -> 400
PASS: 11 вложений в сообщении -> 400
PASS: 10 вложений -> 201 с сохранением порядка
PASS: вложение другого чата в сообщении -> 404
PASS: участник может сослаться на вложение другого участника
PASS: повтор с вложением и тем же ключом: тот же результат
PASS: тот же ключ с другим набором вложений -> 409
PASS: тот же ключ без вложений (иное тело) -> 409
PASS: в истории одно такое сообщение, attachment_ids присутствует у каждого сообщения
PASS: вложение из истории скачивается вторым участником
PASS: все проверки режима 'attach'
exit code: 0
=================== evidence/04-load-balancing.txt
# 04 балансировка: одна сессия, разные реплики (2026-11-14T10:59:37Z)
$ docker compose ps api (реплики одного сервиса, без container_name)
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 27 seconds ago Up 19 seconds (healthy) 8080/tcp
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 27 seconds ago Up 18 seconds (healthy) 8080/tcp
--- ID работающих API-контейнеров (X-Instance-Id = hostname = короткий ID контейнера)
2c12200fa922
45517da31576
--- порты API-контейнеров наружу (должно быть пусто: вход только через LB)
container 2c12200fa922:
container 45517da31576:
--- порты LB
127.0.0.1:8080
--- 40 запросов с ОДНИМ токеном к GET /users/me через LB: число ответов на каждую реплику
20 X-Instance-Id=2c12200fa922
20 X-Instance-Id=45517da31576
реплик увидено: 2 | токен не печатается, повторный вход не выполнялся
=================== evidence/05-failover.txt
# 05 отказ API-реплики: последовательно каждая из двух (2026-11-14T15:46:00Z)
hook: scripts/stop-one.cmd
=== раунд 1 ===
--- до
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
45517da31576 mtusi-lab4-api-2 Up 5 hours (healthy)
$ python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd
Executing explicit failover hook; hook output suppressed to avoid leaking secrets.
{"observed_instances_before": 2, "successful_writes": 118, "failed_attempts": 1, "first_recovery_seconds": 1.75}
PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence.
exit code: 0
--- после (ровно одна реплика должна быть Exited; остальные Up)
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
45517da31576 mtusi-lab4-api-2 Exited (0) 14 seconds ago
--- LB сейчас: ответы по репликам (остановленной быть не должно)
20 x-instance-id: 2c12200fa922
--- восстановление: docker compose start api
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-s3-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Starting
Container mtusi-lab4-s3-1 Healthy
Container mtusi-lab4-s3-init-1 Starting
Container mtusi-lab4-migrate-1 Started
Container mtusi-lab4-s3-init-1 Started
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-migrate-1 Waiting
Container mtusi-lab4-s3-init-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Exited
Container mtusi-lab4-s3-init-1 Exited
Container mtusi-lab4-api-2 Starting
Container mtusi-lab4-api-2 Started
обе реплики снова видны через LB через 5 с
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
45517da31576 mtusi-lab4-api-2 Up 5 seconds (health: starting)
=== раунд 2 ===
--- до
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
45517da31576 mtusi-lab4-api-2 Up 5 seconds (healthy)
$ python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd
Executing explicit failover hook; hook output suppressed to avoid leaking secrets.
{"observed_instances_before": 2, "successful_writes": 112, "failed_attempts": 1, "first_recovery_seconds": 1.734}
PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence.
exit code: 0
--- после (ровно одна реплика должна быть Exited; остальные Up)
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
45517da31576 mtusi-lab4-api-2 Exited (0) 14 seconds ago
--- LB сейчас: ответы по репликам (остановленной быть не должно)
20 x-instance-id: 2c12200fa922
--- восстановление: docker compose start api
Container mtusi-lab4-s3-1 Waiting
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-s3-1 Healthy
Container mtusi-lab4-s3-init-1 Starting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Starting
Container mtusi-lab4-s3-init-1 Started
Container mtusi-lab4-migrate-1 Started
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-migrate-1 Waiting
Container mtusi-lab4-s3-init-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Exited
Container mtusi-lab4-s3-init-1 Exited
Container mtusi-lab4-api-2 Starting
Container mtusi-lab4-api-2 Started
обе реплики снова видны через LB через 3 с
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
45517da31576 mtusi-lab4-api-2 Up 3 seconds (health: starting)
=== вложение + остановка принявшей реплики, раунд 1 (--target-index 0: останавливается другая реплика) ===
$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook scripts/stop-one.cmd --target-index 0
PASS: через LB видны >= 2 реплик
PASS: файл принят выбранной репликой 2c12200fa922
PASS: hook остановил реплику 2c12200fa922 (код 0, 1.4 с)
PASS: после остановки реплики вложение скачивается через другую реплику (байты те же)
INFO: вложение снова доступно через 2.31 с после запуска hook (реплика ['45517da31576'])
PASS: подтверждённое сообщение с вложением доступно
PASS: остановленная реплика больше не отвечает
PASS: все проверки режима 'upload-stop'
exit code: 0
--- после
2c12200fa922 mtusi-lab4-api-1 Exited (0) 2 seconds ago
45517da31576 mtusi-lab4-api-2 Up 7 seconds (healthy)
--- восстановление: docker compose start api
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-s3-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Starting
Container mtusi-lab4-s3-1 Healthy
Container mtusi-lab4-s3-init-1 Starting
Container mtusi-lab4-migrate-1 Started
Container mtusi-lab4-s3-init-1 Started
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-migrate-1 Waiting
Container mtusi-lab4-s3-init-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Exited
Container mtusi-lab4-s3-init-1 Exited
Container mtusi-lab4-api-1 Starting
Container mtusi-lab4-api-1 Started
обе реплики снова видны через LB через 5 с
=== вложение + остановка принявшей реплики, раунд 2 (--target-index 1: останавливается другая реплика) ===
$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook scripts/stop-one.cmd --target-index 1
PASS: через LB видны >= 2 реплик
PASS: файл принят выбранной репликой 45517da31576
PASS: hook остановил реплику 45517da31576 (код 0, 0.9 с)
PASS: после остановки реплики вложение скачивается через другую реплику (байты те же)
INFO: вложение снова доступно через 1.29 с после запуска hook (реплика ['2c12200fa922'])
PASS: подтверждённое сообщение с вложением доступно
PASS: остановленная реплика больше не отвечает
PASS: все проверки режима 'upload-stop'
exit code: 0
--- после
2c12200fa922 mtusi-lab4-api-1 Up 7 seconds (healthy)
45517da31576 mtusi-lab4-api-2 Exited (0) 1 second ago
--- восстановление: docker compose start api
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-s3-1 Waiting
Container mtusi-lab4-s3-1 Healthy
Container mtusi-lab4-s3-init-1 Starting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Starting
Container mtusi-lab4-migrate-1 Started
Container mtusi-lab4-s3-init-1 Started
Container mtusi-lab4-s3-init-1 Waiting
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-migrate-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Exited
Container mtusi-lab4-s3-init-1 Exited
Container mtusi-lab4-api-2 Starting
Container mtusi-lab4-api-2 Started
обе реплики снова видны через LB через 3 с
=================== evidence/06-persistence.txt
# 06 сохранность при рестарте всего стенда (PostgreSQL, S3, API, LB) (2026-11-14T11:00:44Z)
--- до
/mtusi-lab4-api-1 StartedAt=2026-11-14T11:00:41.418189002Z RestartCount=0
/mtusi-lab4-api-2 StartedAt=2026-11-14T10:59:18.845998391Z RestartCount=0
/mtusi-lab4-lb-1 StartedAt=2026-11-14T10:59:24.60449319Z RestartCount=0
/mtusi-lab4-postgres-1 StartedAt=2026-11-14T10:59:10.646170885Z RestartCount=0
/mtusi-lab4-s3-1 StartedAt=2026-11-14T10:59:10.657148631Z RestartCount=0
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api About a minute ago Up 4 seconds (health: starting) 8080/tcp
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api About a minute ago Up About a minute (healthy) 8080/tcp
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb About a minute ago Up About a minute (healthy) 127.0.0.1:8080->8080/tcp
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres About a minute ago Up About a minute (healthy) 5432/tcp
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 About a minute ago Up About a minute (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
объектов в S3 до рестарта: 5
$ python tests/resilience.py --mode persistence --action-script scripts/restart.cmd
Executing explicit persistence hook; hook output suppressed to avoid leaking secrets.
PASS: persistence preserved confirmed data and existing session. Hook scope needs operator evidence.
exit code: 0
--- после (StartedAt должен измениться у postgres, api и lb)
/mtusi-lab4-api-1 StartedAt=2026-11-14T11:01:28.768539654Z RestartCount=0
/mtusi-lab4-api-2 StartedAt=2026-11-14T11:01:28.927527738Z RestartCount=0
/mtusi-lab4-lb-1 StartedAt=2026-11-14T11:01:29.197680185Z RestartCount=0
/mtusi-lab4-postgres-1 StartedAt=2026-11-14T11:00:49.753628396Z RestartCount=0
/mtusi-lab4-s3-1 StartedAt=2026-11-14T11:01:09.731773197Z RestartCount=0
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 2 minutes ago Up 6 seconds (healthy) 8080/tcp
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 2 minutes ago Up 6 seconds (healthy) 8080/tcp
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 2 minutes ago Up 6 seconds (healthy) 127.0.0.1:8080->8080/tcp
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 2 minutes ago Up 45 seconds (healthy) 5432/tcp
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 2 minutes ago Up 25 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
--- время восстановления одного рестарта (hook + ожидание /health/ready и 2 реплик)
Container mtusi-lab4-postgres-1 Restarting
Container mtusi-lab4-s3-1 Restarting
Container mtusi-lab4-postgres-1 Started
Container mtusi-lab4-s3-1 Started
Container mtusi-lab4-api-2 Restarting
Container mtusi-lab4-api-1 Restarting
Container mtusi-lab4-lb-1 Restarting
Container mtusi-lab4-api-2 Started
Container mtusi-lab4-lb-1 Started
Container mtusi-lab4-api-1 Started
Container mtusi-lab4-s3-1 Running
Container mtusi-lab4-postgres-1 Running
Container mtusi-lab4-s3-init-1 Created
Container mtusi-lab4-migrate-1 Created
Container mtusi-lab4-api-1 Running
Container mtusi-lab4-api-2 Running
Container mtusi-lab4-lb-1 Running
Container mtusi-lab4-s3-1 Waiting
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-s3-1 Healthy
Container mtusi-lab4-s3-init-1 Starting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Starting
Container mtusi-lab4-s3-init-1 Started
Container mtusi-lab4-migrate-1 Started
Container mtusi-lab4-postgres-1 Waiting
Container mtusi-lab4-migrate-1 Waiting
Container mtusi-lab4-s3-init-1 Waiting
Container mtusi-lab4-postgres-1 Healthy
Container mtusi-lab4-migrate-1 Exited
Container mtusi-lab4-s3-init-1 Exited
Container mtusi-lab4-api-1 Waiting
Container mtusi-lab4-api-2 Waiting
Container mtusi-lab4-api-1 Healthy
Container mtusi-lab4-api-2 Healthy
готов через 54 с
объектов в S3 после рестарта: 6
--- данные в БД после рестарта
users | chats | messages | sessions | idempotency_keys | attachments
-------+-------+----------+----------+------------------+-------------
26 | 12 | 247 | 26 | 247 | 6
(1 row)
=================== evidence/07-db-migrations.txt
# 07 схема БД и миграции (2026-11-14T11:02:32Z)
version | applied_at
---------------------+-------------------------------
001_init.sql | 2026-11-14 10:59:15.430991+00
002_idempotency.sql | 2026-11-14 10:59:15.491662+00
003_attachments.sql | 2026-11-14 10:59:15.505907+00
(3 rows)
List of relations
Schema | Name | Type | Owner
--------+---------------------+-------+-------
public | attachments | table | msg
public | chat_members | table | msg
public | chats | table | msg
public | idempotency_keys | table | msg
public | message_attachments | table | msg
public | messages | table | msg
public | schema_migrations | table | msg
public | sessions | table | msg
public | users | table | msg
(9 rows)
Table "public.attachments"
Column | Type | Collation | Nullable | Default
--------------+--------------------------+-----------+----------+-------------------
id | uuid | | not null |
chat_id | uuid | | not null |
owner_id | uuid | | not null |
filename | text | | not null |
content_type | text | | not null |
size_bytes | bigint | | not null |
sha256 | text | | not null |
width | integer | | not null |
height | integer | | not null |
object_key | text | | not null |
status | text | | not null | 'uploading'::text
created_at | timestamp with time zone | | not null | now()
updated_at | timestamp with time zone | | not null | now()
Indexes:
"attachments_pkey" PRIMARY KEY, btree (id)
"attachments_chat_idx" btree (chat_id, created_at)
"attachments_object_key_key" UNIQUE CONSTRAINT, btree (object_key)
"attachments_pending_idx" btree (created_at) WHERE status = 'uploading'::text
Check constraints:
"attachments_content_type_check" CHECK (content_type = ANY (ARRAY['image/png'::text, 'image/jpeg'::text]))
"attachments_filename_check" CHECK (char_length(filename) >= 1 AND char_length(filename) <= 255)
"attachments_height_check" CHECK (height > 0)
"attachments_sha256_check" CHECK (sha256 ~ '^[a-f0-9]{64}$'::text)
"attachments_size_bytes_check" CHECK (size_bytes >= 1 AND size_bytes <= 10485760)
"attachments_status_check" CHECK (status = ANY (ARRAY['uploading'::text, 'ready'::text]))
"attachments_width_check" CHECK (width > 0)
Foreign-key constraints:
"attachments_chat_id_fkey" FOREIGN KEY (chat_id) REFERENCES chats(id) ON DELETE CASCADE
"attachments_owner_id_fkey" FOREIGN KEY (owner_id) REFERENCES users(id)
Referenced by:
TABLE "message_attachments" CONSTRAINT "message_attachments_attachment_id_fkey" FOREIGN KEY (attachment_id) REFERENCES attachments(id)
Table "public.message_attachments"
Column | Type | Collation | Nullable | Default
---------------+---------+-----------+----------+---------
message_id | uuid | | not null |
attachment_id | uuid | | not null |
position | integer | | not null |
Indexes:
"message_attachments_pkey" PRIMARY KEY, btree (message_id, attachment_id)
"message_attachments_att_idx" btree (attachment_id)
Foreign-key constraints:
"message_attachments_attachment_id_fkey" FOREIGN KEY (attachment_id) REFERENCES attachments(id)
"message_attachments_message_id_fkey" FOREIGN KEY (message_id) REFERENCES messages(id) ON DELETE CASCADE
Table "public.idempotency_keys"
Column | Type | Collation | Nullable | Default
--------------+--------------------------+-----------+----------+---------
user_id | uuid | | not null |
method | text | | not null |
path | text | | not null |
key | text | | not null |
request_hash | bytea | | not null |
status_code | integer | | not null |
response | jsonb | | not null |
created_at | timestamp with time zone | | not null | now()
expires_at | timestamp with time zone | | not null |
Indexes:
"idempotency_keys_pkey" PRIMARY KEY, btree (user_id, method, path, key)
"idempotency_expires_idx" btree (expires_at)
Check constraints:
"idempotency_keys_key_check" CHECK (key ~ '^[A-Za-z0-9._:-]{1,128}$'::text)
Foreign-key constraints:
"idempotency_keys_user_id_fkey" FOREIGN KEY (user_id) REFERENCES users(id)
Table "public.messages"
Column | Type | Collation | Nullable | Default
------------+--------------------------+-----------+----------+-------------------
id | uuid | | not null |
chat_id | uuid | | not null |
sender_id | uuid | | not null |
text | text | | not null |
created_at | timestamp with time zone | | not null | clock_timestamp()
Indexes:
"messages_pkey" PRIMARY KEY, btree (id)
"messages_history_idx" btree (chat_id, created_at, id)
Check constraints:
"messages_text_check" CHECK (char_length(text) <= 4000)
Foreign-key constraints:
"messages_chat_id_fkey" FOREIGN KEY (chat_id) REFERENCES chats(id) ON DELETE CASCADE
"messages_sender_id_fkey" FOREIGN KEY (sender_id) REFERENCES users(id)
Referenced by:
TABLE "message_attachments" CONSTRAINT "message_attachments_message_id_fkey" FOREIGN KEY (message_id) REFERENCES messages(id) ON DELETE CASCADE
--- статусы вложений в БД (после тестов не должно быть uploading)
status | count
--------+-------
ready | 6
(1 row)
--- пароли хранятся как Argon2id, в sessions только sha256 токена
hash_prefix | count
-------------+-------
$argon2id$ | 26
(1 row)
token_hash_bytes | count
------------------+-------
32 | 26
(1 row)
--- миграции выполняет отдельный one-shot сервис migrate (однократно, не репликами)
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-migrate-1 mtusi-lab4-api:1 "python -m app.migra…" migrate 3 minutes ago Exited (0) 10 seconds ago
migrations: ok, latest = 003_attachments.sql
migrations: ok, latest = 003_attachments.sql
migrations: ok, latest = 003_attachments.sql
--- API-реплики стартуют с RUN_MIGRATIONS=0
RUN_MIGRATIONS=0
IDEMPOTENCY_TTL_SECONDS=86400
SESSION_TTL_SECONDS=3600
--- повторный явный запуск миграции безопасен
migrations: ok, latest = 003_attachments.sql
version
---------------------
001_init.sql
002_idempotency.sql
003_attachments.sql
(3 rows)
=================== evidence/08-s3-storage.txt
# 08 приватное S3-хранилище вложений (2026-11-14T11:02:39Z)
$ docker compose ps -a s3 s3-init
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 3 minutes ago Up 43 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
mtusi-lab4-s3-init-1 mtusi-lab4-api:1 "python -m app.s3init" s3-init 3 minutes ago Exited (0) 14 seconds ago
--- порты S3 наружу (должно быть пусто: S3 доступен только внутри сети compose)
--- журнал s3-init (bucket создаётся идемпотентно)
PASS: ключ API не может удалить рабочий bucket -> AccessDenied
PASS: ключ API не может писать в чужой bucket -> AccessDenied
PASS: ключ API: delete_object -> 404
bucket messenger-attachments: уже существует
PASS: ключ API: put_object в bucket -> OK
PASS: ключ API: get_object из bucket -> OK
PASS: анонимный GET объекта без подписи (HTTP-статус) -> 403
PASS: анонимный GET списка bucket (HTTP-статус) -> 403
PASS: ключ API не может создать другой bucket -> AccessDenied
PASS: ключ API не может удалить рабочий bucket -> AccessDenied
PASS: ключ API не может писать в чужой bucket -> AccessDenied
PASS: ключ API: delete_object -> 404
--- повторный запуск s3-init и проверки приватности/прав (анонимный доступ, ограниченный ключ)
bucket messenger-attachments: уже существует
PASS: ключ API: put_object в bucket -> OK
PASS: ключ API: get_object из bucket -> OK
PASS: анонимный GET объекта без подписи (HTTP-статус) -> 403
PASS: анонимный GET списка bucket (HTTP-статус) -> 403
PASS: ключ API не может создать другой bucket -> AccessDenied
PASS: ключ API не может удалить рабочий bucket -> AccessDenied
PASS: ключ API не может писать в чужой bucket -> AccessDenied
PASS: ключ API: delete_object -> 404
exit code: 0
--- у API-реплик есть только ограниченный ключ (имена секретов; значения не печатаются)
/run/secrets/database_url
/run/secrets/s3_access_key_id
/run/secrets/s3_secret_access_key
--- у API-контейнеров нет локального хранилища вложений: изменения файловой системы после всех загрузок (должно быть пусто)
(записи /run/secrets относятся к смонтированным Docker secrets и не являются данными вложений)
container 2c12200fa922:
изменений файловой системы нет, кроме /run/secrets
container 45517da31576:
изменений файловой системы нет, кроме /run/secrets
--- сверка БД и S3: число готовых вложений и объектов в bucket
ready в БД: 6
uploading в БД: 0
объектов в S3: 6
--- volume с данными S3
volume mtusi-lab4_s3data -> /data
bind -> /run/secrets/s3_config
=================== evidence/09-db-down.txt
# 09 недоступность PostgreSQL (2026-11-14T11:02:48Z)
$ docker compose stop postgres
Container mtusi-lab4-postgres-1 Stopping
Container mtusi-lab4-postgres-1 Stopped
GET /health/ready (через LB) -> 503 (все backend не готовы, LB отвечает 503)
GET /api/v1/users/me -> 503
$ docker compose start postgres
Container mtusi-lab4-postgres-1 Starting
Container mtusi-lab4-postgres-1 Started
ready и 2 реплики снова через 4 с
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 3 minutes ago Up 34 seconds (healthy) 8080/tcp
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 3 minutes ago Up 34 seconds (healthy) 8080/tcp
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 3 minutes ago Up 34 seconds (healthy) 127.0.0.1:8080->8080/tcp
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 3 minutes ago Up 3 seconds (healthy) 5432/tcp
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 3 minutes ago Up About a minute (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
=================== evidence/10-s3-down.txt
# 10 недоступность S3 при живых API и PostgreSQL (2026-11-14T15:47:12Z)
$ python student-tests/lab4_checks.py --mode s3-outage (внутри: docker compose stop s3 ... docker compose start s3)
PASS: до сбоя: загрузка -> 201
PASS: S3 остановлен: загрузка -> 503 (code unavailable), 8.1 с
PASS: S3 остановлен: скачивание -> 503, а не 500/зависание
PASS: S3 остановлен: метаданные (только PostgreSQL) -> 200
PASS: S3 остановлен: обычное сообщение -> 201
PASS: S3 остановлен: сообщение со старым вложением -> 201 (только PostgreSQL)
PASS: S3 остановлен: /health/ready остаётся 200 (S3 некритичен для текстового API)
PASS: после старта S3 загрузка снова -> 201 (через 25 с)
PASS: после старта S3 старое вложение скачивается, байты те же (через 1.1 с, попыток: 2)
INFO: S3 был недоступен около 41 с
PASS: все проверки режима 's3-outage'
exit code: 0
S3 healthy
--- после сбоя в БД остаются строки uploading (если удаление объекта подтвердить не удалось)
status | count
-----------+-------
ready | 32
uploading | 15
(2 rows)
$ python -m app.sweep --grace 0 (очистка незавершённых загрузок)
sweep: найдено 15, удалено 15, не удалось 0 (grace=0 с)
status | count
--------+-------
ready | 32
(1 row)
объектов в S3: 32
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 5 hours ago Up About a minute (healthy) 8080/tcp
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 5 hours ago Up About a minute (healthy) 8080/tcp
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 5 hours ago Up 5 hours (healthy) 127.0.0.1:8080->8080/tcp
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 5 hours ago Up 5 hours (healthy) 5432/tcp
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 5 hours ago Up 33 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
=================== evidence/11-lb-config.txt
# 11 настройка LB: проверки и время обнаружения отказа (2026-11-14T11:04:02Z)
option redispatch 1 # при неудачном соединении последняя попытка уходит на другой backend
retries 3 # повторяем только установку соединения: запрос ещё не отправлен, это безопасно
timeout connect 1s
timeout client 30s
timeout server 30s
timeout http-request 10s
timeout check 1s
timeout resolve 1s
timeout retry 1s
hold valid 1s
option httpchk
http-check send meth GET uri /health/ready ver HTTP/1.1 hdr Host api
http-check expect status 200
default-server check inter 1s fall 2 rise 2 resolvers docker resolve-prefer ipv4 init-addr none on-marked-down shutdown-sessions
server-template api 6 api:8080
Максимальное время обнаружения отказа по конфигурации: inter 1s x fall 2 + timeout check 1s = около 3 с (порог задания: 10 с).
--- фактическое состояние backend в HAProxy (через stats нет; смотрим логи LB за последние строки)
172.25.0.1:44958 [14/Nov/2026:11:03:36.713] public api/api2 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:44984 [14/Nov/2026:11:03:37.747] public api/api1 0/0/0/21/21 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:44988 [14/Nov/2026:11:03:38.788] public api/api2 0/0/0/876/877 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:45008 [14/Nov/2026:11:03:40.669] public api/api1 0/0/0/14/14 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:57982 [14/Nov/2026:11:03:41.701] public api/api2 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:57988 [14/Nov/2026:11:03:42.726] public api/api1 0/0/1/1081/1082 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:58024 [14/Nov/2026:11:03:44.832] public api/api2 0/0/0/1304/1304 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:58034 [14/Nov/2026:11:03:47.163] public api/api1 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:58064 [14/Nov/2026:11:03:48.174] public api/api2 0/0/0/12/12 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:58076 [14/Nov/2026:11:03:49.213] public api/api1 0/0/1/1546/1547 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:39882 [14/Nov/2026:11:03:51.782] public api/api2 0/0/0/1222/1222 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:39904 [14/Nov/2026:11:03:54.023] public api/api1 0/0/1/6/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:39912 [14/Nov/2026:11:03:55.051] public api/api2 0/0/1/7/8 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:39920 [14/Nov/2026:11:03:56.081] public api/api1 0/0/1/27/29 201 620 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
172.25.0.1:39926 [14/Nov/2026:11:03:56.127] public api/api2 0/0/1/2/3 503 354 - - ---- 1/1/0/0/0 0/0 "GET /api/v1/attachments/05bb3ffb-93bb-4e5c-ad31-fe99c47930ce/content HTTP/1.1"
=================== evidence/12-git-hygiene.txt
# 12 секреты и volumes вне Git (2026-11-14T11:04:03Z)
$ git check-ignore -v secrets/pg_password secrets/database_url .env
.gitignore:5:secrets/ secrets/pg_password
.gitignore:5:secrets/ secrets/database_url
.gitignore:2:.env .env
$ отслеживаемые файлы, похожие на секреты:
нет
+52
View File
@@ -0,0 +1,52 @@
# Единая точка входа lab3. Backend-адреса обнаруживаются через DNS Docker (сервис "api" -> IP всех реплик)
# и перечитываются каждую секунду, поэтому добавленные/удалённые реплики подхватываются без перезапуска LB.
global
log stdout format raw local0
maxconn 4096
hard-stop-after 5s # мягкая остановка LB (SIGUSR1) не зависает на keep-alive соединениях
defaults
mode http
log global
option httplog
option dontlognull
option redispatch 1 # при неудачном соединении последняя попытка уходит на другой backend
retries 3 # повторяем только установку соединения: запрос ещё не отправлен, это безопасно
timeout connect 1s
timeout client 30s
timeout server 30s
timeout http-request 10s
timeout check 1s
resolvers docker
nameserver dns1 127.0.0.11:53
resolve_retries 3
timeout resolve 1s
timeout retry 1s
hold valid 1s
hold other 1s
hold refused 1s
hold nx 1s
hold timeout 1s
hold obsolete 1s
frontend public
bind :8080
default_backend api
backend api
balance roundrobin
# Активная проверка готовности: инстанс получает трафик только пока GET /health/ready отвечает 200.
# Обнаружение отказа: inter 1s * fall 2 + timeout check 1s => не более ~3 секунд.
option httpchk
http-check send meth GET uri /health/ready ver HTTP/1.1 hdr Host api
http-check expect status 200
default-server check inter 1s fall 2 rise 2 resolvers docker resolve-prefer ipv4 init-addr none on-marked-down shutdown-sessions
# До 6 слотов под реплики; свободные слоты остаются без адреса (DOWN) и трафик не получают.
server-template api 6 api:8080
# Внутренняя проверка самого LB для Docker healthcheck: 200, пока есть хотя бы один живой backend.
frontend lb_health
bind 127.0.0.1:8081
monitor-uri /healthz
monitor fail if { nbsrv(api) lt 1 }
+285
View File
@@ -0,0 +1,285 @@
#!/bin/sh
# Собирает доказательства lab4 в evidence/*.txt. Запускать из Git Bash (Windows) или любого sh,
# когда стенд уже поднят: docker compose up -d --build.
# sh scripts/collect-evidence.sh # проверки на текущих данных
# sh scripts/collect-evidence.sh --fresh # сначала `docker compose down -v` (УДАЛЯЕТ учебные данные) и чистый старт
# Скрипт сам останавливает по одной API-реплике (потом запускает снова), перезапускает стенд, останавливает PostgreSQL и S3.
# Тома не удаляются, кроме режима --fresh. Секреты и токены не печатаются.
set -u
cd "$(dirname "$0")/.." || exit 1
export MSYS_NO_PATHCONV=1 # Git Bash: не превращать /run/... в Windows-пути
export PYTHONUTF8=1 # читаемый UTF-8 в evidence/*.txt
mkdir -p evidence
BASE="${BASE_URL:-http://localhost:8080}"
PROJECT=mtusi-lab4
PY=""
for c in python python3 py; do
if "$c" --version >/dev/null 2>&1; then PY="$c"; break; fi
done
[ -n "$PY" ] || { echo "Не найден python (python/python3/py)"; exit 2; }
case "$(uname -s)" in
MINGW*|MSYS*|CYGWIN*) RESTART="${RESTART_HOOK:-scripts/restart.cmd}"; STOPONE="${STOPONE_HOOK:-scripts/stop-one.cmd}" ;;
*) RESTART="${RESTART_HOOK:-scripts/restart.sh}"; STOPONE="${STOPONE_HOOK:-scripts/stop-one.sh}" ;;
esac
echo "Сбор доказательств lab4: 13 шагов, 6-10 минут (S3 стартует ~20 с). Прогресс печатается после каждого шага."
now() { date -u +%Y-%m-%dT%H:%M:%SZ; }
sec() { date +%s; }
wait_ready() {
i=0
until curl -fsS -m 3 "$BASE/health/ready" >/dev/null 2>&1; do
i=$((i + 1)); [ "$i" -gt 90 ] && return 1; sleep 1
done
return 0
}
# ждём, пока через LB снова видны >= $1 разных реплик
wait_replicas() {
want=$1; i=0
while :; do
n=$(for _ in 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20; do curl -s -m 3 -D - -o /dev/null "$BASE/health/live" | tr -d '\r' | grep -i '^x-instance-id:'; done | sort -u | wc -l)
[ "$n" -ge "$want" ] && return 0
i=$((i + 1)); [ "$i" -gt 40 ] && return 1; sleep 1
done
}
api_ids() { docker ps -q --filter "label=com.docker.compose.project=$PROJECT" --filter "label=com.docker.compose.service=api"; }
api_state() { docker ps -a --filter "label=com.docker.compose.project=$PROJECT" --filter "label=com.docker.compose.service=api" --format '{{.ID}} {{.Names}} {{.Status}}'; }
started() { docker inspect -f '{{.Name}} StartedAt={{.State.StartedAt}} RestartCount={{.RestartCount}}' $(docker compose ps -q postgres s3 api lb); }
s3_count() { docker compose run --rm --no-deps -T s3-init python -m app.s3init --count 2>/dev/null | tail -1; }
wait_s3() { i=0; until docker compose exec -T s3 wget -q -O /dev/null http://127.0.0.1:8333/healthz >/dev/null 2>&1; do i=$((i + 1)); [ "$i" -gt 90 ] && return 1; sleep 1; done; }
psql_c() { docker compose exec -T postgres psql -U msg -d msg -c "$1"; }
spread() { for _ in $(seq 1 "${1:-40}"); do curl -s -m 3 -D - -o /dev/null -H "Authorization: Bearer ${2:-x}" "$BASE/api/v1/users/me" | tr -d '\r' | grep -i '^x-instance-id:'; done | sort | uniq -c; }
RESULTS=""
# STEPS="03 05 10" sh scripts/collect-evidence.sh -- выполнить только перечисленные шаги (остальные файлы evidence/ остаются прежними)
want() { [ -z "${STEPS:-}" ] && return 0; case " $STEPS " in *" $1 "*) return 0 ;; *) return 1 ;; esac; }
note() { RESULTS="$RESULTS
$1"; echo "готово: $1"; }
if [ "${1:-}" = "--fresh" ]; then
{
echo "# 00 чистый старт ($(now))"
echo "\$ docker compose down -v"; docker compose down -v
echo "\$ sh scripts/setup-secrets.sh"; sh scripts/setup-secrets.sh && echo "secrets: ok (значения не печатаются)"
t0=$(sec)
echo "\$ docker compose up -d --build"; docker compose up -d --build
if wait_ready; then echo "ready через $(( $(sec) - t0 )) с после запуска up"; else echo "НЕ ГОТОВ за 90 с"; fi
} > evidence/00-clean-start.txt 2>&1
note "00 clean start -> evidence/00-clean-start.txt"
fi
wait_ready || { echo "LB/API не отвечает на $BASE/health/ready. Сначала: docker compose up -d --build"; exit 1; }
wait_replicas 2 || { echo "Через LB видна меньше чем 2 реплики. Проверьте: docker compose ps"; exit 1; }
if want 01; then
{
echo "# 01 окружение ($(now))"
echo "commit: $(git rev-parse HEAD 2>/dev/null || echo 'нет git')"
echo "git status:"; git status --short 2>/dev/null | head -20
echo "\$ docker version"; docker version --format 'client={{.Client.Version}} server={{.Server.Version}} os={{.Server.Os}}/{{.Server.Arch}}'
echo "\$ docker compose version"; docker compose version
echo "python: $($PY --version 2>&1)"
echo "\$ docker compose config --quiet"; docker compose config --quiet && echo "compose config: OK"
echo "\$ docker compose images"; docker compose images
echo "\$ docker compose ps -a"; docker compose ps -a
echo "\$ docker volume ls (pgdata)"; docker volume ls | grep -i pgdata
echo "\$ docker stats --no-stream"; docker stats --no-stream --format 'table {{.Name}}\t{{.CPUPerc}}\t{{.MemUsage}}' $(docker compose ps -q)
echo "\$ docker info (лимиты хоста)"; docker info --format 'CPUs={{.NCPU}} Mem={{.MemTotal}}'
} > evidence/01-env.txt 2>&1
note "01 окружение -> evidence/01-env.txt"
fi
if want 02; then
{
echo "# 02 публичные проверки через LB ($(now))"
echo "\$ python scripts/check_contract.py"; $PY scripts/check_contract.py; echo "exit code: $?"
echo "\$ python tests/smoke.py --base-url $BASE"; $PY tests/smoke.py --base-url "$BASE"; echo "exit code: $?"
} > evidence/02-smoke.txt 2>&1
note "02 smoke -> evidence/02-smoke.txt: $(grep -c '^PASS: lab4' evidence/02-smoke.txt) PASS-строк smoke"
fi
if want 03; then
{
echo "# 03 собственные проверки ($(now))"
echo "\$ python student-tests/lab3_checks.py --base-url $BASE"
$PY student-tests/lab3_checks.py --base-url "$BASE"; echo "exit code: $?"
echo "\$ python student-tests/lab3_checks.py --base-url $BASE --mode idem --min-instances 2"
$PY student-tests/lab3_checks.py --base-url "$BASE" --mode idem --min-instances 2; echo "exit code: $?"
echo "\$ python student-tests/lab4_checks.py --base-url $BASE (вложения: форматы, лимиты, права, сообщения)"
$PY student-tests/lab4_checks.py --base-url "$BASE"; echo "exit code: $?"
} > evidence/03-student-checks.txt 2>&1
note "03 собственные -> evidence/03-student-checks.txt: $(grep -c '^PASS: ' evidence/03-student-checks.txt) PASS, $(grep -c '^FAIL: ' evidence/03-student-checks.txt) FAIL, $(grep -c 'exit code: [1-9]' evidence/03-student-checks.txt) команд с ошибкой"
fi
if want 04; then
{
echo "# 04 балансировка: одна сессия, разные реплики ($(now))"
echo "\$ docker compose ps api (реплики одного сервиса, без container_name)"; docker compose ps api
echo "--- ID работающих API-контейнеров (X-Instance-Id = hostname = короткий ID контейнера)"; api_ids
echo "--- порты API-контейнеров наружу (должно быть пусто: вход только через LB)"
for c in $(api_ids); do echo "container $c:"; docker port "$c" || true; done
echo "--- порты LB"; docker compose port lb 8080
echo "--- 40 запросов с ОДНИМ токеном к GET /users/me через LB: число ответов на каждую реплику"
$PY - <<'PYEOF' "$BASE"
import base64, collections, json, sys, urllib.request as u
b = sys.argv[1] + "/api/v1"
def call(m, p, body=None, h=None):
r = u.Request(b + p, data=json.dumps(body).encode() if body is not None else None, method=m,
headers={**(h or {}), **({"Content-Type": "application/json"} if body is not None else {})})
return u.urlopen(r, timeout=10)
name = "lbprobe_" + base64.b32encode(__import__("os").urandom(5)).decode().lower()
pw = "correct-horse-battery"
call("POST", "/users", {"username": name, "display_name": "probe", "password": pw})
tok = json.load(call("POST", "/auth/sessions", h={"Authorization": "Basic " + base64.b64encode(f"{name}:{pw}".encode()).decode()}))["token"]
cnt = collections.Counter(call("GET", "/users/me", h={"Authorization": "Bearer " + tok}).headers["X-Instance-Id"] for _ in range(40))
for k, v in sorted(cnt.items()): print(f" {v:3d} X-Instance-Id={k}")
print("реплик увидено:", len(cnt), "| токен не печатается, повторный вход не выполнялся")
PYEOF
} > evidence/04-load-balancing.txt 2>&1
note "04 балансировка -> evidence/04-load-balancing.txt: $(grep -m1 'реплик увидено' evidence/04-load-balancing.txt)"
fi
if want 05; then
{
echo "# 05 отказ API-реплики: последовательно каждая из двух ($(now))"
echo "hook: $STOPONE"
for round in 1 2; do
echo; echo "=== раунд $round ==="
echo "--- до"; api_state
echo "\$ python tests/resilience.py --mode failover --action-script $STOPONE"
t0=$(sec)
$PY tests/resilience.py --mode failover --action-script "$STOPONE" --base-url "$BASE"; echo "exit code: $?"
echo "--- после (ровно одна реплика должна быть Exited; остальные Up)"; api_state
echo "--- LB сейчас: ответы по репликам (остановленной быть не должно)"; spread 20
echo "--- восстановление: docker compose start api"; docker compose start api >/dev/null
t1=$(sec); if wait_replicas 2; then echo "обе реплики снова видны через LB через $(( $(sec) - t1 )) с"; else echo "реплика не вернулась за 40 с"; fi
api_state
done
for round in 1 2; do
echo; echo "=== вложение + остановка принявшей реплики, раунд $round (--target-index $((round - 1)): останавливается другая реплика) ==="
echo "\$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook $STOPONE --target-index $((round - 1))"
$PY student-tests/lab4_checks.py --base-url "$BASE" --mode upload-stop --stop-hook "$STOPONE" --target-index $((round - 1)); echo "exit code: $?"
echo "--- после"; api_state
echo "--- восстановление: docker compose start api"; docker compose start api >/dev/null
t1=$(sec); if wait_replicas 2; then echo "обе реплики снова видны через LB через $(( $(sec) - t1 )) с"; else echo "реплика не вернулась за 40 с"; fi
done
} > evidence/05-failover.txt 2>&1
note "05 failover -> evidence/05-failover.txt: $(grep -c '^PASS: failover' evidence/05-failover.txt) из 2 раундов PASS, upload-stop: $(grep -c "режима 'upload-stop'" evidence/05-failover.txt) из 2"
fi
if want 06; then
{
echo "# 06 сохранность при рестарте всего стенда (PostgreSQL, S3, API, LB) ($(now))"
echo "--- до"; started; docker compose ps
echo "объектов в S3 до рестарта: $(s3_count)"
echo "\$ python tests/resilience.py --mode persistence --action-script $RESTART"
$PY tests/resilience.py --mode persistence --action-script "$RESTART" --base-url "$BASE"; echo "exit code: $?"
echo "--- после (StartedAt должен измениться у postgres, api и lb)"; started; docker compose ps
echo "--- время восстановления одного рестарта (hook + ожидание /health/ready и 2 реплик)"
t0=$(sec); sh scripts/restart.sh; if wait_ready && wait_replicas 2; then echo "готов через $(( $(sec) - t0 )) с"; else echo "НЕ ГОТОВ за 90 с"; fi
echo "объектов в S3 после рестарта: $(s3_count)"
echo "--- данные в БД после рестарта"
psql_c "select (select count(*) from users) users, (select count(*) from chats) chats, (select count(*) from messages) messages, (select count(*) from sessions) sessions, (select count(*) from idempotency_keys) idempotency_keys, (select count(*) from attachments) attachments"
} > evidence/06-persistence.txt 2>&1
note "06 persistence -> evidence/06-persistence.txt: $(grep -m1 -E '^(PASS|FAIL): persistence' evidence/06-persistence.txt || echo 'см. файл')"
fi
if want 07; then
{
echo "# 07 схема БД и миграции ($(now))"
psql_c "select * from schema_migrations"
psql_c "\\dt"
for t in attachments message_attachments idempotency_keys messages; do psql_c "\\d $t"; done
echo "--- статусы вложений в БД (после тестов не должно быть uploading)"; psql_c "select status, count(*) from attachments group by 1 order by 1"
echo "--- пароли хранятся как Argon2id, в sessions только sha256 токена"
psql_c "select left(password_hash, 10) as hash_prefix, count(*) from users group by 1"
psql_c "select length(token_hash) as token_hash_bytes, count(*) from sessions group by 1"
echo "--- миграции выполняет отдельный one-shot сервис migrate (однократно, не репликами)"
docker compose ps -a migrate
docker compose logs --no-log-prefix migrate | tail -3
echo "--- API-реплики стартуют с RUN_MIGRATIONS=0"
docker inspect -f '{{range .Config.Env}}{{println .}}{{end}}' $(api_ids | head -1) | grep -E '^(RUN_MIGRATIONS|SESSION_TTL_SECONDS|IDEMPOTENCY_TTL_SECONDS)='
echo "--- повторный явный запуск миграции безопасен"
docker compose run --rm --no-deps migrate; psql_c "select version from schema_migrations"
} > evidence/07-db-migrations.txt 2>&1
note "07 БД и миграции -> evidence/07-db-migrations.txt"
fi
if want 08; then
{
echo "# 08 приватное S3-хранилище вложений ($(now))"
echo "\$ docker compose ps -a s3 s3-init"; docker compose ps -a s3 s3-init
echo "--- порты S3 наружу (должно быть пусто: S3 доступен только внутри сети compose)"; docker port "$(docker compose ps -q s3)" || true
echo "--- журнал s3-init (bucket создаётся идемпотентно)"; docker compose logs --no-log-prefix s3-init | tail -12
echo "--- повторный запуск s3-init и проверки приватности/прав (анонимный доступ, ограниченный ключ)"
docker compose run --rm --no-deps -T s3-init python -m app.s3init; echo "exit code: $?"
echo "--- у API-реплик есть только ограниченный ключ (имена секретов; значения не печатаются)"
docker inspect -f '{{range .Mounts}}{{println .Destination}}{{end}}' $(api_ids | head -1) | grep /run/secrets
echo "--- у API-контейнеров нет локального хранилища вложений: изменения файловой системы после всех загрузок (должно быть пусто)"
echo "(записи /run/secrets относятся к смонтированным Docker secrets и не являются данными вложений)"
for c in $(api_ids); do echo "container $c:"; docker diff "$c" | grep -v ' /run' || echo " изменений файловой системы нет, кроме /run/secrets"; done
echo "--- сверка БД и S3: число готовых вложений и объектов в bucket"
echo "ready в БД: $(docker compose exec -T postgres psql -U msg -d msg -t -A -c "select count(*) from attachments where status='ready'")"
echo "uploading в БД: $(docker compose exec -T postgres psql -U msg -d msg -t -A -c "select count(*) from attachments where status='uploading'")"
echo "объектов в S3: $(s3_count)"
echo "--- volume с данными S3"; docker inspect -f '{{range .Mounts}}{{.Type}} {{.Name}} -> {{.Destination}}{{println}}{{end}}' "$(docker compose ps -q s3)"
} > evidence/08-s3-storage.txt 2>&1
note "08 S3 хранилище -> evidence/08-s3-storage.txt: $(grep -c '^PASS: ' evidence/08-s3-storage.txt) PASS, $(grep -c '^FAIL: ' evidence/08-s3-storage.txt) FAIL"
fi
if want 09; then
{
echo "# 09 недоступность PostgreSQL ($(now))"
echo "\$ docker compose stop postgres"; docker compose stop postgres >/dev/null; sleep 4
echo "GET /health/ready (через LB) -> $(curl -s -m 15 -o /dev/null -w '%{http_code}' "$BASE/health/ready") (все backend не готовы, LB отвечает 503)"
echo "GET /api/v1/users/me -> $(curl -s -m 15 -o /dev/null -w '%{http_code}' -H 'Authorization: Bearer anonymous' "$BASE/api/v1/users/me")"
echo "\$ docker compose start postgres"; t0=$(sec); docker compose start postgres >/dev/null
if wait_ready && wait_replicas 2; then echo "ready и 2 реплики снова через $(( $(sec) - t0 )) с"; else echo "НЕ ВОССТАНОВИЛСЯ за 90 с"; fi
docker compose ps
} > evidence/09-db-down.txt 2>&1
note "09 БД недоступна -> evidence/09-db-down.txt"
fi
if want 10; then
{
echo "# 10 недоступность S3 при живых API и PostgreSQL ($(now))"
echo "\$ python student-tests/lab4_checks.py --mode s3-outage (внутри: docker compose stop s3 ... docker compose start s3)"
$PY student-tests/lab4_checks.py --base-url "$BASE" --mode s3-outage; echo "exit code: $?"
wait_s3 && echo "S3 healthy"
echo "--- после сбоя в БД остаются строки uploading (если удаление объекта подтвердить не удалось)"
psql_c "select status, count(*) from attachments group by 1 order by 1"
echo "\$ python -m app.sweep --grace 0 (очистка незавершённых загрузок)"
docker compose run --rm --no-deps -T -e SWEEP_GRACE_SECONDS=0 api python -m app.sweep --grace 0 2>&1 | tail -3
psql_c "select status, count(*) from attachments group by 1 order by 1"
echo "объектов в S3: $(s3_count)"
docker compose ps
} > evidence/10-s3-down.txt 2>&1
note "10 S3 недоступен -> evidence/10-s3-down.txt: $(grep -m1 -E '^(PASS|FAIL): (все|[0-9])' evidence/10-s3-down.txt || echo 'см. файл')"
fi
if want 11; then
{
echo "# 11 настройка LB: проверки и время обнаружения отказа ($(now))"
grep -E '^\s*(option httpchk|http-check|default-server|server-template|timeout|retries|option redispatch|hold valid)' infra/haproxy/haproxy.cfg
echo "Максимальное время обнаружения отказа по конфигурации: inter 1s x fall 2 + timeout check 1s = около 3 с (порог задания: 10 с)."
echo "--- фактическое состояние backend в HAProxy (через stats нет; смотрим логи LB за последние строки)"
docker compose logs --no-log-prefix --tail 15 lb
} > evidence/11-lb-config.txt 2>&1
note "11 конфигурация LB -> evidence/11-lb-config.txt"
fi
if want 12; then
{
echo "# 12 секреты и volumes вне Git ($(now))"
if git rev-parse --git-dir >/dev/null 2>&1; then
echo "\$ git check-ignore -v secrets/pg_password secrets/database_url .env"; git check-ignore -v secrets/pg_password secrets/database_url .env
echo "\$ отслеживаемые файлы, похожие на секреты:"; git ls-files | grep -E '(^|/)(secrets/|\.env$|.*\.(pem|key)$)' || echo "нет"
else
echo "каталог не является git-репозиторием: запустите проверку в клоне"
fi
} > evidence/12-git-hygiene.txt 2>&1
note "12 git hygiene -> evidence/12-git-hygiene.txt"
fi
{ echo "# Сводка сбора доказательств lab4 ($(now))"; echo "$RESULTS"; for f in evidence/[01][0-9]-*.txt; do echo; echo "=================== $f"; cat "$f"; done; } > evidence/summary.txt 2>&1
echo "$RESULTS"
echo
echo "Готово. Отправьте мне содержимое evidence/summary.txt (секретов в нём нет, но просмотрите глазами)."
+8
View File
@@ -0,0 +1,8 @@
@echo off
cd /d "%~dp0.."
docker compose restart postgres s3 >nul || exit /b 1
docker compose exec -T postgres sh -c "i=0; until pg_isready -U msg -d msg -q; do i=$((i+1)); [ $i -gt 60 ] && exit 1; sleep 1; done" || exit /b 1
docker compose exec -T s3 sh -c "i=0; until wget -q -O /dev/null http://127.0.0.1:8333/healthz 2>/dev/null; do i=$((i+1)); [ $i -gt 120 ] && exit 1; sleep 1; done" || exit /b 1
docker compose restart api lb >nul || exit /b 1
docker compose up -d --no-build --no-recreate >nul
exit /b %errorlevel%
+10
View File
@@ -0,0 +1,10 @@
#!/bin/sh
# Перезапуск всего стенда с сохранением volumes: PostgreSQL и S3 -> (ожидание готовности) -> API-реплики -> LB.
# Данные не удаляются и не пересоздаются; остановленные реплики заодно запускаются.
set -eu
cd "$(dirname "$0")/.." || exit 1
docker compose restart postgres s3 >/dev/null
docker compose exec -T postgres sh -c 'i=0; until pg_isready -U msg -d msg -q; do i=$((i+1)); [ "$i" -gt 60 ] && exit 1; sleep 1; done'
docker compose exec -T s3 sh -c 'i=0; until wget -q -O /dev/null http://127.0.0.1:8333/healthz 2>/dev/null; do i=$((i+1)); [ "$i" -gt 120 ] && exit 1; sleep 1; done'
docker compose restart api lb >/dev/null
docker compose up -d --no-build --no-recreate >/dev/null
+24
View File
@@ -0,0 +1,24 @@
#!/bin/sh
# Создаёт локальные секреты (не коммитятся). Безопасно повторять: существующие не перезаписываются.
# S3: два набора ключей. admin нужен только одноразовому s3-init (создать bucket); ключ API ограничен одним bucket.
set -eu
cd "$(dirname "$0")/.." || exit 1
mkdir -p secrets
BUCKET="${S3_BUCKET:-messenger-attachments}"
rand() { head -c 96 /dev/urandom | base64 | tr -dc 'A-Za-z0-9' | cut -c1-"$1"; }
[ -f secrets/pg_password ] || rand 32 > secrets/pg_password
[ -f secrets/database_url ] || printf 'postgresql://msg:%s@postgres:5432/msg' "$(cat secrets/pg_password)" > secrets/database_url
[ -f secrets/s3_admin_access_key_id ] || rand 20 > secrets/s3_admin_access_key_id
[ -f secrets/s3_admin_secret_access_key ] || rand 40 > secrets/s3_admin_secret_access_key
[ -f secrets/s3_access_key_id ] || rand 20 > secrets/s3_access_key_id
[ -f secrets/s3_secret_access_key ] || rand 40 > secrets/s3_secret_access_key
# конфигурация SeaweedFS S3 строится из этих ключей; анонимного доступа нет, у ключа API права только на свой bucket
if [ ! -f secrets/s3_config.json ]; then
printf '{"identities":[{"name":"admin","credentials":[{"accessKey":"%s","secretKey":"%s"}],"actions":["Admin","Read","Write","List","Tagging"]},{"name":"api","credentials":[{"accessKey":"%s","secretKey":"%s"}],"actions":["Read:%s","Write:%s","List:%s"]}]}' \
"$(cat secrets/s3_admin_access_key_id)" "$(cat secrets/s3_admin_secret_access_key)" \
"$(cat secrets/s3_access_key_id)" "$(cat secrets/s3_secret_access_key)" "$BUCKET" "$BUCKET" "$BUCKET" > secrets/s3_config.json
fi
chmod 600 secrets/* 2>/dev/null || true
echo "secrets: ok (значения не печатаются)"
+9
View File
@@ -0,0 +1,9 @@
@echo off
rem Stops ONE API replica (TARGET_INSTANCE_ID = X-Instance-Id = short container id) and leaves it stopped.
if "%TARGET_INSTANCE_ID%"=="" exit /b 2
set TARGET_INSTANCE_ID | findstr /r /x "TARGET_INSTANCE_ID=[a-zA-Z0-9_.-][a-zA-Z0-9_.-]*" >nul || exit /b 2
set "CID="
for /f %%i in ('docker ps -q --filter "label=com.docker.compose.project=mtusi-lab4" --filter "label=com.docker.compose.service=api" --filter "id=%TARGET_INSTANCE_ID%"') do set "CID=%%i"
if "%CID%"=="" exit /b 1
docker stop -t 5 %CID% >nul
exit /b %errorlevel%
+15
View File
@@ -0,0 +1,15 @@
#!/bin/sh
# Останавливает ОДНУ API-реплику: ту, X-Instance-Id которой передан в TARGET_INSTANCE_ID, и оставляет её остановленной.
# X-Instance-Id = hostname контейнера = короткий ID контейнера. БД, LB и volumes не затрагиваются.
# Восстановление выполняется отдельно: docker compose start api
set -eu
: "${TARGET_INSTANCE_ID:?test provides target API instance alias}"
case "$TARGET_INSTANCE_ID" in
""|*[!a-zA-Z0-9_.-]*) echo "bad TARGET_INSTANCE_ID" >&2; exit 2 ;;
esac
cid=$(docker ps -q \
--filter "label=com.docker.compose.project=mtusi-lab4" \
--filter "label=com.docker.compose.service=api" \
--filter "id=$TARGET_INSTANCE_ID")
[ -n "$cid" ] || { echo "API replica $TARGET_INSTANCE_ID not found" >&2; exit 1; }
docker stop -t 5 "$cid" >/dev/null
View File
+118
View File
@@ -0,0 +1,118 @@
"""Проверка PNG/JPEG по содержимому без декодирования пикселей (защита от decompression bomb).
Размеры берутся из заголовков (PNG IHDR, JPEG SOF); структура проверяется: у PNG — CRC каждого блока, IHDR первым,
хотя бы один IDAT, IEND последним; у JPEG — SOI, корректные сегменты до SOF/SOS и EOI в конце.
Ошибки: ImageError("unsupported") -> 415, ImageError("too_large") -> 413.
"""
import struct
import zlib
PNG_SIG = b"\x89PNG\r\n\x1a\n"
JPEG_SOF = {0xC0, 0xC1, 0xC2, 0xC3, 0xC5, 0xC6, 0xC7, 0xC9, 0xCA, 0xCB, 0xCD, 0xCE, 0xCF}
MAX_DIM = 65535 # JPEG ограничен 16 битами; PNG ограничим тем же значением для единообразия
class ImageError(Exception):
def __init__(self, kind, message):
super().__init__(message)
self.kind, self.message = kind, message
def _unsupported(msg="Файл не является корректным PNG/JPEG"):
return ImageError("unsupported", msg)
def sniff(data: bytes):
"""Возвращает 'image/png', 'image/jpeg' или None по сигнатуре."""
if data[:8] == PNG_SIG:
return "image/png"
if data[:3] == b"\xff\xd8\xff":
return "image/jpeg"
return None
def inspect_png(data: bytes, max_pixels: int):
if len(data) < 8 + 25 + 12 or data[:8] != PNG_SIG:
raise _unsupported()
pos, first, idat, end = 8, True, False, False
width = height = 0
while pos < len(data):
if pos + 12 > len(data):
raise _unsupported("Усечённый PNG")
length = struct.unpack(">I", data[pos:pos + 4])[0]
ctype = data[pos + 4:pos + 8]
if length > len(data) - pos - 12:
raise _unsupported("Усечённый PNG")
body = data[pos + 8:pos + 8 + length]
crc = struct.unpack(">I", data[pos + 8 + length:pos + 12 + length])[0]
if first:
if ctype != b"IHDR" or length != 13:
raise _unsupported("PNG должен начинаться с IHDR")
width, height = struct.unpack(">II", body[:8])
if width == 0 or height == 0 or width > MAX_DIM or height > MAX_DIM:
if width > 0 and height > 0 and width * height > max_pixels:
raise ImageError("too_large", "Слишком много пикселей")
raise _unsupported("Некорректные размеры PNG")
if width * height > max_pixels: # до обхода остальных блоков и любого декодирования
raise ImageError("too_large", "Слишком много пикселей")
first = False
if zlib.crc32(ctype + body) & 0xFFFFFFFF != crc:
raise _unsupported("Повреждённый PNG (CRC)")
if ctype == b"IDAT":
idat = True
pos += 12 + length
if ctype == b"IEND":
end = True
break
if not (idat and end) or pos != len(data):
raise _unsupported("Неполный PNG")
return width, height
def inspect_jpeg(data: bytes, max_pixels: int):
if len(data) < 4 or data[:2] != b"\xff\xd8":
raise _unsupported()
i, size = 2, None
while True:
if i >= len(data) or data[i] != 0xFF:
raise _unsupported("Некорректный маркер JPEG")
while i < len(data) and data[i] == 0xFF:
i += 1
if i >= len(data):
raise _unsupported("Усечённый JPEG")
marker = data[i]
i += 1
if marker == 0xD9: # EOI до SOS
raise _unsupported("JPEG без данных изображения")
if marker == 0x01 or 0xD0 <= marker <= 0xD8:
continue
if i + 2 > len(data):
raise _unsupported("Усечённый JPEG")
length = struct.unpack(">H", data[i:i + 2])[0]
if length < 2 or i + length > len(data):
raise _unsupported("Некорректный сегмент JPEG")
if marker in JPEG_SOF:
if length < 8:
raise _unsupported("Некорректный SOF")
height, width = struct.unpack(">HH", data[i + 3:i + 7])
if width == 0 or height == 0:
raise _unsupported("Некорректные размеры JPEG")
if width * height > max_pixels:
raise ImageError("too_large", "Слишком много пикселей")
size = (width, height)
if marker == 0xDA: # начало сжатых данных
if size is None:
raise _unsupported("SOS до SOF")
tail = data.rstrip(b"\x00")
if tail[-2:] != b"\xff\xd9" or len(tail) <= i + length:
raise _unsupported("JPEG без EOI")
return size
i += length
def inspect(data: bytes, declared: str, max_pixels: int):
"""Проверяет, что содержимое — PNG/JPEG и совпадает с заявленным Content-Type. Возвращает (width, height)."""
actual = sniff(data)
if actual is None or actual != declared:
raise _unsupported("Содержимое не соответствует заявленному типу")
return inspect_png(data, max_pixels) if actual == "image/png" else inspect_jpeg(data, max_pixels)
+607
View File
@@ -0,0 +1,607 @@
import base64
import binascii
import hashlib
import json
import os
import re
import secrets
import socket
import uuid
from urllib.parse import quote
from datetime import datetime, timedelta, timezone
import psycopg
from argon2 import PasswordHasher
from argon2.exceptions import VerifyMismatchError, InvalidHashError
from psycopg.errors import UniqueViolation
from psycopg_pool import ConnectionPool, PoolTimeout
from starlette.applications import Starlette
from starlette.requests import Request
from starlette.concurrency import run_in_threadpool
from starlette.responses import JSONResponse, Response, StreamingResponse
from starlette.routing import Route
from . import images, migrate, storage
# Идентификатор реплики: стабилен в жизни процесса. В контейнере hostname = короткий ID контейнера,
# по нему scripts/stop-one.* находит именно ту реплику, которая обслужила запрос.
INSTANCE_ID = os.environ.get("INSTANCE_ID") or socket.gethostname()
SESSION_TTL = int(os.environ.get("SESSION_TTL_SECONDS", "3600"))
IDEMPOTENCY_TTL = int(os.environ.get("IDEMPOTENCY_TTL_SECONDS", "86400"))
RUN_MIGRATIONS = os.environ.get("RUN_MIGRATIONS", "1") == "1"
MAX_UPLOAD_BYTES = int(os.environ.get("MAX_UPLOAD_BYTES", str(10 * 1024 * 1024)))
MAX_IMAGE_PIXELS = int(os.environ.get("MAX_IMAGE_PIXELS", "40000000"))
MAX_ATTACHMENTS = 10
VARIANTS = {"thumbnail", "crop", "optimized"}
USERNAME_RE = re.compile(r"^[a-z0-9_]{3,32}$")
KEY_RE = re.compile(r"^[A-Za-z0-9._:-]{1,128}$")
ph = PasswordHasher()
# заранее посчитанный хеш — выравнивает время ответа для неизвестного username
DUMMY_HASH = ph.hash("dummy-password-for-timing")
def read_secret(name: str) -> str:
path = os.environ.get(name + "_FILE")
if path:
return open(path, encoding="utf-8").read().strip()
return os.environ[name]
DSN = read_secret("DATABASE_URL")
pool = ConnectionPool(DSN, min_size=2, max_size=int(os.environ.get("DB_POOL_MAX", "10")),
timeout=5, open=False,
kwargs={"connect_timeout": 5,
"options": "-c lock_timeout=10000 -c idle_in_transaction_session_timeout=15000"})
class ApiError(Exception):
def __init__(self, status, code, message, headers=None):
self.status, self.code, self.message, self.headers = status, code, message, headers or {}
def bad(msg="Неверный запрос"):
return ApiError(400, "invalid_request", msg)
def iso(dt: datetime) -> str:
return dt.astimezone(timezone.utc).isoformat(timespec="microseconds").replace("+00:00", "Z")
def parse_uuid(s):
try:
u = uuid.UUID(s)
if str(u) != s.lower():
raise ValueError
return u
except (ValueError, AttributeError, TypeError):
raise bad("Неверный UUID")
def user_json(r):
return {"id": str(r[0]), "username": r[1], "display_name": r[2], "created_at": iso(r[3])}
def msg_json(r, attachment_ids=()):
return {"id": str(r[0]), "chat_id": str(r[1]), "sender_id": str(r[2]), "text": r[3],
"attachment_ids": list(attachment_ids), "created_at": iso(r[4])}
def att_json(r):
"""r: id,chat_id,owner_id,filename,content_type,size_bytes,sha256,status,created_at,updated_at"""
return {"id": str(r[0]), "chat_id": str(r[1]), "owner_id": str(r[2]), "filename": r[3], "content_type": r[4],
"size_bytes": r[5], "sha256": r[6], "status": r[7], "variants": [], "error_code": None,
"created_at": iso(r[8]), "updated_at": iso(r[9])}
ATT_COLS = "id,chat_id,owner_id,filename,content_type,size_bytes,sha256,status,created_at,updated_at"
def non_blank(s):
return isinstance(s, str) and s.strip() != ""
def body_json(request: Request, allowed: set, required: set):
ct = request.headers.get("content-type", "").split(";")[0].strip().lower()
if ct != "application/json":
raise ApiError(415, "unsupported_media_type", "Нужен application/json")
raw = request._body # прочитано заранее в обёртке
if len(raw) > MAX_BODY:
raise ApiError(413, "payload_too_large", "Слишком большое тело")
try:
data = json.loads(raw.decode("utf-8"))
except (ValueError, UnicodeError):
raise bad("Некорректный JSON")
if not isinstance(data, dict) or set(data) - allowed or required - set(data):
raise bad()
return data
def current_user(request: Request, conn):
auth = request.headers.get("authorization", "")
parts = auth.split(" ", 1)
hdr = {"WWW-Authenticate": 'Bearer realm="messenger"'}
if len(parts) != 2 or parts[0].lower() != "bearer" or not parts[1].strip():
raise ApiError(401, "unauthorized", "Требуется аутентификация", hdr)
th = hashlib.sha256(parts[1].strip().encode()).digest()
row = conn.execute(
"SELECT u.id,u.username,u.display_name,u.created_at FROM sessions s JOIN users u ON u.id=s.user_id "
"WHERE s.token_hash=%s AND s.revoked_at IS NULL AND s.expires_at>now()", (th,)).fetchone()
if not row:
raise ApiError(401, "unauthorized", "Требуется аутентификация", hdr)
return row, th
MAX_BODY = 1024 * 1024
async def read_body_limited(request: Request, limit: int = MAX_BODY):
"""Читает тело с лимитом: 413 до того, как всё тело окажется в памяти."""
cl = request.headers.get("content-length")
if cl is not None and (not cl.isdigit() or int(cl) > limit):
raise ApiError(413, "payload_too_large", "Слишком большое тело")
buf = bytearray()
async for chunk in request.stream():
buf += chunk
if len(buf) > limit:
raise ApiError(413, "payload_too_large", "Слишком большое тело")
request._body = bytes(buf)
def api(afn):
"""Единая обработка ошибок и служебных заголовков для async-обработчика."""
async def wrapper(request: Request):
rid = request.headers.get("x-request-id") or uuid.uuid4().hex
try:
resp = await afn(request)
except ApiError as e:
resp = JSONResponse({"error": {"code": e.code, "message": e.message, "request_id": rid}},
status_code=e.status, headers=e.headers)
except (PoolTimeout, psycopg.OperationalError, storage.StorageUnavailable):
resp = JSONResponse({"error": {"code": "unavailable", "message": "Сервис временно недоступен",
"request_id": rid}}, status_code=503)
except Exception:
resp = JSONResponse({"error": {"code": "internal_error", "message": "Внутренняя ошибка",
"request_id": rid}}, status_code=500)
resp.headers["X-Request-Id"] = rid
resp.headers["X-Instance-Id"] = INSTANCE_ID
return resp
return wrapper
def db(fn):
"""Обёртка синхронного эндпоинта: тело (до 1 MiB) читается заранее, обработчик идёт в пуле потоков."""
async def run(request: Request):
await read_body_limited(request)
return await run_in_threadpool(fn, request)
return api(run)
def page_args(request: Request):
q = request.query_params
if len(q.getlist("limit")) > 1 or len(q.getlist("cursor")) > 1:
raise bad("limit/cursor можно указать один раз")
limit = 50
if q.getlist("limit"):
t = q.get("limit")
if not (t.isascii() and t.isdigit()) or not 1 <= int(t) <= 100:
raise bad("limit")
limit = int(t)
return limit, q.get("cursor") or None
def enc_cursor(kind, scope, ts, id_):
return base64.urlsafe_b64encode(json.dumps([kind, scope, ts, str(id_)]).encode()).decode().rstrip("=")
def dec_cursor(c, kind, scope):
try:
v = json.loads(base64.urlsafe_b64decode(c + "=" * (-len(c) % 4)))
if v[0] != kind or v[1] != scope:
raise ValueError
return datetime.fromisoformat(v[2].replace("Z", "+00:00")), uuid.UUID(v[3])
except Exception:
raise bad("cursor")
async def live(request):
return JSONResponse({"status": "ok"}, headers={"X-Request-Id": request.headers.get("x-request-id") or uuid.uuid4().hex, "X-Instance-Id": INSTANCE_ID})
@db
def ready(request):
# готов только если БД доступна и миграции выполнены до версии, которую ожидает эта сборка
with pool.connection(timeout=2) as conn:
row = conn.execute("SELECT 1 FROM schema_migrations WHERE version=%s", (migrate.latest(),)).fetchone()
if not row:
raise ApiError(503, "unavailable", "Схема БД не обновлена")
return JSONResponse({"status": "ok"})
@db
def create_user(request):
d = body_json(request, {"username", "display_name", "password"}, {"username", "display_name", "password"})
u, dn, pw = d["username"], d["display_name"], d["password"]
if not (isinstance(u, str) and USERNAME_RE.fullmatch(u)):
raise bad("username")
if not (non_blank(dn) and len(dn) <= 100):
raise bad("display_name")
if not (isinstance(pw, str) and 12 <= len(pw) <= 128):
raise bad("password")
h = ph.hash(pw)
with pool.connection() as conn:
try:
r = conn.execute("INSERT INTO users(id,username,display_name,password_hash) VALUES (%s,%s,%s,%s) "
"RETURNING id,username,display_name,created_at", (uuid.uuid4(), u, dn, h)).fetchone()
except UniqueViolation:
raise ApiError(409, "conflict", "Имя пользователя занято")
return JSONResponse(user_json(r), status_code=201)
@db
def login(request):
ch = {"WWW-Authenticate": 'Basic realm="messenger", charset="UTF-8"'}
fail = ApiError(401, "unauthorized", "Неверные учётные данные", ch)
auth = request.headers.get("authorization", "")
parts = auth.split(" ", 1)
if len(parts) != 2 or parts[0].lower() != "basic":
raise fail
try:
creds = base64.b64decode(parts[1].strip(), validate=True).decode("utf-8")
except (binascii.Error, UnicodeError):
raise fail
if ":" not in creds:
raise fail
username, password = creds.split(":", 1)
with pool.connection() as conn:
row = conn.execute("SELECT id,username,display_name,created_at,password_hash FROM users WHERE username=%s",
(username,)).fetchone()
try:
ph.verify(row[4] if row else DUMMY_HASH, password)
ok = row is not None
except (VerifyMismatchError, InvalidHashError):
ok = False
if not ok:
raise fail
token = secrets.token_urlsafe(32) # 256 бит
exp = datetime.now(timezone.utc) + timedelta(seconds=SESSION_TTL)
conn.execute("INSERT INTO sessions(token_hash,user_id,expires_at) VALUES (%s,%s,%s)",
(hashlib.sha256(token.encode()).digest(), row[0], exp))
return JSONResponse({"token": token, "token_type": "Bearer", "expires_at": iso(exp), "user": user_json(row)},
status_code=201)
@db
def logout(request):
with pool.connection() as conn:
_, th = current_user(request, conn)
conn.execute("UPDATE sessions SET revoked_at=now() WHERE token_hash=%s", (th,))
return Response(status_code=204)
@db
def me(request):
with pool.connection() as conn:
row, _ = current_user(request, conn)
return JSONResponse(user_json(row))
def chat_json(conn, r):
members = [str(x[0]) for x in conn.execute(
"SELECT user_id FROM chat_members WHERE chat_id=%s ORDER BY user_id", (r[0],))]
return {"id": str(r[0]), "title": r[1], "member_ids": members, "created_at": iso(r[2])}
@db
def create_chat(request):
with pool.connection() as conn:
user, _ = current_user(request, conn)
d = body_json(request, {"title", "member_ids"}, {"title", "member_ids"})
t, m = d["title"], d["member_ids"]
if not (non_blank(t) and len(t) <= 100):
raise bad("title")
if not (isinstance(m, list) and 1 <= len(m) <= 100 and all(isinstance(x, str) for x in m)):
raise bad("member_ids")
ids = [parse_uuid(x) for x in m]
if len(set(ids)) != len(ids) or user[0] not in ids:
raise bad("member_ids")
found = conn.execute("SELECT count(*) FROM users WHERE id = ANY(%s)", (ids,)).fetchone()[0]
if found != len(ids):
raise bad("member_ids")
cid = uuid.uuid4()
with conn.transaction(): # чат и участники — атомарно
r = conn.execute("INSERT INTO chats(id,title) VALUES (%s,%s) RETURNING id,title,created_at", (cid, t)).fetchone()
with conn.cursor() as cur:
cur.executemany("INSERT INTO chat_members(chat_id,user_id) VALUES (%s,%s)", [(cid, i) for i in ids])
return JSONResponse(chat_json(conn, r), status_code=201)
@db
def list_chats(request):
with pool.connection() as conn:
user, _ = current_user(request, conn)
limit, cursor = page_args(request)
args = [user[0]]
cond = ""
if cursor:
ts, i = dec_cursor(cursor, "chats", str(user[0]))
cond = "AND (c.created_at,c.id) > (%s,%s)"
args += [ts, i]
rows = conn.execute(
"SELECT c.id,c.title,c.created_at FROM chats c JOIN chat_members m ON m.chat_id=c.id AND m.user_id=%s "
f"WHERE true {cond} ORDER BY c.created_at,c.id LIMIT %s", args + [limit + 1]).fetchall()
more = len(rows) > limit
rows = rows[:limit]
nxt = enc_cursor("chats", str(user[0]), iso(rows[-1][2]), rows[-1][0]) if more else None
return JSONResponse({"items": [chat_json(conn, r) for r in rows], "next_cursor": nxt})
def get_chat_or_404(conn, user, chat_id):
cid = parse_uuid(chat_id)
r = conn.execute("SELECT c.id,c.title,c.created_at FROM chats c JOIN chat_members m "
"ON m.chat_id=c.id WHERE c.id=%s AND m.user_id=%s", (cid, user[0])).fetchone()
if not r:
raise ApiError(404, "not_found", "Объект не найден")
return r
@db
def get_chat(request):
with pool.connection() as conn:
user, _ = current_user(request, conn)
r = get_chat_or_404(conn, user, request.path_params["chat_id"])
return JSONResponse(chat_json(conn, r))
def parse_attachment_ids(v):
if not isinstance(v, list) or len(v) > MAX_ATTACHMENTS:
raise bad("attachment_ids: массив до %d идентификаторов" % MAX_ATTACHMENTS)
out = []
for x in v:
if not isinstance(x, str):
raise bad("attachment_ids")
try:
out.append(str(uuid.UUID(x)))
except ValueError:
raise bad("attachment_ids: неверный UUID")
if len(set(out)) != len(out):
raise bad("attachment_ids: повторяющиеся идентификаторы")
return out
def canonical_hash(text: str, attachment_ids) -> bytes:
"""Хэш семантики тела: порядок ключей JSON и отсутствие attachment_ids вместо [] не различаются."""
canon = json.dumps({"text": text, "attachment_ids": list(attachment_ids)}, sort_keys=True, ensure_ascii=False,
separators=(",", ":"))
return hashlib.sha256(canon.encode("utf-8")).digest()
@db
def send_message(request):
with pool.connection() as conn:
user, _ = current_user(request, conn)
cid = request.path_params["chat_id"]
chat = get_chat_or_404(conn, user, cid)
key = request.headers.get("idempotency-key")
if key is None or not KEY_RE.fullmatch(key):
raise bad("Idempotency-Key обязателен: [A-Za-z0-9._:-]{1,128}")
d = body_json(request, {"text", "attachment_ids"}, {"text"})
t = d["text"]
att_ids = parse_attachment_ids(d.get("attachment_ids", []))
if not isinstance(t, str) or len(t) > 4000 or not (non_blank(t) or att_ids):
raise bad("text")
rhash = canonical_hash(t, att_ids)
path = f"/api/v1/chats/{chat[0]}/messages"
scope = (user[0], "POST", path, key)
with conn.transaction():
# просроченный ключ (старше TTL) считается свободным
conn.execute("DELETE FROM idempotency_keys WHERE user_id=%s AND method=%s AND path=%s AND key=%s "
"AND expires_at<=now()", scope)
# Захват ключа. При конкурентном повторе (в том числе через другую реплику) вторая вставка ждёт
# завершения первой транзакции; после COMMIT она не вставляет строку и читает сохранённый результат,
# после ROLLBACK (например 5xx) получает ключ сама. Дубля сообщения быть не может.
claimed = conn.execute(
"INSERT INTO idempotency_keys(user_id,method,path,key,request_hash,status_code,response,expires_at) "
"VALUES (%s,%s,%s,%s,%s,0,'{}'::jsonb, now() + make_interval(secs => %s)) "
"ON CONFLICT DO NOTHING RETURNING 1", scope + (rhash, IDEMPOTENCY_TTL)).fetchone()
if not claimed:
saved = conn.execute("SELECT request_hash,status_code,response FROM idempotency_keys "
"WHERE user_id=%s AND method=%s AND path=%s AND key=%s", scope).fetchone()
if saved is None: # строка удалена между статементами (истёк TTL): клиент может повторить
raise ApiError(409, "conflict", "Ключ идемпотентности занят, повторите запрос")
if bytes(saved[0]) != rhash:
raise ApiError(409, "conflict", "Idempotency-Key уже использован с другим сообщением")
return JSONResponse(saved[2], status_code=saved[1])
if att_ids: # вложения должны быть готовыми вложениями ЭТОГО чата; чужое/неизвестное — 404
found = conn.execute("SELECT count(*) FROM attachments WHERE chat_id=%s AND status='ready' "
"AND id = ANY(%s)", (chat[0], [uuid.UUID(x) for x in att_ids])).fetchone()[0]
if found != len(att_ids):
raise ApiError(404, "not_found", "Вложение не найдено")
r = conn.execute("INSERT INTO messages(id,chat_id,sender_id,text) VALUES (%s,%s,%s,%s) "
"RETURNING id,chat_id,sender_id,text,created_at",
(uuid.uuid4(), chat[0], user[0], t)).fetchone()
for pos, a in enumerate(att_ids):
conn.execute("INSERT INTO message_attachments(message_id,attachment_id,position) VALUES (%s,%s,%s)",
(r[0], uuid.UUID(a), pos))
out = msg_json(r, att_ids)
conn.execute("UPDATE idempotency_keys SET status_code=201, response=%s::jsonb "
"WHERE user_id=%s AND method=%s AND path=%s AND key=%s",
(json.dumps(out, ensure_ascii=False),) + scope)
return JSONResponse(out, status_code=201)
@db
def list_messages(request):
with pool.connection() as conn:
user, _ = current_user(request, conn)
cid = request.path_params["chat_id"]
chat = get_chat_or_404(conn, user, cid)
limit, cursor = page_args(request)
args = [chat[0]]
cond = ""
if cursor:
ts, i = dec_cursor(cursor, "messages", str(chat[0]))
cond = "AND (created_at,id) > (%s,%s)"
args += [ts, i]
rows = conn.execute("SELECT id,chat_id,sender_id,text,created_at FROM messages WHERE chat_id=%s "
f"{cond} ORDER BY created_at,id LIMIT %s", args + [limit + 1]).fetchall()
more = len(rows) > limit
rows = rows[:limit]
nxt = enc_cursor("messages", str(chat[0]), iso(rows[-1][4]), rows[-1][0]) if more else None
atts = {}
if rows:
for mid, aid in conn.execute("SELECT message_id,attachment_id FROM message_attachments "
"WHERE message_id = ANY(%s) ORDER BY message_id,position",
([r[0] for r in rows],)).fetchall():
atts.setdefault(mid, []).append(str(aid))
return JSONResponse({"items": [msg_json(r, atts.get(r[0], ())) for r in rows], "next_cursor": nxt})
async def lifespan(app):
if RUN_MIGRATIONS: # в compose-стенде миграции выполняет отдельный one-shot сервис migrate
migrate.run(DSN)
pool.open(wait=True, timeout=30)
yield
pool.close()
async def http_error(request, exc):
rid = request.headers.get("x-request-id") or uuid.uuid4().hex
code, msg = (("not_found", "Объект не найден") if exc.status_code == 404
else ("invalid_request", "Метод не поддерживается"))
return JSONResponse({"error": {"code": code, "message": msg, "request_id": rid}}, status_code=exc.status_code,
headers={"X-Request-Id": rid, "X-Instance-Id": INSTANCE_ID})
# ---------------------------------------------------------------- вложения (lab4)
def safe_filename_ok(name: str) -> bool:
return (1 <= len(name) <= 255 and name.strip() != "" and "/" not in name and "\\" not in name
and not any(ord(c) < 32 or 0x7F <= ord(c) <= 0x9F for c in name))
def upload_precheck(request):
"""Аутентификация, доступ к чату и проверка заголовков ДО чтения тела."""
with pool.connection() as conn:
user, _ = current_user(request, conn)
chat = get_chat_or_404(conn, user, request.path_params["chat_id"])
names = request.query_params.getlist("filename")
if len(names) != 1 or not safe_filename_ok(names[0]):
raise bad("filename: обязателен, 1-255 символов, без разделителей пути и управляющих символов")
ctype = request.headers.get("content-type", "").split(";")[0].strip().lower()
if ctype not in ("image/png", "image/jpeg"):
raise ApiError(415, "unsupported_media_type", "Допустимы только image/png и image/jpeg")
return user, chat, names[0], ctype
def forget_upload(att_id, key):
"""Компенсация при сбое. Строку БД удаляем только если объекта в S3 точно нет (удаление подтверждено).
Иначе строка остаётся в статусе 'uploading': object_key известен, и `python -m app.sweep` позже уберёт остаток."""
try:
storage.delete_object(key, fast=True)
except Exception:
return
try:
with pool.connection() as conn:
conn.execute("DELETE FROM attachments WHERE id=%s AND status='uploading'", (att_id,))
except Exception:
pass
def upload_store(user, chat, filename, ctype, data):
try:
width, height = images.inspect(data, ctype, MAX_IMAGE_PIXELS)
except images.ImageError as e:
if e.kind == "too_large":
raise ApiError(413, "payload_too_large", e.message)
raise ApiError(415, "unsupported_media_type", e.message)
att_id = uuid.uuid4()
key = f"attachments/{att_id}" # ключ назначает сервер; имя файла из запроса в нём не участвует
digest = hashlib.sha256(data).hexdigest()
with pool.connection() as conn: # шаг 1: запись о намерении (status=uploading), commit до обращения к S3
conn.execute("INSERT INTO attachments(id,chat_id,owner_id,filename,content_type,size_bytes,sha256,width,height,"
"object_key,status) VALUES (%s,%s,%s,%s,%s,%s,%s,%s,%s,%s,'uploading')",
(att_id, chat[0], user[0], filename, ctype, len(data), digest, width, height, key))
try: # шаг 2: байты в приватный S3 (соединение с БД не держим)
storage.put_object(key, data, ctype)
except Exception:
forget_upload(att_id, key)
raise
try: # шаг 3: подтверждение. 201 клиент получает только после успешного S3 PUT и commit
with pool.connection() as conn:
row = conn.execute("UPDATE attachments SET status='ready', updated_at=now() WHERE id=%s RETURNING "
+ ATT_COLS, (att_id,)).fetchone()
except Exception:
forget_upload(att_id, key)
raise
return JSONResponse(att_json(row), status_code=201)
@api
async def upload_attachment(request):
user, chat, filename, ctype = await run_in_threadpool(upload_precheck, request)
await read_body_limited(request, MAX_UPLOAD_BYTES)
return await run_in_threadpool(upload_store, user, chat, filename, ctype, request._body)
def load_attachment(request):
with pool.connection() as conn:
user, _ = current_user(request, conn)
aid = parse_uuid(request.path_params["attachment_id"])
row = conn.execute("SELECT " + ", ".join("a." + c for c in ATT_COLS.split(",")) + ", a.object_key "
"FROM attachments a JOIN chat_members m ON m.chat_id=a.chat_id AND m.user_id=%s "
"WHERE a.id=%s AND a.status='ready'", (user[0], aid)).fetchone()
if not row:
raise ApiError(404, "not_found", "Вложение не найдено")
return row
@db
def get_attachment(request):
return JSONResponse(att_json(load_attachment(request)))
def content_disposition(name: str) -> str:
ascii_name = "".join(c if 32 <= ord(c) < 127 and c not in '"\\;' else "_" for c in name)
return "inline; filename=\"%s\"; filename*=UTF-8''%s" % (ascii_name, quote(name, safe=""))
@db
def get_attachment_content(request):
row = load_attachment(request)
variant = request.query_params.get("variant", "original")
if variant != "original" and variant not in VARIANTS:
raise bad("variant")
if variant in VARIANTS: # производные варианты в lab4 не создаются: отсутствующий вариант -> 404
raise ApiError(404, "not_found", "Вариант не найден")
try:
body = storage.get_object(row[10]) # ошибка S3 -> 503 ДО отправки заголовков
except storage.StorageMissing:
raise RuntimeError("объект %s отсутствует в S3" % row[10])
def chunks():
try:
yield from body.iter_chunks(64 * 1024)
finally:
body.close()
return StreamingResponse(chunks(), media_type=row[4], headers={
"Content-Length": str(row[5]), "Content-Disposition": content_disposition(row[3]),
"X-Content-Type-Options": "nosniff", "Cache-Control": "private, no-store"})
P = "/api/v1"
app = Starlette(lifespan=lifespan, exception_handlers={404: http_error, 405: http_error}, routes=[
Route("/health/live", live),
Route("/health/ready", ready),
Route(P + "/users", create_user, methods=["POST"]),
Route(P + "/users/me", me),
Route(P + "/auth/sessions", login, methods=["POST"]),
Route(P + "/auth/sessions/current", logout, methods=["DELETE"]),
Route(P + "/chats", create_chat, methods=["POST"]),
Route(P + "/chats", list_chats, methods=["GET"]),
Route(P + "/chats/{chat_id}", get_chat),
Route(P + "/chats/{chat_id}/messages", send_message, methods=["POST"]),
Route(P + "/chats/{chat_id}/messages", list_messages, methods=["GET"]),
Route(P + "/chats/{chat_id}/attachments", upload_attachment, methods=["POST"]),
Route(P + "/attachments/{attachment_id}", get_attachment, methods=["GET"]),
Route(P + "/attachments/{attachment_id}/content", get_attachment_content, methods=["GET"]),
])
+38
View File
@@ -0,0 +1,38 @@
"""Версионируемые миграции: применяются по порядку, повторный запуск безопасен."""
import pathlib
import psycopg
DIR = pathlib.Path(__file__).resolve().parent.parent / "migrations"
def latest() -> str:
"""Имя последней миграции, которую ожидает эта сборка приложения."""
return sorted(f.name for f in DIR.glob("*.sql"))[-1]
def run(dsn: str) -> None:
with psycopg.connect(dsn, autocommit=True) as conn:
# advisory lock: несколько реплик/перезапусков не мигрируют одновременно
conn.execute("SELECT pg_advisory_lock(727001)")
try:
conn.execute(
"CREATE TABLE IF NOT EXISTS schema_migrations ("
"version text PRIMARY KEY, applied_at timestamptz NOT NULL DEFAULT now())"
)
done = {r[0] for r in conn.execute("SELECT version FROM schema_migrations")}
for f in sorted(DIR.glob("*.sql")):
if f.name in done:
continue
with conn.transaction():
conn.execute(f.read_text(encoding="utf-8"))
conn.execute("INSERT INTO schema_migrations(version) VALUES (%s)", (f.name,))
finally:
conn.execute("SELECT pg_advisory_unlock(727001)")
if __name__ == "__main__":
# Однократный запуск: python -m app.migrate (DATABASE_URL_FILE или DATABASE_URL)
import os
path = os.environ.get("DATABASE_URL_FILE")
run(open(path, encoding="utf-8").read().strip() if path else os.environ["DATABASE_URL"])
print("migrations: ok, latest =", latest())
+116
View File
@@ -0,0 +1,116 @@
"""Идемпотентная подготовка S3 (one-shot сервис s3-init) и проверка приватности.
python -m app.s3init создать приватный bucket (повторный запуск безопасен) и проверить права ключа API
python -m app.s3init --count число объектов attachments/* в bucket (для сверки с БД)
python -m app.s3init --probe только проверки: аноним не читает объект, ключ API не создаёт bucket и не выходит за него
Использует административный ключ (S3_ADMIN_*_FILE) только для создания bucket; API работает с ограниченным ключом.
"""
import sys
import time
import urllib.error
import urllib.request
import uuid
from botocore.exceptions import BotoCoreError, ClientError
from . import storage
LAB_PROBE_KEY = "probe/%s"
def wait_s3(admin, seconds=90):
deadline = time.time() + seconds
while True:
try:
admin.list_buckets()
return
except (BotoCoreError, ClientError) as e:
if time.time() > deadline:
raise SystemExit("S3 не отвечает: %s" % type(e).__name__)
time.sleep(1)
def ensure_bucket(admin):
try:
admin.head_bucket(Bucket=storage.BUCKET)
print("bucket %s: уже существует" % storage.BUCKET)
return
except ClientError as e:
if e.response["Error"]["Code"] not in ("404", "NoSuchBucket", "NotFound"):
raise
try:
admin.create_bucket(Bucket=storage.BUCKET)
print("bucket %s: создан (приватный: доступ только по ключам)" % storage.BUCKET)
except ClientError as e:
if e.response["Error"]["Code"] not in ("BucketAlreadyOwnedByYou", "BucketAlreadyExists"):
raise
print("bucket %s: уже существует" % storage.BUCKET)
def code(fn):
try:
fn()
return "OK"
except ClientError as e:
return e.response["Error"]["Code"]
except BotoCoreError as e:
return type(e).__name__
def anon_status(url):
try:
return urllib.request.urlopen(urllib.request.Request(url), timeout=5).status
except urllib.error.HTTPError as e:
return e.code
def probe(app):
key = LAB_PROBE_KEY % uuid.uuid4().hex
ok = True
def check(name, got, want):
nonlocal ok
good = got == want if not isinstance(want, tuple) else got in want
ok = ok and good
print(("PASS" if good else "FAIL") + ": " + name + " -> " + str(got))
check("ключ API: put_object в bucket", code(lambda: app.put_object(Bucket=storage.BUCKET, Key=key, Body=b"probe")), "OK")
check("ключ API: get_object из bucket", code(lambda: app.get_object(Bucket=storage.BUCKET, Key=key)["Body"].read()), "OK")
check("анонимный GET объекта без подписи (HTTP-статус)", anon_status("%s/%s/%s" % (storage.ENDPOINT, storage.BUCKET, key)), (401, 403))
check("анонимный GET списка bucket (HTTP-статус)", anon_status("%s/%s/" % (storage.ENDPOINT, storage.BUCKET)), (401, 403))
check("ключ API не может создать другой bucket", code(lambda: app.create_bucket(Bucket="other-" + uuid.uuid4().hex[:8])), "AccessDenied")
check("ключ API не может удалить рабочий bucket", code(lambda: app.delete_bucket(Bucket=storage.BUCKET)), "AccessDenied")
check("ключ API не может писать в чужой bucket", code(lambda: app.put_object(Bucket="foreign", Key="a", Body=b"x")), "AccessDenied")
app.delete_object(Bucket=storage.BUCKET, Key=key)
check("ключ API: delete_object", code(lambda: app.head_object(Bucket=storage.BUCKET, Key=key)), ("404", "NotFound", "NoSuchKey"))
return ok
def count_objects(app):
n, token = 0, None
while True:
kw = {"Bucket": storage.BUCKET, "Prefix": "attachments/"}
if token:
kw["ContinuationToken"] = token
r = app.list_objects_v2(**kw)
n += r.get("KeyCount", 0)
token = r.get("NextContinuationToken")
if not token:
return n
def main():
app = storage.make_client()
if "--count" in sys.argv:
print(count_objects(app))
return
if "--probe" in sys.argv:
sys.exit(0 if probe(app) else 1)
admin = storage.make_client("S3_ADMIN_ACCESS_KEY_ID_FILE", "S3_ADMIN_SECRET_ACCESS_KEY_FILE")
wait_s3(admin)
ensure_bucket(admin)
sys.exit(0 if probe(app) else 1)
if __name__ == "__main__":
main()
+111
View File
@@ -0,0 +1,111 @@
"""Клиент приватного S3 (SeaweedFS). Ключи доступа читаются из файлов (Docker secrets), не из окружения."""
import concurrent.futures
import os
import threading
import time
import boto3
from botocore.config import Config
from botocore.exceptions import BotoCoreError, ClientError
def read_secret_file(env_name: str) -> str:
return open(os.environ[env_name], encoding="utf-8").read().strip()
ENDPOINT = os.environ.get("S3_ENDPOINT", "http://s3:8333")
REGION = os.environ.get("S3_REGION", "us-east-1")
BUCKET = os.environ.get("S3_BUCKET", "messenger-attachments")
class StorageUnavailable(Exception):
"""S3 недоступен или вернул ошибку сервера: API отвечает 503, запись в БД не подтверждается."""
class StorageMissing(Exception):
"""Объект, на который ссылается БД, отсутствует в S3 (рассинхронизация)."""
def make_client(access_env="S3_ACCESS_KEY_ID_FILE", secret_env="S3_SECRET_ACCESS_KEY_FILE", **kw):
return boto3.client(
"s3", endpoint_url=ENDPOINT, region_name=REGION,
aws_access_key_id=read_secret_file(access_env), aws_secret_access_key=read_secret_file(secret_env),
config=Config(signature_version="s3v4", s3={"addressing_style": "path"},
connect_timeout=float(os.environ.get("S3_CONNECT_TIMEOUT", "2")),
read_timeout=float(os.environ.get("S3_READ_TIMEOUT", "20")),
**({"retries": {"max_attempts": 2, "mode": "standard"}} | kw)))
_client = None
_fast = None
def fast_client():
"""Клиент для компенсаций: без повторов и с короткими таймаутами, чтобы сбой S3 не затягивал ответ 503."""
global _fast
if _fast is None:
_fast = make_client(retries={"max_attempts": 1})
return _fast
def client():
global _client
if _client is None:
_client = make_client()
return _client
def _wrap(exc):
if isinstance(exc, ClientError) and exc.response.get("Error", {}).get("Code") in ("NoSuchKey", "404", "NotFound"):
return StorageMissing(str(exc))
return StorageUnavailable(type(exc).__name__)
# --- жёсткие дедлайны и «предохранитель»: сбой S3 не должен подвешивать запрос и пул потоков ---------------------------
# Таймауты botocore не покрывают всё (разрешение имени, зависшее соединение), поэтому каждая операция выполняется в
# отдельном пуле с ограничением ожидания. После сбоя несколько секунд запросы сразу получают 503 без обращения к S3.
PUT_DEADLINE = float(os.environ.get("S3_PUT_DEADLINE", "8"))
GET_DEADLINE = float(os.environ.get("S3_GET_DEADLINE", "5"))
FAST_DEADLINE = float(os.environ.get("S3_FAST_DEADLINE", "2"))
BREAKER_SECONDS = float(os.environ.get("S3_BREAKER_SECONDS", "5"))
_executor = concurrent.futures.ThreadPoolExecutor(max_workers=int(os.environ.get("S3_WORKERS", "32")),
thread_name_prefix="s3")
_down_until = 0.0
_lock = threading.Lock()
def _trip():
global _down_until
with _lock:
_down_until = time.monotonic() + BREAKER_SECONDS
def _guard(fn, deadline):
if time.monotonic() < _down_until:
raise StorageUnavailable("circuit open")
future = _executor.submit(fn)
try:
return future.result(timeout=deadline)
except concurrent.futures.TimeoutError:
future.cancel()
_trip()
raise StorageUnavailable("deadline") from None
except (BotoCoreError, ClientError) as e:
err = _wrap(e)
if isinstance(err, StorageUnavailable):
_trip()
raise err from None
def put_object(key: str, data: bytes, content_type: str):
_guard(lambda: client().put_object(Bucket=BUCKET, Key=key, Body=data, ContentType=content_type), PUT_DEADLINE)
def get_object(key: str):
"""Возвращает StreamingBody; исключение возникает ДО отправки заголовков ответа клиенту."""
return _guard(lambda: client().get_object(Bucket=BUCKET, Key=key)["Body"], GET_DEADLINE)
def delete_object(key: str, fast: bool = False):
c = fast_client if fast else client
_guard(lambda: c().delete_object(Bucket=BUCKET, Key=key), FAST_DEADLINE if fast else GET_DEADLINE)
+40
View File
@@ -0,0 +1,40 @@
"""Очистка незавершённых загрузок: строки status='uploading' старше grace и их объекты в S3.
python -m app.sweep [--grace СЕКУНДЫ] (по умолчанию SWEEP_GRACE_SECONDS или 900)
Запись о намерении создаётся ДО записи в S3, поэтому объект без подтверждённой строки всегда можно найти по object_key.
Идемпотентно: повторный запуск безопасен; объект, которого нет в S3, не считается ошибкой.
"""
import os
import sys
import psycopg
from . import storage
def run(dsn: str, grace: int):
removed = failed = 0
with psycopg.connect(dsn) as conn:
rows = conn.execute("SELECT id, object_key FROM attachments WHERE status='uploading' "
"AND created_at < now() - make_interval(secs => %s)", (grace,)).fetchall()
for att_id, key in rows:
try:
storage.delete_object(key)
except storage.StorageUnavailable:
failed += 1
continue
except storage.StorageMissing:
pass
conn.execute("DELETE FROM attachments WHERE id=%s AND status='uploading'", (att_id,))
conn.commit()
removed += 1
return len(rows), removed, failed
if __name__ == "__main__":
grace = int(sys.argv[sys.argv.index("--grace") + 1]) if "--grace" in sys.argv else int(os.environ.get("SWEEP_GRACE_SECONDS", "900"))
dsn = open(os.environ["DATABASE_URL_FILE"], encoding="utf-8").read().strip()
found, removed, failed = run(dsn, grace)
print(f"sweep: найдено {found}, удалено {removed}, не удалось {failed} (grace={grace} с)")
sys.exit(1 if failed else 0)
+39
View File
@@ -0,0 +1,39 @@
CREATE TABLE users (
id uuid PRIMARY KEY,
username text NOT NULL UNIQUE CHECK (username ~ '^[a-z0-9_]{3,32}$'),
display_name text NOT NULL CHECK (char_length(display_name) BETWEEN 1 AND 100),
password_hash text NOT NULL,
created_at timestamptz NOT NULL DEFAULT now()
);
CREATE TABLE chats (
id uuid PRIMARY KEY,
title text NOT NULL CHECK (char_length(title) BETWEEN 1 AND 100),
created_at timestamptz NOT NULL DEFAULT clock_timestamp()
);
CREATE INDEX chats_created_idx ON chats (created_at, id);
CREATE TABLE chat_members (
chat_id uuid NOT NULL REFERENCES chats(id) ON DELETE CASCADE,
user_id uuid NOT NULL REFERENCES users(id),
PRIMARY KEY (chat_id, user_id)
);
CREATE INDEX chat_members_user_idx ON chat_members (user_id, chat_id);
CREATE TABLE messages (
id uuid PRIMARY KEY,
chat_id uuid NOT NULL REFERENCES chats(id) ON DELETE CASCADE,
sender_id uuid NOT NULL REFERENCES users(id),
text text NOT NULL CHECK (char_length(text) BETWEEN 1 AND 4000),
created_at timestamptz NOT NULL DEFAULT clock_timestamp()
);
-- keyset-пагинация истории: WHERE chat_id=$1 AND (created_at,id) > ($2,$3) ORDER BY created_at,id
CREATE INDEX messages_history_idx ON messages (chat_id, created_at, id);
CREATE TABLE sessions (
token_hash bytea PRIMARY KEY, -- sha256(token); сам токен не хранится
user_id uuid NOT NULL REFERENCES users(id),
expires_at timestamptz NOT NULL,
revoked_at timestamptz
);
CREATE INDEX sessions_expires_idx ON sessions (expires_at);
+15
View File
@@ -0,0 +1,15 @@
-- Общая идемпотентность отправки сообщений (lab3): ключ уникален в области пользователь + метод + путь + ключ.
-- Строка вставляется в той же транзакции, что и сообщение, поэтому побочный эффект и результат фиксируются атомарно.
CREATE TABLE idempotency_keys (
user_id uuid NOT NULL REFERENCES users(id),
method text NOT NULL,
path text NOT NULL,
key text NOT NULL CHECK (key ~ '^[A-Za-z0-9._:-]{1,128}$'),
request_hash bytea NOT NULL, -- sha256 канонического JSON тела
status_code integer NOT NULL,
response jsonb NOT NULL, -- исходный ответ, возвращается при повторе
created_at timestamptz NOT NULL DEFAULT now(),
expires_at timestamptz NOT NULL,
PRIMARY KEY (user_id, method, path, key)
);
CREATE INDEX idempotency_expires_idx ON idempotency_keys (expires_at);
+34
View File
@@ -0,0 +1,34 @@
-- lab4: метаданные вложений живут в PostgreSQL, байты — в приватном S3 bucket.
-- Строка создаётся со статусом 'uploading' ДО записи в S3: если PUT прошёл, а подтверждение (UPDATE) нет,
-- object_key известен БД, и сверка/очистка может безопасно удалить такой объект после grace period.
CREATE TABLE attachments (
id uuid PRIMARY KEY,
chat_id uuid NOT NULL REFERENCES chats(id) ON DELETE CASCADE,
owner_id uuid NOT NULL REFERENCES users(id),
filename text NOT NULL CHECK (char_length(filename) BETWEEN 1 AND 255), -- только отображаемое имя
content_type text NOT NULL CHECK (content_type IN ('image/png', 'image/jpeg')),
size_bytes bigint NOT NULL CHECK (size_bytes BETWEEN 1 AND 10485760),
sha256 text NOT NULL CHECK (sha256 ~ '^[a-f0-9]{64}$'),
width integer NOT NULL CHECK (width > 0),
height integer NOT NULL CHECK (height > 0),
object_key text NOT NULL UNIQUE, -- назначает сервер, не filename
status text NOT NULL DEFAULT 'uploading' CHECK (status IN ('uploading', 'ready')),
created_at timestamptz NOT NULL DEFAULT now(),
updated_at timestamptz NOT NULL DEFAULT now()
);
CREATE INDEX attachments_chat_idx ON attachments (chat_id, created_at);
CREATE INDEX attachments_pending_idx ON attachments (created_at) WHERE status = 'uploading';
-- Связь сообщения с вложениями (порядок сохраняется). Одно вложение чата можно использовать в нескольких сообщениях.
CREATE TABLE message_attachments (
message_id uuid NOT NULL REFERENCES messages(id) ON DELETE CASCADE,
attachment_id uuid NOT NULL REFERENCES attachments(id),
position integer NOT NULL,
PRIMARY KEY (message_id, attachment_id)
);
CREATE INDEX message_attachments_att_idx ON message_attachments (attachment_id);
-- Сообщение может состоять только из вложений: пустой text допустим, длина по-прежнему <= 4000.
-- Правило «пустой/пробельный текст без вложений запрещён» проверяет приложение.
ALTER TABLE messages DROP CONSTRAINT messages_text_check;
ALTER TABLE messages ADD CONSTRAINT messages_text_check CHECK (char_length(text) <= 4000);
+5
View File
@@ -0,0 +1,5 @@
starlette==0.41.3
uvicorn==0.32.1
psycopg[binary,pool]==3.2.3
argon2-cffi==23.1.0
boto3==1.35.99
+323
View File
@@ -0,0 +1,323 @@
#!/usr/bin/env python3
"""Собственные проверки lab2+lab3 (дополняют публичный smoke, ничего не ослабляют).
python student-tests/lab2_checks.py --base-url http://localhost:8080 # основные
python student-tests/lab2_checks.py --base-url http://localhost:8080 --mode idem # идемпотентность и реплики (lab3)
python student-tests/lab2_checks.py --base-url http://localhost:8080 --mode ttl # при SESSION_TTL_SECONDS=2
Только стандартная библиотека. Токены и пароли не печатаются.
"""
import argparse, base64, http.client, json, sys, threading, time, urllib.error, urllib.parse, urllib.request, uuid
PW = "correct-horse-battery"
fails = []
def call(base, method, path, body=None, headers=None, raw=None):
h = dict(headers or {})
data = raw
if body is not None:
data = json.dumps(body).encode()
h.setdefault("Content-Type", "application/json")
req = urllib.request.Request(base + path, data=data, headers=h, method=method)
try:
with urllib.request.urlopen(req, timeout=15) as r:
return r.status, {k.lower(): v for k, v in r.headers.items()}, r.read()
except urllib.error.HTTPError as e:
return e.code, {k.lower(): v for k, v in e.headers.items()}, e.read()
def post_big(base, path, size):
"""POST тела size байт; сервер может ответить 413 и закрыть соединение раньше, чем тело отправлено."""
u = urllib.parse.urlsplit(base)
conn = http.client.HTTPConnection(u.hostname, u.port, timeout=15)
conn.putrequest("POST", u.path + path)
conn.putheader("Content-Type", "application/json")
conn.putheader("Content-Length", str(size))
conn.endheaders()
try:
conn.send(b"{" + b" " * (size - 2) + b"}")
except OSError:
pass # сервер уже ответил и закрыл соединение
try:
return conn.getresponse().status
except (OSError, http.client.HTTPException) as e:
return "нет ответа: %s" % type(e).__name__
finally:
conn.close()
def js(b):
try:
return json.loads(b)
except ValueError:
return None
def check(name, ok, detail=""):
print(("PASS" if ok else "FAIL") + ": " + name + ("" if ok else " -> " + detail))
if not ok:
fails.append(name)
def basic(u, p):
return {"Authorization": "Basic " + base64.b64encode(f"{u}:{p}".encode()).decode()}
def bearer(t):
return {"Authorization": "Bearer " + t}
def H(t, key=None):
"""Заголовки отправки сообщения (lab3): Bearer + Idempotency-Key (по умолчанию новый)."""
return {**bearer(t), "Idempotency-Key": key or uuid.uuid4().hex}
class Api:
def __init__(self, base):
self.base = base + "/api/v1"
def __call__(self, *a, **k):
return call(self.base, *a, **k)
def user(self, prefix="u"):
name = f"{prefix}_{uuid.uuid4().hex[:10]}"
s, _, b = self("POST", "/users", {"username": name, "display_name": name, "password": PW})
assert s == 201, f"create user: {s}"
u = js(b)
s, _, b = self("POST", "/auth/sessions", headers=basic(name, PW))
assert s == 201, f"login: {s}"
return name, u["id"], js(b)["token"]
def main_checks(api):
a_name, a_id, a_tok = api.user("alice")
b_name, b_id, b_tok = api.user("bob")
c_name, c_id, c_tok = api.user("carol")
# --- регистрация
s, _, _ = api("POST", "/users", {"username": a_name, "display_name": "x", "password": PW})
check("повторный username -> 409", s == 409, str(s))
s, _, b = api("POST", "/users", {"username": "x_" + uuid.uuid4().hex[:8], "display_name": "x", "password": "short"})
check("пароль короче 12 -> 400", s == 400, str(s))
s, _, b = api("POST", "/users", {"username": "x_" + uuid.uuid4().hex[:8], "display_name": "x", "password": PW, "extra": 1})
check("лишнее поле -> 400", s == 400, str(s))
s, _, b = api("GET", "/users/me", headers=bearer(a_tok))
me = js(b) or {}
check("User не содержит пароль/hash/токен", s == 200 and not ({"password", "password_hash", "token"} & set(me)), str(sorted(me)))
res = []
rname = "race_" + uuid.uuid4().hex[:10]
def reg():
res.append(api("POST", "/users", {"username": rname, "display_name": "r", "password": PW})[0])
ts = [threading.Thread(target=reg) for _ in range(10)]
[t.start() for t in ts]; [t.join() for t in ts]
check("гонка одинакового username: ровно один 201, остальные 409", sorted(res) == [201] + [409] * 9, str(sorted(res)))
# --- вход
s1, h1, b1 = api("POST", "/auth/sessions", headers=basic(a_name, "wrong-password-123"))
s2, h2, b2 = api("POST", "/auth/sessions", headers=basic("nosuchuser_zz", PW))
e1, e2 = (js(b1) or {}).get("error", {}), (js(b2) or {}).get("error", {})
check("неверный пароль и неизвестный пользователь неразличимы (401, тот же code/message/заголовок)",
s1 == s2 == 401 and e1.get("code") == e2.get("code") and e1.get("message") == e2.get("message")
and h1.get("www-authenticate") == h2.get("www-authenticate") == 'Basic realm="messenger", charset="UTF-8"',
f"{s1}/{s2} {h1.get('www-authenticate')}")
s, _, _ = api("POST", "/auth/sessions", {"username": a_name, "password": PW})
check("вход JSON-телом без Basic -> 401", s == 401, str(s))
s, _, _ = api("POST", "/auth/sessions", headers=bearer(a_tok))
check("Bearer на POST /auth/sessions -> 401", s == 401, str(s))
s, h, b = api("POST", "/auth/sessions", headers=basic(a_name, PW))
d = js(b) or {}
check("токен >=256 бит, token_type Bearer", s == 201 and len(d.get("token", "")) >= 43 and d.get("token_type") == "Bearer", str(s))
# --- бизнес-endpoint принимают только Bearer
s, h, _ = api("GET", "/users/me", headers=basic(a_name, PW))
check("Basic на бизнес-endpoint -> 401 + WWW-Authenticate: Bearer", s == 401 and h.get("www-authenticate", "").startswith("Bearer"), str(s))
s, _, _ = api("GET", "/users/me", headers={"X-User-Id": a_id})
check("один X-User-Id доступа не даёт", s == 401, str(s))
s, _, b = api("GET", "/users/me", headers={**bearer(a_tok), "X-User-Id": b_id})
check("X-User-Id игнорируется: владелец определяется токеном", s == 200 and (js(b) or {}).get("id") == a_id, str(s))
s, _, _ = api("GET", "/users/me", headers=bearer("x" * 43))
check("неизвестный токен -> 401", s == 401, str(s))
# --- запрос-идентификатор в ошибках
s, h, b = api("GET", "/chats")
check("X-Request-Id совпадает с request_id в теле ошибки", s == 401 and h.get("x-request-id") == (js(b) or {}).get("error", {}).get("request_id"), str(s))
# --- чаты и доступ
s, _, b = api("GET", "/chats", headers=bearer(a_tok))
before = len((js(b) or {}).get("items", []))
s, _, b = api("POST", "/chats", {"title": "t", "member_ids": [a_id, str(uuid.uuid4())]}, bearer(a_tok))
check("чат с неизвестным участником -> 400", s == 400, str(s))
s, _, b = api("GET", "/chats", headers=bearer(a_tok))
check("после отказа новый чат не появился (нет частичной записи)", len((js(b) or {}).get("items", [])) == before)
s, _, b = api("POST", "/chats", {"title": "ab", "member_ids": [a_id, b_id]}, bearer(a_tok))
chat = js(b) or {}
check("чат создан с обоими участниками", s == 201 and sorted(chat.get("member_ids", [])) == sorted([a_id, b_id]), str(s))
cid = chat.get("id", "")
s, _, _ = api("POST", "/chats", {"title": "ab", "member_ids": [b_id]}, bearer(a_tok))
check("создатель обязан быть среди member_ids -> 400", s == 400, str(s))
for path in (f"/chats/{cid}", f"/chats/{cid}/messages"):
s, _, _ = api("GET", path, headers=bearer(c_tok))
check(f"посторонний: GET {path.split(cid)[1] or '/chat'} -> 404", s == 404, str(s))
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "hi"}, H(c_tok))
check("посторонний не может писать -> 404", s == 404, str(s))
for path in ("/chats/not-a-uuid", "/chats/not-a-uuid/messages"):
s, _, _ = api("GET", path, headers=bearer(a_tok))
check(f"неверный UUID {path} -> 400", s == 400, str(s))
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "hi", "sender_id": b_id}, H(a_tok))
check("sender_id в запросе не принимается -> 400", s == 400, str(s))
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": " "}, H(a_tok))
check("пробельный текст -> 400", s == 400, str(s))
s, _, b = api("POST", f"/chats/{cid}/messages", {"text": "привет 👋"}, H(b_tok))
check("отправитель берётся из токена", s == 201 and (js(b) or {}).get("sender_id") == b_id, str(s))
# --- пагинация
for i in range(5):
api("POST", f"/chats/{cid}/messages", {"text": f"m{i}"}, H(a_tok))
seen, cur, pages = [], None, 0
while True:
s, _, b = api("GET", f"/chats/{cid}/messages?limit=2" + (f"&cursor={cur}" if cur else ""), headers=bearer(a_tok))
d = js(b) or {}
seen += [m["id"] for m in d.get("items", [])]
pages += 1
cur = d.get("next_cursor")
if not cur or pages > 10:
break
check("пагинация limit=2: без повторов, все 6 сообщений", len(seen) == len(set(seen)) == 6, f"{len(seen)}/{len(set(seen))}")
s, _, b = api("GET", f"/chats/{cid}/messages?limit=2", headers=bearer(a_tok))
cur = (js(b) or {}).get("next_cursor")
s, _, b = api("POST", "/chats", {"title": "other", "member_ids": [a_id]}, bearer(a_tok))
other = (js(b) or {}).get("id")
s, _, _ = api("GET", f"/chats/{other}/messages?cursor={cur}", headers=bearer(a_tok))
check("cursor от другого чата -> 400", s == 400, str(s))
for q in ("limit=0", "limit=101", "limit=abc", "limit=%2B5", "limit=2&limit=3"):
s, _, _ = api("GET", f"/chats/{cid}/messages?{q}", headers=bearer(a_tok))
check(f"?{q} -> 400", s == 400, str(s))
# --- тело запроса
s = post_big(api.base, "/users", 1100 * 1024)
check("тело >1 MiB -> 413", s == 413, str(s))
s, _, _ = api("POST", "/users", raw=b"{}", headers={"Content-Type": "text/plain"})
check("не JSON Content-Type -> 415", s == 415, str(s))
s, _, _ = api("POST", "/users", raw=b"{", headers={"Content-Type": "application/json"})
check("битый JSON -> 400", s == 400, str(s))
# --- logout (в конце: отзывает токен)
s, _, _ = api("DELETE", "/auth/sessions/current", headers=bearer(a_tok))
check("logout -> 204", s == 204, str(s))
s, h, _ = api("DELETE", "/auth/sessions/current", headers=bearer(a_tok))
check("повторный logout с отозванным токеном -> 401", s == 401, str(s))
s, h, _ = api("GET", "/users/me", headers=bearer(a_tok))
check("отозванный токен -> 401 + WWW-Authenticate: Bearer", s == 401 and h.get("www-authenticate", "").startswith("Bearer"), str(s))
s, _, _ = api("GET", "/users/me", headers=bearer(b_tok))
check("logout одного пользователя не затрагивает чужие сессии", s == 200, str(s))
def idempotency_checks(api, min_instances):
a_name, a_id, a_tok = api.user("alice")
b_name, b_id, b_tok = api.user("bob")
c_name, c_id, c_tok = api.user("carol")
s, _, b = api("POST", "/chats", {"title": "idem", "member_ids": [a_id, b_id]}, bearer(a_tok))
cid = js(b)["id"]
s, _, b = api("POST", "/chats", {"title": "idem2", "member_ids": [a_id, b_id]}, bearer(a_tok))
cid2 = js(b)["id"]
def hist(chat, tok):
s, _, b = api("GET", f"/chats/{chat}/messages?limit=100", headers=bearer(tok))
return (js(b) or {}).get("items", [])
# --- несколько реплик за LB, одна сессия, без повторного входа
seen = set()
for _ in range(60):
s, h, _ = api("GET", "/users/me", headers=bearer(a_tok))
if s != 200:
break
seen.add(h.get("x-instance-id"))
check(f"через LB отвечают >= {min_instances} реплик с одним токеном (X-Instance-Id: {len(seen)})",
len(seen) >= min_instances and None not in seen, str(seen))
# --- базовая идемпотентность
key = "k-" + uuid.uuid4().hex
s1, h1, b1 = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(a_tok, key))
s2, h2, b2 = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(a_tok, key))
check("повтор с тем же ключом: тот же 201 и то же сообщение", s1 == s2 == 201 and js(b1) == js(b2), f"{s1}/{s2}")
check("повтор не создал дубль", len([m for m in hist(cid, a_tok) if m["text"] == "один раз"]) == 1)
s, _, b = api("POST", f"/chats/{cid}/messages", {"text": "другой текст"}, H(a_tok, key))
check("тот же ключ с другим телом -> 409", s == 409, str(s))
s, _, b = api("POST", f"/chats/{cid}/messages", raw=b'{"text":"\xd0\xbe\xd0\xb4\xd0\xb8\xd0\xbd \xd1\x80\xd0\xb0\xd0\xb7"}',
headers={**H(a_tok, key), "Content-Type": "application/json"})
check("тот же ключ и то же тело (другое форматирование JSON) -> тот же результат", s == 201 and js(b) == js(b1), str(s))
# --- область ключа: пользователь + метод + путь
s, _, b = api("POST", f"/chats/{cid2}/messages", {"text": "один раз"}, H(a_tok, key))
check("тот же ключ в другом чате независим", s == 201 and js(b)["chat_id"] == cid2, str(s))
s, _, b = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(b_tok, key))
check("тот же ключ у другого пользователя независим", s == 201 and js(b)["sender_id"] == b_id, str(s))
# --- валидация ключа и доступ
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "x"}, bearer(a_tok))
check("нет Idempotency-Key -> 400", s == 400, str(s))
for bad_key in ("bad key!", "a/b", "a" * 129, ""):
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "x"}, {**bearer(a_tok), "Idempotency-Key": bad_key})
check(f"неверный ключ {bad_key[:12]!r} -> 400", s == 400, str(s))
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(c_tok, key))
check("посторонний с тем же ключом -> 404 (доступ проверяется при повторе)", s == 404, str(s))
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "x"}, {"Idempotency-Key": "k1"})
check("без токена -> 401", s == 401, str(s))
# --- конкурентные повторы одного ключа (через LB попадают на разные реплики)
key2 = "c-" + uuid.uuid4().hex
res = []
def fire(text="конкурентно"):
s, h, b = api("POST", f"/chats/{cid}/messages", {"text": text}, H(a_tok, key2))
res.append((s, h.get("x-instance-id"), js(b)))
ts = [threading.Thread(target=fire) for _ in range(30)]
[t.start() for t in ts]; [t.join() for t in ts]
codes = sorted({r[0] for r in res})
ids = {(r[2] or {}).get("id") for r in res}
check("30 параллельных запросов с одним ключом: все 201 и одно и то же сообщение", codes == [201] and len(ids) == 1, f"{codes} {len(ids)}")
check("в истории ровно одно такое сообщение", len([m for m in hist(cid, a_tok) if m["text"] == "конкурентно"]) == 1)
print(f"INFO: параллельные повторы обслужили реплики: {sorted({r[1] for r in res})}")
key3 = "d-" + uuid.uuid4().hex
res.clear()
ts = [threading.Thread(target=lambda i=i: res.append(api("POST", f"/chats/{cid}/messages", {"text": f"вариант {i % 2}"}, H(a_tok, key3))[0])) for i in range(20)]
[t.start() for t in ts]; [t.join() for t in ts]
check("параллельно один ключ и два разных тела: победитель один, остальным другого тела -> 409",
set(res) == {201, 409} and 1 <= res.count(201), str(sorted(set(res))))
check("создано ровно одно сообщение из конкурирующих", len([m for m in hist(cid, a_tok) if m["text"].startswith("вариант")]) == 1)
# --- повтор после logout
s, _, _ = api("DELETE", "/auth/sessions/current", headers=bearer(a_tok))
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(a_tok, key))
check("повтор с отозванным токеном -> 401", s == 401, str(s))
def ttl_checks(api):
name = api.user("ttl")[0]
s, _, b = api("POST", "/auth/sessions", headers=basic(name, PW))
d = js(b) or {}
tok = d.get("token", "")
s0, _, _ = api("GET", "/users/me", headers=bearer(tok))
check("TTL: сразу после входа токен действует (200)", s0 == 200, str(s0))
time.sleep(3.5)
s1, h, _ = api("GET", "/users/me", headers=bearer(tok))
check("TTL: через 3.5 с при SESSION_TTL_SECONDS=2 токен истёк (401)", s1 == 401 and h.get("www-authenticate", "").startswith("Bearer"), str(s1))
if __name__ == "__main__":
ap = argparse.ArgumentParser()
ap.add_argument("--base-url", default="http://localhost:8080")
ap.add_argument("--mode", choices=["main", "idem", "ttl"], default="main")
ap.add_argument("--min-instances", type=int, default=2, help="сколько разных X-Instance-Id ожидается через LB")
a = ap.parse_args()
api = Api(a.base_url.rstrip("/"))
if a.mode == "ttl":
ttl_checks(api)
elif a.mode == "idem":
idempotency_checks(api, a.min_instances)
else:
main_checks(api)
print(("FAIL: %d проверок не прошли: %s" % (len(fails), "; ".join(fails))) if fails else "PASS: все проверки режима '%s'" % a.mode)
sys.exit(1 if fails else 0)
+310
View File
@@ -0,0 +1,310 @@
#!/usr/bin/env python3
"""Собственные проверки lab4 (вложения). Дополняют публичный smoke, ничего не ослабляют.
python student-tests/lab4_checks.py --base-url http://localhost:8080
python student-tests/lab4_checks.py --base-url http://localhost:8080 --mode upload-stop --stop-hook scripts/stop-one.cmd
Только стандартная библиотека. Токены не печатаются.
"""
import argparse, base64, hashlib, http.client, io, json, os, shlex, struct, subprocess, sys, time, urllib.parse, uuid, zlib
from pathlib import Path
sys.path.insert(0, str(Path(__file__).parent))
import lab3_checks as L # noqa: E402 (общие помощники: call, check, Api, H, bearer, js, fails)
ROOT = Path(__file__).resolve().parent.parent
PNG = (ROOT / "tests" / "fixtures" / "sample.png").read_bytes()
def mkpng(w, h):
"""Валидный 1-битный PNG w x h: данные малы, а заявленное число пикселей большое."""
def ch(t, b):
return struct.pack(">I", len(b)) + t + b + struct.pack(">I", zlib.crc32(t + b) & 0xFFFFFFFF)
row = b"\x00" * (1 + (w + 7) // 8)
raw = row * h if w * h <= 50_000_000 else b"\x00"
return (b"\x89PNG\r\n\x1a\n" + ch(b"IHDR", struct.pack(">IIBBBBB", w, h, 1, 0, 0, 0, 0))
+ ch(b"IDAT", zlib.compress(raw, 9)) + ch(b"IEND", b""))
JPEG_B64 = (
"/9j/4AAQSkZJRgABAQAAAQABAAD/2wBDAAUDBAQEAwUEBAQFBQUGBwwIBwcHBw8LCwkMEQ8SEhEPERETFhwXExQaFRERGCEYGh0d"
"Hx8fExciJCIeJBweHx7/2wBDAQUFBQcGBw4ICA4eFBEUHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4e"
"Hh4eHh4eHh7/wAARCAAwAEADASIAAhEBAxEB/8QAHwAAAQUBAQEBAQEAAAAAAAAAAAECAwQFBgcICQoL/8QAtRAAAgEDAwIEAwUF"
"BAQAAAF9AQIDAAQRBRIhMUEGE1FhByJxFDKBkaEII0KxwRVS0fAkM2JyggkKFhcYGRolJicoKSo0NTY3ODk6Q0RFRkdISUpTVFVW"
"V1hZWmNkZWZnaGlqc3R1dnd4eXqDhIWGh4iJipKTlJWWl5iZmqKjpKWmp6ipqrKztLW2t7i5usLDxMXGx8jJytLT1NXW19jZ2uHi"
"4+Tl5ufo6erx8vP09fb3+Pn6/8QAHwEAAwEBAQEBAQEBAQAAAAAAAAECAwQFBgcICQoL/8QAtREAAgECBAQDBAcFBAQAAQJ3AAEC"
"AxEEBSExBhJBUQdhcRMiMoEIFEKRobHBCSMzUvAVYnLRChYkNOEl8RcYGRomJygpKjU2Nzg5OkNERUZHSElKU1RVVldYWVpjZGVm"
"Z2hpanN0dXZ3eHl6goOEhYaHiImKkpOUlZaXmJmaoqOkpaanqKmqsrO0tba3uLm6wsPExcbHyMnK0tPU1dbX2Nna4uPk5ebn6Onq"
"8vP09fb3+Pn6/9oADAMBAAIRAxEAPwDzSiiivkT+iAooooAKKKKACiiigAooooAKKKKACiiigAooooAKKKKACiiigAooooAKKKKA"
"P//Z"
)
def jpeg_bytes():
"""Готовый корректный baseline JPEG 64x48 (без зависимостей от Pillow)."""
return base64.b64decode("".join(JPEG_B64))
def upload(api, tok, chat, data, ctype="image/png", filename="a.png", extra_headers=None):
path = f"/chats/{chat}/attachments?filename={urllib.parse.quote(filename, safe='')}"
return api("POST", path, headers={**L.bearer(tok), "Content-Type": ctype, **(extra_headers or {})}, raw=data)
def raw_upload(api, tok, chat, size, ctype="image/png", filename="big.png"):
"""Загрузка size байт, когда сервер может ответить 413 и закрыть соединение, не дочитав тело."""
u = urllib.parse.urlsplit(api.base)
conn = http.client.HTTPConnection(u.hostname, u.port, timeout=30)
conn.putrequest("POST", f"{u.path}/chats/{chat}/attachments?filename={filename}")
for k, v in (("Authorization", "Bearer " + tok), ("Content-Type", ctype), ("Content-Length", str(size))):
conn.putheader(k, v)
conn.endheaders()
try:
sent = 0
while sent < size:
n = min(1 << 20, size - sent)
conn.send(b"\x00" * n)
sent += n
except OSError:
pass
try:
return conn.getresponse().status
except (OSError, http.client.HTTPException) as e:
return "нет ответа: " + type(e).__name__
finally:
conn.close()
def setup(api):
a = api.user("alice"); b = api.user("bob"); c = api.user("carol")
s, _, body = api("POST", "/chats", {"title": "att", "member_ids": [a[1], b[1]]}, L.bearer(a[2]))
chat = L.js(body)["id"]
s, _, body = api("POST", "/chats", {"title": "att2", "member_ids": [a[1]]}, L.bearer(a[2]))
return a, b, c, chat, L.js(body)["id"]
def attach_checks(api):
(an, aid, at), (bn, bid, bt), (cn, cid, ct), chat, other = setup(api)
sha = hashlib.sha256(PNG).hexdigest()
# --- успешная загрузка и метаданные
s, h, b = upload(api, at, chat, PNG, filename="фото №1.png")
att = L.js(b) or {}
L.check("загрузка PNG -> 201, status ready, ожидаемые поля",
s == 201 and att.get("status") == "ready" and att.get("content_type") == "image/png"
and att.get("size_bytes") == len(PNG) and att.get("sha256") == sha and att.get("variants") == []
and att.get("filename") == "фото №1.png" and att.get("owner_id") == aid and att.get("chat_id") == chat, f"{s} {att}")
check_id = att.get("id", "")
L.check("в ответе есть X-Instance-Id и X-Request-Id", bool(h.get("x-instance-id")) and bool(h.get("x-request-id")))
jpg = jpeg_bytes()
if jpg:
s, _, b = upload(api, at, chat, jpg, "image/jpeg", "p.jpg")
j = L.js(b) or {}
L.check("загрузка JPEG -> 201 и верный sha256", s == 201 and j.get("sha256") == hashlib.sha256(jpg).hexdigest(), str(s))
s, _, b = upload(api, at, chat, mkpng(100, 100), "image/png", "x.png")
L.check("созданный PNG другого размера -> 201", s == 201, str(s))
s, _, b = api("GET", f"/attachments/{check_id}", headers=L.bearer(bt))
L.check("метаданные доступны другому участнику чата", s == 200 and (L.js(b) or {}).get("id") == check_id, str(s))
s, h, b = api("GET", f"/attachments/{check_id}/content", headers=L.bearer(bt))
L.check("скачивание: байты совпадают, Content-Type верный, nosniff", s == 200 and b == PNG
and h.get("content-type") == "image/png" and h.get("x-content-type-options") == "nosniff", f"{s} {h.get('content-type')}")
L.check("Content-Length равен размеру", h.get("content-length") == str(len(PNG)), str(h.get("content-length")))
# --- доступ
L.check("метаданные постороннему -> 404", api("GET", f"/attachments/{check_id}", headers=L.bearer(ct))[0] == 404)
L.check("содержимое постороннему -> 404", api("GET", f"/attachments/{check_id}/content", headers=L.bearer(ct))[0] == 404)
L.check("без токена -> 401", api("GET", f"/attachments/{check_id}")[0] == 401)
L.check("неверный UUID -> 400", api("GET", "/attachments/not-a-uuid", headers=L.bearer(at))[0] == 400)
L.check("неизвестный UUID -> 404", api("GET", f"/attachments/{uuid.uuid4()}", headers=L.bearer(at))[0] == 404)
L.check("загрузка в чужой чат -> 404", upload(api, ct, chat, PNG)[0] == 404)
s, _, _ = api("POST", f"/chats/{chat}/attachments?filename=a.png", headers={"Content-Type": "image/png"}, raw=PNG)
L.check("загрузка без токена -> 401", s == 401, str(s))
L.check("загрузка в неверный UUID чата -> 400", upload(api, at, "not-a-uuid", PNG)[0] == 400)
L.check("?variant=thumbnail (вариантов нет) -> 404", api("GET", f"/attachments/{check_id}/content?variant=thumbnail", headers=L.bearer(at))[0] == 404)
L.check("?variant=bogus -> 400", api("GET", f"/attachments/{check_id}/content?variant=bogus", headers=L.bearer(at))[0] == 400)
L.check("?variant=original -> 200", api("GET", f"/attachments/{check_id}/content?variant=original", headers=L.bearer(at))[0] == 200)
# --- имя файла
for name, why in (("a/b.png", "слэш"), ("a\\b.png", "обратный слэш"), ("a%00b.png", "NUL"), ("a%0Ab.png", "перевод строки"),
("", "пустое"), ("%20%20", "пробелы"), ("n" * 256, "256 символов")):
s, _, _ = api("POST", f"/chats/{chat}/attachments?filename={name}", headers={**L.bearer(at), "Content-Type": "image/png"}, raw=PNG)
L.check(f"filename: {why} -> 400", s == 400, str(s))
s, _, _ = api("POST", f"/chats/{chat}/attachments", headers={**L.bearer(at), "Content-Type": "image/png"}, raw=PNG)
L.check("filename не указан -> 400", s == 400, str(s))
s, _, b = upload(api, at, chat, PNG, filename="n" * 255)
L.check("filename из 255 символов -> 201", s == 201, str(s))
s, _, b = upload(api, at, chat, PNG, filename="../../etc/passwd".replace("/", "_"))
L.check("имя «../..» без разделителей принимается и не влияет на ключ объекта", s == 201, str(s))
# --- тип и содержимое
L.check("Content-Type text/plain -> 415", upload(api, at, chat, PNG, "text/plain")[0] == 415)
L.check("Content-Type image/gif -> 415", upload(api, at, chat, PNG, "image/gif")[0] == 415)
L.check("PNG под видом image/jpeg -> 415", upload(api, at, chat, PNG, "image/jpeg")[0] == 415)
L.check("текст под видом image/png -> 415", upload(api, at, chat, b"not an image at all" * 20)[0] == 415)
L.check("пустое тело -> 415", upload(api, at, chat, b"")[0] == 415)
bad = bytearray(PNG); bad[len(PNG) // 2] ^= 0xFF
L.check("PNG с повреждённым блоком (CRC) -> 415", upload(api, at, chat, bytes(bad))[0] == 415)
L.check("усечённый PNG -> 415", upload(api, at, chat, PNG[:-30])[0] == 415)
L.check("PNG с мусором в конце -> 415", upload(api, at, chat, PNG + b"junk")[0] == 415)
if jpg:
L.check("усечённый JPEG -> 415", upload(api, at, chat, jpg[:-40], "image/jpeg")[0] == 415)
L.check("JPEG под видом image/png -> 415", upload(api, at, chat, jpg, "image/png")[0] == 415)
# --- лимиты размера и числа пикселей
s, _, _ = upload(api, at, chat, mkpng(8000, 5000))
L.check("ровно 40 000 000 пикселей (8000x5000) -> 201", s == 201, str(s))
L.check("40 005 000 пикселей (8001x5000) -> 413", upload(api, at, chat, mkpng(8001, 5000))[0] == 413)
L.check("«бомба» 20000x20000 малого размера -> 413", upload(api, at, chat, mkpng(20000, 20000))[0] == 413)
L.check("тело 10 MiB + 1 байт -> 413", raw_upload(api, at, chat, 10 * 1024 * 1024 + 1) == 413)
# --- сообщения с вложениями
s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "", "attachment_ids": [check_id]}, L.H(at))
m = L.js(b) or {}
L.check("сообщение только с вложением (text='') -> 201 с attachment_ids", s == 201 and m.get("attachment_ids") == [check_id], f"{s} {m}")
s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "привет", "attachment_ids": []}, L.H(at))
L.check("attachment_ids=[] даёт обычное сообщение с пустым массивом", s == 201 and (L.js(b) or {}).get("attachment_ids") == [], str(s))
s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "без поля"}, L.H(at))
L.check("без attachment_ids в ответе всё равно attachment_ids=[]", s == 201 and (L.js(b) or {}).get("attachment_ids") == [], str(s))
L.check("пустой текст без вложений -> 400", api("POST", f"/chats/{chat}/messages", {"text": ""}, L.H(at))[0] == 400)
L.check("пробельный текст без вложений -> 400", api("POST", f"/chats/{chat}/messages", {"text": " ", "attachment_ids": []}, L.H(at))[0] == 400)
L.check("пробельный текст с вложением допустим -> 201", api("POST", f"/chats/{chat}/messages", {"text": " ", "attachment_ids": [check_id]}, L.H(at))[0] == 201)
L.check("неизвестное вложение -> 404", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": [str(uuid.uuid4())]}, L.H(at))[0] == 404)
L.check("attachment_ids не массив -> 400", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": check_id}, L.H(at))[0] == 400)
L.check("attachment_ids с неверным UUID -> 400", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": ["zzz"]}, L.H(at))[0] == 400)
L.check("повтор одного id в attachment_ids -> 400", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": [check_id, check_id]}, L.H(at))[0] == 400)
ids = []
for i in range(11):
s, _, b = upload(api, at, chat, mkpng(8 + i, 8))
ids.append((L.js(b) or {}).get("id"))
L.check("11 вложений в сообщении -> 400", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": ids}, L.H(at))[0] == 400)
s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "десять", "attachment_ids": ids[:10]}, L.H(at))
L.check("10 вложений -> 201 с сохранением порядка", s == 201 and (L.js(b) or {}).get("attachment_ids") == ids[:10], str(s))
s, _, b = api("POST", f"/chats/{other}/attachments?filename=o.png", headers={**L.bearer(at), "Content-Type": "image/png"}, raw=PNG)
foreign = (L.js(b) or {}).get("id")
L.check("вложение другого чата в сообщении -> 404", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": [foreign]}, L.H(at))[0] == 404)
L.check("участник может сослаться на вложение другого участника", api("POST", f"/chats/{chat}/messages", {"text": "моё", "attachment_ids": [check_id]}, L.H(bt))[0] == 201)
# --- идемпотентность с вложениями и история
key = "att-" + uuid.uuid4().hex
s1, _, b1 = api("POST", f"/chats/{chat}/messages", {"text": "один", "attachment_ids": [check_id]}, L.H(at, key))
s2, _, b2 = api("POST", f"/chats/{chat}/messages", {"text": "один", "attachment_ids": [check_id]}, L.H(at, key))
L.check("повтор с вложением и тем же ключом: тот же результат", s1 == s2 == 201 and L.js(b1) == L.js(b2), f"{s1}/{s2}")
s3, _, _ = api("POST", f"/chats/{chat}/messages", {"text": "один", "attachment_ids": [ids[0]]}, L.H(at, key))
L.check("тот же ключ с другим набором вложений -> 409", s3 == 409, str(s3))
s4, _, _ = api("POST", f"/chats/{chat}/messages", {"text": "один"}, L.H(at, key))
L.check("тот же ключ без вложений (иное тело) -> 409", s4 == 409, str(s4))
s, _, b = api("GET", f"/chats/{chat}/messages?limit=100", headers=L.bearer(bt))
items = (L.js(b) or {}).get("items", [])
one = [m for m in items if m["text"] == "один"]
L.check("в истории одно такое сообщение, attachment_ids присутствует у каждого сообщения",
len(one) == 1 and one[0]["attachment_ids"] == [check_id] and all("attachment_ids" in m for m in items), str(len(one)))
# скачивание вложения из сообщения вторым участником
s, _, b = api("GET", f"/attachments/{one[0]['attachment_ids'][0]}/content", headers=L.bearer(bt))
L.check("вложение из истории скачивается вторым участником", s == 200 and b == PNG, str(s))
def upload_stop(api, hook, index=0):
"""Загрузка -> остановка именно той реплики, что приняла файл -> скачивание через другую реплику.
index выбирает, какая из двух реплик (по отсортированному X-Instance-Id) принимает файл и затем останавливается."""
(an, aid, at), (bn, bid, bt), _, chat, _ = setup(api)
ids = sorted({api("GET", "/users/me", headers=L.bearer(at))[1].get("x-instance-id") for _ in range(16)} - {None})
L.check("через LB видны >= 2 реплик", len(ids) >= 2, str(ids))
want = ids[index % len(ids)]
att, h = {}, {}
for _ in range(12): # round-robin: повторяем загрузку, пока файл не примет выбранная реплика
s, h, b = upload(api, at, chat, PNG)
att = L.js(b) or {}
if s != 201 or h.get("x-instance-id") == want:
break
target = h.get("x-instance-id")
L.check(f"файл принят выбранной репликой {target}", s == 201 and target == want, f"{s} {target} want={want}")
s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "до отказа", "attachment_ids": [att["id"]]}, L.H(at))
mid = (L.js(b) or {}).get("id")
t0 = time.time()
# абсолютный путь: относительный «scripts/x.cmd» cmd.exe воспринимает как ключ «/x.cmd»; вывод читаем как байты
r = subprocess.run([os.path.abspath(hook)], env={**os.environ, "TARGET_INSTANCE_ID": target}, capture_output=True, timeout=60)
L.check(f"hook остановил реплику {target} (код {r.returncode}, {time.time() - t0:.1f} с)", r.returncode == 0,
(r.stderr or b"")[-200:].decode("utf-8", "replace"))
ok_at, instances = None, set()
for _ in range(200):
s, h, b = api("GET", f"/attachments/{att['id']}/content", headers=L.bearer(bt))
if s == 200 and b == PNG:
ok_at = time.time() - t0
instances.add(h.get("x-instance-id"))
break
time.sleep(0.1)
L.check("после остановки реплики вложение скачивается через другую реплику (байты те же)",
ok_at is not None and target not in instances, f"{ok_at} {instances}")
if ok_at is not None:
print(f"INFO: вложение снова доступно через {ok_at:.2f} с после запуска hook (реплика {sorted(instances)})")
s, _, b = api("GET", f"/chats/{chat}/messages", headers=L.bearer(bt))
L.check("подтверждённое сообщение с вложением доступно", any(m["id"] == mid and m["attachment_ids"] == [att["id"]] for m in (L.js(b) or {}).get("items", [])))
seen = {api("GET", f"/attachments/{att['id']}", headers=L.bearer(bt))[1].get("x-instance-id") for _ in range(20)}
L.check("остановленная реплика больше не отвечает", target not in seen, str(seen))
def s3_outage(api):
"""Сбой S3 при живых API и PostgreSQL: вложения деградируют (503), остальное работает; после старта S3 всё возвращается."""
stop = shlex.split(os.environ.get("S3_STOP_CMD", "docker compose stop s3"))
start = shlex.split(os.environ.get("S3_START_CMD", "docker compose start s3"))
(an, aid, at), (bn, bid, bt), _, chat, _ = setup(api)
s, _, b = upload(api, at, chat, PNG)
att = (L.js(b) or {}).get("id")
L.check("до сбоя: загрузка -> 201", s == 201, str(s))
subprocess.run(stop, cwd=ROOT, check=True, capture_output=True, timeout=180)
t_stop = time.time()
try:
time.sleep(1)
t0 = time.time()
s, _, b = upload(api, at, chat, PNG)
L.check("S3 остановлен: загрузка -> 503 (code unavailable), %.1f с" % (time.time() - t0),
s == 503 and (L.js(b) or {}).get("error", {}).get("code") == "unavailable", f"{s} {b[:80]}")
s, _, _ = api("GET", f"/attachments/{att}/content", headers=L.bearer(bt))
L.check("S3 остановлен: скачивание -> 503, а не 500/зависание", s == 503, str(s))
s, _, _ = api("GET", f"/attachments/{att}", headers=L.bearer(bt))
L.check("S3 остановлен: метаданные (только PostgreSQL) -> 200", s == 200, str(s))
s, _, _ = api("POST", f"/chats/{chat}/messages", {"text": "текст без S3"}, L.H(at))
L.check("S3 остановлен: обычное сообщение -> 201", s == 201, str(s))
s, _, _ = api("POST", f"/chats/{chat}/messages", {"text": "со ссылкой", "attachment_ids": [att]}, L.H(at))
L.check("S3 остановлен: сообщение со старым вложением -> 201 (только PostgreSQL)", s == 201, str(s))
s, _, _ = L.call(api.base.rsplit("/api/v1", 1)[0], "GET", "/health/ready")
L.check("S3 остановлен: /health/ready остаётся 200 (S3 некритичен для текстового API)", s == 200, str(s))
finally:
subprocess.run(start, cwd=ROOT, check=True, capture_output=True, timeout=180)
t1, ok = time.time(), None
for _ in range(240):
s, _, b = upload(api, at, chat, PNG)
if s == 201:
ok = time.time() - t1
break
time.sleep(1)
L.check("после старта S3 загрузка снова -> 201 (через %s с)" % (("%.0f" % ok) if ok is not None else "?"), ok is not None)
# у каждой реплики свой «предохранитель» (до S3_BREAKER_SECONDS после последнего сбоя): повторяем чтение, пока не вернётся 200
t2, got, tries = time.time(), None, 0
for tries in range(1, 61):
s, _, b = api("GET", f"/attachments/{att}/content", headers=L.bearer(bt))
if s == 200 and b == PNG:
got = time.time() - t2
break
time.sleep(1)
L.check("после старта S3 старое вложение скачивается, байты те же (через %s с, попыток: %d)"
% (("%.1f" % got) if got is not None else "?", tries), got is not None)
print("INFO: S3 был недоступен около %.0f с" % (time.time() - t_stop))
if __name__ == "__main__":
ap = argparse.ArgumentParser()
ap.add_argument("--base-url", default="http://localhost:8080")
ap.add_argument("--mode", choices=["attach", "upload-stop", "s3-outage"], default="attach")
ap.add_argument("--stop-hook", default="")
ap.add_argument("--target-index", type=int, default=0, help="какая из реплик (по порядку X-Instance-Id) принимает файл и будет остановлена")
a = ap.parse_args()
api = L.Api(a.base_url.rstrip("/"))
if a.mode == "upload-stop":
upload_stop(api, a.stop_hook, a.target_index)
elif a.mode == "s3-outage":
s3_outage(api)
else:
attach_checks(api)
print(("FAIL: %d проверок не прошли: %s" % (len(L.fails), "; ".join(L.fails))) if L.fails else "PASS: все проверки режима '%s'" % a.mode)
sys.exit(1 if L.fails else 0)