diff --git a/.gitattributes b/.gitattributes new file mode 100644 index 00000000..85d994b2 --- /dev/null +++ b/.gitattributes @@ -0,0 +1,7 @@ +*.sh text eol=lf +Dockerfile text eol=lf +*.sql text eol=lf +*.py text eol=lf +*.cmd text eol=crlf +*.cfg text eol=lf +*.yaml text eol=lf diff --git a/Dockerfile b/Dockerfile new file mode 100644 index 00000000..19aca4ed --- /dev/null +++ b/Dockerfile @@ -0,0 +1,11 @@ +FROM python:3.12.7-slim-bookworm +ENV PYTHONDONTWRITEBYTECODE=1 PYTHONUNBUFFERED=1 +WORKDIR /app +COPY src/requirements.txt . +RUN pip install --no-cache-dir -r requirements.txt +COPY src/ . +RUN useradd -r -u 10001 appuser +USER appuser +EXPOSE 8080 +HEALTHCHECK --interval=5s --timeout=3s --retries=10 CMD python -c "import urllib.request as u;u.urlopen('http://127.0.0.1:8080/health/live',timeout=2)" +CMD ["uvicorn","app.main:app","--host","0.0.0.0","--port","8080","--timeout-graceful-shutdown","10"] diff --git a/REPORT.md b/REPORT.md index 9ad2b84f..3bc794ab 100644 --- a/REPORT.md +++ b/REPORT.md @@ -1,37 +1,157 @@ # Отчёт — лабораторная 4 -- Автор, группа: TODO -- Целевая оценка; выбранный трек 5, если нужен: TODO -- Commit/PR: TODO после публикации -- Использованные источники, библиотеки и помощь ИИ: TODO +- Автор, группа: Корнилов Михаил, БПИ2304 +- Целевая оценка: 3. Трек 5 не заявлен. +- Использованные источники, библиотеки и помощь ИИ: +Библиотеки: starlette, uvicorn, psycopg 3 + psycopg_pool, argon2-cffi, boto3 1.35.99 (S3-клиент). +Образы: `postgres:16.4-alpine`, `haproxy:2.8.10-alpine`, `chrislusf/seaweedfs:4.42`, `python:3.12.7-slim-bookworm`. +При подготовке использовалась помощь Claude ## Запуск из чистого clone -TODO: версии runtime/образов, prerequisites, команды создания локальных secrets/.env, build, миграций, запуска, ожидания готовности, тестов и остановки. Указать необходимые действия оператора. Не вставлять секреты. Отдельно указать безопасную остановку и команду намеренного удаления учебных данных. +Prerequisites: Docker Desktop (Compose v2), Git Bash (Windows) либо любой sh, Python 3.9+ для тестов. Версии для прогона записаны в `evidence/01-env.txt`. Внимание: порт `127.0.0.1:8080` должен быть свободен (остановите стенды предыдущих лабораторных: `docker compose stop` в их папках). + +```sh +sh scripts/setup-secrets.sh # secrets/*: пароль БД, ключи S3 (admin и ограниченный ключ API), конфигурация S3; значения не печатаются +cp .env.example .env # необязательно: у переменных есть значения по умолчанию в compose.yaml +docker compose --env-file .env config --quiet +docker compose up -d --build # postgres, s3 -> migrate, s3-init (однократно) -> api x2 -> lb; ~1-2 минуты (S3 стартует ~20 с) +curl http://localhost:8080/health/ready # ждём {"status":"ok"} +python tests/smoke.py --base-url http://localhost:8080 # = make test +python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd --base-url http://localhost:8080 # = make test-failover +python tests/resilience.py --mode persistence --action-script scripts/restart.cmd --base-url http://localhost:8080 # = make test-persistence +# Linux/macOS: те же команды с scripts/stop-one.sh и scripts/restart.sh +docker compose start api # вернуть остановленную тестом реплику +sh scripts/collect-evidence.sh # все проверки ниже и сохранение в evidence/ (--fresh сначала удаляет данные) +docker compose stop # безопасная остановка: контейнеры остановлены, данные (pgdata, s3data) сохранены +docker compose down -v # ОСОЗНАННОЕ удаление учебных данных (тома pgdata и s3data) +``` + +Действия оператора: только `setup-secrets.sh` (создать секреты). Порт опубликован только у LB (`127.0.0.1:8080`); API-реплики, PostgreSQL и S3 наружу не публикуются. ## Архитектура и решения -TODO: схема процессов/хранилищ, источник истины, транзакционные границы, ограничения. Что перенесено из lab3, что изменено в этой работе. Соответствие переменных из .env.example реальной конфигурации. +``` +клиент -> lb (HAProxy, :8080) -> api x N -> postgres (пользователи, чаты, сообщения, сессии, ключи идемпотентности, метаданные вложений) + \-> s3 (SeaweedFS, приватный bucket; только байты вложений) +migrate (one-shot) -> postgres s3-init (one-shot) -> s3 +``` + +| Роль | Service | Версия | Готовность | Volume | Сеть/порт | Credentials | +| --- | --- | --- | --- | --- | --- | --- | +| load_balancer | `lb` | `haproxy:2.8.10-alpine` | `wget 127.0.0.1:8081/healthz` | нет | публикует `127.0.0.1:8080` | нет | +| api (>=2) | `api`, `deploy.replicas=${API_REPLICAS:-2}` | сборка из `Dockerfile` | `GET /health/ready` (БД и версия схемы) | нет | `expose 8080`, не публикуется | secrets `database_url`, ограниченный ключ S3 | +| postgres | `postgres` | `postgres:16.4-alpine` | `pg_isready` | именованный `pgdata` | не публикуется | secret `pg_password` | +| object_storage | `s3` | `chrislusf/seaweedfs:4.42` (`weed server -s3`) | `GET :8333/healthz` | именованный `s3data` | `expose 8333`, не публикуется | secret `s3_config` (ключи admin и API) | +| миграции | `migrate` (one-shot) | образ `api` | завершился с кодом 0 | нет | внутри сети | secret `database_url` | +| bootstrap S3 | `s3-init` (one-shot) | образ `api` | завершился с кодом 0 | нет | внутри сети | secrets admin и ограниченного ключей | + +Выбор сервера: MinIO не использован, потому что его официальные образы больше не публикуются на Docker Hub. SeaweedFS (`weed server -s3`) поднимает только master, volume, filer и S3-шлюз; административная консоль отдельным процессом не запускается. Образ запускается с `entrypoint: weed`, чтобы не получить дополнительные флаги стандартного entrypoint (предвыделение томов). + +**Модель данных** (`003_attachments.sql`): +- `attachments`: `id`, `chat_id`, `owner_id`, `filename` (только отображаемое имя), `content_type`, `size_bytes`, `sha256`, `width`, `height`, `object_key` (UNIQUE, `attachments/`, назначает сервер; имя файла в ключе не участвует), `status` (`uploading` или `ready`), `created_at`, `updated_at`. +- `message_attachments(message_id, attachment_id, position)`: связь с сохранением порядка; одно вложение чата можно использовать в нескольких сообщениях. +- `messages.text` теперь допускает пустую строку (проверка «не пусто и не пробелы без вложений» выполняется приложением). + +**Загрузка (`POST /chats/{id}/attachments?filename=`)** — один последовательный процесс без локальных файлов: +1. Аутентификация, доступ к чату (404), проверка `filename` (400) и `Content-Type` (415) — до чтения тела. +2. Тело читается потоком с лимитом 10 MiB (413 по `Content-Length` или по накопленному объёму). +3. Проверка по содержимому без декодирования пикселей: сигнатура и совпадение с заявленным типом, структура (у PNG — CRC каждого блока, IHDR/IDAT/IEND; у JPEG — сегменты, SOF/SOS, EOI), число пикселей из заголовка (больше 40 000 000 — 413). Повреждённые, усечённые и чужие форматы — 415. +4. `INSERT` строки со статусом `uploading` (commit), затем `PUT` объекта в S3 и `UPDATE ... status='ready'`. **201 возвращается только после успешного PUT и commit.** +5. Если PUT или UPDATE упал, выполняется быстрая компенсация (удаление объекта); строка БД удаляется, только если удаление объекта подтверждено. Иначе строка остаётся в статусе `uploading` с известным `object_key`, и команда `python -m app.sweep` позже удаляет объект и строку (grace period по умолчанию 900 с). Так отказ между S3 и PostgreSQL не оставляет неучтённых объектов. + +**Ответ на вопрос «S3 PUT прошёл, а COMMIT нет»:** клиент получает 503 (не 201), строка `uploading` остаётся в БД, объект известен по `object_key` и убирается компенсацией или `sweep`. Это обратный порядок к «сначала S3, потом БД», где такой объект был бы потерян. + +**Скачивание (`GET /attachments/{id}/content`)**: проверка сессии и членства в чате, затем потоковая отдача объекта из S3 (`Content-Type` истинный, `Content-Length` из БД, `X-Content-Type-Options: nosniff`, `Cache-Control: private, no-store`). Ошибка S3 даёт 503 до отправки заголовков, а не оборванный 200. Вариант `thumbnail|crop|optimized` отсутствует и даёт 404, неизвестное имя варианта — 400. + +**Сообщения**: `attachment_ids` — массив до 10 неповторяющихся UUID; все должны быть `ready` и принадлежать этому же чату, иначе 404; пустой/пробельный `text` допустим только при наличии вложений. Хэш идемпотентности (`Idempotency-Key`) учитывает `text` и упорядоченный список `attachment_ids`; отсутствующее поле равно `[]`. + +**Приватность S3**: анонимного доступа нет, порты S3 наружу не публикуются. Ключи двух ролей: `admin` (только `s3-init`, создаёт bucket) и ключ API с правами `Read/Write/List` только на свой bucket (не может создавать/удалять другие bucket и писать в чужие). `s3-init` идемпотентно создаёт bucket и при каждом запуске проверяет: анонимный GET объекта и списка — 403, ограниченный ключ не создаёт чужой bucket. API при этом **не** считает приватность bucket заменой ACL: доступ проверяется приложением по членству в чате, а случайный object key — только дополнительный слой. + +**Деградация при отказе S3**: `/health/ready` зависит от PostgreSQL и версии схемы, но не от S3. Поэтому при недоступном S3 текстовый API, метаданные и сообщения со старыми вложениями продолжают работать, а загрузка и скачивание байтов дают 503. Каждая операция S3 выполняется под жёстким дедлайном (PUT 8 с, получение объекта 5 с, компенсирующее удаление 2 с), потому что таймауты botocore не покрывают разрешение имени и зависшие соединения: в первом прогоне на Docker запрос на загрузку при остановленном S3 отвечал 503 за 15,4 с. После сбоя «предохранитель» на 5 с отдаёт 503 сразу, не обращаясь к S3, затем делается новая попытка. + +**Из lab3 перенесено без изменений:** весь API, PostgreSQL, сессии в БД, идемпотентность отправки, две API-реплики за HAProxy, отдельный сервис миграций, `X-Instance-Id`, скрипты `stop-one` и `restart` (теперь `restart` перезапускает и S3 и дожидается его готовности). +**Изменено в lab4:** новый `s3` и `s3-init`, миграция `003`, три endpoint вложений, поле `attachment_ids` в сообщениях и истории, зависимость `boto3`, расширенные собственные проверки и сбор доказательств. + +**Соответствие `.env.example`:** + +| Переменная | Статус | +| --- | --- | +| `S3_ENDPOINT` | в `.env.example` указан пример `http://s3:9000` (MinIO); в compose используется `http://s3:8333` (порт S3 SeaweedFS), значение задано в `compose.yaml` | +| `S3_REGION`, `S3_BUCKET`, `MAX_UPLOAD_BYTES`, `MAX_IMAGE_PIXELS` | используются (compose передаёт в API) | +| `S3_ACCESS_KEY_ID_FILE`, `S3_SECRET_ACCESS_KEY_FILE` | используются: ограниченный ключ API (Docker secrets) | +| `S3_ADMIN_ACCESS_KEY_ID_FILE`, `S3_ADMIN_SECRET_ACCESS_KEY_FILE` | нет в `.env.example`; используются только сервисом `s3-init` | +| `S3_CONNECT_TIMEOUT`, `S3_READ_TIMEOUT`, `S3_PUT_DEADLINE`, `S3_GET_DEADLINE`, `S3_FAST_DEADLINE`, `S3_BREAKER_SECONDS`, `S3_WORKERS`, `SWEEP_GRACE_SECONDS` | нет в `.env.example`; необязательные (по умолчанию 2, 20, 8, 5, 2, 5 с, 32 потока, 900 с) | +| `API_REPLICAS`, `SESSION_TTL_SECONDS`, `IDEMPOTENCY_TTL_SECONDS`, `DATABASE_URL_FILE` | используются, как в lab3 | +| `APP_ENV` | передаётся в контейнер, приложением не читается | +| `APP_HOST`, `APP_PORT` | не читаются; адрес и порт заданы в `CMD` Dockerfile (`0.0.0.0:8080`) | +| `SESSION_STORE=postgres` | маркер: сессии всегда в PostgreSQL | +| `CACHE_URL_FILE` | не используется (Redis нужен только для уровня 4 в lab2) | +| `DB_POOL_MAX`, `RUN_MIGRATIONS`, `INSTANCE_ID` | читаются приложением (в `.env.example` нет): размер пула (10), запуск миграций при старте (в compose 0), переопределение идентификатора реплики | ## Доказательства критериев +Все файлы лежат в `evidence/`; они собираются одним запуском `sh scripts/collect-evidence.sh --fresh` (Windows 11, Docker Desktop 28.0.4, Compose v2.34.0, 16 CPU / 8 ГБ), токены, пароли и ключи S3 в них не печатаются. Шаги 03, 05 и 10 перезапускались отдельно (`STEPS="03 05 10" sh scripts/collect-evidence.sh`) после исправления тестов; у каждого файла в заголовке своя метка времени. + | Критерий README | Команда/сценарий | Наблюдаемый результат | Файл доказательства | | --- | --- | --- | --- | -| Публичный smoke | make test | TODO | TODO | -| Остальные пункты уровня 3 | TODO | TODO | TODO | -| Все пункты уровня 4, если заявлен | TODO | TODO | TODO | -| Выбранный трек 5, если заявлен | TODO | TODO | TODO | +| Стенд в одном `compose.yaml`, S3 и persistent volumes в нём; все возможности lab3 | `docker compose up -d --build`, `docker compose ps -a` | чистый старт до готовности за 19 с; `postgres`, `s3`, `api-1`, `api-2`, `lb` — healthy, `migrate` и `s3-init` — Exited (0); том `mtusi-lab4_s3data` | `00-clean-start.txt`, `01-env.txt`, `08-s3-storage.txt` | +| Публичный smoke lab4 (checksum, чужой пользователь) | `python tests/smoke.py --base-url http://localhost:8080` | PASS, exit code 0; `check_contract.py` — PASS | `02-smoke.txt` | +| Запросы одного пользователя на разных репликах без повторного входа | 40 запросов `GET /users/me` с одним токеном | по 20 ответов от `2c12200fa922` и `45517da31576`; порты API-контейнеров наружу не опубликованы, LB — `127.0.0.1:8080` | `04-load-balancing.txt` | +| Метаданные в PostgreSQL, байты в приватном bucket, не в БД и не в каталоге API | `\d attachments`, `docker diff` API-контейнеров, сверка `ready` и объектов S3 | таблицы `attachments` и `message_attachments` созданы миграцией 003; `docker diff` обоих API-контейнеров не показывает изменений, кроме смонтированных `/run/secrets`; в БД 6 `ready` и 0 `uploading`, в S3 6 объектов | `07-db-migrations.txt`, `08-s3-storage.txt` | +| 201 ready после сохранения; оригинал скачивается побайтно; сообщение с `attachment_ids` читают участники | `lab4_checks.py` (62 проверки), `lab3_checks.py` main (41) и idem (20) | все 123 PASS, 0 FAIL, коды выхода всех трёх команд 0: загрузка PNG и JPEG — 201 со `status=ready` и верными `sha256`/`size_bytes`; скачивание совпадает побайтно, `Content-Type` верный, `nosniff`; сообщение с `attachment_ids` (в том числе с пустым `text`) читают оба участника | `03-student-checks.txt` | +| Приём реальных PNG/JPEG; MIME по содержимому; подмена типа, битые и усечённые файлы — 415 | `lab4_checks.py`: PNG и JPEG, PNG как JPEG, JPEG как PNG, CRC, усечение, мусор в конце | PASS: PNG и JPEG — 201; PNG как `image/jpeg`, JPEG как `image/png`, текст как `image/png`, `text/plain`, `image/gif`, пустое тело, PNG с повреждённым CRC, усечённые PNG и JPEG, PNG с мусором в конце — 415 | `03-student-checks.txt` | +| Лимиты до чтения/декодирования: 10 MiB и 40 млн пикселей | 10 MiB+1 байт — 413; 8000x5000 (ровно 40 млн) — 201; 8001x5000 — 413; 20000x20000 малого размера — 413 | PASS: все четыре случая дали ожидаемые коды; «бомба» 20000x20000 малого размера отклонена по заголовку без декодирования | `03-student-checks.txt` | +| Опасные filename отклоняются | `/`, `\`, NUL, перевод строки, пустое, пробелы, 256 символов, отсутствие — 400 | PASS: все 400; имя из 255 символов и Unicode-имя принимаются (201); имя файла не участвует в ключе объекта | `03-student-checks.txt` | +| Чужой чат и посторонний: 404 на метаданные и байты; без токена 401; неверный UUID 400 | собственные проверки | PASS: посторонний — 404 на метаданные, содержимое и загрузку в чужой чат; без токена — 401; неверный UUID — 400; неизвестный UUID — 404; `?variant=thumbnail` — 404, `?variant=bogus` — 400 | `03-student-checks.txt` | +| Приватный bucket вне API: аноним не читает; ключ API ограничен | `python -m app.s3init` внутри compose-сети (запущен дважды) | 19 PASS, 0 FAIL: анонимный GET объекта и списка bucket — 403; ключ API не создаёт другой bucket, не удаляет рабочий и не пишет в чужой (`AccessDenied`); порты S3 наружу не опубликованы | `08-s3-storage.txt` | +| Upload -> остановка обслужившей реплики -> download через другую возвращает тот же файл | `lab4_checks.py --mode upload-stop --target-index 0/1` | PASS в обоих раундах: раунд 1 — файл принят и затем остановлена `2c12200fa922` (api-1), файл снова доступен через `45517da31576` через 2,31 с; раунд 2 — принята и остановлена `45517da31576` (api-2), файл доступен через `2c12200fa922` через 1,29 с; байты те же, остановленная реплика не отвечает, сообщение с вложением доступно | `05-failover.txt` | +| Failover lab3: запись возобновляется за <=10 с, дублей нет (с чтением оригинала) | `tests/resilience.py --mode failover`, два раунда | PASS в обоих раундах: 118 и 112 успешных записей, по 1 неудачной попытке, запись возобновилась через 1,75 и 1,734 с; в обоих раундах тест остановил реплику `45517da31576` (api-2), так как она обслужила первое сообщение; обе реплики покрыты сценарием `upload-stop` выше | `05-failover.txt` | +| Restart с сохранением volumes сохраняет метаданные и оригинал | `tests/resilience.py --mode persistence`, hook `restart.cmd` (postgres, s3, api, lb) | PASS; после рестарта в БД users=26, chats=12, messages=247, sessions=26, idempotency_keys=247, attachments=6; объектов в S3 до 5, после 6 (+1 вложение создал сам тест) | `06-persistence.txt` | +| Hook перезапускает реальные процессы | `docker inspect -f StartedAt` до/после | у `postgres`, `s3`, `api-1`, `api-2`, `lb` значение `StartedAt` изменилось, `RestartCount=0` | `06-persistence.txt` | +| Недоступность S3 | `lab4_checks.py --mode s3-outage` (`docker compose stop s3`) | PASS (9 проверок): при остановленном S3 загрузка — 503 `unavailable` за 8,1 с (дедлайн), скачивание — 503, метаданные — 200, обычное сообщение и сообщение со старым вложением — 201, `/health/ready` — 200; после старта S3 загрузка снова 201 (через 25 с), старое вложение скачивается (через 1,1 с, 2 попытки: «предохранитель» реплики) | `10-s3-down.txt` | +| Идемпотентность и сообщения с вложениями (повтор, другой набор вложений — 409) | `lab3_checks.py --mode idem`, `lab4_checks.py` | PASS: повтор того же ключа возвращает то же сообщение; другое тело или другой набор вложений — 409; 30 параллельных повторов через обе реплики дают одно сообщение; вложение другого чата, неизвестное, повтор id и более 10 вложений отклоняются (404/400) | `03-student-checks.txt` | +| Миграции однократно отдельным шагом, повтор безопасен | `docker compose ps -a migrate`, `run --rm migrate` | `migrate` — Exited (0); в `schema_migrations` три записи (001, 002, 003) без дублей; три повторных запуска — `migrations: ok, latest = 003_attachments.sql`; API стартуют с `RUN_MIGRATIONS=0` | `07-db-migrations.txt` | +| Пароли Argon2id, токены только как sha256 | `select left(password_hash,10)`, `length(token_hash)` | 26 из 26 хэшей начинаются с `$argon2id$`; 26 из 26 `token_hash` длиной 32 байта | `07-db-migrations.txt` | +| Секреты и volumes вне Git | `git check-ignore`, `git ls-files` | `secrets/` и `.env` игнорируются, отслеживаемых секретов нет | `12-git-hygiene.txt` | -TODO: добавить отдельную строку для каждого заявленного критерия. PASS без команды и наблюдения не является доказательством. Проверка инфраструктурного hook требует подтверждения, какие реальные процессы/хранилища перезапущены. +Примечание к проверке hook: тесты подтверждают сохранность данных, сессии и оригинала, а какие процессы перезапущены или остановлены, показывают `docker ps -a` и `StartedAt` в `05-failover.txt` и `06-persistence.txt`. ## Эксперименты и отказы -TODO: гипотеза, hardware/лимиты, версии, объём данных, профиль нагрузки, concurrency/arrival rate, длительность/прогрев, повторы, успешные RPS, ошибки, p50/p95/p99, CPU/RAM. Сохранить raw summary без tokens и объяснить ограничения измерения. +Нагрузочные измерения (RPS, p50/p95/p99, пик памяти при параллельных загрузках) на уровне 3 не проводились. Проверены отказы: | Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных | | --- | --- | --- | --- | -| TODO | TODO | TODO | TODO | +| Остановка API-реплики, принявшей файл (`api-1`, `2c12200fa922`) | файл скачивается через другую реплику, байты те же | PASS: файл принят репликой 1, реплика остановлена, файл отдан репликой 2 с теми же байтами | файл снова доступен через 2,31 с после запуска hook; потерь нет | +| То же для второй реплики (`api-2`, `45517da31576`) | то же | PASS: файл принят репликой 2, реплика остановлена, файл отдан репликой 1 | 1,29 с; потерь нет | +| Failover lab3 (два раунда, обе останавливали `api-2`) | запись возобновляется <=10 с, дублей нет | PASS: 118 и 112 успешных записей, 1 неудачная попытка за раунд (повторена с тем же ключом), реплика исключена из ротации | 1,75 и 1,734 с до возобновления записи; реплика возвращена командой `docker compose start api` и видна через LB через 3-5 с; потерь и дублей нет | +| Рестарт PostgreSQL, S3, API и LB (`scripts/restart.*`) | метаданные и оригинал сохраняются | PASS persistence; у всех пяти контейнеров изменился `StartedAt`; данные и оригинал сохранены | рестарт всего стенда вместе с ожиданием S3: готов через 54 с (S3 стартует около 20 с); потерь нет | +| `docker compose stop s3` при живых API и PostgreSQL | загрузка и скачивание — 503 за ограниченное время; текст, метаданные и `/health/ready` — работают | PASS: загрузка — 503 за 8,1 с (дедлайн PUT 8 с; в первом прогоне без дедлайна было 15,4 с), скачивание — 503, остальной API работает; за 41 с недоступности остались 15 строк `uploading`, `python -m app.sweep --grace 0` удалил их все | после старта S3 загрузка снова работает через 25 с, скачивание старого вложения — через 1,1 с (повтор из-за 5-секундного «предохранителя» реплики); после очистки в БД 32 `ready` и в S3 32 объекта | +| `docker compose stop postgres` | `ready` недоступен, LB отвечает 503; после старта БД сервис возвращается | `/health/ready` и `/api/v1/users/me` через LB — 503 | `ready` и две реплики вернулись через 4 с; потерь нет | + +Версии, лимиты и загрузка на момент прогона — `evidence/01-env.txt`. ## Ограничения и следующие шаги -TODO: какие отказы выдерживаются и какие нет; что не реализовано; где учебное упрощение; какое улучшение подтверждено, а какое пока гипотеза. +- Уровень 4 и трек 5 не заявлены. Для уровня 4 не хватает: измерения пика памяти при >=10 одновременных загрузках и потоковой передачи в S3 (сейчас тело файла целиком буферизуется в памяти реплики, максимум 10 MiB на загрузку, поэтому одновременные загрузки линейно увеличивают RAM). Остальные пункты 4 (тесты ошибок, компенсация и очистка, идемпотентный bootstrap и ограниченные ключи, приватность вне API) реализованы, но формально не заявлены. +- `sweep` запускается вручную (`python -m app.sweep`), по расписанию не выполняется: до очистки незавершённые загрузки (`uploading`) остаются в БД и, возможно, в S3. +- Если PUT выполнился, а сервер не получил подтверждения и удалить объект не удалось, объект остаётся до `sweep`; клиент в это время получает 503 и должен повторить загрузку. +- Приватность S3 в compose-сети: S3 не публикуется наружу, но filer SeaweedFS (порт 8888) внутри сети compose не требует аутентификации. Скомпрометированный контейнер API мог бы обратиться к нему напрямую. Для учебного стенда принято, для промышленного нужна отдельная сеть для S3 и закрытый filer. +- Проверка изображений структурная (CRC, сегменты, заголовки), пиксели не декодируются: файл, у которого корректны заголовки и контрольные суммы, но битые сжатые данные, будет принят. Это сознательный компромисс против decompression bomb. +- Нет перекодирования, миниатюр и вариантов изображений, поэтому `variants` всегда пуст. +- SPOF сохраняются из lab3: один LB, одна PostgreSQL, один S3 без репликации и один Docker host. +- Время сообщения берётся из `clock_timestamp()`; при конкурентных вставках в один чат порядок коммитов может не совпасть с порядком времени. +- `X-Instance-Id` раскрывает короткий ID контейнера (допустимо для lab4). +- Образы закреплены по тегам, не по digest. Если тег `chrislusf/seaweedfs:4.42` недоступен для скачивания, замените его на ближайший доступный `4.x` и укажите это в отчёте. +- Реализация учебная: работоспособна и проверена на локальном стенде, но не претендует на промышленную готовность. + +## Windows (без make) + +```sh +python tests/smoke.py --base-url http://localhost:8080 +python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd --base-url http://localhost:8080 +python tests/resilience.py --mode persistence --action-script scripts/restart.cmd --base-url http://localhost:8080 +``` + +Секреты: `sh scripts/setup-secrets.sh` из Git Bash. Docker Desktop с бэкендом WSL2. diff --git a/compose.yaml b/compose.yaml new file mode 100644 index 00000000..ded10095 --- /dev/null +++ b/compose.yaml @@ -0,0 +1,139 @@ +# Стенд lab4: клиент -> lb (HAProxy) -> api x N -> postgres (метаданные, сессии, идемпотентность) и s3 (байты вложений). +# Запуск: sh scripts/setup-secrets.sh && docker compose up -d --build +name: mtusi-lab4 + +services: + postgres: + image: postgres:16.4-alpine + restart: unless-stopped + environment: + POSTGRES_USER: msg + POSTGRES_DB: msg + POSTGRES_PASSWORD_FILE: /run/secrets/pg_password + secrets: [pg_password] + volumes: + - pgdata:/var/lib/postgresql/data + healthcheck: + test: ["CMD-SHELL", "pg_isready -U msg -d msg"] + interval: 3s + timeout: 3s + retries: 20 + + # Приватное S3-хранилище (SeaweedFS). Порты наружу не публикуются, анонимного доступа нет, данные в томе s3data. + # entrypoint заменён на weed: стандартный entrypoint образа добавил бы собственные флаги (предвыделение томов). + s3: + image: chrislusf/seaweedfs:4.42 + restart: unless-stopped + entrypoint: ["weed"] + command: ["server", "-dir=/data", "-s3", "-s3.config=/run/secrets/s3_config", "-ip.bind=0.0.0.0", + "-master.volumeSizeLimitMB=256", "-volume.max=30"] + secrets: [s3_config] + volumes: + - s3data:/data + expose: ["8333"] + stop_grace_period: 20s + healthcheck: + test: ["CMD-SHELL", "wget -q -O /dev/null http://127.0.0.1:8333/healthz"] + interval: 3s + timeout: 3s + retries: 40 + start_period: 5s + + # Одноразовая миграция: выполняется один раз перед запуском реплик, а не гонкой всех реплик при старте. + migrate: + build: . + image: mtusi-lab4-api:1 + command: ["python", "-m", "app.migrate"] + restart: "no" + depends_on: + postgres: {condition: service_healthy} + environment: + DATABASE_URL_FILE: /run/secrets/database_url + secrets: [database_url] + + # Одноразовая подготовка S3: создаёт приватный bucket (идемпотентно) и проверяет права ключа API и отказ анониму. + s3-init: + build: . + image: mtusi-lab4-api:1 + command: ["python", "-m", "app.s3init"] + restart: "no" + depends_on: + s3: {condition: service_healthy} + environment: + S3_ENDPOINT: http://s3:8333 + S3_BUCKET: ${S3_BUCKET:-messenger-attachments} + S3_ACCESS_KEY_ID_FILE: /run/secrets/s3_access_key_id + S3_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_secret_access_key + S3_ADMIN_ACCESS_KEY_ID_FILE: /run/secrets/s3_admin_access_key_id + S3_ADMIN_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_admin_secret_access_key + secrets: [s3_access_key_id, s3_secret_access_key, s3_admin_access_key_id, s3_admin_secret_access_key] + + # Один сервис, несколько одинаковых реплик; без container_name и без опубликованных портов. + api: + build: . + image: mtusi-lab4-api:1 + restart: unless-stopped + deploy: + replicas: ${API_REPLICAS:-2} + depends_on: + postgres: {condition: service_healthy} + migrate: {condition: service_completed_successfully} + s3-init: {condition: service_completed_successfully} + environment: + DATABASE_URL_FILE: /run/secrets/database_url + RUN_MIGRATIONS: "0" + S3_ENDPOINT: http://s3:8333 + S3_REGION: ${S3_REGION:-us-east-1} + S3_BUCKET: ${S3_BUCKET:-messenger-attachments} + S3_ACCESS_KEY_ID_FILE: /run/secrets/s3_access_key_id + S3_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_secret_access_key + MAX_UPLOAD_BYTES: ${MAX_UPLOAD_BYTES:-10485760} + MAX_IMAGE_PIXELS: ${MAX_IMAGE_PIXELS:-40000000} + SESSION_TTL_SECONDS: ${SESSION_TTL_SECONDS:-3600} + IDEMPOTENCY_TTL_SECONDS: ${IDEMPOTENCY_TTL_SECONDS:-86400} + APP_ENV: ${APP_ENV:-lab} + secrets: [database_url, s3_access_key_id, s3_secret_access_key] + expose: ["8080"] + stop_grace_period: 15s + healthcheck: + test: ["CMD", "python", "-c", "import urllib.request as u;u.urlopen('http://127.0.0.1:8080/health/ready',timeout=2)"] + interval: 3s + timeout: 3s + retries: 10 + start_period: 5s + + # Единственная публичная точка входа. Адреса реплик берутся из DNS Docker и обновляются каждую секунду. + lb: + image: haproxy:2.8.10-alpine + restart: unless-stopped + stop_grace_period: 10s + depends_on: + api: {condition: service_healthy} + ports: ["127.0.0.1:8080:8080"] + volumes: + - ./infra/haproxy/haproxy.cfg:/usr/local/etc/haproxy/haproxy.cfg:ro + healthcheck: + test: ["CMD-SHELL", "wget -q -O /dev/null http://127.0.0.1:8081/healthz"] + interval: 3s + timeout: 3s + retries: 10 + +secrets: + pg_password: + file: ./secrets/pg_password + database_url: + file: ./secrets/database_url + s3_config: + file: ./secrets/s3_config.json + s3_access_key_id: + file: ./secrets/s3_access_key_id + s3_secret_access_key: + file: ./secrets/s3_secret_access_key + s3_admin_access_key_id: + file: ./secrets/s3_admin_access_key_id + s3_admin_secret_access_key: + file: ./secrets/s3_admin_secret_access_key + +volumes: + pgdata: + s3data: diff --git a/evidence/00-clean-start.txt b/evidence/00-clean-start.txt new file mode 100644 index 00000000..9aa133bd --- /dev/null +++ b/evidence/00-clean-start.txt @@ -0,0 +1,218 @@ +# 00 чистый старт (2026-11-14T10:58:41Z) +$ docker compose down -v + Container mtusi-lab4-lb-1 Stopping + Container mtusi-lab4-lb-1 Stopped + Container mtusi-lab4-lb-1 Removing + Container mtusi-lab4-lb-1 Removed + Container mtusi-lab4-api-1 Stopping + Container mtusi-lab4-api-2 Stopping + Container mtusi-lab4-api-1 Stopped + Container mtusi-lab4-api-1 Removing + Container mtusi-lab4-api-1 Removed + Container mtusi-lab4-api-2 Stopped + Container mtusi-lab4-api-2 Removing + Container mtusi-lab4-api-2 Removed + Container mtusi-lab4-s3-init-1 Stopping + Container mtusi-lab4-migrate-1 Stopping + Container mtusi-lab4-s3-init-1 Stopped + Container mtusi-lab4-s3-init-1 Removing + Container mtusi-lab4-migrate-1 Stopped + Container mtusi-lab4-migrate-1 Removing + Container mtusi-lab4-s3-init-1 Removed + Container mtusi-lab4-s3-1 Stopping + Container mtusi-lab4-migrate-1 Removed + Container mtusi-lab4-postgres-1 Stopping + Container mtusi-lab4-postgres-1 Stopped + Container mtusi-lab4-postgres-1 Removing + Container mtusi-lab4-postgres-1 Removed + Container mtusi-lab4-s3-1 Stopped + Container mtusi-lab4-s3-1 Removing + Container mtusi-lab4-s3-1 Removed + Volume mtusi-lab4_s3data Removing + Volume mtusi-lab4_pgdata Removing + Network mtusi-lab4_default Removing + Volume mtusi-lab4_pgdata Removed + Volume mtusi-lab4_s3data Removed + Network mtusi-lab4_default Removed +$ sh scripts/setup-secrets.sh +secrets: ok (значения не печатаются) +secrets: ok (значения не печатаются) +$ docker compose up -d --build +Compose can now delegate builds to bake for better performance. + To do so, set COMPOSE_BAKE=true. +#0 building with "desktop-linux" instance using docker driver + +#1 [s3-init internal] load build definition from Dockerfile +#1 transferring dockerfile: 535B done +#1 DONE 0.0s + +#2 [migrate internal] load build definition from Dockerfile +#2 transferring dockerfile: 535B 0.0s done +#2 DONE 0.0s + +#3 [migrate internal] load metadata for docker.io/library/python:3.12.7-slim-bookworm +#3 DONE 1.4s + +#4 [migrate internal] load .dockerignore +#4 transferring context: 216B done +#4 DONE 0.0s + +#5 [s3-init internal] load .dockerignore +#5 transferring context: 216B done +#5 DONE 0.0s + +#6 [migrate 1/6] FROM docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d +#6 resolve docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d 0.0s done +#6 DONE 0.0s + +#7 [s3-init internal] load build context +#7 transferring context: 53.68kB done +#7 DONE 0.0s + +#8 [migrate internal] load build context +#8 transferring context: 53.68kB done +#8 DONE 0.0s + +#9 [s3-init 2/6] WORKDIR /app +#9 CACHED + +#10 [s3-init 3/6] COPY src/requirements.txt . +#10 CACHED + +#11 [migrate 4/6] RUN pip install --no-cache-dir -r requirements.txt +#11 CACHED + +#12 [s3-init 5/6] COPY src/ . +#12 DONE 0.0s + +#13 [s3-init 6/6] RUN useradd -r -u 10001 appuser +#13 0.340 useradd warning: appuser's uid 10001 is greater than SYS_UID_MAX 999 +#13 DONE 0.4s + +#14 [s3-init] exporting to image +#14 exporting layers 0.1s done +#14 exporting manifest sha256:4ae2a791bbba577bcb815375108ea737a327a44f3cb92b050371582871ca77a1 0.0s done +#14 exporting config sha256:fd2ebb00c346e3417687248874a92ffcf783d91a1cc83d788d70d5bfea6d0544 0.0s done +#14 exporting attestation manifest sha256:ae0da9de98954a73ad89771c32e4f4d1a8a061ce5fa1a3624287d97b91a368c4 +#14 exporting attestation manifest sha256:ae0da9de98954a73ad89771c32e4f4d1a8a061ce5fa1a3624287d97b91a368c4 0.1s done +#14 exporting manifest list sha256:e51688c9cb5dc910f9520e2eb97fefa0d9e1d284df053199f4a2fa3b6a0a8cb0 0.0s done +#14 naming to docker.io/library/mtusi-lab4-api:1 +#14 naming to docker.io/library/mtusi-lab4-api:1 0.0s done +#14 unpacking to docker.io/library/mtusi-lab4-api:1 0.1s done +#14 DONE 0.4s + +#15 [migrate] exporting to image +#15 exporting layers 0.1s done +#15 exporting manifest sha256:d4b8df4de55e399aa1f89ec53b8fd34515066d4e32a3d2da4584d541275b3230 0.0s done +#15 exporting config sha256:e859f5e9831d26a74f7f454640182463334862757cbb876e878ebc60464ae04d 0.0s done +#15 exporting attestation manifest sha256:9bdce302a45c5a9ba9bc835944c8aa6fc46f18c25817a5d63aa987840ca12387 0.1s done +#15 exporting manifest list sha256:76901d91a4007adbe41c8041eeabb616dd078be07048f3dbdef5f0f5fee4ff57 0.0s done +#15 naming to docker.io/library/mtusi-lab4-api:1 done +#15 unpacking to docker.io/library/mtusi-lab4-api:1 0.1s done +#15 DONE 0.5s + +#16 [s3-init] resolving provenance for metadata file +#16 DONE 0.0s + +#17 [migrate] resolving provenance for metadata file +#17 DONE 0.0s + +#18 [api internal] load build definition from Dockerfile +#18 transferring dockerfile: 535B done +#18 DONE 0.0s + +#3 [api internal] load metadata for docker.io/library/python:3.12.7-slim-bookworm +#3 DONE 1.7s + +#19 [api internal] load .dockerignore +#19 transferring context: 216B done +#19 DONE 0.0s + +#6 [api 1/6] FROM docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d +#6 resolve docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d 0.0s done +#6 DONE 0.1s + +#20 [api internal] load build context +#20 transferring context: 538B done +#20 DONE 0.0s + +#21 [api 3/6] COPY src/requirements.txt . +#21 CACHED + +#22 [api 4/6] RUN pip install --no-cache-dir -r requirements.txt +#22 CACHED + +#23 [api 5/6] COPY src/ . +#23 CACHED + +#9 [api 2/6] WORKDIR /app +#9 CACHED + +#24 [api 6/6] RUN useradd -r -u 10001 appuser +#24 CACHED + +#25 [api] exporting to image +#25 exporting layers done +#25 exporting manifest sha256:e340936d2ef95177fc4964b2ae581b17640ba56d9c391e5c1a919f762e75c1de 0.0s done +#25 exporting config sha256:962e9fd67f6859d238fcc659d62158046c2b41e06ac7728888f37c8d1cb2888c +#25 exporting config sha256:962e9fd67f6859d238fcc659d62158046c2b41e06ac7728888f37c8d1cb2888c 0.0s done +#25 exporting attestation manifest sha256:b791b5198f6c076c00999275b27ec867bf9dad754f65c4f53cbbe5e4ee3bf72c 0.0s done +#25 exporting manifest list sha256:2cc1a39bf9a24bc4274e218d769668dfff377fe32863850f110697231fbebbc3 0.0s done +#25 naming to docker.io/library/mtusi-lab4-api:1 done +#25 unpacking to docker.io/library/mtusi-lab4-api:1 0.0s done +#25 DONE 0.1s + +#26 [api] resolving provenance for metadata file +#26 DONE 0.0s + api Built + migrate Built + s3-init Built + Network mtusi-lab4_default Creating + Network mtusi-lab4_default Created + Volume "mtusi-lab4_pgdata" Creating + Volume "mtusi-lab4_pgdata" Created + Volume "mtusi-lab4_s3data" Creating + Volume "mtusi-lab4_s3data" Created + Container mtusi-lab4-postgres-1 Creating + Container mtusi-lab4-s3-1 Creating + Container mtusi-lab4-s3-1 Created + Container mtusi-lab4-s3-init-1 Creating + Container mtusi-lab4-postgres-1 Created + Container mtusi-lab4-migrate-1 Creating + Container mtusi-lab4-s3-init-1 Created + Container mtusi-lab4-migrate-1 Created + Container mtusi-lab4-api-2 Creating + Container mtusi-lab4-api-1 Creating + Container mtusi-lab4-api-2 Created + Container mtusi-lab4-api-1 Created + Container mtusi-lab4-lb-1 Creating + Container mtusi-lab4-lb-1 Created + Container mtusi-lab4-s3-1 Starting + Container mtusi-lab4-postgres-1 Starting + Container mtusi-lab4-postgres-1 Started + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-s3-1 Started + Container mtusi-lab4-s3-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Starting + Container mtusi-lab4-migrate-1 Started + Container mtusi-lab4-s3-1 Healthy + Container mtusi-lab4-s3-init-1 Starting + Container mtusi-lab4-s3-init-1 Started + Container mtusi-lab4-s3-init-1 Waiting + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-migrate-1 Waiting + Container mtusi-lab4-migrate-1 Exited + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-s3-init-1 Exited + Container mtusi-lab4-api-1 Starting + Container mtusi-lab4-api-1 Started + Container mtusi-lab4-api-2 Starting + Container mtusi-lab4-api-2 Started + Container mtusi-lab4-api-1 Waiting + Container mtusi-lab4-api-2 Waiting + Container mtusi-lab4-api-1 Healthy + Container mtusi-lab4-api-2 Healthy + Container mtusi-lab4-lb-1 Starting + Container mtusi-lab4-lb-1 Started +ready через 19 с после запуска up diff --git a/evidence/01-env.txt b/evidence/01-env.txt new file mode 100644 index 00000000..ced1e135 --- /dev/null +++ b/evidence/01-env.txt @@ -0,0 +1,61 @@ +# 01 окружение (2026-11-14T10:59:26Z) +commit: ec540a1a725862a8619fcb758daec4ad197f0dd5 +git status: + M REPORT.md +A scripts/collect-evidence.sh +A scripts/restart.sh +A scripts/setup-secrets.sh +A scripts/stop-one.sh +?? .gitattributes +?? Dockerfile +?? compose.yaml +?? evidence/00-clean-start.txt +?? evidence/01-env.txt +?? evidence/02-smoke.txt +?? evidence/03-student-checks.txt +?? evidence/04-load-balancing.txt +?? evidence/05-failover.txt +?? evidence/06-persistence.txt +?? evidence/07-db-migrations.txt +?? evidence/08-s3-storage.txt +?? evidence/09-db-down.txt +?? evidence/10-s3-down.txt +?? evidence/11-lb-config.txt +$ docker version +client=28.0.4 server=28.0.4 os=linux/amd64 +$ docker compose version +Docker Compose version v2.34.0-desktop.1 +python: Python 3.11.5 +$ docker compose config --quiet +compose config: OK +$ docker compose images +CONTAINER REPOSITORY TAG IMAGE ID SIZE +mtusi-lab4-api-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB +mtusi-lab4-api-2 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB +mtusi-lab4-lb-1 haproxy 2.8.10-alpine 54af6e4943e4 12.2MB +mtusi-lab4-migrate-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB +mtusi-lab4-postgres-1 postgres 16.4-alpine 5660c2cbfea5 99.2MB +mtusi-lab4-s3-1 chrislusf/seaweedfs 4.42 f7cbc8bdbbf6 106MB +mtusi-lab4-s3-init-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB +$ docker compose ps -a +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 17 seconds ago Up 9 seconds (healthy) 8080/tcp +mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 17 seconds ago Up 8 seconds (healthy) 8080/tcp +mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 17 seconds ago Up 3 seconds (health: starting) 127.0.0.1:8080->8080/tcp +mtusi-lab4-migrate-1 mtusi-lab4-api:1 "python -m app.migra…" migrate 18 seconds ago Exited (0) 12 seconds ago +mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 18 seconds ago Up 17 seconds (healthy) 5432/tcp +mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 18 seconds ago Up 17 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp +mtusi-lab4-s3-init-1 mtusi-lab4-api:1 "python -m app.s3init" s3-init 18 seconds ago Exited (0) 9 seconds ago +$ docker volume ls (pgdata) +local mtusi2026lab2_pgdata +local mtusi-lab3_pgdata +local mtusi-lab4_pgdata +$ docker stats --no-stream +NAME CPU % MEM USAGE / LIMIT +mtusi-lab4-api-1 0.55% 39.4MiB / 7.694GiB +mtusi-lab4-api-2 0.43% 39.11MiB / 7.694GiB +mtusi-lab4-lb-1 0.57% 12.05MiB / 7.694GiB +mtusi-lab4-postgres-1 0.45% 46.62MiB / 7.694GiB +mtusi-lab4-s3-1 0.19% 46.34MiB / 7.694GiB +$ docker info (лимиты хоста) +CPUs=16 Mem=8261029888 diff --git a/evidence/02-smoke.txt b/evidence/02-smoke.txt new file mode 100644 index 00000000..70cf9abb --- /dev/null +++ b/evidence/02-smoke.txt @@ -0,0 +1,7 @@ +# 02 публичные проверки через LB (2026-11-14T10:59:31Z) +$ python scripts/check_contract.py +PASS: offline skeleton structure, local refs and Python syntax; application NOT tested. +exit code: 0 +$ python tests/smoke.py --base-url http://localhost:8080 +PASS: lab4 public API scenario; infrastructure and grading evidence remain separate. +exit code: 0 diff --git a/evidence/03-student-checks.txt b/evidence/03-student-checks.txt new file mode 100644 index 00000000..5955e695 --- /dev/null +++ b/evidence/03-student-checks.txt @@ -0,0 +1,131 @@ +# 03 собственные проверки (2026-11-14T15:45:54Z) +$ python student-tests/lab3_checks.py --base-url http://localhost:8080 +PASS: повторный username -> 409 +PASS: пароль короче 12 -> 400 +PASS: лишнее поле -> 400 +PASS: User не содержит пароль/hash/токен +PASS: гонка одинакового username: ровно один 201, остальные 409 +PASS: неверный пароль и неизвестный пользователь неразличимы (401, тот же code/message/заголовок) +PASS: вход JSON-телом без Basic -> 401 +PASS: Bearer на POST /auth/sessions -> 401 +PASS: токен >=256 бит, token_type Bearer +PASS: Basic на бизнес-endpoint -> 401 + WWW-Authenticate: Bearer +PASS: один X-User-Id доступа не даёт +PASS: X-User-Id игнорируется: владелец определяется токеном +PASS: неизвестный токен -> 401 +PASS: X-Request-Id совпадает с request_id в теле ошибки +PASS: чат с неизвестным участником -> 400 +PASS: после отказа новый чат не появился (нет частичной записи) +PASS: чат создан с обоими участниками +PASS: создатель обязан быть среди member_ids -> 400 +PASS: посторонний: GET /chat -> 404 +PASS: посторонний: GET /messages -> 404 +PASS: посторонний не может писать -> 404 +PASS: неверный UUID /chats/not-a-uuid -> 400 +PASS: неверный UUID /chats/not-a-uuid/messages -> 400 +PASS: sender_id в запросе не принимается -> 400 +PASS: пробельный текст -> 400 +PASS: отправитель берётся из токена +PASS: пагинация limit=2: без повторов, все 6 сообщений +PASS: cursor от другого чата -> 400 +PASS: ?limit=0 -> 400 +PASS: ?limit=101 -> 400 +PASS: ?limit=abc -> 400 +PASS: ?limit=%2B5 -> 400 +PASS: ?limit=2&limit=3 -> 400 +PASS: тело >1 MiB -> 413 +PASS: не JSON Content-Type -> 415 +PASS: битый JSON -> 400 +PASS: logout -> 204 +PASS: повторный logout с отозванным токеном -> 401 +PASS: отозванный токен -> 401 + WWW-Authenticate: Bearer +PASS: logout одного пользователя не затрагивает чужие сессии +PASS: все проверки режима 'main' +exit code: 0 +$ python student-tests/lab3_checks.py --base-url http://localhost:8080 --mode idem --min-instances 2 +PASS: через LB отвечают >= 2 реплик с одним токеном (X-Instance-Id: 2) +PASS: повтор с тем же ключом: тот же 201 и то же сообщение +PASS: повтор не создал дубль +PASS: тот же ключ с другим телом -> 409 +PASS: тот же ключ и то же тело (другое форматирование JSON) -> тот же результат +PASS: тот же ключ в другом чате независим +PASS: тот же ключ у другого пользователя независим +PASS: нет Idempotency-Key -> 400 +PASS: неверный ключ 'bad key!' -> 400 +PASS: неверный ключ 'a/b' -> 400 +PASS: неверный ключ 'aaaaaaaaaaaa' -> 400 +PASS: неверный ключ '' -> 400 +PASS: посторонний с тем же ключом -> 404 (доступ проверяется при повторе) +PASS: без токена -> 401 +PASS: 30 параллельных запросов с одним ключом: все 201 и одно и то же сообщение +PASS: в истории ровно одно такое сообщение +INFO: параллельные повторы обслужили реплики: ['2c12200fa922', '45517da31576'] +PASS: параллельно один ключ и два разных тела: победитель один, остальным другого тела -> 409 +PASS: создано ровно одно сообщение из конкурирующих +PASS: повтор с отозванным токеном -> 401 +PASS: все проверки режима 'idem' +exit code: 0 +$ python student-tests/lab4_checks.py --base-url http://localhost:8080 (вложения: форматы, лимиты, права, сообщения) +PASS: загрузка PNG -> 201, status ready, ожидаемые поля +PASS: в ответе есть X-Instance-Id и X-Request-Id +PASS: загрузка JPEG -> 201 и верный sha256 +PASS: созданный PNG другого размера -> 201 +PASS: метаданные доступны другому участнику чата +PASS: скачивание: байты совпадают, Content-Type верный, nosniff +PASS: Content-Length равен размеру +PASS: метаданные постороннему -> 404 +PASS: содержимое постороннему -> 404 +PASS: без токена -> 401 +PASS: неверный UUID -> 400 +PASS: неизвестный UUID -> 404 +PASS: загрузка в чужой чат -> 404 +PASS: загрузка без токена -> 401 +PASS: загрузка в неверный UUID чата -> 400 +PASS: ?variant=thumbnail (вариантов нет) -> 404 +PASS: ?variant=bogus -> 400 +PASS: ?variant=original -> 200 +PASS: filename: слэш -> 400 +PASS: filename: обратный слэш -> 400 +PASS: filename: NUL -> 400 +PASS: filename: перевод строки -> 400 +PASS: filename: пустое -> 400 +PASS: filename: пробелы -> 400 +PASS: filename: 256 символов -> 400 +PASS: filename не указан -> 400 +PASS: filename из 255 символов -> 201 +PASS: имя «../..» без разделителей принимается и не влияет на ключ объекта +PASS: Content-Type text/plain -> 415 +PASS: Content-Type image/gif -> 415 +PASS: PNG под видом image/jpeg -> 415 +PASS: текст под видом image/png -> 415 +PASS: пустое тело -> 415 +PASS: PNG с повреждённым блоком (CRC) -> 415 +PASS: усечённый PNG -> 415 +PASS: PNG с мусором в конце -> 415 +PASS: усечённый JPEG -> 415 +PASS: JPEG под видом image/png -> 415 +PASS: ровно 40 000 000 пикселей (8000x5000) -> 201 +PASS: 40 005 000 пикселей (8001x5000) -> 413 +PASS: «бомба» 20000x20000 малого размера -> 413 +PASS: тело 10 MiB + 1 байт -> 413 +PASS: сообщение только с вложением (text='') -> 201 с attachment_ids +PASS: attachment_ids=[] даёт обычное сообщение с пустым массивом +PASS: без attachment_ids в ответе всё равно attachment_ids=[] +PASS: пустой текст без вложений -> 400 +PASS: пробельный текст без вложений -> 400 +PASS: пробельный текст с вложением допустим -> 201 +PASS: неизвестное вложение -> 404 +PASS: attachment_ids не массив -> 400 +PASS: attachment_ids с неверным UUID -> 400 +PASS: повтор одного id в attachment_ids -> 400 +PASS: 11 вложений в сообщении -> 400 +PASS: 10 вложений -> 201 с сохранением порядка +PASS: вложение другого чата в сообщении -> 404 +PASS: участник может сослаться на вложение другого участника +PASS: повтор с вложением и тем же ключом: тот же результат +PASS: тот же ключ с другим набором вложений -> 409 +PASS: тот же ключ без вложений (иное тело) -> 409 +PASS: в истории одно такое сообщение, attachment_ids присутствует у каждого сообщения +PASS: вложение из истории скачивается вторым участником +PASS: все проверки режима 'attach' +exit code: 0 diff --git a/evidence/04-load-balancing.txt b/evidence/04-load-balancing.txt new file mode 100644 index 00000000..4d7a4c28 --- /dev/null +++ b/evidence/04-load-balancing.txt @@ -0,0 +1,17 @@ +# 04 балансировка: одна сессия, разные реплики (2026-11-14T10:59:37Z) +$ docker compose ps api (реплики одного сервиса, без container_name) +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 27 seconds ago Up 19 seconds (healthy) 8080/tcp +mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 27 seconds ago Up 18 seconds (healthy) 8080/tcp +--- ID работающих API-контейнеров (X-Instance-Id = hostname = короткий ID контейнера) +2c12200fa922 +45517da31576 +--- порты API-контейнеров наружу (должно быть пусто: вход только через LB) +container 2c12200fa922: +container 45517da31576: +--- порты LB +127.0.0.1:8080 +--- 40 запросов с ОДНИМ токеном к GET /users/me через LB: число ответов на каждую реплику + 20 X-Instance-Id=2c12200fa922 + 20 X-Instance-Id=45517da31576 +реплик увидено: 2 | токен не печатается, повторный вход не выполнялся diff --git a/evidence/05-failover.txt b/evidence/05-failover.txt new file mode 100644 index 00000000..94cbfec5 --- /dev/null +++ b/evidence/05-failover.txt @@ -0,0 +1,138 @@ +# 05 отказ API-реплики: последовательно каждая из двух (2026-11-14T15:46:00Z) +hook: scripts/stop-one.cmd + +=== раунд 1 === +--- до +2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy) +45517da31576 mtusi-lab4-api-2 Up 5 hours (healthy) +$ python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd +Executing explicit failover hook; hook output suppressed to avoid leaking secrets. +{"observed_instances_before": 2, "successful_writes": 118, "failed_attempts": 1, "first_recovery_seconds": 1.75} +PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence. +exit code: 0 +--- после (ровно одна реплика должна быть Exited; остальные Up) +2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy) +45517da31576 mtusi-lab4-api-2 Exited (0) 14 seconds ago +--- LB сейчас: ответы по репликам (остановленной быть не должно) + 20 x-instance-id: 2c12200fa922 +--- восстановление: docker compose start api + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-s3-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Starting + Container mtusi-lab4-s3-1 Healthy + Container mtusi-lab4-s3-init-1 Starting + Container mtusi-lab4-migrate-1 Started + Container mtusi-lab4-s3-init-1 Started + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-migrate-1 Waiting + Container mtusi-lab4-s3-init-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Exited + Container mtusi-lab4-s3-init-1 Exited + Container mtusi-lab4-api-2 Starting + Container mtusi-lab4-api-2 Started +обе реплики снова видны через LB через 5 с +2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy) +45517da31576 mtusi-lab4-api-2 Up 5 seconds (health: starting) + +=== раунд 2 === +--- до +2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy) +45517da31576 mtusi-lab4-api-2 Up 5 seconds (healthy) +$ python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd +Executing explicit failover hook; hook output suppressed to avoid leaking secrets. +{"observed_instances_before": 2, "successful_writes": 112, "failed_attempts": 1, "first_recovery_seconds": 1.734} +PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence. +exit code: 0 +--- после (ровно одна реплика должна быть Exited; остальные Up) +2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy) +45517da31576 mtusi-lab4-api-2 Exited (0) 14 seconds ago +--- LB сейчас: ответы по репликам (остановленной быть не должно) + 20 x-instance-id: 2c12200fa922 +--- восстановление: docker compose start api + Container mtusi-lab4-s3-1 Waiting + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-s3-1 Healthy + Container mtusi-lab4-s3-init-1 Starting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Starting + Container mtusi-lab4-s3-init-1 Started + Container mtusi-lab4-migrate-1 Started + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-migrate-1 Waiting + Container mtusi-lab4-s3-init-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Exited + Container mtusi-lab4-s3-init-1 Exited + Container mtusi-lab4-api-2 Starting + Container mtusi-lab4-api-2 Started +обе реплики снова видны через LB через 3 с +2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy) +45517da31576 mtusi-lab4-api-2 Up 3 seconds (health: starting) + +=== вложение + остановка принявшей реплики, раунд 1 (--target-index 0: останавливается другая реплика) === +$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook scripts/stop-one.cmd --target-index 0 +PASS: через LB видны >= 2 реплик +PASS: файл принят выбранной репликой 2c12200fa922 +PASS: hook остановил реплику 2c12200fa922 (код 0, 1.4 с) +PASS: после остановки реплики вложение скачивается через другую реплику (байты те же) +INFO: вложение снова доступно через 2.31 с после запуска hook (реплика ['45517da31576']) +PASS: подтверждённое сообщение с вложением доступно +PASS: остановленная реплика больше не отвечает +PASS: все проверки режима 'upload-stop' +exit code: 0 +--- после +2c12200fa922 mtusi-lab4-api-1 Exited (0) 2 seconds ago +45517da31576 mtusi-lab4-api-2 Up 7 seconds (healthy) +--- восстановление: docker compose start api + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-s3-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Starting + Container mtusi-lab4-s3-1 Healthy + Container mtusi-lab4-s3-init-1 Starting + Container mtusi-lab4-migrate-1 Started + Container mtusi-lab4-s3-init-1 Started + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-migrate-1 Waiting + Container mtusi-lab4-s3-init-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Exited + Container mtusi-lab4-s3-init-1 Exited + Container mtusi-lab4-api-1 Starting + Container mtusi-lab4-api-1 Started +обе реплики снова видны через LB через 5 с + +=== вложение + остановка принявшей реплики, раунд 2 (--target-index 1: останавливается другая реплика) === +$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook scripts/stop-one.cmd --target-index 1 +PASS: через LB видны >= 2 реплик +PASS: файл принят выбранной репликой 45517da31576 +PASS: hook остановил реплику 45517da31576 (код 0, 0.9 с) +PASS: после остановки реплики вложение скачивается через другую реплику (байты те же) +INFO: вложение снова доступно через 1.29 с после запуска hook (реплика ['2c12200fa922']) +PASS: подтверждённое сообщение с вложением доступно +PASS: остановленная реплика больше не отвечает +PASS: все проверки режима 'upload-stop' +exit code: 0 +--- после +2c12200fa922 mtusi-lab4-api-1 Up 7 seconds (healthy) +45517da31576 mtusi-lab4-api-2 Exited (0) 1 second ago +--- восстановление: docker compose start api + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-s3-1 Waiting + Container mtusi-lab4-s3-1 Healthy + Container mtusi-lab4-s3-init-1 Starting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Starting + Container mtusi-lab4-migrate-1 Started + Container mtusi-lab4-s3-init-1 Started + Container mtusi-lab4-s3-init-1 Waiting + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-migrate-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Exited + Container mtusi-lab4-s3-init-1 Exited + Container mtusi-lab4-api-2 Starting + Container mtusi-lab4-api-2 Started +обе реплики снова видны через LB через 3 с diff --git a/evidence/06-persistence.txt b/evidence/06-persistence.txt new file mode 100644 index 00000000..8fcb0e7e --- /dev/null +++ b/evidence/06-persistence.txt @@ -0,0 +1,74 @@ +# 06 сохранность при рестарте всего стенда (PostgreSQL, S3, API, LB) (2026-11-14T11:00:44Z) +--- до +/mtusi-lab4-api-1 StartedAt=2026-11-14T11:00:41.418189002Z RestartCount=0 +/mtusi-lab4-api-2 StartedAt=2026-11-14T10:59:18.845998391Z RestartCount=0 +/mtusi-lab4-lb-1 StartedAt=2026-11-14T10:59:24.60449319Z RestartCount=0 +/mtusi-lab4-postgres-1 StartedAt=2026-11-14T10:59:10.646170885Z RestartCount=0 +/mtusi-lab4-s3-1 StartedAt=2026-11-14T10:59:10.657148631Z RestartCount=0 +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api About a minute ago Up 4 seconds (health: starting) 8080/tcp +mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api About a minute ago Up About a minute (healthy) 8080/tcp +mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb About a minute ago Up About a minute (healthy) 127.0.0.1:8080->8080/tcp +mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres About a minute ago Up About a minute (healthy) 5432/tcp +mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 About a minute ago Up About a minute (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp +объектов в S3 до рестарта: 5 +$ python tests/resilience.py --mode persistence --action-script scripts/restart.cmd +Executing explicit persistence hook; hook output suppressed to avoid leaking secrets. +PASS: persistence preserved confirmed data and existing session. Hook scope needs operator evidence. +exit code: 0 +--- после (StartedAt должен измениться у postgres, api и lb) +/mtusi-lab4-api-1 StartedAt=2026-11-14T11:01:28.768539654Z RestartCount=0 +/mtusi-lab4-api-2 StartedAt=2026-11-14T11:01:28.927527738Z RestartCount=0 +/mtusi-lab4-lb-1 StartedAt=2026-11-14T11:01:29.197680185Z RestartCount=0 +/mtusi-lab4-postgres-1 StartedAt=2026-11-14T11:00:49.753628396Z RestartCount=0 +/mtusi-lab4-s3-1 StartedAt=2026-11-14T11:01:09.731773197Z RestartCount=0 +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 2 minutes ago Up 6 seconds (healthy) 8080/tcp +mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 2 minutes ago Up 6 seconds (healthy) 8080/tcp +mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 2 minutes ago Up 6 seconds (healthy) 127.0.0.1:8080->8080/tcp +mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 2 minutes ago Up 45 seconds (healthy) 5432/tcp +mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 2 minutes ago Up 25 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp +--- время восстановления одного рестарта (hook + ожидание /health/ready и 2 реплик) + Container mtusi-lab4-postgres-1 Restarting + Container mtusi-lab4-s3-1 Restarting + Container mtusi-lab4-postgres-1 Started + Container mtusi-lab4-s3-1 Started + Container mtusi-lab4-api-2 Restarting + Container mtusi-lab4-api-1 Restarting + Container mtusi-lab4-lb-1 Restarting + Container mtusi-lab4-api-2 Started + Container mtusi-lab4-lb-1 Started + Container mtusi-lab4-api-1 Started + Container mtusi-lab4-s3-1 Running + Container mtusi-lab4-postgres-1 Running + Container mtusi-lab4-s3-init-1 Created + Container mtusi-lab4-migrate-1 Created + Container mtusi-lab4-api-1 Running + Container mtusi-lab4-api-2 Running + Container mtusi-lab4-lb-1 Running + Container mtusi-lab4-s3-1 Waiting + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-s3-1 Healthy + Container mtusi-lab4-s3-init-1 Starting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Starting + Container mtusi-lab4-s3-init-1 Started + Container mtusi-lab4-migrate-1 Started + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-migrate-1 Waiting + Container mtusi-lab4-s3-init-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Exited + Container mtusi-lab4-s3-init-1 Exited + Container mtusi-lab4-api-1 Waiting + Container mtusi-lab4-api-2 Waiting + Container mtusi-lab4-api-1 Healthy + Container mtusi-lab4-api-2 Healthy +готов через 54 с +объектов в S3 после рестарта: 6 +--- данные в БД после рестарта + users | chats | messages | sessions | idempotency_keys | attachments +-------+-------+----------+----------+------------------+------------- + 26 | 12 | 247 | 26 | 247 | 6 +(1 row) + diff --git a/evidence/07-db-migrations.txt b/evidence/07-db-migrations.txt new file mode 100644 index 00000000..3daa1b61 --- /dev/null +++ b/evidence/07-db-migrations.txt @@ -0,0 +1,145 @@ +# 07 схема БД и миграции (2026-11-14T11:02:32Z) + version | applied_at +---------------------+------------------------------- + 001_init.sql | 2026-11-14 10:59:15.430991+00 + 002_idempotency.sql | 2026-11-14 10:59:15.491662+00 + 003_attachments.sql | 2026-11-14 10:59:15.505907+00 +(3 rows) + + List of relations + Schema | Name | Type | Owner +--------+---------------------+-------+------- + public | attachments | table | msg + public | chat_members | table | msg + public | chats | table | msg + public | idempotency_keys | table | msg + public | message_attachments | table | msg + public | messages | table | msg + public | schema_migrations | table | msg + public | sessions | table | msg + public | users | table | msg +(9 rows) + + Table "public.attachments" + Column | Type | Collation | Nullable | Default +--------------+--------------------------+-----------+----------+------------------- + id | uuid | | not null | + chat_id | uuid | | not null | + owner_id | uuid | | not null | + filename | text | | not null | + content_type | text | | not null | + size_bytes | bigint | | not null | + sha256 | text | | not null | + width | integer | | not null | + height | integer | | not null | + object_key | text | | not null | + status | text | | not null | 'uploading'::text + created_at | timestamp with time zone | | not null | now() + updated_at | timestamp with time zone | | not null | now() +Indexes: + "attachments_pkey" PRIMARY KEY, btree (id) + "attachments_chat_idx" btree (chat_id, created_at) + "attachments_object_key_key" UNIQUE CONSTRAINT, btree (object_key) + "attachments_pending_idx" btree (created_at) WHERE status = 'uploading'::text +Check constraints: + "attachments_content_type_check" CHECK (content_type = ANY (ARRAY['image/png'::text, 'image/jpeg'::text])) + "attachments_filename_check" CHECK (char_length(filename) >= 1 AND char_length(filename) <= 255) + "attachments_height_check" CHECK (height > 0) + "attachments_sha256_check" CHECK (sha256 ~ '^[a-f0-9]{64}$'::text) + "attachments_size_bytes_check" CHECK (size_bytes >= 1 AND size_bytes <= 10485760) + "attachments_status_check" CHECK (status = ANY (ARRAY['uploading'::text, 'ready'::text])) + "attachments_width_check" CHECK (width > 0) +Foreign-key constraints: + "attachments_chat_id_fkey" FOREIGN KEY (chat_id) REFERENCES chats(id) ON DELETE CASCADE + "attachments_owner_id_fkey" FOREIGN KEY (owner_id) REFERENCES users(id) +Referenced by: + TABLE "message_attachments" CONSTRAINT "message_attachments_attachment_id_fkey" FOREIGN KEY (attachment_id) REFERENCES attachments(id) + + Table "public.message_attachments" + Column | Type | Collation | Nullable | Default +---------------+---------+-----------+----------+--------- + message_id | uuid | | not null | + attachment_id | uuid | | not null | + position | integer | | not null | +Indexes: + "message_attachments_pkey" PRIMARY KEY, btree (message_id, attachment_id) + "message_attachments_att_idx" btree (attachment_id) +Foreign-key constraints: + "message_attachments_attachment_id_fkey" FOREIGN KEY (attachment_id) REFERENCES attachments(id) + "message_attachments_message_id_fkey" FOREIGN KEY (message_id) REFERENCES messages(id) ON DELETE CASCADE + + Table "public.idempotency_keys" + Column | Type | Collation | Nullable | Default +--------------+--------------------------+-----------+----------+--------- + user_id | uuid | | not null | + method | text | | not null | + path | text | | not null | + key | text | | not null | + request_hash | bytea | | not null | + status_code | integer | | not null | + response | jsonb | | not null | + created_at | timestamp with time zone | | not null | now() + expires_at | timestamp with time zone | | not null | +Indexes: + "idempotency_keys_pkey" PRIMARY KEY, btree (user_id, method, path, key) + "idempotency_expires_idx" btree (expires_at) +Check constraints: + "idempotency_keys_key_check" CHECK (key ~ '^[A-Za-z0-9._:-]{1,128}$'::text) +Foreign-key constraints: + "idempotency_keys_user_id_fkey" FOREIGN KEY (user_id) REFERENCES users(id) + + Table "public.messages" + Column | Type | Collation | Nullable | Default +------------+--------------------------+-----------+----------+------------------- + id | uuid | | not null | + chat_id | uuid | | not null | + sender_id | uuid | | not null | + text | text | | not null | + created_at | timestamp with time zone | | not null | clock_timestamp() +Indexes: + "messages_pkey" PRIMARY KEY, btree (id) + "messages_history_idx" btree (chat_id, created_at, id) +Check constraints: + "messages_text_check" CHECK (char_length(text) <= 4000) +Foreign-key constraints: + "messages_chat_id_fkey" FOREIGN KEY (chat_id) REFERENCES chats(id) ON DELETE CASCADE + "messages_sender_id_fkey" FOREIGN KEY (sender_id) REFERENCES users(id) +Referenced by: + TABLE "message_attachments" CONSTRAINT "message_attachments_message_id_fkey" FOREIGN KEY (message_id) REFERENCES messages(id) ON DELETE CASCADE + +--- статусы вложений в БД (после тестов не должно быть uploading) + status | count +--------+------- + ready | 6 +(1 row) + +--- пароли хранятся как Argon2id, в sessions только sha256 токена + hash_prefix | count +-------------+------- + $argon2id$ | 26 +(1 row) + + token_hash_bytes | count +------------------+------- + 32 | 26 +(1 row) + +--- миграции выполняет отдельный one-shot сервис migrate (однократно, не репликами) +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-migrate-1 mtusi-lab4-api:1 "python -m app.migra…" migrate 3 minutes ago Exited (0) 10 seconds ago +migrations: ok, latest = 003_attachments.sql +migrations: ok, latest = 003_attachments.sql +migrations: ok, latest = 003_attachments.sql +--- API-реплики стартуют с RUN_MIGRATIONS=0 +RUN_MIGRATIONS=0 +IDEMPOTENCY_TTL_SECONDS=86400 +SESSION_TTL_SECONDS=3600 +--- повторный явный запуск миграции безопасен +migrations: ok, latest = 003_attachments.sql + version +--------------------- + 001_init.sql + 002_idempotency.sql + 003_attachments.sql +(3 rows) + diff --git a/evidence/08-s3-storage.txt b/evidence/08-s3-storage.txt new file mode 100644 index 00000000..656c0954 --- /dev/null +++ b/evidence/08-s3-storage.txt @@ -0,0 +1,48 @@ +# 08 приватное S3-хранилище вложений (2026-11-14T11:02:39Z) +$ docker compose ps -a s3 s3-init +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 3 minutes ago Up 43 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp +mtusi-lab4-s3-init-1 mtusi-lab4-api:1 "python -m app.s3init" s3-init 3 minutes ago Exited (0) 14 seconds ago +--- порты S3 наружу (должно быть пусто: S3 доступен только внутри сети compose) +--- журнал s3-init (bucket создаётся идемпотентно) +PASS: ключ API не может удалить рабочий bucket -> AccessDenied +PASS: ключ API не может писать в чужой bucket -> AccessDenied +PASS: ключ API: delete_object -> 404 +bucket messenger-attachments: уже существует +PASS: ключ API: put_object в bucket -> OK +PASS: ключ API: get_object из bucket -> OK +PASS: анонимный GET объекта без подписи (HTTP-статус) -> 403 +PASS: анонимный GET списка bucket (HTTP-статус) -> 403 +PASS: ключ API не может создать другой bucket -> AccessDenied +PASS: ключ API не может удалить рабочий bucket -> AccessDenied +PASS: ключ API не может писать в чужой bucket -> AccessDenied +PASS: ключ API: delete_object -> 404 +--- повторный запуск s3-init и проверки приватности/прав (анонимный доступ, ограниченный ключ) +bucket messenger-attachments: уже существует +PASS: ключ API: put_object в bucket -> OK +PASS: ключ API: get_object из bucket -> OK +PASS: анонимный GET объекта без подписи (HTTP-статус) -> 403 +PASS: анонимный GET списка bucket (HTTP-статус) -> 403 +PASS: ключ API не может создать другой bucket -> AccessDenied +PASS: ключ API не может удалить рабочий bucket -> AccessDenied +PASS: ключ API не может писать в чужой bucket -> AccessDenied +PASS: ключ API: delete_object -> 404 +exit code: 0 +--- у API-реплик есть только ограниченный ключ (имена секретов; значения не печатаются) +/run/secrets/database_url +/run/secrets/s3_access_key_id +/run/secrets/s3_secret_access_key +--- у API-контейнеров нет локального хранилища вложений: изменения файловой системы после всех загрузок (должно быть пусто) +(записи /run/secrets относятся к смонтированным Docker secrets и не являются данными вложений) +container 2c12200fa922: + изменений файловой системы нет, кроме /run/secrets +container 45517da31576: + изменений файловой системы нет, кроме /run/secrets +--- сверка БД и S3: число готовых вложений и объектов в bucket +ready в БД: 6 +uploading в БД: 0 +объектов в S3: 6 +--- volume с данными S3 +volume mtusi-lab4_s3data -> /data +bind -> /run/secrets/s3_config + diff --git a/evidence/09-db-down.txt b/evidence/09-db-down.txt new file mode 100644 index 00000000..13185712 --- /dev/null +++ b/evidence/09-db-down.txt @@ -0,0 +1,16 @@ +# 09 недоступность PostgreSQL (2026-11-14T11:02:48Z) +$ docker compose stop postgres + Container mtusi-lab4-postgres-1 Stopping + Container mtusi-lab4-postgres-1 Stopped +GET /health/ready (через LB) -> 503 (все backend не готовы, LB отвечает 503) +GET /api/v1/users/me -> 503 +$ docker compose start postgres + Container mtusi-lab4-postgres-1 Starting + Container mtusi-lab4-postgres-1 Started +ready и 2 реплики снова через 4 с +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 3 minutes ago Up 34 seconds (healthy) 8080/tcp +mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 3 minutes ago Up 34 seconds (healthy) 8080/tcp +mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 3 minutes ago Up 34 seconds (healthy) 127.0.0.1:8080->8080/tcp +mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 3 minutes ago Up 3 seconds (healthy) 5432/tcp +mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 3 minutes ago Up About a minute (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp diff --git a/evidence/10-s3-down.txt b/evidence/10-s3-down.txt new file mode 100644 index 00000000..f2d46f4f --- /dev/null +++ b/evidence/10-s3-down.txt @@ -0,0 +1,36 @@ +# 10 недоступность S3 при живых API и PostgreSQL (2026-11-14T15:47:12Z) +$ python student-tests/lab4_checks.py --mode s3-outage (внутри: docker compose stop s3 ... docker compose start s3) +PASS: до сбоя: загрузка -> 201 +PASS: S3 остановлен: загрузка -> 503 (code unavailable), 8.1 с +PASS: S3 остановлен: скачивание -> 503, а не 500/зависание +PASS: S3 остановлен: метаданные (только PostgreSQL) -> 200 +PASS: S3 остановлен: обычное сообщение -> 201 +PASS: S3 остановлен: сообщение со старым вложением -> 201 (только PostgreSQL) +PASS: S3 остановлен: /health/ready остаётся 200 (S3 некритичен для текстового API) +PASS: после старта S3 загрузка снова -> 201 (через 25 с) +PASS: после старта S3 старое вложение скачивается, байты те же (через 1.1 с, попыток: 2) +INFO: S3 был недоступен около 41 с +PASS: все проверки режима 's3-outage' +exit code: 0 +S3 healthy +--- после сбоя в БД остаются строки uploading (если удаление объекта подтвердить не удалось) + status | count +-----------+------- + ready | 32 + uploading | 15 +(2 rows) + +$ python -m app.sweep --grace 0 (очистка незавершённых загрузок) +sweep: найдено 15, удалено 15, не удалось 0 (grace=0 с) + status | count +--------+------- + ready | 32 +(1 row) + +объектов в S3: 32 +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 5 hours ago Up About a minute (healthy) 8080/tcp +mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 5 hours ago Up About a minute (healthy) 8080/tcp +mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 5 hours ago Up 5 hours (healthy) 127.0.0.1:8080->8080/tcp +mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 5 hours ago Up 5 hours (healthy) 5432/tcp +mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 5 hours ago Up 33 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp diff --git a/evidence/11-lb-config.txt b/evidence/11-lb-config.txt new file mode 100644 index 00000000..a8a37830 --- /dev/null +++ b/evidence/11-lb-config.txt @@ -0,0 +1,33 @@ +# 11 настройка LB: проверки и время обнаружения отказа (2026-11-14T11:04:02Z) + option redispatch 1 # при неудачном соединении последняя попытка уходит на другой backend + retries 3 # повторяем только установку соединения: запрос ещё не отправлен, это безопасно + timeout connect 1s + timeout client 30s + timeout server 30s + timeout http-request 10s + timeout check 1s + timeout resolve 1s + timeout retry 1s + hold valid 1s + option httpchk + http-check send meth GET uri /health/ready ver HTTP/1.1 hdr Host api + http-check expect status 200 + default-server check inter 1s fall 2 rise 2 resolvers docker resolve-prefer ipv4 init-addr none on-marked-down shutdown-sessions + server-template api 6 api:8080 +Максимальное время обнаружения отказа по конфигурации: inter 1s x fall 2 + timeout check 1s = около 3 с (порог задания: 10 с). +--- фактическое состояние backend в HAProxy (через stats нет; смотрим логи LB за последние строки) +172.25.0.1:44958 [14/Nov/2026:11:03:36.713] public api/api2 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:44984 [14/Nov/2026:11:03:37.747] public api/api1 0/0/0/21/21 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:44988 [14/Nov/2026:11:03:38.788] public api/api2 0/0/0/876/877 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:45008 [14/Nov/2026:11:03:40.669] public api/api1 0/0/0/14/14 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:57982 [14/Nov/2026:11:03:41.701] public api/api2 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:57988 [14/Nov/2026:11:03:42.726] public api/api1 0/0/1/1081/1082 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:58024 [14/Nov/2026:11:03:44.832] public api/api2 0/0/0/1304/1304 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:58034 [14/Nov/2026:11:03:47.163] public api/api1 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:58064 [14/Nov/2026:11:03:48.174] public api/api2 0/0/0/12/12 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:58076 [14/Nov/2026:11:03:49.213] public api/api1 0/0/1/1546/1547 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:39882 [14/Nov/2026:11:03:51.782] public api/api2 0/0/0/1222/1222 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:39904 [14/Nov/2026:11:03:54.023] public api/api1 0/0/1/6/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:39912 [14/Nov/2026:11:03:55.051] public api/api2 0/0/1/7/8 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:39920 [14/Nov/2026:11:03:56.081] public api/api1 0/0/1/27/29 201 620 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:39926 [14/Nov/2026:11:03:56.127] public api/api2 0/0/1/2/3 503 354 - - ---- 1/1/0/0/0 0/0 "GET /api/v1/attachments/05bb3ffb-93bb-4e5c-ad31-fe99c47930ce/content HTTP/1.1" diff --git a/evidence/12-git-hygiene.txt b/evidence/12-git-hygiene.txt new file mode 100644 index 00000000..6043eba5 --- /dev/null +++ b/evidence/12-git-hygiene.txt @@ -0,0 +1,7 @@ +# 12 секреты и volumes вне Git (2026-11-14T11:04:03Z) +$ git check-ignore -v secrets/pg_password secrets/database_url .env +.gitignore:5:secrets/ secrets/pg_password +.gitignore:5:secrets/ secrets/database_url +.gitignore:2:.env .env +$ отслеживаемые файлы, похожие на секреты: +нет diff --git a/evidence/summary.txt b/evidence/summary.txt new file mode 100644 index 00000000..dc6cd77a --- /dev/null +++ b/evidence/summary.txt @@ -0,0 +1,962 @@ +# Сводка сбора доказательств lab4 (2026-11-14T15:48:22Z) + +03 собственные -> evidence/03-student-checks.txt: 123 PASS, 0 FAIL, 0 команд с ошибкой +05 failover -> evidence/05-failover.txt: 2 из 2 раундов PASS, upload-stop: 2 из 2 +10 S3 недоступен -> evidence/10-s3-down.txt: PASS: все проверки режима 's3-outage' + +=================== evidence/00-clean-start.txt +# 00 чистый старт (2026-11-14T10:58:41Z) +$ docker compose down -v + Container mtusi-lab4-lb-1 Stopping + Container mtusi-lab4-lb-1 Stopped + Container mtusi-lab4-lb-1 Removing + Container mtusi-lab4-lb-1 Removed + Container mtusi-lab4-api-1 Stopping + Container mtusi-lab4-api-2 Stopping + Container mtusi-lab4-api-1 Stopped + Container mtusi-lab4-api-1 Removing + Container mtusi-lab4-api-1 Removed + Container mtusi-lab4-api-2 Stopped + Container mtusi-lab4-api-2 Removing + Container mtusi-lab4-api-2 Removed + Container mtusi-lab4-s3-init-1 Stopping + Container mtusi-lab4-migrate-1 Stopping + Container mtusi-lab4-s3-init-1 Stopped + Container mtusi-lab4-s3-init-1 Removing + Container mtusi-lab4-migrate-1 Stopped + Container mtusi-lab4-migrate-1 Removing + Container mtusi-lab4-s3-init-1 Removed + Container mtusi-lab4-s3-1 Stopping + Container mtusi-lab4-migrate-1 Removed + Container mtusi-lab4-postgres-1 Stopping + Container mtusi-lab4-postgres-1 Stopped + Container mtusi-lab4-postgres-1 Removing + Container mtusi-lab4-postgres-1 Removed + Container mtusi-lab4-s3-1 Stopped + Container mtusi-lab4-s3-1 Removing + Container mtusi-lab4-s3-1 Removed + Volume mtusi-lab4_s3data Removing + Volume mtusi-lab4_pgdata Removing + Network mtusi-lab4_default Removing + Volume mtusi-lab4_pgdata Removed + Volume mtusi-lab4_s3data Removed + Network mtusi-lab4_default Removed +$ sh scripts/setup-secrets.sh +secrets: ok (значения не печатаются) +secrets: ok (значения не печатаются) +$ docker compose up -d --build +Compose can now delegate builds to bake for better performance. + To do so, set COMPOSE_BAKE=true. +#0 building with "desktop-linux" instance using docker driver + +#1 [s3-init internal] load build definition from Dockerfile +#1 transferring dockerfile: 535B done +#1 DONE 0.0s + +#2 [migrate internal] load build definition from Dockerfile +#2 transferring dockerfile: 535B 0.0s done +#2 DONE 0.0s + +#3 [migrate internal] load metadata for docker.io/library/python:3.12.7-slim-bookworm +#3 DONE 1.4s + +#4 [migrate internal] load .dockerignore +#4 transferring context: 216B done +#4 DONE 0.0s + +#5 [s3-init internal] load .dockerignore +#5 transferring context: 216B done +#5 DONE 0.0s + +#6 [migrate 1/6] FROM docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d +#6 resolve docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d 0.0s done +#6 DONE 0.0s + +#7 [s3-init internal] load build context +#7 transferring context: 53.68kB done +#7 DONE 0.0s + +#8 [migrate internal] load build context +#8 transferring context: 53.68kB done +#8 DONE 0.0s + +#9 [s3-init 2/6] WORKDIR /app +#9 CACHED + +#10 [s3-init 3/6] COPY src/requirements.txt . +#10 CACHED + +#11 [migrate 4/6] RUN pip install --no-cache-dir -r requirements.txt +#11 CACHED + +#12 [s3-init 5/6] COPY src/ . +#12 DONE 0.0s + +#13 [s3-init 6/6] RUN useradd -r -u 10001 appuser +#13 0.340 useradd warning: appuser's uid 10001 is greater than SYS_UID_MAX 999 +#13 DONE 0.4s + +#14 [s3-init] exporting to image +#14 exporting layers 0.1s done +#14 exporting manifest sha256:4ae2a791bbba577bcb815375108ea737a327a44f3cb92b050371582871ca77a1 0.0s done +#14 exporting config sha256:fd2ebb00c346e3417687248874a92ffcf783d91a1cc83d788d70d5bfea6d0544 0.0s done +#14 exporting attestation manifest sha256:ae0da9de98954a73ad89771c32e4f4d1a8a061ce5fa1a3624287d97b91a368c4 +#14 exporting attestation manifest sha256:ae0da9de98954a73ad89771c32e4f4d1a8a061ce5fa1a3624287d97b91a368c4 0.1s done +#14 exporting manifest list sha256:e51688c9cb5dc910f9520e2eb97fefa0d9e1d284df053199f4a2fa3b6a0a8cb0 0.0s done +#14 naming to docker.io/library/mtusi-lab4-api:1 +#14 naming to docker.io/library/mtusi-lab4-api:1 0.0s done +#14 unpacking to docker.io/library/mtusi-lab4-api:1 0.1s done +#14 DONE 0.4s + +#15 [migrate] exporting to image +#15 exporting layers 0.1s done +#15 exporting manifest sha256:d4b8df4de55e399aa1f89ec53b8fd34515066d4e32a3d2da4584d541275b3230 0.0s done +#15 exporting config sha256:e859f5e9831d26a74f7f454640182463334862757cbb876e878ebc60464ae04d 0.0s done +#15 exporting attestation manifest sha256:9bdce302a45c5a9ba9bc835944c8aa6fc46f18c25817a5d63aa987840ca12387 0.1s done +#15 exporting manifest list sha256:76901d91a4007adbe41c8041eeabb616dd078be07048f3dbdef5f0f5fee4ff57 0.0s done +#15 naming to docker.io/library/mtusi-lab4-api:1 done +#15 unpacking to docker.io/library/mtusi-lab4-api:1 0.1s done +#15 DONE 0.5s + +#16 [s3-init] resolving provenance for metadata file +#16 DONE 0.0s + +#17 [migrate] resolving provenance for metadata file +#17 DONE 0.0s + +#18 [api internal] load build definition from Dockerfile +#18 transferring dockerfile: 535B done +#18 DONE 0.0s + +#3 [api internal] load metadata for docker.io/library/python:3.12.7-slim-bookworm +#3 DONE 1.7s + +#19 [api internal] load .dockerignore +#19 transferring context: 216B done +#19 DONE 0.0s + +#6 [api 1/6] FROM docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d +#6 resolve docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d 0.0s done +#6 DONE 0.1s + +#20 [api internal] load build context +#20 transferring context: 538B done +#20 DONE 0.0s + +#21 [api 3/6] COPY src/requirements.txt . +#21 CACHED + +#22 [api 4/6] RUN pip install --no-cache-dir -r requirements.txt +#22 CACHED + +#23 [api 5/6] COPY src/ . +#23 CACHED + +#9 [api 2/6] WORKDIR /app +#9 CACHED + +#24 [api 6/6] RUN useradd -r -u 10001 appuser +#24 CACHED + +#25 [api] exporting to image +#25 exporting layers done +#25 exporting manifest sha256:e340936d2ef95177fc4964b2ae581b17640ba56d9c391e5c1a919f762e75c1de 0.0s done +#25 exporting config sha256:962e9fd67f6859d238fcc659d62158046c2b41e06ac7728888f37c8d1cb2888c +#25 exporting config sha256:962e9fd67f6859d238fcc659d62158046c2b41e06ac7728888f37c8d1cb2888c 0.0s done +#25 exporting attestation manifest sha256:b791b5198f6c076c00999275b27ec867bf9dad754f65c4f53cbbe5e4ee3bf72c 0.0s done +#25 exporting manifest list sha256:2cc1a39bf9a24bc4274e218d769668dfff377fe32863850f110697231fbebbc3 0.0s done +#25 naming to docker.io/library/mtusi-lab4-api:1 done +#25 unpacking to docker.io/library/mtusi-lab4-api:1 0.0s done +#25 DONE 0.1s + +#26 [api] resolving provenance for metadata file +#26 DONE 0.0s + api Built + migrate Built + s3-init Built + Network mtusi-lab4_default Creating + Network mtusi-lab4_default Created + Volume "mtusi-lab4_pgdata" Creating + Volume "mtusi-lab4_pgdata" Created + Volume "mtusi-lab4_s3data" Creating + Volume "mtusi-lab4_s3data" Created + Container mtusi-lab4-postgres-1 Creating + Container mtusi-lab4-s3-1 Creating + Container mtusi-lab4-s3-1 Created + Container mtusi-lab4-s3-init-1 Creating + Container mtusi-lab4-postgres-1 Created + Container mtusi-lab4-migrate-1 Creating + Container mtusi-lab4-s3-init-1 Created + Container mtusi-lab4-migrate-1 Created + Container mtusi-lab4-api-2 Creating + Container mtusi-lab4-api-1 Creating + Container mtusi-lab4-api-2 Created + Container mtusi-lab4-api-1 Created + Container mtusi-lab4-lb-1 Creating + Container mtusi-lab4-lb-1 Created + Container mtusi-lab4-s3-1 Starting + Container mtusi-lab4-postgres-1 Starting + Container mtusi-lab4-postgres-1 Started + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-s3-1 Started + Container mtusi-lab4-s3-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Starting + Container mtusi-lab4-migrate-1 Started + Container mtusi-lab4-s3-1 Healthy + Container mtusi-lab4-s3-init-1 Starting + Container mtusi-lab4-s3-init-1 Started + Container mtusi-lab4-s3-init-1 Waiting + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-migrate-1 Waiting + Container mtusi-lab4-migrate-1 Exited + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-s3-init-1 Exited + Container mtusi-lab4-api-1 Starting + Container mtusi-lab4-api-1 Started + Container mtusi-lab4-api-2 Starting + Container mtusi-lab4-api-2 Started + Container mtusi-lab4-api-1 Waiting + Container mtusi-lab4-api-2 Waiting + Container mtusi-lab4-api-1 Healthy + Container mtusi-lab4-api-2 Healthy + Container mtusi-lab4-lb-1 Starting + Container mtusi-lab4-lb-1 Started +ready через 19 с после запуска up + +=================== evidence/01-env.txt +# 01 окружение (2026-11-14T10:59:26Z) +commit: ec540a1a725862a8619fcb758daec4ad197f0dd5 +git status: + M REPORT.md +A scripts/collect-evidence.sh +A scripts/restart.sh +A scripts/setup-secrets.sh +A scripts/stop-one.sh +?? .gitattributes +?? Dockerfile +?? compose.yaml +?? evidence/00-clean-start.txt +?? evidence/01-env.txt +?? evidence/02-smoke.txt +?? evidence/03-student-checks.txt +?? evidence/04-load-balancing.txt +?? evidence/05-failover.txt +?? evidence/06-persistence.txt +?? evidence/07-db-migrations.txt +?? evidence/08-s3-storage.txt +?? evidence/09-db-down.txt +?? evidence/10-s3-down.txt +?? evidence/11-lb-config.txt +$ docker version +client=28.0.4 server=28.0.4 os=linux/amd64 +$ docker compose version +Docker Compose version v2.34.0-desktop.1 +python: Python 3.11.5 +$ docker compose config --quiet +compose config: OK +$ docker compose images +CONTAINER REPOSITORY TAG IMAGE ID SIZE +mtusi-lab4-api-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB +mtusi-lab4-api-2 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB +mtusi-lab4-lb-1 haproxy 2.8.10-alpine 54af6e4943e4 12.2MB +mtusi-lab4-migrate-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB +mtusi-lab4-postgres-1 postgres 16.4-alpine 5660c2cbfea5 99.2MB +mtusi-lab4-s3-1 chrislusf/seaweedfs 4.42 f7cbc8bdbbf6 106MB +mtusi-lab4-s3-init-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB +$ docker compose ps -a +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 17 seconds ago Up 9 seconds (healthy) 8080/tcp +mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 17 seconds ago Up 8 seconds (healthy) 8080/tcp +mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 17 seconds ago Up 3 seconds (health: starting) 127.0.0.1:8080->8080/tcp +mtusi-lab4-migrate-1 mtusi-lab4-api:1 "python -m app.migra…" migrate 18 seconds ago Exited (0) 12 seconds ago +mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 18 seconds ago Up 17 seconds (healthy) 5432/tcp +mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 18 seconds ago Up 17 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp +mtusi-lab4-s3-init-1 mtusi-lab4-api:1 "python -m app.s3init" s3-init 18 seconds ago Exited (0) 9 seconds ago +$ docker volume ls (pgdata) +local mtusi2026lab2_pgdata +local mtusi-lab3_pgdata +local mtusi-lab4_pgdata +$ docker stats --no-stream +NAME CPU % MEM USAGE / LIMIT +mtusi-lab4-api-1 0.55% 39.4MiB / 7.694GiB +mtusi-lab4-api-2 0.43% 39.11MiB / 7.694GiB +mtusi-lab4-lb-1 0.57% 12.05MiB / 7.694GiB +mtusi-lab4-postgres-1 0.45% 46.62MiB / 7.694GiB +mtusi-lab4-s3-1 0.19% 46.34MiB / 7.694GiB +$ docker info (лимиты хоста) +CPUs=16 Mem=8261029888 + +=================== evidence/02-smoke.txt +# 02 публичные проверки через LB (2026-11-14T10:59:31Z) +$ python scripts/check_contract.py +PASS: offline skeleton structure, local refs and Python syntax; application NOT tested. +exit code: 0 +$ python tests/smoke.py --base-url http://localhost:8080 +PASS: lab4 public API scenario; infrastructure and grading evidence remain separate. +exit code: 0 + +=================== evidence/03-student-checks.txt +# 03 собственные проверки (2026-11-14T15:45:54Z) +$ python student-tests/lab3_checks.py --base-url http://localhost:8080 +PASS: повторный username -> 409 +PASS: пароль короче 12 -> 400 +PASS: лишнее поле -> 400 +PASS: User не содержит пароль/hash/токен +PASS: гонка одинакового username: ровно один 201, остальные 409 +PASS: неверный пароль и неизвестный пользователь неразличимы (401, тот же code/message/заголовок) +PASS: вход JSON-телом без Basic -> 401 +PASS: Bearer на POST /auth/sessions -> 401 +PASS: токен >=256 бит, token_type Bearer +PASS: Basic на бизнес-endpoint -> 401 + WWW-Authenticate: Bearer +PASS: один X-User-Id доступа не даёт +PASS: X-User-Id игнорируется: владелец определяется токеном +PASS: неизвестный токен -> 401 +PASS: X-Request-Id совпадает с request_id в теле ошибки +PASS: чат с неизвестным участником -> 400 +PASS: после отказа новый чат не появился (нет частичной записи) +PASS: чат создан с обоими участниками +PASS: создатель обязан быть среди member_ids -> 400 +PASS: посторонний: GET /chat -> 404 +PASS: посторонний: GET /messages -> 404 +PASS: посторонний не может писать -> 404 +PASS: неверный UUID /chats/not-a-uuid -> 400 +PASS: неверный UUID /chats/not-a-uuid/messages -> 400 +PASS: sender_id в запросе не принимается -> 400 +PASS: пробельный текст -> 400 +PASS: отправитель берётся из токена +PASS: пагинация limit=2: без повторов, все 6 сообщений +PASS: cursor от другого чата -> 400 +PASS: ?limit=0 -> 400 +PASS: ?limit=101 -> 400 +PASS: ?limit=abc -> 400 +PASS: ?limit=%2B5 -> 400 +PASS: ?limit=2&limit=3 -> 400 +PASS: тело >1 MiB -> 413 +PASS: не JSON Content-Type -> 415 +PASS: битый JSON -> 400 +PASS: logout -> 204 +PASS: повторный logout с отозванным токеном -> 401 +PASS: отозванный токен -> 401 + WWW-Authenticate: Bearer +PASS: logout одного пользователя не затрагивает чужие сессии +PASS: все проверки режима 'main' +exit code: 0 +$ python student-tests/lab3_checks.py --base-url http://localhost:8080 --mode idem --min-instances 2 +PASS: через LB отвечают >= 2 реплик с одним токеном (X-Instance-Id: 2) +PASS: повтор с тем же ключом: тот же 201 и то же сообщение +PASS: повтор не создал дубль +PASS: тот же ключ с другим телом -> 409 +PASS: тот же ключ и то же тело (другое форматирование JSON) -> тот же результат +PASS: тот же ключ в другом чате независим +PASS: тот же ключ у другого пользователя независим +PASS: нет Idempotency-Key -> 400 +PASS: неверный ключ 'bad key!' -> 400 +PASS: неверный ключ 'a/b' -> 400 +PASS: неверный ключ 'aaaaaaaaaaaa' -> 400 +PASS: неверный ключ '' -> 400 +PASS: посторонний с тем же ключом -> 404 (доступ проверяется при повторе) +PASS: без токена -> 401 +PASS: 30 параллельных запросов с одним ключом: все 201 и одно и то же сообщение +PASS: в истории ровно одно такое сообщение +INFO: параллельные повторы обслужили реплики: ['2c12200fa922', '45517da31576'] +PASS: параллельно один ключ и два разных тела: победитель один, остальным другого тела -> 409 +PASS: создано ровно одно сообщение из конкурирующих +PASS: повтор с отозванным токеном -> 401 +PASS: все проверки режима 'idem' +exit code: 0 +$ python student-tests/lab4_checks.py --base-url http://localhost:8080 (вложения: форматы, лимиты, права, сообщения) +PASS: загрузка PNG -> 201, status ready, ожидаемые поля +PASS: в ответе есть X-Instance-Id и X-Request-Id +PASS: загрузка JPEG -> 201 и верный sha256 +PASS: созданный PNG другого размера -> 201 +PASS: метаданные доступны другому участнику чата +PASS: скачивание: байты совпадают, Content-Type верный, nosniff +PASS: Content-Length равен размеру +PASS: метаданные постороннему -> 404 +PASS: содержимое постороннему -> 404 +PASS: без токена -> 401 +PASS: неверный UUID -> 400 +PASS: неизвестный UUID -> 404 +PASS: загрузка в чужой чат -> 404 +PASS: загрузка без токена -> 401 +PASS: загрузка в неверный UUID чата -> 400 +PASS: ?variant=thumbnail (вариантов нет) -> 404 +PASS: ?variant=bogus -> 400 +PASS: ?variant=original -> 200 +PASS: filename: слэш -> 400 +PASS: filename: обратный слэш -> 400 +PASS: filename: NUL -> 400 +PASS: filename: перевод строки -> 400 +PASS: filename: пустое -> 400 +PASS: filename: пробелы -> 400 +PASS: filename: 256 символов -> 400 +PASS: filename не указан -> 400 +PASS: filename из 255 символов -> 201 +PASS: имя «../..» без разделителей принимается и не влияет на ключ объекта +PASS: Content-Type text/plain -> 415 +PASS: Content-Type image/gif -> 415 +PASS: PNG под видом image/jpeg -> 415 +PASS: текст под видом image/png -> 415 +PASS: пустое тело -> 415 +PASS: PNG с повреждённым блоком (CRC) -> 415 +PASS: усечённый PNG -> 415 +PASS: PNG с мусором в конце -> 415 +PASS: усечённый JPEG -> 415 +PASS: JPEG под видом image/png -> 415 +PASS: ровно 40 000 000 пикселей (8000x5000) -> 201 +PASS: 40 005 000 пикселей (8001x5000) -> 413 +PASS: «бомба» 20000x20000 малого размера -> 413 +PASS: тело 10 MiB + 1 байт -> 413 +PASS: сообщение только с вложением (text='') -> 201 с attachment_ids +PASS: attachment_ids=[] даёт обычное сообщение с пустым массивом +PASS: без attachment_ids в ответе всё равно attachment_ids=[] +PASS: пустой текст без вложений -> 400 +PASS: пробельный текст без вложений -> 400 +PASS: пробельный текст с вложением допустим -> 201 +PASS: неизвестное вложение -> 404 +PASS: attachment_ids не массив -> 400 +PASS: attachment_ids с неверным UUID -> 400 +PASS: повтор одного id в attachment_ids -> 400 +PASS: 11 вложений в сообщении -> 400 +PASS: 10 вложений -> 201 с сохранением порядка +PASS: вложение другого чата в сообщении -> 404 +PASS: участник может сослаться на вложение другого участника +PASS: повтор с вложением и тем же ключом: тот же результат +PASS: тот же ключ с другим набором вложений -> 409 +PASS: тот же ключ без вложений (иное тело) -> 409 +PASS: в истории одно такое сообщение, attachment_ids присутствует у каждого сообщения +PASS: вложение из истории скачивается вторым участником +PASS: все проверки режима 'attach' +exit code: 0 + +=================== evidence/04-load-balancing.txt +# 04 балансировка: одна сессия, разные реплики (2026-11-14T10:59:37Z) +$ docker compose ps api (реплики одного сервиса, без container_name) +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 27 seconds ago Up 19 seconds (healthy) 8080/tcp +mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 27 seconds ago Up 18 seconds (healthy) 8080/tcp +--- ID работающих API-контейнеров (X-Instance-Id = hostname = короткий ID контейнера) +2c12200fa922 +45517da31576 +--- порты API-контейнеров наружу (должно быть пусто: вход только через LB) +container 2c12200fa922: +container 45517da31576: +--- порты LB +127.0.0.1:8080 +--- 40 запросов с ОДНИМ токеном к GET /users/me через LB: число ответов на каждую реплику + 20 X-Instance-Id=2c12200fa922 + 20 X-Instance-Id=45517da31576 +реплик увидено: 2 | токен не печатается, повторный вход не выполнялся + +=================== evidence/05-failover.txt +# 05 отказ API-реплики: последовательно каждая из двух (2026-11-14T15:46:00Z) +hook: scripts/stop-one.cmd + +=== раунд 1 === +--- до +2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy) +45517da31576 mtusi-lab4-api-2 Up 5 hours (healthy) +$ python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd +Executing explicit failover hook; hook output suppressed to avoid leaking secrets. +{"observed_instances_before": 2, "successful_writes": 118, "failed_attempts": 1, "first_recovery_seconds": 1.75} +PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence. +exit code: 0 +--- после (ровно одна реплика должна быть Exited; остальные Up) +2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy) +45517da31576 mtusi-lab4-api-2 Exited (0) 14 seconds ago +--- LB сейчас: ответы по репликам (остановленной быть не должно) + 20 x-instance-id: 2c12200fa922 +--- восстановление: docker compose start api + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-s3-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Starting + Container mtusi-lab4-s3-1 Healthy + Container mtusi-lab4-s3-init-1 Starting + Container mtusi-lab4-migrate-1 Started + Container mtusi-lab4-s3-init-1 Started + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-migrate-1 Waiting + Container mtusi-lab4-s3-init-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Exited + Container mtusi-lab4-s3-init-1 Exited + Container mtusi-lab4-api-2 Starting + Container mtusi-lab4-api-2 Started +обе реплики снова видны через LB через 5 с +2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy) +45517da31576 mtusi-lab4-api-2 Up 5 seconds (health: starting) + +=== раунд 2 === +--- до +2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy) +45517da31576 mtusi-lab4-api-2 Up 5 seconds (healthy) +$ python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd +Executing explicit failover hook; hook output suppressed to avoid leaking secrets. +{"observed_instances_before": 2, "successful_writes": 112, "failed_attempts": 1, "first_recovery_seconds": 1.734} +PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence. +exit code: 0 +--- после (ровно одна реплика должна быть Exited; остальные Up) +2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy) +45517da31576 mtusi-lab4-api-2 Exited (0) 14 seconds ago +--- LB сейчас: ответы по репликам (остановленной быть не должно) + 20 x-instance-id: 2c12200fa922 +--- восстановление: docker compose start api + Container mtusi-lab4-s3-1 Waiting + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-s3-1 Healthy + Container mtusi-lab4-s3-init-1 Starting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Starting + Container mtusi-lab4-s3-init-1 Started + Container mtusi-lab4-migrate-1 Started + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-migrate-1 Waiting + Container mtusi-lab4-s3-init-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Exited + Container mtusi-lab4-s3-init-1 Exited + Container mtusi-lab4-api-2 Starting + Container mtusi-lab4-api-2 Started +обе реплики снова видны через LB через 3 с +2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy) +45517da31576 mtusi-lab4-api-2 Up 3 seconds (health: starting) + +=== вложение + остановка принявшей реплики, раунд 1 (--target-index 0: останавливается другая реплика) === +$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook scripts/stop-one.cmd --target-index 0 +PASS: через LB видны >= 2 реплик +PASS: файл принят выбранной репликой 2c12200fa922 +PASS: hook остановил реплику 2c12200fa922 (код 0, 1.4 с) +PASS: после остановки реплики вложение скачивается через другую реплику (байты те же) +INFO: вложение снова доступно через 2.31 с после запуска hook (реплика ['45517da31576']) +PASS: подтверждённое сообщение с вложением доступно +PASS: остановленная реплика больше не отвечает +PASS: все проверки режима 'upload-stop' +exit code: 0 +--- после +2c12200fa922 mtusi-lab4-api-1 Exited (0) 2 seconds ago +45517da31576 mtusi-lab4-api-2 Up 7 seconds (healthy) +--- восстановление: docker compose start api + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-s3-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Starting + Container mtusi-lab4-s3-1 Healthy + Container mtusi-lab4-s3-init-1 Starting + Container mtusi-lab4-migrate-1 Started + Container mtusi-lab4-s3-init-1 Started + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-migrate-1 Waiting + Container mtusi-lab4-s3-init-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Exited + Container mtusi-lab4-s3-init-1 Exited + Container mtusi-lab4-api-1 Starting + Container mtusi-lab4-api-1 Started +обе реплики снова видны через LB через 5 с + +=== вложение + остановка принявшей реплики, раунд 2 (--target-index 1: останавливается другая реплика) === +$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook scripts/stop-one.cmd --target-index 1 +PASS: через LB видны >= 2 реплик +PASS: файл принят выбранной репликой 45517da31576 +PASS: hook остановил реплику 45517da31576 (код 0, 0.9 с) +PASS: после остановки реплики вложение скачивается через другую реплику (байты те же) +INFO: вложение снова доступно через 1.29 с после запуска hook (реплика ['2c12200fa922']) +PASS: подтверждённое сообщение с вложением доступно +PASS: остановленная реплика больше не отвечает +PASS: все проверки режима 'upload-stop' +exit code: 0 +--- после +2c12200fa922 mtusi-lab4-api-1 Up 7 seconds (healthy) +45517da31576 mtusi-lab4-api-2 Exited (0) 1 second ago +--- восстановление: docker compose start api + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-s3-1 Waiting + Container mtusi-lab4-s3-1 Healthy + Container mtusi-lab4-s3-init-1 Starting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Starting + Container mtusi-lab4-migrate-1 Started + Container mtusi-lab4-s3-init-1 Started + Container mtusi-lab4-s3-init-1 Waiting + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-migrate-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Exited + Container mtusi-lab4-s3-init-1 Exited + Container mtusi-lab4-api-2 Starting + Container mtusi-lab4-api-2 Started +обе реплики снова видны через LB через 3 с + +=================== evidence/06-persistence.txt +# 06 сохранность при рестарте всего стенда (PostgreSQL, S3, API, LB) (2026-11-14T11:00:44Z) +--- до +/mtusi-lab4-api-1 StartedAt=2026-11-14T11:00:41.418189002Z RestartCount=0 +/mtusi-lab4-api-2 StartedAt=2026-11-14T10:59:18.845998391Z RestartCount=0 +/mtusi-lab4-lb-1 StartedAt=2026-11-14T10:59:24.60449319Z RestartCount=0 +/mtusi-lab4-postgres-1 StartedAt=2026-11-14T10:59:10.646170885Z RestartCount=0 +/mtusi-lab4-s3-1 StartedAt=2026-11-14T10:59:10.657148631Z RestartCount=0 +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api About a minute ago Up 4 seconds (health: starting) 8080/tcp +mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api About a minute ago Up About a minute (healthy) 8080/tcp +mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb About a minute ago Up About a minute (healthy) 127.0.0.1:8080->8080/tcp +mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres About a minute ago Up About a minute (healthy) 5432/tcp +mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 About a minute ago Up About a minute (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp +объектов в S3 до рестарта: 5 +$ python tests/resilience.py --mode persistence --action-script scripts/restart.cmd +Executing explicit persistence hook; hook output suppressed to avoid leaking secrets. +PASS: persistence preserved confirmed data and existing session. Hook scope needs operator evidence. +exit code: 0 +--- после (StartedAt должен измениться у postgres, api и lb) +/mtusi-lab4-api-1 StartedAt=2026-11-14T11:01:28.768539654Z RestartCount=0 +/mtusi-lab4-api-2 StartedAt=2026-11-14T11:01:28.927527738Z RestartCount=0 +/mtusi-lab4-lb-1 StartedAt=2026-11-14T11:01:29.197680185Z RestartCount=0 +/mtusi-lab4-postgres-1 StartedAt=2026-11-14T11:00:49.753628396Z RestartCount=0 +/mtusi-lab4-s3-1 StartedAt=2026-11-14T11:01:09.731773197Z RestartCount=0 +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 2 minutes ago Up 6 seconds (healthy) 8080/tcp +mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 2 minutes ago Up 6 seconds (healthy) 8080/tcp +mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 2 minutes ago Up 6 seconds (healthy) 127.0.0.1:8080->8080/tcp +mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 2 minutes ago Up 45 seconds (healthy) 5432/tcp +mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 2 minutes ago Up 25 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp +--- время восстановления одного рестарта (hook + ожидание /health/ready и 2 реплик) + Container mtusi-lab4-postgres-1 Restarting + Container mtusi-lab4-s3-1 Restarting + Container mtusi-lab4-postgres-1 Started + Container mtusi-lab4-s3-1 Started + Container mtusi-lab4-api-2 Restarting + Container mtusi-lab4-api-1 Restarting + Container mtusi-lab4-lb-1 Restarting + Container mtusi-lab4-api-2 Started + Container mtusi-lab4-lb-1 Started + Container mtusi-lab4-api-1 Started + Container mtusi-lab4-s3-1 Running + Container mtusi-lab4-postgres-1 Running + Container mtusi-lab4-s3-init-1 Created + Container mtusi-lab4-migrate-1 Created + Container mtusi-lab4-api-1 Running + Container mtusi-lab4-api-2 Running + Container mtusi-lab4-lb-1 Running + Container mtusi-lab4-s3-1 Waiting + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-s3-1 Healthy + Container mtusi-lab4-s3-init-1 Starting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Starting + Container mtusi-lab4-s3-init-1 Started + Container mtusi-lab4-migrate-1 Started + Container mtusi-lab4-postgres-1 Waiting + Container mtusi-lab4-migrate-1 Waiting + Container mtusi-lab4-s3-init-1 Waiting + Container mtusi-lab4-postgres-1 Healthy + Container mtusi-lab4-migrate-1 Exited + Container mtusi-lab4-s3-init-1 Exited + Container mtusi-lab4-api-1 Waiting + Container mtusi-lab4-api-2 Waiting + Container mtusi-lab4-api-1 Healthy + Container mtusi-lab4-api-2 Healthy +готов через 54 с +объектов в S3 после рестарта: 6 +--- данные в БД после рестарта + users | chats | messages | sessions | idempotency_keys | attachments +-------+-------+----------+----------+------------------+------------- + 26 | 12 | 247 | 26 | 247 | 6 +(1 row) + + +=================== evidence/07-db-migrations.txt +# 07 схема БД и миграции (2026-11-14T11:02:32Z) + version | applied_at +---------------------+------------------------------- + 001_init.sql | 2026-11-14 10:59:15.430991+00 + 002_idempotency.sql | 2026-11-14 10:59:15.491662+00 + 003_attachments.sql | 2026-11-14 10:59:15.505907+00 +(3 rows) + + List of relations + Schema | Name | Type | Owner +--------+---------------------+-------+------- + public | attachments | table | msg + public | chat_members | table | msg + public | chats | table | msg + public | idempotency_keys | table | msg + public | message_attachments | table | msg + public | messages | table | msg + public | schema_migrations | table | msg + public | sessions | table | msg + public | users | table | msg +(9 rows) + + Table "public.attachments" + Column | Type | Collation | Nullable | Default +--------------+--------------------------+-----------+----------+------------------- + id | uuid | | not null | + chat_id | uuid | | not null | + owner_id | uuid | | not null | + filename | text | | not null | + content_type | text | | not null | + size_bytes | bigint | | not null | + sha256 | text | | not null | + width | integer | | not null | + height | integer | | not null | + object_key | text | | not null | + status | text | | not null | 'uploading'::text + created_at | timestamp with time zone | | not null | now() + updated_at | timestamp with time zone | | not null | now() +Indexes: + "attachments_pkey" PRIMARY KEY, btree (id) + "attachments_chat_idx" btree (chat_id, created_at) + "attachments_object_key_key" UNIQUE CONSTRAINT, btree (object_key) + "attachments_pending_idx" btree (created_at) WHERE status = 'uploading'::text +Check constraints: + "attachments_content_type_check" CHECK (content_type = ANY (ARRAY['image/png'::text, 'image/jpeg'::text])) + "attachments_filename_check" CHECK (char_length(filename) >= 1 AND char_length(filename) <= 255) + "attachments_height_check" CHECK (height > 0) + "attachments_sha256_check" CHECK (sha256 ~ '^[a-f0-9]{64}$'::text) + "attachments_size_bytes_check" CHECK (size_bytes >= 1 AND size_bytes <= 10485760) + "attachments_status_check" CHECK (status = ANY (ARRAY['uploading'::text, 'ready'::text])) + "attachments_width_check" CHECK (width > 0) +Foreign-key constraints: + "attachments_chat_id_fkey" FOREIGN KEY (chat_id) REFERENCES chats(id) ON DELETE CASCADE + "attachments_owner_id_fkey" FOREIGN KEY (owner_id) REFERENCES users(id) +Referenced by: + TABLE "message_attachments" CONSTRAINT "message_attachments_attachment_id_fkey" FOREIGN KEY (attachment_id) REFERENCES attachments(id) + + Table "public.message_attachments" + Column | Type | Collation | Nullable | Default +---------------+---------+-----------+----------+--------- + message_id | uuid | | not null | + attachment_id | uuid | | not null | + position | integer | | not null | +Indexes: + "message_attachments_pkey" PRIMARY KEY, btree (message_id, attachment_id) + "message_attachments_att_idx" btree (attachment_id) +Foreign-key constraints: + "message_attachments_attachment_id_fkey" FOREIGN KEY (attachment_id) REFERENCES attachments(id) + "message_attachments_message_id_fkey" FOREIGN KEY (message_id) REFERENCES messages(id) ON DELETE CASCADE + + Table "public.idempotency_keys" + Column | Type | Collation | Nullable | Default +--------------+--------------------------+-----------+----------+--------- + user_id | uuid | | not null | + method | text | | not null | + path | text | | not null | + key | text | | not null | + request_hash | bytea | | not null | + status_code | integer | | not null | + response | jsonb | | not null | + created_at | timestamp with time zone | | not null | now() + expires_at | timestamp with time zone | | not null | +Indexes: + "idempotency_keys_pkey" PRIMARY KEY, btree (user_id, method, path, key) + "idempotency_expires_idx" btree (expires_at) +Check constraints: + "idempotency_keys_key_check" CHECK (key ~ '^[A-Za-z0-9._:-]{1,128}$'::text) +Foreign-key constraints: + "idempotency_keys_user_id_fkey" FOREIGN KEY (user_id) REFERENCES users(id) + + Table "public.messages" + Column | Type | Collation | Nullable | Default +------------+--------------------------+-----------+----------+------------------- + id | uuid | | not null | + chat_id | uuid | | not null | + sender_id | uuid | | not null | + text | text | | not null | + created_at | timestamp with time zone | | not null | clock_timestamp() +Indexes: + "messages_pkey" PRIMARY KEY, btree (id) + "messages_history_idx" btree (chat_id, created_at, id) +Check constraints: + "messages_text_check" CHECK (char_length(text) <= 4000) +Foreign-key constraints: + "messages_chat_id_fkey" FOREIGN KEY (chat_id) REFERENCES chats(id) ON DELETE CASCADE + "messages_sender_id_fkey" FOREIGN KEY (sender_id) REFERENCES users(id) +Referenced by: + TABLE "message_attachments" CONSTRAINT "message_attachments_message_id_fkey" FOREIGN KEY (message_id) REFERENCES messages(id) ON DELETE CASCADE + +--- статусы вложений в БД (после тестов не должно быть uploading) + status | count +--------+------- + ready | 6 +(1 row) + +--- пароли хранятся как Argon2id, в sessions только sha256 токена + hash_prefix | count +-------------+------- + $argon2id$ | 26 +(1 row) + + token_hash_bytes | count +------------------+------- + 32 | 26 +(1 row) + +--- миграции выполняет отдельный one-shot сервис migrate (однократно, не репликами) +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-migrate-1 mtusi-lab4-api:1 "python -m app.migra…" migrate 3 minutes ago Exited (0) 10 seconds ago +migrations: ok, latest = 003_attachments.sql +migrations: ok, latest = 003_attachments.sql +migrations: ok, latest = 003_attachments.sql +--- API-реплики стартуют с RUN_MIGRATIONS=0 +RUN_MIGRATIONS=0 +IDEMPOTENCY_TTL_SECONDS=86400 +SESSION_TTL_SECONDS=3600 +--- повторный явный запуск миграции безопасен +migrations: ok, latest = 003_attachments.sql + version +--------------------- + 001_init.sql + 002_idempotency.sql + 003_attachments.sql +(3 rows) + + +=================== evidence/08-s3-storage.txt +# 08 приватное S3-хранилище вложений (2026-11-14T11:02:39Z) +$ docker compose ps -a s3 s3-init +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 3 minutes ago Up 43 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp +mtusi-lab4-s3-init-1 mtusi-lab4-api:1 "python -m app.s3init" s3-init 3 minutes ago Exited (0) 14 seconds ago +--- порты S3 наружу (должно быть пусто: S3 доступен только внутри сети compose) +--- журнал s3-init (bucket создаётся идемпотентно) +PASS: ключ API не может удалить рабочий bucket -> AccessDenied +PASS: ключ API не может писать в чужой bucket -> AccessDenied +PASS: ключ API: delete_object -> 404 +bucket messenger-attachments: уже существует +PASS: ключ API: put_object в bucket -> OK +PASS: ключ API: get_object из bucket -> OK +PASS: анонимный GET объекта без подписи (HTTP-статус) -> 403 +PASS: анонимный GET списка bucket (HTTP-статус) -> 403 +PASS: ключ API не может создать другой bucket -> AccessDenied +PASS: ключ API не может удалить рабочий bucket -> AccessDenied +PASS: ключ API не может писать в чужой bucket -> AccessDenied +PASS: ключ API: delete_object -> 404 +--- повторный запуск s3-init и проверки приватности/прав (анонимный доступ, ограниченный ключ) +bucket messenger-attachments: уже существует +PASS: ключ API: put_object в bucket -> OK +PASS: ключ API: get_object из bucket -> OK +PASS: анонимный GET объекта без подписи (HTTP-статус) -> 403 +PASS: анонимный GET списка bucket (HTTP-статус) -> 403 +PASS: ключ API не может создать другой bucket -> AccessDenied +PASS: ключ API не может удалить рабочий bucket -> AccessDenied +PASS: ключ API не может писать в чужой bucket -> AccessDenied +PASS: ключ API: delete_object -> 404 +exit code: 0 +--- у API-реплик есть только ограниченный ключ (имена секретов; значения не печатаются) +/run/secrets/database_url +/run/secrets/s3_access_key_id +/run/secrets/s3_secret_access_key +--- у API-контейнеров нет локального хранилища вложений: изменения файловой системы после всех загрузок (должно быть пусто) +(записи /run/secrets относятся к смонтированным Docker secrets и не являются данными вложений) +container 2c12200fa922: + изменений файловой системы нет, кроме /run/secrets +container 45517da31576: + изменений файловой системы нет, кроме /run/secrets +--- сверка БД и S3: число готовых вложений и объектов в bucket +ready в БД: 6 +uploading в БД: 0 +объектов в S3: 6 +--- volume с данными S3 +volume mtusi-lab4_s3data -> /data +bind -> /run/secrets/s3_config + + +=================== evidence/09-db-down.txt +# 09 недоступность PostgreSQL (2026-11-14T11:02:48Z) +$ docker compose stop postgres + Container mtusi-lab4-postgres-1 Stopping + Container mtusi-lab4-postgres-1 Stopped +GET /health/ready (через LB) -> 503 (все backend не готовы, LB отвечает 503) +GET /api/v1/users/me -> 503 +$ docker compose start postgres + Container mtusi-lab4-postgres-1 Starting + Container mtusi-lab4-postgres-1 Started +ready и 2 реплики снова через 4 с +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 3 minutes ago Up 34 seconds (healthy) 8080/tcp +mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 3 minutes ago Up 34 seconds (healthy) 8080/tcp +mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 3 minutes ago Up 34 seconds (healthy) 127.0.0.1:8080->8080/tcp +mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 3 minutes ago Up 3 seconds (healthy) 5432/tcp +mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 3 minutes ago Up About a minute (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp + +=================== evidence/10-s3-down.txt +# 10 недоступность S3 при живых API и PostgreSQL (2026-11-14T15:47:12Z) +$ python student-tests/lab4_checks.py --mode s3-outage (внутри: docker compose stop s3 ... docker compose start s3) +PASS: до сбоя: загрузка -> 201 +PASS: S3 остановлен: загрузка -> 503 (code unavailable), 8.1 с +PASS: S3 остановлен: скачивание -> 503, а не 500/зависание +PASS: S3 остановлен: метаданные (только PostgreSQL) -> 200 +PASS: S3 остановлен: обычное сообщение -> 201 +PASS: S3 остановлен: сообщение со старым вложением -> 201 (только PostgreSQL) +PASS: S3 остановлен: /health/ready остаётся 200 (S3 некритичен для текстового API) +PASS: после старта S3 загрузка снова -> 201 (через 25 с) +PASS: после старта S3 старое вложение скачивается, байты те же (через 1.1 с, попыток: 2) +INFO: S3 был недоступен около 41 с +PASS: все проверки режима 's3-outage' +exit code: 0 +S3 healthy +--- после сбоя в БД остаются строки uploading (если удаление объекта подтвердить не удалось) + status | count +-----------+------- + ready | 32 + uploading | 15 +(2 rows) + +$ python -m app.sweep --grace 0 (очистка незавершённых загрузок) +sweep: найдено 15, удалено 15, не удалось 0 (grace=0 с) + status | count +--------+------- + ready | 32 +(1 row) + +объектов в S3: 32 +NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS +mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 5 hours ago Up About a minute (healthy) 8080/tcp +mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 5 hours ago Up About a minute (healthy) 8080/tcp +mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 5 hours ago Up 5 hours (healthy) 127.0.0.1:8080->8080/tcp +mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 5 hours ago Up 5 hours (healthy) 5432/tcp +mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 5 hours ago Up 33 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp + +=================== evidence/11-lb-config.txt +# 11 настройка LB: проверки и время обнаружения отказа (2026-11-14T11:04:02Z) + option redispatch 1 # при неудачном соединении последняя попытка уходит на другой backend + retries 3 # повторяем только установку соединения: запрос ещё не отправлен, это безопасно + timeout connect 1s + timeout client 30s + timeout server 30s + timeout http-request 10s + timeout check 1s + timeout resolve 1s + timeout retry 1s + hold valid 1s + option httpchk + http-check send meth GET uri /health/ready ver HTTP/1.1 hdr Host api + http-check expect status 200 + default-server check inter 1s fall 2 rise 2 resolvers docker resolve-prefer ipv4 init-addr none on-marked-down shutdown-sessions + server-template api 6 api:8080 +Максимальное время обнаружения отказа по конфигурации: inter 1s x fall 2 + timeout check 1s = около 3 с (порог задания: 10 с). +--- фактическое состояние backend в HAProxy (через stats нет; смотрим логи LB за последние строки) +172.25.0.1:44958 [14/Nov/2026:11:03:36.713] public api/api2 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:44984 [14/Nov/2026:11:03:37.747] public api/api1 0/0/0/21/21 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:44988 [14/Nov/2026:11:03:38.788] public api/api2 0/0/0/876/877 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:45008 [14/Nov/2026:11:03:40.669] public api/api1 0/0/0/14/14 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:57982 [14/Nov/2026:11:03:41.701] public api/api2 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:57988 [14/Nov/2026:11:03:42.726] public api/api1 0/0/1/1081/1082 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:58024 [14/Nov/2026:11:03:44.832] public api/api2 0/0/0/1304/1304 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:58034 [14/Nov/2026:11:03:47.163] public api/api1 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:58064 [14/Nov/2026:11:03:48.174] public api/api2 0/0/0/12/12 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:58076 [14/Nov/2026:11:03:49.213] public api/api1 0/0/1/1546/1547 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:39882 [14/Nov/2026:11:03:51.782] public api/api2 0/0/0/1222/1222 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:39904 [14/Nov/2026:11:03:54.023] public api/api1 0/0/1/6/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:39912 [14/Nov/2026:11:03:55.051] public api/api2 0/0/1/7/8 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:39920 [14/Nov/2026:11:03:56.081] public api/api1 0/0/1/27/29 201 620 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1" +172.25.0.1:39926 [14/Nov/2026:11:03:56.127] public api/api2 0/0/1/2/3 503 354 - - ---- 1/1/0/0/0 0/0 "GET /api/v1/attachments/05bb3ffb-93bb-4e5c-ad31-fe99c47930ce/content HTTP/1.1" + +=================== evidence/12-git-hygiene.txt +# 12 секреты и volumes вне Git (2026-11-14T11:04:03Z) +$ git check-ignore -v secrets/pg_password secrets/database_url .env +.gitignore:5:secrets/ secrets/pg_password +.gitignore:5:secrets/ secrets/database_url +.gitignore:2:.env .env +$ отслеживаемые файлы, похожие на секреты: +нет diff --git a/infra/haproxy/haproxy.cfg b/infra/haproxy/haproxy.cfg new file mode 100644 index 00000000..22249385 --- /dev/null +++ b/infra/haproxy/haproxy.cfg @@ -0,0 +1,52 @@ +# Единая точка входа lab3. Backend-адреса обнаруживаются через DNS Docker (сервис "api" -> IP всех реплик) +# и перечитываются каждую секунду, поэтому добавленные/удалённые реплики подхватываются без перезапуска LB. +global + log stdout format raw local0 + maxconn 4096 + hard-stop-after 5s # мягкая остановка LB (SIGUSR1) не зависает на keep-alive соединениях + +defaults + mode http + log global + option httplog + option dontlognull + option redispatch 1 # при неудачном соединении последняя попытка уходит на другой backend + retries 3 # повторяем только установку соединения: запрос ещё не отправлен, это безопасно + timeout connect 1s + timeout client 30s + timeout server 30s + timeout http-request 10s + timeout check 1s + +resolvers docker + nameserver dns1 127.0.0.11:53 + resolve_retries 3 + timeout resolve 1s + timeout retry 1s + hold valid 1s + hold other 1s + hold refused 1s + hold nx 1s + hold timeout 1s + hold obsolete 1s + +frontend public + bind :8080 + default_backend api + +backend api + balance roundrobin + # Активная проверка готовности: инстанс получает трафик только пока GET /health/ready отвечает 200. + # Обнаружение отказа: inter 1s * fall 2 + timeout check 1s => не более ~3 секунд. + option httpchk + http-check send meth GET uri /health/ready ver HTTP/1.1 hdr Host api + http-check expect status 200 + default-server check inter 1s fall 2 rise 2 resolvers docker resolve-prefer ipv4 init-addr none on-marked-down shutdown-sessions + # До 6 слотов под реплики; свободные слоты остаются без адреса (DOWN) и трафик не получают. + server-template api 6 api:8080 + +# Внутренняя проверка самого LB для Docker healthcheck: 200, пока есть хотя бы один живой backend. +frontend lb_health + bind 127.0.0.1:8081 + monitor-uri /healthz + monitor fail if { nbsrv(api) lt 1 } diff --git a/scripts/collect-evidence.sh b/scripts/collect-evidence.sh new file mode 100644 index 00000000..fdb58e46 --- /dev/null +++ b/scripts/collect-evidence.sh @@ -0,0 +1,285 @@ +#!/bin/sh +# Собирает доказательства lab4 в evidence/*.txt. Запускать из Git Bash (Windows) или любого sh, +# когда стенд уже поднят: docker compose up -d --build. +# sh scripts/collect-evidence.sh # проверки на текущих данных +# sh scripts/collect-evidence.sh --fresh # сначала `docker compose down -v` (УДАЛЯЕТ учебные данные) и чистый старт +# Скрипт сам останавливает по одной API-реплике (потом запускает снова), перезапускает стенд, останавливает PostgreSQL и S3. +# Тома не удаляются, кроме режима --fresh. Секреты и токены не печатаются. +set -u +cd "$(dirname "$0")/.." || exit 1 +export MSYS_NO_PATHCONV=1 # Git Bash: не превращать /run/... в Windows-пути +export PYTHONUTF8=1 # читаемый UTF-8 в evidence/*.txt +mkdir -p evidence +BASE="${BASE_URL:-http://localhost:8080}" +PROJECT=mtusi-lab4 +PY="" +for c in python python3 py; do + if "$c" --version >/dev/null 2>&1; then PY="$c"; break; fi +done +[ -n "$PY" ] || { echo "Не найден python (python/python3/py)"; exit 2; } +case "$(uname -s)" in + MINGW*|MSYS*|CYGWIN*) RESTART="${RESTART_HOOK:-scripts/restart.cmd}"; STOPONE="${STOPONE_HOOK:-scripts/stop-one.cmd}" ;; + *) RESTART="${RESTART_HOOK:-scripts/restart.sh}"; STOPONE="${STOPONE_HOOK:-scripts/stop-one.sh}" ;; +esac +echo "Сбор доказательств lab4: 13 шагов, 6-10 минут (S3 стартует ~20 с). Прогресс печатается после каждого шага." + +now() { date -u +%Y-%m-%dT%H:%M:%SZ; } +sec() { date +%s; } +wait_ready() { + i=0 + until curl -fsS -m 3 "$BASE/health/ready" >/dev/null 2>&1; do + i=$((i + 1)); [ "$i" -gt 90 ] && return 1; sleep 1 + done + return 0 +} +# ждём, пока через LB снова видны >= $1 разных реплик +wait_replicas() { + want=$1; i=0 + while :; do + n=$(for _ in 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20; do curl -s -m 3 -D - -o /dev/null "$BASE/health/live" | tr -d '\r' | grep -i '^x-instance-id:'; done | sort -u | wc -l) + [ "$n" -ge "$want" ] && return 0 + i=$((i + 1)); [ "$i" -gt 40 ] && return 1; sleep 1 + done +} +api_ids() { docker ps -q --filter "label=com.docker.compose.project=$PROJECT" --filter "label=com.docker.compose.service=api"; } +api_state() { docker ps -a --filter "label=com.docker.compose.project=$PROJECT" --filter "label=com.docker.compose.service=api" --format '{{.ID}} {{.Names}} {{.Status}}'; } +started() { docker inspect -f '{{.Name}} StartedAt={{.State.StartedAt}} RestartCount={{.RestartCount}}' $(docker compose ps -q postgres s3 api lb); } +s3_count() { docker compose run --rm --no-deps -T s3-init python -m app.s3init --count 2>/dev/null | tail -1; } +wait_s3() { i=0; until docker compose exec -T s3 wget -q -O /dev/null http://127.0.0.1:8333/healthz >/dev/null 2>&1; do i=$((i + 1)); [ "$i" -gt 90 ] && return 1; sleep 1; done; } +psql_c() { docker compose exec -T postgres psql -U msg -d msg -c "$1"; } +spread() { for _ in $(seq 1 "${1:-40}"); do curl -s -m 3 -D - -o /dev/null -H "Authorization: Bearer ${2:-x}" "$BASE/api/v1/users/me" | tr -d '\r' | grep -i '^x-instance-id:'; done | sort | uniq -c; } +RESULTS="" +# STEPS="03 05 10" sh scripts/collect-evidence.sh -- выполнить только перечисленные шаги (остальные файлы evidence/ остаются прежними) +want() { [ -z "${STEPS:-}" ] && return 0; case " $STEPS " in *" $1 "*) return 0 ;; *) return 1 ;; esac; } +note() { RESULTS="$RESULTS +$1"; echo "готово: $1"; } + +if [ "${1:-}" = "--fresh" ]; then + { + echo "# 00 чистый старт ($(now))" + echo "\$ docker compose down -v"; docker compose down -v + echo "\$ sh scripts/setup-secrets.sh"; sh scripts/setup-secrets.sh && echo "secrets: ok (значения не печатаются)" + t0=$(sec) + echo "\$ docker compose up -d --build"; docker compose up -d --build + if wait_ready; then echo "ready через $(( $(sec) - t0 )) с после запуска up"; else echo "НЕ ГОТОВ за 90 с"; fi + } > evidence/00-clean-start.txt 2>&1 + note "00 clean start -> evidence/00-clean-start.txt" +fi + +wait_ready || { echo "LB/API не отвечает на $BASE/health/ready. Сначала: docker compose up -d --build"; exit 1; } +wait_replicas 2 || { echo "Через LB видна меньше чем 2 реплики. Проверьте: docker compose ps"; exit 1; } + +if want 01; then +{ + echo "# 01 окружение ($(now))" + echo "commit: $(git rev-parse HEAD 2>/dev/null || echo 'нет git')" + echo "git status:"; git status --short 2>/dev/null | head -20 + echo "\$ docker version"; docker version --format 'client={{.Client.Version}} server={{.Server.Version}} os={{.Server.Os}}/{{.Server.Arch}}' + echo "\$ docker compose version"; docker compose version + echo "python: $($PY --version 2>&1)" + echo "\$ docker compose config --quiet"; docker compose config --quiet && echo "compose config: OK" + echo "\$ docker compose images"; docker compose images + echo "\$ docker compose ps -a"; docker compose ps -a + echo "\$ docker volume ls (pgdata)"; docker volume ls | grep -i pgdata + echo "\$ docker stats --no-stream"; docker stats --no-stream --format 'table {{.Name}}\t{{.CPUPerc}}\t{{.MemUsage}}' $(docker compose ps -q) + echo "\$ docker info (лимиты хоста)"; docker info --format 'CPUs={{.NCPU}} Mem={{.MemTotal}}' +} > evidence/01-env.txt 2>&1 +note "01 окружение -> evidence/01-env.txt" +fi + +if want 02; then +{ + echo "# 02 публичные проверки через LB ($(now))" + echo "\$ python scripts/check_contract.py"; $PY scripts/check_contract.py; echo "exit code: $?" + echo "\$ python tests/smoke.py --base-url $BASE"; $PY tests/smoke.py --base-url "$BASE"; echo "exit code: $?" +} > evidence/02-smoke.txt 2>&1 +note "02 smoke -> evidence/02-smoke.txt: $(grep -c '^PASS: lab4' evidence/02-smoke.txt) PASS-строк smoke" +fi + +if want 03; then +{ + echo "# 03 собственные проверки ($(now))" + echo "\$ python student-tests/lab3_checks.py --base-url $BASE" + $PY student-tests/lab3_checks.py --base-url "$BASE"; echo "exit code: $?" + echo "\$ python student-tests/lab3_checks.py --base-url $BASE --mode idem --min-instances 2" + $PY student-tests/lab3_checks.py --base-url "$BASE" --mode idem --min-instances 2; echo "exit code: $?" + echo "\$ python student-tests/lab4_checks.py --base-url $BASE (вложения: форматы, лимиты, права, сообщения)" + $PY student-tests/lab4_checks.py --base-url "$BASE"; echo "exit code: $?" +} > evidence/03-student-checks.txt 2>&1 +note "03 собственные -> evidence/03-student-checks.txt: $(grep -c '^PASS: ' evidence/03-student-checks.txt) PASS, $(grep -c '^FAIL: ' evidence/03-student-checks.txt) FAIL, $(grep -c 'exit code: [1-9]' evidence/03-student-checks.txt) команд с ошибкой" +fi + +if want 04; then +{ + echo "# 04 балансировка: одна сессия, разные реплики ($(now))" + echo "\$ docker compose ps api (реплики одного сервиса, без container_name)"; docker compose ps api + echo "--- ID работающих API-контейнеров (X-Instance-Id = hostname = короткий ID контейнера)"; api_ids + echo "--- порты API-контейнеров наружу (должно быть пусто: вход только через LB)" + for c in $(api_ids); do echo "container $c:"; docker port "$c" || true; done + echo "--- порты LB"; docker compose port lb 8080 + echo "--- 40 запросов с ОДНИМ токеном к GET /users/me через LB: число ответов на каждую реплику" + $PY - <<'PYEOF' "$BASE" +import base64, collections, json, sys, urllib.request as u +b = sys.argv[1] + "/api/v1" +def call(m, p, body=None, h=None): + r = u.Request(b + p, data=json.dumps(body).encode() if body is not None else None, method=m, + headers={**(h or {}), **({"Content-Type": "application/json"} if body is not None else {})}) + return u.urlopen(r, timeout=10) +name = "lbprobe_" + base64.b32encode(__import__("os").urandom(5)).decode().lower() +pw = "correct-horse-battery" +call("POST", "/users", {"username": name, "display_name": "probe", "password": pw}) +tok = json.load(call("POST", "/auth/sessions", h={"Authorization": "Basic " + base64.b64encode(f"{name}:{pw}".encode()).decode()}))["token"] +cnt = collections.Counter(call("GET", "/users/me", h={"Authorization": "Bearer " + tok}).headers["X-Instance-Id"] for _ in range(40)) +for k, v in sorted(cnt.items()): print(f" {v:3d} X-Instance-Id={k}") +print("реплик увидено:", len(cnt), "| токен не печатается, повторный вход не выполнялся") +PYEOF +} > evidence/04-load-balancing.txt 2>&1 +note "04 балансировка -> evidence/04-load-balancing.txt: $(grep -m1 'реплик увидено' evidence/04-load-balancing.txt)" +fi + +if want 05; then +{ + echo "# 05 отказ API-реплики: последовательно каждая из двух ($(now))" + echo "hook: $STOPONE" + for round in 1 2; do + echo; echo "=== раунд $round ===" + echo "--- до"; api_state + echo "\$ python tests/resilience.py --mode failover --action-script $STOPONE" + t0=$(sec) + $PY tests/resilience.py --mode failover --action-script "$STOPONE" --base-url "$BASE"; echo "exit code: $?" + echo "--- после (ровно одна реплика должна быть Exited; остальные Up)"; api_state + echo "--- LB сейчас: ответы по репликам (остановленной быть не должно)"; spread 20 + echo "--- восстановление: docker compose start api"; docker compose start api >/dev/null + t1=$(sec); if wait_replicas 2; then echo "обе реплики снова видны через LB через $(( $(sec) - t1 )) с"; else echo "реплика не вернулась за 40 с"; fi + api_state + done + for round in 1 2; do + echo; echo "=== вложение + остановка принявшей реплики, раунд $round (--target-index $((round - 1)): останавливается другая реплика) ===" + echo "\$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook $STOPONE --target-index $((round - 1))" + $PY student-tests/lab4_checks.py --base-url "$BASE" --mode upload-stop --stop-hook "$STOPONE" --target-index $((round - 1)); echo "exit code: $?" + echo "--- после"; api_state + echo "--- восстановление: docker compose start api"; docker compose start api >/dev/null + t1=$(sec); if wait_replicas 2; then echo "обе реплики снова видны через LB через $(( $(sec) - t1 )) с"; else echo "реплика не вернулась за 40 с"; fi + done +} > evidence/05-failover.txt 2>&1 +note "05 failover -> evidence/05-failover.txt: $(grep -c '^PASS: failover' evidence/05-failover.txt) из 2 раундов PASS, upload-stop: $(grep -c "режима 'upload-stop'" evidence/05-failover.txt) из 2" +fi + +if want 06; then +{ + echo "# 06 сохранность при рестарте всего стенда (PostgreSQL, S3, API, LB) ($(now))" + echo "--- до"; started; docker compose ps + echo "объектов в S3 до рестарта: $(s3_count)" + echo "\$ python tests/resilience.py --mode persistence --action-script $RESTART" + $PY tests/resilience.py --mode persistence --action-script "$RESTART" --base-url "$BASE"; echo "exit code: $?" + echo "--- после (StartedAt должен измениться у postgres, api и lb)"; started; docker compose ps + echo "--- время восстановления одного рестарта (hook + ожидание /health/ready и 2 реплик)" + t0=$(sec); sh scripts/restart.sh; if wait_ready && wait_replicas 2; then echo "готов через $(( $(sec) - t0 )) с"; else echo "НЕ ГОТОВ за 90 с"; fi + echo "объектов в S3 после рестарта: $(s3_count)" + echo "--- данные в БД после рестарта" + psql_c "select (select count(*) from users) users, (select count(*) from chats) chats, (select count(*) from messages) messages, (select count(*) from sessions) sessions, (select count(*) from idempotency_keys) idempotency_keys, (select count(*) from attachments) attachments" +} > evidence/06-persistence.txt 2>&1 +note "06 persistence -> evidence/06-persistence.txt: $(grep -m1 -E '^(PASS|FAIL): persistence' evidence/06-persistence.txt || echo 'см. файл')" +fi + +if want 07; then +{ + echo "# 07 схема БД и миграции ($(now))" + psql_c "select * from schema_migrations" + psql_c "\\dt" + for t in attachments message_attachments idempotency_keys messages; do psql_c "\\d $t"; done + echo "--- статусы вложений в БД (после тестов не должно быть uploading)"; psql_c "select status, count(*) from attachments group by 1 order by 1" + echo "--- пароли хранятся как Argon2id, в sessions только sha256 токена" + psql_c "select left(password_hash, 10) as hash_prefix, count(*) from users group by 1" + psql_c "select length(token_hash) as token_hash_bytes, count(*) from sessions group by 1" + echo "--- миграции выполняет отдельный one-shot сервис migrate (однократно, не репликами)" + docker compose ps -a migrate + docker compose logs --no-log-prefix migrate | tail -3 + echo "--- API-реплики стартуют с RUN_MIGRATIONS=0" + docker inspect -f '{{range .Config.Env}}{{println .}}{{end}}' $(api_ids | head -1) | grep -E '^(RUN_MIGRATIONS|SESSION_TTL_SECONDS|IDEMPOTENCY_TTL_SECONDS)=' + echo "--- повторный явный запуск миграции безопасен" + docker compose run --rm --no-deps migrate; psql_c "select version from schema_migrations" +} > evidence/07-db-migrations.txt 2>&1 +note "07 БД и миграции -> evidence/07-db-migrations.txt" +fi + +if want 08; then +{ + echo "# 08 приватное S3-хранилище вложений ($(now))" + echo "\$ docker compose ps -a s3 s3-init"; docker compose ps -a s3 s3-init + echo "--- порты S3 наружу (должно быть пусто: S3 доступен только внутри сети compose)"; docker port "$(docker compose ps -q s3)" || true + echo "--- журнал s3-init (bucket создаётся идемпотентно)"; docker compose logs --no-log-prefix s3-init | tail -12 + echo "--- повторный запуск s3-init и проверки приватности/прав (анонимный доступ, ограниченный ключ)" + docker compose run --rm --no-deps -T s3-init python -m app.s3init; echo "exit code: $?" + echo "--- у API-реплик есть только ограниченный ключ (имена секретов; значения не печатаются)" + docker inspect -f '{{range .Mounts}}{{println .Destination}}{{end}}' $(api_ids | head -1) | grep /run/secrets + echo "--- у API-контейнеров нет локального хранилища вложений: изменения файловой системы после всех загрузок (должно быть пусто)" + echo "(записи /run/secrets относятся к смонтированным Docker secrets и не являются данными вложений)" + for c in $(api_ids); do echo "container $c:"; docker diff "$c" | grep -v ' /run' || echo " изменений файловой системы нет, кроме /run/secrets"; done + echo "--- сверка БД и S3: число готовых вложений и объектов в bucket" + echo "ready в БД: $(docker compose exec -T postgres psql -U msg -d msg -t -A -c "select count(*) from attachments where status='ready'")" + echo "uploading в БД: $(docker compose exec -T postgres psql -U msg -d msg -t -A -c "select count(*) from attachments where status='uploading'")" + echo "объектов в S3: $(s3_count)" + echo "--- volume с данными S3"; docker inspect -f '{{range .Mounts}}{{.Type}} {{.Name}} -> {{.Destination}}{{println}}{{end}}' "$(docker compose ps -q s3)" +} > evidence/08-s3-storage.txt 2>&1 +note "08 S3 хранилище -> evidence/08-s3-storage.txt: $(grep -c '^PASS: ' evidence/08-s3-storage.txt) PASS, $(grep -c '^FAIL: ' evidence/08-s3-storage.txt) FAIL" +fi + +if want 09; then +{ + echo "# 09 недоступность PostgreSQL ($(now))" + echo "\$ docker compose stop postgres"; docker compose stop postgres >/dev/null; sleep 4 + echo "GET /health/ready (через LB) -> $(curl -s -m 15 -o /dev/null -w '%{http_code}' "$BASE/health/ready") (все backend не готовы, LB отвечает 503)" + echo "GET /api/v1/users/me -> $(curl -s -m 15 -o /dev/null -w '%{http_code}' -H 'Authorization: Bearer anonymous' "$BASE/api/v1/users/me")" + echo "\$ docker compose start postgres"; t0=$(sec); docker compose start postgres >/dev/null + if wait_ready && wait_replicas 2; then echo "ready и 2 реплики снова через $(( $(sec) - t0 )) с"; else echo "НЕ ВОССТАНОВИЛСЯ за 90 с"; fi + docker compose ps +} > evidence/09-db-down.txt 2>&1 +note "09 БД недоступна -> evidence/09-db-down.txt" +fi + +if want 10; then +{ + echo "# 10 недоступность S3 при живых API и PostgreSQL ($(now))" + echo "\$ python student-tests/lab4_checks.py --mode s3-outage (внутри: docker compose stop s3 ... docker compose start s3)" + $PY student-tests/lab4_checks.py --base-url "$BASE" --mode s3-outage; echo "exit code: $?" + wait_s3 && echo "S3 healthy" + echo "--- после сбоя в БД остаются строки uploading (если удаление объекта подтвердить не удалось)" + psql_c "select status, count(*) from attachments group by 1 order by 1" + echo "\$ python -m app.sweep --grace 0 (очистка незавершённых загрузок)" + docker compose run --rm --no-deps -T -e SWEEP_GRACE_SECONDS=0 api python -m app.sweep --grace 0 2>&1 | tail -3 + psql_c "select status, count(*) from attachments group by 1 order by 1" + echo "объектов в S3: $(s3_count)" + docker compose ps +} > evidence/10-s3-down.txt 2>&1 +note "10 S3 недоступен -> evidence/10-s3-down.txt: $(grep -m1 -E '^(PASS|FAIL): (все|[0-9])' evidence/10-s3-down.txt || echo 'см. файл')" +fi + +if want 11; then +{ + echo "# 11 настройка LB: проверки и время обнаружения отказа ($(now))" + grep -E '^\s*(option httpchk|http-check|default-server|server-template|timeout|retries|option redispatch|hold valid)' infra/haproxy/haproxy.cfg + echo "Максимальное время обнаружения отказа по конфигурации: inter 1s x fall 2 + timeout check 1s = около 3 с (порог задания: 10 с)." + echo "--- фактическое состояние backend в HAProxy (через stats нет; смотрим логи LB за последние строки)" + docker compose logs --no-log-prefix --tail 15 lb +} > evidence/11-lb-config.txt 2>&1 +note "11 конфигурация LB -> evidence/11-lb-config.txt" +fi + +if want 12; then +{ + echo "# 12 секреты и volumes вне Git ($(now))" + if git rev-parse --git-dir >/dev/null 2>&1; then + echo "\$ git check-ignore -v secrets/pg_password secrets/database_url .env"; git check-ignore -v secrets/pg_password secrets/database_url .env + echo "\$ отслеживаемые файлы, похожие на секреты:"; git ls-files | grep -E '(^|/)(secrets/|\.env$|.*\.(pem|key)$)' || echo "нет" + else + echo "каталог не является git-репозиторием: запустите проверку в клоне" + fi +} > evidence/12-git-hygiene.txt 2>&1 +note "12 git hygiene -> evidence/12-git-hygiene.txt" +fi + +{ echo "# Сводка сбора доказательств lab4 ($(now))"; echo "$RESULTS"; for f in evidence/[01][0-9]-*.txt; do echo; echo "=================== $f"; cat "$f"; done; } > evidence/summary.txt 2>&1 +echo "$RESULTS" +echo +echo "Готово. Отправьте мне содержимое evidence/summary.txt (секретов в нём нет, но просмотрите глазами)." diff --git a/scripts/restart.cmd b/scripts/restart.cmd new file mode 100644 index 00000000..df71a7b5 --- /dev/null +++ b/scripts/restart.cmd @@ -0,0 +1,8 @@ +@echo off +cd /d "%~dp0.." +docker compose restart postgres s3 >nul || exit /b 1 +docker compose exec -T postgres sh -c "i=0; until pg_isready -U msg -d msg -q; do i=$((i+1)); [ $i -gt 60 ] && exit 1; sleep 1; done" || exit /b 1 +docker compose exec -T s3 sh -c "i=0; until wget -q -O /dev/null http://127.0.0.1:8333/healthz 2>/dev/null; do i=$((i+1)); [ $i -gt 120 ] && exit 1; sleep 1; done" || exit /b 1 +docker compose restart api lb >nul || exit /b 1 +docker compose up -d --no-build --no-recreate >nul +exit /b %errorlevel% diff --git a/scripts/restart.sh b/scripts/restart.sh new file mode 100644 index 00000000..01aa9c41 --- /dev/null +++ b/scripts/restart.sh @@ -0,0 +1,10 @@ +#!/bin/sh +# Перезапуск всего стенда с сохранением volumes: PostgreSQL и S3 -> (ожидание готовности) -> API-реплики -> LB. +# Данные не удаляются и не пересоздаются; остановленные реплики заодно запускаются. +set -eu +cd "$(dirname "$0")/.." || exit 1 +docker compose restart postgres s3 >/dev/null +docker compose exec -T postgres sh -c 'i=0; until pg_isready -U msg -d msg -q; do i=$((i+1)); [ "$i" -gt 60 ] && exit 1; sleep 1; done' +docker compose exec -T s3 sh -c 'i=0; until wget -q -O /dev/null http://127.0.0.1:8333/healthz 2>/dev/null; do i=$((i+1)); [ "$i" -gt 120 ] && exit 1; sleep 1; done' +docker compose restart api lb >/dev/null +docker compose up -d --no-build --no-recreate >/dev/null diff --git a/scripts/setup-secrets.sh b/scripts/setup-secrets.sh new file mode 100644 index 00000000..eba2fe05 --- /dev/null +++ b/scripts/setup-secrets.sh @@ -0,0 +1,24 @@ +#!/bin/sh +# Создаёт локальные секреты (не коммитятся). Безопасно повторять: существующие не перезаписываются. +# S3: два набора ключей. admin нужен только одноразовому s3-init (создать bucket); ключ API ограничен одним bucket. +set -eu +cd "$(dirname "$0")/.." || exit 1 +mkdir -p secrets +BUCKET="${S3_BUCKET:-messenger-attachments}" +rand() { head -c 96 /dev/urandom | base64 | tr -dc 'A-Za-z0-9' | cut -c1-"$1"; } + +[ -f secrets/pg_password ] || rand 32 > secrets/pg_password +[ -f secrets/database_url ] || printf 'postgresql://msg:%s@postgres:5432/msg' "$(cat secrets/pg_password)" > secrets/database_url + +[ -f secrets/s3_admin_access_key_id ] || rand 20 > secrets/s3_admin_access_key_id +[ -f secrets/s3_admin_secret_access_key ] || rand 40 > secrets/s3_admin_secret_access_key +[ -f secrets/s3_access_key_id ] || rand 20 > secrets/s3_access_key_id +[ -f secrets/s3_secret_access_key ] || rand 40 > secrets/s3_secret_access_key +# конфигурация SeaweedFS S3 строится из этих ключей; анонимного доступа нет, у ключа API права только на свой bucket +if [ ! -f secrets/s3_config.json ]; then + printf '{"identities":[{"name":"admin","credentials":[{"accessKey":"%s","secretKey":"%s"}],"actions":["Admin","Read","Write","List","Tagging"]},{"name":"api","credentials":[{"accessKey":"%s","secretKey":"%s"}],"actions":["Read:%s","Write:%s","List:%s"]}]}' \ + "$(cat secrets/s3_admin_access_key_id)" "$(cat secrets/s3_admin_secret_access_key)" \ + "$(cat secrets/s3_access_key_id)" "$(cat secrets/s3_secret_access_key)" "$BUCKET" "$BUCKET" "$BUCKET" > secrets/s3_config.json +fi +chmod 600 secrets/* 2>/dev/null || true +echo "secrets: ok (значения не печатаются)" diff --git a/scripts/stop-one.cmd b/scripts/stop-one.cmd new file mode 100644 index 00000000..5a5e2c89 --- /dev/null +++ b/scripts/stop-one.cmd @@ -0,0 +1,9 @@ +@echo off +rem Stops ONE API replica (TARGET_INSTANCE_ID = X-Instance-Id = short container id) and leaves it stopped. +if "%TARGET_INSTANCE_ID%"=="" exit /b 2 +set TARGET_INSTANCE_ID | findstr /r /x "TARGET_INSTANCE_ID=[a-zA-Z0-9_.-][a-zA-Z0-9_.-]*" >nul || exit /b 2 +set "CID=" +for /f %%i in ('docker ps -q --filter "label=com.docker.compose.project=mtusi-lab4" --filter "label=com.docker.compose.service=api" --filter "id=%TARGET_INSTANCE_ID%"') do set "CID=%%i" +if "%CID%"=="" exit /b 1 +docker stop -t 5 %CID% >nul +exit /b %errorlevel% diff --git a/scripts/stop-one.sh b/scripts/stop-one.sh new file mode 100644 index 00000000..9c7ab215 --- /dev/null +++ b/scripts/stop-one.sh @@ -0,0 +1,15 @@ +#!/bin/sh +# Останавливает ОДНУ API-реплику: ту, X-Instance-Id которой передан в TARGET_INSTANCE_ID, и оставляет её остановленной. +# X-Instance-Id = hostname контейнера = короткий ID контейнера. БД, LB и volumes не затрагиваются. +# Восстановление выполняется отдельно: docker compose start api +set -eu +: "${TARGET_INSTANCE_ID:?test provides target API instance alias}" +case "$TARGET_INSTANCE_ID" in + ""|*[!a-zA-Z0-9_.-]*) echo "bad TARGET_INSTANCE_ID" >&2; exit 2 ;; +esac +cid=$(docker ps -q \ + --filter "label=com.docker.compose.project=mtusi-lab4" \ + --filter "label=com.docker.compose.service=api" \ + --filter "id=$TARGET_INSTANCE_ID") +[ -n "$cid" ] || { echo "API replica $TARGET_INSTANCE_ID not found" >&2; exit 1; } +docker stop -t 5 "$cid" >/dev/null diff --git a/src/app/__init__.py b/src/app/__init__.py new file mode 100644 index 00000000..e69de29b diff --git a/src/app/images.py b/src/app/images.py new file mode 100644 index 00000000..1a832a77 --- /dev/null +++ b/src/app/images.py @@ -0,0 +1,118 @@ +"""Проверка PNG/JPEG по содержимому без декодирования пикселей (защита от decompression bomb). + +Размеры берутся из заголовков (PNG IHDR, JPEG SOF); структура проверяется: у PNG — CRC каждого блока, IHDR первым, +хотя бы один IDAT, IEND последним; у JPEG — SOI, корректные сегменты до SOF/SOS и EOI в конце. +Ошибки: ImageError("unsupported") -> 415, ImageError("too_large") -> 413. +""" +import struct +import zlib + +PNG_SIG = b"\x89PNG\r\n\x1a\n" +JPEG_SOF = {0xC0, 0xC1, 0xC2, 0xC3, 0xC5, 0xC6, 0xC7, 0xC9, 0xCA, 0xCB, 0xCD, 0xCE, 0xCF} +MAX_DIM = 65535 # JPEG ограничен 16 битами; PNG ограничим тем же значением для единообразия + + +class ImageError(Exception): + def __init__(self, kind, message): + super().__init__(message) + self.kind, self.message = kind, message + + +def _unsupported(msg="Файл не является корректным PNG/JPEG"): + return ImageError("unsupported", msg) + + +def sniff(data: bytes): + """Возвращает 'image/png', 'image/jpeg' или None по сигнатуре.""" + if data[:8] == PNG_SIG: + return "image/png" + if data[:3] == b"\xff\xd8\xff": + return "image/jpeg" + return None + + +def inspect_png(data: bytes, max_pixels: int): + if len(data) < 8 + 25 + 12 or data[:8] != PNG_SIG: + raise _unsupported() + pos, first, idat, end = 8, True, False, False + width = height = 0 + while pos < len(data): + if pos + 12 > len(data): + raise _unsupported("Усечённый PNG") + length = struct.unpack(">I", data[pos:pos + 4])[0] + ctype = data[pos + 4:pos + 8] + if length > len(data) - pos - 12: + raise _unsupported("Усечённый PNG") + body = data[pos + 8:pos + 8 + length] + crc = struct.unpack(">I", data[pos + 8 + length:pos + 12 + length])[0] + if first: + if ctype != b"IHDR" or length != 13: + raise _unsupported("PNG должен начинаться с IHDR") + width, height = struct.unpack(">II", body[:8]) + if width == 0 or height == 0 or width > MAX_DIM or height > MAX_DIM: + if width > 0 and height > 0 and width * height > max_pixels: + raise ImageError("too_large", "Слишком много пикселей") + raise _unsupported("Некорректные размеры PNG") + if width * height > max_pixels: # до обхода остальных блоков и любого декодирования + raise ImageError("too_large", "Слишком много пикселей") + first = False + if zlib.crc32(ctype + body) & 0xFFFFFFFF != crc: + raise _unsupported("Повреждённый PNG (CRC)") + if ctype == b"IDAT": + idat = True + pos += 12 + length + if ctype == b"IEND": + end = True + break + if not (idat and end) or pos != len(data): + raise _unsupported("Неполный PNG") + return width, height + + +def inspect_jpeg(data: bytes, max_pixels: int): + if len(data) < 4 or data[:2] != b"\xff\xd8": + raise _unsupported() + i, size = 2, None + while True: + if i >= len(data) or data[i] != 0xFF: + raise _unsupported("Некорректный маркер JPEG") + while i < len(data) and data[i] == 0xFF: + i += 1 + if i >= len(data): + raise _unsupported("Усечённый JPEG") + marker = data[i] + i += 1 + if marker == 0xD9: # EOI до SOS + raise _unsupported("JPEG без данных изображения") + if marker == 0x01 or 0xD0 <= marker <= 0xD8: + continue + if i + 2 > len(data): + raise _unsupported("Усечённый JPEG") + length = struct.unpack(">H", data[i:i + 2])[0] + if length < 2 or i + length > len(data): + raise _unsupported("Некорректный сегмент JPEG") + if marker in JPEG_SOF: + if length < 8: + raise _unsupported("Некорректный SOF") + height, width = struct.unpack(">HH", data[i + 3:i + 7]) + if width == 0 or height == 0: + raise _unsupported("Некорректные размеры JPEG") + if width * height > max_pixels: + raise ImageError("too_large", "Слишком много пикселей") + size = (width, height) + if marker == 0xDA: # начало сжатых данных + if size is None: + raise _unsupported("SOS до SOF") + tail = data.rstrip(b"\x00") + if tail[-2:] != b"\xff\xd9" or len(tail) <= i + length: + raise _unsupported("JPEG без EOI") + return size + i += length + + +def inspect(data: bytes, declared: str, max_pixels: int): + """Проверяет, что содержимое — PNG/JPEG и совпадает с заявленным Content-Type. Возвращает (width, height).""" + actual = sniff(data) + if actual is None or actual != declared: + raise _unsupported("Содержимое не соответствует заявленному типу") + return inspect_png(data, max_pixels) if actual == "image/png" else inspect_jpeg(data, max_pixels) diff --git a/src/app/main.py b/src/app/main.py new file mode 100644 index 00000000..e547d627 --- /dev/null +++ b/src/app/main.py @@ -0,0 +1,607 @@ +import base64 +import binascii +import hashlib +import json +import os +import re +import secrets +import socket +import uuid +from urllib.parse import quote +from datetime import datetime, timedelta, timezone + +import psycopg +from argon2 import PasswordHasher +from argon2.exceptions import VerifyMismatchError, InvalidHashError +from psycopg.errors import UniqueViolation +from psycopg_pool import ConnectionPool, PoolTimeout +from starlette.applications import Starlette +from starlette.requests import Request +from starlette.concurrency import run_in_threadpool +from starlette.responses import JSONResponse, Response, StreamingResponse +from starlette.routing import Route + +from . import images, migrate, storage + +# Идентификатор реплики: стабилен в жизни процесса. В контейнере hostname = короткий ID контейнера, +# по нему scripts/stop-one.* находит именно ту реплику, которая обслужила запрос. +INSTANCE_ID = os.environ.get("INSTANCE_ID") or socket.gethostname() +SESSION_TTL = int(os.environ.get("SESSION_TTL_SECONDS", "3600")) +IDEMPOTENCY_TTL = int(os.environ.get("IDEMPOTENCY_TTL_SECONDS", "86400")) +RUN_MIGRATIONS = os.environ.get("RUN_MIGRATIONS", "1") == "1" +MAX_UPLOAD_BYTES = int(os.environ.get("MAX_UPLOAD_BYTES", str(10 * 1024 * 1024))) +MAX_IMAGE_PIXELS = int(os.environ.get("MAX_IMAGE_PIXELS", "40000000")) +MAX_ATTACHMENTS = 10 +VARIANTS = {"thumbnail", "crop", "optimized"} +USERNAME_RE = re.compile(r"^[a-z0-9_]{3,32}$") +KEY_RE = re.compile(r"^[A-Za-z0-9._:-]{1,128}$") +ph = PasswordHasher() +# заранее посчитанный хеш — выравнивает время ответа для неизвестного username +DUMMY_HASH = ph.hash("dummy-password-for-timing") + + +def read_secret(name: str) -> str: + path = os.environ.get(name + "_FILE") + if path: + return open(path, encoding="utf-8").read().strip() + return os.environ[name] + + +DSN = read_secret("DATABASE_URL") +pool = ConnectionPool(DSN, min_size=2, max_size=int(os.environ.get("DB_POOL_MAX", "10")), + timeout=5, open=False, + kwargs={"connect_timeout": 5, + "options": "-c lock_timeout=10000 -c idle_in_transaction_session_timeout=15000"}) + + +class ApiError(Exception): + def __init__(self, status, code, message, headers=None): + self.status, self.code, self.message, self.headers = status, code, message, headers or {} + + +def bad(msg="Неверный запрос"): + return ApiError(400, "invalid_request", msg) + + +def iso(dt: datetime) -> str: + return dt.astimezone(timezone.utc).isoformat(timespec="microseconds").replace("+00:00", "Z") + + +def parse_uuid(s): + try: + u = uuid.UUID(s) + if str(u) != s.lower(): + raise ValueError + return u + except (ValueError, AttributeError, TypeError): + raise bad("Неверный UUID") + + +def user_json(r): + return {"id": str(r[0]), "username": r[1], "display_name": r[2], "created_at": iso(r[3])} + + +def msg_json(r, attachment_ids=()): + return {"id": str(r[0]), "chat_id": str(r[1]), "sender_id": str(r[2]), "text": r[3], + "attachment_ids": list(attachment_ids), "created_at": iso(r[4])} + + +def att_json(r): + """r: id,chat_id,owner_id,filename,content_type,size_bytes,sha256,status,created_at,updated_at""" + return {"id": str(r[0]), "chat_id": str(r[1]), "owner_id": str(r[2]), "filename": r[3], "content_type": r[4], + "size_bytes": r[5], "sha256": r[6], "status": r[7], "variants": [], "error_code": None, + "created_at": iso(r[8]), "updated_at": iso(r[9])} + + +ATT_COLS = "id,chat_id,owner_id,filename,content_type,size_bytes,sha256,status,created_at,updated_at" + + +def non_blank(s): + return isinstance(s, str) and s.strip() != "" + + +def body_json(request: Request, allowed: set, required: set): + ct = request.headers.get("content-type", "").split(";")[0].strip().lower() + if ct != "application/json": + raise ApiError(415, "unsupported_media_type", "Нужен application/json") + raw = request._body # прочитано заранее в обёртке + if len(raw) > MAX_BODY: + raise ApiError(413, "payload_too_large", "Слишком большое тело") + try: + data = json.loads(raw.decode("utf-8")) + except (ValueError, UnicodeError): + raise bad("Некорректный JSON") + if not isinstance(data, dict) or set(data) - allowed or required - set(data): + raise bad() + return data + + +def current_user(request: Request, conn): + auth = request.headers.get("authorization", "") + parts = auth.split(" ", 1) + hdr = {"WWW-Authenticate": 'Bearer realm="messenger"'} + if len(parts) != 2 or parts[0].lower() != "bearer" or not parts[1].strip(): + raise ApiError(401, "unauthorized", "Требуется аутентификация", hdr) + th = hashlib.sha256(parts[1].strip().encode()).digest() + row = conn.execute( + "SELECT u.id,u.username,u.display_name,u.created_at FROM sessions s JOIN users u ON u.id=s.user_id " + "WHERE s.token_hash=%s AND s.revoked_at IS NULL AND s.expires_at>now()", (th,)).fetchone() + if not row: + raise ApiError(401, "unauthorized", "Требуется аутентификация", hdr) + return row, th + + +MAX_BODY = 1024 * 1024 + + +async def read_body_limited(request: Request, limit: int = MAX_BODY): + """Читает тело с лимитом: 413 до того, как всё тело окажется в памяти.""" + cl = request.headers.get("content-length") + if cl is not None and (not cl.isdigit() or int(cl) > limit): + raise ApiError(413, "payload_too_large", "Слишком большое тело") + buf = bytearray() + async for chunk in request.stream(): + buf += chunk + if len(buf) > limit: + raise ApiError(413, "payload_too_large", "Слишком большое тело") + request._body = bytes(buf) + + +def api(afn): + """Единая обработка ошибок и служебных заголовков для async-обработчика.""" + async def wrapper(request: Request): + rid = request.headers.get("x-request-id") or uuid.uuid4().hex + try: + resp = await afn(request) + except ApiError as e: + resp = JSONResponse({"error": {"code": e.code, "message": e.message, "request_id": rid}}, + status_code=e.status, headers=e.headers) + except (PoolTimeout, psycopg.OperationalError, storage.StorageUnavailable): + resp = JSONResponse({"error": {"code": "unavailable", "message": "Сервис временно недоступен", + "request_id": rid}}, status_code=503) + except Exception: + resp = JSONResponse({"error": {"code": "internal_error", "message": "Внутренняя ошибка", + "request_id": rid}}, status_code=500) + resp.headers["X-Request-Id"] = rid + resp.headers["X-Instance-Id"] = INSTANCE_ID + return resp + return wrapper + + +def db(fn): + """Обёртка синхронного эндпоинта: тело (до 1 MiB) читается заранее, обработчик идёт в пуле потоков.""" + async def run(request: Request): + await read_body_limited(request) + return await run_in_threadpool(fn, request) + return api(run) + + +def page_args(request: Request): + q = request.query_params + if len(q.getlist("limit")) > 1 or len(q.getlist("cursor")) > 1: + raise bad("limit/cursor можно указать один раз") + limit = 50 + if q.getlist("limit"): + t = q.get("limit") + if not (t.isascii() and t.isdigit()) or not 1 <= int(t) <= 100: + raise bad("limit") + limit = int(t) + return limit, q.get("cursor") or None + + +def enc_cursor(kind, scope, ts, id_): + return base64.urlsafe_b64encode(json.dumps([kind, scope, ts, str(id_)]).encode()).decode().rstrip("=") + + +def dec_cursor(c, kind, scope): + try: + v = json.loads(base64.urlsafe_b64decode(c + "=" * (-len(c) % 4))) + if v[0] != kind or v[1] != scope: + raise ValueError + return datetime.fromisoformat(v[2].replace("Z", "+00:00")), uuid.UUID(v[3]) + except Exception: + raise bad("cursor") + + +async def live(request): + return JSONResponse({"status": "ok"}, headers={"X-Request-Id": request.headers.get("x-request-id") or uuid.uuid4().hex, "X-Instance-Id": INSTANCE_ID}) + + +@db +def ready(request): + # готов только если БД доступна и миграции выполнены до версии, которую ожидает эта сборка + with pool.connection(timeout=2) as conn: + row = conn.execute("SELECT 1 FROM schema_migrations WHERE version=%s", (migrate.latest(),)).fetchone() + if not row: + raise ApiError(503, "unavailable", "Схема БД не обновлена") + return JSONResponse({"status": "ok"}) + + +@db +def create_user(request): + d = body_json(request, {"username", "display_name", "password"}, {"username", "display_name", "password"}) + u, dn, pw = d["username"], d["display_name"], d["password"] + if not (isinstance(u, str) and USERNAME_RE.fullmatch(u)): + raise bad("username") + if not (non_blank(dn) and len(dn) <= 100): + raise bad("display_name") + if not (isinstance(pw, str) and 12 <= len(pw) <= 128): + raise bad("password") + h = ph.hash(pw) + with pool.connection() as conn: + try: + r = conn.execute("INSERT INTO users(id,username,display_name,password_hash) VALUES (%s,%s,%s,%s) " + "RETURNING id,username,display_name,created_at", (uuid.uuid4(), u, dn, h)).fetchone() + except UniqueViolation: + raise ApiError(409, "conflict", "Имя пользователя занято") + return JSONResponse(user_json(r), status_code=201) + + +@db +def login(request): + ch = {"WWW-Authenticate": 'Basic realm="messenger", charset="UTF-8"'} + fail = ApiError(401, "unauthorized", "Неверные учётные данные", ch) + auth = request.headers.get("authorization", "") + parts = auth.split(" ", 1) + if len(parts) != 2 or parts[0].lower() != "basic": + raise fail + try: + creds = base64.b64decode(parts[1].strip(), validate=True).decode("utf-8") + except (binascii.Error, UnicodeError): + raise fail + if ":" not in creds: + raise fail + username, password = creds.split(":", 1) + with pool.connection() as conn: + row = conn.execute("SELECT id,username,display_name,created_at,password_hash FROM users WHERE username=%s", + (username,)).fetchone() + try: + ph.verify(row[4] if row else DUMMY_HASH, password) + ok = row is not None + except (VerifyMismatchError, InvalidHashError): + ok = False + if not ok: + raise fail + token = secrets.token_urlsafe(32) # 256 бит + exp = datetime.now(timezone.utc) + timedelta(seconds=SESSION_TTL) + conn.execute("INSERT INTO sessions(token_hash,user_id,expires_at) VALUES (%s,%s,%s)", + (hashlib.sha256(token.encode()).digest(), row[0], exp)) + return JSONResponse({"token": token, "token_type": "Bearer", "expires_at": iso(exp), "user": user_json(row)}, + status_code=201) + + +@db +def logout(request): + with pool.connection() as conn: + _, th = current_user(request, conn) + conn.execute("UPDATE sessions SET revoked_at=now() WHERE token_hash=%s", (th,)) + return Response(status_code=204) + + +@db +def me(request): + with pool.connection() as conn: + row, _ = current_user(request, conn) + return JSONResponse(user_json(row)) + + +def chat_json(conn, r): + members = [str(x[0]) for x in conn.execute( + "SELECT user_id FROM chat_members WHERE chat_id=%s ORDER BY user_id", (r[0],))] + return {"id": str(r[0]), "title": r[1], "member_ids": members, "created_at": iso(r[2])} + + +@db +def create_chat(request): + with pool.connection() as conn: + user, _ = current_user(request, conn) + d = body_json(request, {"title", "member_ids"}, {"title", "member_ids"}) + t, m = d["title"], d["member_ids"] + if not (non_blank(t) and len(t) <= 100): + raise bad("title") + if not (isinstance(m, list) and 1 <= len(m) <= 100 and all(isinstance(x, str) for x in m)): + raise bad("member_ids") + ids = [parse_uuid(x) for x in m] + if len(set(ids)) != len(ids) or user[0] not in ids: + raise bad("member_ids") + found = conn.execute("SELECT count(*) FROM users WHERE id = ANY(%s)", (ids,)).fetchone()[0] + if found != len(ids): + raise bad("member_ids") + cid = uuid.uuid4() + with conn.transaction(): # чат и участники — атомарно + r = conn.execute("INSERT INTO chats(id,title) VALUES (%s,%s) RETURNING id,title,created_at", (cid, t)).fetchone() + with conn.cursor() as cur: + cur.executemany("INSERT INTO chat_members(chat_id,user_id) VALUES (%s,%s)", [(cid, i) for i in ids]) + return JSONResponse(chat_json(conn, r), status_code=201) + + +@db +def list_chats(request): + with pool.connection() as conn: + user, _ = current_user(request, conn) + limit, cursor = page_args(request) + args = [user[0]] + cond = "" + if cursor: + ts, i = dec_cursor(cursor, "chats", str(user[0])) + cond = "AND (c.created_at,c.id) > (%s,%s)" + args += [ts, i] + rows = conn.execute( + "SELECT c.id,c.title,c.created_at FROM chats c JOIN chat_members m ON m.chat_id=c.id AND m.user_id=%s " + f"WHERE true {cond} ORDER BY c.created_at,c.id LIMIT %s", args + [limit + 1]).fetchall() + more = len(rows) > limit + rows = rows[:limit] + nxt = enc_cursor("chats", str(user[0]), iso(rows[-1][2]), rows[-1][0]) if more else None + return JSONResponse({"items": [chat_json(conn, r) for r in rows], "next_cursor": nxt}) + + +def get_chat_or_404(conn, user, chat_id): + cid = parse_uuid(chat_id) + r = conn.execute("SELECT c.id,c.title,c.created_at FROM chats c JOIN chat_members m " + "ON m.chat_id=c.id WHERE c.id=%s AND m.user_id=%s", (cid, user[0])).fetchone() + if not r: + raise ApiError(404, "not_found", "Объект не найден") + return r + + +@db +def get_chat(request): + with pool.connection() as conn: + user, _ = current_user(request, conn) + r = get_chat_or_404(conn, user, request.path_params["chat_id"]) + return JSONResponse(chat_json(conn, r)) + + +def parse_attachment_ids(v): + if not isinstance(v, list) or len(v) > MAX_ATTACHMENTS: + raise bad("attachment_ids: массив до %d идентификаторов" % MAX_ATTACHMENTS) + out = [] + for x in v: + if not isinstance(x, str): + raise bad("attachment_ids") + try: + out.append(str(uuid.UUID(x))) + except ValueError: + raise bad("attachment_ids: неверный UUID") + if len(set(out)) != len(out): + raise bad("attachment_ids: повторяющиеся идентификаторы") + return out + + +def canonical_hash(text: str, attachment_ids) -> bytes: + """Хэш семантики тела: порядок ключей JSON и отсутствие attachment_ids вместо [] не различаются.""" + canon = json.dumps({"text": text, "attachment_ids": list(attachment_ids)}, sort_keys=True, ensure_ascii=False, + separators=(",", ":")) + return hashlib.sha256(canon.encode("utf-8")).digest() + + +@db +def send_message(request): + with pool.connection() as conn: + user, _ = current_user(request, conn) + cid = request.path_params["chat_id"] + chat = get_chat_or_404(conn, user, cid) + key = request.headers.get("idempotency-key") + if key is None or not KEY_RE.fullmatch(key): + raise bad("Idempotency-Key обязателен: [A-Za-z0-9._:-]{1,128}") + d = body_json(request, {"text", "attachment_ids"}, {"text"}) + t = d["text"] + att_ids = parse_attachment_ids(d.get("attachment_ids", [])) + if not isinstance(t, str) or len(t) > 4000 or not (non_blank(t) or att_ids): + raise bad("text") + rhash = canonical_hash(t, att_ids) + path = f"/api/v1/chats/{chat[0]}/messages" + scope = (user[0], "POST", path, key) + with conn.transaction(): + # просроченный ключ (старше TTL) считается свободным + conn.execute("DELETE FROM idempotency_keys WHERE user_id=%s AND method=%s AND path=%s AND key=%s " + "AND expires_at<=now()", scope) + # Захват ключа. При конкурентном повторе (в том числе через другую реплику) вторая вставка ждёт + # завершения первой транзакции; после COMMIT она не вставляет строку и читает сохранённый результат, + # после ROLLBACK (например 5xx) получает ключ сама. Дубля сообщения быть не может. + claimed = conn.execute( + "INSERT INTO idempotency_keys(user_id,method,path,key,request_hash,status_code,response,expires_at) " + "VALUES (%s,%s,%s,%s,%s,0,'{}'::jsonb, now() + make_interval(secs => %s)) " + "ON CONFLICT DO NOTHING RETURNING 1", scope + (rhash, IDEMPOTENCY_TTL)).fetchone() + if not claimed: + saved = conn.execute("SELECT request_hash,status_code,response FROM idempotency_keys " + "WHERE user_id=%s AND method=%s AND path=%s AND key=%s", scope).fetchone() + if saved is None: # строка удалена между статементами (истёк TTL): клиент может повторить + raise ApiError(409, "conflict", "Ключ идемпотентности занят, повторите запрос") + if bytes(saved[0]) != rhash: + raise ApiError(409, "conflict", "Idempotency-Key уже использован с другим сообщением") + return JSONResponse(saved[2], status_code=saved[1]) + if att_ids: # вложения должны быть готовыми вложениями ЭТОГО чата; чужое/неизвестное — 404 + found = conn.execute("SELECT count(*) FROM attachments WHERE chat_id=%s AND status='ready' " + "AND id = ANY(%s)", (chat[0], [uuid.UUID(x) for x in att_ids])).fetchone()[0] + if found != len(att_ids): + raise ApiError(404, "not_found", "Вложение не найдено") + r = conn.execute("INSERT INTO messages(id,chat_id,sender_id,text) VALUES (%s,%s,%s,%s) " + "RETURNING id,chat_id,sender_id,text,created_at", + (uuid.uuid4(), chat[0], user[0], t)).fetchone() + for pos, a in enumerate(att_ids): + conn.execute("INSERT INTO message_attachments(message_id,attachment_id,position) VALUES (%s,%s,%s)", + (r[0], uuid.UUID(a), pos)) + out = msg_json(r, att_ids) + conn.execute("UPDATE idempotency_keys SET status_code=201, response=%s::jsonb " + "WHERE user_id=%s AND method=%s AND path=%s AND key=%s", + (json.dumps(out, ensure_ascii=False),) + scope) + return JSONResponse(out, status_code=201) + + +@db +def list_messages(request): + with pool.connection() as conn: + user, _ = current_user(request, conn) + cid = request.path_params["chat_id"] + chat = get_chat_or_404(conn, user, cid) + limit, cursor = page_args(request) + args = [chat[0]] + cond = "" + if cursor: + ts, i = dec_cursor(cursor, "messages", str(chat[0])) + cond = "AND (created_at,id) > (%s,%s)" + args += [ts, i] + rows = conn.execute("SELECT id,chat_id,sender_id,text,created_at FROM messages WHERE chat_id=%s " + f"{cond} ORDER BY created_at,id LIMIT %s", args + [limit + 1]).fetchall() + more = len(rows) > limit + rows = rows[:limit] + nxt = enc_cursor("messages", str(chat[0]), iso(rows[-1][4]), rows[-1][0]) if more else None + atts = {} + if rows: + for mid, aid in conn.execute("SELECT message_id,attachment_id FROM message_attachments " + "WHERE message_id = ANY(%s) ORDER BY message_id,position", + ([r[0] for r in rows],)).fetchall(): + atts.setdefault(mid, []).append(str(aid)) + return JSONResponse({"items": [msg_json(r, atts.get(r[0], ())) for r in rows], "next_cursor": nxt}) + + +async def lifespan(app): + if RUN_MIGRATIONS: # в compose-стенде миграции выполняет отдельный one-shot сервис migrate + migrate.run(DSN) + pool.open(wait=True, timeout=30) + yield + pool.close() + + +async def http_error(request, exc): + rid = request.headers.get("x-request-id") or uuid.uuid4().hex + code, msg = (("not_found", "Объект не найден") if exc.status_code == 404 + else ("invalid_request", "Метод не поддерживается")) + return JSONResponse({"error": {"code": code, "message": msg, "request_id": rid}}, status_code=exc.status_code, + headers={"X-Request-Id": rid, "X-Instance-Id": INSTANCE_ID}) + + +# ---------------------------------------------------------------- вложения (lab4) +def safe_filename_ok(name: str) -> bool: + return (1 <= len(name) <= 255 and name.strip() != "" and "/" not in name and "\\" not in name + and not any(ord(c) < 32 or 0x7F <= ord(c) <= 0x9F for c in name)) + + +def upload_precheck(request): + """Аутентификация, доступ к чату и проверка заголовков ДО чтения тела.""" + with pool.connection() as conn: + user, _ = current_user(request, conn) + chat = get_chat_or_404(conn, user, request.path_params["chat_id"]) + names = request.query_params.getlist("filename") + if len(names) != 1 or not safe_filename_ok(names[0]): + raise bad("filename: обязателен, 1-255 символов, без разделителей пути и управляющих символов") + ctype = request.headers.get("content-type", "").split(";")[0].strip().lower() + if ctype not in ("image/png", "image/jpeg"): + raise ApiError(415, "unsupported_media_type", "Допустимы только image/png и image/jpeg") + return user, chat, names[0], ctype + + +def forget_upload(att_id, key): + """Компенсация при сбое. Строку БД удаляем только если объекта в S3 точно нет (удаление подтверждено). + Иначе строка остаётся в статусе 'uploading': object_key известен, и `python -m app.sweep` позже уберёт остаток.""" + try: + storage.delete_object(key, fast=True) + except Exception: + return + try: + with pool.connection() as conn: + conn.execute("DELETE FROM attachments WHERE id=%s AND status='uploading'", (att_id,)) + except Exception: + pass + + +def upload_store(user, chat, filename, ctype, data): + try: + width, height = images.inspect(data, ctype, MAX_IMAGE_PIXELS) + except images.ImageError as e: + if e.kind == "too_large": + raise ApiError(413, "payload_too_large", e.message) + raise ApiError(415, "unsupported_media_type", e.message) + att_id = uuid.uuid4() + key = f"attachments/{att_id}" # ключ назначает сервер; имя файла из запроса в нём не участвует + digest = hashlib.sha256(data).hexdigest() + with pool.connection() as conn: # шаг 1: запись о намерении (status=uploading), commit до обращения к S3 + conn.execute("INSERT INTO attachments(id,chat_id,owner_id,filename,content_type,size_bytes,sha256,width,height," + "object_key,status) VALUES (%s,%s,%s,%s,%s,%s,%s,%s,%s,%s,'uploading')", + (att_id, chat[0], user[0], filename, ctype, len(data), digest, width, height, key)) + try: # шаг 2: байты в приватный S3 (соединение с БД не держим) + storage.put_object(key, data, ctype) + except Exception: + forget_upload(att_id, key) + raise + try: # шаг 3: подтверждение. 201 клиент получает только после успешного S3 PUT и commit + with pool.connection() as conn: + row = conn.execute("UPDATE attachments SET status='ready', updated_at=now() WHERE id=%s RETURNING " + + ATT_COLS, (att_id,)).fetchone() + except Exception: + forget_upload(att_id, key) + raise + return JSONResponse(att_json(row), status_code=201) + + +@api +async def upload_attachment(request): + user, chat, filename, ctype = await run_in_threadpool(upload_precheck, request) + await read_body_limited(request, MAX_UPLOAD_BYTES) + return await run_in_threadpool(upload_store, user, chat, filename, ctype, request._body) + + +def load_attachment(request): + with pool.connection() as conn: + user, _ = current_user(request, conn) + aid = parse_uuid(request.path_params["attachment_id"]) + row = conn.execute("SELECT " + ", ".join("a." + c for c in ATT_COLS.split(",")) + ", a.object_key " + "FROM attachments a JOIN chat_members m ON m.chat_id=a.chat_id AND m.user_id=%s " + "WHERE a.id=%s AND a.status='ready'", (user[0], aid)).fetchone() + if not row: + raise ApiError(404, "not_found", "Вложение не найдено") + return row + + +@db +def get_attachment(request): + return JSONResponse(att_json(load_attachment(request))) + + +def content_disposition(name: str) -> str: + ascii_name = "".join(c if 32 <= ord(c) < 127 and c not in '"\\;' else "_" for c in name) + return "inline; filename=\"%s\"; filename*=UTF-8''%s" % (ascii_name, quote(name, safe="")) + + +@db +def get_attachment_content(request): + row = load_attachment(request) + variant = request.query_params.get("variant", "original") + if variant != "original" and variant not in VARIANTS: + raise bad("variant") + if variant in VARIANTS: # производные варианты в lab4 не создаются: отсутствующий вариант -> 404 + raise ApiError(404, "not_found", "Вариант не найден") + try: + body = storage.get_object(row[10]) # ошибка S3 -> 503 ДО отправки заголовков + except storage.StorageMissing: + raise RuntimeError("объект %s отсутствует в S3" % row[10]) + + def chunks(): + try: + yield from body.iter_chunks(64 * 1024) + finally: + body.close() + return StreamingResponse(chunks(), media_type=row[4], headers={ + "Content-Length": str(row[5]), "Content-Disposition": content_disposition(row[3]), + "X-Content-Type-Options": "nosniff", "Cache-Control": "private, no-store"}) + + + +P = "/api/v1" +app = Starlette(lifespan=lifespan, exception_handlers={404: http_error, 405: http_error}, routes=[ + Route("/health/live", live), + Route("/health/ready", ready), + Route(P + "/users", create_user, methods=["POST"]), + Route(P + "/users/me", me), + Route(P + "/auth/sessions", login, methods=["POST"]), + Route(P + "/auth/sessions/current", logout, methods=["DELETE"]), + Route(P + "/chats", create_chat, methods=["POST"]), + Route(P + "/chats", list_chats, methods=["GET"]), + Route(P + "/chats/{chat_id}", get_chat), + Route(P + "/chats/{chat_id}/messages", send_message, methods=["POST"]), + Route(P + "/chats/{chat_id}/messages", list_messages, methods=["GET"]), + Route(P + "/chats/{chat_id}/attachments", upload_attachment, methods=["POST"]), + Route(P + "/attachments/{attachment_id}", get_attachment, methods=["GET"]), + Route(P + "/attachments/{attachment_id}/content", get_attachment_content, methods=["GET"]), +]) diff --git a/src/app/migrate.py b/src/app/migrate.py new file mode 100644 index 00000000..cf23ffd9 --- /dev/null +++ b/src/app/migrate.py @@ -0,0 +1,38 @@ +"""Версионируемые миграции: применяются по порядку, повторный запуск безопасен.""" +import pathlib +import psycopg + +DIR = pathlib.Path(__file__).resolve().parent.parent / "migrations" + + +def latest() -> str: + """Имя последней миграции, которую ожидает эта сборка приложения.""" + return sorted(f.name for f in DIR.glob("*.sql"))[-1] + + +def run(dsn: str) -> None: + with psycopg.connect(dsn, autocommit=True) as conn: + # advisory lock: несколько реплик/перезапусков не мигрируют одновременно + conn.execute("SELECT pg_advisory_lock(727001)") + try: + conn.execute( + "CREATE TABLE IF NOT EXISTS schema_migrations (" + "version text PRIMARY KEY, applied_at timestamptz NOT NULL DEFAULT now())" + ) + done = {r[0] for r in conn.execute("SELECT version FROM schema_migrations")} + for f in sorted(DIR.glob("*.sql")): + if f.name in done: + continue + with conn.transaction(): + conn.execute(f.read_text(encoding="utf-8")) + conn.execute("INSERT INTO schema_migrations(version) VALUES (%s)", (f.name,)) + finally: + conn.execute("SELECT pg_advisory_unlock(727001)") + + +if __name__ == "__main__": + # Однократный запуск: python -m app.migrate (DATABASE_URL_FILE или DATABASE_URL) + import os + path = os.environ.get("DATABASE_URL_FILE") + run(open(path, encoding="utf-8").read().strip() if path else os.environ["DATABASE_URL"]) + print("migrations: ok, latest =", latest()) diff --git a/src/app/s3init.py b/src/app/s3init.py new file mode 100644 index 00000000..20023126 --- /dev/null +++ b/src/app/s3init.py @@ -0,0 +1,116 @@ +"""Идемпотентная подготовка S3 (one-shot сервис s3-init) и проверка приватности. + + python -m app.s3init создать приватный bucket (повторный запуск безопасен) и проверить права ключа API + python -m app.s3init --count число объектов attachments/* в bucket (для сверки с БД) + python -m app.s3init --probe только проверки: аноним не читает объект, ключ API не создаёт bucket и не выходит за него +Использует административный ключ (S3_ADMIN_*_FILE) только для создания bucket; API работает с ограниченным ключом. +""" +import sys +import time +import urllib.error +import urllib.request +import uuid + +from botocore.exceptions import BotoCoreError, ClientError + +from . import storage + +LAB_PROBE_KEY = "probe/%s" + + +def wait_s3(admin, seconds=90): + deadline = time.time() + seconds + while True: + try: + admin.list_buckets() + return + except (BotoCoreError, ClientError) as e: + if time.time() > deadline: + raise SystemExit("S3 не отвечает: %s" % type(e).__name__) + time.sleep(1) + + +def ensure_bucket(admin): + try: + admin.head_bucket(Bucket=storage.BUCKET) + print("bucket %s: уже существует" % storage.BUCKET) + return + except ClientError as e: + if e.response["Error"]["Code"] not in ("404", "NoSuchBucket", "NotFound"): + raise + try: + admin.create_bucket(Bucket=storage.BUCKET) + print("bucket %s: создан (приватный: доступ только по ключам)" % storage.BUCKET) + except ClientError as e: + if e.response["Error"]["Code"] not in ("BucketAlreadyOwnedByYou", "BucketAlreadyExists"): + raise + print("bucket %s: уже существует" % storage.BUCKET) + + +def code(fn): + try: + fn() + return "OK" + except ClientError as e: + return e.response["Error"]["Code"] + except BotoCoreError as e: + return type(e).__name__ + + +def anon_status(url): + try: + return urllib.request.urlopen(urllib.request.Request(url), timeout=5).status + except urllib.error.HTTPError as e: + return e.code + + +def probe(app): + key = LAB_PROBE_KEY % uuid.uuid4().hex + ok = True + + def check(name, got, want): + nonlocal ok + good = got == want if not isinstance(want, tuple) else got in want + ok = ok and good + print(("PASS" if good else "FAIL") + ": " + name + " -> " + str(got)) + + check("ключ API: put_object в bucket", code(lambda: app.put_object(Bucket=storage.BUCKET, Key=key, Body=b"probe")), "OK") + check("ключ API: get_object из bucket", code(lambda: app.get_object(Bucket=storage.BUCKET, Key=key)["Body"].read()), "OK") + check("анонимный GET объекта без подписи (HTTP-статус)", anon_status("%s/%s/%s" % (storage.ENDPOINT, storage.BUCKET, key)), (401, 403)) + check("анонимный GET списка bucket (HTTP-статус)", anon_status("%s/%s/" % (storage.ENDPOINT, storage.BUCKET)), (401, 403)) + check("ключ API не может создать другой bucket", code(lambda: app.create_bucket(Bucket="other-" + uuid.uuid4().hex[:8])), "AccessDenied") + check("ключ API не может удалить рабочий bucket", code(lambda: app.delete_bucket(Bucket=storage.BUCKET)), "AccessDenied") + check("ключ API не может писать в чужой bucket", code(lambda: app.put_object(Bucket="foreign", Key="a", Body=b"x")), "AccessDenied") + app.delete_object(Bucket=storage.BUCKET, Key=key) + check("ключ API: delete_object", code(lambda: app.head_object(Bucket=storage.BUCKET, Key=key)), ("404", "NotFound", "NoSuchKey")) + return ok + + +def count_objects(app): + n, token = 0, None + while True: + kw = {"Bucket": storage.BUCKET, "Prefix": "attachments/"} + if token: + kw["ContinuationToken"] = token + r = app.list_objects_v2(**kw) + n += r.get("KeyCount", 0) + token = r.get("NextContinuationToken") + if not token: + return n + + +def main(): + app = storage.make_client() + if "--count" in sys.argv: + print(count_objects(app)) + return + if "--probe" in sys.argv: + sys.exit(0 if probe(app) else 1) + admin = storage.make_client("S3_ADMIN_ACCESS_KEY_ID_FILE", "S3_ADMIN_SECRET_ACCESS_KEY_FILE") + wait_s3(admin) + ensure_bucket(admin) + sys.exit(0 if probe(app) else 1) + + +if __name__ == "__main__": + main() diff --git a/src/app/storage.py b/src/app/storage.py new file mode 100644 index 00000000..dfde96c5 --- /dev/null +++ b/src/app/storage.py @@ -0,0 +1,111 @@ +"""Клиент приватного S3 (SeaweedFS). Ключи доступа читаются из файлов (Docker secrets), не из окружения.""" +import concurrent.futures +import os +import threading +import time + +import boto3 +from botocore.config import Config +from botocore.exceptions import BotoCoreError, ClientError + + +def read_secret_file(env_name: str) -> str: + return open(os.environ[env_name], encoding="utf-8").read().strip() + + +ENDPOINT = os.environ.get("S3_ENDPOINT", "http://s3:8333") +REGION = os.environ.get("S3_REGION", "us-east-1") +BUCKET = os.environ.get("S3_BUCKET", "messenger-attachments") + + +class StorageUnavailable(Exception): + """S3 недоступен или вернул ошибку сервера: API отвечает 503, запись в БД не подтверждается.""" + + +class StorageMissing(Exception): + """Объект, на который ссылается БД, отсутствует в S3 (рассинхронизация).""" + + +def make_client(access_env="S3_ACCESS_KEY_ID_FILE", secret_env="S3_SECRET_ACCESS_KEY_FILE", **kw): + return boto3.client( + "s3", endpoint_url=ENDPOINT, region_name=REGION, + aws_access_key_id=read_secret_file(access_env), aws_secret_access_key=read_secret_file(secret_env), + config=Config(signature_version="s3v4", s3={"addressing_style": "path"}, + connect_timeout=float(os.environ.get("S3_CONNECT_TIMEOUT", "2")), + read_timeout=float(os.environ.get("S3_READ_TIMEOUT", "20")), + **({"retries": {"max_attempts": 2, "mode": "standard"}} | kw))) + + +_client = None +_fast = None + + +def fast_client(): + """Клиент для компенсаций: без повторов и с короткими таймаутами, чтобы сбой S3 не затягивал ответ 503.""" + global _fast + if _fast is None: + _fast = make_client(retries={"max_attempts": 1}) + return _fast + + +def client(): + global _client + if _client is None: + _client = make_client() + return _client + + +def _wrap(exc): + if isinstance(exc, ClientError) and exc.response.get("Error", {}).get("Code") in ("NoSuchKey", "404", "NotFound"): + return StorageMissing(str(exc)) + return StorageUnavailable(type(exc).__name__) + + +# --- жёсткие дедлайны и «предохранитель»: сбой S3 не должен подвешивать запрос и пул потоков --------------------------- +# Таймауты botocore не покрывают всё (разрешение имени, зависшее соединение), поэтому каждая операция выполняется в +# отдельном пуле с ограничением ожидания. После сбоя несколько секунд запросы сразу получают 503 без обращения к S3. +PUT_DEADLINE = float(os.environ.get("S3_PUT_DEADLINE", "8")) +GET_DEADLINE = float(os.environ.get("S3_GET_DEADLINE", "5")) +FAST_DEADLINE = float(os.environ.get("S3_FAST_DEADLINE", "2")) +BREAKER_SECONDS = float(os.environ.get("S3_BREAKER_SECONDS", "5")) +_executor = concurrent.futures.ThreadPoolExecutor(max_workers=int(os.environ.get("S3_WORKERS", "32")), + thread_name_prefix="s3") +_down_until = 0.0 +_lock = threading.Lock() + + +def _trip(): + global _down_until + with _lock: + _down_until = time.monotonic() + BREAKER_SECONDS + + +def _guard(fn, deadline): + if time.monotonic() < _down_until: + raise StorageUnavailable("circuit open") + future = _executor.submit(fn) + try: + return future.result(timeout=deadline) + except concurrent.futures.TimeoutError: + future.cancel() + _trip() + raise StorageUnavailable("deadline") from None + except (BotoCoreError, ClientError) as e: + err = _wrap(e) + if isinstance(err, StorageUnavailable): + _trip() + raise err from None + + +def put_object(key: str, data: bytes, content_type: str): + _guard(lambda: client().put_object(Bucket=BUCKET, Key=key, Body=data, ContentType=content_type), PUT_DEADLINE) + + +def get_object(key: str): + """Возвращает StreamingBody; исключение возникает ДО отправки заголовков ответа клиенту.""" + return _guard(lambda: client().get_object(Bucket=BUCKET, Key=key)["Body"], GET_DEADLINE) + + +def delete_object(key: str, fast: bool = False): + c = fast_client if fast else client + _guard(lambda: c().delete_object(Bucket=BUCKET, Key=key), FAST_DEADLINE if fast else GET_DEADLINE) diff --git a/src/app/sweep.py b/src/app/sweep.py new file mode 100644 index 00000000..55b265c7 --- /dev/null +++ b/src/app/sweep.py @@ -0,0 +1,40 @@ +"""Очистка незавершённых загрузок: строки status='uploading' старше grace и их объекты в S3. + + python -m app.sweep [--grace СЕКУНДЫ] (по умолчанию SWEEP_GRACE_SECONDS или 900) + +Запись о намерении создаётся ДО записи в S3, поэтому объект без подтверждённой строки всегда можно найти по object_key. +Идемпотентно: повторный запуск безопасен; объект, которого нет в S3, не считается ошибкой. +""" +import os +import sys + +import psycopg + +from . import storage + + +def run(dsn: str, grace: int): + removed = failed = 0 + with psycopg.connect(dsn) as conn: + rows = conn.execute("SELECT id, object_key FROM attachments WHERE status='uploading' " + "AND created_at < now() - make_interval(secs => %s)", (grace,)).fetchall() + for att_id, key in rows: + try: + storage.delete_object(key) + except storage.StorageUnavailable: + failed += 1 + continue + except storage.StorageMissing: + pass + conn.execute("DELETE FROM attachments WHERE id=%s AND status='uploading'", (att_id,)) + conn.commit() + removed += 1 + return len(rows), removed, failed + + +if __name__ == "__main__": + grace = int(sys.argv[sys.argv.index("--grace") + 1]) if "--grace" in sys.argv else int(os.environ.get("SWEEP_GRACE_SECONDS", "900")) + dsn = open(os.environ["DATABASE_URL_FILE"], encoding="utf-8").read().strip() + found, removed, failed = run(dsn, grace) + print(f"sweep: найдено {found}, удалено {removed}, не удалось {failed} (grace={grace} с)") + sys.exit(1 if failed else 0) diff --git a/src/migrations/001_init.sql b/src/migrations/001_init.sql new file mode 100644 index 00000000..28531688 --- /dev/null +++ b/src/migrations/001_init.sql @@ -0,0 +1,39 @@ +CREATE TABLE users ( + id uuid PRIMARY KEY, + username text NOT NULL UNIQUE CHECK (username ~ '^[a-z0-9_]{3,32}$'), + display_name text NOT NULL CHECK (char_length(display_name) BETWEEN 1 AND 100), + password_hash text NOT NULL, + created_at timestamptz NOT NULL DEFAULT now() +); + +CREATE TABLE chats ( + id uuid PRIMARY KEY, + title text NOT NULL CHECK (char_length(title) BETWEEN 1 AND 100), + created_at timestamptz NOT NULL DEFAULT clock_timestamp() +); +CREATE INDEX chats_created_idx ON chats (created_at, id); + +CREATE TABLE chat_members ( + chat_id uuid NOT NULL REFERENCES chats(id) ON DELETE CASCADE, + user_id uuid NOT NULL REFERENCES users(id), + PRIMARY KEY (chat_id, user_id) +); +CREATE INDEX chat_members_user_idx ON chat_members (user_id, chat_id); + +CREATE TABLE messages ( + id uuid PRIMARY KEY, + chat_id uuid NOT NULL REFERENCES chats(id) ON DELETE CASCADE, + sender_id uuid NOT NULL REFERENCES users(id), + text text NOT NULL CHECK (char_length(text) BETWEEN 1 AND 4000), + created_at timestamptz NOT NULL DEFAULT clock_timestamp() +); +-- keyset-пагинация истории: WHERE chat_id=$1 AND (created_at,id) > ($2,$3) ORDER BY created_at,id +CREATE INDEX messages_history_idx ON messages (chat_id, created_at, id); + +CREATE TABLE sessions ( + token_hash bytea PRIMARY KEY, -- sha256(token); сам токен не хранится + user_id uuid NOT NULL REFERENCES users(id), + expires_at timestamptz NOT NULL, + revoked_at timestamptz +); +CREATE INDEX sessions_expires_idx ON sessions (expires_at); diff --git a/src/migrations/002_idempotency.sql b/src/migrations/002_idempotency.sql new file mode 100644 index 00000000..407a70a5 --- /dev/null +++ b/src/migrations/002_idempotency.sql @@ -0,0 +1,15 @@ +-- Общая идемпотентность отправки сообщений (lab3): ключ уникален в области пользователь + метод + путь + ключ. +-- Строка вставляется в той же транзакции, что и сообщение, поэтому побочный эффект и результат фиксируются атомарно. +CREATE TABLE idempotency_keys ( + user_id uuid NOT NULL REFERENCES users(id), + method text NOT NULL, + path text NOT NULL, + key text NOT NULL CHECK (key ~ '^[A-Za-z0-9._:-]{1,128}$'), + request_hash bytea NOT NULL, -- sha256 канонического JSON тела + status_code integer NOT NULL, + response jsonb NOT NULL, -- исходный ответ, возвращается при повторе + created_at timestamptz NOT NULL DEFAULT now(), + expires_at timestamptz NOT NULL, + PRIMARY KEY (user_id, method, path, key) +); +CREATE INDEX idempotency_expires_idx ON idempotency_keys (expires_at); diff --git a/src/migrations/003_attachments.sql b/src/migrations/003_attachments.sql new file mode 100644 index 00000000..12c0c64c --- /dev/null +++ b/src/migrations/003_attachments.sql @@ -0,0 +1,34 @@ +-- lab4: метаданные вложений живут в PostgreSQL, байты — в приватном S3 bucket. +-- Строка создаётся со статусом 'uploading' ДО записи в S3: если PUT прошёл, а подтверждение (UPDATE) нет, +-- object_key известен БД, и сверка/очистка может безопасно удалить такой объект после grace period. +CREATE TABLE attachments ( + id uuid PRIMARY KEY, + chat_id uuid NOT NULL REFERENCES chats(id) ON DELETE CASCADE, + owner_id uuid NOT NULL REFERENCES users(id), + filename text NOT NULL CHECK (char_length(filename) BETWEEN 1 AND 255), -- только отображаемое имя + content_type text NOT NULL CHECK (content_type IN ('image/png', 'image/jpeg')), + size_bytes bigint NOT NULL CHECK (size_bytes BETWEEN 1 AND 10485760), + sha256 text NOT NULL CHECK (sha256 ~ '^[a-f0-9]{64}$'), + width integer NOT NULL CHECK (width > 0), + height integer NOT NULL CHECK (height > 0), + object_key text NOT NULL UNIQUE, -- назначает сервер, не filename + status text NOT NULL DEFAULT 'uploading' CHECK (status IN ('uploading', 'ready')), + created_at timestamptz NOT NULL DEFAULT now(), + updated_at timestamptz NOT NULL DEFAULT now() +); +CREATE INDEX attachments_chat_idx ON attachments (chat_id, created_at); +CREATE INDEX attachments_pending_idx ON attachments (created_at) WHERE status = 'uploading'; + +-- Связь сообщения с вложениями (порядок сохраняется). Одно вложение чата можно использовать в нескольких сообщениях. +CREATE TABLE message_attachments ( + message_id uuid NOT NULL REFERENCES messages(id) ON DELETE CASCADE, + attachment_id uuid NOT NULL REFERENCES attachments(id), + position integer NOT NULL, + PRIMARY KEY (message_id, attachment_id) +); +CREATE INDEX message_attachments_att_idx ON message_attachments (attachment_id); + +-- Сообщение может состоять только из вложений: пустой text допустим, длина по-прежнему <= 4000. +-- Правило «пустой/пробельный текст без вложений запрещён» проверяет приложение. +ALTER TABLE messages DROP CONSTRAINT messages_text_check; +ALTER TABLE messages ADD CONSTRAINT messages_text_check CHECK (char_length(text) <= 4000); diff --git a/src/requirements.txt b/src/requirements.txt new file mode 100644 index 00000000..bf0c5a06 --- /dev/null +++ b/src/requirements.txt @@ -0,0 +1,5 @@ +starlette==0.41.3 +uvicorn==0.32.1 +psycopg[binary,pool]==3.2.3 +argon2-cffi==23.1.0 +boto3==1.35.99 diff --git a/student-tests/lab3_checks.py b/student-tests/lab3_checks.py new file mode 100644 index 00000000..78e3f237 --- /dev/null +++ b/student-tests/lab3_checks.py @@ -0,0 +1,323 @@ +#!/usr/bin/env python3 +"""Собственные проверки lab2+lab3 (дополняют публичный smoke, ничего не ослабляют). + + python student-tests/lab2_checks.py --base-url http://localhost:8080 # основные + python student-tests/lab2_checks.py --base-url http://localhost:8080 --mode idem # идемпотентность и реплики (lab3) + python student-tests/lab2_checks.py --base-url http://localhost:8080 --mode ttl # при SESSION_TTL_SECONDS=2 + +Только стандартная библиотека. Токены и пароли не печатаются. +""" +import argparse, base64, http.client, json, sys, threading, time, urllib.error, urllib.parse, urllib.request, uuid + +PW = "correct-horse-battery" +fails = [] + + +def call(base, method, path, body=None, headers=None, raw=None): + h = dict(headers or {}) + data = raw + if body is not None: + data = json.dumps(body).encode() + h.setdefault("Content-Type", "application/json") + req = urllib.request.Request(base + path, data=data, headers=h, method=method) + try: + with urllib.request.urlopen(req, timeout=15) as r: + return r.status, {k.lower(): v for k, v in r.headers.items()}, r.read() + except urllib.error.HTTPError as e: + return e.code, {k.lower(): v for k, v in e.headers.items()}, e.read() + + +def post_big(base, path, size): + """POST тела size байт; сервер может ответить 413 и закрыть соединение раньше, чем тело отправлено.""" + u = urllib.parse.urlsplit(base) + conn = http.client.HTTPConnection(u.hostname, u.port, timeout=15) + conn.putrequest("POST", u.path + path) + conn.putheader("Content-Type", "application/json") + conn.putheader("Content-Length", str(size)) + conn.endheaders() + try: + conn.send(b"{" + b" " * (size - 2) + b"}") + except OSError: + pass # сервер уже ответил и закрыл соединение + try: + return conn.getresponse().status + except (OSError, http.client.HTTPException) as e: + return "нет ответа: %s" % type(e).__name__ + finally: + conn.close() + + +def js(b): + try: + return json.loads(b) + except ValueError: + return None + + +def check(name, ok, detail=""): + print(("PASS" if ok else "FAIL") + ": " + name + ("" if ok else " -> " + detail)) + if not ok: + fails.append(name) + + +def basic(u, p): + return {"Authorization": "Basic " + base64.b64encode(f"{u}:{p}".encode()).decode()} + + +def bearer(t): + return {"Authorization": "Bearer " + t} + + +def H(t, key=None): + """Заголовки отправки сообщения (lab3): Bearer + Idempotency-Key (по умолчанию новый).""" + return {**bearer(t), "Idempotency-Key": key or uuid.uuid4().hex} + + +class Api: + def __init__(self, base): + self.base = base + "/api/v1" + + def __call__(self, *a, **k): + return call(self.base, *a, **k) + + def user(self, prefix="u"): + name = f"{prefix}_{uuid.uuid4().hex[:10]}" + s, _, b = self("POST", "/users", {"username": name, "display_name": name, "password": PW}) + assert s == 201, f"create user: {s}" + u = js(b) + s, _, b = self("POST", "/auth/sessions", headers=basic(name, PW)) + assert s == 201, f"login: {s}" + return name, u["id"], js(b)["token"] + + +def main_checks(api): + a_name, a_id, a_tok = api.user("alice") + b_name, b_id, b_tok = api.user("bob") + c_name, c_id, c_tok = api.user("carol") + + # --- регистрация + s, _, _ = api("POST", "/users", {"username": a_name, "display_name": "x", "password": PW}) + check("повторный username -> 409", s == 409, str(s)) + s, _, b = api("POST", "/users", {"username": "x_" + uuid.uuid4().hex[:8], "display_name": "x", "password": "short"}) + check("пароль короче 12 -> 400", s == 400, str(s)) + s, _, b = api("POST", "/users", {"username": "x_" + uuid.uuid4().hex[:8], "display_name": "x", "password": PW, "extra": 1}) + check("лишнее поле -> 400", s == 400, str(s)) + s, _, b = api("GET", "/users/me", headers=bearer(a_tok)) + me = js(b) or {} + check("User не содержит пароль/hash/токен", s == 200 and not ({"password", "password_hash", "token"} & set(me)), str(sorted(me))) + + res = [] + rname = "race_" + uuid.uuid4().hex[:10] + def reg(): + res.append(api("POST", "/users", {"username": rname, "display_name": "r", "password": PW})[0]) + ts = [threading.Thread(target=reg) for _ in range(10)] + [t.start() for t in ts]; [t.join() for t in ts] + check("гонка одинакового username: ровно один 201, остальные 409", sorted(res) == [201] + [409] * 9, str(sorted(res))) + + # --- вход + s1, h1, b1 = api("POST", "/auth/sessions", headers=basic(a_name, "wrong-password-123")) + s2, h2, b2 = api("POST", "/auth/sessions", headers=basic("nosuchuser_zz", PW)) + e1, e2 = (js(b1) or {}).get("error", {}), (js(b2) or {}).get("error", {}) + check("неверный пароль и неизвестный пользователь неразличимы (401, тот же code/message/заголовок)", + s1 == s2 == 401 and e1.get("code") == e2.get("code") and e1.get("message") == e2.get("message") + and h1.get("www-authenticate") == h2.get("www-authenticate") == 'Basic realm="messenger", charset="UTF-8"', + f"{s1}/{s2} {h1.get('www-authenticate')}") + s, _, _ = api("POST", "/auth/sessions", {"username": a_name, "password": PW}) + check("вход JSON-телом без Basic -> 401", s == 401, str(s)) + s, _, _ = api("POST", "/auth/sessions", headers=bearer(a_tok)) + check("Bearer на POST /auth/sessions -> 401", s == 401, str(s)) + s, h, b = api("POST", "/auth/sessions", headers=basic(a_name, PW)) + d = js(b) or {} + check("токен >=256 бит, token_type Bearer", s == 201 and len(d.get("token", "")) >= 43 and d.get("token_type") == "Bearer", str(s)) + + # --- бизнес-endpoint принимают только Bearer + s, h, _ = api("GET", "/users/me", headers=basic(a_name, PW)) + check("Basic на бизнес-endpoint -> 401 + WWW-Authenticate: Bearer", s == 401 and h.get("www-authenticate", "").startswith("Bearer"), str(s)) + s, _, _ = api("GET", "/users/me", headers={"X-User-Id": a_id}) + check("один X-User-Id доступа не даёт", s == 401, str(s)) + s, _, b = api("GET", "/users/me", headers={**bearer(a_tok), "X-User-Id": b_id}) + check("X-User-Id игнорируется: владелец определяется токеном", s == 200 and (js(b) or {}).get("id") == a_id, str(s)) + s, _, _ = api("GET", "/users/me", headers=bearer("x" * 43)) + check("неизвестный токен -> 401", s == 401, str(s)) + + # --- запрос-идентификатор в ошибках + s, h, b = api("GET", "/chats") + check("X-Request-Id совпадает с request_id в теле ошибки", s == 401 and h.get("x-request-id") == (js(b) or {}).get("error", {}).get("request_id"), str(s)) + + # --- чаты и доступ + s, _, b = api("GET", "/chats", headers=bearer(a_tok)) + before = len((js(b) or {}).get("items", [])) + s, _, b = api("POST", "/chats", {"title": "t", "member_ids": [a_id, str(uuid.uuid4())]}, bearer(a_tok)) + check("чат с неизвестным участником -> 400", s == 400, str(s)) + s, _, b = api("GET", "/chats", headers=bearer(a_tok)) + check("после отказа новый чат не появился (нет частичной записи)", len((js(b) or {}).get("items", [])) == before) + s, _, b = api("POST", "/chats", {"title": "ab", "member_ids": [a_id, b_id]}, bearer(a_tok)) + chat = js(b) or {} + check("чат создан с обоими участниками", s == 201 and sorted(chat.get("member_ids", [])) == sorted([a_id, b_id]), str(s)) + cid = chat.get("id", "") + s, _, _ = api("POST", "/chats", {"title": "ab", "member_ids": [b_id]}, bearer(a_tok)) + check("создатель обязан быть среди member_ids -> 400", s == 400, str(s)) + for path in (f"/chats/{cid}", f"/chats/{cid}/messages"): + s, _, _ = api("GET", path, headers=bearer(c_tok)) + check(f"посторонний: GET {path.split(cid)[1] or '/chat'} -> 404", s == 404, str(s)) + s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "hi"}, H(c_tok)) + check("посторонний не может писать -> 404", s == 404, str(s)) + for path in ("/chats/not-a-uuid", "/chats/not-a-uuid/messages"): + s, _, _ = api("GET", path, headers=bearer(a_tok)) + check(f"неверный UUID {path} -> 400", s == 400, str(s)) + s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "hi", "sender_id": b_id}, H(a_tok)) + check("sender_id в запросе не принимается -> 400", s == 400, str(s)) + s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": " "}, H(a_tok)) + check("пробельный текст -> 400", s == 400, str(s)) + s, _, b = api("POST", f"/chats/{cid}/messages", {"text": "привет 👋"}, H(b_tok)) + check("отправитель берётся из токена", s == 201 and (js(b) or {}).get("sender_id") == b_id, str(s)) + + # --- пагинация + for i in range(5): + api("POST", f"/chats/{cid}/messages", {"text": f"m{i}"}, H(a_tok)) + seen, cur, pages = [], None, 0 + while True: + s, _, b = api("GET", f"/chats/{cid}/messages?limit=2" + (f"&cursor={cur}" if cur else ""), headers=bearer(a_tok)) + d = js(b) or {} + seen += [m["id"] for m in d.get("items", [])] + pages += 1 + cur = d.get("next_cursor") + if not cur or pages > 10: + break + check("пагинация limit=2: без повторов, все 6 сообщений", len(seen) == len(set(seen)) == 6, f"{len(seen)}/{len(set(seen))}") + s, _, b = api("GET", f"/chats/{cid}/messages?limit=2", headers=bearer(a_tok)) + cur = (js(b) or {}).get("next_cursor") + s, _, b = api("POST", "/chats", {"title": "other", "member_ids": [a_id]}, bearer(a_tok)) + other = (js(b) or {}).get("id") + s, _, _ = api("GET", f"/chats/{other}/messages?cursor={cur}", headers=bearer(a_tok)) + check("cursor от другого чата -> 400", s == 400, str(s)) + for q in ("limit=0", "limit=101", "limit=abc", "limit=%2B5", "limit=2&limit=3"): + s, _, _ = api("GET", f"/chats/{cid}/messages?{q}", headers=bearer(a_tok)) + check(f"?{q} -> 400", s == 400, str(s)) + + # --- тело запроса + s = post_big(api.base, "/users", 1100 * 1024) + check("тело >1 MiB -> 413", s == 413, str(s)) + s, _, _ = api("POST", "/users", raw=b"{}", headers={"Content-Type": "text/plain"}) + check("не JSON Content-Type -> 415", s == 415, str(s)) + s, _, _ = api("POST", "/users", raw=b"{", headers={"Content-Type": "application/json"}) + check("битый JSON -> 400", s == 400, str(s)) + + # --- logout (в конце: отзывает токен) + s, _, _ = api("DELETE", "/auth/sessions/current", headers=bearer(a_tok)) + check("logout -> 204", s == 204, str(s)) + s, h, _ = api("DELETE", "/auth/sessions/current", headers=bearer(a_tok)) + check("повторный logout с отозванным токеном -> 401", s == 401, str(s)) + s, h, _ = api("GET", "/users/me", headers=bearer(a_tok)) + check("отозванный токен -> 401 + WWW-Authenticate: Bearer", s == 401 and h.get("www-authenticate", "").startswith("Bearer"), str(s)) + s, _, _ = api("GET", "/users/me", headers=bearer(b_tok)) + check("logout одного пользователя не затрагивает чужие сессии", s == 200, str(s)) + + +def idempotency_checks(api, min_instances): + a_name, a_id, a_tok = api.user("alice") + b_name, b_id, b_tok = api.user("bob") + c_name, c_id, c_tok = api.user("carol") + s, _, b = api("POST", "/chats", {"title": "idem", "member_ids": [a_id, b_id]}, bearer(a_tok)) + cid = js(b)["id"] + s, _, b = api("POST", "/chats", {"title": "idem2", "member_ids": [a_id, b_id]}, bearer(a_tok)) + cid2 = js(b)["id"] + + def hist(chat, tok): + s, _, b = api("GET", f"/chats/{chat}/messages?limit=100", headers=bearer(tok)) + return (js(b) or {}).get("items", []) + + # --- несколько реплик за LB, одна сессия, без повторного входа + seen = set() + for _ in range(60): + s, h, _ = api("GET", "/users/me", headers=bearer(a_tok)) + if s != 200: + break + seen.add(h.get("x-instance-id")) + check(f"через LB отвечают >= {min_instances} реплик с одним токеном (X-Instance-Id: {len(seen)})", + len(seen) >= min_instances and None not in seen, str(seen)) + + # --- базовая идемпотентность + key = "k-" + uuid.uuid4().hex + s1, h1, b1 = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(a_tok, key)) + s2, h2, b2 = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(a_tok, key)) + check("повтор с тем же ключом: тот же 201 и то же сообщение", s1 == s2 == 201 and js(b1) == js(b2), f"{s1}/{s2}") + check("повтор не создал дубль", len([m for m in hist(cid, a_tok) if m["text"] == "один раз"]) == 1) + s, _, b = api("POST", f"/chats/{cid}/messages", {"text": "другой текст"}, H(a_tok, key)) + check("тот же ключ с другим телом -> 409", s == 409, str(s)) + s, _, b = api("POST", f"/chats/{cid}/messages", raw=b'{"text":"\xd0\xbe\xd0\xb4\xd0\xb8\xd0\xbd \xd1\x80\xd0\xb0\xd0\xb7"}', + headers={**H(a_tok, key), "Content-Type": "application/json"}) + check("тот же ключ и то же тело (другое форматирование JSON) -> тот же результат", s == 201 and js(b) == js(b1), str(s)) + + # --- область ключа: пользователь + метод + путь + s, _, b = api("POST", f"/chats/{cid2}/messages", {"text": "один раз"}, H(a_tok, key)) + check("тот же ключ в другом чате независим", s == 201 and js(b)["chat_id"] == cid2, str(s)) + s, _, b = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(b_tok, key)) + check("тот же ключ у другого пользователя независим", s == 201 and js(b)["sender_id"] == b_id, str(s)) + + # --- валидация ключа и доступ + s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "x"}, bearer(a_tok)) + check("нет Idempotency-Key -> 400", s == 400, str(s)) + for bad_key in ("bad key!", "a/b", "a" * 129, ""): + s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "x"}, {**bearer(a_tok), "Idempotency-Key": bad_key}) + check(f"неверный ключ {bad_key[:12]!r} -> 400", s == 400, str(s)) + s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(c_tok, key)) + check("посторонний с тем же ключом -> 404 (доступ проверяется при повторе)", s == 404, str(s)) + s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "x"}, {"Idempotency-Key": "k1"}) + check("без токена -> 401", s == 401, str(s)) + + # --- конкурентные повторы одного ключа (через LB попадают на разные реплики) + key2 = "c-" + uuid.uuid4().hex + res = [] + def fire(text="конкурентно"): + s, h, b = api("POST", f"/chats/{cid}/messages", {"text": text}, H(a_tok, key2)) + res.append((s, h.get("x-instance-id"), js(b))) + ts = [threading.Thread(target=fire) for _ in range(30)] + [t.start() for t in ts]; [t.join() for t in ts] + codes = sorted({r[0] for r in res}) + ids = {(r[2] or {}).get("id") for r in res} + check("30 параллельных запросов с одним ключом: все 201 и одно и то же сообщение", codes == [201] and len(ids) == 1, f"{codes} {len(ids)}") + check("в истории ровно одно такое сообщение", len([m for m in hist(cid, a_tok) if m["text"] == "конкурентно"]) == 1) + print(f"INFO: параллельные повторы обслужили реплики: {sorted({r[1] for r in res})}") + + key3 = "d-" + uuid.uuid4().hex + res.clear() + ts = [threading.Thread(target=lambda i=i: res.append(api("POST", f"/chats/{cid}/messages", {"text": f"вариант {i % 2}"}, H(a_tok, key3))[0])) for i in range(20)] + [t.start() for t in ts]; [t.join() for t in ts] + check("параллельно один ключ и два разных тела: победитель один, остальным другого тела -> 409", + set(res) == {201, 409} and 1 <= res.count(201), str(sorted(set(res)))) + check("создано ровно одно сообщение из конкурирующих", len([m for m in hist(cid, a_tok) if m["text"].startswith("вариант")]) == 1) + + # --- повтор после logout + s, _, _ = api("DELETE", "/auth/sessions/current", headers=bearer(a_tok)) + s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(a_tok, key)) + check("повтор с отозванным токеном -> 401", s == 401, str(s)) + + +def ttl_checks(api): + name = api.user("ttl")[0] + s, _, b = api("POST", "/auth/sessions", headers=basic(name, PW)) + d = js(b) or {} + tok = d.get("token", "") + s0, _, _ = api("GET", "/users/me", headers=bearer(tok)) + check("TTL: сразу после входа токен действует (200)", s0 == 200, str(s0)) + time.sleep(3.5) + s1, h, _ = api("GET", "/users/me", headers=bearer(tok)) + check("TTL: через 3.5 с при SESSION_TTL_SECONDS=2 токен истёк (401)", s1 == 401 and h.get("www-authenticate", "").startswith("Bearer"), str(s1)) + + +if __name__ == "__main__": + ap = argparse.ArgumentParser() + ap.add_argument("--base-url", default="http://localhost:8080") + ap.add_argument("--mode", choices=["main", "idem", "ttl"], default="main") + ap.add_argument("--min-instances", type=int, default=2, help="сколько разных X-Instance-Id ожидается через LB") + a = ap.parse_args() + api = Api(a.base_url.rstrip("/")) + if a.mode == "ttl": + ttl_checks(api) + elif a.mode == "idem": + idempotency_checks(api, a.min_instances) + else: + main_checks(api) + print(("FAIL: %d проверок не прошли: %s" % (len(fails), "; ".join(fails))) if fails else "PASS: все проверки режима '%s'" % a.mode) + sys.exit(1 if fails else 0) diff --git a/student-tests/lab4_checks.py b/student-tests/lab4_checks.py new file mode 100644 index 00000000..c31f555b --- /dev/null +++ b/student-tests/lab4_checks.py @@ -0,0 +1,310 @@ +#!/usr/bin/env python3 +"""Собственные проверки lab4 (вложения). Дополняют публичный smoke, ничего не ослабляют. + + python student-tests/lab4_checks.py --base-url http://localhost:8080 + python student-tests/lab4_checks.py --base-url http://localhost:8080 --mode upload-stop --stop-hook scripts/stop-one.cmd + +Только стандартная библиотека. Токены не печатаются. +""" +import argparse, base64, hashlib, http.client, io, json, os, shlex, struct, subprocess, sys, time, urllib.parse, uuid, zlib +from pathlib import Path + +sys.path.insert(0, str(Path(__file__).parent)) +import lab3_checks as L # noqa: E402 (общие помощники: call, check, Api, H, bearer, js, fails) + +ROOT = Path(__file__).resolve().parent.parent +PNG = (ROOT / "tests" / "fixtures" / "sample.png").read_bytes() + + +def mkpng(w, h): + """Валидный 1-битный PNG w x h: данные малы, а заявленное число пикселей большое.""" + def ch(t, b): + return struct.pack(">I", len(b)) + t + b + struct.pack(">I", zlib.crc32(t + b) & 0xFFFFFFFF) + row = b"\x00" * (1 + (w + 7) // 8) + raw = row * h if w * h <= 50_000_000 else b"\x00" + return (b"\x89PNG\r\n\x1a\n" + ch(b"IHDR", struct.pack(">IIBBBBB", w, h, 1, 0, 0, 0, 0)) + + ch(b"IDAT", zlib.compress(raw, 9)) + ch(b"IEND", b"")) + + +JPEG_B64 = ( + "/9j/4AAQSkZJRgABAQAAAQABAAD/2wBDAAUDBAQEAwUEBAQFBQUGBwwIBwcHBw8LCwkMEQ8SEhEPERETFhwXExQaFRERGCEYGh0d" + "Hx8fExciJCIeJBweHx7/2wBDAQUFBQcGBw4ICA4eFBEUHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4e" + "Hh4eHh4eHh7/wAARCAAwAEADASIAAhEBAxEB/8QAHwAAAQUBAQEBAQEAAAAAAAAAAAECAwQFBgcICQoL/8QAtRAAAgEDAwIEAwUF" + "BAQAAAF9AQIDAAQRBRIhMUEGE1FhByJxFDKBkaEII0KxwRVS0fAkM2JyggkKFhcYGRolJicoKSo0NTY3ODk6Q0RFRkdISUpTVFVW" + "V1hZWmNkZWZnaGlqc3R1dnd4eXqDhIWGh4iJipKTlJWWl5iZmqKjpKWmp6ipqrKztLW2t7i5usLDxMXGx8jJytLT1NXW19jZ2uHi" + "4+Tl5ufo6erx8vP09fb3+Pn6/8QAHwEAAwEBAQEBAQEBAQAAAAAAAAECAwQFBgcICQoL/8QAtREAAgECBAQDBAcFBAQAAQJ3AAEC" + "AxEEBSExBhJBUQdhcRMiMoEIFEKRobHBCSMzUvAVYnLRChYkNOEl8RcYGRomJygpKjU2Nzg5OkNERUZHSElKU1RVVldYWVpjZGVm" + "Z2hpanN0dXZ3eHl6goOEhYaHiImKkpOUlZaXmJmaoqOkpaanqKmqsrO0tba3uLm6wsPExcbHyMnK0tPU1dbX2Nna4uPk5ebn6Onq" + "8vP09fb3+Pn6/9oADAMBAAIRAxEAPwDzSiiivkT+iAooooAKKKKACiiigAooooAKKKKACiiigAooooAKKKKACiiigAooooAKKKKA" + "P//Z" +) + + +def jpeg_bytes(): + """Готовый корректный baseline JPEG 64x48 (без зависимостей от Pillow).""" + return base64.b64decode("".join(JPEG_B64)) + + +def upload(api, tok, chat, data, ctype="image/png", filename="a.png", extra_headers=None): + path = f"/chats/{chat}/attachments?filename={urllib.parse.quote(filename, safe='')}" + return api("POST", path, headers={**L.bearer(tok), "Content-Type": ctype, **(extra_headers or {})}, raw=data) + + +def raw_upload(api, tok, chat, size, ctype="image/png", filename="big.png"): + """Загрузка size байт, когда сервер может ответить 413 и закрыть соединение, не дочитав тело.""" + u = urllib.parse.urlsplit(api.base) + conn = http.client.HTTPConnection(u.hostname, u.port, timeout=30) + conn.putrequest("POST", f"{u.path}/chats/{chat}/attachments?filename={filename}") + for k, v in (("Authorization", "Bearer " + tok), ("Content-Type", ctype), ("Content-Length", str(size))): + conn.putheader(k, v) + conn.endheaders() + try: + sent = 0 + while sent < size: + n = min(1 << 20, size - sent) + conn.send(b"\x00" * n) + sent += n + except OSError: + pass + try: + return conn.getresponse().status + except (OSError, http.client.HTTPException) as e: + return "нет ответа: " + type(e).__name__ + finally: + conn.close() + + +def setup(api): + a = api.user("alice"); b = api.user("bob"); c = api.user("carol") + s, _, body = api("POST", "/chats", {"title": "att", "member_ids": [a[1], b[1]]}, L.bearer(a[2])) + chat = L.js(body)["id"] + s, _, body = api("POST", "/chats", {"title": "att2", "member_ids": [a[1]]}, L.bearer(a[2])) + return a, b, c, chat, L.js(body)["id"] + + +def attach_checks(api): + (an, aid, at), (bn, bid, bt), (cn, cid, ct), chat, other = setup(api) + sha = hashlib.sha256(PNG).hexdigest() + + # --- успешная загрузка и метаданные + s, h, b = upload(api, at, chat, PNG, filename="фото №1.png") + att = L.js(b) or {} + L.check("загрузка PNG -> 201, status ready, ожидаемые поля", + s == 201 and att.get("status") == "ready" and att.get("content_type") == "image/png" + and att.get("size_bytes") == len(PNG) and att.get("sha256") == sha and att.get("variants") == [] + and att.get("filename") == "фото №1.png" and att.get("owner_id") == aid and att.get("chat_id") == chat, f"{s} {att}") + check_id = att.get("id", "") + L.check("в ответе есть X-Instance-Id и X-Request-Id", bool(h.get("x-instance-id")) and bool(h.get("x-request-id"))) + jpg = jpeg_bytes() + if jpg: + s, _, b = upload(api, at, chat, jpg, "image/jpeg", "p.jpg") + j = L.js(b) or {} + L.check("загрузка JPEG -> 201 и верный sha256", s == 201 and j.get("sha256") == hashlib.sha256(jpg).hexdigest(), str(s)) + s, _, b = upload(api, at, chat, mkpng(100, 100), "image/png", "x.png") + L.check("созданный PNG другого размера -> 201", s == 201, str(s)) + + s, _, b = api("GET", f"/attachments/{check_id}", headers=L.bearer(bt)) + L.check("метаданные доступны другому участнику чата", s == 200 and (L.js(b) or {}).get("id") == check_id, str(s)) + s, h, b = api("GET", f"/attachments/{check_id}/content", headers=L.bearer(bt)) + L.check("скачивание: байты совпадают, Content-Type верный, nosniff", s == 200 and b == PNG + and h.get("content-type") == "image/png" and h.get("x-content-type-options") == "nosniff", f"{s} {h.get('content-type')}") + L.check("Content-Length равен размеру", h.get("content-length") == str(len(PNG)), str(h.get("content-length"))) + + # --- доступ + L.check("метаданные постороннему -> 404", api("GET", f"/attachments/{check_id}", headers=L.bearer(ct))[0] == 404) + L.check("содержимое постороннему -> 404", api("GET", f"/attachments/{check_id}/content", headers=L.bearer(ct))[0] == 404) + L.check("без токена -> 401", api("GET", f"/attachments/{check_id}")[0] == 401) + L.check("неверный UUID -> 400", api("GET", "/attachments/not-a-uuid", headers=L.bearer(at))[0] == 400) + L.check("неизвестный UUID -> 404", api("GET", f"/attachments/{uuid.uuid4()}", headers=L.bearer(at))[0] == 404) + L.check("загрузка в чужой чат -> 404", upload(api, ct, chat, PNG)[0] == 404) + s, _, _ = api("POST", f"/chats/{chat}/attachments?filename=a.png", headers={"Content-Type": "image/png"}, raw=PNG) + L.check("загрузка без токена -> 401", s == 401, str(s)) + L.check("загрузка в неверный UUID чата -> 400", upload(api, at, "not-a-uuid", PNG)[0] == 400) + L.check("?variant=thumbnail (вариантов нет) -> 404", api("GET", f"/attachments/{check_id}/content?variant=thumbnail", headers=L.bearer(at))[0] == 404) + L.check("?variant=bogus -> 400", api("GET", f"/attachments/{check_id}/content?variant=bogus", headers=L.bearer(at))[0] == 400) + L.check("?variant=original -> 200", api("GET", f"/attachments/{check_id}/content?variant=original", headers=L.bearer(at))[0] == 200) + + # --- имя файла + for name, why in (("a/b.png", "слэш"), ("a\\b.png", "обратный слэш"), ("a%00b.png", "NUL"), ("a%0Ab.png", "перевод строки"), + ("", "пустое"), ("%20%20", "пробелы"), ("n" * 256, "256 символов")): + s, _, _ = api("POST", f"/chats/{chat}/attachments?filename={name}", headers={**L.bearer(at), "Content-Type": "image/png"}, raw=PNG) + L.check(f"filename: {why} -> 400", s == 400, str(s)) + s, _, _ = api("POST", f"/chats/{chat}/attachments", headers={**L.bearer(at), "Content-Type": "image/png"}, raw=PNG) + L.check("filename не указан -> 400", s == 400, str(s)) + s, _, b = upload(api, at, chat, PNG, filename="n" * 255) + L.check("filename из 255 символов -> 201", s == 201, str(s)) + s, _, b = upload(api, at, chat, PNG, filename="../../etc/passwd".replace("/", "_")) + L.check("имя «../..» без разделителей принимается и не влияет на ключ объекта", s == 201, str(s)) + + # --- тип и содержимое + L.check("Content-Type text/plain -> 415", upload(api, at, chat, PNG, "text/plain")[0] == 415) + L.check("Content-Type image/gif -> 415", upload(api, at, chat, PNG, "image/gif")[0] == 415) + L.check("PNG под видом image/jpeg -> 415", upload(api, at, chat, PNG, "image/jpeg")[0] == 415) + L.check("текст под видом image/png -> 415", upload(api, at, chat, b"not an image at all" * 20)[0] == 415) + L.check("пустое тело -> 415", upload(api, at, chat, b"")[0] == 415) + bad = bytearray(PNG); bad[len(PNG) // 2] ^= 0xFF + L.check("PNG с повреждённым блоком (CRC) -> 415", upload(api, at, chat, bytes(bad))[0] == 415) + L.check("усечённый PNG -> 415", upload(api, at, chat, PNG[:-30])[0] == 415) + L.check("PNG с мусором в конце -> 415", upload(api, at, chat, PNG + b"junk")[0] == 415) + if jpg: + L.check("усечённый JPEG -> 415", upload(api, at, chat, jpg[:-40], "image/jpeg")[0] == 415) + L.check("JPEG под видом image/png -> 415", upload(api, at, chat, jpg, "image/png")[0] == 415) + + # --- лимиты размера и числа пикселей + s, _, _ = upload(api, at, chat, mkpng(8000, 5000)) + L.check("ровно 40 000 000 пикселей (8000x5000) -> 201", s == 201, str(s)) + L.check("40 005 000 пикселей (8001x5000) -> 413", upload(api, at, chat, mkpng(8001, 5000))[0] == 413) + L.check("«бомба» 20000x20000 малого размера -> 413", upload(api, at, chat, mkpng(20000, 20000))[0] == 413) + L.check("тело 10 MiB + 1 байт -> 413", raw_upload(api, at, chat, 10 * 1024 * 1024 + 1) == 413) + + # --- сообщения с вложениями + s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "", "attachment_ids": [check_id]}, L.H(at)) + m = L.js(b) or {} + L.check("сообщение только с вложением (text='') -> 201 с attachment_ids", s == 201 and m.get("attachment_ids") == [check_id], f"{s} {m}") + s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "привет", "attachment_ids": []}, L.H(at)) + L.check("attachment_ids=[] даёт обычное сообщение с пустым массивом", s == 201 and (L.js(b) or {}).get("attachment_ids") == [], str(s)) + s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "без поля"}, L.H(at)) + L.check("без attachment_ids в ответе всё равно attachment_ids=[]", s == 201 and (L.js(b) or {}).get("attachment_ids") == [], str(s)) + L.check("пустой текст без вложений -> 400", api("POST", f"/chats/{chat}/messages", {"text": ""}, L.H(at))[0] == 400) + L.check("пробельный текст без вложений -> 400", api("POST", f"/chats/{chat}/messages", {"text": " ", "attachment_ids": []}, L.H(at))[0] == 400) + L.check("пробельный текст с вложением допустим -> 201", api("POST", f"/chats/{chat}/messages", {"text": " ", "attachment_ids": [check_id]}, L.H(at))[0] == 201) + L.check("неизвестное вложение -> 404", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": [str(uuid.uuid4())]}, L.H(at))[0] == 404) + L.check("attachment_ids не массив -> 400", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": check_id}, L.H(at))[0] == 400) + L.check("attachment_ids с неверным UUID -> 400", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": ["zzz"]}, L.H(at))[0] == 400) + L.check("повтор одного id в attachment_ids -> 400", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": [check_id, check_id]}, L.H(at))[0] == 400) + ids = [] + for i in range(11): + s, _, b = upload(api, at, chat, mkpng(8 + i, 8)) + ids.append((L.js(b) or {}).get("id")) + L.check("11 вложений в сообщении -> 400", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": ids}, L.H(at))[0] == 400) + s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "десять", "attachment_ids": ids[:10]}, L.H(at)) + L.check("10 вложений -> 201 с сохранением порядка", s == 201 and (L.js(b) or {}).get("attachment_ids") == ids[:10], str(s)) + s, _, b = api("POST", f"/chats/{other}/attachments?filename=o.png", headers={**L.bearer(at), "Content-Type": "image/png"}, raw=PNG) + foreign = (L.js(b) or {}).get("id") + L.check("вложение другого чата в сообщении -> 404", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": [foreign]}, L.H(at))[0] == 404) + L.check("участник может сослаться на вложение другого участника", api("POST", f"/chats/{chat}/messages", {"text": "моё", "attachment_ids": [check_id]}, L.H(bt))[0] == 201) + + # --- идемпотентность с вложениями и история + key = "att-" + uuid.uuid4().hex + s1, _, b1 = api("POST", f"/chats/{chat}/messages", {"text": "один", "attachment_ids": [check_id]}, L.H(at, key)) + s2, _, b2 = api("POST", f"/chats/{chat}/messages", {"text": "один", "attachment_ids": [check_id]}, L.H(at, key)) + L.check("повтор с вложением и тем же ключом: тот же результат", s1 == s2 == 201 and L.js(b1) == L.js(b2), f"{s1}/{s2}") + s3, _, _ = api("POST", f"/chats/{chat}/messages", {"text": "один", "attachment_ids": [ids[0]]}, L.H(at, key)) + L.check("тот же ключ с другим набором вложений -> 409", s3 == 409, str(s3)) + s4, _, _ = api("POST", f"/chats/{chat}/messages", {"text": "один"}, L.H(at, key)) + L.check("тот же ключ без вложений (иное тело) -> 409", s4 == 409, str(s4)) + s, _, b = api("GET", f"/chats/{chat}/messages?limit=100", headers=L.bearer(bt)) + items = (L.js(b) or {}).get("items", []) + one = [m for m in items if m["text"] == "один"] + L.check("в истории одно такое сообщение, attachment_ids присутствует у каждого сообщения", + len(one) == 1 and one[0]["attachment_ids"] == [check_id] and all("attachment_ids" in m for m in items), str(len(one))) + # скачивание вложения из сообщения вторым участником + s, _, b = api("GET", f"/attachments/{one[0]['attachment_ids'][0]}/content", headers=L.bearer(bt)) + L.check("вложение из истории скачивается вторым участником", s == 200 and b == PNG, str(s)) + + +def upload_stop(api, hook, index=0): + """Загрузка -> остановка именно той реплики, что приняла файл -> скачивание через другую реплику. + index выбирает, какая из двух реплик (по отсортированному X-Instance-Id) принимает файл и затем останавливается.""" + (an, aid, at), (bn, bid, bt), _, chat, _ = setup(api) + ids = sorted({api("GET", "/users/me", headers=L.bearer(at))[1].get("x-instance-id") for _ in range(16)} - {None}) + L.check("через LB видны >= 2 реплик", len(ids) >= 2, str(ids)) + want = ids[index % len(ids)] + att, h = {}, {} + for _ in range(12): # round-robin: повторяем загрузку, пока файл не примет выбранная реплика + s, h, b = upload(api, at, chat, PNG) + att = L.js(b) or {} + if s != 201 or h.get("x-instance-id") == want: + break + target = h.get("x-instance-id") + L.check(f"файл принят выбранной репликой {target}", s == 201 and target == want, f"{s} {target} want={want}") + s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "до отказа", "attachment_ids": [att["id"]]}, L.H(at)) + mid = (L.js(b) or {}).get("id") + t0 = time.time() + # абсолютный путь: относительный «scripts/x.cmd» cmd.exe воспринимает как ключ «/x.cmd»; вывод читаем как байты + r = subprocess.run([os.path.abspath(hook)], env={**os.environ, "TARGET_INSTANCE_ID": target}, capture_output=True, timeout=60) + L.check(f"hook остановил реплику {target} (код {r.returncode}, {time.time() - t0:.1f} с)", r.returncode == 0, + (r.stderr or b"")[-200:].decode("utf-8", "replace")) + ok_at, instances = None, set() + for _ in range(200): + s, h, b = api("GET", f"/attachments/{att['id']}/content", headers=L.bearer(bt)) + if s == 200 and b == PNG: + ok_at = time.time() - t0 + instances.add(h.get("x-instance-id")) + break + time.sleep(0.1) + L.check("после остановки реплики вложение скачивается через другую реплику (байты те же)", + ok_at is not None and target not in instances, f"{ok_at} {instances}") + if ok_at is not None: + print(f"INFO: вложение снова доступно через {ok_at:.2f} с после запуска hook (реплика {sorted(instances)})") + s, _, b = api("GET", f"/chats/{chat}/messages", headers=L.bearer(bt)) + L.check("подтверждённое сообщение с вложением доступно", any(m["id"] == mid and m["attachment_ids"] == [att["id"]] for m in (L.js(b) or {}).get("items", []))) + seen = {api("GET", f"/attachments/{att['id']}", headers=L.bearer(bt))[1].get("x-instance-id") for _ in range(20)} + L.check("остановленная реплика больше не отвечает", target not in seen, str(seen)) + + +def s3_outage(api): + """Сбой S3 при живых API и PostgreSQL: вложения деградируют (503), остальное работает; после старта S3 всё возвращается.""" + stop = shlex.split(os.environ.get("S3_STOP_CMD", "docker compose stop s3")) + start = shlex.split(os.environ.get("S3_START_CMD", "docker compose start s3")) + (an, aid, at), (bn, bid, bt), _, chat, _ = setup(api) + s, _, b = upload(api, at, chat, PNG) + att = (L.js(b) or {}).get("id") + L.check("до сбоя: загрузка -> 201", s == 201, str(s)) + subprocess.run(stop, cwd=ROOT, check=True, capture_output=True, timeout=180) + t_stop = time.time() + try: + time.sleep(1) + t0 = time.time() + s, _, b = upload(api, at, chat, PNG) + L.check("S3 остановлен: загрузка -> 503 (code unavailable), %.1f с" % (time.time() - t0), + s == 503 and (L.js(b) or {}).get("error", {}).get("code") == "unavailable", f"{s} {b[:80]}") + s, _, _ = api("GET", f"/attachments/{att}/content", headers=L.bearer(bt)) + L.check("S3 остановлен: скачивание -> 503, а не 500/зависание", s == 503, str(s)) + s, _, _ = api("GET", f"/attachments/{att}", headers=L.bearer(bt)) + L.check("S3 остановлен: метаданные (только PostgreSQL) -> 200", s == 200, str(s)) + s, _, _ = api("POST", f"/chats/{chat}/messages", {"text": "текст без S3"}, L.H(at)) + L.check("S3 остановлен: обычное сообщение -> 201", s == 201, str(s)) + s, _, _ = api("POST", f"/chats/{chat}/messages", {"text": "со ссылкой", "attachment_ids": [att]}, L.H(at)) + L.check("S3 остановлен: сообщение со старым вложением -> 201 (только PostgreSQL)", s == 201, str(s)) + s, _, _ = L.call(api.base.rsplit("/api/v1", 1)[0], "GET", "/health/ready") + L.check("S3 остановлен: /health/ready остаётся 200 (S3 некритичен для текстового API)", s == 200, str(s)) + finally: + subprocess.run(start, cwd=ROOT, check=True, capture_output=True, timeout=180) + t1, ok = time.time(), None + for _ in range(240): + s, _, b = upload(api, at, chat, PNG) + if s == 201: + ok = time.time() - t1 + break + time.sleep(1) + L.check("после старта S3 загрузка снова -> 201 (через %s с)" % (("%.0f" % ok) if ok is not None else "?"), ok is not None) + # у каждой реплики свой «предохранитель» (до S3_BREAKER_SECONDS после последнего сбоя): повторяем чтение, пока не вернётся 200 + t2, got, tries = time.time(), None, 0 + for tries in range(1, 61): + s, _, b = api("GET", f"/attachments/{att}/content", headers=L.bearer(bt)) + if s == 200 and b == PNG: + got = time.time() - t2 + break + time.sleep(1) + L.check("после старта S3 старое вложение скачивается, байты те же (через %s с, попыток: %d)" + % (("%.1f" % got) if got is not None else "?", tries), got is not None) + print("INFO: S3 был недоступен около %.0f с" % (time.time() - t_stop)) + + +if __name__ == "__main__": + ap = argparse.ArgumentParser() + ap.add_argument("--base-url", default="http://localhost:8080") + ap.add_argument("--mode", choices=["attach", "upload-stop", "s3-outage"], default="attach") + ap.add_argument("--stop-hook", default="") + ap.add_argument("--target-index", type=int, default=0, help="какая из реплик (по порядку X-Instance-Id) принимает файл и будет остановлена") + a = ap.parse_args() + api = L.Api(a.base_url.rstrip("/")) + if a.mode == "upload-stop": + upload_stop(api, a.stop_hook, a.target_index) + elif a.mode == "s3-outage": + s3_outage(api) + else: + attach_checks(api) + print(("FAIL: %d проверок не прошли: %s" % (len(L.fails), "; ".join(L.fails))) if L.fails else "PASS: все проверки режима '%s'" % a.mode) + sys.exit(1 if L.fails else 0)