ЛР4 - БПИ2304 - Корнилов - на 3 #142
@@ -0,0 +1,7 @@
|
||||
*.sh text eol=lf
|
||||
Dockerfile text eol=lf
|
||||
*.sql text eol=lf
|
||||
*.py text eol=lf
|
||||
*.cmd text eol=crlf
|
||||
*.cfg text eol=lf
|
||||
*.yaml text eol=lf
|
||||
+11
@@ -0,0 +1,11 @@
|
||||
FROM python:3.12.7-slim-bookworm
|
||||
ENV PYTHONDONTWRITEBYTECODE=1 PYTHONUNBUFFERED=1
|
||||
WORKDIR /app
|
||||
COPY src/requirements.txt .
|
||||
RUN pip install --no-cache-dir -r requirements.txt
|
||||
COPY src/ .
|
||||
RUN useradd -r -u 10001 appuser
|
||||
USER appuser
|
||||
EXPOSE 8080
|
||||
HEALTHCHECK --interval=5s --timeout=3s --retries=10 CMD python -c "import urllib.request as u;u.urlopen('http://127.0.0.1:8080/health/live',timeout=2)"
|
||||
CMD ["uvicorn","app.main:app","--host","0.0.0.0","--port","8080","--timeout-graceful-shutdown","10"]
|
||||
@@ -1,37 +1,157 @@
|
||||
# Отчёт — лабораторная 4
|
||||
|
||||
- Автор, группа: TODO
|
||||
- Целевая оценка; выбранный трек 5, если нужен: TODO
|
||||
- Commit/PR: TODO после публикации
|
||||
- Использованные источники, библиотеки и помощь ИИ: TODO
|
||||
- Автор, группа: Корнилов Михаил, БПИ2304
|
||||
- Целевая оценка: 3. Трек 5 не заявлен.
|
||||
- Использованные источники, библиотеки и помощь ИИ:
|
||||
Библиотеки: starlette, uvicorn, psycopg 3 + psycopg_pool, argon2-cffi, boto3 1.35.99 (S3-клиент).
|
||||
Образы: `postgres:16.4-alpine`, `haproxy:2.8.10-alpine`, `chrislusf/seaweedfs:4.42`, `python:3.12.7-slim-bookworm`.
|
||||
При подготовке использовалась помощь Claude
|
||||
|
||||
## Запуск из чистого clone
|
||||
|
||||
TODO: версии runtime/образов, prerequisites, команды создания локальных secrets/.env, build, миграций, запуска, ожидания готовности, тестов и остановки. Указать необходимые действия оператора. Не вставлять секреты. Отдельно указать безопасную остановку и команду намеренного удаления учебных данных.
|
||||
Prerequisites: Docker Desktop (Compose v2), Git Bash (Windows) либо любой sh, Python 3.9+ для тестов. Версии для прогона записаны в `evidence/01-env.txt`. Внимание: порт `127.0.0.1:8080` должен быть свободен (остановите стенды предыдущих лабораторных: `docker compose stop` в их папках).
|
||||
|
||||
```sh
|
||||
sh scripts/setup-secrets.sh # secrets/*: пароль БД, ключи S3 (admin и ограниченный ключ API), конфигурация S3; значения не печатаются
|
||||
cp .env.example .env # необязательно: у переменных есть значения по умолчанию в compose.yaml
|
||||
docker compose --env-file .env config --quiet
|
||||
docker compose up -d --build # postgres, s3 -> migrate, s3-init (однократно) -> api x2 -> lb; ~1-2 минуты (S3 стартует ~20 с)
|
||||
curl http://localhost:8080/health/ready # ждём {"status":"ok"}
|
||||
python tests/smoke.py --base-url http://localhost:8080 # = make test
|
||||
python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd --base-url http://localhost:8080 # = make test-failover
|
||||
python tests/resilience.py --mode persistence --action-script scripts/restart.cmd --base-url http://localhost:8080 # = make test-persistence
|
||||
# Linux/macOS: те же команды с scripts/stop-one.sh и scripts/restart.sh
|
||||
docker compose start api # вернуть остановленную тестом реплику
|
||||
sh scripts/collect-evidence.sh # все проверки ниже и сохранение в evidence/ (--fresh сначала удаляет данные)
|
||||
docker compose stop # безопасная остановка: контейнеры остановлены, данные (pgdata, s3data) сохранены
|
||||
docker compose down -v # ОСОЗНАННОЕ удаление учебных данных (тома pgdata и s3data)
|
||||
```
|
||||
|
||||
Действия оператора: только `setup-secrets.sh` (создать секреты). Порт опубликован только у LB (`127.0.0.1:8080`); API-реплики, PostgreSQL и S3 наружу не публикуются.
|
||||
|
||||
## Архитектура и решения
|
||||
|
||||
TODO: схема процессов/хранилищ, источник истины, транзакционные границы, ограничения. Что перенесено из lab3, что изменено в этой работе. Соответствие переменных из .env.example реальной конфигурации.
|
||||
```
|
||||
клиент -> lb (HAProxy, :8080) -> api x N -> postgres (пользователи, чаты, сообщения, сессии, ключи идемпотентности, метаданные вложений)
|
||||
\-> s3 (SeaweedFS, приватный bucket; только байты вложений)
|
||||
migrate (one-shot) -> postgres s3-init (one-shot) -> s3
|
||||
```
|
||||
|
||||
| Роль | Service | Версия | Готовность | Volume | Сеть/порт | Credentials |
|
||||
| --- | --- | --- | --- | --- | --- | --- |
|
||||
| load_balancer | `lb` | `haproxy:2.8.10-alpine` | `wget 127.0.0.1:8081/healthz` | нет | публикует `127.0.0.1:8080` | нет |
|
||||
| api (>=2) | `api`, `deploy.replicas=${API_REPLICAS:-2}` | сборка из `Dockerfile` | `GET /health/ready` (БД и версия схемы) | нет | `expose 8080`, не публикуется | secrets `database_url`, ограниченный ключ S3 |
|
||||
| postgres | `postgres` | `postgres:16.4-alpine` | `pg_isready` | именованный `pgdata` | не публикуется | secret `pg_password` |
|
||||
| object_storage | `s3` | `chrislusf/seaweedfs:4.42` (`weed server -s3`) | `GET :8333/healthz` | именованный `s3data` | `expose 8333`, не публикуется | secret `s3_config` (ключи admin и API) |
|
||||
| миграции | `migrate` (one-shot) | образ `api` | завершился с кодом 0 | нет | внутри сети | secret `database_url` |
|
||||
| bootstrap S3 | `s3-init` (one-shot) | образ `api` | завершился с кодом 0 | нет | внутри сети | secrets admin и ограниченного ключей |
|
||||
|
||||
Выбор сервера: MinIO не использован, потому что его официальные образы больше не публикуются на Docker Hub. SeaweedFS (`weed server -s3`) поднимает только master, volume, filer и S3-шлюз; административная консоль отдельным процессом не запускается. Образ запускается с `entrypoint: weed`, чтобы не получить дополнительные флаги стандартного entrypoint (предвыделение томов).
|
||||
|
||||
**Модель данных** (`003_attachments.sql`):
|
||||
- `attachments`: `id`, `chat_id`, `owner_id`, `filename` (только отображаемое имя), `content_type`, `size_bytes`, `sha256`, `width`, `height`, `object_key` (UNIQUE, `attachments/<uuid>`, назначает сервер; имя файла в ключе не участвует), `status` (`uploading` или `ready`), `created_at`, `updated_at`.
|
||||
- `message_attachments(message_id, attachment_id, position)`: связь с сохранением порядка; одно вложение чата можно использовать в нескольких сообщениях.
|
||||
- `messages.text` теперь допускает пустую строку (проверка «не пусто и не пробелы без вложений» выполняется приложением).
|
||||
|
||||
**Загрузка (`POST /chats/{id}/attachments?filename=`)** — один последовательный процесс без локальных файлов:
|
||||
1. Аутентификация, доступ к чату (404), проверка `filename` (400) и `Content-Type` (415) — до чтения тела.
|
||||
2. Тело читается потоком с лимитом 10 MiB (413 по `Content-Length` или по накопленному объёму).
|
||||
3. Проверка по содержимому без декодирования пикселей: сигнатура и совпадение с заявленным типом, структура (у PNG — CRC каждого блока, IHDR/IDAT/IEND; у JPEG — сегменты, SOF/SOS, EOI), число пикселей из заголовка (больше 40 000 000 — 413). Повреждённые, усечённые и чужие форматы — 415.
|
||||
4. `INSERT` строки со статусом `uploading` (commit), затем `PUT` объекта в S3 и `UPDATE ... status='ready'`. **201 возвращается только после успешного PUT и commit.**
|
||||
5. Если PUT или UPDATE упал, выполняется быстрая компенсация (удаление объекта); строка БД удаляется, только если удаление объекта подтверждено. Иначе строка остаётся в статусе `uploading` с известным `object_key`, и команда `python -m app.sweep` позже удаляет объект и строку (grace period по умолчанию 900 с). Так отказ между S3 и PostgreSQL не оставляет неучтённых объектов.
|
||||
|
||||
**Ответ на вопрос «S3 PUT прошёл, а COMMIT нет»:** клиент получает 503 (не 201), строка `uploading` остаётся в БД, объект известен по `object_key` и убирается компенсацией или `sweep`. Это обратный порядок к «сначала S3, потом БД», где такой объект был бы потерян.
|
||||
|
||||
**Скачивание (`GET /attachments/{id}/content`)**: проверка сессии и членства в чате, затем потоковая отдача объекта из S3 (`Content-Type` истинный, `Content-Length` из БД, `X-Content-Type-Options: nosniff`, `Cache-Control: private, no-store`). Ошибка S3 даёт 503 до отправки заголовков, а не оборванный 200. Вариант `thumbnail|crop|optimized` отсутствует и даёт 404, неизвестное имя варианта — 400.
|
||||
|
||||
**Сообщения**: `attachment_ids` — массив до 10 неповторяющихся UUID; все должны быть `ready` и принадлежать этому же чату, иначе 404; пустой/пробельный `text` допустим только при наличии вложений. Хэш идемпотентности (`Idempotency-Key`) учитывает `text` и упорядоченный список `attachment_ids`; отсутствующее поле равно `[]`.
|
||||
|
||||
**Приватность S3**: анонимного доступа нет, порты S3 наружу не публикуются. Ключи двух ролей: `admin` (только `s3-init`, создаёт bucket) и ключ API с правами `Read/Write/List` только на свой bucket (не может создавать/удалять другие bucket и писать в чужие). `s3-init` идемпотентно создаёт bucket и при каждом запуске проверяет: анонимный GET объекта и списка — 403, ограниченный ключ не создаёт чужой bucket. API при этом **не** считает приватность bucket заменой ACL: доступ проверяется приложением по членству в чате, а случайный object key — только дополнительный слой.
|
||||
|
||||
**Деградация при отказе S3**: `/health/ready` зависит от PostgreSQL и версии схемы, но не от S3. Поэтому при недоступном S3 текстовый API, метаданные и сообщения со старыми вложениями продолжают работать, а загрузка и скачивание байтов дают 503. Каждая операция S3 выполняется под жёстким дедлайном (PUT 8 с, получение объекта 5 с, компенсирующее удаление 2 с), потому что таймауты botocore не покрывают разрешение имени и зависшие соединения: в первом прогоне на Docker запрос на загрузку при остановленном S3 отвечал 503 за 15,4 с. После сбоя «предохранитель» на 5 с отдаёт 503 сразу, не обращаясь к S3, затем делается новая попытка.
|
||||
|
||||
**Из lab3 перенесено без изменений:** весь API, PostgreSQL, сессии в БД, идемпотентность отправки, две API-реплики за HAProxy, отдельный сервис миграций, `X-Instance-Id`, скрипты `stop-one` и `restart` (теперь `restart` перезапускает и S3 и дожидается его готовности).
|
||||
**Изменено в lab4:** новый `s3` и `s3-init`, миграция `003`, три endpoint вложений, поле `attachment_ids` в сообщениях и истории, зависимость `boto3`, расширенные собственные проверки и сбор доказательств.
|
||||
|
||||
**Соответствие `.env.example`:**
|
||||
|
||||
| Переменная | Статус |
|
||||
| --- | --- |
|
||||
| `S3_ENDPOINT` | в `.env.example` указан пример `http://s3:9000` (MinIO); в compose используется `http://s3:8333` (порт S3 SeaweedFS), значение задано в `compose.yaml` |
|
||||
| `S3_REGION`, `S3_BUCKET`, `MAX_UPLOAD_BYTES`, `MAX_IMAGE_PIXELS` | используются (compose передаёт в API) |
|
||||
| `S3_ACCESS_KEY_ID_FILE`, `S3_SECRET_ACCESS_KEY_FILE` | используются: ограниченный ключ API (Docker secrets) |
|
||||
| `S3_ADMIN_ACCESS_KEY_ID_FILE`, `S3_ADMIN_SECRET_ACCESS_KEY_FILE` | нет в `.env.example`; используются только сервисом `s3-init` |
|
||||
| `S3_CONNECT_TIMEOUT`, `S3_READ_TIMEOUT`, `S3_PUT_DEADLINE`, `S3_GET_DEADLINE`, `S3_FAST_DEADLINE`, `S3_BREAKER_SECONDS`, `S3_WORKERS`, `SWEEP_GRACE_SECONDS` | нет в `.env.example`; необязательные (по умолчанию 2, 20, 8, 5, 2, 5 с, 32 потока, 900 с) |
|
||||
| `API_REPLICAS`, `SESSION_TTL_SECONDS`, `IDEMPOTENCY_TTL_SECONDS`, `DATABASE_URL_FILE` | используются, как в lab3 |
|
||||
| `APP_ENV` | передаётся в контейнер, приложением не читается |
|
||||
| `APP_HOST`, `APP_PORT` | не читаются; адрес и порт заданы в `CMD` Dockerfile (`0.0.0.0:8080`) |
|
||||
| `SESSION_STORE=postgres` | маркер: сессии всегда в PostgreSQL |
|
||||
| `CACHE_URL_FILE` | не используется (Redis нужен только для уровня 4 в lab2) |
|
||||
| `DB_POOL_MAX`, `RUN_MIGRATIONS`, `INSTANCE_ID` | читаются приложением (в `.env.example` нет): размер пула (10), запуск миграций при старте (в compose 0), переопределение идентификатора реплики |
|
||||
|
||||
## Доказательства критериев
|
||||
|
||||
Все файлы лежат в `evidence/`; они собираются одним запуском `sh scripts/collect-evidence.sh --fresh` (Windows 11, Docker Desktop 28.0.4, Compose v2.34.0, 16 CPU / 8 ГБ), токены, пароли и ключи S3 в них не печатаются. Шаги 03, 05 и 10 перезапускались отдельно (`STEPS="03 05 10" sh scripts/collect-evidence.sh`) после исправления тестов; у каждого файла в заголовке своя метка времени.
|
||||
|
||||
| Критерий README | Команда/сценарий | Наблюдаемый результат | Файл доказательства |
|
||||
| --- | --- | --- | --- |
|
||||
| Публичный smoke | make test | TODO | TODO |
|
||||
| Остальные пункты уровня 3 | TODO | TODO | TODO |
|
||||
| Все пункты уровня 4, если заявлен | TODO | TODO | TODO |
|
||||
| Выбранный трек 5, если заявлен | TODO | TODO | TODO |
|
||||
| Стенд в одном `compose.yaml`, S3 и persistent volumes в нём; все возможности lab3 | `docker compose up -d --build`, `docker compose ps -a` | чистый старт до готовности за 19 с; `postgres`, `s3`, `api-1`, `api-2`, `lb` — healthy, `migrate` и `s3-init` — Exited (0); том `mtusi-lab4_s3data` | `00-clean-start.txt`, `01-env.txt`, `08-s3-storage.txt` |
|
||||
| Публичный smoke lab4 (checksum, чужой пользователь) | `python tests/smoke.py --base-url http://localhost:8080` | PASS, exit code 0; `check_contract.py` — PASS | `02-smoke.txt` |
|
||||
| Запросы одного пользователя на разных репликах без повторного входа | 40 запросов `GET /users/me` с одним токеном | по 20 ответов от `2c12200fa922` и `45517da31576`; порты API-контейнеров наружу не опубликованы, LB — `127.0.0.1:8080` | `04-load-balancing.txt` |
|
||||
| Метаданные в PostgreSQL, байты в приватном bucket, не в БД и не в каталоге API | `\d attachments`, `docker diff` API-контейнеров, сверка `ready` и объектов S3 | таблицы `attachments` и `message_attachments` созданы миграцией 003; `docker diff` обоих API-контейнеров не показывает изменений, кроме смонтированных `/run/secrets`; в БД 6 `ready` и 0 `uploading`, в S3 6 объектов | `07-db-migrations.txt`, `08-s3-storage.txt` |
|
||||
| 201 ready после сохранения; оригинал скачивается побайтно; сообщение с `attachment_ids` читают участники | `lab4_checks.py` (62 проверки), `lab3_checks.py` main (41) и idem (20) | все 123 PASS, 0 FAIL, коды выхода всех трёх команд 0: загрузка PNG и JPEG — 201 со `status=ready` и верными `sha256`/`size_bytes`; скачивание совпадает побайтно, `Content-Type` верный, `nosniff`; сообщение с `attachment_ids` (в том числе с пустым `text`) читают оба участника | `03-student-checks.txt` |
|
||||
| Приём реальных PNG/JPEG; MIME по содержимому; подмена типа, битые и усечённые файлы — 415 | `lab4_checks.py`: PNG и JPEG, PNG как JPEG, JPEG как PNG, CRC, усечение, мусор в конце | PASS: PNG и JPEG — 201; PNG как `image/jpeg`, JPEG как `image/png`, текст как `image/png`, `text/plain`, `image/gif`, пустое тело, PNG с повреждённым CRC, усечённые PNG и JPEG, PNG с мусором в конце — 415 | `03-student-checks.txt` |
|
||||
| Лимиты до чтения/декодирования: 10 MiB и 40 млн пикселей | 10 MiB+1 байт — 413; 8000x5000 (ровно 40 млн) — 201; 8001x5000 — 413; 20000x20000 малого размера — 413 | PASS: все четыре случая дали ожидаемые коды; «бомба» 20000x20000 малого размера отклонена по заголовку без декодирования | `03-student-checks.txt` |
|
||||
| Опасные filename отклоняются | `/`, `\`, NUL, перевод строки, пустое, пробелы, 256 символов, отсутствие — 400 | PASS: все 400; имя из 255 символов и Unicode-имя принимаются (201); имя файла не участвует в ключе объекта | `03-student-checks.txt` |
|
||||
| Чужой чат и посторонний: 404 на метаданные и байты; без токена 401; неверный UUID 400 | собственные проверки | PASS: посторонний — 404 на метаданные, содержимое и загрузку в чужой чат; без токена — 401; неверный UUID — 400; неизвестный UUID — 404; `?variant=thumbnail` — 404, `?variant=bogus` — 400 | `03-student-checks.txt` |
|
||||
| Приватный bucket вне API: аноним не читает; ключ API ограничен | `python -m app.s3init` внутри compose-сети (запущен дважды) | 19 PASS, 0 FAIL: анонимный GET объекта и списка bucket — 403; ключ API не создаёт другой bucket, не удаляет рабочий и не пишет в чужой (`AccessDenied`); порты S3 наружу не опубликованы | `08-s3-storage.txt` |
|
||||
| Upload -> остановка обслужившей реплики -> download через другую возвращает тот же файл | `lab4_checks.py --mode upload-stop --target-index 0/1` | PASS в обоих раундах: раунд 1 — файл принят и затем остановлена `2c12200fa922` (api-1), файл снова доступен через `45517da31576` через 2,31 с; раунд 2 — принята и остановлена `45517da31576` (api-2), файл доступен через `2c12200fa922` через 1,29 с; байты те же, остановленная реплика не отвечает, сообщение с вложением доступно | `05-failover.txt` |
|
||||
| Failover lab3: запись возобновляется за <=10 с, дублей нет (с чтением оригинала) | `tests/resilience.py --mode failover`, два раунда | PASS в обоих раундах: 118 и 112 успешных записей, по 1 неудачной попытке, запись возобновилась через 1,75 и 1,734 с; в обоих раундах тест остановил реплику `45517da31576` (api-2), так как она обслужила первое сообщение; обе реплики покрыты сценарием `upload-stop` выше | `05-failover.txt` |
|
||||
| Restart с сохранением volumes сохраняет метаданные и оригинал | `tests/resilience.py --mode persistence`, hook `restart.cmd` (postgres, s3, api, lb) | PASS; после рестарта в БД users=26, chats=12, messages=247, sessions=26, idempotency_keys=247, attachments=6; объектов в S3 до 5, после 6 (+1 вложение создал сам тест) | `06-persistence.txt` |
|
||||
| Hook перезапускает реальные процессы | `docker inspect -f StartedAt` до/после | у `postgres`, `s3`, `api-1`, `api-2`, `lb` значение `StartedAt` изменилось, `RestartCount=0` | `06-persistence.txt` |
|
||||
| Недоступность S3 | `lab4_checks.py --mode s3-outage` (`docker compose stop s3`) | PASS (9 проверок): при остановленном S3 загрузка — 503 `unavailable` за 8,1 с (дедлайн), скачивание — 503, метаданные — 200, обычное сообщение и сообщение со старым вложением — 201, `/health/ready` — 200; после старта S3 загрузка снова 201 (через 25 с), старое вложение скачивается (через 1,1 с, 2 попытки: «предохранитель» реплики) | `10-s3-down.txt` |
|
||||
| Идемпотентность и сообщения с вложениями (повтор, другой набор вложений — 409) | `lab3_checks.py --mode idem`, `lab4_checks.py` | PASS: повтор того же ключа возвращает то же сообщение; другое тело или другой набор вложений — 409; 30 параллельных повторов через обе реплики дают одно сообщение; вложение другого чата, неизвестное, повтор id и более 10 вложений отклоняются (404/400) | `03-student-checks.txt` |
|
||||
| Миграции однократно отдельным шагом, повтор безопасен | `docker compose ps -a migrate`, `run --rm migrate` | `migrate` — Exited (0); в `schema_migrations` три записи (001, 002, 003) без дублей; три повторных запуска — `migrations: ok, latest = 003_attachments.sql`; API стартуют с `RUN_MIGRATIONS=0` | `07-db-migrations.txt` |
|
||||
| Пароли Argon2id, токены только как sha256 | `select left(password_hash,10)`, `length(token_hash)` | 26 из 26 хэшей начинаются с `$argon2id$`; 26 из 26 `token_hash` длиной 32 байта | `07-db-migrations.txt` |
|
||||
| Секреты и volumes вне Git | `git check-ignore`, `git ls-files` | `secrets/` и `.env` игнорируются, отслеживаемых секретов нет | `12-git-hygiene.txt` |
|
||||
|
||||
TODO: добавить отдельную строку для каждого заявленного критерия. PASS без команды и наблюдения не является доказательством. Проверка инфраструктурного hook требует подтверждения, какие реальные процессы/хранилища перезапущены.
|
||||
Примечание к проверке hook: тесты подтверждают сохранность данных, сессии и оригинала, а какие процессы перезапущены или остановлены, показывают `docker ps -a` и `StartedAt` в `05-failover.txt` и `06-persistence.txt`.
|
||||
|
||||
## Эксперименты и отказы
|
||||
|
||||
TODO: гипотеза, hardware/лимиты, версии, объём данных, профиль нагрузки, concurrency/arrival rate, длительность/прогрев, повторы, успешные RPS, ошибки, p50/p95/p99, CPU/RAM. Сохранить raw summary без tokens и объяснить ограничения измерения.
|
||||
Нагрузочные измерения (RPS, p50/p95/p99, пик памяти при параллельных загрузках) на уровне 3 не проводились. Проверены отказы:
|
||||
|
||||
| Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных |
|
||||
| --- | --- | --- | --- |
|
||||
| TODO | TODO | TODO | TODO |
|
||||
| Остановка API-реплики, принявшей файл (`api-1`, `2c12200fa922`) | файл скачивается через другую реплику, байты те же | PASS: файл принят репликой 1, реплика остановлена, файл отдан репликой 2 с теми же байтами | файл снова доступен через 2,31 с после запуска hook; потерь нет |
|
||||
| То же для второй реплики (`api-2`, `45517da31576`) | то же | PASS: файл принят репликой 2, реплика остановлена, файл отдан репликой 1 | 1,29 с; потерь нет |
|
||||
| Failover lab3 (два раунда, обе останавливали `api-2`) | запись возобновляется <=10 с, дублей нет | PASS: 118 и 112 успешных записей, 1 неудачная попытка за раунд (повторена с тем же ключом), реплика исключена из ротации | 1,75 и 1,734 с до возобновления записи; реплика возвращена командой `docker compose start api` и видна через LB через 3-5 с; потерь и дублей нет |
|
||||
| Рестарт PostgreSQL, S3, API и LB (`scripts/restart.*`) | метаданные и оригинал сохраняются | PASS persistence; у всех пяти контейнеров изменился `StartedAt`; данные и оригинал сохранены | рестарт всего стенда вместе с ожиданием S3: готов через 54 с (S3 стартует около 20 с); потерь нет |
|
||||
| `docker compose stop s3` при живых API и PostgreSQL | загрузка и скачивание — 503 за ограниченное время; текст, метаданные и `/health/ready` — работают | PASS: загрузка — 503 за 8,1 с (дедлайн PUT 8 с; в первом прогоне без дедлайна было 15,4 с), скачивание — 503, остальной API работает; за 41 с недоступности остались 15 строк `uploading`, `python -m app.sweep --grace 0` удалил их все | после старта S3 загрузка снова работает через 25 с, скачивание старого вложения — через 1,1 с (повтор из-за 5-секундного «предохранителя» реплики); после очистки в БД 32 `ready` и в S3 32 объекта |
|
||||
| `docker compose stop postgres` | `ready` недоступен, LB отвечает 503; после старта БД сервис возвращается | `/health/ready` и `/api/v1/users/me` через LB — 503 | `ready` и две реплики вернулись через 4 с; потерь нет |
|
||||
|
||||
Версии, лимиты и загрузка на момент прогона — `evidence/01-env.txt`.
|
||||
|
||||
## Ограничения и следующие шаги
|
||||
|
||||
TODO: какие отказы выдерживаются и какие нет; что не реализовано; где учебное упрощение; какое улучшение подтверждено, а какое пока гипотеза.
|
||||
- Уровень 4 и трек 5 не заявлены. Для уровня 4 не хватает: измерения пика памяти при >=10 одновременных загрузках и потоковой передачи в S3 (сейчас тело файла целиком буферизуется в памяти реплики, максимум 10 MiB на загрузку, поэтому одновременные загрузки линейно увеличивают RAM). Остальные пункты 4 (тесты ошибок, компенсация и очистка, идемпотентный bootstrap и ограниченные ключи, приватность вне API) реализованы, но формально не заявлены.
|
||||
- `sweep` запускается вручную (`python -m app.sweep`), по расписанию не выполняется: до очистки незавершённые загрузки (`uploading`) остаются в БД и, возможно, в S3.
|
||||
- Если PUT выполнился, а сервер не получил подтверждения и удалить объект не удалось, объект остаётся до `sweep`; клиент в это время получает 503 и должен повторить загрузку.
|
||||
- Приватность S3 в compose-сети: S3 не публикуется наружу, но filer SeaweedFS (порт 8888) внутри сети compose не требует аутентификации. Скомпрометированный контейнер API мог бы обратиться к нему напрямую. Для учебного стенда принято, для промышленного нужна отдельная сеть для S3 и закрытый filer.
|
||||
- Проверка изображений структурная (CRC, сегменты, заголовки), пиксели не декодируются: файл, у которого корректны заголовки и контрольные суммы, но битые сжатые данные, будет принят. Это сознательный компромисс против decompression bomb.
|
||||
- Нет перекодирования, миниатюр и вариантов изображений, поэтому `variants` всегда пуст.
|
||||
- SPOF сохраняются из lab3: один LB, одна PostgreSQL, один S3 без репликации и один Docker host.
|
||||
- Время сообщения берётся из `clock_timestamp()`; при конкурентных вставках в один чат порядок коммитов может не совпасть с порядком времени.
|
||||
- `X-Instance-Id` раскрывает короткий ID контейнера (допустимо для lab4).
|
||||
- Образы закреплены по тегам, не по digest. Если тег `chrislusf/seaweedfs:4.42` недоступен для скачивания, замените его на ближайший доступный `4.x` и укажите это в отчёте.
|
||||
- Реализация учебная: работоспособна и проверена на локальном стенде, но не претендует на промышленную готовность.
|
||||
|
||||
## Windows (без make)
|
||||
|
||||
```sh
|
||||
python tests/smoke.py --base-url http://localhost:8080
|
||||
python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd --base-url http://localhost:8080
|
||||
python tests/resilience.py --mode persistence --action-script scripts/restart.cmd --base-url http://localhost:8080
|
||||
```
|
||||
|
||||
Секреты: `sh scripts/setup-secrets.sh` из Git Bash. Docker Desktop с бэкендом WSL2.
|
||||
|
||||
+139
@@ -0,0 +1,139 @@
|
||||
# Стенд lab4: клиент -> lb (HAProxy) -> api x N -> postgres (метаданные, сессии, идемпотентность) и s3 (байты вложений).
|
||||
# Запуск: sh scripts/setup-secrets.sh && docker compose up -d --build
|
||||
name: mtusi-lab4
|
||||
|
||||
services:
|
||||
postgres:
|
||||
image: postgres:16.4-alpine
|
||||
restart: unless-stopped
|
||||
environment:
|
||||
POSTGRES_USER: msg
|
||||
POSTGRES_DB: msg
|
||||
POSTGRES_PASSWORD_FILE: /run/secrets/pg_password
|
||||
secrets: [pg_password]
|
||||
volumes:
|
||||
- pgdata:/var/lib/postgresql/data
|
||||
healthcheck:
|
||||
test: ["CMD-SHELL", "pg_isready -U msg -d msg"]
|
||||
interval: 3s
|
||||
timeout: 3s
|
||||
retries: 20
|
||||
|
||||
# Приватное S3-хранилище (SeaweedFS). Порты наружу не публикуются, анонимного доступа нет, данные в томе s3data.
|
||||
# entrypoint заменён на weed: стандартный entrypoint образа добавил бы собственные флаги (предвыделение томов).
|
||||
s3:
|
||||
image: chrislusf/seaweedfs:4.42
|
||||
restart: unless-stopped
|
||||
entrypoint: ["weed"]
|
||||
command: ["server", "-dir=/data", "-s3", "-s3.config=/run/secrets/s3_config", "-ip.bind=0.0.0.0",
|
||||
"-master.volumeSizeLimitMB=256", "-volume.max=30"]
|
||||
secrets: [s3_config]
|
||||
volumes:
|
||||
- s3data:/data
|
||||
expose: ["8333"]
|
||||
stop_grace_period: 20s
|
||||
healthcheck:
|
||||
test: ["CMD-SHELL", "wget -q -O /dev/null http://127.0.0.1:8333/healthz"]
|
||||
interval: 3s
|
||||
timeout: 3s
|
||||
retries: 40
|
||||
start_period: 5s
|
||||
|
||||
# Одноразовая миграция: выполняется один раз перед запуском реплик, а не гонкой всех реплик при старте.
|
||||
migrate:
|
||||
build: .
|
||||
image: mtusi-lab4-api:1
|
||||
command: ["python", "-m", "app.migrate"]
|
||||
restart: "no"
|
||||
depends_on:
|
||||
postgres: {condition: service_healthy}
|
||||
environment:
|
||||
DATABASE_URL_FILE: /run/secrets/database_url
|
||||
secrets: [database_url]
|
||||
|
||||
# Одноразовая подготовка S3: создаёт приватный bucket (идемпотентно) и проверяет права ключа API и отказ анониму.
|
||||
s3-init:
|
||||
build: .
|
||||
image: mtusi-lab4-api:1
|
||||
command: ["python", "-m", "app.s3init"]
|
||||
restart: "no"
|
||||
depends_on:
|
||||
s3: {condition: service_healthy}
|
||||
environment:
|
||||
S3_ENDPOINT: http://s3:8333
|
||||
S3_BUCKET: ${S3_BUCKET:-messenger-attachments}
|
||||
S3_ACCESS_KEY_ID_FILE: /run/secrets/s3_access_key_id
|
||||
S3_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_secret_access_key
|
||||
S3_ADMIN_ACCESS_KEY_ID_FILE: /run/secrets/s3_admin_access_key_id
|
||||
S3_ADMIN_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_admin_secret_access_key
|
||||
secrets: [s3_access_key_id, s3_secret_access_key, s3_admin_access_key_id, s3_admin_secret_access_key]
|
||||
|
||||
# Один сервис, несколько одинаковых реплик; без container_name и без опубликованных портов.
|
||||
api:
|
||||
build: .
|
||||
image: mtusi-lab4-api:1
|
||||
restart: unless-stopped
|
||||
deploy:
|
||||
replicas: ${API_REPLICAS:-2}
|
||||
depends_on:
|
||||
postgres: {condition: service_healthy}
|
||||
migrate: {condition: service_completed_successfully}
|
||||
s3-init: {condition: service_completed_successfully}
|
||||
environment:
|
||||
DATABASE_URL_FILE: /run/secrets/database_url
|
||||
RUN_MIGRATIONS: "0"
|
||||
S3_ENDPOINT: http://s3:8333
|
||||
S3_REGION: ${S3_REGION:-us-east-1}
|
||||
S3_BUCKET: ${S3_BUCKET:-messenger-attachments}
|
||||
S3_ACCESS_KEY_ID_FILE: /run/secrets/s3_access_key_id
|
||||
S3_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_secret_access_key
|
||||
MAX_UPLOAD_BYTES: ${MAX_UPLOAD_BYTES:-10485760}
|
||||
MAX_IMAGE_PIXELS: ${MAX_IMAGE_PIXELS:-40000000}
|
||||
SESSION_TTL_SECONDS: ${SESSION_TTL_SECONDS:-3600}
|
||||
IDEMPOTENCY_TTL_SECONDS: ${IDEMPOTENCY_TTL_SECONDS:-86400}
|
||||
APP_ENV: ${APP_ENV:-lab}
|
||||
secrets: [database_url, s3_access_key_id, s3_secret_access_key]
|
||||
expose: ["8080"]
|
||||
stop_grace_period: 15s
|
||||
healthcheck:
|
||||
test: ["CMD", "python", "-c", "import urllib.request as u;u.urlopen('http://127.0.0.1:8080/health/ready',timeout=2)"]
|
||||
interval: 3s
|
||||
timeout: 3s
|
||||
retries: 10
|
||||
start_period: 5s
|
||||
|
||||
# Единственная публичная точка входа. Адреса реплик берутся из DNS Docker и обновляются каждую секунду.
|
||||
lb:
|
||||
image: haproxy:2.8.10-alpine
|
||||
restart: unless-stopped
|
||||
stop_grace_period: 10s
|
||||
depends_on:
|
||||
api: {condition: service_healthy}
|
||||
ports: ["127.0.0.1:8080:8080"]
|
||||
volumes:
|
||||
- ./infra/haproxy/haproxy.cfg:/usr/local/etc/haproxy/haproxy.cfg:ro
|
||||
healthcheck:
|
||||
test: ["CMD-SHELL", "wget -q -O /dev/null http://127.0.0.1:8081/healthz"]
|
||||
interval: 3s
|
||||
timeout: 3s
|
||||
retries: 10
|
||||
|
||||
secrets:
|
||||
pg_password:
|
||||
file: ./secrets/pg_password
|
||||
database_url:
|
||||
file: ./secrets/database_url
|
||||
s3_config:
|
||||
file: ./secrets/s3_config.json
|
||||
s3_access_key_id:
|
||||
file: ./secrets/s3_access_key_id
|
||||
s3_secret_access_key:
|
||||
file: ./secrets/s3_secret_access_key
|
||||
s3_admin_access_key_id:
|
||||
file: ./secrets/s3_admin_access_key_id
|
||||
s3_admin_secret_access_key:
|
||||
file: ./secrets/s3_admin_secret_access_key
|
||||
|
||||
volumes:
|
||||
pgdata:
|
||||
s3data:
|
||||
@@ -0,0 +1,218 @@
|
||||
# 00 чистый старт (2026-11-14T10:58:41Z)
|
||||
$ docker compose down -v
|
||||
Container mtusi-lab4-lb-1 Stopping
|
||||
Container mtusi-lab4-lb-1 Stopped
|
||||
Container mtusi-lab4-lb-1 Removing
|
||||
Container mtusi-lab4-lb-1 Removed
|
||||
Container mtusi-lab4-api-1 Stopping
|
||||
Container mtusi-lab4-api-2 Stopping
|
||||
Container mtusi-lab4-api-1 Stopped
|
||||
Container mtusi-lab4-api-1 Removing
|
||||
Container mtusi-lab4-api-1 Removed
|
||||
Container mtusi-lab4-api-2 Stopped
|
||||
Container mtusi-lab4-api-2 Removing
|
||||
Container mtusi-lab4-api-2 Removed
|
||||
Container mtusi-lab4-s3-init-1 Stopping
|
||||
Container mtusi-lab4-migrate-1 Stopping
|
||||
Container mtusi-lab4-s3-init-1 Stopped
|
||||
Container mtusi-lab4-s3-init-1 Removing
|
||||
Container mtusi-lab4-migrate-1 Stopped
|
||||
Container mtusi-lab4-migrate-1 Removing
|
||||
Container mtusi-lab4-s3-init-1 Removed
|
||||
Container mtusi-lab4-s3-1 Stopping
|
||||
Container mtusi-lab4-migrate-1 Removed
|
||||
Container mtusi-lab4-postgres-1 Stopping
|
||||
Container mtusi-lab4-postgres-1 Stopped
|
||||
Container mtusi-lab4-postgres-1 Removing
|
||||
Container mtusi-lab4-postgres-1 Removed
|
||||
Container mtusi-lab4-s3-1 Stopped
|
||||
Container mtusi-lab4-s3-1 Removing
|
||||
Container mtusi-lab4-s3-1 Removed
|
||||
Volume mtusi-lab4_s3data Removing
|
||||
Volume mtusi-lab4_pgdata Removing
|
||||
Network mtusi-lab4_default Removing
|
||||
Volume mtusi-lab4_pgdata Removed
|
||||
Volume mtusi-lab4_s3data Removed
|
||||
Network mtusi-lab4_default Removed
|
||||
$ sh scripts/setup-secrets.sh
|
||||
secrets: ok (значения не печатаются)
|
||||
secrets: ok (значения не печатаются)
|
||||
$ docker compose up -d --build
|
||||
Compose can now delegate builds to bake for better performance.
|
||||
To do so, set COMPOSE_BAKE=true.
|
||||
#0 building with "desktop-linux" instance using docker driver
|
||||
|
||||
#1 [s3-init internal] load build definition from Dockerfile
|
||||
#1 transferring dockerfile: 535B done
|
||||
#1 DONE 0.0s
|
||||
|
||||
#2 [migrate internal] load build definition from Dockerfile
|
||||
#2 transferring dockerfile: 535B 0.0s done
|
||||
#2 DONE 0.0s
|
||||
|
||||
#3 [migrate internal] load metadata for docker.io/library/python:3.12.7-slim-bookworm
|
||||
#3 DONE 1.4s
|
||||
|
||||
#4 [migrate internal] load .dockerignore
|
||||
#4 transferring context: 216B done
|
||||
#4 DONE 0.0s
|
||||
|
||||
#5 [s3-init internal] load .dockerignore
|
||||
#5 transferring context: 216B done
|
||||
#5 DONE 0.0s
|
||||
|
||||
#6 [migrate 1/6] FROM docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d
|
||||
#6 resolve docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d 0.0s done
|
||||
#6 DONE 0.0s
|
||||
|
||||
#7 [s3-init internal] load build context
|
||||
#7 transferring context: 53.68kB done
|
||||
#7 DONE 0.0s
|
||||
|
||||
#8 [migrate internal] load build context
|
||||
#8 transferring context: 53.68kB done
|
||||
#8 DONE 0.0s
|
||||
|
||||
#9 [s3-init 2/6] WORKDIR /app
|
||||
#9 CACHED
|
||||
|
||||
#10 [s3-init 3/6] COPY src/requirements.txt .
|
||||
#10 CACHED
|
||||
|
||||
#11 [migrate 4/6] RUN pip install --no-cache-dir -r requirements.txt
|
||||
#11 CACHED
|
||||
|
||||
#12 [s3-init 5/6] COPY src/ .
|
||||
#12 DONE 0.0s
|
||||
|
||||
#13 [s3-init 6/6] RUN useradd -r -u 10001 appuser
|
||||
#13 0.340 useradd warning: appuser's uid 10001 is greater than SYS_UID_MAX 999
|
||||
#13 DONE 0.4s
|
||||
|
||||
#14 [s3-init] exporting to image
|
||||
#14 exporting layers 0.1s done
|
||||
#14 exporting manifest sha256:4ae2a791bbba577bcb815375108ea737a327a44f3cb92b050371582871ca77a1 0.0s done
|
||||
#14 exporting config sha256:fd2ebb00c346e3417687248874a92ffcf783d91a1cc83d788d70d5bfea6d0544 0.0s done
|
||||
#14 exporting attestation manifest sha256:ae0da9de98954a73ad89771c32e4f4d1a8a061ce5fa1a3624287d97b91a368c4
|
||||
#14 exporting attestation manifest sha256:ae0da9de98954a73ad89771c32e4f4d1a8a061ce5fa1a3624287d97b91a368c4 0.1s done
|
||||
#14 exporting manifest list sha256:e51688c9cb5dc910f9520e2eb97fefa0d9e1d284df053199f4a2fa3b6a0a8cb0 0.0s done
|
||||
#14 naming to docker.io/library/mtusi-lab4-api:1
|
||||
#14 naming to docker.io/library/mtusi-lab4-api:1 0.0s done
|
||||
#14 unpacking to docker.io/library/mtusi-lab4-api:1 0.1s done
|
||||
#14 DONE 0.4s
|
||||
|
||||
#15 [migrate] exporting to image
|
||||
#15 exporting layers 0.1s done
|
||||
#15 exporting manifest sha256:d4b8df4de55e399aa1f89ec53b8fd34515066d4e32a3d2da4584d541275b3230 0.0s done
|
||||
#15 exporting config sha256:e859f5e9831d26a74f7f454640182463334862757cbb876e878ebc60464ae04d 0.0s done
|
||||
#15 exporting attestation manifest sha256:9bdce302a45c5a9ba9bc835944c8aa6fc46f18c25817a5d63aa987840ca12387 0.1s done
|
||||
#15 exporting manifest list sha256:76901d91a4007adbe41c8041eeabb616dd078be07048f3dbdef5f0f5fee4ff57 0.0s done
|
||||
#15 naming to docker.io/library/mtusi-lab4-api:1 done
|
||||
#15 unpacking to docker.io/library/mtusi-lab4-api:1 0.1s done
|
||||
#15 DONE 0.5s
|
||||
|
||||
#16 [s3-init] resolving provenance for metadata file
|
||||
#16 DONE 0.0s
|
||||
|
||||
#17 [migrate] resolving provenance for metadata file
|
||||
#17 DONE 0.0s
|
||||
|
||||
#18 [api internal] load build definition from Dockerfile
|
||||
#18 transferring dockerfile: 535B done
|
||||
#18 DONE 0.0s
|
||||
|
||||
#3 [api internal] load metadata for docker.io/library/python:3.12.7-slim-bookworm
|
||||
#3 DONE 1.7s
|
||||
|
||||
#19 [api internal] load .dockerignore
|
||||
#19 transferring context: 216B done
|
||||
#19 DONE 0.0s
|
||||
|
||||
#6 [api 1/6] FROM docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d
|
||||
#6 resolve docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d 0.0s done
|
||||
#6 DONE 0.1s
|
||||
|
||||
#20 [api internal] load build context
|
||||
#20 transferring context: 538B done
|
||||
#20 DONE 0.0s
|
||||
|
||||
#21 [api 3/6] COPY src/requirements.txt .
|
||||
#21 CACHED
|
||||
|
||||
#22 [api 4/6] RUN pip install --no-cache-dir -r requirements.txt
|
||||
#22 CACHED
|
||||
|
||||
#23 [api 5/6] COPY src/ .
|
||||
#23 CACHED
|
||||
|
||||
#9 [api 2/6] WORKDIR /app
|
||||
#9 CACHED
|
||||
|
||||
#24 [api 6/6] RUN useradd -r -u 10001 appuser
|
||||
#24 CACHED
|
||||
|
||||
#25 [api] exporting to image
|
||||
#25 exporting layers done
|
||||
#25 exporting manifest sha256:e340936d2ef95177fc4964b2ae581b17640ba56d9c391e5c1a919f762e75c1de 0.0s done
|
||||
#25 exporting config sha256:962e9fd67f6859d238fcc659d62158046c2b41e06ac7728888f37c8d1cb2888c
|
||||
#25 exporting config sha256:962e9fd67f6859d238fcc659d62158046c2b41e06ac7728888f37c8d1cb2888c 0.0s done
|
||||
#25 exporting attestation manifest sha256:b791b5198f6c076c00999275b27ec867bf9dad754f65c4f53cbbe5e4ee3bf72c 0.0s done
|
||||
#25 exporting manifest list sha256:2cc1a39bf9a24bc4274e218d769668dfff377fe32863850f110697231fbebbc3 0.0s done
|
||||
#25 naming to docker.io/library/mtusi-lab4-api:1 done
|
||||
#25 unpacking to docker.io/library/mtusi-lab4-api:1 0.0s done
|
||||
#25 DONE 0.1s
|
||||
|
||||
#26 [api] resolving provenance for metadata file
|
||||
#26 DONE 0.0s
|
||||
api Built
|
||||
migrate Built
|
||||
s3-init Built
|
||||
Network mtusi-lab4_default Creating
|
||||
Network mtusi-lab4_default Created
|
||||
Volume "mtusi-lab4_pgdata" Creating
|
||||
Volume "mtusi-lab4_pgdata" Created
|
||||
Volume "mtusi-lab4_s3data" Creating
|
||||
Volume "mtusi-lab4_s3data" Created
|
||||
Container mtusi-lab4-postgres-1 Creating
|
||||
Container mtusi-lab4-s3-1 Creating
|
||||
Container mtusi-lab4-s3-1 Created
|
||||
Container mtusi-lab4-s3-init-1 Creating
|
||||
Container mtusi-lab4-postgres-1 Created
|
||||
Container mtusi-lab4-migrate-1 Creating
|
||||
Container mtusi-lab4-s3-init-1 Created
|
||||
Container mtusi-lab4-migrate-1 Created
|
||||
Container mtusi-lab4-api-2 Creating
|
||||
Container mtusi-lab4-api-1 Creating
|
||||
Container mtusi-lab4-api-2 Created
|
||||
Container mtusi-lab4-api-1 Created
|
||||
Container mtusi-lab4-lb-1 Creating
|
||||
Container mtusi-lab4-lb-1 Created
|
||||
Container mtusi-lab4-s3-1 Starting
|
||||
Container mtusi-lab4-postgres-1 Starting
|
||||
Container mtusi-lab4-postgres-1 Started
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Started
|
||||
Container mtusi-lab4-s3-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Starting
|
||||
Container mtusi-lab4-migrate-1 Started
|
||||
Container mtusi-lab4-s3-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Starting
|
||||
Container mtusi-lab4-s3-init-1 Started
|
||||
Container mtusi-lab4-s3-init-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Exited
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Exited
|
||||
Container mtusi-lab4-api-1 Starting
|
||||
Container mtusi-lab4-api-1 Started
|
||||
Container mtusi-lab4-api-2 Starting
|
||||
Container mtusi-lab4-api-2 Started
|
||||
Container mtusi-lab4-api-1 Waiting
|
||||
Container mtusi-lab4-api-2 Waiting
|
||||
Container mtusi-lab4-api-1 Healthy
|
||||
Container mtusi-lab4-api-2 Healthy
|
||||
Container mtusi-lab4-lb-1 Starting
|
||||
Container mtusi-lab4-lb-1 Started
|
||||
ready через 19 с после запуска up
|
||||
@@ -0,0 +1,61 @@
|
||||
# 01 окружение (2026-11-14T10:59:26Z)
|
||||
commit: ec540a1a725862a8619fcb758daec4ad197f0dd5
|
||||
git status:
|
||||
M REPORT.md
|
||||
A scripts/collect-evidence.sh
|
||||
A scripts/restart.sh
|
||||
A scripts/setup-secrets.sh
|
||||
A scripts/stop-one.sh
|
||||
?? .gitattributes
|
||||
?? Dockerfile
|
||||
?? compose.yaml
|
||||
?? evidence/00-clean-start.txt
|
||||
?? evidence/01-env.txt
|
||||
?? evidence/02-smoke.txt
|
||||
?? evidence/03-student-checks.txt
|
||||
?? evidence/04-load-balancing.txt
|
||||
?? evidence/05-failover.txt
|
||||
?? evidence/06-persistence.txt
|
||||
?? evidence/07-db-migrations.txt
|
||||
?? evidence/08-s3-storage.txt
|
||||
?? evidence/09-db-down.txt
|
||||
?? evidence/10-s3-down.txt
|
||||
?? evidence/11-lb-config.txt
|
||||
$ docker version
|
||||
client=28.0.4 server=28.0.4 os=linux/amd64
|
||||
$ docker compose version
|
||||
Docker Compose version v2.34.0-desktop.1
|
||||
python: Python 3.11.5
|
||||
$ docker compose config --quiet
|
||||
compose config: OK
|
||||
$ docker compose images
|
||||
CONTAINER REPOSITORY TAG IMAGE ID SIZE
|
||||
mtusi-lab4-api-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
|
||||
mtusi-lab4-api-2 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
|
||||
mtusi-lab4-lb-1 haproxy 2.8.10-alpine 54af6e4943e4 12.2MB
|
||||
mtusi-lab4-migrate-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
|
||||
mtusi-lab4-postgres-1 postgres 16.4-alpine 5660c2cbfea5 99.2MB
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs 4.42 f7cbc8bdbbf6 106MB
|
||||
mtusi-lab4-s3-init-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
|
||||
$ docker compose ps -a
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 17 seconds ago Up 9 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 17 seconds ago Up 8 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 17 seconds ago Up 3 seconds (health: starting) 127.0.0.1:8080->8080/tcp
|
||||
mtusi-lab4-migrate-1 mtusi-lab4-api:1 "python -m app.migra…" migrate 18 seconds ago Exited (0) 12 seconds ago
|
||||
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 18 seconds ago Up 17 seconds (healthy) 5432/tcp
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 18 seconds ago Up 17 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
|
||||
mtusi-lab4-s3-init-1 mtusi-lab4-api:1 "python -m app.s3init" s3-init 18 seconds ago Exited (0) 9 seconds ago
|
||||
$ docker volume ls (pgdata)
|
||||
local mtusi2026lab2_pgdata
|
||||
local mtusi-lab3_pgdata
|
||||
local mtusi-lab4_pgdata
|
||||
$ docker stats --no-stream
|
||||
NAME CPU % MEM USAGE / LIMIT
|
||||
mtusi-lab4-api-1 0.55% 39.4MiB / 7.694GiB
|
||||
mtusi-lab4-api-2 0.43% 39.11MiB / 7.694GiB
|
||||
mtusi-lab4-lb-1 0.57% 12.05MiB / 7.694GiB
|
||||
mtusi-lab4-postgres-1 0.45% 46.62MiB / 7.694GiB
|
||||
mtusi-lab4-s3-1 0.19% 46.34MiB / 7.694GiB
|
||||
$ docker info (лимиты хоста)
|
||||
CPUs=16 Mem=8261029888
|
||||
@@ -0,0 +1,7 @@
|
||||
# 02 публичные проверки через LB (2026-11-14T10:59:31Z)
|
||||
$ python scripts/check_contract.py
|
||||
PASS: offline skeleton structure, local refs and Python syntax; application NOT tested.
|
||||
exit code: 0
|
||||
$ python tests/smoke.py --base-url http://localhost:8080
|
||||
PASS: lab4 public API scenario; infrastructure and grading evidence remain separate.
|
||||
exit code: 0
|
||||
@@ -0,0 +1,131 @@
|
||||
# 03 собственные проверки (2026-11-14T15:45:54Z)
|
||||
$ python student-tests/lab3_checks.py --base-url http://localhost:8080
|
||||
PASS: повторный username -> 409
|
||||
PASS: пароль короче 12 -> 400
|
||||
PASS: лишнее поле -> 400
|
||||
PASS: User не содержит пароль/hash/токен
|
||||
PASS: гонка одинакового username: ровно один 201, остальные 409
|
||||
PASS: неверный пароль и неизвестный пользователь неразличимы (401, тот же code/message/заголовок)
|
||||
PASS: вход JSON-телом без Basic -> 401
|
||||
PASS: Bearer на POST /auth/sessions -> 401
|
||||
PASS: токен >=256 бит, token_type Bearer
|
||||
PASS: Basic на бизнес-endpoint -> 401 + WWW-Authenticate: Bearer
|
||||
PASS: один X-User-Id доступа не даёт
|
||||
PASS: X-User-Id игнорируется: владелец определяется токеном
|
||||
PASS: неизвестный токен -> 401
|
||||
PASS: X-Request-Id совпадает с request_id в теле ошибки
|
||||
PASS: чат с неизвестным участником -> 400
|
||||
PASS: после отказа новый чат не появился (нет частичной записи)
|
||||
PASS: чат создан с обоими участниками
|
||||
PASS: создатель обязан быть среди member_ids -> 400
|
||||
PASS: посторонний: GET /chat -> 404
|
||||
PASS: посторонний: GET /messages -> 404
|
||||
PASS: посторонний не может писать -> 404
|
||||
PASS: неверный UUID /chats/not-a-uuid -> 400
|
||||
PASS: неверный UUID /chats/not-a-uuid/messages -> 400
|
||||
PASS: sender_id в запросе не принимается -> 400
|
||||
PASS: пробельный текст -> 400
|
||||
PASS: отправитель берётся из токена
|
||||
PASS: пагинация limit=2: без повторов, все 6 сообщений
|
||||
PASS: cursor от другого чата -> 400
|
||||
PASS: ?limit=0 -> 400
|
||||
PASS: ?limit=101 -> 400
|
||||
PASS: ?limit=abc -> 400
|
||||
PASS: ?limit=%2B5 -> 400
|
||||
PASS: ?limit=2&limit=3 -> 400
|
||||
PASS: тело >1 MiB -> 413
|
||||
PASS: не JSON Content-Type -> 415
|
||||
PASS: битый JSON -> 400
|
||||
PASS: logout -> 204
|
||||
PASS: повторный logout с отозванным токеном -> 401
|
||||
PASS: отозванный токен -> 401 + WWW-Authenticate: Bearer
|
||||
PASS: logout одного пользователя не затрагивает чужие сессии
|
||||
PASS: все проверки режима 'main'
|
||||
exit code: 0
|
||||
$ python student-tests/lab3_checks.py --base-url http://localhost:8080 --mode idem --min-instances 2
|
||||
PASS: через LB отвечают >= 2 реплик с одним токеном (X-Instance-Id: 2)
|
||||
PASS: повтор с тем же ключом: тот же 201 и то же сообщение
|
||||
PASS: повтор не создал дубль
|
||||
PASS: тот же ключ с другим телом -> 409
|
||||
PASS: тот же ключ и то же тело (другое форматирование JSON) -> тот же результат
|
||||
PASS: тот же ключ в другом чате независим
|
||||
PASS: тот же ключ у другого пользователя независим
|
||||
PASS: нет Idempotency-Key -> 400
|
||||
PASS: неверный ключ 'bad key!' -> 400
|
||||
PASS: неверный ключ 'a/b' -> 400
|
||||
PASS: неверный ключ 'aaaaaaaaaaaa' -> 400
|
||||
PASS: неверный ключ '' -> 400
|
||||
PASS: посторонний с тем же ключом -> 404 (доступ проверяется при повторе)
|
||||
PASS: без токена -> 401
|
||||
PASS: 30 параллельных запросов с одним ключом: все 201 и одно и то же сообщение
|
||||
PASS: в истории ровно одно такое сообщение
|
||||
INFO: параллельные повторы обслужили реплики: ['2c12200fa922', '45517da31576']
|
||||
PASS: параллельно один ключ и два разных тела: победитель один, остальным другого тела -> 409
|
||||
PASS: создано ровно одно сообщение из конкурирующих
|
||||
PASS: повтор с отозванным токеном -> 401
|
||||
PASS: все проверки режима 'idem'
|
||||
exit code: 0
|
||||
$ python student-tests/lab4_checks.py --base-url http://localhost:8080 (вложения: форматы, лимиты, права, сообщения)
|
||||
PASS: загрузка PNG -> 201, status ready, ожидаемые поля
|
||||
PASS: в ответе есть X-Instance-Id и X-Request-Id
|
||||
PASS: загрузка JPEG -> 201 и верный sha256
|
||||
PASS: созданный PNG другого размера -> 201
|
||||
PASS: метаданные доступны другому участнику чата
|
||||
PASS: скачивание: байты совпадают, Content-Type верный, nosniff
|
||||
PASS: Content-Length равен размеру
|
||||
PASS: метаданные постороннему -> 404
|
||||
PASS: содержимое постороннему -> 404
|
||||
PASS: без токена -> 401
|
||||
PASS: неверный UUID -> 400
|
||||
PASS: неизвестный UUID -> 404
|
||||
PASS: загрузка в чужой чат -> 404
|
||||
PASS: загрузка без токена -> 401
|
||||
PASS: загрузка в неверный UUID чата -> 400
|
||||
PASS: ?variant=thumbnail (вариантов нет) -> 404
|
||||
PASS: ?variant=bogus -> 400
|
||||
PASS: ?variant=original -> 200
|
||||
PASS: filename: слэш -> 400
|
||||
PASS: filename: обратный слэш -> 400
|
||||
PASS: filename: NUL -> 400
|
||||
PASS: filename: перевод строки -> 400
|
||||
PASS: filename: пустое -> 400
|
||||
PASS: filename: пробелы -> 400
|
||||
PASS: filename: 256 символов -> 400
|
||||
PASS: filename не указан -> 400
|
||||
PASS: filename из 255 символов -> 201
|
||||
PASS: имя «../..» без разделителей принимается и не влияет на ключ объекта
|
||||
PASS: Content-Type text/plain -> 415
|
||||
PASS: Content-Type image/gif -> 415
|
||||
PASS: PNG под видом image/jpeg -> 415
|
||||
PASS: текст под видом image/png -> 415
|
||||
PASS: пустое тело -> 415
|
||||
PASS: PNG с повреждённым блоком (CRC) -> 415
|
||||
PASS: усечённый PNG -> 415
|
||||
PASS: PNG с мусором в конце -> 415
|
||||
PASS: усечённый JPEG -> 415
|
||||
PASS: JPEG под видом image/png -> 415
|
||||
PASS: ровно 40 000 000 пикселей (8000x5000) -> 201
|
||||
PASS: 40 005 000 пикселей (8001x5000) -> 413
|
||||
PASS: «бомба» 20000x20000 малого размера -> 413
|
||||
PASS: тело 10 MiB + 1 байт -> 413
|
||||
PASS: сообщение только с вложением (text='') -> 201 с attachment_ids
|
||||
PASS: attachment_ids=[] даёт обычное сообщение с пустым массивом
|
||||
PASS: без attachment_ids в ответе всё равно attachment_ids=[]
|
||||
PASS: пустой текст без вложений -> 400
|
||||
PASS: пробельный текст без вложений -> 400
|
||||
PASS: пробельный текст с вложением допустим -> 201
|
||||
PASS: неизвестное вложение -> 404
|
||||
PASS: attachment_ids не массив -> 400
|
||||
PASS: attachment_ids с неверным UUID -> 400
|
||||
PASS: повтор одного id в attachment_ids -> 400
|
||||
PASS: 11 вложений в сообщении -> 400
|
||||
PASS: 10 вложений -> 201 с сохранением порядка
|
||||
PASS: вложение другого чата в сообщении -> 404
|
||||
PASS: участник может сослаться на вложение другого участника
|
||||
PASS: повтор с вложением и тем же ключом: тот же результат
|
||||
PASS: тот же ключ с другим набором вложений -> 409
|
||||
PASS: тот же ключ без вложений (иное тело) -> 409
|
||||
PASS: в истории одно такое сообщение, attachment_ids присутствует у каждого сообщения
|
||||
PASS: вложение из истории скачивается вторым участником
|
||||
PASS: все проверки режима 'attach'
|
||||
exit code: 0
|
||||
@@ -0,0 +1,17 @@
|
||||
# 04 балансировка: одна сессия, разные реплики (2026-11-14T10:59:37Z)
|
||||
$ docker compose ps api (реплики одного сервиса, без container_name)
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 27 seconds ago Up 19 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 27 seconds ago Up 18 seconds (healthy) 8080/tcp
|
||||
--- ID работающих API-контейнеров (X-Instance-Id = hostname = короткий ID контейнера)
|
||||
2c12200fa922
|
||||
45517da31576
|
||||
--- порты API-контейнеров наружу (должно быть пусто: вход только через LB)
|
||||
container 2c12200fa922:
|
||||
container 45517da31576:
|
||||
--- порты LB
|
||||
127.0.0.1:8080
|
||||
--- 40 запросов с ОДНИМ токеном к GET /users/me через LB: число ответов на каждую реплику
|
||||
20 X-Instance-Id=2c12200fa922
|
||||
20 X-Instance-Id=45517da31576
|
||||
реплик увидено: 2 | токен не печатается, повторный вход не выполнялся
|
||||
@@ -0,0 +1,138 @@
|
||||
# 05 отказ API-реплики: последовательно каждая из двух (2026-11-14T15:46:00Z)
|
||||
hook: scripts/stop-one.cmd
|
||||
|
||||
=== раунд 1 ===
|
||||
--- до
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Up 5 hours (healthy)
|
||||
$ python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd
|
||||
Executing explicit failover hook; hook output suppressed to avoid leaking secrets.
|
||||
{"observed_instances_before": 2, "successful_writes": 118, "failed_attempts": 1, "first_recovery_seconds": 1.75}
|
||||
PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence.
|
||||
exit code: 0
|
||||
--- после (ровно одна реплика должна быть Exited; остальные Up)
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Exited (0) 14 seconds ago
|
||||
--- LB сейчас: ответы по репликам (остановленной быть не должно)
|
||||
20 x-instance-id: 2c12200fa922
|
||||
--- восстановление: docker compose start api
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Starting
|
||||
Container mtusi-lab4-s3-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Starting
|
||||
Container mtusi-lab4-migrate-1 Started
|
||||
Container mtusi-lab4-s3-init-1 Started
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Waiting
|
||||
Container mtusi-lab4-s3-init-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Exited
|
||||
Container mtusi-lab4-s3-init-1 Exited
|
||||
Container mtusi-lab4-api-2 Starting
|
||||
Container mtusi-lab4-api-2 Started
|
||||
обе реплики снова видны через LB через 5 с
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Up 5 seconds (health: starting)
|
||||
|
||||
=== раунд 2 ===
|
||||
--- до
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Up 5 seconds (healthy)
|
||||
$ python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd
|
||||
Executing explicit failover hook; hook output suppressed to avoid leaking secrets.
|
||||
{"observed_instances_before": 2, "successful_writes": 112, "failed_attempts": 1, "first_recovery_seconds": 1.734}
|
||||
PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence.
|
||||
exit code: 0
|
||||
--- после (ровно одна реплика должна быть Exited; остальные Up)
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Exited (0) 14 seconds ago
|
||||
--- LB сейчас: ответы по репликам (остановленной быть не должно)
|
||||
20 x-instance-id: 2c12200fa922
|
||||
--- восстановление: docker compose start api
|
||||
Container mtusi-lab4-s3-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Starting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Starting
|
||||
Container mtusi-lab4-s3-init-1 Started
|
||||
Container mtusi-lab4-migrate-1 Started
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Waiting
|
||||
Container mtusi-lab4-s3-init-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Exited
|
||||
Container mtusi-lab4-s3-init-1 Exited
|
||||
Container mtusi-lab4-api-2 Starting
|
||||
Container mtusi-lab4-api-2 Started
|
||||
обе реплики снова видны через LB через 3 с
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Up 3 seconds (health: starting)
|
||||
|
||||
=== вложение + остановка принявшей реплики, раунд 1 (--target-index 0: останавливается другая реплика) ===
|
||||
$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook scripts/stop-one.cmd --target-index 0
|
||||
PASS: через LB видны >= 2 реплик
|
||||
PASS: файл принят выбранной репликой 2c12200fa922
|
||||
PASS: hook остановил реплику 2c12200fa922 (код 0, 1.4 с)
|
||||
PASS: после остановки реплики вложение скачивается через другую реплику (байты те же)
|
||||
INFO: вложение снова доступно через 2.31 с после запуска hook (реплика ['45517da31576'])
|
||||
PASS: подтверждённое сообщение с вложением доступно
|
||||
PASS: остановленная реплика больше не отвечает
|
||||
PASS: все проверки режима 'upload-stop'
|
||||
exit code: 0
|
||||
--- после
|
||||
2c12200fa922 mtusi-lab4-api-1 Exited (0) 2 seconds ago
|
||||
45517da31576 mtusi-lab4-api-2 Up 7 seconds (healthy)
|
||||
--- восстановление: docker compose start api
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Starting
|
||||
Container mtusi-lab4-s3-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Starting
|
||||
Container mtusi-lab4-migrate-1 Started
|
||||
Container mtusi-lab4-s3-init-1 Started
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Waiting
|
||||
Container mtusi-lab4-s3-init-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Exited
|
||||
Container mtusi-lab4-s3-init-1 Exited
|
||||
Container mtusi-lab4-api-1 Starting
|
||||
Container mtusi-lab4-api-1 Started
|
||||
обе реплики снова видны через LB через 5 с
|
||||
|
||||
=== вложение + остановка принявшей реплики, раунд 2 (--target-index 1: останавливается другая реплика) ===
|
||||
$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook scripts/stop-one.cmd --target-index 1
|
||||
PASS: через LB видны >= 2 реплик
|
||||
PASS: файл принят выбранной репликой 45517da31576
|
||||
PASS: hook остановил реплику 45517da31576 (код 0, 0.9 с)
|
||||
PASS: после остановки реплики вложение скачивается через другую реплику (байты те же)
|
||||
INFO: вложение снова доступно через 1.29 с после запуска hook (реплика ['2c12200fa922'])
|
||||
PASS: подтверждённое сообщение с вложением доступно
|
||||
PASS: остановленная реплика больше не отвечает
|
||||
PASS: все проверки режима 'upload-stop'
|
||||
exit code: 0
|
||||
--- после
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 7 seconds (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Exited (0) 1 second ago
|
||||
--- восстановление: docker compose start api
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Starting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Starting
|
||||
Container mtusi-lab4-migrate-1 Started
|
||||
Container mtusi-lab4-s3-init-1 Started
|
||||
Container mtusi-lab4-s3-init-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Exited
|
||||
Container mtusi-lab4-s3-init-1 Exited
|
||||
Container mtusi-lab4-api-2 Starting
|
||||
Container mtusi-lab4-api-2 Started
|
||||
обе реплики снова видны через LB через 3 с
|
||||
@@ -0,0 +1,74 @@
|
||||
# 06 сохранность при рестарте всего стенда (PostgreSQL, S3, API, LB) (2026-11-14T11:00:44Z)
|
||||
--- до
|
||||
/mtusi-lab4-api-1 StartedAt=2026-11-14T11:00:41.418189002Z RestartCount=0
|
||||
/mtusi-lab4-api-2 StartedAt=2026-11-14T10:59:18.845998391Z RestartCount=0
|
||||
/mtusi-lab4-lb-1 StartedAt=2026-11-14T10:59:24.60449319Z RestartCount=0
|
||||
/mtusi-lab4-postgres-1 StartedAt=2026-11-14T10:59:10.646170885Z RestartCount=0
|
||||
/mtusi-lab4-s3-1 StartedAt=2026-11-14T10:59:10.657148631Z RestartCount=0
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api About a minute ago Up 4 seconds (health: starting) 8080/tcp
|
||||
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api About a minute ago Up About a minute (healthy) 8080/tcp
|
||||
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb About a minute ago Up About a minute (healthy) 127.0.0.1:8080->8080/tcp
|
||||
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres About a minute ago Up About a minute (healthy) 5432/tcp
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 About a minute ago Up About a minute (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
|
||||
объектов в S3 до рестарта: 5
|
||||
$ python tests/resilience.py --mode persistence --action-script scripts/restart.cmd
|
||||
Executing explicit persistence hook; hook output suppressed to avoid leaking secrets.
|
||||
PASS: persistence preserved confirmed data and existing session. Hook scope needs operator evidence.
|
||||
exit code: 0
|
||||
--- после (StartedAt должен измениться у postgres, api и lb)
|
||||
/mtusi-lab4-api-1 StartedAt=2026-11-14T11:01:28.768539654Z RestartCount=0
|
||||
/mtusi-lab4-api-2 StartedAt=2026-11-14T11:01:28.927527738Z RestartCount=0
|
||||
/mtusi-lab4-lb-1 StartedAt=2026-11-14T11:01:29.197680185Z RestartCount=0
|
||||
/mtusi-lab4-postgres-1 StartedAt=2026-11-14T11:00:49.753628396Z RestartCount=0
|
||||
/mtusi-lab4-s3-1 StartedAt=2026-11-14T11:01:09.731773197Z RestartCount=0
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 2 minutes ago Up 6 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 2 minutes ago Up 6 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 2 minutes ago Up 6 seconds (healthy) 127.0.0.1:8080->8080/tcp
|
||||
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 2 minutes ago Up 45 seconds (healthy) 5432/tcp
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 2 minutes ago Up 25 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
|
||||
--- время восстановления одного рестарта (hook + ожидание /health/ready и 2 реплик)
|
||||
Container mtusi-lab4-postgres-1 Restarting
|
||||
Container mtusi-lab4-s3-1 Restarting
|
||||
Container mtusi-lab4-postgres-1 Started
|
||||
Container mtusi-lab4-s3-1 Started
|
||||
Container mtusi-lab4-api-2 Restarting
|
||||
Container mtusi-lab4-api-1 Restarting
|
||||
Container mtusi-lab4-lb-1 Restarting
|
||||
Container mtusi-lab4-api-2 Started
|
||||
Container mtusi-lab4-lb-1 Started
|
||||
Container mtusi-lab4-api-1 Started
|
||||
Container mtusi-lab4-s3-1 Running
|
||||
Container mtusi-lab4-postgres-1 Running
|
||||
Container mtusi-lab4-s3-init-1 Created
|
||||
Container mtusi-lab4-migrate-1 Created
|
||||
Container mtusi-lab4-api-1 Running
|
||||
Container mtusi-lab4-api-2 Running
|
||||
Container mtusi-lab4-lb-1 Running
|
||||
Container mtusi-lab4-s3-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Starting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Starting
|
||||
Container mtusi-lab4-s3-init-1 Started
|
||||
Container mtusi-lab4-migrate-1 Started
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Waiting
|
||||
Container mtusi-lab4-s3-init-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Exited
|
||||
Container mtusi-lab4-s3-init-1 Exited
|
||||
Container mtusi-lab4-api-1 Waiting
|
||||
Container mtusi-lab4-api-2 Waiting
|
||||
Container mtusi-lab4-api-1 Healthy
|
||||
Container mtusi-lab4-api-2 Healthy
|
||||
готов через 54 с
|
||||
объектов в S3 после рестарта: 6
|
||||
--- данные в БД после рестарта
|
||||
users | chats | messages | sessions | idempotency_keys | attachments
|
||||
-------+-------+----------+----------+------------------+-------------
|
||||
26 | 12 | 247 | 26 | 247 | 6
|
||||
(1 row)
|
||||
|
||||
@@ -0,0 +1,145 @@
|
||||
# 07 схема БД и миграции (2026-11-14T11:02:32Z)
|
||||
version | applied_at
|
||||
---------------------+-------------------------------
|
||||
001_init.sql | 2026-11-14 10:59:15.430991+00
|
||||
002_idempotency.sql | 2026-11-14 10:59:15.491662+00
|
||||
003_attachments.sql | 2026-11-14 10:59:15.505907+00
|
||||
(3 rows)
|
||||
|
||||
List of relations
|
||||
Schema | Name | Type | Owner
|
||||
--------+---------------------+-------+-------
|
||||
public | attachments | table | msg
|
||||
public | chat_members | table | msg
|
||||
public | chats | table | msg
|
||||
public | idempotency_keys | table | msg
|
||||
public | message_attachments | table | msg
|
||||
public | messages | table | msg
|
||||
public | schema_migrations | table | msg
|
||||
public | sessions | table | msg
|
||||
public | users | table | msg
|
||||
(9 rows)
|
||||
|
||||
Table "public.attachments"
|
||||
Column | Type | Collation | Nullable | Default
|
||||
--------------+--------------------------+-----------+----------+-------------------
|
||||
id | uuid | | not null |
|
||||
chat_id | uuid | | not null |
|
||||
owner_id | uuid | | not null |
|
||||
filename | text | | not null |
|
||||
content_type | text | | not null |
|
||||
size_bytes | bigint | | not null |
|
||||
sha256 | text | | not null |
|
||||
width | integer | | not null |
|
||||
height | integer | | not null |
|
||||
object_key | text | | not null |
|
||||
status | text | | not null | 'uploading'::text
|
||||
created_at | timestamp with time zone | | not null | now()
|
||||
updated_at | timestamp with time zone | | not null | now()
|
||||
Indexes:
|
||||
"attachments_pkey" PRIMARY KEY, btree (id)
|
||||
"attachments_chat_idx" btree (chat_id, created_at)
|
||||
"attachments_object_key_key" UNIQUE CONSTRAINT, btree (object_key)
|
||||
"attachments_pending_idx" btree (created_at) WHERE status = 'uploading'::text
|
||||
Check constraints:
|
||||
"attachments_content_type_check" CHECK (content_type = ANY (ARRAY['image/png'::text, 'image/jpeg'::text]))
|
||||
"attachments_filename_check" CHECK (char_length(filename) >= 1 AND char_length(filename) <= 255)
|
||||
"attachments_height_check" CHECK (height > 0)
|
||||
"attachments_sha256_check" CHECK (sha256 ~ '^[a-f0-9]{64}$'::text)
|
||||
"attachments_size_bytes_check" CHECK (size_bytes >= 1 AND size_bytes <= 10485760)
|
||||
"attachments_status_check" CHECK (status = ANY (ARRAY['uploading'::text, 'ready'::text]))
|
||||
"attachments_width_check" CHECK (width > 0)
|
||||
Foreign-key constraints:
|
||||
"attachments_chat_id_fkey" FOREIGN KEY (chat_id) REFERENCES chats(id) ON DELETE CASCADE
|
||||
"attachments_owner_id_fkey" FOREIGN KEY (owner_id) REFERENCES users(id)
|
||||
Referenced by:
|
||||
TABLE "message_attachments" CONSTRAINT "message_attachments_attachment_id_fkey" FOREIGN KEY (attachment_id) REFERENCES attachments(id)
|
||||
|
||||
Table "public.message_attachments"
|
||||
Column | Type | Collation | Nullable | Default
|
||||
---------------+---------+-----------+----------+---------
|
||||
message_id | uuid | | not null |
|
||||
attachment_id | uuid | | not null |
|
||||
position | integer | | not null |
|
||||
Indexes:
|
||||
"message_attachments_pkey" PRIMARY KEY, btree (message_id, attachment_id)
|
||||
"message_attachments_att_idx" btree (attachment_id)
|
||||
Foreign-key constraints:
|
||||
"message_attachments_attachment_id_fkey" FOREIGN KEY (attachment_id) REFERENCES attachments(id)
|
||||
"message_attachments_message_id_fkey" FOREIGN KEY (message_id) REFERENCES messages(id) ON DELETE CASCADE
|
||||
|
||||
Table "public.idempotency_keys"
|
||||
Column | Type | Collation | Nullable | Default
|
||||
--------------+--------------------------+-----------+----------+---------
|
||||
user_id | uuid | | not null |
|
||||
method | text | | not null |
|
||||
path | text | | not null |
|
||||
key | text | | not null |
|
||||
request_hash | bytea | | not null |
|
||||
status_code | integer | | not null |
|
||||
response | jsonb | | not null |
|
||||
created_at | timestamp with time zone | | not null | now()
|
||||
expires_at | timestamp with time zone | | not null |
|
||||
Indexes:
|
||||
"idempotency_keys_pkey" PRIMARY KEY, btree (user_id, method, path, key)
|
||||
"idempotency_expires_idx" btree (expires_at)
|
||||
Check constraints:
|
||||
"idempotency_keys_key_check" CHECK (key ~ '^[A-Za-z0-9._:-]{1,128}$'::text)
|
||||
Foreign-key constraints:
|
||||
"idempotency_keys_user_id_fkey" FOREIGN KEY (user_id) REFERENCES users(id)
|
||||
|
||||
Table "public.messages"
|
||||
Column | Type | Collation | Nullable | Default
|
||||
------------+--------------------------+-----------+----------+-------------------
|
||||
id | uuid | | not null |
|
||||
chat_id | uuid | | not null |
|
||||
sender_id | uuid | | not null |
|
||||
text | text | | not null |
|
||||
created_at | timestamp with time zone | | not null | clock_timestamp()
|
||||
Indexes:
|
||||
"messages_pkey" PRIMARY KEY, btree (id)
|
||||
"messages_history_idx" btree (chat_id, created_at, id)
|
||||
Check constraints:
|
||||
"messages_text_check" CHECK (char_length(text) <= 4000)
|
||||
Foreign-key constraints:
|
||||
"messages_chat_id_fkey" FOREIGN KEY (chat_id) REFERENCES chats(id) ON DELETE CASCADE
|
||||
"messages_sender_id_fkey" FOREIGN KEY (sender_id) REFERENCES users(id)
|
||||
Referenced by:
|
||||
TABLE "message_attachments" CONSTRAINT "message_attachments_message_id_fkey" FOREIGN KEY (message_id) REFERENCES messages(id) ON DELETE CASCADE
|
||||
|
||||
--- статусы вложений в БД (после тестов не должно быть uploading)
|
||||
status | count
|
||||
--------+-------
|
||||
ready | 6
|
||||
(1 row)
|
||||
|
||||
--- пароли хранятся как Argon2id, в sessions только sha256 токена
|
||||
hash_prefix | count
|
||||
-------------+-------
|
||||
$argon2id$ | 26
|
||||
(1 row)
|
||||
|
||||
token_hash_bytes | count
|
||||
------------------+-------
|
||||
32 | 26
|
||||
(1 row)
|
||||
|
||||
--- миграции выполняет отдельный one-shot сервис migrate (однократно, не репликами)
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-migrate-1 mtusi-lab4-api:1 "python -m app.migra…" migrate 3 minutes ago Exited (0) 10 seconds ago
|
||||
migrations: ok, latest = 003_attachments.sql
|
||||
migrations: ok, latest = 003_attachments.sql
|
||||
migrations: ok, latest = 003_attachments.sql
|
||||
--- API-реплики стартуют с RUN_MIGRATIONS=0
|
||||
RUN_MIGRATIONS=0
|
||||
IDEMPOTENCY_TTL_SECONDS=86400
|
||||
SESSION_TTL_SECONDS=3600
|
||||
--- повторный явный запуск миграции безопасен
|
||||
migrations: ok, latest = 003_attachments.sql
|
||||
version
|
||||
---------------------
|
||||
001_init.sql
|
||||
002_idempotency.sql
|
||||
003_attachments.sql
|
||||
(3 rows)
|
||||
|
||||
@@ -0,0 +1,48 @@
|
||||
# 08 приватное S3-хранилище вложений (2026-11-14T11:02:39Z)
|
||||
$ docker compose ps -a s3 s3-init
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 3 minutes ago Up 43 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
|
||||
mtusi-lab4-s3-init-1 mtusi-lab4-api:1 "python -m app.s3init" s3-init 3 minutes ago Exited (0) 14 seconds ago
|
||||
--- порты S3 наружу (должно быть пусто: S3 доступен только внутри сети compose)
|
||||
--- журнал s3-init (bucket создаётся идемпотентно)
|
||||
PASS: ключ API не может удалить рабочий bucket -> AccessDenied
|
||||
PASS: ключ API не может писать в чужой bucket -> AccessDenied
|
||||
PASS: ключ API: delete_object -> 404
|
||||
bucket messenger-attachments: уже существует
|
||||
PASS: ключ API: put_object в bucket -> OK
|
||||
PASS: ключ API: get_object из bucket -> OK
|
||||
PASS: анонимный GET объекта без подписи (HTTP-статус) -> 403
|
||||
PASS: анонимный GET списка bucket (HTTP-статус) -> 403
|
||||
PASS: ключ API не может создать другой bucket -> AccessDenied
|
||||
PASS: ключ API не может удалить рабочий bucket -> AccessDenied
|
||||
PASS: ключ API не может писать в чужой bucket -> AccessDenied
|
||||
PASS: ключ API: delete_object -> 404
|
||||
--- повторный запуск s3-init и проверки приватности/прав (анонимный доступ, ограниченный ключ)
|
||||
bucket messenger-attachments: уже существует
|
||||
PASS: ключ API: put_object в bucket -> OK
|
||||
PASS: ключ API: get_object из bucket -> OK
|
||||
PASS: анонимный GET объекта без подписи (HTTP-статус) -> 403
|
||||
PASS: анонимный GET списка bucket (HTTP-статус) -> 403
|
||||
PASS: ключ API не может создать другой bucket -> AccessDenied
|
||||
PASS: ключ API не может удалить рабочий bucket -> AccessDenied
|
||||
PASS: ключ API не может писать в чужой bucket -> AccessDenied
|
||||
PASS: ключ API: delete_object -> 404
|
||||
exit code: 0
|
||||
--- у API-реплик есть только ограниченный ключ (имена секретов; значения не печатаются)
|
||||
/run/secrets/database_url
|
||||
/run/secrets/s3_access_key_id
|
||||
/run/secrets/s3_secret_access_key
|
||||
--- у API-контейнеров нет локального хранилища вложений: изменения файловой системы после всех загрузок (должно быть пусто)
|
||||
(записи /run/secrets относятся к смонтированным Docker secrets и не являются данными вложений)
|
||||
container 2c12200fa922:
|
||||
изменений файловой системы нет, кроме /run/secrets
|
||||
container 45517da31576:
|
||||
изменений файловой системы нет, кроме /run/secrets
|
||||
--- сверка БД и S3: число готовых вложений и объектов в bucket
|
||||
ready в БД: 6
|
||||
uploading в БД: 0
|
||||
объектов в S3: 6
|
||||
--- volume с данными S3
|
||||
volume mtusi-lab4_s3data -> /data
|
||||
bind -> /run/secrets/s3_config
|
||||
|
||||
@@ -0,0 +1,16 @@
|
||||
# 09 недоступность PostgreSQL (2026-11-14T11:02:48Z)
|
||||
$ docker compose stop postgres
|
||||
Container mtusi-lab4-postgres-1 Stopping
|
||||
Container mtusi-lab4-postgres-1 Stopped
|
||||
GET /health/ready (через LB) -> 503 (все backend не готовы, LB отвечает 503)
|
||||
GET /api/v1/users/me -> 503
|
||||
$ docker compose start postgres
|
||||
Container mtusi-lab4-postgres-1 Starting
|
||||
Container mtusi-lab4-postgres-1 Started
|
||||
ready и 2 реплики снова через 4 с
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 3 minutes ago Up 34 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 3 minutes ago Up 34 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 3 minutes ago Up 34 seconds (healthy) 127.0.0.1:8080->8080/tcp
|
||||
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 3 minutes ago Up 3 seconds (healthy) 5432/tcp
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 3 minutes ago Up About a minute (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
|
||||
@@ -0,0 +1,36 @@
|
||||
# 10 недоступность S3 при живых API и PostgreSQL (2026-11-14T15:47:12Z)
|
||||
$ python student-tests/lab4_checks.py --mode s3-outage (внутри: docker compose stop s3 ... docker compose start s3)
|
||||
PASS: до сбоя: загрузка -> 201
|
||||
PASS: S3 остановлен: загрузка -> 503 (code unavailable), 8.1 с
|
||||
PASS: S3 остановлен: скачивание -> 503, а не 500/зависание
|
||||
PASS: S3 остановлен: метаданные (только PostgreSQL) -> 200
|
||||
PASS: S3 остановлен: обычное сообщение -> 201
|
||||
PASS: S3 остановлен: сообщение со старым вложением -> 201 (только PostgreSQL)
|
||||
PASS: S3 остановлен: /health/ready остаётся 200 (S3 некритичен для текстового API)
|
||||
PASS: после старта S3 загрузка снова -> 201 (через 25 с)
|
||||
PASS: после старта S3 старое вложение скачивается, байты те же (через 1.1 с, попыток: 2)
|
||||
INFO: S3 был недоступен около 41 с
|
||||
PASS: все проверки режима 's3-outage'
|
||||
exit code: 0
|
||||
S3 healthy
|
||||
--- после сбоя в БД остаются строки uploading (если удаление объекта подтвердить не удалось)
|
||||
status | count
|
||||
-----------+-------
|
||||
ready | 32
|
||||
uploading | 15
|
||||
(2 rows)
|
||||
|
||||
$ python -m app.sweep --grace 0 (очистка незавершённых загрузок)
|
||||
sweep: найдено 15, удалено 15, не удалось 0 (grace=0 с)
|
||||
status | count
|
||||
--------+-------
|
||||
ready | 32
|
||||
(1 row)
|
||||
|
||||
объектов в S3: 32
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 5 hours ago Up About a minute (healthy) 8080/tcp
|
||||
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 5 hours ago Up About a minute (healthy) 8080/tcp
|
||||
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 5 hours ago Up 5 hours (healthy) 127.0.0.1:8080->8080/tcp
|
||||
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 5 hours ago Up 5 hours (healthy) 5432/tcp
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 5 hours ago Up 33 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
|
||||
@@ -0,0 +1,33 @@
|
||||
# 11 настройка LB: проверки и время обнаружения отказа (2026-11-14T11:04:02Z)
|
||||
option redispatch 1 # при неудачном соединении последняя попытка уходит на другой backend
|
||||
retries 3 # повторяем только установку соединения: запрос ещё не отправлен, это безопасно
|
||||
timeout connect 1s
|
||||
timeout client 30s
|
||||
timeout server 30s
|
||||
timeout http-request 10s
|
||||
timeout check 1s
|
||||
timeout resolve 1s
|
||||
timeout retry 1s
|
||||
hold valid 1s
|
||||
option httpchk
|
||||
http-check send meth GET uri /health/ready ver HTTP/1.1 hdr Host api
|
||||
http-check expect status 200
|
||||
default-server check inter 1s fall 2 rise 2 resolvers docker resolve-prefer ipv4 init-addr none on-marked-down shutdown-sessions
|
||||
server-template api 6 api:8080
|
||||
Максимальное время обнаружения отказа по конфигурации: inter 1s x fall 2 + timeout check 1s = около 3 с (порог задания: 10 с).
|
||||
--- фактическое состояние backend в HAProxy (через stats нет; смотрим логи LB за последние строки)
|
||||
172.25.0.1:44958 [14/Nov/2026:11:03:36.713] public api/api2 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:44984 [14/Nov/2026:11:03:37.747] public api/api1 0/0/0/21/21 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:44988 [14/Nov/2026:11:03:38.788] public api/api2 0/0/0/876/877 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:45008 [14/Nov/2026:11:03:40.669] public api/api1 0/0/0/14/14 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:57982 [14/Nov/2026:11:03:41.701] public api/api2 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:57988 [14/Nov/2026:11:03:42.726] public api/api1 0/0/1/1081/1082 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:58024 [14/Nov/2026:11:03:44.832] public api/api2 0/0/0/1304/1304 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:58034 [14/Nov/2026:11:03:47.163] public api/api1 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:58064 [14/Nov/2026:11:03:48.174] public api/api2 0/0/0/12/12 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:58076 [14/Nov/2026:11:03:49.213] public api/api1 0/0/1/1546/1547 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:39882 [14/Nov/2026:11:03:51.782] public api/api2 0/0/0/1222/1222 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:39904 [14/Nov/2026:11:03:54.023] public api/api1 0/0/1/6/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:39912 [14/Nov/2026:11:03:55.051] public api/api2 0/0/1/7/8 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:39920 [14/Nov/2026:11:03:56.081] public api/api1 0/0/1/27/29 201 620 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:39926 [14/Nov/2026:11:03:56.127] public api/api2 0/0/1/2/3 503 354 - - ---- 1/1/0/0/0 0/0 "GET /api/v1/attachments/05bb3ffb-93bb-4e5c-ad31-fe99c47930ce/content HTTP/1.1"
|
||||
@@ -0,0 +1,7 @@
|
||||
# 12 секреты и volumes вне Git (2026-11-14T11:04:03Z)
|
||||
$ git check-ignore -v secrets/pg_password secrets/database_url .env
|
||||
.gitignore:5:secrets/ secrets/pg_password
|
||||
.gitignore:5:secrets/ secrets/database_url
|
||||
.gitignore:2:.env .env
|
||||
$ отслеживаемые файлы, похожие на секреты:
|
||||
нет
|
||||
@@ -0,0 +1,962 @@
|
||||
# Сводка сбора доказательств lab4 (2026-11-14T15:48:22Z)
|
||||
|
||||
03 собственные -> evidence/03-student-checks.txt: 123 PASS, 0 FAIL, 0 команд с ошибкой
|
||||
05 failover -> evidence/05-failover.txt: 2 из 2 раундов PASS, upload-stop: 2 из 2
|
||||
10 S3 недоступен -> evidence/10-s3-down.txt: PASS: все проверки режима 's3-outage'
|
||||
|
||||
=================== evidence/00-clean-start.txt
|
||||
# 00 чистый старт (2026-11-14T10:58:41Z)
|
||||
$ docker compose down -v
|
||||
Container mtusi-lab4-lb-1 Stopping
|
||||
Container mtusi-lab4-lb-1 Stopped
|
||||
Container mtusi-lab4-lb-1 Removing
|
||||
Container mtusi-lab4-lb-1 Removed
|
||||
Container mtusi-lab4-api-1 Stopping
|
||||
Container mtusi-lab4-api-2 Stopping
|
||||
Container mtusi-lab4-api-1 Stopped
|
||||
Container mtusi-lab4-api-1 Removing
|
||||
Container mtusi-lab4-api-1 Removed
|
||||
Container mtusi-lab4-api-2 Stopped
|
||||
Container mtusi-lab4-api-2 Removing
|
||||
Container mtusi-lab4-api-2 Removed
|
||||
Container mtusi-lab4-s3-init-1 Stopping
|
||||
Container mtusi-lab4-migrate-1 Stopping
|
||||
Container mtusi-lab4-s3-init-1 Stopped
|
||||
Container mtusi-lab4-s3-init-1 Removing
|
||||
Container mtusi-lab4-migrate-1 Stopped
|
||||
Container mtusi-lab4-migrate-1 Removing
|
||||
Container mtusi-lab4-s3-init-1 Removed
|
||||
Container mtusi-lab4-s3-1 Stopping
|
||||
Container mtusi-lab4-migrate-1 Removed
|
||||
Container mtusi-lab4-postgres-1 Stopping
|
||||
Container mtusi-lab4-postgres-1 Stopped
|
||||
Container mtusi-lab4-postgres-1 Removing
|
||||
Container mtusi-lab4-postgres-1 Removed
|
||||
Container mtusi-lab4-s3-1 Stopped
|
||||
Container mtusi-lab4-s3-1 Removing
|
||||
Container mtusi-lab4-s3-1 Removed
|
||||
Volume mtusi-lab4_s3data Removing
|
||||
Volume mtusi-lab4_pgdata Removing
|
||||
Network mtusi-lab4_default Removing
|
||||
Volume mtusi-lab4_pgdata Removed
|
||||
Volume mtusi-lab4_s3data Removed
|
||||
Network mtusi-lab4_default Removed
|
||||
$ sh scripts/setup-secrets.sh
|
||||
secrets: ok (значения не печатаются)
|
||||
secrets: ok (значения не печатаются)
|
||||
$ docker compose up -d --build
|
||||
Compose can now delegate builds to bake for better performance.
|
||||
To do so, set COMPOSE_BAKE=true.
|
||||
#0 building with "desktop-linux" instance using docker driver
|
||||
|
||||
#1 [s3-init internal] load build definition from Dockerfile
|
||||
#1 transferring dockerfile: 535B done
|
||||
#1 DONE 0.0s
|
||||
|
||||
#2 [migrate internal] load build definition from Dockerfile
|
||||
#2 transferring dockerfile: 535B 0.0s done
|
||||
#2 DONE 0.0s
|
||||
|
||||
#3 [migrate internal] load metadata for docker.io/library/python:3.12.7-slim-bookworm
|
||||
#3 DONE 1.4s
|
||||
|
||||
#4 [migrate internal] load .dockerignore
|
||||
#4 transferring context: 216B done
|
||||
#4 DONE 0.0s
|
||||
|
||||
#5 [s3-init internal] load .dockerignore
|
||||
#5 transferring context: 216B done
|
||||
#5 DONE 0.0s
|
||||
|
||||
#6 [migrate 1/6] FROM docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d
|
||||
#6 resolve docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d 0.0s done
|
||||
#6 DONE 0.0s
|
||||
|
||||
#7 [s3-init internal] load build context
|
||||
#7 transferring context: 53.68kB done
|
||||
#7 DONE 0.0s
|
||||
|
||||
#8 [migrate internal] load build context
|
||||
#8 transferring context: 53.68kB done
|
||||
#8 DONE 0.0s
|
||||
|
||||
#9 [s3-init 2/6] WORKDIR /app
|
||||
#9 CACHED
|
||||
|
||||
#10 [s3-init 3/6] COPY src/requirements.txt .
|
||||
#10 CACHED
|
||||
|
||||
#11 [migrate 4/6] RUN pip install --no-cache-dir -r requirements.txt
|
||||
#11 CACHED
|
||||
|
||||
#12 [s3-init 5/6] COPY src/ .
|
||||
#12 DONE 0.0s
|
||||
|
||||
#13 [s3-init 6/6] RUN useradd -r -u 10001 appuser
|
||||
#13 0.340 useradd warning: appuser's uid 10001 is greater than SYS_UID_MAX 999
|
||||
#13 DONE 0.4s
|
||||
|
||||
#14 [s3-init] exporting to image
|
||||
#14 exporting layers 0.1s done
|
||||
#14 exporting manifest sha256:4ae2a791bbba577bcb815375108ea737a327a44f3cb92b050371582871ca77a1 0.0s done
|
||||
#14 exporting config sha256:fd2ebb00c346e3417687248874a92ffcf783d91a1cc83d788d70d5bfea6d0544 0.0s done
|
||||
#14 exporting attestation manifest sha256:ae0da9de98954a73ad89771c32e4f4d1a8a061ce5fa1a3624287d97b91a368c4
|
||||
#14 exporting attestation manifest sha256:ae0da9de98954a73ad89771c32e4f4d1a8a061ce5fa1a3624287d97b91a368c4 0.1s done
|
||||
#14 exporting manifest list sha256:e51688c9cb5dc910f9520e2eb97fefa0d9e1d284df053199f4a2fa3b6a0a8cb0 0.0s done
|
||||
#14 naming to docker.io/library/mtusi-lab4-api:1
|
||||
#14 naming to docker.io/library/mtusi-lab4-api:1 0.0s done
|
||||
#14 unpacking to docker.io/library/mtusi-lab4-api:1 0.1s done
|
||||
#14 DONE 0.4s
|
||||
|
||||
#15 [migrate] exporting to image
|
||||
#15 exporting layers 0.1s done
|
||||
#15 exporting manifest sha256:d4b8df4de55e399aa1f89ec53b8fd34515066d4e32a3d2da4584d541275b3230 0.0s done
|
||||
#15 exporting config sha256:e859f5e9831d26a74f7f454640182463334862757cbb876e878ebc60464ae04d 0.0s done
|
||||
#15 exporting attestation manifest sha256:9bdce302a45c5a9ba9bc835944c8aa6fc46f18c25817a5d63aa987840ca12387 0.1s done
|
||||
#15 exporting manifest list sha256:76901d91a4007adbe41c8041eeabb616dd078be07048f3dbdef5f0f5fee4ff57 0.0s done
|
||||
#15 naming to docker.io/library/mtusi-lab4-api:1 done
|
||||
#15 unpacking to docker.io/library/mtusi-lab4-api:1 0.1s done
|
||||
#15 DONE 0.5s
|
||||
|
||||
#16 [s3-init] resolving provenance for metadata file
|
||||
#16 DONE 0.0s
|
||||
|
||||
#17 [migrate] resolving provenance for metadata file
|
||||
#17 DONE 0.0s
|
||||
|
||||
#18 [api internal] load build definition from Dockerfile
|
||||
#18 transferring dockerfile: 535B done
|
||||
#18 DONE 0.0s
|
||||
|
||||
#3 [api internal] load metadata for docker.io/library/python:3.12.7-slim-bookworm
|
||||
#3 DONE 1.7s
|
||||
|
||||
#19 [api internal] load .dockerignore
|
||||
#19 transferring context: 216B done
|
||||
#19 DONE 0.0s
|
||||
|
||||
#6 [api 1/6] FROM docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d
|
||||
#6 resolve docker.io/library/python:3.12.7-slim-bookworm@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d 0.0s done
|
||||
#6 DONE 0.1s
|
||||
|
||||
#20 [api internal] load build context
|
||||
#20 transferring context: 538B done
|
||||
#20 DONE 0.0s
|
||||
|
||||
#21 [api 3/6] COPY src/requirements.txt .
|
||||
#21 CACHED
|
||||
|
||||
#22 [api 4/6] RUN pip install --no-cache-dir -r requirements.txt
|
||||
#22 CACHED
|
||||
|
||||
#23 [api 5/6] COPY src/ .
|
||||
#23 CACHED
|
||||
|
||||
#9 [api 2/6] WORKDIR /app
|
||||
#9 CACHED
|
||||
|
||||
#24 [api 6/6] RUN useradd -r -u 10001 appuser
|
||||
#24 CACHED
|
||||
|
||||
#25 [api] exporting to image
|
||||
#25 exporting layers done
|
||||
#25 exporting manifest sha256:e340936d2ef95177fc4964b2ae581b17640ba56d9c391e5c1a919f762e75c1de 0.0s done
|
||||
#25 exporting config sha256:962e9fd67f6859d238fcc659d62158046c2b41e06ac7728888f37c8d1cb2888c
|
||||
#25 exporting config sha256:962e9fd67f6859d238fcc659d62158046c2b41e06ac7728888f37c8d1cb2888c 0.0s done
|
||||
#25 exporting attestation manifest sha256:b791b5198f6c076c00999275b27ec867bf9dad754f65c4f53cbbe5e4ee3bf72c 0.0s done
|
||||
#25 exporting manifest list sha256:2cc1a39bf9a24bc4274e218d769668dfff377fe32863850f110697231fbebbc3 0.0s done
|
||||
#25 naming to docker.io/library/mtusi-lab4-api:1 done
|
||||
#25 unpacking to docker.io/library/mtusi-lab4-api:1 0.0s done
|
||||
#25 DONE 0.1s
|
||||
|
||||
#26 [api] resolving provenance for metadata file
|
||||
#26 DONE 0.0s
|
||||
api Built
|
||||
migrate Built
|
||||
s3-init Built
|
||||
Network mtusi-lab4_default Creating
|
||||
Network mtusi-lab4_default Created
|
||||
Volume "mtusi-lab4_pgdata" Creating
|
||||
Volume "mtusi-lab4_pgdata" Created
|
||||
Volume "mtusi-lab4_s3data" Creating
|
||||
Volume "mtusi-lab4_s3data" Created
|
||||
Container mtusi-lab4-postgres-1 Creating
|
||||
Container mtusi-lab4-s3-1 Creating
|
||||
Container mtusi-lab4-s3-1 Created
|
||||
Container mtusi-lab4-s3-init-1 Creating
|
||||
Container mtusi-lab4-postgres-1 Created
|
||||
Container mtusi-lab4-migrate-1 Creating
|
||||
Container mtusi-lab4-s3-init-1 Created
|
||||
Container mtusi-lab4-migrate-1 Created
|
||||
Container mtusi-lab4-api-2 Creating
|
||||
Container mtusi-lab4-api-1 Creating
|
||||
Container mtusi-lab4-api-2 Created
|
||||
Container mtusi-lab4-api-1 Created
|
||||
Container mtusi-lab4-lb-1 Creating
|
||||
Container mtusi-lab4-lb-1 Created
|
||||
Container mtusi-lab4-s3-1 Starting
|
||||
Container mtusi-lab4-postgres-1 Starting
|
||||
Container mtusi-lab4-postgres-1 Started
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Started
|
||||
Container mtusi-lab4-s3-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Starting
|
||||
Container mtusi-lab4-migrate-1 Started
|
||||
Container mtusi-lab4-s3-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Starting
|
||||
Container mtusi-lab4-s3-init-1 Started
|
||||
Container mtusi-lab4-s3-init-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Exited
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Exited
|
||||
Container mtusi-lab4-api-1 Starting
|
||||
Container mtusi-lab4-api-1 Started
|
||||
Container mtusi-lab4-api-2 Starting
|
||||
Container mtusi-lab4-api-2 Started
|
||||
Container mtusi-lab4-api-1 Waiting
|
||||
Container mtusi-lab4-api-2 Waiting
|
||||
Container mtusi-lab4-api-1 Healthy
|
||||
Container mtusi-lab4-api-2 Healthy
|
||||
Container mtusi-lab4-lb-1 Starting
|
||||
Container mtusi-lab4-lb-1 Started
|
||||
ready через 19 с после запуска up
|
||||
|
||||
=================== evidence/01-env.txt
|
||||
# 01 окружение (2026-11-14T10:59:26Z)
|
||||
commit: ec540a1a725862a8619fcb758daec4ad197f0dd5
|
||||
git status:
|
||||
M REPORT.md
|
||||
A scripts/collect-evidence.sh
|
||||
A scripts/restart.sh
|
||||
A scripts/setup-secrets.sh
|
||||
A scripts/stop-one.sh
|
||||
?? .gitattributes
|
||||
?? Dockerfile
|
||||
?? compose.yaml
|
||||
?? evidence/00-clean-start.txt
|
||||
?? evidence/01-env.txt
|
||||
?? evidence/02-smoke.txt
|
||||
?? evidence/03-student-checks.txt
|
||||
?? evidence/04-load-balancing.txt
|
||||
?? evidence/05-failover.txt
|
||||
?? evidence/06-persistence.txt
|
||||
?? evidence/07-db-migrations.txt
|
||||
?? evidence/08-s3-storage.txt
|
||||
?? evidence/09-db-down.txt
|
||||
?? evidence/10-s3-down.txt
|
||||
?? evidence/11-lb-config.txt
|
||||
$ docker version
|
||||
client=28.0.4 server=28.0.4 os=linux/amd64
|
||||
$ docker compose version
|
||||
Docker Compose version v2.34.0-desktop.1
|
||||
python: Python 3.11.5
|
||||
$ docker compose config --quiet
|
||||
compose config: OK
|
||||
$ docker compose images
|
||||
CONTAINER REPOSITORY TAG IMAGE ID SIZE
|
||||
mtusi-lab4-api-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
|
||||
mtusi-lab4-api-2 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
|
||||
mtusi-lab4-lb-1 haproxy 2.8.10-alpine 54af6e4943e4 12.2MB
|
||||
mtusi-lab4-migrate-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
|
||||
mtusi-lab4-postgres-1 postgres 16.4-alpine 5660c2cbfea5 99.2MB
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs 4.42 f7cbc8bdbbf6 106MB
|
||||
mtusi-lab4-s3-init-1 mtusi-lab4-api 1 2cc1a39bf9a2 66.9MB
|
||||
$ docker compose ps -a
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 17 seconds ago Up 9 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 17 seconds ago Up 8 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 17 seconds ago Up 3 seconds (health: starting) 127.0.0.1:8080->8080/tcp
|
||||
mtusi-lab4-migrate-1 mtusi-lab4-api:1 "python -m app.migra…" migrate 18 seconds ago Exited (0) 12 seconds ago
|
||||
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 18 seconds ago Up 17 seconds (healthy) 5432/tcp
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 18 seconds ago Up 17 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
|
||||
mtusi-lab4-s3-init-1 mtusi-lab4-api:1 "python -m app.s3init" s3-init 18 seconds ago Exited (0) 9 seconds ago
|
||||
$ docker volume ls (pgdata)
|
||||
local mtusi2026lab2_pgdata
|
||||
local mtusi-lab3_pgdata
|
||||
local mtusi-lab4_pgdata
|
||||
$ docker stats --no-stream
|
||||
NAME CPU % MEM USAGE / LIMIT
|
||||
mtusi-lab4-api-1 0.55% 39.4MiB / 7.694GiB
|
||||
mtusi-lab4-api-2 0.43% 39.11MiB / 7.694GiB
|
||||
mtusi-lab4-lb-1 0.57% 12.05MiB / 7.694GiB
|
||||
mtusi-lab4-postgres-1 0.45% 46.62MiB / 7.694GiB
|
||||
mtusi-lab4-s3-1 0.19% 46.34MiB / 7.694GiB
|
||||
$ docker info (лимиты хоста)
|
||||
CPUs=16 Mem=8261029888
|
||||
|
||||
=================== evidence/02-smoke.txt
|
||||
# 02 публичные проверки через LB (2026-11-14T10:59:31Z)
|
||||
$ python scripts/check_contract.py
|
||||
PASS: offline skeleton structure, local refs and Python syntax; application NOT tested.
|
||||
exit code: 0
|
||||
$ python tests/smoke.py --base-url http://localhost:8080
|
||||
PASS: lab4 public API scenario; infrastructure and grading evidence remain separate.
|
||||
exit code: 0
|
||||
|
||||
=================== evidence/03-student-checks.txt
|
||||
# 03 собственные проверки (2026-11-14T15:45:54Z)
|
||||
$ python student-tests/lab3_checks.py --base-url http://localhost:8080
|
||||
PASS: повторный username -> 409
|
||||
PASS: пароль короче 12 -> 400
|
||||
PASS: лишнее поле -> 400
|
||||
PASS: User не содержит пароль/hash/токен
|
||||
PASS: гонка одинакового username: ровно один 201, остальные 409
|
||||
PASS: неверный пароль и неизвестный пользователь неразличимы (401, тот же code/message/заголовок)
|
||||
PASS: вход JSON-телом без Basic -> 401
|
||||
PASS: Bearer на POST /auth/sessions -> 401
|
||||
PASS: токен >=256 бит, token_type Bearer
|
||||
PASS: Basic на бизнес-endpoint -> 401 + WWW-Authenticate: Bearer
|
||||
PASS: один X-User-Id доступа не даёт
|
||||
PASS: X-User-Id игнорируется: владелец определяется токеном
|
||||
PASS: неизвестный токен -> 401
|
||||
PASS: X-Request-Id совпадает с request_id в теле ошибки
|
||||
PASS: чат с неизвестным участником -> 400
|
||||
PASS: после отказа новый чат не появился (нет частичной записи)
|
||||
PASS: чат создан с обоими участниками
|
||||
PASS: создатель обязан быть среди member_ids -> 400
|
||||
PASS: посторонний: GET /chat -> 404
|
||||
PASS: посторонний: GET /messages -> 404
|
||||
PASS: посторонний не может писать -> 404
|
||||
PASS: неверный UUID /chats/not-a-uuid -> 400
|
||||
PASS: неверный UUID /chats/not-a-uuid/messages -> 400
|
||||
PASS: sender_id в запросе не принимается -> 400
|
||||
PASS: пробельный текст -> 400
|
||||
PASS: отправитель берётся из токена
|
||||
PASS: пагинация limit=2: без повторов, все 6 сообщений
|
||||
PASS: cursor от другого чата -> 400
|
||||
PASS: ?limit=0 -> 400
|
||||
PASS: ?limit=101 -> 400
|
||||
PASS: ?limit=abc -> 400
|
||||
PASS: ?limit=%2B5 -> 400
|
||||
PASS: ?limit=2&limit=3 -> 400
|
||||
PASS: тело >1 MiB -> 413
|
||||
PASS: не JSON Content-Type -> 415
|
||||
PASS: битый JSON -> 400
|
||||
PASS: logout -> 204
|
||||
PASS: повторный logout с отозванным токеном -> 401
|
||||
PASS: отозванный токен -> 401 + WWW-Authenticate: Bearer
|
||||
PASS: logout одного пользователя не затрагивает чужие сессии
|
||||
PASS: все проверки режима 'main'
|
||||
exit code: 0
|
||||
$ python student-tests/lab3_checks.py --base-url http://localhost:8080 --mode idem --min-instances 2
|
||||
PASS: через LB отвечают >= 2 реплик с одним токеном (X-Instance-Id: 2)
|
||||
PASS: повтор с тем же ключом: тот же 201 и то же сообщение
|
||||
PASS: повтор не создал дубль
|
||||
PASS: тот же ключ с другим телом -> 409
|
||||
PASS: тот же ключ и то же тело (другое форматирование JSON) -> тот же результат
|
||||
PASS: тот же ключ в другом чате независим
|
||||
PASS: тот же ключ у другого пользователя независим
|
||||
PASS: нет Idempotency-Key -> 400
|
||||
PASS: неверный ключ 'bad key!' -> 400
|
||||
PASS: неверный ключ 'a/b' -> 400
|
||||
PASS: неверный ключ 'aaaaaaaaaaaa' -> 400
|
||||
PASS: неверный ключ '' -> 400
|
||||
PASS: посторонний с тем же ключом -> 404 (доступ проверяется при повторе)
|
||||
PASS: без токена -> 401
|
||||
PASS: 30 параллельных запросов с одним ключом: все 201 и одно и то же сообщение
|
||||
PASS: в истории ровно одно такое сообщение
|
||||
INFO: параллельные повторы обслужили реплики: ['2c12200fa922', '45517da31576']
|
||||
PASS: параллельно один ключ и два разных тела: победитель один, остальным другого тела -> 409
|
||||
PASS: создано ровно одно сообщение из конкурирующих
|
||||
PASS: повтор с отозванным токеном -> 401
|
||||
PASS: все проверки режима 'idem'
|
||||
exit code: 0
|
||||
$ python student-tests/lab4_checks.py --base-url http://localhost:8080 (вложения: форматы, лимиты, права, сообщения)
|
||||
PASS: загрузка PNG -> 201, status ready, ожидаемые поля
|
||||
PASS: в ответе есть X-Instance-Id и X-Request-Id
|
||||
PASS: загрузка JPEG -> 201 и верный sha256
|
||||
PASS: созданный PNG другого размера -> 201
|
||||
PASS: метаданные доступны другому участнику чата
|
||||
PASS: скачивание: байты совпадают, Content-Type верный, nosniff
|
||||
PASS: Content-Length равен размеру
|
||||
PASS: метаданные постороннему -> 404
|
||||
PASS: содержимое постороннему -> 404
|
||||
PASS: без токена -> 401
|
||||
PASS: неверный UUID -> 400
|
||||
PASS: неизвестный UUID -> 404
|
||||
PASS: загрузка в чужой чат -> 404
|
||||
PASS: загрузка без токена -> 401
|
||||
PASS: загрузка в неверный UUID чата -> 400
|
||||
PASS: ?variant=thumbnail (вариантов нет) -> 404
|
||||
PASS: ?variant=bogus -> 400
|
||||
PASS: ?variant=original -> 200
|
||||
PASS: filename: слэш -> 400
|
||||
PASS: filename: обратный слэш -> 400
|
||||
PASS: filename: NUL -> 400
|
||||
PASS: filename: перевод строки -> 400
|
||||
PASS: filename: пустое -> 400
|
||||
PASS: filename: пробелы -> 400
|
||||
PASS: filename: 256 символов -> 400
|
||||
PASS: filename не указан -> 400
|
||||
PASS: filename из 255 символов -> 201
|
||||
PASS: имя «../..» без разделителей принимается и не влияет на ключ объекта
|
||||
PASS: Content-Type text/plain -> 415
|
||||
PASS: Content-Type image/gif -> 415
|
||||
PASS: PNG под видом image/jpeg -> 415
|
||||
PASS: текст под видом image/png -> 415
|
||||
PASS: пустое тело -> 415
|
||||
PASS: PNG с повреждённым блоком (CRC) -> 415
|
||||
PASS: усечённый PNG -> 415
|
||||
PASS: PNG с мусором в конце -> 415
|
||||
PASS: усечённый JPEG -> 415
|
||||
PASS: JPEG под видом image/png -> 415
|
||||
PASS: ровно 40 000 000 пикселей (8000x5000) -> 201
|
||||
PASS: 40 005 000 пикселей (8001x5000) -> 413
|
||||
PASS: «бомба» 20000x20000 малого размера -> 413
|
||||
PASS: тело 10 MiB + 1 байт -> 413
|
||||
PASS: сообщение только с вложением (text='') -> 201 с attachment_ids
|
||||
PASS: attachment_ids=[] даёт обычное сообщение с пустым массивом
|
||||
PASS: без attachment_ids в ответе всё равно attachment_ids=[]
|
||||
PASS: пустой текст без вложений -> 400
|
||||
PASS: пробельный текст без вложений -> 400
|
||||
PASS: пробельный текст с вложением допустим -> 201
|
||||
PASS: неизвестное вложение -> 404
|
||||
PASS: attachment_ids не массив -> 400
|
||||
PASS: attachment_ids с неверным UUID -> 400
|
||||
PASS: повтор одного id в attachment_ids -> 400
|
||||
PASS: 11 вложений в сообщении -> 400
|
||||
PASS: 10 вложений -> 201 с сохранением порядка
|
||||
PASS: вложение другого чата в сообщении -> 404
|
||||
PASS: участник может сослаться на вложение другого участника
|
||||
PASS: повтор с вложением и тем же ключом: тот же результат
|
||||
PASS: тот же ключ с другим набором вложений -> 409
|
||||
PASS: тот же ключ без вложений (иное тело) -> 409
|
||||
PASS: в истории одно такое сообщение, attachment_ids присутствует у каждого сообщения
|
||||
PASS: вложение из истории скачивается вторым участником
|
||||
PASS: все проверки режима 'attach'
|
||||
exit code: 0
|
||||
|
||||
=================== evidence/04-load-balancing.txt
|
||||
# 04 балансировка: одна сессия, разные реплики (2026-11-14T10:59:37Z)
|
||||
$ docker compose ps api (реплики одного сервиса, без container_name)
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 27 seconds ago Up 19 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 27 seconds ago Up 18 seconds (healthy) 8080/tcp
|
||||
--- ID работающих API-контейнеров (X-Instance-Id = hostname = короткий ID контейнера)
|
||||
2c12200fa922
|
||||
45517da31576
|
||||
--- порты API-контейнеров наружу (должно быть пусто: вход только через LB)
|
||||
container 2c12200fa922:
|
||||
container 45517da31576:
|
||||
--- порты LB
|
||||
127.0.0.1:8080
|
||||
--- 40 запросов с ОДНИМ токеном к GET /users/me через LB: число ответов на каждую реплику
|
||||
20 X-Instance-Id=2c12200fa922
|
||||
20 X-Instance-Id=45517da31576
|
||||
реплик увидено: 2 | токен не печатается, повторный вход не выполнялся
|
||||
|
||||
=================== evidence/05-failover.txt
|
||||
# 05 отказ API-реплики: последовательно каждая из двух (2026-11-14T15:46:00Z)
|
||||
hook: scripts/stop-one.cmd
|
||||
|
||||
=== раунд 1 ===
|
||||
--- до
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Up 5 hours (healthy)
|
||||
$ python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd
|
||||
Executing explicit failover hook; hook output suppressed to avoid leaking secrets.
|
||||
{"observed_instances_before": 2, "successful_writes": 118, "failed_attempts": 1, "first_recovery_seconds": 1.75}
|
||||
PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence.
|
||||
exit code: 0
|
||||
--- после (ровно одна реплика должна быть Exited; остальные Up)
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Exited (0) 14 seconds ago
|
||||
--- LB сейчас: ответы по репликам (остановленной быть не должно)
|
||||
20 x-instance-id: 2c12200fa922
|
||||
--- восстановление: docker compose start api
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Starting
|
||||
Container mtusi-lab4-s3-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Starting
|
||||
Container mtusi-lab4-migrate-1 Started
|
||||
Container mtusi-lab4-s3-init-1 Started
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Waiting
|
||||
Container mtusi-lab4-s3-init-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Exited
|
||||
Container mtusi-lab4-s3-init-1 Exited
|
||||
Container mtusi-lab4-api-2 Starting
|
||||
Container mtusi-lab4-api-2 Started
|
||||
обе реплики снова видны через LB через 5 с
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Up 5 seconds (health: starting)
|
||||
|
||||
=== раунд 2 ===
|
||||
--- до
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Up 5 seconds (healthy)
|
||||
$ python tests/resilience.py --mode failover --action-script scripts/stop-one.cmd
|
||||
Executing explicit failover hook; hook output suppressed to avoid leaking secrets.
|
||||
{"observed_instances_before": 2, "successful_writes": 112, "failed_attempts": 1, "first_recovery_seconds": 1.734}
|
||||
PASS: failover preserved confirmed data and existing session. Hook scope needs operator evidence.
|
||||
exit code: 0
|
||||
--- после (ровно одна реплика должна быть Exited; остальные Up)
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Exited (0) 14 seconds ago
|
||||
--- LB сейчас: ответы по репликам (остановленной быть не должно)
|
||||
20 x-instance-id: 2c12200fa922
|
||||
--- восстановление: docker compose start api
|
||||
Container mtusi-lab4-s3-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Starting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Starting
|
||||
Container mtusi-lab4-s3-init-1 Started
|
||||
Container mtusi-lab4-migrate-1 Started
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Waiting
|
||||
Container mtusi-lab4-s3-init-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Exited
|
||||
Container mtusi-lab4-s3-init-1 Exited
|
||||
Container mtusi-lab4-api-2 Starting
|
||||
Container mtusi-lab4-api-2 Started
|
||||
обе реплики снова видны через LB через 3 с
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 5 hours (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Up 3 seconds (health: starting)
|
||||
|
||||
=== вложение + остановка принявшей реплики, раунд 1 (--target-index 0: останавливается другая реплика) ===
|
||||
$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook scripts/stop-one.cmd --target-index 0
|
||||
PASS: через LB видны >= 2 реплик
|
||||
PASS: файл принят выбранной репликой 2c12200fa922
|
||||
PASS: hook остановил реплику 2c12200fa922 (код 0, 1.4 с)
|
||||
PASS: после остановки реплики вложение скачивается через другую реплику (байты те же)
|
||||
INFO: вложение снова доступно через 2.31 с после запуска hook (реплика ['45517da31576'])
|
||||
PASS: подтверждённое сообщение с вложением доступно
|
||||
PASS: остановленная реплика больше не отвечает
|
||||
PASS: все проверки режима 'upload-stop'
|
||||
exit code: 0
|
||||
--- после
|
||||
2c12200fa922 mtusi-lab4-api-1 Exited (0) 2 seconds ago
|
||||
45517da31576 mtusi-lab4-api-2 Up 7 seconds (healthy)
|
||||
--- восстановление: docker compose start api
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Starting
|
||||
Container mtusi-lab4-s3-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Starting
|
||||
Container mtusi-lab4-migrate-1 Started
|
||||
Container mtusi-lab4-s3-init-1 Started
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Waiting
|
||||
Container mtusi-lab4-s3-init-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Exited
|
||||
Container mtusi-lab4-s3-init-1 Exited
|
||||
Container mtusi-lab4-api-1 Starting
|
||||
Container mtusi-lab4-api-1 Started
|
||||
обе реплики снова видны через LB через 5 с
|
||||
|
||||
=== вложение + остановка принявшей реплики, раунд 2 (--target-index 1: останавливается другая реплика) ===
|
||||
$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook scripts/stop-one.cmd --target-index 1
|
||||
PASS: через LB видны >= 2 реплик
|
||||
PASS: файл принят выбранной репликой 45517da31576
|
||||
PASS: hook остановил реплику 45517da31576 (код 0, 0.9 с)
|
||||
PASS: после остановки реплики вложение скачивается через другую реплику (байты те же)
|
||||
INFO: вложение снова доступно через 1.29 с после запуска hook (реплика ['2c12200fa922'])
|
||||
PASS: подтверждённое сообщение с вложением доступно
|
||||
PASS: остановленная реплика больше не отвечает
|
||||
PASS: все проверки режима 'upload-stop'
|
||||
exit code: 0
|
||||
--- после
|
||||
2c12200fa922 mtusi-lab4-api-1 Up 7 seconds (healthy)
|
||||
45517da31576 mtusi-lab4-api-2 Exited (0) 1 second ago
|
||||
--- восстановление: docker compose start api
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Starting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Starting
|
||||
Container mtusi-lab4-migrate-1 Started
|
||||
Container mtusi-lab4-s3-init-1 Started
|
||||
Container mtusi-lab4-s3-init-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Exited
|
||||
Container mtusi-lab4-s3-init-1 Exited
|
||||
Container mtusi-lab4-api-2 Starting
|
||||
Container mtusi-lab4-api-2 Started
|
||||
обе реплики снова видны через LB через 3 с
|
||||
|
||||
=================== evidence/06-persistence.txt
|
||||
# 06 сохранность при рестарте всего стенда (PostgreSQL, S3, API, LB) (2026-11-14T11:00:44Z)
|
||||
--- до
|
||||
/mtusi-lab4-api-1 StartedAt=2026-11-14T11:00:41.418189002Z RestartCount=0
|
||||
/mtusi-lab4-api-2 StartedAt=2026-11-14T10:59:18.845998391Z RestartCount=0
|
||||
/mtusi-lab4-lb-1 StartedAt=2026-11-14T10:59:24.60449319Z RestartCount=0
|
||||
/mtusi-lab4-postgres-1 StartedAt=2026-11-14T10:59:10.646170885Z RestartCount=0
|
||||
/mtusi-lab4-s3-1 StartedAt=2026-11-14T10:59:10.657148631Z RestartCount=0
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api About a minute ago Up 4 seconds (health: starting) 8080/tcp
|
||||
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api About a minute ago Up About a minute (healthy) 8080/tcp
|
||||
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb About a minute ago Up About a minute (healthy) 127.0.0.1:8080->8080/tcp
|
||||
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres About a minute ago Up About a minute (healthy) 5432/tcp
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 About a minute ago Up About a minute (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
|
||||
объектов в S3 до рестарта: 5
|
||||
$ python tests/resilience.py --mode persistence --action-script scripts/restart.cmd
|
||||
Executing explicit persistence hook; hook output suppressed to avoid leaking secrets.
|
||||
PASS: persistence preserved confirmed data and existing session. Hook scope needs operator evidence.
|
||||
exit code: 0
|
||||
--- после (StartedAt должен измениться у postgres, api и lb)
|
||||
/mtusi-lab4-api-1 StartedAt=2026-11-14T11:01:28.768539654Z RestartCount=0
|
||||
/mtusi-lab4-api-2 StartedAt=2026-11-14T11:01:28.927527738Z RestartCount=0
|
||||
/mtusi-lab4-lb-1 StartedAt=2026-11-14T11:01:29.197680185Z RestartCount=0
|
||||
/mtusi-lab4-postgres-1 StartedAt=2026-11-14T11:00:49.753628396Z RestartCount=0
|
||||
/mtusi-lab4-s3-1 StartedAt=2026-11-14T11:01:09.731773197Z RestartCount=0
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 2 minutes ago Up 6 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 2 minutes ago Up 6 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 2 minutes ago Up 6 seconds (healthy) 127.0.0.1:8080->8080/tcp
|
||||
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 2 minutes ago Up 45 seconds (healthy) 5432/tcp
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 2 minutes ago Up 25 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
|
||||
--- время восстановления одного рестарта (hook + ожидание /health/ready и 2 реплик)
|
||||
Container mtusi-lab4-postgres-1 Restarting
|
||||
Container mtusi-lab4-s3-1 Restarting
|
||||
Container mtusi-lab4-postgres-1 Started
|
||||
Container mtusi-lab4-s3-1 Started
|
||||
Container mtusi-lab4-api-2 Restarting
|
||||
Container mtusi-lab4-api-1 Restarting
|
||||
Container mtusi-lab4-lb-1 Restarting
|
||||
Container mtusi-lab4-api-2 Started
|
||||
Container mtusi-lab4-lb-1 Started
|
||||
Container mtusi-lab4-api-1 Started
|
||||
Container mtusi-lab4-s3-1 Running
|
||||
Container mtusi-lab4-postgres-1 Running
|
||||
Container mtusi-lab4-s3-init-1 Created
|
||||
Container mtusi-lab4-migrate-1 Created
|
||||
Container mtusi-lab4-api-1 Running
|
||||
Container mtusi-lab4-api-2 Running
|
||||
Container mtusi-lab4-lb-1 Running
|
||||
Container mtusi-lab4-s3-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-s3-1 Healthy
|
||||
Container mtusi-lab4-s3-init-1 Starting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Starting
|
||||
Container mtusi-lab4-s3-init-1 Started
|
||||
Container mtusi-lab4-migrate-1 Started
|
||||
Container mtusi-lab4-postgres-1 Waiting
|
||||
Container mtusi-lab4-migrate-1 Waiting
|
||||
Container mtusi-lab4-s3-init-1 Waiting
|
||||
Container mtusi-lab4-postgres-1 Healthy
|
||||
Container mtusi-lab4-migrate-1 Exited
|
||||
Container mtusi-lab4-s3-init-1 Exited
|
||||
Container mtusi-lab4-api-1 Waiting
|
||||
Container mtusi-lab4-api-2 Waiting
|
||||
Container mtusi-lab4-api-1 Healthy
|
||||
Container mtusi-lab4-api-2 Healthy
|
||||
готов через 54 с
|
||||
объектов в S3 после рестарта: 6
|
||||
--- данные в БД после рестарта
|
||||
users | chats | messages | sessions | idempotency_keys | attachments
|
||||
-------+-------+----------+----------+------------------+-------------
|
||||
26 | 12 | 247 | 26 | 247 | 6
|
||||
(1 row)
|
||||
|
||||
|
||||
=================== evidence/07-db-migrations.txt
|
||||
# 07 схема БД и миграции (2026-11-14T11:02:32Z)
|
||||
version | applied_at
|
||||
---------------------+-------------------------------
|
||||
001_init.sql | 2026-11-14 10:59:15.430991+00
|
||||
002_idempotency.sql | 2026-11-14 10:59:15.491662+00
|
||||
003_attachments.sql | 2026-11-14 10:59:15.505907+00
|
||||
(3 rows)
|
||||
|
||||
List of relations
|
||||
Schema | Name | Type | Owner
|
||||
--------+---------------------+-------+-------
|
||||
public | attachments | table | msg
|
||||
public | chat_members | table | msg
|
||||
public | chats | table | msg
|
||||
public | idempotency_keys | table | msg
|
||||
public | message_attachments | table | msg
|
||||
public | messages | table | msg
|
||||
public | schema_migrations | table | msg
|
||||
public | sessions | table | msg
|
||||
public | users | table | msg
|
||||
(9 rows)
|
||||
|
||||
Table "public.attachments"
|
||||
Column | Type | Collation | Nullable | Default
|
||||
--------------+--------------------------+-----------+----------+-------------------
|
||||
id | uuid | | not null |
|
||||
chat_id | uuid | | not null |
|
||||
owner_id | uuid | | not null |
|
||||
filename | text | | not null |
|
||||
content_type | text | | not null |
|
||||
size_bytes | bigint | | not null |
|
||||
sha256 | text | | not null |
|
||||
width | integer | | not null |
|
||||
height | integer | | not null |
|
||||
object_key | text | | not null |
|
||||
status | text | | not null | 'uploading'::text
|
||||
created_at | timestamp with time zone | | not null | now()
|
||||
updated_at | timestamp with time zone | | not null | now()
|
||||
Indexes:
|
||||
"attachments_pkey" PRIMARY KEY, btree (id)
|
||||
"attachments_chat_idx" btree (chat_id, created_at)
|
||||
"attachments_object_key_key" UNIQUE CONSTRAINT, btree (object_key)
|
||||
"attachments_pending_idx" btree (created_at) WHERE status = 'uploading'::text
|
||||
Check constraints:
|
||||
"attachments_content_type_check" CHECK (content_type = ANY (ARRAY['image/png'::text, 'image/jpeg'::text]))
|
||||
"attachments_filename_check" CHECK (char_length(filename) >= 1 AND char_length(filename) <= 255)
|
||||
"attachments_height_check" CHECK (height > 0)
|
||||
"attachments_sha256_check" CHECK (sha256 ~ '^[a-f0-9]{64}$'::text)
|
||||
"attachments_size_bytes_check" CHECK (size_bytes >= 1 AND size_bytes <= 10485760)
|
||||
"attachments_status_check" CHECK (status = ANY (ARRAY['uploading'::text, 'ready'::text]))
|
||||
"attachments_width_check" CHECK (width > 0)
|
||||
Foreign-key constraints:
|
||||
"attachments_chat_id_fkey" FOREIGN KEY (chat_id) REFERENCES chats(id) ON DELETE CASCADE
|
||||
"attachments_owner_id_fkey" FOREIGN KEY (owner_id) REFERENCES users(id)
|
||||
Referenced by:
|
||||
TABLE "message_attachments" CONSTRAINT "message_attachments_attachment_id_fkey" FOREIGN KEY (attachment_id) REFERENCES attachments(id)
|
||||
|
||||
Table "public.message_attachments"
|
||||
Column | Type | Collation | Nullable | Default
|
||||
---------------+---------+-----------+----------+---------
|
||||
message_id | uuid | | not null |
|
||||
attachment_id | uuid | | not null |
|
||||
position | integer | | not null |
|
||||
Indexes:
|
||||
"message_attachments_pkey" PRIMARY KEY, btree (message_id, attachment_id)
|
||||
"message_attachments_att_idx" btree (attachment_id)
|
||||
Foreign-key constraints:
|
||||
"message_attachments_attachment_id_fkey" FOREIGN KEY (attachment_id) REFERENCES attachments(id)
|
||||
"message_attachments_message_id_fkey" FOREIGN KEY (message_id) REFERENCES messages(id) ON DELETE CASCADE
|
||||
|
||||
Table "public.idempotency_keys"
|
||||
Column | Type | Collation | Nullable | Default
|
||||
--------------+--------------------------+-----------+----------+---------
|
||||
user_id | uuid | | not null |
|
||||
method | text | | not null |
|
||||
path | text | | not null |
|
||||
key | text | | not null |
|
||||
request_hash | bytea | | not null |
|
||||
status_code | integer | | not null |
|
||||
response | jsonb | | not null |
|
||||
created_at | timestamp with time zone | | not null | now()
|
||||
expires_at | timestamp with time zone | | not null |
|
||||
Indexes:
|
||||
"idempotency_keys_pkey" PRIMARY KEY, btree (user_id, method, path, key)
|
||||
"idempotency_expires_idx" btree (expires_at)
|
||||
Check constraints:
|
||||
"idempotency_keys_key_check" CHECK (key ~ '^[A-Za-z0-9._:-]{1,128}$'::text)
|
||||
Foreign-key constraints:
|
||||
"idempotency_keys_user_id_fkey" FOREIGN KEY (user_id) REFERENCES users(id)
|
||||
|
||||
Table "public.messages"
|
||||
Column | Type | Collation | Nullable | Default
|
||||
------------+--------------------------+-----------+----------+-------------------
|
||||
id | uuid | | not null |
|
||||
chat_id | uuid | | not null |
|
||||
sender_id | uuid | | not null |
|
||||
text | text | | not null |
|
||||
created_at | timestamp with time zone | | not null | clock_timestamp()
|
||||
Indexes:
|
||||
"messages_pkey" PRIMARY KEY, btree (id)
|
||||
"messages_history_idx" btree (chat_id, created_at, id)
|
||||
Check constraints:
|
||||
"messages_text_check" CHECK (char_length(text) <= 4000)
|
||||
Foreign-key constraints:
|
||||
"messages_chat_id_fkey" FOREIGN KEY (chat_id) REFERENCES chats(id) ON DELETE CASCADE
|
||||
"messages_sender_id_fkey" FOREIGN KEY (sender_id) REFERENCES users(id)
|
||||
Referenced by:
|
||||
TABLE "message_attachments" CONSTRAINT "message_attachments_message_id_fkey" FOREIGN KEY (message_id) REFERENCES messages(id) ON DELETE CASCADE
|
||||
|
||||
--- статусы вложений в БД (после тестов не должно быть uploading)
|
||||
status | count
|
||||
--------+-------
|
||||
ready | 6
|
||||
(1 row)
|
||||
|
||||
--- пароли хранятся как Argon2id, в sessions только sha256 токена
|
||||
hash_prefix | count
|
||||
-------------+-------
|
||||
$argon2id$ | 26
|
||||
(1 row)
|
||||
|
||||
token_hash_bytes | count
|
||||
------------------+-------
|
||||
32 | 26
|
||||
(1 row)
|
||||
|
||||
--- миграции выполняет отдельный one-shot сервис migrate (однократно, не репликами)
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-migrate-1 mtusi-lab4-api:1 "python -m app.migra…" migrate 3 minutes ago Exited (0) 10 seconds ago
|
||||
migrations: ok, latest = 003_attachments.sql
|
||||
migrations: ok, latest = 003_attachments.sql
|
||||
migrations: ok, latest = 003_attachments.sql
|
||||
--- API-реплики стартуют с RUN_MIGRATIONS=0
|
||||
RUN_MIGRATIONS=0
|
||||
IDEMPOTENCY_TTL_SECONDS=86400
|
||||
SESSION_TTL_SECONDS=3600
|
||||
--- повторный явный запуск миграции безопасен
|
||||
migrations: ok, latest = 003_attachments.sql
|
||||
version
|
||||
---------------------
|
||||
001_init.sql
|
||||
002_idempotency.sql
|
||||
003_attachments.sql
|
||||
(3 rows)
|
||||
|
||||
|
||||
=================== evidence/08-s3-storage.txt
|
||||
# 08 приватное S3-хранилище вложений (2026-11-14T11:02:39Z)
|
||||
$ docker compose ps -a s3 s3-init
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 3 minutes ago Up 43 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
|
||||
mtusi-lab4-s3-init-1 mtusi-lab4-api:1 "python -m app.s3init" s3-init 3 minutes ago Exited (0) 14 seconds ago
|
||||
--- порты S3 наружу (должно быть пусто: S3 доступен только внутри сети compose)
|
||||
--- журнал s3-init (bucket создаётся идемпотентно)
|
||||
PASS: ключ API не может удалить рабочий bucket -> AccessDenied
|
||||
PASS: ключ API не может писать в чужой bucket -> AccessDenied
|
||||
PASS: ключ API: delete_object -> 404
|
||||
bucket messenger-attachments: уже существует
|
||||
PASS: ключ API: put_object в bucket -> OK
|
||||
PASS: ключ API: get_object из bucket -> OK
|
||||
PASS: анонимный GET объекта без подписи (HTTP-статус) -> 403
|
||||
PASS: анонимный GET списка bucket (HTTP-статус) -> 403
|
||||
PASS: ключ API не может создать другой bucket -> AccessDenied
|
||||
PASS: ключ API не может удалить рабочий bucket -> AccessDenied
|
||||
PASS: ключ API не может писать в чужой bucket -> AccessDenied
|
||||
PASS: ключ API: delete_object -> 404
|
||||
--- повторный запуск s3-init и проверки приватности/прав (анонимный доступ, ограниченный ключ)
|
||||
bucket messenger-attachments: уже существует
|
||||
PASS: ключ API: put_object в bucket -> OK
|
||||
PASS: ключ API: get_object из bucket -> OK
|
||||
PASS: анонимный GET объекта без подписи (HTTP-статус) -> 403
|
||||
PASS: анонимный GET списка bucket (HTTP-статус) -> 403
|
||||
PASS: ключ API не может создать другой bucket -> AccessDenied
|
||||
PASS: ключ API не может удалить рабочий bucket -> AccessDenied
|
||||
PASS: ключ API не может писать в чужой bucket -> AccessDenied
|
||||
PASS: ключ API: delete_object -> 404
|
||||
exit code: 0
|
||||
--- у API-реплик есть только ограниченный ключ (имена секретов; значения не печатаются)
|
||||
/run/secrets/database_url
|
||||
/run/secrets/s3_access_key_id
|
||||
/run/secrets/s3_secret_access_key
|
||||
--- у API-контейнеров нет локального хранилища вложений: изменения файловой системы после всех загрузок (должно быть пусто)
|
||||
(записи /run/secrets относятся к смонтированным Docker secrets и не являются данными вложений)
|
||||
container 2c12200fa922:
|
||||
изменений файловой системы нет, кроме /run/secrets
|
||||
container 45517da31576:
|
||||
изменений файловой системы нет, кроме /run/secrets
|
||||
--- сверка БД и S3: число готовых вложений и объектов в bucket
|
||||
ready в БД: 6
|
||||
uploading в БД: 0
|
||||
объектов в S3: 6
|
||||
--- volume с данными S3
|
||||
volume mtusi-lab4_s3data -> /data
|
||||
bind -> /run/secrets/s3_config
|
||||
|
||||
|
||||
=================== evidence/09-db-down.txt
|
||||
# 09 недоступность PostgreSQL (2026-11-14T11:02:48Z)
|
||||
$ docker compose stop postgres
|
||||
Container mtusi-lab4-postgres-1 Stopping
|
||||
Container mtusi-lab4-postgres-1 Stopped
|
||||
GET /health/ready (через LB) -> 503 (все backend не готовы, LB отвечает 503)
|
||||
GET /api/v1/users/me -> 503
|
||||
$ docker compose start postgres
|
||||
Container mtusi-lab4-postgres-1 Starting
|
||||
Container mtusi-lab4-postgres-1 Started
|
||||
ready и 2 реплики снова через 4 с
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 3 minutes ago Up 34 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 3 minutes ago Up 34 seconds (healthy) 8080/tcp
|
||||
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 3 minutes ago Up 34 seconds (healthy) 127.0.0.1:8080->8080/tcp
|
||||
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 3 minutes ago Up 3 seconds (healthy) 5432/tcp
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 3 minutes ago Up About a minute (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
|
||||
|
||||
=================== evidence/10-s3-down.txt
|
||||
# 10 недоступность S3 при живых API и PostgreSQL (2026-11-14T15:47:12Z)
|
||||
$ python student-tests/lab4_checks.py --mode s3-outage (внутри: docker compose stop s3 ... docker compose start s3)
|
||||
PASS: до сбоя: загрузка -> 201
|
||||
PASS: S3 остановлен: загрузка -> 503 (code unavailable), 8.1 с
|
||||
PASS: S3 остановлен: скачивание -> 503, а не 500/зависание
|
||||
PASS: S3 остановлен: метаданные (только PostgreSQL) -> 200
|
||||
PASS: S3 остановлен: обычное сообщение -> 201
|
||||
PASS: S3 остановлен: сообщение со старым вложением -> 201 (только PostgreSQL)
|
||||
PASS: S3 остановлен: /health/ready остаётся 200 (S3 некритичен для текстового API)
|
||||
PASS: после старта S3 загрузка снова -> 201 (через 25 с)
|
||||
PASS: после старта S3 старое вложение скачивается, байты те же (через 1.1 с, попыток: 2)
|
||||
INFO: S3 был недоступен около 41 с
|
||||
PASS: все проверки режима 's3-outage'
|
||||
exit code: 0
|
||||
S3 healthy
|
||||
--- после сбоя в БД остаются строки uploading (если удаление объекта подтвердить не удалось)
|
||||
status | count
|
||||
-----------+-------
|
||||
ready | 32
|
||||
uploading | 15
|
||||
(2 rows)
|
||||
|
||||
$ python -m app.sweep --grace 0 (очистка незавершённых загрузок)
|
||||
sweep: найдено 15, удалено 15, не удалось 0 (grace=0 с)
|
||||
status | count
|
||||
--------+-------
|
||||
ready | 32
|
||||
(1 row)
|
||||
|
||||
объектов в S3: 32
|
||||
NAME IMAGE COMMAND SERVICE CREATED STATUS PORTS
|
||||
mtusi-lab4-api-1 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 5 hours ago Up About a minute (healthy) 8080/tcp
|
||||
mtusi-lab4-api-2 mtusi-lab4-api:1 "uvicorn app.main:ap…" api 5 hours ago Up About a minute (healthy) 8080/tcp
|
||||
mtusi-lab4-lb-1 haproxy:2.8.10-alpine "docker-entrypoint.s…" lb 5 hours ago Up 5 hours (healthy) 127.0.0.1:8080->8080/tcp
|
||||
mtusi-lab4-postgres-1 postgres:16.4-alpine "docker-entrypoint.s…" postgres 5 hours ago Up 5 hours (healthy) 5432/tcp
|
||||
mtusi-lab4-s3-1 chrislusf/seaweedfs:4.42 "weed server -dir=/d…" s3 5 hours ago Up 33 seconds (healthy) 7333/tcp, 8080/tcp, 8333/tcp, 8888/tcp, 9333/tcp, 18080/tcp, 18888/tcp, 19333/tcp
|
||||
|
||||
=================== evidence/11-lb-config.txt
|
||||
# 11 настройка LB: проверки и время обнаружения отказа (2026-11-14T11:04:02Z)
|
||||
option redispatch 1 # при неудачном соединении последняя попытка уходит на другой backend
|
||||
retries 3 # повторяем только установку соединения: запрос ещё не отправлен, это безопасно
|
||||
timeout connect 1s
|
||||
timeout client 30s
|
||||
timeout server 30s
|
||||
timeout http-request 10s
|
||||
timeout check 1s
|
||||
timeout resolve 1s
|
||||
timeout retry 1s
|
||||
hold valid 1s
|
||||
option httpchk
|
||||
http-check send meth GET uri /health/ready ver HTTP/1.1 hdr Host api
|
||||
http-check expect status 200
|
||||
default-server check inter 1s fall 2 rise 2 resolvers docker resolve-prefer ipv4 init-addr none on-marked-down shutdown-sessions
|
||||
server-template api 6 api:8080
|
||||
Максимальное время обнаружения отказа по конфигурации: inter 1s x fall 2 + timeout check 1s = около 3 с (порог задания: 10 с).
|
||||
--- фактическое состояние backend в HAProxy (через stats нет; смотрим логи LB за последние строки)
|
||||
172.25.0.1:44958 [14/Nov/2026:11:03:36.713] public api/api2 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:44984 [14/Nov/2026:11:03:37.747] public api/api1 0/0/0/21/21 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:44988 [14/Nov/2026:11:03:38.788] public api/api2 0/0/0/876/877 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:45008 [14/Nov/2026:11:03:40.669] public api/api1 0/0/0/14/14 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:57982 [14/Nov/2026:11:03:41.701] public api/api2 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:57988 [14/Nov/2026:11:03:42.726] public api/api1 0/0/1/1081/1082 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:58024 [14/Nov/2026:11:03:44.832] public api/api2 0/0/0/1304/1304 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:58034 [14/Nov/2026:11:03:47.163] public api/api1 0/0/0/7/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:58064 [14/Nov/2026:11:03:48.174] public api/api2 0/0/0/12/12 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:58076 [14/Nov/2026:11:03:49.213] public api/api1 0/0/1/1546/1547 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:39882 [14/Nov/2026:11:03:51.782] public api/api2 0/0/0/1222/1222 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:39904 [14/Nov/2026:11:03:54.023] public api/api1 0/0/1/6/7 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:39912 [14/Nov/2026:11:03:55.051] public api/api2 0/0/1/7/8 503 354 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:39920 [14/Nov/2026:11:03:56.081] public api/api1 0/0/1/27/29 201 620 - - ---- 1/1/0/0/0 0/0 "POST /api/v1/chats/51da9e1c-662c-4bb0-a8d4-b4c55e6e13a9/attachments?filename=a.png HTTP/1.1"
|
||||
172.25.0.1:39926 [14/Nov/2026:11:03:56.127] public api/api2 0/0/1/2/3 503 354 - - ---- 1/1/0/0/0 0/0 "GET /api/v1/attachments/05bb3ffb-93bb-4e5c-ad31-fe99c47930ce/content HTTP/1.1"
|
||||
|
||||
=================== evidence/12-git-hygiene.txt
|
||||
# 12 секреты и volumes вне Git (2026-11-14T11:04:03Z)
|
||||
$ git check-ignore -v secrets/pg_password secrets/database_url .env
|
||||
.gitignore:5:secrets/ secrets/pg_password
|
||||
.gitignore:5:secrets/ secrets/database_url
|
||||
.gitignore:2:.env .env
|
||||
$ отслеживаемые файлы, похожие на секреты:
|
||||
нет
|
||||
@@ -0,0 +1,52 @@
|
||||
# Единая точка входа lab3. Backend-адреса обнаруживаются через DNS Docker (сервис "api" -> IP всех реплик)
|
||||
# и перечитываются каждую секунду, поэтому добавленные/удалённые реплики подхватываются без перезапуска LB.
|
||||
global
|
||||
log stdout format raw local0
|
||||
maxconn 4096
|
||||
hard-stop-after 5s # мягкая остановка LB (SIGUSR1) не зависает на keep-alive соединениях
|
||||
|
||||
defaults
|
||||
mode http
|
||||
log global
|
||||
option httplog
|
||||
option dontlognull
|
||||
option redispatch 1 # при неудачном соединении последняя попытка уходит на другой backend
|
||||
retries 3 # повторяем только установку соединения: запрос ещё не отправлен, это безопасно
|
||||
timeout connect 1s
|
||||
timeout client 30s
|
||||
timeout server 30s
|
||||
timeout http-request 10s
|
||||
timeout check 1s
|
||||
|
||||
resolvers docker
|
||||
nameserver dns1 127.0.0.11:53
|
||||
resolve_retries 3
|
||||
timeout resolve 1s
|
||||
timeout retry 1s
|
||||
hold valid 1s
|
||||
hold other 1s
|
||||
hold refused 1s
|
||||
hold nx 1s
|
||||
hold timeout 1s
|
||||
hold obsolete 1s
|
||||
|
||||
frontend public
|
||||
bind :8080
|
||||
default_backend api
|
||||
|
||||
backend api
|
||||
balance roundrobin
|
||||
# Активная проверка готовности: инстанс получает трафик только пока GET /health/ready отвечает 200.
|
||||
# Обнаружение отказа: inter 1s * fall 2 + timeout check 1s => не более ~3 секунд.
|
||||
option httpchk
|
||||
http-check send meth GET uri /health/ready ver HTTP/1.1 hdr Host api
|
||||
http-check expect status 200
|
||||
default-server check inter 1s fall 2 rise 2 resolvers docker resolve-prefer ipv4 init-addr none on-marked-down shutdown-sessions
|
||||
# До 6 слотов под реплики; свободные слоты остаются без адреса (DOWN) и трафик не получают.
|
||||
server-template api 6 api:8080
|
||||
|
||||
# Внутренняя проверка самого LB для Docker healthcheck: 200, пока есть хотя бы один живой backend.
|
||||
frontend lb_health
|
||||
bind 127.0.0.1:8081
|
||||
monitor-uri /healthz
|
||||
monitor fail if { nbsrv(api) lt 1 }
|
||||
@@ -0,0 +1,285 @@
|
||||
#!/bin/sh
|
||||
# Собирает доказательства lab4 в evidence/*.txt. Запускать из Git Bash (Windows) или любого sh,
|
||||
# когда стенд уже поднят: docker compose up -d --build.
|
||||
# sh scripts/collect-evidence.sh # проверки на текущих данных
|
||||
# sh scripts/collect-evidence.sh --fresh # сначала `docker compose down -v` (УДАЛЯЕТ учебные данные) и чистый старт
|
||||
# Скрипт сам останавливает по одной API-реплике (потом запускает снова), перезапускает стенд, останавливает PostgreSQL и S3.
|
||||
# Тома не удаляются, кроме режима --fresh. Секреты и токены не печатаются.
|
||||
set -u
|
||||
cd "$(dirname "$0")/.." || exit 1
|
||||
export MSYS_NO_PATHCONV=1 # Git Bash: не превращать /run/... в Windows-пути
|
||||
export PYTHONUTF8=1 # читаемый UTF-8 в evidence/*.txt
|
||||
mkdir -p evidence
|
||||
BASE="${BASE_URL:-http://localhost:8080}"
|
||||
PROJECT=mtusi-lab4
|
||||
PY=""
|
||||
for c in python python3 py; do
|
||||
if "$c" --version >/dev/null 2>&1; then PY="$c"; break; fi
|
||||
done
|
||||
[ -n "$PY" ] || { echo "Не найден python (python/python3/py)"; exit 2; }
|
||||
case "$(uname -s)" in
|
||||
MINGW*|MSYS*|CYGWIN*) RESTART="${RESTART_HOOK:-scripts/restart.cmd}"; STOPONE="${STOPONE_HOOK:-scripts/stop-one.cmd}" ;;
|
||||
*) RESTART="${RESTART_HOOK:-scripts/restart.sh}"; STOPONE="${STOPONE_HOOK:-scripts/stop-one.sh}" ;;
|
||||
esac
|
||||
echo "Сбор доказательств lab4: 13 шагов, 6-10 минут (S3 стартует ~20 с). Прогресс печатается после каждого шага."
|
||||
|
||||
now() { date -u +%Y-%m-%dT%H:%M:%SZ; }
|
||||
sec() { date +%s; }
|
||||
wait_ready() {
|
||||
i=0
|
||||
until curl -fsS -m 3 "$BASE/health/ready" >/dev/null 2>&1; do
|
||||
i=$((i + 1)); [ "$i" -gt 90 ] && return 1; sleep 1
|
||||
done
|
||||
return 0
|
||||
}
|
||||
# ждём, пока через LB снова видны >= $1 разных реплик
|
||||
wait_replicas() {
|
||||
want=$1; i=0
|
||||
while :; do
|
||||
n=$(for _ in 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20; do curl -s -m 3 -D - -o /dev/null "$BASE/health/live" | tr -d '\r' | grep -i '^x-instance-id:'; done | sort -u | wc -l)
|
||||
[ "$n" -ge "$want" ] && return 0
|
||||
i=$((i + 1)); [ "$i" -gt 40 ] && return 1; sleep 1
|
||||
done
|
||||
}
|
||||
api_ids() { docker ps -q --filter "label=com.docker.compose.project=$PROJECT" --filter "label=com.docker.compose.service=api"; }
|
||||
api_state() { docker ps -a --filter "label=com.docker.compose.project=$PROJECT" --filter "label=com.docker.compose.service=api" --format '{{.ID}} {{.Names}} {{.Status}}'; }
|
||||
started() { docker inspect -f '{{.Name}} StartedAt={{.State.StartedAt}} RestartCount={{.RestartCount}}' $(docker compose ps -q postgres s3 api lb); }
|
||||
s3_count() { docker compose run --rm --no-deps -T s3-init python -m app.s3init --count 2>/dev/null | tail -1; }
|
||||
wait_s3() { i=0; until docker compose exec -T s3 wget -q -O /dev/null http://127.0.0.1:8333/healthz >/dev/null 2>&1; do i=$((i + 1)); [ "$i" -gt 90 ] && return 1; sleep 1; done; }
|
||||
psql_c() { docker compose exec -T postgres psql -U msg -d msg -c "$1"; }
|
||||
spread() { for _ in $(seq 1 "${1:-40}"); do curl -s -m 3 -D - -o /dev/null -H "Authorization: Bearer ${2:-x}" "$BASE/api/v1/users/me" | tr -d '\r' | grep -i '^x-instance-id:'; done | sort | uniq -c; }
|
||||
RESULTS=""
|
||||
# STEPS="03 05 10" sh scripts/collect-evidence.sh -- выполнить только перечисленные шаги (остальные файлы evidence/ остаются прежними)
|
||||
want() { [ -z "${STEPS:-}" ] && return 0; case " $STEPS " in *" $1 "*) return 0 ;; *) return 1 ;; esac; }
|
||||
note() { RESULTS="$RESULTS
|
||||
$1"; echo "готово: $1"; }
|
||||
|
||||
if [ "${1:-}" = "--fresh" ]; then
|
||||
{
|
||||
echo "# 00 чистый старт ($(now))"
|
||||
echo "\$ docker compose down -v"; docker compose down -v
|
||||
echo "\$ sh scripts/setup-secrets.sh"; sh scripts/setup-secrets.sh && echo "secrets: ok (значения не печатаются)"
|
||||
t0=$(sec)
|
||||
echo "\$ docker compose up -d --build"; docker compose up -d --build
|
||||
if wait_ready; then echo "ready через $(( $(sec) - t0 )) с после запуска up"; else echo "НЕ ГОТОВ за 90 с"; fi
|
||||
} > evidence/00-clean-start.txt 2>&1
|
||||
note "00 clean start -> evidence/00-clean-start.txt"
|
||||
fi
|
||||
|
||||
wait_ready || { echo "LB/API не отвечает на $BASE/health/ready. Сначала: docker compose up -d --build"; exit 1; }
|
||||
wait_replicas 2 || { echo "Через LB видна меньше чем 2 реплики. Проверьте: docker compose ps"; exit 1; }
|
||||
|
||||
if want 01; then
|
||||
{
|
||||
echo "# 01 окружение ($(now))"
|
||||
echo "commit: $(git rev-parse HEAD 2>/dev/null || echo 'нет git')"
|
||||
echo "git status:"; git status --short 2>/dev/null | head -20
|
||||
echo "\$ docker version"; docker version --format 'client={{.Client.Version}} server={{.Server.Version}} os={{.Server.Os}}/{{.Server.Arch}}'
|
||||
echo "\$ docker compose version"; docker compose version
|
||||
echo "python: $($PY --version 2>&1)"
|
||||
echo "\$ docker compose config --quiet"; docker compose config --quiet && echo "compose config: OK"
|
||||
echo "\$ docker compose images"; docker compose images
|
||||
echo "\$ docker compose ps -a"; docker compose ps -a
|
||||
echo "\$ docker volume ls (pgdata)"; docker volume ls | grep -i pgdata
|
||||
echo "\$ docker stats --no-stream"; docker stats --no-stream --format 'table {{.Name}}\t{{.CPUPerc}}\t{{.MemUsage}}' $(docker compose ps -q)
|
||||
echo "\$ docker info (лимиты хоста)"; docker info --format 'CPUs={{.NCPU}} Mem={{.MemTotal}}'
|
||||
} > evidence/01-env.txt 2>&1
|
||||
note "01 окружение -> evidence/01-env.txt"
|
||||
fi
|
||||
|
||||
if want 02; then
|
||||
{
|
||||
echo "# 02 публичные проверки через LB ($(now))"
|
||||
echo "\$ python scripts/check_contract.py"; $PY scripts/check_contract.py; echo "exit code: $?"
|
||||
echo "\$ python tests/smoke.py --base-url $BASE"; $PY tests/smoke.py --base-url "$BASE"; echo "exit code: $?"
|
||||
} > evidence/02-smoke.txt 2>&1
|
||||
note "02 smoke -> evidence/02-smoke.txt: $(grep -c '^PASS: lab4' evidence/02-smoke.txt) PASS-строк smoke"
|
||||
fi
|
||||
|
||||
if want 03; then
|
||||
{
|
||||
echo "# 03 собственные проверки ($(now))"
|
||||
echo "\$ python student-tests/lab3_checks.py --base-url $BASE"
|
||||
$PY student-tests/lab3_checks.py --base-url "$BASE"; echo "exit code: $?"
|
||||
echo "\$ python student-tests/lab3_checks.py --base-url $BASE --mode idem --min-instances 2"
|
||||
$PY student-tests/lab3_checks.py --base-url "$BASE" --mode idem --min-instances 2; echo "exit code: $?"
|
||||
echo "\$ python student-tests/lab4_checks.py --base-url $BASE (вложения: форматы, лимиты, права, сообщения)"
|
||||
$PY student-tests/lab4_checks.py --base-url "$BASE"; echo "exit code: $?"
|
||||
} > evidence/03-student-checks.txt 2>&1
|
||||
note "03 собственные -> evidence/03-student-checks.txt: $(grep -c '^PASS: ' evidence/03-student-checks.txt) PASS, $(grep -c '^FAIL: ' evidence/03-student-checks.txt) FAIL, $(grep -c 'exit code: [1-9]' evidence/03-student-checks.txt) команд с ошибкой"
|
||||
fi
|
||||
|
||||
if want 04; then
|
||||
{
|
||||
echo "# 04 балансировка: одна сессия, разные реплики ($(now))"
|
||||
echo "\$ docker compose ps api (реплики одного сервиса, без container_name)"; docker compose ps api
|
||||
echo "--- ID работающих API-контейнеров (X-Instance-Id = hostname = короткий ID контейнера)"; api_ids
|
||||
echo "--- порты API-контейнеров наружу (должно быть пусто: вход только через LB)"
|
||||
for c in $(api_ids); do echo "container $c:"; docker port "$c" || true; done
|
||||
echo "--- порты LB"; docker compose port lb 8080
|
||||
echo "--- 40 запросов с ОДНИМ токеном к GET /users/me через LB: число ответов на каждую реплику"
|
||||
$PY - <<'PYEOF' "$BASE"
|
||||
import base64, collections, json, sys, urllib.request as u
|
||||
b = sys.argv[1] + "/api/v1"
|
||||
def call(m, p, body=None, h=None):
|
||||
r = u.Request(b + p, data=json.dumps(body).encode() if body is not None else None, method=m,
|
||||
headers={**(h or {}), **({"Content-Type": "application/json"} if body is not None else {})})
|
||||
return u.urlopen(r, timeout=10)
|
||||
name = "lbprobe_" + base64.b32encode(__import__("os").urandom(5)).decode().lower()
|
||||
pw = "correct-horse-battery"
|
||||
call("POST", "/users", {"username": name, "display_name": "probe", "password": pw})
|
||||
tok = json.load(call("POST", "/auth/sessions", h={"Authorization": "Basic " + base64.b64encode(f"{name}:{pw}".encode()).decode()}))["token"]
|
||||
cnt = collections.Counter(call("GET", "/users/me", h={"Authorization": "Bearer " + tok}).headers["X-Instance-Id"] for _ in range(40))
|
||||
for k, v in sorted(cnt.items()): print(f" {v:3d} X-Instance-Id={k}")
|
||||
print("реплик увидено:", len(cnt), "| токен не печатается, повторный вход не выполнялся")
|
||||
PYEOF
|
||||
} > evidence/04-load-balancing.txt 2>&1
|
||||
note "04 балансировка -> evidence/04-load-balancing.txt: $(grep -m1 'реплик увидено' evidence/04-load-balancing.txt)"
|
||||
fi
|
||||
|
||||
if want 05; then
|
||||
{
|
||||
echo "# 05 отказ API-реплики: последовательно каждая из двух ($(now))"
|
||||
echo "hook: $STOPONE"
|
||||
for round in 1 2; do
|
||||
echo; echo "=== раунд $round ==="
|
||||
echo "--- до"; api_state
|
||||
echo "\$ python tests/resilience.py --mode failover --action-script $STOPONE"
|
||||
t0=$(sec)
|
||||
$PY tests/resilience.py --mode failover --action-script "$STOPONE" --base-url "$BASE"; echo "exit code: $?"
|
||||
echo "--- после (ровно одна реплика должна быть Exited; остальные Up)"; api_state
|
||||
echo "--- LB сейчас: ответы по репликам (остановленной быть не должно)"; spread 20
|
||||
echo "--- восстановление: docker compose start api"; docker compose start api >/dev/null
|
||||
t1=$(sec); if wait_replicas 2; then echo "обе реплики снова видны через LB через $(( $(sec) - t1 )) с"; else echo "реплика не вернулась за 40 с"; fi
|
||||
api_state
|
||||
done
|
||||
for round in 1 2; do
|
||||
echo; echo "=== вложение + остановка принявшей реплики, раунд $round (--target-index $((round - 1)): останавливается другая реплика) ==="
|
||||
echo "\$ python student-tests/lab4_checks.py --mode upload-stop --stop-hook $STOPONE --target-index $((round - 1))"
|
||||
$PY student-tests/lab4_checks.py --base-url "$BASE" --mode upload-stop --stop-hook "$STOPONE" --target-index $((round - 1)); echo "exit code: $?"
|
||||
echo "--- после"; api_state
|
||||
echo "--- восстановление: docker compose start api"; docker compose start api >/dev/null
|
||||
t1=$(sec); if wait_replicas 2; then echo "обе реплики снова видны через LB через $(( $(sec) - t1 )) с"; else echo "реплика не вернулась за 40 с"; fi
|
||||
done
|
||||
} > evidence/05-failover.txt 2>&1
|
||||
note "05 failover -> evidence/05-failover.txt: $(grep -c '^PASS: failover' evidence/05-failover.txt) из 2 раундов PASS, upload-stop: $(grep -c "режима 'upload-stop'" evidence/05-failover.txt) из 2"
|
||||
fi
|
||||
|
||||
if want 06; then
|
||||
{
|
||||
echo "# 06 сохранность при рестарте всего стенда (PostgreSQL, S3, API, LB) ($(now))"
|
||||
echo "--- до"; started; docker compose ps
|
||||
echo "объектов в S3 до рестарта: $(s3_count)"
|
||||
echo "\$ python tests/resilience.py --mode persistence --action-script $RESTART"
|
||||
$PY tests/resilience.py --mode persistence --action-script "$RESTART" --base-url "$BASE"; echo "exit code: $?"
|
||||
echo "--- после (StartedAt должен измениться у postgres, api и lb)"; started; docker compose ps
|
||||
echo "--- время восстановления одного рестарта (hook + ожидание /health/ready и 2 реплик)"
|
||||
t0=$(sec); sh scripts/restart.sh; if wait_ready && wait_replicas 2; then echo "готов через $(( $(sec) - t0 )) с"; else echo "НЕ ГОТОВ за 90 с"; fi
|
||||
echo "объектов в S3 после рестарта: $(s3_count)"
|
||||
echo "--- данные в БД после рестарта"
|
||||
psql_c "select (select count(*) from users) users, (select count(*) from chats) chats, (select count(*) from messages) messages, (select count(*) from sessions) sessions, (select count(*) from idempotency_keys) idempotency_keys, (select count(*) from attachments) attachments"
|
||||
} > evidence/06-persistence.txt 2>&1
|
||||
note "06 persistence -> evidence/06-persistence.txt: $(grep -m1 -E '^(PASS|FAIL): persistence' evidence/06-persistence.txt || echo 'см. файл')"
|
||||
fi
|
||||
|
||||
if want 07; then
|
||||
{
|
||||
echo "# 07 схема БД и миграции ($(now))"
|
||||
psql_c "select * from schema_migrations"
|
||||
psql_c "\\dt"
|
||||
for t in attachments message_attachments idempotency_keys messages; do psql_c "\\d $t"; done
|
||||
echo "--- статусы вложений в БД (после тестов не должно быть uploading)"; psql_c "select status, count(*) from attachments group by 1 order by 1"
|
||||
echo "--- пароли хранятся как Argon2id, в sessions только sha256 токена"
|
||||
psql_c "select left(password_hash, 10) as hash_prefix, count(*) from users group by 1"
|
||||
psql_c "select length(token_hash) as token_hash_bytes, count(*) from sessions group by 1"
|
||||
echo "--- миграции выполняет отдельный one-shot сервис migrate (однократно, не репликами)"
|
||||
docker compose ps -a migrate
|
||||
docker compose logs --no-log-prefix migrate | tail -3
|
||||
echo "--- API-реплики стартуют с RUN_MIGRATIONS=0"
|
||||
docker inspect -f '{{range .Config.Env}}{{println .}}{{end}}' $(api_ids | head -1) | grep -E '^(RUN_MIGRATIONS|SESSION_TTL_SECONDS|IDEMPOTENCY_TTL_SECONDS)='
|
||||
echo "--- повторный явный запуск миграции безопасен"
|
||||
docker compose run --rm --no-deps migrate; psql_c "select version from schema_migrations"
|
||||
} > evidence/07-db-migrations.txt 2>&1
|
||||
note "07 БД и миграции -> evidence/07-db-migrations.txt"
|
||||
fi
|
||||
|
||||
if want 08; then
|
||||
{
|
||||
echo "# 08 приватное S3-хранилище вложений ($(now))"
|
||||
echo "\$ docker compose ps -a s3 s3-init"; docker compose ps -a s3 s3-init
|
||||
echo "--- порты S3 наружу (должно быть пусто: S3 доступен только внутри сети compose)"; docker port "$(docker compose ps -q s3)" || true
|
||||
echo "--- журнал s3-init (bucket создаётся идемпотентно)"; docker compose logs --no-log-prefix s3-init | tail -12
|
||||
echo "--- повторный запуск s3-init и проверки приватности/прав (анонимный доступ, ограниченный ключ)"
|
||||
docker compose run --rm --no-deps -T s3-init python -m app.s3init; echo "exit code: $?"
|
||||
echo "--- у API-реплик есть только ограниченный ключ (имена секретов; значения не печатаются)"
|
||||
docker inspect -f '{{range .Mounts}}{{println .Destination}}{{end}}' $(api_ids | head -1) | grep /run/secrets
|
||||
echo "--- у API-контейнеров нет локального хранилища вложений: изменения файловой системы после всех загрузок (должно быть пусто)"
|
||||
echo "(записи /run/secrets относятся к смонтированным Docker secrets и не являются данными вложений)"
|
||||
for c in $(api_ids); do echo "container $c:"; docker diff "$c" | grep -v ' /run' || echo " изменений файловой системы нет, кроме /run/secrets"; done
|
||||
echo "--- сверка БД и S3: число готовых вложений и объектов в bucket"
|
||||
echo "ready в БД: $(docker compose exec -T postgres psql -U msg -d msg -t -A -c "select count(*) from attachments where status='ready'")"
|
||||
echo "uploading в БД: $(docker compose exec -T postgres psql -U msg -d msg -t -A -c "select count(*) from attachments where status='uploading'")"
|
||||
echo "объектов в S3: $(s3_count)"
|
||||
echo "--- volume с данными S3"; docker inspect -f '{{range .Mounts}}{{.Type}} {{.Name}} -> {{.Destination}}{{println}}{{end}}' "$(docker compose ps -q s3)"
|
||||
} > evidence/08-s3-storage.txt 2>&1
|
||||
note "08 S3 хранилище -> evidence/08-s3-storage.txt: $(grep -c '^PASS: ' evidence/08-s3-storage.txt) PASS, $(grep -c '^FAIL: ' evidence/08-s3-storage.txt) FAIL"
|
||||
fi
|
||||
|
||||
if want 09; then
|
||||
{
|
||||
echo "# 09 недоступность PostgreSQL ($(now))"
|
||||
echo "\$ docker compose stop postgres"; docker compose stop postgres >/dev/null; sleep 4
|
||||
echo "GET /health/ready (через LB) -> $(curl -s -m 15 -o /dev/null -w '%{http_code}' "$BASE/health/ready") (все backend не готовы, LB отвечает 503)"
|
||||
echo "GET /api/v1/users/me -> $(curl -s -m 15 -o /dev/null -w '%{http_code}' -H 'Authorization: Bearer anonymous' "$BASE/api/v1/users/me")"
|
||||
echo "\$ docker compose start postgres"; t0=$(sec); docker compose start postgres >/dev/null
|
||||
if wait_ready && wait_replicas 2; then echo "ready и 2 реплики снова через $(( $(sec) - t0 )) с"; else echo "НЕ ВОССТАНОВИЛСЯ за 90 с"; fi
|
||||
docker compose ps
|
||||
} > evidence/09-db-down.txt 2>&1
|
||||
note "09 БД недоступна -> evidence/09-db-down.txt"
|
||||
fi
|
||||
|
||||
if want 10; then
|
||||
{
|
||||
echo "# 10 недоступность S3 при живых API и PostgreSQL ($(now))"
|
||||
echo "\$ python student-tests/lab4_checks.py --mode s3-outage (внутри: docker compose stop s3 ... docker compose start s3)"
|
||||
$PY student-tests/lab4_checks.py --base-url "$BASE" --mode s3-outage; echo "exit code: $?"
|
||||
wait_s3 && echo "S3 healthy"
|
||||
echo "--- после сбоя в БД остаются строки uploading (если удаление объекта подтвердить не удалось)"
|
||||
psql_c "select status, count(*) from attachments group by 1 order by 1"
|
||||
echo "\$ python -m app.sweep --grace 0 (очистка незавершённых загрузок)"
|
||||
docker compose run --rm --no-deps -T -e SWEEP_GRACE_SECONDS=0 api python -m app.sweep --grace 0 2>&1 | tail -3
|
||||
psql_c "select status, count(*) from attachments group by 1 order by 1"
|
||||
echo "объектов в S3: $(s3_count)"
|
||||
docker compose ps
|
||||
} > evidence/10-s3-down.txt 2>&1
|
||||
note "10 S3 недоступен -> evidence/10-s3-down.txt: $(grep -m1 -E '^(PASS|FAIL): (все|[0-9])' evidence/10-s3-down.txt || echo 'см. файл')"
|
||||
fi
|
||||
|
||||
if want 11; then
|
||||
{
|
||||
echo "# 11 настройка LB: проверки и время обнаружения отказа ($(now))"
|
||||
grep -E '^\s*(option httpchk|http-check|default-server|server-template|timeout|retries|option redispatch|hold valid)' infra/haproxy/haproxy.cfg
|
||||
echo "Максимальное время обнаружения отказа по конфигурации: inter 1s x fall 2 + timeout check 1s = около 3 с (порог задания: 10 с)."
|
||||
echo "--- фактическое состояние backend в HAProxy (через stats нет; смотрим логи LB за последние строки)"
|
||||
docker compose logs --no-log-prefix --tail 15 lb
|
||||
} > evidence/11-lb-config.txt 2>&1
|
||||
note "11 конфигурация LB -> evidence/11-lb-config.txt"
|
||||
fi
|
||||
|
||||
if want 12; then
|
||||
{
|
||||
echo "# 12 секреты и volumes вне Git ($(now))"
|
||||
if git rev-parse --git-dir >/dev/null 2>&1; then
|
||||
echo "\$ git check-ignore -v secrets/pg_password secrets/database_url .env"; git check-ignore -v secrets/pg_password secrets/database_url .env
|
||||
echo "\$ отслеживаемые файлы, похожие на секреты:"; git ls-files | grep -E '(^|/)(secrets/|\.env$|.*\.(pem|key)$)' || echo "нет"
|
||||
else
|
||||
echo "каталог не является git-репозиторием: запустите проверку в клоне"
|
||||
fi
|
||||
} > evidence/12-git-hygiene.txt 2>&1
|
||||
note "12 git hygiene -> evidence/12-git-hygiene.txt"
|
||||
fi
|
||||
|
||||
{ echo "# Сводка сбора доказательств lab4 ($(now))"; echo "$RESULTS"; for f in evidence/[01][0-9]-*.txt; do echo; echo "=================== $f"; cat "$f"; done; } > evidence/summary.txt 2>&1
|
||||
echo "$RESULTS"
|
||||
echo
|
||||
echo "Готово. Отправьте мне содержимое evidence/summary.txt (секретов в нём нет, но просмотрите глазами)."
|
||||
@@ -0,0 +1,8 @@
|
||||
@echo off
|
||||
cd /d "%~dp0.."
|
||||
docker compose restart postgres s3 >nul || exit /b 1
|
||||
docker compose exec -T postgres sh -c "i=0; until pg_isready -U msg -d msg -q; do i=$((i+1)); [ $i -gt 60 ] && exit 1; sleep 1; done" || exit /b 1
|
||||
docker compose exec -T s3 sh -c "i=0; until wget -q -O /dev/null http://127.0.0.1:8333/healthz 2>/dev/null; do i=$((i+1)); [ $i -gt 120 ] && exit 1; sleep 1; done" || exit /b 1
|
||||
docker compose restart api lb >nul || exit /b 1
|
||||
docker compose up -d --no-build --no-recreate >nul
|
||||
exit /b %errorlevel%
|
||||
@@ -0,0 +1,10 @@
|
||||
#!/bin/sh
|
||||
# Перезапуск всего стенда с сохранением volumes: PostgreSQL и S3 -> (ожидание готовности) -> API-реплики -> LB.
|
||||
# Данные не удаляются и не пересоздаются; остановленные реплики заодно запускаются.
|
||||
set -eu
|
||||
cd "$(dirname "$0")/.." || exit 1
|
||||
docker compose restart postgres s3 >/dev/null
|
||||
docker compose exec -T postgres sh -c 'i=0; until pg_isready -U msg -d msg -q; do i=$((i+1)); [ "$i" -gt 60 ] && exit 1; sleep 1; done'
|
||||
docker compose exec -T s3 sh -c 'i=0; until wget -q -O /dev/null http://127.0.0.1:8333/healthz 2>/dev/null; do i=$((i+1)); [ "$i" -gt 120 ] && exit 1; sleep 1; done'
|
||||
docker compose restart api lb >/dev/null
|
||||
docker compose up -d --no-build --no-recreate >/dev/null
|
||||
@@ -0,0 +1,24 @@
|
||||
#!/bin/sh
|
||||
# Создаёт локальные секреты (не коммитятся). Безопасно повторять: существующие не перезаписываются.
|
||||
# S3: два набора ключей. admin нужен только одноразовому s3-init (создать bucket); ключ API ограничен одним bucket.
|
||||
set -eu
|
||||
cd "$(dirname "$0")/.." || exit 1
|
||||
mkdir -p secrets
|
||||
BUCKET="${S3_BUCKET:-messenger-attachments}"
|
||||
rand() { head -c 96 /dev/urandom | base64 | tr -dc 'A-Za-z0-9' | cut -c1-"$1"; }
|
||||
|
||||
[ -f secrets/pg_password ] || rand 32 > secrets/pg_password
|
||||
[ -f secrets/database_url ] || printf 'postgresql://msg:%s@postgres:5432/msg' "$(cat secrets/pg_password)" > secrets/database_url
|
||||
|
||||
[ -f secrets/s3_admin_access_key_id ] || rand 20 > secrets/s3_admin_access_key_id
|
||||
[ -f secrets/s3_admin_secret_access_key ] || rand 40 > secrets/s3_admin_secret_access_key
|
||||
[ -f secrets/s3_access_key_id ] || rand 20 > secrets/s3_access_key_id
|
||||
[ -f secrets/s3_secret_access_key ] || rand 40 > secrets/s3_secret_access_key
|
||||
# конфигурация SeaweedFS S3 строится из этих ключей; анонимного доступа нет, у ключа API права только на свой bucket
|
||||
if [ ! -f secrets/s3_config.json ]; then
|
||||
printf '{"identities":[{"name":"admin","credentials":[{"accessKey":"%s","secretKey":"%s"}],"actions":["Admin","Read","Write","List","Tagging"]},{"name":"api","credentials":[{"accessKey":"%s","secretKey":"%s"}],"actions":["Read:%s","Write:%s","List:%s"]}]}' \
|
||||
"$(cat secrets/s3_admin_access_key_id)" "$(cat secrets/s3_admin_secret_access_key)" \
|
||||
"$(cat secrets/s3_access_key_id)" "$(cat secrets/s3_secret_access_key)" "$BUCKET" "$BUCKET" "$BUCKET" > secrets/s3_config.json
|
||||
fi
|
||||
chmod 600 secrets/* 2>/dev/null || true
|
||||
echo "secrets: ok (значения не печатаются)"
|
||||
@@ -0,0 +1,9 @@
|
||||
@echo off
|
||||
rem Stops ONE API replica (TARGET_INSTANCE_ID = X-Instance-Id = short container id) and leaves it stopped.
|
||||
if "%TARGET_INSTANCE_ID%"=="" exit /b 2
|
||||
set TARGET_INSTANCE_ID | findstr /r /x "TARGET_INSTANCE_ID=[a-zA-Z0-9_.-][a-zA-Z0-9_.-]*" >nul || exit /b 2
|
||||
set "CID="
|
||||
for /f %%i in ('docker ps -q --filter "label=com.docker.compose.project=mtusi-lab4" --filter "label=com.docker.compose.service=api" --filter "id=%TARGET_INSTANCE_ID%"') do set "CID=%%i"
|
||||
if "%CID%"=="" exit /b 1
|
||||
docker stop -t 5 %CID% >nul
|
||||
exit /b %errorlevel%
|
||||
@@ -0,0 +1,15 @@
|
||||
#!/bin/sh
|
||||
# Останавливает ОДНУ API-реплику: ту, X-Instance-Id которой передан в TARGET_INSTANCE_ID, и оставляет её остановленной.
|
||||
# X-Instance-Id = hostname контейнера = короткий ID контейнера. БД, LB и volumes не затрагиваются.
|
||||
# Восстановление выполняется отдельно: docker compose start api
|
||||
set -eu
|
||||
: "${TARGET_INSTANCE_ID:?test provides target API instance alias}"
|
||||
case "$TARGET_INSTANCE_ID" in
|
||||
""|*[!a-zA-Z0-9_.-]*) echo "bad TARGET_INSTANCE_ID" >&2; exit 2 ;;
|
||||
esac
|
||||
cid=$(docker ps -q \
|
||||
--filter "label=com.docker.compose.project=mtusi-lab4" \
|
||||
--filter "label=com.docker.compose.service=api" \
|
||||
--filter "id=$TARGET_INSTANCE_ID")
|
||||
[ -n "$cid" ] || { echo "API replica $TARGET_INSTANCE_ID not found" >&2; exit 1; }
|
||||
docker stop -t 5 "$cid" >/dev/null
|
||||
@@ -0,0 +1,118 @@
|
||||
"""Проверка PNG/JPEG по содержимому без декодирования пикселей (защита от decompression bomb).
|
||||
|
||||
Размеры берутся из заголовков (PNG IHDR, JPEG SOF); структура проверяется: у PNG — CRC каждого блока, IHDR первым,
|
||||
хотя бы один IDAT, IEND последним; у JPEG — SOI, корректные сегменты до SOF/SOS и EOI в конце.
|
||||
Ошибки: ImageError("unsupported") -> 415, ImageError("too_large") -> 413.
|
||||
"""
|
||||
import struct
|
||||
import zlib
|
||||
|
||||
PNG_SIG = b"\x89PNG\r\n\x1a\n"
|
||||
JPEG_SOF = {0xC0, 0xC1, 0xC2, 0xC3, 0xC5, 0xC6, 0xC7, 0xC9, 0xCA, 0xCB, 0xCD, 0xCE, 0xCF}
|
||||
MAX_DIM = 65535 # JPEG ограничен 16 битами; PNG ограничим тем же значением для единообразия
|
||||
|
||||
|
||||
class ImageError(Exception):
|
||||
def __init__(self, kind, message):
|
||||
super().__init__(message)
|
||||
self.kind, self.message = kind, message
|
||||
|
||||
|
||||
def _unsupported(msg="Файл не является корректным PNG/JPEG"):
|
||||
return ImageError("unsupported", msg)
|
||||
|
||||
|
||||
def sniff(data: bytes):
|
||||
"""Возвращает 'image/png', 'image/jpeg' или None по сигнатуре."""
|
||||
if data[:8] == PNG_SIG:
|
||||
return "image/png"
|
||||
if data[:3] == b"\xff\xd8\xff":
|
||||
return "image/jpeg"
|
||||
return None
|
||||
|
||||
|
||||
def inspect_png(data: bytes, max_pixels: int):
|
||||
if len(data) < 8 + 25 + 12 or data[:8] != PNG_SIG:
|
||||
raise _unsupported()
|
||||
pos, first, idat, end = 8, True, False, False
|
||||
width = height = 0
|
||||
while pos < len(data):
|
||||
if pos + 12 > len(data):
|
||||
raise _unsupported("Усечённый PNG")
|
||||
length = struct.unpack(">I", data[pos:pos + 4])[0]
|
||||
ctype = data[pos + 4:pos + 8]
|
||||
if length > len(data) - pos - 12:
|
||||
raise _unsupported("Усечённый PNG")
|
||||
body = data[pos + 8:pos + 8 + length]
|
||||
crc = struct.unpack(">I", data[pos + 8 + length:pos + 12 + length])[0]
|
||||
if first:
|
||||
if ctype != b"IHDR" or length != 13:
|
||||
raise _unsupported("PNG должен начинаться с IHDR")
|
||||
width, height = struct.unpack(">II", body[:8])
|
||||
if width == 0 or height == 0 or width > MAX_DIM or height > MAX_DIM:
|
||||
if width > 0 and height > 0 and width * height > max_pixels:
|
||||
raise ImageError("too_large", "Слишком много пикселей")
|
||||
raise _unsupported("Некорректные размеры PNG")
|
||||
if width * height > max_pixels: # до обхода остальных блоков и любого декодирования
|
||||
raise ImageError("too_large", "Слишком много пикселей")
|
||||
first = False
|
||||
if zlib.crc32(ctype + body) & 0xFFFFFFFF != crc:
|
||||
raise _unsupported("Повреждённый PNG (CRC)")
|
||||
if ctype == b"IDAT":
|
||||
idat = True
|
||||
pos += 12 + length
|
||||
if ctype == b"IEND":
|
||||
end = True
|
||||
break
|
||||
if not (idat and end) or pos != len(data):
|
||||
raise _unsupported("Неполный PNG")
|
||||
return width, height
|
||||
|
||||
|
||||
def inspect_jpeg(data: bytes, max_pixels: int):
|
||||
if len(data) < 4 or data[:2] != b"\xff\xd8":
|
||||
raise _unsupported()
|
||||
i, size = 2, None
|
||||
while True:
|
||||
if i >= len(data) or data[i] != 0xFF:
|
||||
raise _unsupported("Некорректный маркер JPEG")
|
||||
while i < len(data) and data[i] == 0xFF:
|
||||
i += 1
|
||||
if i >= len(data):
|
||||
raise _unsupported("Усечённый JPEG")
|
||||
marker = data[i]
|
||||
i += 1
|
||||
if marker == 0xD9: # EOI до SOS
|
||||
raise _unsupported("JPEG без данных изображения")
|
||||
if marker == 0x01 or 0xD0 <= marker <= 0xD8:
|
||||
continue
|
||||
if i + 2 > len(data):
|
||||
raise _unsupported("Усечённый JPEG")
|
||||
length = struct.unpack(">H", data[i:i + 2])[0]
|
||||
if length < 2 or i + length > len(data):
|
||||
raise _unsupported("Некорректный сегмент JPEG")
|
||||
if marker in JPEG_SOF:
|
||||
if length < 8:
|
||||
raise _unsupported("Некорректный SOF")
|
||||
height, width = struct.unpack(">HH", data[i + 3:i + 7])
|
||||
if width == 0 or height == 0:
|
||||
raise _unsupported("Некорректные размеры JPEG")
|
||||
if width * height > max_pixels:
|
||||
raise ImageError("too_large", "Слишком много пикселей")
|
||||
size = (width, height)
|
||||
if marker == 0xDA: # начало сжатых данных
|
||||
if size is None:
|
||||
raise _unsupported("SOS до SOF")
|
||||
tail = data.rstrip(b"\x00")
|
||||
if tail[-2:] != b"\xff\xd9" or len(tail) <= i + length:
|
||||
raise _unsupported("JPEG без EOI")
|
||||
return size
|
||||
i += length
|
||||
|
||||
|
||||
def inspect(data: bytes, declared: str, max_pixels: int):
|
||||
"""Проверяет, что содержимое — PNG/JPEG и совпадает с заявленным Content-Type. Возвращает (width, height)."""
|
||||
actual = sniff(data)
|
||||
if actual is None or actual != declared:
|
||||
raise _unsupported("Содержимое не соответствует заявленному типу")
|
||||
return inspect_png(data, max_pixels) if actual == "image/png" else inspect_jpeg(data, max_pixels)
|
||||
+607
@@ -0,0 +1,607 @@
|
||||
import base64
|
||||
import binascii
|
||||
import hashlib
|
||||
import json
|
||||
import os
|
||||
import re
|
||||
import secrets
|
||||
import socket
|
||||
import uuid
|
||||
from urllib.parse import quote
|
||||
from datetime import datetime, timedelta, timezone
|
||||
|
||||
import psycopg
|
||||
from argon2 import PasswordHasher
|
||||
from argon2.exceptions import VerifyMismatchError, InvalidHashError
|
||||
from psycopg.errors import UniqueViolation
|
||||
from psycopg_pool import ConnectionPool, PoolTimeout
|
||||
from starlette.applications import Starlette
|
||||
from starlette.requests import Request
|
||||
from starlette.concurrency import run_in_threadpool
|
||||
from starlette.responses import JSONResponse, Response, StreamingResponse
|
||||
from starlette.routing import Route
|
||||
|
||||
from . import images, migrate, storage
|
||||
|
||||
# Идентификатор реплики: стабилен в жизни процесса. В контейнере hostname = короткий ID контейнера,
|
||||
# по нему scripts/stop-one.* находит именно ту реплику, которая обслужила запрос.
|
||||
INSTANCE_ID = os.environ.get("INSTANCE_ID") or socket.gethostname()
|
||||
SESSION_TTL = int(os.environ.get("SESSION_TTL_SECONDS", "3600"))
|
||||
IDEMPOTENCY_TTL = int(os.environ.get("IDEMPOTENCY_TTL_SECONDS", "86400"))
|
||||
RUN_MIGRATIONS = os.environ.get("RUN_MIGRATIONS", "1") == "1"
|
||||
MAX_UPLOAD_BYTES = int(os.environ.get("MAX_UPLOAD_BYTES", str(10 * 1024 * 1024)))
|
||||
MAX_IMAGE_PIXELS = int(os.environ.get("MAX_IMAGE_PIXELS", "40000000"))
|
||||
MAX_ATTACHMENTS = 10
|
||||
VARIANTS = {"thumbnail", "crop", "optimized"}
|
||||
USERNAME_RE = re.compile(r"^[a-z0-9_]{3,32}$")
|
||||
KEY_RE = re.compile(r"^[A-Za-z0-9._:-]{1,128}$")
|
||||
ph = PasswordHasher()
|
||||
# заранее посчитанный хеш — выравнивает время ответа для неизвестного username
|
||||
DUMMY_HASH = ph.hash("dummy-password-for-timing")
|
||||
|
||||
|
||||
def read_secret(name: str) -> str:
|
||||
path = os.environ.get(name + "_FILE")
|
||||
if path:
|
||||
return open(path, encoding="utf-8").read().strip()
|
||||
return os.environ[name]
|
||||
|
||||
|
||||
DSN = read_secret("DATABASE_URL")
|
||||
pool = ConnectionPool(DSN, min_size=2, max_size=int(os.environ.get("DB_POOL_MAX", "10")),
|
||||
timeout=5, open=False,
|
||||
kwargs={"connect_timeout": 5,
|
||||
"options": "-c lock_timeout=10000 -c idle_in_transaction_session_timeout=15000"})
|
||||
|
||||
|
||||
class ApiError(Exception):
|
||||
def __init__(self, status, code, message, headers=None):
|
||||
self.status, self.code, self.message, self.headers = status, code, message, headers or {}
|
||||
|
||||
|
||||
def bad(msg="Неверный запрос"):
|
||||
return ApiError(400, "invalid_request", msg)
|
||||
|
||||
|
||||
def iso(dt: datetime) -> str:
|
||||
return dt.astimezone(timezone.utc).isoformat(timespec="microseconds").replace("+00:00", "Z")
|
||||
|
||||
|
||||
def parse_uuid(s):
|
||||
try:
|
||||
u = uuid.UUID(s)
|
||||
if str(u) != s.lower():
|
||||
raise ValueError
|
||||
return u
|
||||
except (ValueError, AttributeError, TypeError):
|
||||
raise bad("Неверный UUID")
|
||||
|
||||
|
||||
def user_json(r):
|
||||
return {"id": str(r[0]), "username": r[1], "display_name": r[2], "created_at": iso(r[3])}
|
||||
|
||||
|
||||
def msg_json(r, attachment_ids=()):
|
||||
return {"id": str(r[0]), "chat_id": str(r[1]), "sender_id": str(r[2]), "text": r[3],
|
||||
"attachment_ids": list(attachment_ids), "created_at": iso(r[4])}
|
||||
|
||||
|
||||
def att_json(r):
|
||||
"""r: id,chat_id,owner_id,filename,content_type,size_bytes,sha256,status,created_at,updated_at"""
|
||||
return {"id": str(r[0]), "chat_id": str(r[1]), "owner_id": str(r[2]), "filename": r[3], "content_type": r[4],
|
||||
"size_bytes": r[5], "sha256": r[6], "status": r[7], "variants": [], "error_code": None,
|
||||
"created_at": iso(r[8]), "updated_at": iso(r[9])}
|
||||
|
||||
|
||||
ATT_COLS = "id,chat_id,owner_id,filename,content_type,size_bytes,sha256,status,created_at,updated_at"
|
||||
|
||||
|
||||
def non_blank(s):
|
||||
return isinstance(s, str) and s.strip() != ""
|
||||
|
||||
|
||||
def body_json(request: Request, allowed: set, required: set):
|
||||
ct = request.headers.get("content-type", "").split(";")[0].strip().lower()
|
||||
if ct != "application/json":
|
||||
raise ApiError(415, "unsupported_media_type", "Нужен application/json")
|
||||
raw = request._body # прочитано заранее в обёртке
|
||||
if len(raw) > MAX_BODY:
|
||||
raise ApiError(413, "payload_too_large", "Слишком большое тело")
|
||||
try:
|
||||
data = json.loads(raw.decode("utf-8"))
|
||||
except (ValueError, UnicodeError):
|
||||
raise bad("Некорректный JSON")
|
||||
if not isinstance(data, dict) or set(data) - allowed or required - set(data):
|
||||
raise bad()
|
||||
return data
|
||||
|
||||
|
||||
def current_user(request: Request, conn):
|
||||
auth = request.headers.get("authorization", "")
|
||||
parts = auth.split(" ", 1)
|
||||
hdr = {"WWW-Authenticate": 'Bearer realm="messenger"'}
|
||||
if len(parts) != 2 or parts[0].lower() != "bearer" or not parts[1].strip():
|
||||
raise ApiError(401, "unauthorized", "Требуется аутентификация", hdr)
|
||||
th = hashlib.sha256(parts[1].strip().encode()).digest()
|
||||
row = conn.execute(
|
||||
"SELECT u.id,u.username,u.display_name,u.created_at FROM sessions s JOIN users u ON u.id=s.user_id "
|
||||
"WHERE s.token_hash=%s AND s.revoked_at IS NULL AND s.expires_at>now()", (th,)).fetchone()
|
||||
if not row:
|
||||
raise ApiError(401, "unauthorized", "Требуется аутентификация", hdr)
|
||||
return row, th
|
||||
|
||||
|
||||
MAX_BODY = 1024 * 1024
|
||||
|
||||
|
||||
async def read_body_limited(request: Request, limit: int = MAX_BODY):
|
||||
"""Читает тело с лимитом: 413 до того, как всё тело окажется в памяти."""
|
||||
cl = request.headers.get("content-length")
|
||||
if cl is not None and (not cl.isdigit() or int(cl) > limit):
|
||||
raise ApiError(413, "payload_too_large", "Слишком большое тело")
|
||||
buf = bytearray()
|
||||
async for chunk in request.stream():
|
||||
buf += chunk
|
||||
if len(buf) > limit:
|
||||
raise ApiError(413, "payload_too_large", "Слишком большое тело")
|
||||
request._body = bytes(buf)
|
||||
|
||||
|
||||
def api(afn):
|
||||
"""Единая обработка ошибок и служебных заголовков для async-обработчика."""
|
||||
async def wrapper(request: Request):
|
||||
rid = request.headers.get("x-request-id") or uuid.uuid4().hex
|
||||
try:
|
||||
resp = await afn(request)
|
||||
except ApiError as e:
|
||||
resp = JSONResponse({"error": {"code": e.code, "message": e.message, "request_id": rid}},
|
||||
status_code=e.status, headers=e.headers)
|
||||
except (PoolTimeout, psycopg.OperationalError, storage.StorageUnavailable):
|
||||
resp = JSONResponse({"error": {"code": "unavailable", "message": "Сервис временно недоступен",
|
||||
"request_id": rid}}, status_code=503)
|
||||
except Exception:
|
||||
resp = JSONResponse({"error": {"code": "internal_error", "message": "Внутренняя ошибка",
|
||||
"request_id": rid}}, status_code=500)
|
||||
resp.headers["X-Request-Id"] = rid
|
||||
resp.headers["X-Instance-Id"] = INSTANCE_ID
|
||||
return resp
|
||||
return wrapper
|
||||
|
||||
|
||||
def db(fn):
|
||||
"""Обёртка синхронного эндпоинта: тело (до 1 MiB) читается заранее, обработчик идёт в пуле потоков."""
|
||||
async def run(request: Request):
|
||||
await read_body_limited(request)
|
||||
return await run_in_threadpool(fn, request)
|
||||
return api(run)
|
||||
|
||||
|
||||
def page_args(request: Request):
|
||||
q = request.query_params
|
||||
if len(q.getlist("limit")) > 1 or len(q.getlist("cursor")) > 1:
|
||||
raise bad("limit/cursor можно указать один раз")
|
||||
limit = 50
|
||||
if q.getlist("limit"):
|
||||
t = q.get("limit")
|
||||
if not (t.isascii() and t.isdigit()) or not 1 <= int(t) <= 100:
|
||||
raise bad("limit")
|
||||
limit = int(t)
|
||||
return limit, q.get("cursor") or None
|
||||
|
||||
|
||||
def enc_cursor(kind, scope, ts, id_):
|
||||
return base64.urlsafe_b64encode(json.dumps([kind, scope, ts, str(id_)]).encode()).decode().rstrip("=")
|
||||
|
||||
|
||||
def dec_cursor(c, kind, scope):
|
||||
try:
|
||||
v = json.loads(base64.urlsafe_b64decode(c + "=" * (-len(c) % 4)))
|
||||
if v[0] != kind or v[1] != scope:
|
||||
raise ValueError
|
||||
return datetime.fromisoformat(v[2].replace("Z", "+00:00")), uuid.UUID(v[3])
|
||||
except Exception:
|
||||
raise bad("cursor")
|
||||
|
||||
|
||||
async def live(request):
|
||||
return JSONResponse({"status": "ok"}, headers={"X-Request-Id": request.headers.get("x-request-id") or uuid.uuid4().hex, "X-Instance-Id": INSTANCE_ID})
|
||||
|
||||
|
||||
@db
|
||||
def ready(request):
|
||||
# готов только если БД доступна и миграции выполнены до версии, которую ожидает эта сборка
|
||||
with pool.connection(timeout=2) as conn:
|
||||
row = conn.execute("SELECT 1 FROM schema_migrations WHERE version=%s", (migrate.latest(),)).fetchone()
|
||||
if not row:
|
||||
raise ApiError(503, "unavailable", "Схема БД не обновлена")
|
||||
return JSONResponse({"status": "ok"})
|
||||
|
||||
|
||||
@db
|
||||
def create_user(request):
|
||||
d = body_json(request, {"username", "display_name", "password"}, {"username", "display_name", "password"})
|
||||
u, dn, pw = d["username"], d["display_name"], d["password"]
|
||||
if not (isinstance(u, str) and USERNAME_RE.fullmatch(u)):
|
||||
raise bad("username")
|
||||
if not (non_blank(dn) and len(dn) <= 100):
|
||||
raise bad("display_name")
|
||||
if not (isinstance(pw, str) and 12 <= len(pw) <= 128):
|
||||
raise bad("password")
|
||||
h = ph.hash(pw)
|
||||
with pool.connection() as conn:
|
||||
try:
|
||||
r = conn.execute("INSERT INTO users(id,username,display_name,password_hash) VALUES (%s,%s,%s,%s) "
|
||||
"RETURNING id,username,display_name,created_at", (uuid.uuid4(), u, dn, h)).fetchone()
|
||||
except UniqueViolation:
|
||||
raise ApiError(409, "conflict", "Имя пользователя занято")
|
||||
return JSONResponse(user_json(r), status_code=201)
|
||||
|
||||
|
||||
@db
|
||||
def login(request):
|
||||
ch = {"WWW-Authenticate": 'Basic realm="messenger", charset="UTF-8"'}
|
||||
fail = ApiError(401, "unauthorized", "Неверные учётные данные", ch)
|
||||
auth = request.headers.get("authorization", "")
|
||||
parts = auth.split(" ", 1)
|
||||
if len(parts) != 2 or parts[0].lower() != "basic":
|
||||
raise fail
|
||||
try:
|
||||
creds = base64.b64decode(parts[1].strip(), validate=True).decode("utf-8")
|
||||
except (binascii.Error, UnicodeError):
|
||||
raise fail
|
||||
if ":" not in creds:
|
||||
raise fail
|
||||
username, password = creds.split(":", 1)
|
||||
with pool.connection() as conn:
|
||||
row = conn.execute("SELECT id,username,display_name,created_at,password_hash FROM users WHERE username=%s",
|
||||
(username,)).fetchone()
|
||||
try:
|
||||
ph.verify(row[4] if row else DUMMY_HASH, password)
|
||||
ok = row is not None
|
||||
except (VerifyMismatchError, InvalidHashError):
|
||||
ok = False
|
||||
if not ok:
|
||||
raise fail
|
||||
token = secrets.token_urlsafe(32) # 256 бит
|
||||
exp = datetime.now(timezone.utc) + timedelta(seconds=SESSION_TTL)
|
||||
conn.execute("INSERT INTO sessions(token_hash,user_id,expires_at) VALUES (%s,%s,%s)",
|
||||
(hashlib.sha256(token.encode()).digest(), row[0], exp))
|
||||
return JSONResponse({"token": token, "token_type": "Bearer", "expires_at": iso(exp), "user": user_json(row)},
|
||||
status_code=201)
|
||||
|
||||
|
||||
@db
|
||||
def logout(request):
|
||||
with pool.connection() as conn:
|
||||
_, th = current_user(request, conn)
|
||||
conn.execute("UPDATE sessions SET revoked_at=now() WHERE token_hash=%s", (th,))
|
||||
return Response(status_code=204)
|
||||
|
||||
|
||||
@db
|
||||
def me(request):
|
||||
with pool.connection() as conn:
|
||||
row, _ = current_user(request, conn)
|
||||
return JSONResponse(user_json(row))
|
||||
|
||||
|
||||
def chat_json(conn, r):
|
||||
members = [str(x[0]) for x in conn.execute(
|
||||
"SELECT user_id FROM chat_members WHERE chat_id=%s ORDER BY user_id", (r[0],))]
|
||||
return {"id": str(r[0]), "title": r[1], "member_ids": members, "created_at": iso(r[2])}
|
||||
|
||||
|
||||
@db
|
||||
def create_chat(request):
|
||||
with pool.connection() as conn:
|
||||
user, _ = current_user(request, conn)
|
||||
d = body_json(request, {"title", "member_ids"}, {"title", "member_ids"})
|
||||
t, m = d["title"], d["member_ids"]
|
||||
if not (non_blank(t) and len(t) <= 100):
|
||||
raise bad("title")
|
||||
if not (isinstance(m, list) and 1 <= len(m) <= 100 and all(isinstance(x, str) for x in m)):
|
||||
raise bad("member_ids")
|
||||
ids = [parse_uuid(x) for x in m]
|
||||
if len(set(ids)) != len(ids) or user[0] not in ids:
|
||||
raise bad("member_ids")
|
||||
found = conn.execute("SELECT count(*) FROM users WHERE id = ANY(%s)", (ids,)).fetchone()[0]
|
||||
if found != len(ids):
|
||||
raise bad("member_ids")
|
||||
cid = uuid.uuid4()
|
||||
with conn.transaction(): # чат и участники — атомарно
|
||||
r = conn.execute("INSERT INTO chats(id,title) VALUES (%s,%s) RETURNING id,title,created_at", (cid, t)).fetchone()
|
||||
with conn.cursor() as cur:
|
||||
cur.executemany("INSERT INTO chat_members(chat_id,user_id) VALUES (%s,%s)", [(cid, i) for i in ids])
|
||||
return JSONResponse(chat_json(conn, r), status_code=201)
|
||||
|
||||
|
||||
@db
|
||||
def list_chats(request):
|
||||
with pool.connection() as conn:
|
||||
user, _ = current_user(request, conn)
|
||||
limit, cursor = page_args(request)
|
||||
args = [user[0]]
|
||||
cond = ""
|
||||
if cursor:
|
||||
ts, i = dec_cursor(cursor, "chats", str(user[0]))
|
||||
cond = "AND (c.created_at,c.id) > (%s,%s)"
|
||||
args += [ts, i]
|
||||
rows = conn.execute(
|
||||
"SELECT c.id,c.title,c.created_at FROM chats c JOIN chat_members m ON m.chat_id=c.id AND m.user_id=%s "
|
||||
f"WHERE true {cond} ORDER BY c.created_at,c.id LIMIT %s", args + [limit + 1]).fetchall()
|
||||
more = len(rows) > limit
|
||||
rows = rows[:limit]
|
||||
nxt = enc_cursor("chats", str(user[0]), iso(rows[-1][2]), rows[-1][0]) if more else None
|
||||
return JSONResponse({"items": [chat_json(conn, r) for r in rows], "next_cursor": nxt})
|
||||
|
||||
|
||||
def get_chat_or_404(conn, user, chat_id):
|
||||
cid = parse_uuid(chat_id)
|
||||
r = conn.execute("SELECT c.id,c.title,c.created_at FROM chats c JOIN chat_members m "
|
||||
"ON m.chat_id=c.id WHERE c.id=%s AND m.user_id=%s", (cid, user[0])).fetchone()
|
||||
if not r:
|
||||
raise ApiError(404, "not_found", "Объект не найден")
|
||||
return r
|
||||
|
||||
|
||||
@db
|
||||
def get_chat(request):
|
||||
with pool.connection() as conn:
|
||||
user, _ = current_user(request, conn)
|
||||
r = get_chat_or_404(conn, user, request.path_params["chat_id"])
|
||||
return JSONResponse(chat_json(conn, r))
|
||||
|
||||
|
||||
def parse_attachment_ids(v):
|
||||
if not isinstance(v, list) or len(v) > MAX_ATTACHMENTS:
|
||||
raise bad("attachment_ids: массив до %d идентификаторов" % MAX_ATTACHMENTS)
|
||||
out = []
|
||||
for x in v:
|
||||
if not isinstance(x, str):
|
||||
raise bad("attachment_ids")
|
||||
try:
|
||||
out.append(str(uuid.UUID(x)))
|
||||
except ValueError:
|
||||
raise bad("attachment_ids: неверный UUID")
|
||||
if len(set(out)) != len(out):
|
||||
raise bad("attachment_ids: повторяющиеся идентификаторы")
|
||||
return out
|
||||
|
||||
|
||||
def canonical_hash(text: str, attachment_ids) -> bytes:
|
||||
"""Хэш семантики тела: порядок ключей JSON и отсутствие attachment_ids вместо [] не различаются."""
|
||||
canon = json.dumps({"text": text, "attachment_ids": list(attachment_ids)}, sort_keys=True, ensure_ascii=False,
|
||||
separators=(",", ":"))
|
||||
return hashlib.sha256(canon.encode("utf-8")).digest()
|
||||
|
||||
|
||||
@db
|
||||
def send_message(request):
|
||||
with pool.connection() as conn:
|
||||
user, _ = current_user(request, conn)
|
||||
cid = request.path_params["chat_id"]
|
||||
chat = get_chat_or_404(conn, user, cid)
|
||||
key = request.headers.get("idempotency-key")
|
||||
if key is None or not KEY_RE.fullmatch(key):
|
||||
raise bad("Idempotency-Key обязателен: [A-Za-z0-9._:-]{1,128}")
|
||||
d = body_json(request, {"text", "attachment_ids"}, {"text"})
|
||||
t = d["text"]
|
||||
att_ids = parse_attachment_ids(d.get("attachment_ids", []))
|
||||
if not isinstance(t, str) or len(t) > 4000 or not (non_blank(t) or att_ids):
|
||||
raise bad("text")
|
||||
rhash = canonical_hash(t, att_ids)
|
||||
path = f"/api/v1/chats/{chat[0]}/messages"
|
||||
scope = (user[0], "POST", path, key)
|
||||
with conn.transaction():
|
||||
# просроченный ключ (старше TTL) считается свободным
|
||||
conn.execute("DELETE FROM idempotency_keys WHERE user_id=%s AND method=%s AND path=%s AND key=%s "
|
||||
"AND expires_at<=now()", scope)
|
||||
# Захват ключа. При конкурентном повторе (в том числе через другую реплику) вторая вставка ждёт
|
||||
# завершения первой транзакции; после COMMIT она не вставляет строку и читает сохранённый результат,
|
||||
# после ROLLBACK (например 5xx) получает ключ сама. Дубля сообщения быть не может.
|
||||
claimed = conn.execute(
|
||||
"INSERT INTO idempotency_keys(user_id,method,path,key,request_hash,status_code,response,expires_at) "
|
||||
"VALUES (%s,%s,%s,%s,%s,0,'{}'::jsonb, now() + make_interval(secs => %s)) "
|
||||
"ON CONFLICT DO NOTHING RETURNING 1", scope + (rhash, IDEMPOTENCY_TTL)).fetchone()
|
||||
if not claimed:
|
||||
saved = conn.execute("SELECT request_hash,status_code,response FROM idempotency_keys "
|
||||
"WHERE user_id=%s AND method=%s AND path=%s AND key=%s", scope).fetchone()
|
||||
if saved is None: # строка удалена между статементами (истёк TTL): клиент может повторить
|
||||
raise ApiError(409, "conflict", "Ключ идемпотентности занят, повторите запрос")
|
||||
if bytes(saved[0]) != rhash:
|
||||
raise ApiError(409, "conflict", "Idempotency-Key уже использован с другим сообщением")
|
||||
return JSONResponse(saved[2], status_code=saved[1])
|
||||
if att_ids: # вложения должны быть готовыми вложениями ЭТОГО чата; чужое/неизвестное — 404
|
||||
found = conn.execute("SELECT count(*) FROM attachments WHERE chat_id=%s AND status='ready' "
|
||||
"AND id = ANY(%s)", (chat[0], [uuid.UUID(x) for x in att_ids])).fetchone()[0]
|
||||
if found != len(att_ids):
|
||||
raise ApiError(404, "not_found", "Вложение не найдено")
|
||||
r = conn.execute("INSERT INTO messages(id,chat_id,sender_id,text) VALUES (%s,%s,%s,%s) "
|
||||
"RETURNING id,chat_id,sender_id,text,created_at",
|
||||
(uuid.uuid4(), chat[0], user[0], t)).fetchone()
|
||||
for pos, a in enumerate(att_ids):
|
||||
conn.execute("INSERT INTO message_attachments(message_id,attachment_id,position) VALUES (%s,%s,%s)",
|
||||
(r[0], uuid.UUID(a), pos))
|
||||
out = msg_json(r, att_ids)
|
||||
conn.execute("UPDATE idempotency_keys SET status_code=201, response=%s::jsonb "
|
||||
"WHERE user_id=%s AND method=%s AND path=%s AND key=%s",
|
||||
(json.dumps(out, ensure_ascii=False),) + scope)
|
||||
return JSONResponse(out, status_code=201)
|
||||
|
||||
|
||||
@db
|
||||
def list_messages(request):
|
||||
with pool.connection() as conn:
|
||||
user, _ = current_user(request, conn)
|
||||
cid = request.path_params["chat_id"]
|
||||
chat = get_chat_or_404(conn, user, cid)
|
||||
limit, cursor = page_args(request)
|
||||
args = [chat[0]]
|
||||
cond = ""
|
||||
if cursor:
|
||||
ts, i = dec_cursor(cursor, "messages", str(chat[0]))
|
||||
cond = "AND (created_at,id) > (%s,%s)"
|
||||
args += [ts, i]
|
||||
rows = conn.execute("SELECT id,chat_id,sender_id,text,created_at FROM messages WHERE chat_id=%s "
|
||||
f"{cond} ORDER BY created_at,id LIMIT %s", args + [limit + 1]).fetchall()
|
||||
more = len(rows) > limit
|
||||
rows = rows[:limit]
|
||||
nxt = enc_cursor("messages", str(chat[0]), iso(rows[-1][4]), rows[-1][0]) if more else None
|
||||
atts = {}
|
||||
if rows:
|
||||
for mid, aid in conn.execute("SELECT message_id,attachment_id FROM message_attachments "
|
||||
"WHERE message_id = ANY(%s) ORDER BY message_id,position",
|
||||
([r[0] for r in rows],)).fetchall():
|
||||
atts.setdefault(mid, []).append(str(aid))
|
||||
return JSONResponse({"items": [msg_json(r, atts.get(r[0], ())) for r in rows], "next_cursor": nxt})
|
||||
|
||||
|
||||
async def lifespan(app):
|
||||
if RUN_MIGRATIONS: # в compose-стенде миграции выполняет отдельный one-shot сервис migrate
|
||||
migrate.run(DSN)
|
||||
pool.open(wait=True, timeout=30)
|
||||
yield
|
||||
pool.close()
|
||||
|
||||
|
||||
async def http_error(request, exc):
|
||||
rid = request.headers.get("x-request-id") or uuid.uuid4().hex
|
||||
code, msg = (("not_found", "Объект не найден") if exc.status_code == 404
|
||||
else ("invalid_request", "Метод не поддерживается"))
|
||||
return JSONResponse({"error": {"code": code, "message": msg, "request_id": rid}}, status_code=exc.status_code,
|
||||
headers={"X-Request-Id": rid, "X-Instance-Id": INSTANCE_ID})
|
||||
|
||||
|
||||
# ---------------------------------------------------------------- вложения (lab4)
|
||||
def safe_filename_ok(name: str) -> bool:
|
||||
return (1 <= len(name) <= 255 and name.strip() != "" and "/" not in name and "\\" not in name
|
||||
and not any(ord(c) < 32 or 0x7F <= ord(c) <= 0x9F for c in name))
|
||||
|
||||
|
||||
def upload_precheck(request):
|
||||
"""Аутентификация, доступ к чату и проверка заголовков ДО чтения тела."""
|
||||
with pool.connection() as conn:
|
||||
user, _ = current_user(request, conn)
|
||||
chat = get_chat_or_404(conn, user, request.path_params["chat_id"])
|
||||
names = request.query_params.getlist("filename")
|
||||
if len(names) != 1 or not safe_filename_ok(names[0]):
|
||||
raise bad("filename: обязателен, 1-255 символов, без разделителей пути и управляющих символов")
|
||||
ctype = request.headers.get("content-type", "").split(";")[0].strip().lower()
|
||||
if ctype not in ("image/png", "image/jpeg"):
|
||||
raise ApiError(415, "unsupported_media_type", "Допустимы только image/png и image/jpeg")
|
||||
return user, chat, names[0], ctype
|
||||
|
||||
|
||||
def forget_upload(att_id, key):
|
||||
"""Компенсация при сбое. Строку БД удаляем только если объекта в S3 точно нет (удаление подтверждено).
|
||||
Иначе строка остаётся в статусе 'uploading': object_key известен, и `python -m app.sweep` позже уберёт остаток."""
|
||||
try:
|
||||
storage.delete_object(key, fast=True)
|
||||
except Exception:
|
||||
return
|
||||
try:
|
||||
with pool.connection() as conn:
|
||||
conn.execute("DELETE FROM attachments WHERE id=%s AND status='uploading'", (att_id,))
|
||||
except Exception:
|
||||
pass
|
||||
|
||||
|
||||
def upload_store(user, chat, filename, ctype, data):
|
||||
try:
|
||||
width, height = images.inspect(data, ctype, MAX_IMAGE_PIXELS)
|
||||
except images.ImageError as e:
|
||||
if e.kind == "too_large":
|
||||
raise ApiError(413, "payload_too_large", e.message)
|
||||
raise ApiError(415, "unsupported_media_type", e.message)
|
||||
att_id = uuid.uuid4()
|
||||
key = f"attachments/{att_id}" # ключ назначает сервер; имя файла из запроса в нём не участвует
|
||||
digest = hashlib.sha256(data).hexdigest()
|
||||
with pool.connection() as conn: # шаг 1: запись о намерении (status=uploading), commit до обращения к S3
|
||||
conn.execute("INSERT INTO attachments(id,chat_id,owner_id,filename,content_type,size_bytes,sha256,width,height,"
|
||||
"object_key,status) VALUES (%s,%s,%s,%s,%s,%s,%s,%s,%s,%s,'uploading')",
|
||||
(att_id, chat[0], user[0], filename, ctype, len(data), digest, width, height, key))
|
||||
try: # шаг 2: байты в приватный S3 (соединение с БД не держим)
|
||||
storage.put_object(key, data, ctype)
|
||||
except Exception:
|
||||
forget_upload(att_id, key)
|
||||
raise
|
||||
try: # шаг 3: подтверждение. 201 клиент получает только после успешного S3 PUT и commit
|
||||
with pool.connection() as conn:
|
||||
row = conn.execute("UPDATE attachments SET status='ready', updated_at=now() WHERE id=%s RETURNING "
|
||||
+ ATT_COLS, (att_id,)).fetchone()
|
||||
except Exception:
|
||||
forget_upload(att_id, key)
|
||||
raise
|
||||
return JSONResponse(att_json(row), status_code=201)
|
||||
|
||||
|
||||
@api
|
||||
async def upload_attachment(request):
|
||||
user, chat, filename, ctype = await run_in_threadpool(upload_precheck, request)
|
||||
await read_body_limited(request, MAX_UPLOAD_BYTES)
|
||||
return await run_in_threadpool(upload_store, user, chat, filename, ctype, request._body)
|
||||
|
||||
|
||||
def load_attachment(request):
|
||||
with pool.connection() as conn:
|
||||
user, _ = current_user(request, conn)
|
||||
aid = parse_uuid(request.path_params["attachment_id"])
|
||||
row = conn.execute("SELECT " + ", ".join("a." + c for c in ATT_COLS.split(",")) + ", a.object_key "
|
||||
"FROM attachments a JOIN chat_members m ON m.chat_id=a.chat_id AND m.user_id=%s "
|
||||
"WHERE a.id=%s AND a.status='ready'", (user[0], aid)).fetchone()
|
||||
if not row:
|
||||
raise ApiError(404, "not_found", "Вложение не найдено")
|
||||
return row
|
||||
|
||||
|
||||
@db
|
||||
def get_attachment(request):
|
||||
return JSONResponse(att_json(load_attachment(request)))
|
||||
|
||||
|
||||
def content_disposition(name: str) -> str:
|
||||
ascii_name = "".join(c if 32 <= ord(c) < 127 and c not in '"\\;' else "_" for c in name)
|
||||
return "inline; filename=\"%s\"; filename*=UTF-8''%s" % (ascii_name, quote(name, safe=""))
|
||||
|
||||
|
||||
@db
|
||||
def get_attachment_content(request):
|
||||
row = load_attachment(request)
|
||||
variant = request.query_params.get("variant", "original")
|
||||
if variant != "original" and variant not in VARIANTS:
|
||||
raise bad("variant")
|
||||
if variant in VARIANTS: # производные варианты в lab4 не создаются: отсутствующий вариант -> 404
|
||||
raise ApiError(404, "not_found", "Вариант не найден")
|
||||
try:
|
||||
body = storage.get_object(row[10]) # ошибка S3 -> 503 ДО отправки заголовков
|
||||
except storage.StorageMissing:
|
||||
raise RuntimeError("объект %s отсутствует в S3" % row[10])
|
||||
|
||||
def chunks():
|
||||
try:
|
||||
yield from body.iter_chunks(64 * 1024)
|
||||
finally:
|
||||
body.close()
|
||||
return StreamingResponse(chunks(), media_type=row[4], headers={
|
||||
"Content-Length": str(row[5]), "Content-Disposition": content_disposition(row[3]),
|
||||
"X-Content-Type-Options": "nosniff", "Cache-Control": "private, no-store"})
|
||||
|
||||
|
||||
|
||||
P = "/api/v1"
|
||||
app = Starlette(lifespan=lifespan, exception_handlers={404: http_error, 405: http_error}, routes=[
|
||||
Route("/health/live", live),
|
||||
Route("/health/ready", ready),
|
||||
Route(P + "/users", create_user, methods=["POST"]),
|
||||
Route(P + "/users/me", me),
|
||||
Route(P + "/auth/sessions", login, methods=["POST"]),
|
||||
Route(P + "/auth/sessions/current", logout, methods=["DELETE"]),
|
||||
Route(P + "/chats", create_chat, methods=["POST"]),
|
||||
Route(P + "/chats", list_chats, methods=["GET"]),
|
||||
Route(P + "/chats/{chat_id}", get_chat),
|
||||
Route(P + "/chats/{chat_id}/messages", send_message, methods=["POST"]),
|
||||
Route(P + "/chats/{chat_id}/messages", list_messages, methods=["GET"]),
|
||||
Route(P + "/chats/{chat_id}/attachments", upload_attachment, methods=["POST"]),
|
||||
Route(P + "/attachments/{attachment_id}", get_attachment, methods=["GET"]),
|
||||
Route(P + "/attachments/{attachment_id}/content", get_attachment_content, methods=["GET"]),
|
||||
])
|
||||
@@ -0,0 +1,38 @@
|
||||
"""Версионируемые миграции: применяются по порядку, повторный запуск безопасен."""
|
||||
import pathlib
|
||||
import psycopg
|
||||
|
||||
DIR = pathlib.Path(__file__).resolve().parent.parent / "migrations"
|
||||
|
||||
|
||||
def latest() -> str:
|
||||
"""Имя последней миграции, которую ожидает эта сборка приложения."""
|
||||
return sorted(f.name for f in DIR.glob("*.sql"))[-1]
|
||||
|
||||
|
||||
def run(dsn: str) -> None:
|
||||
with psycopg.connect(dsn, autocommit=True) as conn:
|
||||
# advisory lock: несколько реплик/перезапусков не мигрируют одновременно
|
||||
conn.execute("SELECT pg_advisory_lock(727001)")
|
||||
try:
|
||||
conn.execute(
|
||||
"CREATE TABLE IF NOT EXISTS schema_migrations ("
|
||||
"version text PRIMARY KEY, applied_at timestamptz NOT NULL DEFAULT now())"
|
||||
)
|
||||
done = {r[0] for r in conn.execute("SELECT version FROM schema_migrations")}
|
||||
for f in sorted(DIR.glob("*.sql")):
|
||||
if f.name in done:
|
||||
continue
|
||||
with conn.transaction():
|
||||
conn.execute(f.read_text(encoding="utf-8"))
|
||||
conn.execute("INSERT INTO schema_migrations(version) VALUES (%s)", (f.name,))
|
||||
finally:
|
||||
conn.execute("SELECT pg_advisory_unlock(727001)")
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
# Однократный запуск: python -m app.migrate (DATABASE_URL_FILE или DATABASE_URL)
|
||||
import os
|
||||
path = os.environ.get("DATABASE_URL_FILE")
|
||||
run(open(path, encoding="utf-8").read().strip() if path else os.environ["DATABASE_URL"])
|
||||
print("migrations: ok, latest =", latest())
|
||||
@@ -0,0 +1,116 @@
|
||||
"""Идемпотентная подготовка S3 (one-shot сервис s3-init) и проверка приватности.
|
||||
|
||||
python -m app.s3init создать приватный bucket (повторный запуск безопасен) и проверить права ключа API
|
||||
python -m app.s3init --count число объектов attachments/* в bucket (для сверки с БД)
|
||||
python -m app.s3init --probe только проверки: аноним не читает объект, ключ API не создаёт bucket и не выходит за него
|
||||
Использует административный ключ (S3_ADMIN_*_FILE) только для создания bucket; API работает с ограниченным ключом.
|
||||
"""
|
||||
import sys
|
||||
import time
|
||||
import urllib.error
|
||||
import urllib.request
|
||||
import uuid
|
||||
|
||||
from botocore.exceptions import BotoCoreError, ClientError
|
||||
|
||||
from . import storage
|
||||
|
||||
LAB_PROBE_KEY = "probe/%s"
|
||||
|
||||
|
||||
def wait_s3(admin, seconds=90):
|
||||
deadline = time.time() + seconds
|
||||
while True:
|
||||
try:
|
||||
admin.list_buckets()
|
||||
return
|
||||
except (BotoCoreError, ClientError) as e:
|
||||
if time.time() > deadline:
|
||||
raise SystemExit("S3 не отвечает: %s" % type(e).__name__)
|
||||
time.sleep(1)
|
||||
|
||||
|
||||
def ensure_bucket(admin):
|
||||
try:
|
||||
admin.head_bucket(Bucket=storage.BUCKET)
|
||||
print("bucket %s: уже существует" % storage.BUCKET)
|
||||
return
|
||||
except ClientError as e:
|
||||
if e.response["Error"]["Code"] not in ("404", "NoSuchBucket", "NotFound"):
|
||||
raise
|
||||
try:
|
||||
admin.create_bucket(Bucket=storage.BUCKET)
|
||||
print("bucket %s: создан (приватный: доступ только по ключам)" % storage.BUCKET)
|
||||
except ClientError as e:
|
||||
if e.response["Error"]["Code"] not in ("BucketAlreadyOwnedByYou", "BucketAlreadyExists"):
|
||||
raise
|
||||
print("bucket %s: уже существует" % storage.BUCKET)
|
||||
|
||||
|
||||
def code(fn):
|
||||
try:
|
||||
fn()
|
||||
return "OK"
|
||||
except ClientError as e:
|
||||
return e.response["Error"]["Code"]
|
||||
except BotoCoreError as e:
|
||||
return type(e).__name__
|
||||
|
||||
|
||||
def anon_status(url):
|
||||
try:
|
||||
return urllib.request.urlopen(urllib.request.Request(url), timeout=5).status
|
||||
except urllib.error.HTTPError as e:
|
||||
return e.code
|
||||
|
||||
|
||||
def probe(app):
|
||||
key = LAB_PROBE_KEY % uuid.uuid4().hex
|
||||
ok = True
|
||||
|
||||
def check(name, got, want):
|
||||
nonlocal ok
|
||||
good = got == want if not isinstance(want, tuple) else got in want
|
||||
ok = ok and good
|
||||
print(("PASS" if good else "FAIL") + ": " + name + " -> " + str(got))
|
||||
|
||||
check("ключ API: put_object в bucket", code(lambda: app.put_object(Bucket=storage.BUCKET, Key=key, Body=b"probe")), "OK")
|
||||
check("ключ API: get_object из bucket", code(lambda: app.get_object(Bucket=storage.BUCKET, Key=key)["Body"].read()), "OK")
|
||||
check("анонимный GET объекта без подписи (HTTP-статус)", anon_status("%s/%s/%s" % (storage.ENDPOINT, storage.BUCKET, key)), (401, 403))
|
||||
check("анонимный GET списка bucket (HTTP-статус)", anon_status("%s/%s/" % (storage.ENDPOINT, storage.BUCKET)), (401, 403))
|
||||
check("ключ API не может создать другой bucket", code(lambda: app.create_bucket(Bucket="other-" + uuid.uuid4().hex[:8])), "AccessDenied")
|
||||
check("ключ API не может удалить рабочий bucket", code(lambda: app.delete_bucket(Bucket=storage.BUCKET)), "AccessDenied")
|
||||
check("ключ API не может писать в чужой bucket", code(lambda: app.put_object(Bucket="foreign", Key="a", Body=b"x")), "AccessDenied")
|
||||
app.delete_object(Bucket=storage.BUCKET, Key=key)
|
||||
check("ключ API: delete_object", code(lambda: app.head_object(Bucket=storage.BUCKET, Key=key)), ("404", "NotFound", "NoSuchKey"))
|
||||
return ok
|
||||
|
||||
|
||||
def count_objects(app):
|
||||
n, token = 0, None
|
||||
while True:
|
||||
kw = {"Bucket": storage.BUCKET, "Prefix": "attachments/"}
|
||||
if token:
|
||||
kw["ContinuationToken"] = token
|
||||
r = app.list_objects_v2(**kw)
|
||||
n += r.get("KeyCount", 0)
|
||||
token = r.get("NextContinuationToken")
|
||||
if not token:
|
||||
return n
|
||||
|
||||
|
||||
def main():
|
||||
app = storage.make_client()
|
||||
if "--count" in sys.argv:
|
||||
print(count_objects(app))
|
||||
return
|
||||
if "--probe" in sys.argv:
|
||||
sys.exit(0 if probe(app) else 1)
|
||||
admin = storage.make_client("S3_ADMIN_ACCESS_KEY_ID_FILE", "S3_ADMIN_SECRET_ACCESS_KEY_FILE")
|
||||
wait_s3(admin)
|
||||
ensure_bucket(admin)
|
||||
sys.exit(0 if probe(app) else 1)
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
main()
|
||||
@@ -0,0 +1,111 @@
|
||||
"""Клиент приватного S3 (SeaweedFS). Ключи доступа читаются из файлов (Docker secrets), не из окружения."""
|
||||
import concurrent.futures
|
||||
import os
|
||||
import threading
|
||||
import time
|
||||
|
||||
import boto3
|
||||
from botocore.config import Config
|
||||
from botocore.exceptions import BotoCoreError, ClientError
|
||||
|
||||
|
||||
def read_secret_file(env_name: str) -> str:
|
||||
return open(os.environ[env_name], encoding="utf-8").read().strip()
|
||||
|
||||
|
||||
ENDPOINT = os.environ.get("S3_ENDPOINT", "http://s3:8333")
|
||||
REGION = os.environ.get("S3_REGION", "us-east-1")
|
||||
BUCKET = os.environ.get("S3_BUCKET", "messenger-attachments")
|
||||
|
||||
|
||||
class StorageUnavailable(Exception):
|
||||
"""S3 недоступен или вернул ошибку сервера: API отвечает 503, запись в БД не подтверждается."""
|
||||
|
||||
|
||||
class StorageMissing(Exception):
|
||||
"""Объект, на который ссылается БД, отсутствует в S3 (рассинхронизация)."""
|
||||
|
||||
|
||||
def make_client(access_env="S3_ACCESS_KEY_ID_FILE", secret_env="S3_SECRET_ACCESS_KEY_FILE", **kw):
|
||||
return boto3.client(
|
||||
"s3", endpoint_url=ENDPOINT, region_name=REGION,
|
||||
aws_access_key_id=read_secret_file(access_env), aws_secret_access_key=read_secret_file(secret_env),
|
||||
config=Config(signature_version="s3v4", s3={"addressing_style": "path"},
|
||||
connect_timeout=float(os.environ.get("S3_CONNECT_TIMEOUT", "2")),
|
||||
read_timeout=float(os.environ.get("S3_READ_TIMEOUT", "20")),
|
||||
**({"retries": {"max_attempts": 2, "mode": "standard"}} | kw)))
|
||||
|
||||
|
||||
_client = None
|
||||
_fast = None
|
||||
|
||||
|
||||
def fast_client():
|
||||
"""Клиент для компенсаций: без повторов и с короткими таймаутами, чтобы сбой S3 не затягивал ответ 503."""
|
||||
global _fast
|
||||
if _fast is None:
|
||||
_fast = make_client(retries={"max_attempts": 1})
|
||||
return _fast
|
||||
|
||||
|
||||
def client():
|
||||
global _client
|
||||
if _client is None:
|
||||
_client = make_client()
|
||||
return _client
|
||||
|
||||
|
||||
def _wrap(exc):
|
||||
if isinstance(exc, ClientError) and exc.response.get("Error", {}).get("Code") in ("NoSuchKey", "404", "NotFound"):
|
||||
return StorageMissing(str(exc))
|
||||
return StorageUnavailable(type(exc).__name__)
|
||||
|
||||
|
||||
# --- жёсткие дедлайны и «предохранитель»: сбой S3 не должен подвешивать запрос и пул потоков ---------------------------
|
||||
# Таймауты botocore не покрывают всё (разрешение имени, зависшее соединение), поэтому каждая операция выполняется в
|
||||
# отдельном пуле с ограничением ожидания. После сбоя несколько секунд запросы сразу получают 503 без обращения к S3.
|
||||
PUT_DEADLINE = float(os.environ.get("S3_PUT_DEADLINE", "8"))
|
||||
GET_DEADLINE = float(os.environ.get("S3_GET_DEADLINE", "5"))
|
||||
FAST_DEADLINE = float(os.environ.get("S3_FAST_DEADLINE", "2"))
|
||||
BREAKER_SECONDS = float(os.environ.get("S3_BREAKER_SECONDS", "5"))
|
||||
_executor = concurrent.futures.ThreadPoolExecutor(max_workers=int(os.environ.get("S3_WORKERS", "32")),
|
||||
thread_name_prefix="s3")
|
||||
_down_until = 0.0
|
||||
_lock = threading.Lock()
|
||||
|
||||
|
||||
def _trip():
|
||||
global _down_until
|
||||
with _lock:
|
||||
_down_until = time.monotonic() + BREAKER_SECONDS
|
||||
|
||||
|
||||
def _guard(fn, deadline):
|
||||
if time.monotonic() < _down_until:
|
||||
raise StorageUnavailable("circuit open")
|
||||
future = _executor.submit(fn)
|
||||
try:
|
||||
return future.result(timeout=deadline)
|
||||
except concurrent.futures.TimeoutError:
|
||||
future.cancel()
|
||||
_trip()
|
||||
raise StorageUnavailable("deadline") from None
|
||||
except (BotoCoreError, ClientError) as e:
|
||||
err = _wrap(e)
|
||||
if isinstance(err, StorageUnavailable):
|
||||
_trip()
|
||||
raise err from None
|
||||
|
||||
|
||||
def put_object(key: str, data: bytes, content_type: str):
|
||||
_guard(lambda: client().put_object(Bucket=BUCKET, Key=key, Body=data, ContentType=content_type), PUT_DEADLINE)
|
||||
|
||||
|
||||
def get_object(key: str):
|
||||
"""Возвращает StreamingBody; исключение возникает ДО отправки заголовков ответа клиенту."""
|
||||
return _guard(lambda: client().get_object(Bucket=BUCKET, Key=key)["Body"], GET_DEADLINE)
|
||||
|
||||
|
||||
def delete_object(key: str, fast: bool = False):
|
||||
c = fast_client if fast else client
|
||||
_guard(lambda: c().delete_object(Bucket=BUCKET, Key=key), FAST_DEADLINE if fast else GET_DEADLINE)
|
||||
@@ -0,0 +1,40 @@
|
||||
"""Очистка незавершённых загрузок: строки status='uploading' старше grace и их объекты в S3.
|
||||
|
||||
python -m app.sweep [--grace СЕКУНДЫ] (по умолчанию SWEEP_GRACE_SECONDS или 900)
|
||||
|
||||
Запись о намерении создаётся ДО записи в S3, поэтому объект без подтверждённой строки всегда можно найти по object_key.
|
||||
Идемпотентно: повторный запуск безопасен; объект, которого нет в S3, не считается ошибкой.
|
||||
"""
|
||||
import os
|
||||
import sys
|
||||
|
||||
import psycopg
|
||||
|
||||
from . import storage
|
||||
|
||||
|
||||
def run(dsn: str, grace: int):
|
||||
removed = failed = 0
|
||||
with psycopg.connect(dsn) as conn:
|
||||
rows = conn.execute("SELECT id, object_key FROM attachments WHERE status='uploading' "
|
||||
"AND created_at < now() - make_interval(secs => %s)", (grace,)).fetchall()
|
||||
for att_id, key in rows:
|
||||
try:
|
||||
storage.delete_object(key)
|
||||
except storage.StorageUnavailable:
|
||||
failed += 1
|
||||
continue
|
||||
except storage.StorageMissing:
|
||||
pass
|
||||
conn.execute("DELETE FROM attachments WHERE id=%s AND status='uploading'", (att_id,))
|
||||
conn.commit()
|
||||
removed += 1
|
||||
return len(rows), removed, failed
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
grace = int(sys.argv[sys.argv.index("--grace") + 1]) if "--grace" in sys.argv else int(os.environ.get("SWEEP_GRACE_SECONDS", "900"))
|
||||
dsn = open(os.environ["DATABASE_URL_FILE"], encoding="utf-8").read().strip()
|
||||
found, removed, failed = run(dsn, grace)
|
||||
print(f"sweep: найдено {found}, удалено {removed}, не удалось {failed} (grace={grace} с)")
|
||||
sys.exit(1 if failed else 0)
|
||||
@@ -0,0 +1,39 @@
|
||||
CREATE TABLE users (
|
||||
id uuid PRIMARY KEY,
|
||||
username text NOT NULL UNIQUE CHECK (username ~ '^[a-z0-9_]{3,32}$'),
|
||||
display_name text NOT NULL CHECK (char_length(display_name) BETWEEN 1 AND 100),
|
||||
password_hash text NOT NULL,
|
||||
created_at timestamptz NOT NULL DEFAULT now()
|
||||
);
|
||||
|
||||
CREATE TABLE chats (
|
||||
id uuid PRIMARY KEY,
|
||||
title text NOT NULL CHECK (char_length(title) BETWEEN 1 AND 100),
|
||||
created_at timestamptz NOT NULL DEFAULT clock_timestamp()
|
||||
);
|
||||
CREATE INDEX chats_created_idx ON chats (created_at, id);
|
||||
|
||||
CREATE TABLE chat_members (
|
||||
chat_id uuid NOT NULL REFERENCES chats(id) ON DELETE CASCADE,
|
||||
user_id uuid NOT NULL REFERENCES users(id),
|
||||
PRIMARY KEY (chat_id, user_id)
|
||||
);
|
||||
CREATE INDEX chat_members_user_idx ON chat_members (user_id, chat_id);
|
||||
|
||||
CREATE TABLE messages (
|
||||
id uuid PRIMARY KEY,
|
||||
chat_id uuid NOT NULL REFERENCES chats(id) ON DELETE CASCADE,
|
||||
sender_id uuid NOT NULL REFERENCES users(id),
|
||||
text text NOT NULL CHECK (char_length(text) BETWEEN 1 AND 4000),
|
||||
created_at timestamptz NOT NULL DEFAULT clock_timestamp()
|
||||
);
|
||||
-- keyset-пагинация истории: WHERE chat_id=$1 AND (created_at,id) > ($2,$3) ORDER BY created_at,id
|
||||
CREATE INDEX messages_history_idx ON messages (chat_id, created_at, id);
|
||||
|
||||
CREATE TABLE sessions (
|
||||
token_hash bytea PRIMARY KEY, -- sha256(token); сам токен не хранится
|
||||
user_id uuid NOT NULL REFERENCES users(id),
|
||||
expires_at timestamptz NOT NULL,
|
||||
revoked_at timestamptz
|
||||
);
|
||||
CREATE INDEX sessions_expires_idx ON sessions (expires_at);
|
||||
@@ -0,0 +1,15 @@
|
||||
-- Общая идемпотентность отправки сообщений (lab3): ключ уникален в области пользователь + метод + путь + ключ.
|
||||
-- Строка вставляется в той же транзакции, что и сообщение, поэтому побочный эффект и результат фиксируются атомарно.
|
||||
CREATE TABLE idempotency_keys (
|
||||
user_id uuid NOT NULL REFERENCES users(id),
|
||||
method text NOT NULL,
|
||||
path text NOT NULL,
|
||||
key text NOT NULL CHECK (key ~ '^[A-Za-z0-9._:-]{1,128}$'),
|
||||
request_hash bytea NOT NULL, -- sha256 канонического JSON тела
|
||||
status_code integer NOT NULL,
|
||||
response jsonb NOT NULL, -- исходный ответ, возвращается при повторе
|
||||
created_at timestamptz NOT NULL DEFAULT now(),
|
||||
expires_at timestamptz NOT NULL,
|
||||
PRIMARY KEY (user_id, method, path, key)
|
||||
);
|
||||
CREATE INDEX idempotency_expires_idx ON idempotency_keys (expires_at);
|
||||
@@ -0,0 +1,34 @@
|
||||
-- lab4: метаданные вложений живут в PostgreSQL, байты — в приватном S3 bucket.
|
||||
-- Строка создаётся со статусом 'uploading' ДО записи в S3: если PUT прошёл, а подтверждение (UPDATE) нет,
|
||||
-- object_key известен БД, и сверка/очистка может безопасно удалить такой объект после grace period.
|
||||
CREATE TABLE attachments (
|
||||
id uuid PRIMARY KEY,
|
||||
chat_id uuid NOT NULL REFERENCES chats(id) ON DELETE CASCADE,
|
||||
owner_id uuid NOT NULL REFERENCES users(id),
|
||||
filename text NOT NULL CHECK (char_length(filename) BETWEEN 1 AND 255), -- только отображаемое имя
|
||||
content_type text NOT NULL CHECK (content_type IN ('image/png', 'image/jpeg')),
|
||||
size_bytes bigint NOT NULL CHECK (size_bytes BETWEEN 1 AND 10485760),
|
||||
sha256 text NOT NULL CHECK (sha256 ~ '^[a-f0-9]{64}$'),
|
||||
width integer NOT NULL CHECK (width > 0),
|
||||
height integer NOT NULL CHECK (height > 0),
|
||||
object_key text NOT NULL UNIQUE, -- назначает сервер, не filename
|
||||
status text NOT NULL DEFAULT 'uploading' CHECK (status IN ('uploading', 'ready')),
|
||||
created_at timestamptz NOT NULL DEFAULT now(),
|
||||
updated_at timestamptz NOT NULL DEFAULT now()
|
||||
);
|
||||
CREATE INDEX attachments_chat_idx ON attachments (chat_id, created_at);
|
||||
CREATE INDEX attachments_pending_idx ON attachments (created_at) WHERE status = 'uploading';
|
||||
|
||||
-- Связь сообщения с вложениями (порядок сохраняется). Одно вложение чата можно использовать в нескольких сообщениях.
|
||||
CREATE TABLE message_attachments (
|
||||
message_id uuid NOT NULL REFERENCES messages(id) ON DELETE CASCADE,
|
||||
attachment_id uuid NOT NULL REFERENCES attachments(id),
|
||||
position integer NOT NULL,
|
||||
PRIMARY KEY (message_id, attachment_id)
|
||||
);
|
||||
CREATE INDEX message_attachments_att_idx ON message_attachments (attachment_id);
|
||||
|
||||
-- Сообщение может состоять только из вложений: пустой text допустим, длина по-прежнему <= 4000.
|
||||
-- Правило «пустой/пробельный текст без вложений запрещён» проверяет приложение.
|
||||
ALTER TABLE messages DROP CONSTRAINT messages_text_check;
|
||||
ALTER TABLE messages ADD CONSTRAINT messages_text_check CHECK (char_length(text) <= 4000);
|
||||
@@ -0,0 +1,5 @@
|
||||
starlette==0.41.3
|
||||
uvicorn==0.32.1
|
||||
psycopg[binary,pool]==3.2.3
|
||||
argon2-cffi==23.1.0
|
||||
boto3==1.35.99
|
||||
@@ -0,0 +1,323 @@
|
||||
#!/usr/bin/env python3
|
||||
"""Собственные проверки lab2+lab3 (дополняют публичный smoke, ничего не ослабляют).
|
||||
|
||||
python student-tests/lab2_checks.py --base-url http://localhost:8080 # основные
|
||||
python student-tests/lab2_checks.py --base-url http://localhost:8080 --mode idem # идемпотентность и реплики (lab3)
|
||||
python student-tests/lab2_checks.py --base-url http://localhost:8080 --mode ttl # при SESSION_TTL_SECONDS=2
|
||||
|
||||
Только стандартная библиотека. Токены и пароли не печатаются.
|
||||
"""
|
||||
import argparse, base64, http.client, json, sys, threading, time, urllib.error, urllib.parse, urllib.request, uuid
|
||||
|
||||
PW = "correct-horse-battery"
|
||||
fails = []
|
||||
|
||||
|
||||
def call(base, method, path, body=None, headers=None, raw=None):
|
||||
h = dict(headers or {})
|
||||
data = raw
|
||||
if body is not None:
|
||||
data = json.dumps(body).encode()
|
||||
h.setdefault("Content-Type", "application/json")
|
||||
req = urllib.request.Request(base + path, data=data, headers=h, method=method)
|
||||
try:
|
||||
with urllib.request.urlopen(req, timeout=15) as r:
|
||||
return r.status, {k.lower(): v for k, v in r.headers.items()}, r.read()
|
||||
except urllib.error.HTTPError as e:
|
||||
return e.code, {k.lower(): v for k, v in e.headers.items()}, e.read()
|
||||
|
||||
|
||||
def post_big(base, path, size):
|
||||
"""POST тела size байт; сервер может ответить 413 и закрыть соединение раньше, чем тело отправлено."""
|
||||
u = urllib.parse.urlsplit(base)
|
||||
conn = http.client.HTTPConnection(u.hostname, u.port, timeout=15)
|
||||
conn.putrequest("POST", u.path + path)
|
||||
conn.putheader("Content-Type", "application/json")
|
||||
conn.putheader("Content-Length", str(size))
|
||||
conn.endheaders()
|
||||
try:
|
||||
conn.send(b"{" + b" " * (size - 2) + b"}")
|
||||
except OSError:
|
||||
pass # сервер уже ответил и закрыл соединение
|
||||
try:
|
||||
return conn.getresponse().status
|
||||
except (OSError, http.client.HTTPException) as e:
|
||||
return "нет ответа: %s" % type(e).__name__
|
||||
finally:
|
||||
conn.close()
|
||||
|
||||
|
||||
def js(b):
|
||||
try:
|
||||
return json.loads(b)
|
||||
except ValueError:
|
||||
return None
|
||||
|
||||
|
||||
def check(name, ok, detail=""):
|
||||
print(("PASS" if ok else "FAIL") + ": " + name + ("" if ok else " -> " + detail))
|
||||
if not ok:
|
||||
fails.append(name)
|
||||
|
||||
|
||||
def basic(u, p):
|
||||
return {"Authorization": "Basic " + base64.b64encode(f"{u}:{p}".encode()).decode()}
|
||||
|
||||
|
||||
def bearer(t):
|
||||
return {"Authorization": "Bearer " + t}
|
||||
|
||||
|
||||
def H(t, key=None):
|
||||
"""Заголовки отправки сообщения (lab3): Bearer + Idempotency-Key (по умолчанию новый)."""
|
||||
return {**bearer(t), "Idempotency-Key": key or uuid.uuid4().hex}
|
||||
|
||||
|
||||
class Api:
|
||||
def __init__(self, base):
|
||||
self.base = base + "/api/v1"
|
||||
|
||||
def __call__(self, *a, **k):
|
||||
return call(self.base, *a, **k)
|
||||
|
||||
def user(self, prefix="u"):
|
||||
name = f"{prefix}_{uuid.uuid4().hex[:10]}"
|
||||
s, _, b = self("POST", "/users", {"username": name, "display_name": name, "password": PW})
|
||||
assert s == 201, f"create user: {s}"
|
||||
u = js(b)
|
||||
s, _, b = self("POST", "/auth/sessions", headers=basic(name, PW))
|
||||
assert s == 201, f"login: {s}"
|
||||
return name, u["id"], js(b)["token"]
|
||||
|
||||
|
||||
def main_checks(api):
|
||||
a_name, a_id, a_tok = api.user("alice")
|
||||
b_name, b_id, b_tok = api.user("bob")
|
||||
c_name, c_id, c_tok = api.user("carol")
|
||||
|
||||
# --- регистрация
|
||||
s, _, _ = api("POST", "/users", {"username": a_name, "display_name": "x", "password": PW})
|
||||
check("повторный username -> 409", s == 409, str(s))
|
||||
s, _, b = api("POST", "/users", {"username": "x_" + uuid.uuid4().hex[:8], "display_name": "x", "password": "short"})
|
||||
check("пароль короче 12 -> 400", s == 400, str(s))
|
||||
s, _, b = api("POST", "/users", {"username": "x_" + uuid.uuid4().hex[:8], "display_name": "x", "password": PW, "extra": 1})
|
||||
check("лишнее поле -> 400", s == 400, str(s))
|
||||
s, _, b = api("GET", "/users/me", headers=bearer(a_tok))
|
||||
me = js(b) or {}
|
||||
check("User не содержит пароль/hash/токен", s == 200 and not ({"password", "password_hash", "token"} & set(me)), str(sorted(me)))
|
||||
|
||||
res = []
|
||||
rname = "race_" + uuid.uuid4().hex[:10]
|
||||
def reg():
|
||||
res.append(api("POST", "/users", {"username": rname, "display_name": "r", "password": PW})[0])
|
||||
ts = [threading.Thread(target=reg) for _ in range(10)]
|
||||
[t.start() for t in ts]; [t.join() for t in ts]
|
||||
check("гонка одинакового username: ровно один 201, остальные 409", sorted(res) == [201] + [409] * 9, str(sorted(res)))
|
||||
|
||||
# --- вход
|
||||
s1, h1, b1 = api("POST", "/auth/sessions", headers=basic(a_name, "wrong-password-123"))
|
||||
s2, h2, b2 = api("POST", "/auth/sessions", headers=basic("nosuchuser_zz", PW))
|
||||
e1, e2 = (js(b1) or {}).get("error", {}), (js(b2) or {}).get("error", {})
|
||||
check("неверный пароль и неизвестный пользователь неразличимы (401, тот же code/message/заголовок)",
|
||||
s1 == s2 == 401 and e1.get("code") == e2.get("code") and e1.get("message") == e2.get("message")
|
||||
and h1.get("www-authenticate") == h2.get("www-authenticate") == 'Basic realm="messenger", charset="UTF-8"',
|
||||
f"{s1}/{s2} {h1.get('www-authenticate')}")
|
||||
s, _, _ = api("POST", "/auth/sessions", {"username": a_name, "password": PW})
|
||||
check("вход JSON-телом без Basic -> 401", s == 401, str(s))
|
||||
s, _, _ = api("POST", "/auth/sessions", headers=bearer(a_tok))
|
||||
check("Bearer на POST /auth/sessions -> 401", s == 401, str(s))
|
||||
s, h, b = api("POST", "/auth/sessions", headers=basic(a_name, PW))
|
||||
d = js(b) or {}
|
||||
check("токен >=256 бит, token_type Bearer", s == 201 and len(d.get("token", "")) >= 43 and d.get("token_type") == "Bearer", str(s))
|
||||
|
||||
# --- бизнес-endpoint принимают только Bearer
|
||||
s, h, _ = api("GET", "/users/me", headers=basic(a_name, PW))
|
||||
check("Basic на бизнес-endpoint -> 401 + WWW-Authenticate: Bearer", s == 401 and h.get("www-authenticate", "").startswith("Bearer"), str(s))
|
||||
s, _, _ = api("GET", "/users/me", headers={"X-User-Id": a_id})
|
||||
check("один X-User-Id доступа не даёт", s == 401, str(s))
|
||||
s, _, b = api("GET", "/users/me", headers={**bearer(a_tok), "X-User-Id": b_id})
|
||||
check("X-User-Id игнорируется: владелец определяется токеном", s == 200 and (js(b) or {}).get("id") == a_id, str(s))
|
||||
s, _, _ = api("GET", "/users/me", headers=bearer("x" * 43))
|
||||
check("неизвестный токен -> 401", s == 401, str(s))
|
||||
|
||||
# --- запрос-идентификатор в ошибках
|
||||
s, h, b = api("GET", "/chats")
|
||||
check("X-Request-Id совпадает с request_id в теле ошибки", s == 401 and h.get("x-request-id") == (js(b) or {}).get("error", {}).get("request_id"), str(s))
|
||||
|
||||
# --- чаты и доступ
|
||||
s, _, b = api("GET", "/chats", headers=bearer(a_tok))
|
||||
before = len((js(b) or {}).get("items", []))
|
||||
s, _, b = api("POST", "/chats", {"title": "t", "member_ids": [a_id, str(uuid.uuid4())]}, bearer(a_tok))
|
||||
check("чат с неизвестным участником -> 400", s == 400, str(s))
|
||||
s, _, b = api("GET", "/chats", headers=bearer(a_tok))
|
||||
check("после отказа новый чат не появился (нет частичной записи)", len((js(b) or {}).get("items", [])) == before)
|
||||
s, _, b = api("POST", "/chats", {"title": "ab", "member_ids": [a_id, b_id]}, bearer(a_tok))
|
||||
chat = js(b) or {}
|
||||
check("чат создан с обоими участниками", s == 201 and sorted(chat.get("member_ids", [])) == sorted([a_id, b_id]), str(s))
|
||||
cid = chat.get("id", "")
|
||||
s, _, _ = api("POST", "/chats", {"title": "ab", "member_ids": [b_id]}, bearer(a_tok))
|
||||
check("создатель обязан быть среди member_ids -> 400", s == 400, str(s))
|
||||
for path in (f"/chats/{cid}", f"/chats/{cid}/messages"):
|
||||
s, _, _ = api("GET", path, headers=bearer(c_tok))
|
||||
check(f"посторонний: GET {path.split(cid)[1] or '/chat'} -> 404", s == 404, str(s))
|
||||
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "hi"}, H(c_tok))
|
||||
check("посторонний не может писать -> 404", s == 404, str(s))
|
||||
for path in ("/chats/not-a-uuid", "/chats/not-a-uuid/messages"):
|
||||
s, _, _ = api("GET", path, headers=bearer(a_tok))
|
||||
check(f"неверный UUID {path} -> 400", s == 400, str(s))
|
||||
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "hi", "sender_id": b_id}, H(a_tok))
|
||||
check("sender_id в запросе не принимается -> 400", s == 400, str(s))
|
||||
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": " "}, H(a_tok))
|
||||
check("пробельный текст -> 400", s == 400, str(s))
|
||||
s, _, b = api("POST", f"/chats/{cid}/messages", {"text": "привет 👋"}, H(b_tok))
|
||||
check("отправитель берётся из токена", s == 201 and (js(b) or {}).get("sender_id") == b_id, str(s))
|
||||
|
||||
# --- пагинация
|
||||
for i in range(5):
|
||||
api("POST", f"/chats/{cid}/messages", {"text": f"m{i}"}, H(a_tok))
|
||||
seen, cur, pages = [], None, 0
|
||||
while True:
|
||||
s, _, b = api("GET", f"/chats/{cid}/messages?limit=2" + (f"&cursor={cur}" if cur else ""), headers=bearer(a_tok))
|
||||
d = js(b) or {}
|
||||
seen += [m["id"] for m in d.get("items", [])]
|
||||
pages += 1
|
||||
cur = d.get("next_cursor")
|
||||
if not cur or pages > 10:
|
||||
break
|
||||
check("пагинация limit=2: без повторов, все 6 сообщений", len(seen) == len(set(seen)) == 6, f"{len(seen)}/{len(set(seen))}")
|
||||
s, _, b = api("GET", f"/chats/{cid}/messages?limit=2", headers=bearer(a_tok))
|
||||
cur = (js(b) or {}).get("next_cursor")
|
||||
s, _, b = api("POST", "/chats", {"title": "other", "member_ids": [a_id]}, bearer(a_tok))
|
||||
other = (js(b) or {}).get("id")
|
||||
s, _, _ = api("GET", f"/chats/{other}/messages?cursor={cur}", headers=bearer(a_tok))
|
||||
check("cursor от другого чата -> 400", s == 400, str(s))
|
||||
for q in ("limit=0", "limit=101", "limit=abc", "limit=%2B5", "limit=2&limit=3"):
|
||||
s, _, _ = api("GET", f"/chats/{cid}/messages?{q}", headers=bearer(a_tok))
|
||||
check(f"?{q} -> 400", s == 400, str(s))
|
||||
|
||||
# --- тело запроса
|
||||
s = post_big(api.base, "/users", 1100 * 1024)
|
||||
check("тело >1 MiB -> 413", s == 413, str(s))
|
||||
s, _, _ = api("POST", "/users", raw=b"{}", headers={"Content-Type": "text/plain"})
|
||||
check("не JSON Content-Type -> 415", s == 415, str(s))
|
||||
s, _, _ = api("POST", "/users", raw=b"{", headers={"Content-Type": "application/json"})
|
||||
check("битый JSON -> 400", s == 400, str(s))
|
||||
|
||||
# --- logout (в конце: отзывает токен)
|
||||
s, _, _ = api("DELETE", "/auth/sessions/current", headers=bearer(a_tok))
|
||||
check("logout -> 204", s == 204, str(s))
|
||||
s, h, _ = api("DELETE", "/auth/sessions/current", headers=bearer(a_tok))
|
||||
check("повторный logout с отозванным токеном -> 401", s == 401, str(s))
|
||||
s, h, _ = api("GET", "/users/me", headers=bearer(a_tok))
|
||||
check("отозванный токен -> 401 + WWW-Authenticate: Bearer", s == 401 and h.get("www-authenticate", "").startswith("Bearer"), str(s))
|
||||
s, _, _ = api("GET", "/users/me", headers=bearer(b_tok))
|
||||
check("logout одного пользователя не затрагивает чужие сессии", s == 200, str(s))
|
||||
|
||||
|
||||
def idempotency_checks(api, min_instances):
|
||||
a_name, a_id, a_tok = api.user("alice")
|
||||
b_name, b_id, b_tok = api.user("bob")
|
||||
c_name, c_id, c_tok = api.user("carol")
|
||||
s, _, b = api("POST", "/chats", {"title": "idem", "member_ids": [a_id, b_id]}, bearer(a_tok))
|
||||
cid = js(b)["id"]
|
||||
s, _, b = api("POST", "/chats", {"title": "idem2", "member_ids": [a_id, b_id]}, bearer(a_tok))
|
||||
cid2 = js(b)["id"]
|
||||
|
||||
def hist(chat, tok):
|
||||
s, _, b = api("GET", f"/chats/{chat}/messages?limit=100", headers=bearer(tok))
|
||||
return (js(b) or {}).get("items", [])
|
||||
|
||||
# --- несколько реплик за LB, одна сессия, без повторного входа
|
||||
seen = set()
|
||||
for _ in range(60):
|
||||
s, h, _ = api("GET", "/users/me", headers=bearer(a_tok))
|
||||
if s != 200:
|
||||
break
|
||||
seen.add(h.get("x-instance-id"))
|
||||
check(f"через LB отвечают >= {min_instances} реплик с одним токеном (X-Instance-Id: {len(seen)})",
|
||||
len(seen) >= min_instances and None not in seen, str(seen))
|
||||
|
||||
# --- базовая идемпотентность
|
||||
key = "k-" + uuid.uuid4().hex
|
||||
s1, h1, b1 = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(a_tok, key))
|
||||
s2, h2, b2 = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(a_tok, key))
|
||||
check("повтор с тем же ключом: тот же 201 и то же сообщение", s1 == s2 == 201 and js(b1) == js(b2), f"{s1}/{s2}")
|
||||
check("повтор не создал дубль", len([m for m in hist(cid, a_tok) if m["text"] == "один раз"]) == 1)
|
||||
s, _, b = api("POST", f"/chats/{cid}/messages", {"text": "другой текст"}, H(a_tok, key))
|
||||
check("тот же ключ с другим телом -> 409", s == 409, str(s))
|
||||
s, _, b = api("POST", f"/chats/{cid}/messages", raw=b'{"text":"\xd0\xbe\xd0\xb4\xd0\xb8\xd0\xbd \xd1\x80\xd0\xb0\xd0\xb7"}',
|
||||
headers={**H(a_tok, key), "Content-Type": "application/json"})
|
||||
check("тот же ключ и то же тело (другое форматирование JSON) -> тот же результат", s == 201 and js(b) == js(b1), str(s))
|
||||
|
||||
# --- область ключа: пользователь + метод + путь
|
||||
s, _, b = api("POST", f"/chats/{cid2}/messages", {"text": "один раз"}, H(a_tok, key))
|
||||
check("тот же ключ в другом чате независим", s == 201 and js(b)["chat_id"] == cid2, str(s))
|
||||
s, _, b = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(b_tok, key))
|
||||
check("тот же ключ у другого пользователя независим", s == 201 and js(b)["sender_id"] == b_id, str(s))
|
||||
|
||||
# --- валидация ключа и доступ
|
||||
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "x"}, bearer(a_tok))
|
||||
check("нет Idempotency-Key -> 400", s == 400, str(s))
|
||||
for bad_key in ("bad key!", "a/b", "a" * 129, ""):
|
||||
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "x"}, {**bearer(a_tok), "Idempotency-Key": bad_key})
|
||||
check(f"неверный ключ {bad_key[:12]!r} -> 400", s == 400, str(s))
|
||||
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(c_tok, key))
|
||||
check("посторонний с тем же ключом -> 404 (доступ проверяется при повторе)", s == 404, str(s))
|
||||
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "x"}, {"Idempotency-Key": "k1"})
|
||||
check("без токена -> 401", s == 401, str(s))
|
||||
|
||||
# --- конкурентные повторы одного ключа (через LB попадают на разные реплики)
|
||||
key2 = "c-" + uuid.uuid4().hex
|
||||
res = []
|
||||
def fire(text="конкурентно"):
|
||||
s, h, b = api("POST", f"/chats/{cid}/messages", {"text": text}, H(a_tok, key2))
|
||||
res.append((s, h.get("x-instance-id"), js(b)))
|
||||
ts = [threading.Thread(target=fire) for _ in range(30)]
|
||||
[t.start() for t in ts]; [t.join() for t in ts]
|
||||
codes = sorted({r[0] for r in res})
|
||||
ids = {(r[2] or {}).get("id") for r in res}
|
||||
check("30 параллельных запросов с одним ключом: все 201 и одно и то же сообщение", codes == [201] and len(ids) == 1, f"{codes} {len(ids)}")
|
||||
check("в истории ровно одно такое сообщение", len([m for m in hist(cid, a_tok) if m["text"] == "конкурентно"]) == 1)
|
||||
print(f"INFO: параллельные повторы обслужили реплики: {sorted({r[1] for r in res})}")
|
||||
|
||||
key3 = "d-" + uuid.uuid4().hex
|
||||
res.clear()
|
||||
ts = [threading.Thread(target=lambda i=i: res.append(api("POST", f"/chats/{cid}/messages", {"text": f"вариант {i % 2}"}, H(a_tok, key3))[0])) for i in range(20)]
|
||||
[t.start() for t in ts]; [t.join() for t in ts]
|
||||
check("параллельно один ключ и два разных тела: победитель один, остальным другого тела -> 409",
|
||||
set(res) == {201, 409} and 1 <= res.count(201), str(sorted(set(res))))
|
||||
check("создано ровно одно сообщение из конкурирующих", len([m for m in hist(cid, a_tok) if m["text"].startswith("вариант")]) == 1)
|
||||
|
||||
# --- повтор после logout
|
||||
s, _, _ = api("DELETE", "/auth/sessions/current", headers=bearer(a_tok))
|
||||
s, _, _ = api("POST", f"/chats/{cid}/messages", {"text": "один раз"}, H(a_tok, key))
|
||||
check("повтор с отозванным токеном -> 401", s == 401, str(s))
|
||||
|
||||
|
||||
def ttl_checks(api):
|
||||
name = api.user("ttl")[0]
|
||||
s, _, b = api("POST", "/auth/sessions", headers=basic(name, PW))
|
||||
d = js(b) or {}
|
||||
tok = d.get("token", "")
|
||||
s0, _, _ = api("GET", "/users/me", headers=bearer(tok))
|
||||
check("TTL: сразу после входа токен действует (200)", s0 == 200, str(s0))
|
||||
time.sleep(3.5)
|
||||
s1, h, _ = api("GET", "/users/me", headers=bearer(tok))
|
||||
check("TTL: через 3.5 с при SESSION_TTL_SECONDS=2 токен истёк (401)", s1 == 401 and h.get("www-authenticate", "").startswith("Bearer"), str(s1))
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
ap = argparse.ArgumentParser()
|
||||
ap.add_argument("--base-url", default="http://localhost:8080")
|
||||
ap.add_argument("--mode", choices=["main", "idem", "ttl"], default="main")
|
||||
ap.add_argument("--min-instances", type=int, default=2, help="сколько разных X-Instance-Id ожидается через LB")
|
||||
a = ap.parse_args()
|
||||
api = Api(a.base_url.rstrip("/"))
|
||||
if a.mode == "ttl":
|
||||
ttl_checks(api)
|
||||
elif a.mode == "idem":
|
||||
idempotency_checks(api, a.min_instances)
|
||||
else:
|
||||
main_checks(api)
|
||||
print(("FAIL: %d проверок не прошли: %s" % (len(fails), "; ".join(fails))) if fails else "PASS: все проверки режима '%s'" % a.mode)
|
||||
sys.exit(1 if fails else 0)
|
||||
@@ -0,0 +1,310 @@
|
||||
#!/usr/bin/env python3
|
||||
"""Собственные проверки lab4 (вложения). Дополняют публичный smoke, ничего не ослабляют.
|
||||
|
||||
python student-tests/lab4_checks.py --base-url http://localhost:8080
|
||||
python student-tests/lab4_checks.py --base-url http://localhost:8080 --mode upload-stop --stop-hook scripts/stop-one.cmd
|
||||
|
||||
Только стандартная библиотека. Токены не печатаются.
|
||||
"""
|
||||
import argparse, base64, hashlib, http.client, io, json, os, shlex, struct, subprocess, sys, time, urllib.parse, uuid, zlib
|
||||
from pathlib import Path
|
||||
|
||||
sys.path.insert(0, str(Path(__file__).parent))
|
||||
import lab3_checks as L # noqa: E402 (общие помощники: call, check, Api, H, bearer, js, fails)
|
||||
|
||||
ROOT = Path(__file__).resolve().parent.parent
|
||||
PNG = (ROOT / "tests" / "fixtures" / "sample.png").read_bytes()
|
||||
|
||||
|
||||
def mkpng(w, h):
|
||||
"""Валидный 1-битный PNG w x h: данные малы, а заявленное число пикселей большое."""
|
||||
def ch(t, b):
|
||||
return struct.pack(">I", len(b)) + t + b + struct.pack(">I", zlib.crc32(t + b) & 0xFFFFFFFF)
|
||||
row = b"\x00" * (1 + (w + 7) // 8)
|
||||
raw = row * h if w * h <= 50_000_000 else b"\x00"
|
||||
return (b"\x89PNG\r\n\x1a\n" + ch(b"IHDR", struct.pack(">IIBBBBB", w, h, 1, 0, 0, 0, 0))
|
||||
+ ch(b"IDAT", zlib.compress(raw, 9)) + ch(b"IEND", b""))
|
||||
|
||||
|
||||
JPEG_B64 = (
|
||||
"/9j/4AAQSkZJRgABAQAAAQABAAD/2wBDAAUDBAQEAwUEBAQFBQUGBwwIBwcHBw8LCwkMEQ8SEhEPERETFhwXExQaFRERGCEYGh0d"
|
||||
"Hx8fExciJCIeJBweHx7/2wBDAQUFBQcGBw4ICA4eFBEUHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4eHh4e"
|
||||
"Hh4eHh4eHh7/wAARCAAwAEADASIAAhEBAxEB/8QAHwAAAQUBAQEBAQEAAAAAAAAAAAECAwQFBgcICQoL/8QAtRAAAgEDAwIEAwUF"
|
||||
"BAQAAAF9AQIDAAQRBRIhMUEGE1FhByJxFDKBkaEII0KxwRVS0fAkM2JyggkKFhcYGRolJicoKSo0NTY3ODk6Q0RFRkdISUpTVFVW"
|
||||
"V1hZWmNkZWZnaGlqc3R1dnd4eXqDhIWGh4iJipKTlJWWl5iZmqKjpKWmp6ipqrKztLW2t7i5usLDxMXGx8jJytLT1NXW19jZ2uHi"
|
||||
"4+Tl5ufo6erx8vP09fb3+Pn6/8QAHwEAAwEBAQEBAQEBAQAAAAAAAAECAwQFBgcICQoL/8QAtREAAgECBAQDBAcFBAQAAQJ3AAEC"
|
||||
"AxEEBSExBhJBUQdhcRMiMoEIFEKRobHBCSMzUvAVYnLRChYkNOEl8RcYGRomJygpKjU2Nzg5OkNERUZHSElKU1RVVldYWVpjZGVm"
|
||||
"Z2hpanN0dXZ3eHl6goOEhYaHiImKkpOUlZaXmJmaoqOkpaanqKmqsrO0tba3uLm6wsPExcbHyMnK0tPU1dbX2Nna4uPk5ebn6Onq"
|
||||
"8vP09fb3+Pn6/9oADAMBAAIRAxEAPwDzSiiivkT+iAooooAKKKKACiiigAooooAKKKKACiiigAooooAKKKKACiiigAooooAKKKKA"
|
||||
"P//Z"
|
||||
)
|
||||
|
||||
|
||||
def jpeg_bytes():
|
||||
"""Готовый корректный baseline JPEG 64x48 (без зависимостей от Pillow)."""
|
||||
return base64.b64decode("".join(JPEG_B64))
|
||||
|
||||
|
||||
def upload(api, tok, chat, data, ctype="image/png", filename="a.png", extra_headers=None):
|
||||
path = f"/chats/{chat}/attachments?filename={urllib.parse.quote(filename, safe='')}"
|
||||
return api("POST", path, headers={**L.bearer(tok), "Content-Type": ctype, **(extra_headers or {})}, raw=data)
|
||||
|
||||
|
||||
def raw_upload(api, tok, chat, size, ctype="image/png", filename="big.png"):
|
||||
"""Загрузка size байт, когда сервер может ответить 413 и закрыть соединение, не дочитав тело."""
|
||||
u = urllib.parse.urlsplit(api.base)
|
||||
conn = http.client.HTTPConnection(u.hostname, u.port, timeout=30)
|
||||
conn.putrequest("POST", f"{u.path}/chats/{chat}/attachments?filename={filename}")
|
||||
for k, v in (("Authorization", "Bearer " + tok), ("Content-Type", ctype), ("Content-Length", str(size))):
|
||||
conn.putheader(k, v)
|
||||
conn.endheaders()
|
||||
try:
|
||||
sent = 0
|
||||
while sent < size:
|
||||
n = min(1 << 20, size - sent)
|
||||
conn.send(b"\x00" * n)
|
||||
sent += n
|
||||
except OSError:
|
||||
pass
|
||||
try:
|
||||
return conn.getresponse().status
|
||||
except (OSError, http.client.HTTPException) as e:
|
||||
return "нет ответа: " + type(e).__name__
|
||||
finally:
|
||||
conn.close()
|
||||
|
||||
|
||||
def setup(api):
|
||||
a = api.user("alice"); b = api.user("bob"); c = api.user("carol")
|
||||
s, _, body = api("POST", "/chats", {"title": "att", "member_ids": [a[1], b[1]]}, L.bearer(a[2]))
|
||||
chat = L.js(body)["id"]
|
||||
s, _, body = api("POST", "/chats", {"title": "att2", "member_ids": [a[1]]}, L.bearer(a[2]))
|
||||
return a, b, c, chat, L.js(body)["id"]
|
||||
|
||||
|
||||
def attach_checks(api):
|
||||
(an, aid, at), (bn, bid, bt), (cn, cid, ct), chat, other = setup(api)
|
||||
sha = hashlib.sha256(PNG).hexdigest()
|
||||
|
||||
# --- успешная загрузка и метаданные
|
||||
s, h, b = upload(api, at, chat, PNG, filename="фото №1.png")
|
||||
att = L.js(b) or {}
|
||||
L.check("загрузка PNG -> 201, status ready, ожидаемые поля",
|
||||
s == 201 and att.get("status") == "ready" and att.get("content_type") == "image/png"
|
||||
and att.get("size_bytes") == len(PNG) and att.get("sha256") == sha and att.get("variants") == []
|
||||
and att.get("filename") == "фото №1.png" and att.get("owner_id") == aid and att.get("chat_id") == chat, f"{s} {att}")
|
||||
check_id = att.get("id", "")
|
||||
L.check("в ответе есть X-Instance-Id и X-Request-Id", bool(h.get("x-instance-id")) and bool(h.get("x-request-id")))
|
||||
jpg = jpeg_bytes()
|
||||
if jpg:
|
||||
s, _, b = upload(api, at, chat, jpg, "image/jpeg", "p.jpg")
|
||||
j = L.js(b) or {}
|
||||
L.check("загрузка JPEG -> 201 и верный sha256", s == 201 and j.get("sha256") == hashlib.sha256(jpg).hexdigest(), str(s))
|
||||
s, _, b = upload(api, at, chat, mkpng(100, 100), "image/png", "x.png")
|
||||
L.check("созданный PNG другого размера -> 201", s == 201, str(s))
|
||||
|
||||
s, _, b = api("GET", f"/attachments/{check_id}", headers=L.bearer(bt))
|
||||
L.check("метаданные доступны другому участнику чата", s == 200 and (L.js(b) or {}).get("id") == check_id, str(s))
|
||||
s, h, b = api("GET", f"/attachments/{check_id}/content", headers=L.bearer(bt))
|
||||
L.check("скачивание: байты совпадают, Content-Type верный, nosniff", s == 200 and b == PNG
|
||||
and h.get("content-type") == "image/png" and h.get("x-content-type-options") == "nosniff", f"{s} {h.get('content-type')}")
|
||||
L.check("Content-Length равен размеру", h.get("content-length") == str(len(PNG)), str(h.get("content-length")))
|
||||
|
||||
# --- доступ
|
||||
L.check("метаданные постороннему -> 404", api("GET", f"/attachments/{check_id}", headers=L.bearer(ct))[0] == 404)
|
||||
L.check("содержимое постороннему -> 404", api("GET", f"/attachments/{check_id}/content", headers=L.bearer(ct))[0] == 404)
|
||||
L.check("без токена -> 401", api("GET", f"/attachments/{check_id}")[0] == 401)
|
||||
L.check("неверный UUID -> 400", api("GET", "/attachments/not-a-uuid", headers=L.bearer(at))[0] == 400)
|
||||
L.check("неизвестный UUID -> 404", api("GET", f"/attachments/{uuid.uuid4()}", headers=L.bearer(at))[0] == 404)
|
||||
L.check("загрузка в чужой чат -> 404", upload(api, ct, chat, PNG)[0] == 404)
|
||||
s, _, _ = api("POST", f"/chats/{chat}/attachments?filename=a.png", headers={"Content-Type": "image/png"}, raw=PNG)
|
||||
L.check("загрузка без токена -> 401", s == 401, str(s))
|
||||
L.check("загрузка в неверный UUID чата -> 400", upload(api, at, "not-a-uuid", PNG)[0] == 400)
|
||||
L.check("?variant=thumbnail (вариантов нет) -> 404", api("GET", f"/attachments/{check_id}/content?variant=thumbnail", headers=L.bearer(at))[0] == 404)
|
||||
L.check("?variant=bogus -> 400", api("GET", f"/attachments/{check_id}/content?variant=bogus", headers=L.bearer(at))[0] == 400)
|
||||
L.check("?variant=original -> 200", api("GET", f"/attachments/{check_id}/content?variant=original", headers=L.bearer(at))[0] == 200)
|
||||
|
||||
# --- имя файла
|
||||
for name, why in (("a/b.png", "слэш"), ("a\\b.png", "обратный слэш"), ("a%00b.png", "NUL"), ("a%0Ab.png", "перевод строки"),
|
||||
("", "пустое"), ("%20%20", "пробелы"), ("n" * 256, "256 символов")):
|
||||
s, _, _ = api("POST", f"/chats/{chat}/attachments?filename={name}", headers={**L.bearer(at), "Content-Type": "image/png"}, raw=PNG)
|
||||
L.check(f"filename: {why} -> 400", s == 400, str(s))
|
||||
s, _, _ = api("POST", f"/chats/{chat}/attachments", headers={**L.bearer(at), "Content-Type": "image/png"}, raw=PNG)
|
||||
L.check("filename не указан -> 400", s == 400, str(s))
|
||||
s, _, b = upload(api, at, chat, PNG, filename="n" * 255)
|
||||
L.check("filename из 255 символов -> 201", s == 201, str(s))
|
||||
s, _, b = upload(api, at, chat, PNG, filename="../../etc/passwd".replace("/", "_"))
|
||||
L.check("имя «../..» без разделителей принимается и не влияет на ключ объекта", s == 201, str(s))
|
||||
|
||||
# --- тип и содержимое
|
||||
L.check("Content-Type text/plain -> 415", upload(api, at, chat, PNG, "text/plain")[0] == 415)
|
||||
L.check("Content-Type image/gif -> 415", upload(api, at, chat, PNG, "image/gif")[0] == 415)
|
||||
L.check("PNG под видом image/jpeg -> 415", upload(api, at, chat, PNG, "image/jpeg")[0] == 415)
|
||||
L.check("текст под видом image/png -> 415", upload(api, at, chat, b"not an image at all" * 20)[0] == 415)
|
||||
L.check("пустое тело -> 415", upload(api, at, chat, b"")[0] == 415)
|
||||
bad = bytearray(PNG); bad[len(PNG) // 2] ^= 0xFF
|
||||
L.check("PNG с повреждённым блоком (CRC) -> 415", upload(api, at, chat, bytes(bad))[0] == 415)
|
||||
L.check("усечённый PNG -> 415", upload(api, at, chat, PNG[:-30])[0] == 415)
|
||||
L.check("PNG с мусором в конце -> 415", upload(api, at, chat, PNG + b"junk")[0] == 415)
|
||||
if jpg:
|
||||
L.check("усечённый JPEG -> 415", upload(api, at, chat, jpg[:-40], "image/jpeg")[0] == 415)
|
||||
L.check("JPEG под видом image/png -> 415", upload(api, at, chat, jpg, "image/png")[0] == 415)
|
||||
|
||||
# --- лимиты размера и числа пикселей
|
||||
s, _, _ = upload(api, at, chat, mkpng(8000, 5000))
|
||||
L.check("ровно 40 000 000 пикселей (8000x5000) -> 201", s == 201, str(s))
|
||||
L.check("40 005 000 пикселей (8001x5000) -> 413", upload(api, at, chat, mkpng(8001, 5000))[0] == 413)
|
||||
L.check("«бомба» 20000x20000 малого размера -> 413", upload(api, at, chat, mkpng(20000, 20000))[0] == 413)
|
||||
L.check("тело 10 MiB + 1 байт -> 413", raw_upload(api, at, chat, 10 * 1024 * 1024 + 1) == 413)
|
||||
|
||||
# --- сообщения с вложениями
|
||||
s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "", "attachment_ids": [check_id]}, L.H(at))
|
||||
m = L.js(b) or {}
|
||||
L.check("сообщение только с вложением (text='') -> 201 с attachment_ids", s == 201 and m.get("attachment_ids") == [check_id], f"{s} {m}")
|
||||
s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "привет", "attachment_ids": []}, L.H(at))
|
||||
L.check("attachment_ids=[] даёт обычное сообщение с пустым массивом", s == 201 and (L.js(b) or {}).get("attachment_ids") == [], str(s))
|
||||
s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "без поля"}, L.H(at))
|
||||
L.check("без attachment_ids в ответе всё равно attachment_ids=[]", s == 201 and (L.js(b) or {}).get("attachment_ids") == [], str(s))
|
||||
L.check("пустой текст без вложений -> 400", api("POST", f"/chats/{chat}/messages", {"text": ""}, L.H(at))[0] == 400)
|
||||
L.check("пробельный текст без вложений -> 400", api("POST", f"/chats/{chat}/messages", {"text": " ", "attachment_ids": []}, L.H(at))[0] == 400)
|
||||
L.check("пробельный текст с вложением допустим -> 201", api("POST", f"/chats/{chat}/messages", {"text": " ", "attachment_ids": [check_id]}, L.H(at))[0] == 201)
|
||||
L.check("неизвестное вложение -> 404", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": [str(uuid.uuid4())]}, L.H(at))[0] == 404)
|
||||
L.check("attachment_ids не массив -> 400", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": check_id}, L.H(at))[0] == 400)
|
||||
L.check("attachment_ids с неверным UUID -> 400", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": ["zzz"]}, L.H(at))[0] == 400)
|
||||
L.check("повтор одного id в attachment_ids -> 400", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": [check_id, check_id]}, L.H(at))[0] == 400)
|
||||
ids = []
|
||||
for i in range(11):
|
||||
s, _, b = upload(api, at, chat, mkpng(8 + i, 8))
|
||||
ids.append((L.js(b) or {}).get("id"))
|
||||
L.check("11 вложений в сообщении -> 400", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": ids}, L.H(at))[0] == 400)
|
||||
s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "десять", "attachment_ids": ids[:10]}, L.H(at))
|
||||
L.check("10 вложений -> 201 с сохранением порядка", s == 201 and (L.js(b) or {}).get("attachment_ids") == ids[:10], str(s))
|
||||
s, _, b = api("POST", f"/chats/{other}/attachments?filename=o.png", headers={**L.bearer(at), "Content-Type": "image/png"}, raw=PNG)
|
||||
foreign = (L.js(b) or {}).get("id")
|
||||
L.check("вложение другого чата в сообщении -> 404", api("POST", f"/chats/{chat}/messages", {"text": "x", "attachment_ids": [foreign]}, L.H(at))[0] == 404)
|
||||
L.check("участник может сослаться на вложение другого участника", api("POST", f"/chats/{chat}/messages", {"text": "моё", "attachment_ids": [check_id]}, L.H(bt))[0] == 201)
|
||||
|
||||
# --- идемпотентность с вложениями и история
|
||||
key = "att-" + uuid.uuid4().hex
|
||||
s1, _, b1 = api("POST", f"/chats/{chat}/messages", {"text": "один", "attachment_ids": [check_id]}, L.H(at, key))
|
||||
s2, _, b2 = api("POST", f"/chats/{chat}/messages", {"text": "один", "attachment_ids": [check_id]}, L.H(at, key))
|
||||
L.check("повтор с вложением и тем же ключом: тот же результат", s1 == s2 == 201 and L.js(b1) == L.js(b2), f"{s1}/{s2}")
|
||||
s3, _, _ = api("POST", f"/chats/{chat}/messages", {"text": "один", "attachment_ids": [ids[0]]}, L.H(at, key))
|
||||
L.check("тот же ключ с другим набором вложений -> 409", s3 == 409, str(s3))
|
||||
s4, _, _ = api("POST", f"/chats/{chat}/messages", {"text": "один"}, L.H(at, key))
|
||||
L.check("тот же ключ без вложений (иное тело) -> 409", s4 == 409, str(s4))
|
||||
s, _, b = api("GET", f"/chats/{chat}/messages?limit=100", headers=L.bearer(bt))
|
||||
items = (L.js(b) or {}).get("items", [])
|
||||
one = [m for m in items if m["text"] == "один"]
|
||||
L.check("в истории одно такое сообщение, attachment_ids присутствует у каждого сообщения",
|
||||
len(one) == 1 and one[0]["attachment_ids"] == [check_id] and all("attachment_ids" in m for m in items), str(len(one)))
|
||||
# скачивание вложения из сообщения вторым участником
|
||||
s, _, b = api("GET", f"/attachments/{one[0]['attachment_ids'][0]}/content", headers=L.bearer(bt))
|
||||
L.check("вложение из истории скачивается вторым участником", s == 200 and b == PNG, str(s))
|
||||
|
||||
|
||||
def upload_stop(api, hook, index=0):
|
||||
"""Загрузка -> остановка именно той реплики, что приняла файл -> скачивание через другую реплику.
|
||||
index выбирает, какая из двух реплик (по отсортированному X-Instance-Id) принимает файл и затем останавливается."""
|
||||
(an, aid, at), (bn, bid, bt), _, chat, _ = setup(api)
|
||||
ids = sorted({api("GET", "/users/me", headers=L.bearer(at))[1].get("x-instance-id") for _ in range(16)} - {None})
|
||||
L.check("через LB видны >= 2 реплик", len(ids) >= 2, str(ids))
|
||||
want = ids[index % len(ids)]
|
||||
att, h = {}, {}
|
||||
for _ in range(12): # round-robin: повторяем загрузку, пока файл не примет выбранная реплика
|
||||
s, h, b = upload(api, at, chat, PNG)
|
||||
att = L.js(b) or {}
|
||||
if s != 201 or h.get("x-instance-id") == want:
|
||||
break
|
||||
target = h.get("x-instance-id")
|
||||
L.check(f"файл принят выбранной репликой {target}", s == 201 and target == want, f"{s} {target} want={want}")
|
||||
s, _, b = api("POST", f"/chats/{chat}/messages", {"text": "до отказа", "attachment_ids": [att["id"]]}, L.H(at))
|
||||
mid = (L.js(b) or {}).get("id")
|
||||
t0 = time.time()
|
||||
# абсолютный путь: относительный «scripts/x.cmd» cmd.exe воспринимает как ключ «/x.cmd»; вывод читаем как байты
|
||||
r = subprocess.run([os.path.abspath(hook)], env={**os.environ, "TARGET_INSTANCE_ID": target}, capture_output=True, timeout=60)
|
||||
L.check(f"hook остановил реплику {target} (код {r.returncode}, {time.time() - t0:.1f} с)", r.returncode == 0,
|
||||
(r.stderr or b"")[-200:].decode("utf-8", "replace"))
|
||||
ok_at, instances = None, set()
|
||||
for _ in range(200):
|
||||
s, h, b = api("GET", f"/attachments/{att['id']}/content", headers=L.bearer(bt))
|
||||
if s == 200 and b == PNG:
|
||||
ok_at = time.time() - t0
|
||||
instances.add(h.get("x-instance-id"))
|
||||
break
|
||||
time.sleep(0.1)
|
||||
L.check("после остановки реплики вложение скачивается через другую реплику (байты те же)",
|
||||
ok_at is not None and target not in instances, f"{ok_at} {instances}")
|
||||
if ok_at is not None:
|
||||
print(f"INFO: вложение снова доступно через {ok_at:.2f} с после запуска hook (реплика {sorted(instances)})")
|
||||
s, _, b = api("GET", f"/chats/{chat}/messages", headers=L.bearer(bt))
|
||||
L.check("подтверждённое сообщение с вложением доступно", any(m["id"] == mid and m["attachment_ids"] == [att["id"]] for m in (L.js(b) or {}).get("items", [])))
|
||||
seen = {api("GET", f"/attachments/{att['id']}", headers=L.bearer(bt))[1].get("x-instance-id") for _ in range(20)}
|
||||
L.check("остановленная реплика больше не отвечает", target not in seen, str(seen))
|
||||
|
||||
|
||||
def s3_outage(api):
|
||||
"""Сбой S3 при живых API и PostgreSQL: вложения деградируют (503), остальное работает; после старта S3 всё возвращается."""
|
||||
stop = shlex.split(os.environ.get("S3_STOP_CMD", "docker compose stop s3"))
|
||||
start = shlex.split(os.environ.get("S3_START_CMD", "docker compose start s3"))
|
||||
(an, aid, at), (bn, bid, bt), _, chat, _ = setup(api)
|
||||
s, _, b = upload(api, at, chat, PNG)
|
||||
att = (L.js(b) or {}).get("id")
|
||||
L.check("до сбоя: загрузка -> 201", s == 201, str(s))
|
||||
subprocess.run(stop, cwd=ROOT, check=True, capture_output=True, timeout=180)
|
||||
t_stop = time.time()
|
||||
try:
|
||||
time.sleep(1)
|
||||
t0 = time.time()
|
||||
s, _, b = upload(api, at, chat, PNG)
|
||||
L.check("S3 остановлен: загрузка -> 503 (code unavailable), %.1f с" % (time.time() - t0),
|
||||
s == 503 and (L.js(b) or {}).get("error", {}).get("code") == "unavailable", f"{s} {b[:80]}")
|
||||
s, _, _ = api("GET", f"/attachments/{att}/content", headers=L.bearer(bt))
|
||||
L.check("S3 остановлен: скачивание -> 503, а не 500/зависание", s == 503, str(s))
|
||||
s, _, _ = api("GET", f"/attachments/{att}", headers=L.bearer(bt))
|
||||
L.check("S3 остановлен: метаданные (только PostgreSQL) -> 200", s == 200, str(s))
|
||||
s, _, _ = api("POST", f"/chats/{chat}/messages", {"text": "текст без S3"}, L.H(at))
|
||||
L.check("S3 остановлен: обычное сообщение -> 201", s == 201, str(s))
|
||||
s, _, _ = api("POST", f"/chats/{chat}/messages", {"text": "со ссылкой", "attachment_ids": [att]}, L.H(at))
|
||||
L.check("S3 остановлен: сообщение со старым вложением -> 201 (только PostgreSQL)", s == 201, str(s))
|
||||
s, _, _ = L.call(api.base.rsplit("/api/v1", 1)[0], "GET", "/health/ready")
|
||||
L.check("S3 остановлен: /health/ready остаётся 200 (S3 некритичен для текстового API)", s == 200, str(s))
|
||||
finally:
|
||||
subprocess.run(start, cwd=ROOT, check=True, capture_output=True, timeout=180)
|
||||
t1, ok = time.time(), None
|
||||
for _ in range(240):
|
||||
s, _, b = upload(api, at, chat, PNG)
|
||||
if s == 201:
|
||||
ok = time.time() - t1
|
||||
break
|
||||
time.sleep(1)
|
||||
L.check("после старта S3 загрузка снова -> 201 (через %s с)" % (("%.0f" % ok) if ok is not None else "?"), ok is not None)
|
||||
# у каждой реплики свой «предохранитель» (до S3_BREAKER_SECONDS после последнего сбоя): повторяем чтение, пока не вернётся 200
|
||||
t2, got, tries = time.time(), None, 0
|
||||
for tries in range(1, 61):
|
||||
s, _, b = api("GET", f"/attachments/{att}/content", headers=L.bearer(bt))
|
||||
if s == 200 and b == PNG:
|
||||
got = time.time() - t2
|
||||
break
|
||||
time.sleep(1)
|
||||
L.check("после старта S3 старое вложение скачивается, байты те же (через %s с, попыток: %d)"
|
||||
% (("%.1f" % got) if got is not None else "?", tries), got is not None)
|
||||
print("INFO: S3 был недоступен около %.0f с" % (time.time() - t_stop))
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
ap = argparse.ArgumentParser()
|
||||
ap.add_argument("--base-url", default="http://localhost:8080")
|
||||
ap.add_argument("--mode", choices=["attach", "upload-stop", "s3-outage"], default="attach")
|
||||
ap.add_argument("--stop-hook", default="")
|
||||
ap.add_argument("--target-index", type=int, default=0, help="какая из реплик (по порядку X-Instance-Id) принимает файл и будет остановлена")
|
||||
a = ap.parse_args()
|
||||
api = L.Api(a.base_url.rstrip("/"))
|
||||
if a.mode == "upload-stop":
|
||||
upload_stop(api, a.stop_hook, a.target_index)
|
||||
elif a.mode == "s3-outage":
|
||||
s3_outage(api)
|
||||
else:
|
||||
attach_checks(api)
|
||||
print(("FAIL: %d проверок не прошли: %s" % (len(L.fails), "; ".join(L.fails))) if L.fails else "PASS: все проверки режима '%s'" % a.mode)
|
||||
sys.exit(1 if L.fails else 0)
|
||||
Reference in New Issue
Block a user