feat: add private S3 storage (SeaweedFS) with bootstrap and client
- s3 and s3-bootstrap services: SeaweedFS 4.48 pinned by digest, internals on loopback, signing key, private bucket, API user policy, privacy checks on every bootstrap - [s3] settings and aiobotocore client in src/infra/s3: deadline per call, no retries, 503 on outage or rejected credentials - make start_s3, stop_s3, s3_check; run_dev, test_isolated, wipe_data and restart hook include S3 - failure_checks with own S3 and readiness check without it; bench generates S3 secrets and filters them out of the passport - rules, AGENTS.md, skill; sync health delta; KNOWN_ISSUES: rollout_from Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
@@ -19,9 +19,13 @@ paths:
|
||||
```
|
||||
клиент → 127.0.0.1:APP_OUT_PORT → haproxy → api × API_REPLICAS → postgres (данные, сессии, ключи)
|
||||
→ valkey (кэш карточек)
|
||||
→ s3 (байты вложений, с лабы 4)
|
||||
migrate (один раз на up) ──────→ postgres
|
||||
s3-bootstrap (один раз на up) ─→ s3 (bucket, пользователь API)
|
||||
```
|
||||
|
||||
Реплики ждут обоих одноразовых сервисов (`service_completed_successfully`).
|
||||
|
||||
## Сервисы compose
|
||||
|
||||
- **`haproxy`** — единственный сервис с портом наружу:
|
||||
@@ -41,6 +45,8 @@ paths:
|
||||
`restart: unless-stopped`.
|
||||
- **`migrate`** — как в лабе 2: один раз до реплик, реплики ждут
|
||||
`service_completed_successfully` (`migrations.md`).
|
||||
- **`s3`, `s3-bootstrap`** (с лабы 4) — сервер S3 и его bootstrap
|
||||
(`docker.md`, раздел S3). Реплики ждут bootstrap, как миграций.
|
||||
- Лимиты CPU/RAM у **всех** сервисов, включая postgres, valkey и
|
||||
migrate (`deploy.resources.limits`). Сумма — в `REPORT.md`, рядом с
|
||||
расчётом соединений Postgres (`infra.md`).
|
||||
@@ -299,6 +305,13 @@ rolling_update COMMIT=<прежний> MIGRATE=0`.
|
||||
снова `make rolling_update` или `make run_docker` (сборка рабочего
|
||||
дерева, все реплики разом).
|
||||
|
||||
**Bootstrap S3 скрипт не запускает** (design change `s3-storage`,
|
||||
решение 9): новая реплика поднимается с `--no-deps`. Bootstrap, как
|
||||
миграции, только расширяет: новые пользователи и политики не отбирают
|
||||
прав у старых реплик. Его изменения (новая строка `infra/s3/bootstrap.sh`,
|
||||
новый секрет API в `.env`) применяет `docker compose up -d s3-bootstrap`
|
||||
или `make run_docker` — до замены, если новый код на них опирается.
|
||||
|
||||
Прогон — под нагрузкой с постоянной интенсивностью: профиль `rollout`
|
||||
стенда `bench/` (`make bench_rollout`, `bench.md`) вызывает этот же
|
||||
скрипт со своим проектом (`COMPOSE_PROJECT_NAME`, `COMPOSE_FILE`,
|
||||
@@ -308,8 +321,11 @@ rolling_update COMMIT=<прежний> MIGRATE=0`.
|
||||
|
||||
## Что стенд не переживает
|
||||
|
||||
Один Docker-host, один HAProxy, одна Postgres, один Valkey. Выдерживается
|
||||
отказ процесса API (любой одной реплики, при ≥2 живых). Не выдерживается
|
||||
отказ хоста, LB и Postgres. Отказ Valkey — деградация до Postgres, не
|
||||
отказ. Это пишется в `REPORT.md` прямо (`COURSE.md`, «Воспроизводимость
|
||||
и честные измерения»).
|
||||
Один Docker-host, один HAProxy, одна Postgres, один Valkey, одна нода S3
|
||||
без репликации. Выдерживается отказ процесса API (любой одной реплики,
|
||||
при ≥2 живых). Не выдерживается отказ хоста, LB и Postgres. Отказ
|
||||
Valkey — деградация до Postgres, не отказ. Отказ S3 — 503 на путях
|
||||
вложений, текст работает, `/health/ready` 200. SIGKILL процесса S3
|
||||
подтверждённых объектов не теряет, отказ диска или ВМ — теряет (нет
|
||||
реплик и fsync). Это пишется в `REPORT.md` прямо (`COURSE.md`,
|
||||
«Воспроизводимость и честные измерения»).
|
||||
|
||||
+20
-1
@@ -73,6 +73,23 @@ paths:
|
||||
хранилищ `run.py` генерирует на прогон и никуда не пишет. Каждый размер —
|
||||
свежий стенд: `down -v`, Postgres и Valkey, миграции, API.
|
||||
|
||||
**S3 (лаба 4) описан, но профили лаб 2–3 его не запускают** (design
|
||||
change `s3-storage`, решение 9): старт стенда перечисляет сервисы, а
|
||||
реплики поднимает с `--no-deps`, поэтому ни `s3`, ни `s3-bootstrap` не
|
||||
стартуют, и методика прежних профилей не меняется. Compose всё равно
|
||||
требует секреты S3 при разборе файла (`:?`), их `compose_env` тоже
|
||||
генерирует на прогон (пять значений). Override `s3` —
|
||||
`container_name: mtusi-bench-s3`, `restart: "no"`, порты сброшены;
|
||||
`bench.env` — `S3_HOST`, `S3_PORT`, `S3__BUCKET=bench`. Реплики получают
|
||||
`S3__*` в окружении, и `S3__HOST`, `S3__PORT`, `S3__BUCKET` попадают в
|
||||
паспорт (`stand.app_env`); меток лабы 3 в этом репозитории нет, поэтому
|
||||
сравнивать их не с чем. Лимиты `BENCH_S3_*` и S3 в паспорте появятся с
|
||||
профилем, который его запускает (`upload-memory`, трек 2).
|
||||
|
||||
Фильтр окружения паспорта (`SECRET_ENV_MARKS` в `run.py`) убирает имена с
|
||||
`PASSWORD`, `SECRET` и `ACCESS_KEY`: иначе секрет и ключ доступа S3
|
||||
попали бы в `meta.json`.
|
||||
|
||||
Инструменты `bench/`:
|
||||
|
||||
| Файл | Команда | Что делает |
|
||||
@@ -234,7 +251,9 @@ paths:
|
||||
`failover_*` профиля). Окна — `rollout_before_s` до запуска скрипта,
|
||||
бюджет замены `rollout_budget_s`, ещё `rollout_after_s`.
|
||||
- Реплики стартуют на образе `Profile.rollout_from` (сейчас `c50b721`,
|
||||
последний commit до change): `git archive <commit> | docker build`
|
||||
последний commit до change в репозитории лабы 3; в лабе 4 его нет —
|
||||
`KNOWN_ISSUES.md`, до правки — `--from <commit>`): `git archive
|
||||
<commit> | docker build`
|
||||
под тегом `mtusi-messenger:bench-from`, затем `docker tag` на
|
||||
`mtusi-messenger:bench`. Рабочее дерево не трогается; тег снимается
|
||||
при уборке. `--from <commit>` — отладка (`overrides`).
|
||||
|
||||
+61
-19
@@ -119,11 +119,13 @@ git ls-files -z -co --exclude-standard | tar --null -T - -cf - | docker build -t
|
||||
`"127.0.0.1:${APP_OUT_PORT:-8080}:${APP__PORT:-8080}"`; теперь эта
|
||||
строка — у сервиса `haproxy`. `environment` собирается из якорей:
|
||||
`x-db-env` (`APP__RUN_MODE: docker`, `DATABASE__*` из переменных
|
||||
`POSTGRES_*`) и `x-cache-env` (`CACHE__*` из `VALKEY_*`), у `api`
|
||||
— оба через `<<: [*db-env, *cache-env]` плюс `APP__PORT`
|
||||
(`settings.md`, «Консоль и docker»). У `migrate` — только
|
||||
`x-db-env`: пароль Valkey ему не нужен; `haproxy` получает только
|
||||
`API_PORT` (секреты только там, где нужны, рубрика «4»).
|
||||
`POSTGRES_*`), `x-cache-env` (`CACHE__*` из `VALKEY_*`) и с лабы 4
|
||||
`x-s3-env` (`S3__HOST`, `S3__PORT`, `S3__BUCKET`, ключи API мостами
|
||||
из `S3_API_*`), у `api` — все три через `<<: [*db-env, *cache-env,
|
||||
*s3-env]` плюс `APP__PORT` (`settings.md`, «Консоль и docker»). У
|
||||
`migrate` — только `x-db-env`: пароль Valkey и секреты S3 ему не
|
||||
нужны; `haproxy` получает только `API_PORT` (секреты только там, где
|
||||
нужны, рубрика «4»). Секреты S3 по сервисам — раздел S3 ниже.
|
||||
Healthcheck образа проверяет `APP__PORT`; `stop_grace_period: 10s`;
|
||||
`restart: unless-stopped`; лимиты CPU/RAM
|
||||
(`deploy.resources.limits`) у всех сервисов — override стендов
|
||||
@@ -165,9 +167,10 @@ git ls-files -z -co --exclude-standard | tar --null -T - -cf - | docker build -t
|
||||
- С лабы 2 compose — основной запуск стенда: API без Postgres запросы
|
||||
не обслуживает. Проверка и запуск — по README:
|
||||
`docker compose --env-file .env config --quiet`, затем
|
||||
`up -d --build`, ожидание `/health/ready`. Роли лабы 3 — load_balancer
|
||||
(HAProxy), api × ≥2, postgres и valkey (`contracts/infrastructure.json`:
|
||||
Redis/Valkey необязателен, у нас остаётся кэшем).
|
||||
`up -d --build`, ожидание `/health/ready`. Роли лабы 4 — load_balancer
|
||||
(HAProxy), api × ≥2, postgres, s3 (SeaweedFS) и valkey
|
||||
(`contracts/infrastructure.json`: Redis/Valkey необязателен, у нас
|
||||
остаётся кэшем).
|
||||
`compose.example.yaml` — лишь список ролей, стенд — свой
|
||||
`docker-compose.yml` (compose находит его сам, как и `compose.yaml`).
|
||||
- Образы зависимостей закреплены так же, как базовый: тег с патч-версией
|
||||
@@ -207,8 +210,45 @@ git ls-files -z -co --exclude-standard | tar --null -T - -cf - | docker build -t
|
||||
- порт сервера — `VALKEY_PORT` (`--port`), алиас в сети —
|
||||
`VALKEY_HOST`, публикация — `127.0.0.1:${VALKEY_OUT_PORT}`, как у
|
||||
Postgres.
|
||||
- S3 (с лабы 4, design change `s3-storage`, решения 1–4) — сервис `s3`
|
||||
на SeaweedFS (`chrislusf/seaweedfs:4.48@sha256:…`, якорь
|
||||
`x-s3-image`) и одноразовый `s3-bootstrap` на том же образе:
|
||||
- `s3` — `weed server` одним процессом: master, volume и filer только
|
||||
на `127.0.0.1` контейнера (`-ip`, `-ip.bind`), в сеть выходят порт
|
||||
API S3 (`S3_PORT`) и gRPC шлюза (`S3_PORT` + 10000); телеметрия,
|
||||
Iceberg, Lance и IAM API выключены. Volume `s3_data:/data`
|
||||
(`Config.Volumes`), алиас `${S3_HOST}`, публикация только
|
||||
`127.0.0.1:${S3_OUT_PORT}:${S3_PORT}`. Healthcheck — `wget` на
|
||||
`/cluster/healthz` master, `/healthz` filer и шлюза, всё на loopback.
|
||||
Лимиты 1 CPU / 512 МБ, `GOMEMLIMIT=400MiB` и
|
||||
`-s3.concurrentUploadLimitMB=64` (решение 2);
|
||||
- **`stop_grace_period: 20s`**, а не 10: плавная остановка SeaweedFS
|
||||
~15 с (срок ожидания подписок filer зашит в код), при 10 с —
|
||||
SIGKILL и код 137. Цена — `make stop` и `restart.sh` дольше на
|
||||
~15 с. На стенде отказов — 2 с (`student-tests.md`);
|
||||
- секреты по сервисам: административная пара `S3_ROOT_*` — только
|
||||
`s3` (`AWS_ACCESS_KEY_ID` / `AWS_SECRET_ACCESS_KEY`: без учётной
|
||||
записи сервер открыт анониму); ключ подписи `S3_JWT_SIGNING_KEY`
|
||||
(`WEED_JWT_FILER_SIGNING_KEY`) — `s3` и `s3-bootstrap`: без него
|
||||
gRPC шлюза принимает администратора от любого контейнера сети; ключи
|
||||
API `S3_API_*` — `s3-bootstrap` и `api`. Все с `:?` «copy S3 lines
|
||||
from .env.example»;
|
||||
- `s3-bootstrap` — `network_mode: service:s3` (master и filer сервера
|
||||
на его `127.0.0.1`), `user: seaweed`, `restart: "no"`, `tmpfs:
|
||||
/tmp` и `HOME=/tmp`, скрипт `infra/s3/bootstrap.sh` read-only
|
||||
длинной записью, `depends_on: s3: service_healthy`, лимиты 0,5 CPU /
|
||||
128 МБ. Режим `apply` (по умолчанию) идемпотентно сводит состояние
|
||||
к `.env` (bucket, анонимный доступ `none`, политика `api-objects`,
|
||||
пользователь `api` и его ключ) и проверяет приватность; `check` и
|
||||
`cleanup` — для `make s3_check`. `api` ждёт его
|
||||
`service_completed_successfully`, как `migrate`. Секреты — в
|
||||
`weed shell` через stdin, в `curl` файлом `-K` на tmpfs, не в argv;
|
||||
- `up -d --wait` одноразовый сервис без healthcheck считает готовым
|
||||
уже запущенным: код bootstrap отдельно — `up --no-deps
|
||||
--exit-code-from s3-bootstrap s3-bootstrap` (`make start_s3`).
|
||||
- Конфигурации сервисов (`valkey.conf`, при необходимости
|
||||
`postgresql.conf`) — в `infra/<сервис>/`, монтируются read-only
|
||||
`postgresql.conf`, скрипт `infra/s3/bootstrap.sh`) — в
|
||||
`infra/<сервис>/`, монтируются read-only
|
||||
длинной записью с `create_host_path: false` (`infra/README.md`). В
|
||||
`REPORT.md` — таблица роль → сервис → версия/digest → healthcheck →
|
||||
volume → порт → способ передачи credentials.
|
||||
@@ -240,18 +280,20 @@ Hook для `make test-persistence ACTION_SCRIPT=scripts/restart.sh`
|
||||
(`tests/README.md`), по образцу `scripts/restart.example.sh`.
|
||||
|
||||
- Перезапускает **все** реплики API, LB и **все** используемые
|
||||
хранилища: Postgres и Valkey. Volumes, схему и данные сохраняет: без
|
||||
`down -v`, `FLUSHALL`, повторного seed и изменения тестовых данных.
|
||||
Кэш Valkey после рестарта пуст сам: persistence у него выключен.
|
||||
- Порядок: `stop haproxy api` → `restart postgres valkey` → `up -d
|
||||
--wait postgres valkey` (те же контейнеры, ожидание healthcheck) →
|
||||
`start api haproxy`. `start api` запускает и зависимость `migrate`:
|
||||
повторный прогон миграций — no-op. Число реплик не меняется: `start`
|
||||
поднимает те же контейнеры, а не масштабирует (реплику, остановленную
|
||||
`stop-one.sh`, тоже).
|
||||
хранилища: Postgres, Valkey и с лабы 4 S3. Volumes, схему и данные
|
||||
сохраняет: без `down -v`, `FLUSHALL`, повторного seed и изменения
|
||||
тестовых данных. Кэш Valkey после рестарта пуст сам: persistence у
|
||||
него выключен. Bucket, учётные записи и объекты S3 — в его volume.
|
||||
- Порядок: `stop haproxy api` → `restart postgres valkey s3` → `up -d
|
||||
--wait postgres valkey s3` (те же контейнеры, ожидание healthcheck) →
|
||||
`start api haproxy`. `start api` запускает и зависимости `migrate` и
|
||||
`s3-bootstrap`: повторные миграции и bootstrap — no-op («exists»).
|
||||
Число реплик не меняется: `start` поднимает те же контейнеры, а не
|
||||
масштабирует (реплику, остановленную `stop-one.sh`, тоже).
|
||||
- `#!/bin/sh`, `set -eu`, исполняемый бит в git (`chmod +x`,
|
||||
`git update-index --chmod=+x`). Возвращает 0 только после действия,
|
||||
укладывается в 90 с. Готовность ждёт сам тест. Секреты не печатает.
|
||||
укладывается в 90 с (с S3 — ~25 с, из них ~15 с — остановка S3).
|
||||
Готовность ждёт сам тест. Секреты не печатает.
|
||||
- Успех теста не доказывает, что БД действительно перезапускалась. В
|
||||
`evidence/` — состояние контейнеров до и после (`docker compose ps`,
|
||||
`StartedAt` из `docker inspect`).
|
||||
|
||||
+41
-5
@@ -6,17 +6,19 @@ paths:
|
||||
# Инфраструктура (`src/infra/`)
|
||||
|
||||
Всё, что не содержит бизнес-логики и может смениться от лабы к лабе:
|
||||
логгер, PostgreSQL (`db/`), кэш Valkey (`cache/`), дальше — S3, брокер,
|
||||
телеметрия. Бизнес-правил (уникальность, доступ, валидация) здесь нет:
|
||||
логгер, PostgreSQL (`db/`), кэш Valkey (`cache/`), S3 (`s3/`), дальше —
|
||||
брокер, телеметрия. Бизнес-правил (уникальность, доступ, валидация) здесь нет:
|
||||
они в сервисах, атомарные операции — в repo.
|
||||
|
||||
- Клиент хранилища (engine Postgres, кэш Valkey) — глобал своего модуля
|
||||
(`db/session.py`, `cache/instance.py`): создаётся при импорте по
|
||||
- Клиент хранилища (engine Postgres, кэш Valkey, S3) — глобал своего
|
||||
модуля (`db/session.py`, `cache/instance.py`, `s3/instance.py`):
|
||||
создаётся при импорте по
|
||||
`settings` (настройки читаются один раз на процесс), соединения
|
||||
открывает лениво, при первом запросе. Пакет `src/infra/<клиент>/` этот
|
||||
модуль не импортирует, модели тоже, поэтому alembic и скрипты клиента
|
||||
не создают. Закрытие (`engine.dispose()`, `cache.aclose()`) — в
|
||||
lifespan `src/main.py`. Почему не `app.state` — design change
|
||||
lifespan `src/main.py` (S3 — ещё и `start()` там же). Почему не
|
||||
`app.state` — design change
|
||||
`postgres-storage`, решение 5.
|
||||
- Глобал импортируют только `src/main.py` (закрытие) и
|
||||
`src/api/dependencies.py`; сервисы получают сессию или клиент через
|
||||
@@ -29,6 +31,15 @@ paths:
|
||||
- `cache/`: `client.py` — фабрика `create_cache` и обёртка `Cache`;
|
||||
`instance.py` — глобал `cache`. Ключи и формат значений — в repo
|
||||
(`src/core/repos/chat_cache.py`), не здесь.
|
||||
- `s3/` (с лабы 4, design change `s3-storage`, решения 6–7): `client.py`
|
||||
— фабрика `create_object_storage`, обёртка `ObjectStorage` и типы
|
||||
`StoredObjectInfo`, `StoredObject`; `instance.py` — глобал
|
||||
`object_storage` с `namespace` = имя базы. Ключ объекта строит repo
|
||||
(`attachments`): `f"{namespace}{S3_KEY_SEPARATOR}…"`, как ключи кэша, —
|
||||
объекты `make test_isolated` лежат под `test_<db>/`. Клиент
|
||||
aiobotocore создаёт `start()` в lifespan (модели botocore — при
|
||||
старте, сети нет), закрывает `aclose()` рядом с `cache.aclose()`.
|
||||
Ниже — правила клиента.
|
||||
- `early_stop.py` — ранний обработчик SIGTERM и SIGINT процесса
|
||||
(`install()`, `disarm()`): только stdlib, ни настроек, ни логгера, ни
|
||||
других модулей `src`; клиентом хранилища не является, глобала клиента
|
||||
@@ -129,6 +140,31 @@ paths:
|
||||
`warning` «Cache is unavailable» на отказ и `info` «Cache is
|
||||
available again» при первом успехе. Пароль в журнал не попадает: он
|
||||
есть только в настройках пула.
|
||||
- S3 (SeaweedFS) — байты вложений; источник истины метаданных —
|
||||
PostgreSQL. Клиент — aiobotocore (botocore закреплён им узко,
|
||||
обновлять вместе через `uv lock`):
|
||||
- **повторов нет** (`retries={"total_max_attempts": 1}`): рестарт S3
|
||||
повтора не требует (старый клиент проходит первым же вызовом), таймаут
|
||||
не повторяется, загрузку повторяет клиент контракта;
|
||||
- **срок на вызов** — `asyncio.timeout([s3] timeout_seconds)` (5 с,
|
||||
меньше `timeout server` HAProxy), у `open` — ещё и на каждый блок
|
||||
чтения тела; `connect_timeout_seconds` и `read_timeout` botocore —
|
||||
из `[s3]`; пул aiohttp — `[s3] max_connections`;
|
||||
- адресация `path`: `bucket.s3` Docker DNS не разрешает;
|
||||
простаивающее соединение aiohttp закрывает через
|
||||
`S3_KEEPALIVE_TIMEOUT_SECONDS` (15 с), раньше шлюза (120 с);
|
||||
- ключи передаются в botocore всегда, даже пустые: с `None` он искал
|
||||
бы учётные данные в окружении и `~/.aws` хоста. Пустые ключи —
|
||||
`warning` при старте;
|
||||
- ошибки: отказ соединения, обрыв, таймаут, 5xx и отказ в учётных
|
||||
данных (`AccessDenied`, `InvalidAccessKeyId`,
|
||||
`SignatureDoesNotMatch`) — `ObjectStorageUnavailable` (наследник
|
||||
`ServiceUnavailable`, 503 `unavailable`); отсутствующий ключ —
|
||||
`StoredObjectMissing` (`head` — `None`, `delete` — не ошибка);
|
||||
прочие ошибки S3 и botocore не перехватываются — 500, дефект;
|
||||
- обхода и пропуска после отказа, как у Valkey, нет: без S3 путь
|
||||
вложений всё равно 503. `/health/ready` S3 не проверяет (спек
|
||||
`health`, решение 3 `PLAN.md`): текст работает без него.
|
||||
- Клиенты внешних сервисов: адреса и секреты из `settings`
|
||||
(`.claude/rules/settings.md`), таймаут на каждый вызов, ошибки
|
||||
переводятся в доменные исключения. Логи — по `logging.md`, без
|
||||
|
||||
@@ -67,7 +67,10 @@ paths:
|
||||
`uvicorn.error` — `INFO` без своего handler, пишет через `uvicorn`
|
||||
(свой handler дал бы дубли); `uvicorn.access` — выключен;
|
||||
- шумные библиотеки (`sqlalchemy.engine`, драйвер Postgres, `httpx`,
|
||||
`httpcore`) — `WARNING`: SQL с параметрами в лог не попадает.
|
||||
`httpcore`) — `WARNING`: SQL с параметрами в лог не попадает;
|
||||
- клиент S3 (с лабы 4): `botocore`, `aiobotocore`, `aiohttp` — явно
|
||||
`WARNING`, даже если кто-то опустит уровень root: на `DEBUG`
|
||||
botocore пишет заголовки запроса с подписью (`Authorization`).
|
||||
|
||||
### Отличия от bp_proxies
|
||||
|
||||
@@ -119,8 +122,16 @@ paths:
|
||||
- Пароли, токены сессий и их хэши, заголовок `Authorization` (`auth.md`);
|
||||
с лабы 3 — `Idempotency-Key` (ни целиком, ни частью: ключ выбирает
|
||||
клиент, в нём может оказаться что угодно; повтор виден по
|
||||
`replayed=true` и `message_id`); с лабы 4 — подписанные URL и
|
||||
ключи бакета.
|
||||
`replayed=true` и `message_id`); с лабы 4 — ключи доступа и секреты
|
||||
S3, ключ подписи служебных вызовов, подписи запросов к S3 (заголовок
|
||||
`Authorization`, параметры подписанного URL) и байты объектов. Для
|
||||
обращений к S3 допустимы адрес S3, bucket, ключ объекта, размер,
|
||||
длительность и класс ошибки (спек `service-logging`). Клиент
|
||||
(`src/infra/s3/client.py`, модуль `object_storage`) пишет `warning`
|
||||
«Object storage is unavailable» на отказ и таймаут, `error` «Object
|
||||
storage rejected credentials» с кодом ошибки S3, `debug` на успешный
|
||||
вызов; текста исключения botocore в записи нет. Запись «Started API» —
|
||||
с `s3_host`, `s3_port`, `s3_bucket`; пустые ключи — `warning`.
|
||||
- Stack trace — только в лог, никогда в ответ.
|
||||
|
||||
## Где логировать
|
||||
@@ -132,7 +143,7 @@ paths:
|
||||
| `api/routers/v1/<domain>.py` | только заметные шаги, которых не видно из сервиса | `module="api_<domain>_router"` |
|
||||
| `api/middlewares` | access-лог: одна строка на запрос; health не логировать | `middleware="http"` |
|
||||
| `api/errors.py` | не логирует: 4xx — штатные ответы, а traceback непредвиденной ошибки пишет uvicorn (`uvicorn.error`, с `request_id` из contextvar) после повторного броска исключения Starlette | нет |
|
||||
| `infra/<client>.py` | подключение, закрытие, ошибки; запросы к внешним API (`debug`) | `module="<client>"` |
|
||||
| `infra/<client>.py` | подключение, закрытие, ошибки; запросы к внешним API (`debug`) | `module="<client>"` (S3 — `object_storage`) |
|
||||
| `main.py` | старт (host, port, режим), начало и конец shutdown | `module="startup"` |
|
||||
| `infra/early_stop.py` | только остановка до старта сервера, одна запись без structlog (раздел выше) | нет, поле `module` — `startup` |
|
||||
| чистые функции | не логируют, бросают доменные исключения | нет |
|
||||
|
||||
+31
-15
@@ -22,8 +22,8 @@ README слушал `0.0.0.0`) и литерал в `environment` compose; дл
|
||||
| Процесс | `uv run python -m src` на хосте | `python -m src` — PID 1 контейнера |
|
||||
| uvicorn | `127.0.0.1`, `reload=True` по `src/` | `0.0.0.0`, без reload |
|
||||
| Порт | `settings.app.port`: `APP__PORT` из `.env`, без него — 8080 | `APP__PORT` из `.env` внутри каждой реплики (на нём же healthcheck и проверки HAProxy); с лабы 3 `APP_OUT_PORT` публикует только HAProxy |
|
||||
| Хранилища | Postgres и Valkey — контейнеры compose, приложение ходит на `127.0.0.1:<*_OUT_PORT>` (`settings.md`, «Консоль и docker»); `make run_dev` сам поднимает Postgres, накатывает миграции и поднимает Valkey | всё в compose, зависимости по имени сервиса; миграции — отдельный сервис до старта API (`migrations.md`) |
|
||||
| Рестарт | reload процесса данные и сессии не теряет | рестарт API и хранилищ с volumes данные и сессии не теряет (`make test-persistence`); кэш Valkey после рестарта пуст |
|
||||
| Хранилища | Postgres, Valkey и S3 — контейнеры compose, приложение ходит на `127.0.0.1:<*_OUT_PORT>` (`settings.md`, «Консоль и docker»); `make run_dev` сам поднимает Postgres, накатывает миграции, поднимает Valkey и S3 с bootstrap | всё в compose, зависимости по имени сервиса; миграции и bootstrap S3 — отдельные сервисы до старта API (`migrations.md`, `docker.md`) |
|
||||
| Рестарт | reload процесса данные и сессии не теряет | рестарт API и хранилищ с volumes данные, сессии и объекты S3 не теряет (`make test-persistence`); кэш Valkey после рестарта пуст |
|
||||
|
||||
## Точка входа
|
||||
|
||||
@@ -45,7 +45,8 @@ access_log=False)`. Импорты в `src/__main__.py` — внутри `if __n
|
||||
`[app] graceful_shutdown_seconds`, не больше 8 с). Docker шлёт SIGKILL
|
||||
через 10 с, в compose — `stop_grace_period`. Shutdown в lifespan
|
||||
только логирует и закрывает клиенты (`engine.dispose()`,
|
||||
`cache.aclose()`), долгих операций в нём нет.
|
||||
`cache.aclose()`, `object_storage.aclose()`), долгих операций в нём
|
||||
нет.
|
||||
Рубрика уровня 4 требует завершения не дольше 10 с.
|
||||
Сигнал на старте (спек `graceful-shutdown`, «Остановка во время
|
||||
старта»; design change `fix-known-issues`, решения 3–6):
|
||||
@@ -103,19 +104,21 @@ access_log=False)`. Импорты в `src/__main__.py` — внутри `if __n
|
||||
`# -------------------------`, свой `.PHONY` у каждой цели, имена в
|
||||
snake_case. Apple Container не делать.
|
||||
- Запуск и общие цели:
|
||||
- `run_dev: upgrade start_cache` — Postgres из compose и миграции,
|
||||
Valkey из compose, затем `APP__RUN_MODE=console uv run python -m
|
||||
src`;
|
||||
- `run_dev: upgrade start_cache start_s3` — Postgres из compose и
|
||||
миграции, Valkey и S3 с bootstrap из compose, затем
|
||||
`APP__RUN_MODE=console uv run python -m src`;
|
||||
- `run_docker: env_setup` (недостающие `.env` и `config.toml` из
|
||||
шаблонов, затем `DOCKER_BUILDKIT=1 $(DC) build` и `$(DC) up -d`:
|
||||
хранилища → migrate → `api` × `API_REPLICAS` → haproxy),
|
||||
хранилища → migrate и s3-bootstrap → `api` × `API_REPLICAS` →
|
||||
haproxy),
|
||||
к нему `stop`, `down` (volume остаётся), `logs`
|
||||
(`$(DC) logs -f --no-log-prefix api`: без префикса `api-1 |`
|
||||
каждая строка — JSON, реплику называет поле `instance_id`);
|
||||
- `lint` (`ruff format .` + `ruff check --fix .`, дважды),
|
||||
`env_setup` (шаблоны `.env` и `config.toml`, в новый `.env` —
|
||||
случайные `POSTGRES_PASSWORD` и `VALKEY_PASSWORD`; существующий
|
||||
`.env` не меняется, новые строки переносятся руками),
|
||||
случайные `POSTGRES_PASSWORD`, `VALKEY_PASSWORD` и пять секретов S3,
|
||||
печатаются только имена; существующий `.env` не меняется, новые
|
||||
строки переносятся руками),
|
||||
`student_test`.
|
||||
|
||||
Оба способа запуска — `run_docker` и `run_dev` — описываются в
|
||||
@@ -125,9 +128,20 @@ access_log=False)`. Импорты в `src/__main__.py` — внутри `if __n
|
||||
`stop_db`, `upgrade: start_db` (`uv run alembic upgrade head`),
|
||||
`revision: upgrade` (autogenerate, сообщение — `read -p`),
|
||||
`wipe_data` (`$(DC) down -v --remove-orphans` только после ввода
|
||||
`yes`). Volume — именованный `postgres_data` в compose; `wipe_data`
|
||||
пересоздаёт и Valkey, то есть чистит кэш.
|
||||
`yes`; запрос называет удаляемые volumes Postgres и S3 —
|
||||
`<проект>_postgres_data`, `<проект>_s3_data`). Volumes — именованные
|
||||
`postgres_data` и `s3_data` в compose; `wipe_data` пересоздаёт и
|
||||
Valkey, то есть чистит кэш.
|
||||
- Valkey: `start_cache` (`$(DC) up -d --wait valkey`), `stop_cache`.
|
||||
- S3 (с лабы 4): `start_s3` — `$(DC) up -d --wait s3`, затем `$(DC) up
|
||||
--no-deps --exit-code-from s3-bootstrap s3-bootstrap`: `--wait`
|
||||
одноразовый сервис считает готовым уже запущенным, а код bootstrap
|
||||
нужен цели (design change `s3-storage`, «Уточнения apply», п. 1);
|
||||
`stop_s3` (плавно ~15 с); `s3_check` — `driver.py s3-check`:
|
||||
проверка приватности bucket вне API на запущенном стенде (права ключа
|
||||
API, чужой bucket, административные запросы, аноним с хоста и из
|
||||
сети, порты контейнера S3), таблица «проверка → ожидаемо → получено»,
|
||||
код 1 при нарушении.
|
||||
- Реплики за HAProxy (с лабы 3, `balancer.md`): `replicas` (вернуть
|
||||
остановленные и выставить число, `API_REPLICAS ?= 2` после `-include
|
||||
.env`), `instances` (распределение одной сессии по `X-Instance-Id`),
|
||||
@@ -136,14 +150,16 @@ access_log=False)`. Импорты в `src/__main__.py` — внутри `if __n
|
||||
- `student_test` передаёт pytest `EXPECT_REPLICAS` (по умолчанию
|
||||
`API_REPLICAS`): сколько реплик за `BASE_URL` ждут тесты реплик.
|
||||
Против одного процесса — `EXPECT_REPLICAS=1` (`student-tests.md`).
|
||||
- `test_isolated: env_setup start_db start_cache` — образ на временной
|
||||
базе (`student-tests.md`); Valkey общий с рабочим стендом, ключи кэша
|
||||
разделены именем базы. Один контейнер API без LB: скрипт зовёт `make
|
||||
- `test_isolated: env_setup start_db start_cache start_s3` — образ на
|
||||
временной базе (`student-tests.md`); Valkey и S3 общие с рабочим
|
||||
стендом, ключи кэша и объектов разделены именем базы, префикс
|
||||
`test_<db>/` bucket удаляется при уборке. Один контейнер API без LB: скрипт зовёт `make
|
||||
student_test EXPECT_REPLICAS=1`. Скрипт запускается `$(PYTHON)`, а не
|
||||
`uv run`: uv повторно пересылает SIGINT, и Ctrl+C обрывал уборку.
|
||||
- `failure_checks: env_setup` — проверки отказов на отдельном стенде,
|
||||
проект compose `<рабочий>-failures` (`student-tests.md`). От
|
||||
`start_db` не зависит: стенд свой и удаляется вместе с volume.
|
||||
`start_db` не зависит: стенд свой (Postgres, Valkey, S3) и удаляется
|
||||
вместе с volumes.
|
||||
`FAULT_ARGS` — аргументы pytest (`make failure_checks FAULT_ARGS='-k
|
||||
valkey'`). Скрипт тоже запускается `$(PYTHON)`. Все команды docker
|
||||
проекта отказов — только с `-p <рабочий>-failures`: `down -v` без
|
||||
|
||||
+54
-12
@@ -14,7 +14,8 @@ console и docker — `.claude/rules/run-modes.md`. Здесь — откуда
|
||||
## Источники `Settings`
|
||||
|
||||
- `src/config/settings.py`: `Settings(BaseSettings)` из секций-`BaseModel`
|
||||
(`App`, `Database`, `Auth`, `Cache` — Valkey). Экземпляр один —
|
||||
(`App`, `Database`, `Auth`, `Cache` — Valkey, `S3`, `Idempotency`).
|
||||
Экземпляр один —
|
||||
`settings` на уровне модуля. Импорт везде `from src.config import
|
||||
settings`. Второй `Settings()` не создавать, поля в рантайме не менять.
|
||||
- Приоритет (`settings_customise_sources`): окружение процесса → `.env`
|
||||
@@ -47,8 +48,8 @@ console и docker — `.claude/rules/run-modes.md`. Здесь — откуда
|
||||
|
||||
| Где | Что | В git |
|
||||
|---|---|---|
|
||||
| `config.toml` | всё, что читает **только приложение**, по секциям: `log_level`, пул и таймауты `[database]`, TTL сессии, таймауты, пул и срок записей `[cache]`, секреты, которые нужны одному приложению | нет; шаблон `config_example.toml` |
|
||||
| `.env` | всё, что читает **compose** (и Makefile) и контейнеры зависимостей: порты `APP__PORT` / `APP_OUT_PORT`, `POSTGRES_*` и `VALKEY_*` (адрес, порты, учётные данные), пароли MinIO / брокера с лаб 4–5; мосты `SECTION__FIELD=${...}` для приложения, в том числе консольные адреса Postgres и Valkey | нет; шаблон `.env.example` |
|
||||
| `config.toml` | всё, что читает **только приложение**, по секциям: `log_level`, пул и таймауты `[database]`, TTL сессии, таймауты, пул и срок записей `[cache]`, регион, сроки и пул `[s3]`, секреты, которые нужны одному приложению | нет; шаблон `config_example.toml` |
|
||||
| `.env` | всё, что читает **compose** (и Makefile) и контейнеры зависимостей: порты `APP__PORT` / `APP_OUT_PORT`, `POSTGRES_*`, `VALKEY_*` и `S3_*` (адрес, порты, учётные данные, секреты S3 с лабы 4), пароль брокера с лабы 5; мосты `SECTION__FIELD=${...}` для приложения, в том числе консольные адреса Postgres, Valkey и S3 | нет; шаблон `.env.example` |
|
||||
| окружение процесса | режим `APP__RUN_MODE` и разовые подмены | — |
|
||||
| `src/utils/constants.py` | лимиты контракта (3–32, 100, 4000, `limit` 1–100 / 50), пути: одинаковы на всех установках | да |
|
||||
|
||||
@@ -57,7 +58,7 @@ console и docker — `.claude/rules/run-modes.md`. Здесь — откуда
|
||||
`Dockerfile.example` касается запекания в образ (`COPY`), а
|
||||
`config.toml` в образ не копируется, его монтируют на старте
|
||||
(`docker.md`). Но почти все секреты курса — пароли
|
||||
Postgres, Valkey, MinIO, брокера — нужны ещё и контейнеру зависимости,
|
||||
Postgres, Valkey, брокера, ключи S3 — нужны ещё и контейнеру зависимости,
|
||||
а его настраивает только compose из `.env`. Поэтому такой секрет живёт
|
||||
в `.env` и попадает в приложение мостом. Если продублировать его в
|
||||
`config.toml`, как `postgres_password` в bp_proxies, получатся два
|
||||
@@ -118,19 +119,49 @@ compose полю секции:
|
||||
`DATABASE__HOST=127.0.0.1`, `DATABASE__PORT=${POSTGRES_OUT_PORT}` и
|
||||
учётные данные из `POSTGRES_*`; для Valkey —
|
||||
`CACHE__HOST=127.0.0.1`, `CACHE__PORT=${VALKEY_OUT_PORT}`,
|
||||
`CACHE__PASSWORD=${VALKEY_PASSWORD}`;
|
||||
`CACHE__PASSWORD=${VALKEY_PASSWORD}`; для S3 —
|
||||
`S3__HOST=127.0.0.1`, `S3__PORT=${S3_OUT_PORT}`,
|
||||
`S3__ACCESS_KEY_ID=${S3_API_ACCESS_KEY}`,
|
||||
`S3__SECRET_ACCESS_KEY=${S3_API_SECRET_KEY}`;
|
||||
- docker: `.env` в контейнер не попадает, адрес и порт приходят из
|
||||
`environment` compose — `DATABASE__HOST: ${POSTGRES_HOST}`,
|
||||
`DATABASE__PORT: ${POSTGRES_PORT}`, `CACHE__HOST: ${VALKEY_HOST}`,
|
||||
`CACHE__PORT: ${VALKEY_PORT}` в общем якоре `x-app-env`.
|
||||
`DATABASE__PORT: ${POSTGRES_PORT}` (якорь `x-db-env`),
|
||||
`CACHE__HOST: ${VALKEY_HOST}`, `CACHE__PORT: ${VALKEY_PORT}`
|
||||
(`x-cache-env`), `S3__HOST: ${S3_HOST}`, `S3__PORT: ${S3_PORT}`
|
||||
(`x-s3-env`).
|
||||
|
||||
Адреса и порты Postgres и Valkey в compose — только переменные `.env`,
|
||||
литерал — лишь адрес публикации `127.0.0.1` (`docker.md`).
|
||||
Адреса и порты Postgres, Valkey и S3 в compose — только переменные
|
||||
`.env`, литерал — лишь адрес публикации `127.0.0.1` (`docker.md`).
|
||||
|
||||
Существующий `.env` `make env_setup` не меняет. Новая переменная из
|
||||
`.env.example` (с `membership-cache` — строки `VALKEY_*` и `CACHE__*`)
|
||||
переносится в рабочий `.env` руками; без `VALKEY_PASSWORD` compose
|
||||
останавливается с сообщением об этом.
|
||||
`.env.example` (с `membership-cache` — строки `VALKEY_*` и `CACHE__*`,
|
||||
с `s3-storage` — блок S3) переносится в рабочий `.env` руками,
|
||||
пустые секреты — `openssl rand -hex 32`; без `VALKEY_PASSWORD` или
|
||||
секретов S3 compose останавливается с сообщением «copy … lines from
|
||||
.env.example». В новый `.env` `make env_setup` подставляет случайные
|
||||
`POSTGRES_PASSWORD`, `VALKEY_PASSWORD` и пять секретов S3 и печатает
|
||||
только их имена.
|
||||
|
||||
### S3 (с лабы 4)
|
||||
|
||||
- `[s3]`: `host`, `port` (8333), `bucket` (`messenger`, валидатор по
|
||||
`S3_BUCKET_NAME_PATTERN`: иначе сервис не стартует, в ошибке —
|
||||
`bucket`), `access_key_id` и `secret_access_key` (`SecretStr`, пусто
|
||||
— `warning` при старте), `region` (`us-east-1`), сроки
|
||||
`connect_timeout_seconds` (1) и `timeout_seconds` (5, `gt=0`), пул
|
||||
`max_connections` (10, `ge=1`). URL — свойство `endpoint_url`.
|
||||
- Имя bucket читают и приложение, и bootstrap, поэтому в `.env` оно в
|
||||
формате настроек — `S3__BUCKET`; bootstrap получает его как
|
||||
`S3_BUCKET: ${S3__BUCKET:-messenger}`. Регион, сроки и пул — в
|
||||
`config.toml`, адреса и ключей там нет.
|
||||
- Секреты S3 в `.env` (кто какой получает — `docker.md`):
|
||||
`S3_ROOT_ACCESS_KEY` / `S3_ROOT_SECRET_KEY` — административная пара,
|
||||
только сервер; `S3_JWT_SIGNING_KEY` — ключ подписи служебных вызовов;
|
||||
`S3_API_ACCESS_KEY` / `S3_API_SECRET_KEY` — пользователь API: один
|
||||
источник для bootstrap и приложения (мост). Новый секрет API действует
|
||||
после следующего bootstrap (`make run_docker`), прежний перестаёт.
|
||||
- Порт API S3 в сети — `S3_PORT`, на `127.0.0.1` хоста — `S3_OUT_PORT`
|
||||
(8334, как 5433 и 6380).
|
||||
|
||||
`.env.example` skeleton lab2 предлагает «логические» имена: `APP_HOST`,
|
||||
`APP_PORT`, `APP_ENV`, `SESSION_TTL_SECONDS`, `DATABASE_URL_FILE`,
|
||||
@@ -160,6 +191,17 @@ Skeleton lab3 добавил ещё два имени:
|
||||
24 ч по контракту), соответствие — в `REPORT.md`, как
|
||||
`SESSION_TTL_SECONDS`.
|
||||
|
||||
Skeleton lab4 добавил имена `S3_*` (буквально не заводятся,
|
||||
соответствие — в `REPORT.md`, design change `s3-storage`, решение 5):
|
||||
|
||||
- `S3_ENDPOINT` → `S3__HOST` и `S3__PORT` (мосты в консоли,
|
||||
`x-s3-env` в docker);
|
||||
- `S3_REGION` → `[s3] region`;
|
||||
- `S3_BUCKET` → `S3__BUCKET`;
|
||||
- `S3_ACCESS_KEY_ID_FILE`, `S3_SECRET_ACCESS_KEY_FILE` → мосты из
|
||||
`S3_API_*`: значения, а не файлы, как с `DATABASE_URL_FILE`;
|
||||
- `MAX_UPLOAD_BYTES`, `MAX_IMAGE_PIXELS` — change `attachments`.
|
||||
|
||||
`X-Instance-Id` берётся из `[app] instance_id`: по умолчанию пусто, и
|
||||
тогда валидатор поля подставляет hostname процесса (один раз, при
|
||||
загрузке `settings`); значение проверяется по `INSTANCE_ID_PATTERN`.
|
||||
|
||||
@@ -94,9 +94,16 @@ paths:
|
||||
не доказана. Проверяются количество и уникальность `id`, а также
|
||||
отсутствие потерь при обходе всех страниц.
|
||||
- Обычный прогон — `make test_isolated` (`student-tests/run_isolated.py`):
|
||||
образ из рабочего дерева на временной базе `test_<db>` с Valkey
|
||||
стенда (ключи кэша разделены именем базы), публичный smoke и весь
|
||||
набор против отдельного контейнера, затем уборка при любом исходе.
|
||||
образ из рабочего дерева на временной базе `test_<db>` с Valkey и S3
|
||||
стенда (ключи кэша и объектов разделены именем базы), публичный smoke
|
||||
и весь набор против отдельного контейнера, затем уборка при любом
|
||||
исходе. С лабы 4 уборка удаляет и объекты под префиксом `test_<db>/`
|
||||
bucket — в начале (хвост прошлого прогона) и в конце: `docker compose
|
||||
exec -T s3` + `weed shell` `fs.rm -r /buckets/<bucket>/test_<db>`
|
||||
(отсутствие префикса — не ошибка). Префикс собирается только из
|
||||
имени, прошедшего `^test_[a-z0-9_]+$`, и проверенного имени bucket,
|
||||
иначе код 2 до любых действий: ошибка не может удалить рабочий
|
||||
префикс. `KEEP_TEST_DB=1` оставляет базу и префикс и печатает оба.
|
||||
Его вывод — evidence набора против контейнера. Это один контейнер
|
||||
API без LB (`EXPECT_REPLICAS=1`): тесты, которым нужны ≥2 реплики,
|
||||
здесь пропускаются. `make student_test` — против любого запущенного
|
||||
@@ -112,8 +119,12 @@ paths:
|
||||
БД: такие сценарии `chat-cache` — исключения с evidence.
|
||||
- Как устроен `make failure_checks` (`student-tests/run_failures.py`):
|
||||
- тот же `docker-compose.yml` под проектом `<рабочий>-failures` с
|
||||
override `failures.compose.yml`: свои Postgres и Valkey со своим
|
||||
volume, их порты не публикуются, healthcheck PostgreSQL проверяет
|
||||
override `failures.compose.yml`: свои Postgres, Valkey и с лабы 4
|
||||
S3 со своими volumes, их порты не публикуются; bootstrap S3 —
|
||||
отдельным `up --no-deps --exit-code-from s3-bootstrap` после
|
||||
миграций; у `s3` `stop_grace_period: 2s` — здесь проверяется отказ,
|
||||
а не плавная остановка (~15 с), и `stop` не тянет время набора;
|
||||
healthcheck PostgreSQL проверяет
|
||||
служебную базу `postgres` (иначе каждая проверка — сессия в базе
|
||||
приложения и шум счётчика `db-sessions`);
|
||||
- два API на свободных портах `127.0.0.1`: обычный (`BASE_URL`) и
|
||||
@@ -142,7 +153,10 @@ paths:
|
||||
`make test-persistence` вызывает `ACTION_SCRIPT`. Маркер `fault`
|
||||
выбирает тесты, фикстура `stand` действует на стенд: имена разные
|
||||
намеренно. Действия: `stop` / `start` /
|
||||
`pause` / `unpause`, `flush-cache`, `cache-hits`, `cache-has-chat`,
|
||||
`pause` / `unpause` сервиса `postgres`, `valkey` или `s3` (у `s3`
|
||||
проба после `unpause` — та же команда, что healthcheck: master,
|
||||
filer и шлюз; `test_readiness_without_object_storage` — спек `health`,
|
||||
«Хранилище объектов недоступно»), `flush-cache`, `cache-hits`, `cache-has-chat`,
|
||||
`fail-members` (триггер, который роняет вставку участников),
|
||||
`fail-messages` (триггер, который роняет вставку сообщения с данным
|
||||
текстом — уже после вставки ключа идемпотентности) и
|
||||
|
||||
@@ -1,13 +1,15 @@
|
||||
---
|
||||
name: run-mtusi-messenger
|
||||
description: Запустить, остановить, прогнать и подёргать API мессенджера MTUSI (FastAPI, PostgreSQL, Valkey; лаба 3 — HAProxy перед репликами API) — на хосте или в Docker. Use when asked to run / start / stop the server or the stand, run the smoke test, `make test`, `make student_test`, `make test_isolated`, `make test-persistence` or `make test-failover`, stop or restore an API replica, show X-Instance-Id distribution, check that an API change works on a live server, send a request to an endpoint, reproduce a bug over HTTP, check the containers, or call services directly without HTTP.
|
||||
description: Запустить, остановить, прогнать и подёргать API мессенджера MTUSI (FastAPI, PostgreSQL, Valkey; лаба 3 — HAProxy перед репликами API; лаба 4 — S3 на SeaweedFS) — на хосте или в Docker. Use when asked to run / start / stop the server or the stand, run the smoke test, `make test`, `make student_test`, `make test_isolated`, `make test-persistence` or `make test-failover`, `make s3_check`, check that the S3 bucket is private, stop or restore an API replica, show X-Instance-Id distribution, check that an API change works on a live server, send a request to an endpoint, reproduce a bug over HTTP, check the containers, or call services directly without HTTP.
|
||||
---
|
||||
|
||||
REST API мессенджера (пользователи, чаты, сообщения) — сервер на
|
||||
FastAPI/uvicorn, данные в PostgreSQL из compose, карточки чатов
|
||||
кэшируются в Valkey из compose. Агент управляет им через
|
||||
кэшируются в Valkey из compose, с лабы 4 есть S3 (SeaweedFS) для байтов
|
||||
вложений. Агент управляет им через
|
||||
`.claude/skills/run-mtusi-messenger/driver.py`: он поднимает Postgres,
|
||||
накатывает миграции и поднимает Valkey (`make upgrade start_cache`),
|
||||
накатывает миграции, поднимает Valkey и S3 с bootstrap (`make upgrade
|
||||
start_cache start_s3`),
|
||||
запускает свой экземпляр сервера в фоне, гоняет сценарий по HTTP,
|
||||
публичный smoke и собственные тесты, шлёт одиночные запросы и
|
||||
останавливает сервер. Против стенда compose (`make run_docker`:
|
||||
@@ -17,7 +19,8 @@ HAProxy на `APP_OUT_PORT` перед репликами API) работают
|
||||
полёте, `idle-conns` — кто закрывает простаивающие соединения LB →
|
||||
реплика, `hang-key` — повтор ключа после зависшей реплики,
|
||||
`cache-check` и `auth-storage` — доказательства исключений сверки
|
||||
покрытия (кэш, хранение паролей и токенов). `stop-at-start` — остановка
|
||||
покрытия (кэш, хранение паролей и токенов), `s3-check` (`make
|
||||
s3_check`) — приватность bucket вне API. `stop-at-start` — остановка
|
||||
контейнеров образа во время старта, без стенда. Только
|
||||
стандартная библиотека Python 3.9+: `make instances` запускает драйвер
|
||||
системным `python3` (на macOS — 3.9), поэтому без `datetime.UTC`,
|
||||
@@ -46,16 +49,17 @@ Argon2id, около 30 мс на регистрацию и вход в конс
|
||||
|
||||
```bash
|
||||
uv sync --all-extras # venv с ruff и dev-группой (pytest, httpx, валидатор)
|
||||
make env_setup # .env (случайные POSTGRES_PASSWORD и VALKEY_PASSWORD) и config.toml, существующие не трогает
|
||||
make env_setup # .env (случайные POSTGRES_PASSWORD, VALKEY_PASSWORD и 5 секретов S3, печатает только имена) и config.toml, существующие не трогает
|
||||
```
|
||||
|
||||
Нужен запущенный Docker: Postgres и Valkey живут в compose. Без
|
||||
Нужен запущенный Docker: Postgres, Valkey и S3 живут в compose. Без
|
||||
Postgres сервер стартует, но `/health/ready` отвечает 503; без Valkey
|
||||
всё работает, но мимо кэша (`warning` «Cache is unavailable» в логе).
|
||||
`driver.py start` сам делает `make upgrade start_cache`. В `.env`,
|
||||
созданном до `membership-cache`, нет строк Valkey: их переносят из
|
||||
`.env.example` руками, иначе compose падает с `VALKEY_PASSWORD is
|
||||
empty`.
|
||||
всё работает, но мимо кэша (`warning` «Cache is unavailable» в логе);
|
||||
без S3 `/health/ready` — 200, а пути вложений (с change `attachments`)
|
||||
— 503. `driver.py start` сам делает `make upgrade start_cache
|
||||
start_s3`. В `.env`, созданном до `membership-cache` или `s3-storage`,
|
||||
нет строк Valkey или S3: их переносят из `.env.example` руками, иначе
|
||||
compose падает с `… is empty, copy … lines from .env.example`.
|
||||
|
||||
## Run (agent path)
|
||||
|
||||
@@ -68,7 +72,7 @@ python3 $D all # start → flow → tests/smoke.py → student-tests → st
|
||||
посмотреть лог, послать свой запрос):
|
||||
|
||||
```bash
|
||||
python3 $D start # make upgrade start_cache, затем фон; ждёт /health/ready до 30 с
|
||||
python3 $D start # make upgrade start_cache start_s3, затем фон; ждёт /health/ready до 30 с
|
||||
python3 $D status # listeners: [pid reloader, pid worker], ready: True
|
||||
python3 $D flow # ~60 проверок: регистрация с паролем, вход, 409, неверный пароль,
|
||||
# 401 с WWW-Authenticate, X-User-Id игнорируется, чат, 5 сообщений,
|
||||
@@ -87,7 +91,7 @@ python3 $D stop
|
||||
|
||||
| команда | что делает |
|
||||
|---|---|
|
||||
| `start` | `make upgrade start_cache`, затем `APP__RUN_MODE=console APP__PORT=<port> uv run python -m src` в своей группе процессов |
|
||||
| `start` | `make upgrade start_cache start_s3`, затем `APP__RUN_MODE=console APP__PORT=<port> uv run python -m src` в своей группе процессов |
|
||||
| `status` | кто слушает порт, отвечает ли `/health/ready`; код 1, если никого |
|
||||
| `flow` | сквозной сценарий; `[FAIL]` в строке и код 1 при провале; в конце печатает id alice/bob/eve/chat и синтетический токен alice |
|
||||
| `req METHOD PATH [--token T \| --basic USER:PASS] [--data JSON] [--key K \| --no-key]` | один запрос: статус, `x-request-id`, `x-instance-id`, `www-authenticate` у 401, тело; код 2 при статусе ≥ 400. `POST …/messages` без `--key` получает новый `Idempotency-Key` (он печатается), `--no-key` — без заголовка |
|
||||
@@ -99,6 +103,7 @@ python3 $D stop
|
||||
| `hang-key` | только стенд с LB: временный триггер `hang_probe_<метка>` задерживает вставку пробного сообщения на 2 с, реплика с этой транзакцией замораживается `docker pause`, повторы того же `Idempotency-Key` через LB до 201 (сначала 504 от LB или 503 по ожиданию блокировки), разморозка; печатает `idle_in_transaction_session_timeout` соединения приложения и строку журнала PostgreSQL о прерывании. Код 0 — повтор получил 201, в чате одно сообщение, обе реплики снова `UP`. Триггер удаляется и реплика размораживается при любом исходе, в том числе по Ctrl+C, SIGTERM и SIGHUP; если удалить не удалось — печатается SQL удаления и код 1 (от SIGKILL уборки нет) |
|
||||
| `cache-check [--require-test-keys]` | только стенд с LB (`--port 8080`): сценарии `chat-cache` «Чтение из кэша», «Срок записи», «Временная база». Два синтетических пользователя и чат; ключ `messenger:v1:<база>:chat:<id>` сразу после 201 (`EXISTS`, TTL ≤ `[cache] chat_ttl_seconds` из реплики, поля значения), `DEL`, через 11 с снимок `seq_scan + idx_scan` таблицы `chats` и `keyspace_hits` / `keyspace_misses`, 50 чтений через LB, через 11 с второй снимок; TTL до и после ещё 10 чтений; число ключей рабочей и тестовой (`test_<db>`) базы. Код 0 — чтений `chats` ≤ 1, hits ≥ +49, промахов ≤ 1, ответы равны ответу на создание, TTL не продлевается, ≥ 2 `X-Instance-Id`. Для «Временной базы» перед ней — `make test_isolated`: без ключей тестовой базы строка `PASS` заканчивается «temporary database: not checked», с `--require-test-keys` — код 1 (доказательство сценария снимается с флагом). На стенде в это время ничего другого не должно идти. Вывод — `evidence/cache/hits.md` |
|
||||
| `auth-storage` | только стенд с LB: сценарии `users` «Хэш в БД» и `sessions` «Токена нет в хранилище». Пароль P (с `:` и кириллицей) и токен T — только в памяти; через psql — префикс `$argon2id$…` до соли и длина у двух пользователей с одним P, неравенство хэшей, строка `sessions` с `token_hash` = SHA-256(T) (32 байта); `pg_dump --data-only` в память — нет ли T (текстом и в hex) и P. Код 0 — всё так. Вывод — `evidence/auth/passwords-and-tokens.md` |
|
||||
| `s3-check` | стенд compose (`make s3_check`), без приложения: спек `object-storage` «Проверка приватности вне API». `docker compose run --rm --no-deps s3-bootstrap check` — права ключа API (PUT/GET/HEAD объекта, 404 отсутствующего; 403 на список, создание и удаление bucket, политику и ACL bucket, публичный ACL объекта), временный чужой bucket (403 на всё), аноним изнутри сервера (403); анонимные запросы с хоста (`127.0.0.1:S3_OUT_PORT`) и из сети стенда (одноразовый контейнер образа S3), порты контейнера S3 из сети (`nc -z`: открыты только API S3 и gRPC шлюза); затем `s3-bootstrap cleanup` и `weed shell` — проверочных объектов и bucket не осталось. Таблица «где → проверка → ожидаемо → получено» без секретов, код 1 при расхождении (печатает нарушенные). Вывод — `evidence/s3/privacy.md` |
|
||||
| `stop-at-start [--image ТЕГ] [--delays 0.2,0.3,0.4,1.5,5] [--server-start 3]` | спек `graceful-shutdown` «Остановка во время старта»: контейнеры образа (по умолчанию `mtusi-messenger:lab4`) с лимитами реплики (1 CPU / 512 МиБ без swap), без сети и `config.toml`; `docker stop --timeout 10` через паузу после `docker run` и сразу по строке «Started server process». По потоку `docker events` и журналу: «сигнал через», время `docker stop`, «выход после сигнала», код выхода, этап (`import` / `server-start` / `running`), кто остановил (`early` / `uvicorn`). Код 0 — каждая попытка с кодом 0 и `docker stop` ≤ 1 с, есть `import`, остановленный ранним обработчиком, и `running`. Проекты compose не трогает, свои контейнеры удаляет по метке `mtusi.stop-at-start`. Вывод — `evidence/failover/stop-at-start.md` |
|
||||
| `stop` | SIGTERM всей группе; ждёт, пока порт освободится. Чужой сервер и контейнер не трогает |
|
||||
| `all` | всё подряд (`student` — если есть `student-tests/`), `stop` в `finally` |
|
||||
@@ -113,13 +118,18 @@ python3 $D stop
|
||||
## Run: стенд compose (HAProxy + реплики)
|
||||
|
||||
Проект `mtusi-lab4`, образ `mtusi-messenger:lab4`, compose-сервисы
|
||||
`postgres`, `valkey`, `migrate` (одноразовые миграции), `api` ×
|
||||
`API_REPLICAS` (по умолчанию 2, без портов на хосте) и `haproxy` —
|
||||
единственный порт API на хосте, `127.0.0.1:APP_OUT_PORT` (8080).
|
||||
Конфиг LB — `infra/haproxy/haproxy.cfg`, правила — `balancer.md`.
|
||||
`postgres`, `valkey`, `s3` (SeaweedFS, API S3 на `127.0.0.1:S3_OUT_PORT`
|
||||
— 8334), `migrate` (одноразовые миграции), `s3-bootstrap` (одноразовый:
|
||||
приватный bucket и пользователь API), `api` × `API_REPLICAS` (по
|
||||
умолчанию 2, без портов на хосте) и `haproxy` — единственный порт API
|
||||
на хосте, `127.0.0.1:APP_OUT_PORT` (8080). Конфиг LB —
|
||||
`infra/haproxy/haproxy.cfg`, правила — `balancer.md` и `docker.md`.
|
||||
|
||||
```bash
|
||||
make run_docker # build + up -d: postgres, valkey → migrate → api × 2 → haproxy
|
||||
make run_docker # build + up -d: postgres, valkey, s3 → migrate, s3-bootstrap → api × 2 → haproxy
|
||||
make s3_check # приватность bucket вне API: таблица проверок, код 0
|
||||
docker compose logs s3-bootstrap # bucket/user exists|created, checks passed
|
||||
docker compose run --rm s3-bootstrap # повтор bootstrap: «exists», код 0
|
||||
docker compose ps -a --format '{{.Name}} {{.ID}} {{.Ports}} {{.Status}}'
|
||||
make instances # ≥2 X-Instance-Id одной сессии через LB (шаг 1 защиты)
|
||||
make lb_stats # слоты HAProxy: адрес, UP/DOWN, запросы, повторы, перенаправления
|
||||
@@ -129,7 +139,7 @@ docker compose logs --no-log-prefix api | tail -5 # JSON всех реплик
|
||||
docker compose logs --no-log-prefix haproxy | tail # LB: ошибки, повторы (+N), смена состояния реплик
|
||||
docker compose exec valkey sh -c 'valkey-cli -p "$VALKEY_PORT" --scan --pattern "messenger:*" | head'
|
||||
# ключи кэша; пароль — из VALKEYCLI_AUTH контейнера
|
||||
scripts/restart.sh # рестарт LB, всех реплик, Postgres и Valkey: данные и токены остаются, кэш пуст
|
||||
scripts/restart.sh # рестарт LB, всех реплик, Postgres, Valkey и S3 (~25 с): данные, токены и объекты остаются, кэш пуст
|
||||
make test-persistence ACTION_SCRIPT=scripts/restart.sh # то же публичной проверкой
|
||||
make test-failover ACTION_SCRIPT=scripts/stop-one.sh # остановка реплики, обслужившей тест; ~20 с
|
||||
STOP_MODE=kill STOP_ONE_LOG=/tmp/stop-one.log make test-failover ACTION_SCRIPT=scripts/stop-one.sh
|
||||
@@ -220,7 +230,7 @@ HTTP-коды: `authenticate(token="x")` бросает `Unauthenticated`, не
|
||||
## Run (human path)
|
||||
|
||||
```bash
|
||||
make run_dev # Postgres + миграции, Valkey, затем 127.0.0.1:8080, reload по src/; Ctrl-C
|
||||
make run_dev # Postgres + миграции, Valkey, S3 + bootstrap, затем 127.0.0.1:8080, reload по src/; Ctrl-C
|
||||
```
|
||||
|
||||
Блокирует терминал — агенту не подходит, используй `driver.py start`.
|
||||
@@ -239,10 +249,13 @@ make lint # ruff; затрагивает и dr
|
||||
Ожидаемо: `PASS: offline skeleton structure...`, `FAILED: none` у
|
||||
`flow`, smoke — `PASS: lab4 public API scenario...`, student — все
|
||||
прошли (тесты `fault` — `deselected`), `All checks passed!`; `all`,
|
||||
`test_isolated` и `failure_checks` — код 0.
|
||||
`test_isolated` и `failure_checks` — код 0. **До change `attachments`**
|
||||
smoke (загрузка вложения) и тесты со схемой `Message` (контракт лабы 4
|
||||
требует `attachment_ids`) красные — список в `tasks.md` change
|
||||
`s3-storage`.
|
||||
|
||||
Проверки отказов (`student-tests/test_failures.py`, маркер `fault`)
|
||||
останавливают и замораживают Postgres и Valkey, поэтому идут только на
|
||||
останавливают и замораживают Postgres, Valkey и S3, поэтому идут только на
|
||||
своём стенде: `make failure_checks` поднимает проект compose
|
||||
`<рабочий>-failures` со своими хранилищами и volume и удаляет его после
|
||||
прогона. Рабочий стенд на 8080 при этом не трогается. `pytest -m fault`
|
||||
@@ -348,3 +361,14 @@ make lint # ruff; затрагивает и dr
|
||||
любой команды compose — `.env` создан до `membership-cache`: перенести
|
||||
строки `VALKEY_*` и `CACHE__*` из `.env.example`, пароль — `openssl
|
||||
rand -hex 16`.
|
||||
- **`S3_… is empty, copy S3 lines from .env.example`** — `.env` создан
|
||||
до `s3-storage`: перенести блок S3 из `.env.example`, пять пустых
|
||||
секретов — `openssl rand -hex 32` каждый; затем `make run_docker`.
|
||||
- **`s3-bootstrap: FAILED: <шаг>`, реплики не стартуют** — bootstrap
|
||||
назвал шаг: `docker compose logs s3-bootstrap`. Недопустимое имя
|
||||
`S3__BUCKET` — «bucket create»; анонимный доступ или права не те —
|
||||
`FAILED: … is not denied`. Повтор — `docker compose up -d
|
||||
s3-bootstrap` (или `make run_docker`).
|
||||
- **`make stop` и `restart.sh` дольше на ~15 с** — SeaweedFS
|
||||
останавливается плавно ~15 с (`stop_grace_period: 20s`), это не
|
||||
зависание.
|
||||
|
||||
@@ -6,10 +6,10 @@
|
||||
python3 .claude/skills/run-mtusi-messenger/driver.py [--port N] <cmd>
|
||||
|
||||
Команды:
|
||||
start `make upgrade start_cache` (Postgres из compose и миграции,
|
||||
Valkey), затем поднять `python -m src` в фоне (console,
|
||||
reload) и дождаться /health/ready; лог и pid —
|
||||
/tmp/mtusi-api-<port>.{log,pid}
|
||||
start `make upgrade start_cache start_s3` (Postgres из compose и
|
||||
миграции, Valkey, S3 с bootstrap), затем поднять
|
||||
`python -m src` в фоне (console, reload) и дождаться
|
||||
/health/ready; лог и pid — /tmp/mtusi-api-<port>.{log,pid}
|
||||
status кто слушает порт и что отвечает /health/ready
|
||||
flow сквозной сценарий по HTTP с проверками; код выхода 1 при провале
|
||||
req один запрос: req METHOD PATH [--token T | --basic USER:PASS]
|
||||
@@ -53,6 +53,14 @@
|
||||
хранилище» и users «Хэш в БД» — префиксы Argon2id и разные
|
||||
хэши одного пароля, token_hash = SHA-256 токена, ни токена,
|
||||
ни пароля в pg_dump; секреты не печатаются
|
||||
s3-check стенд compose (make s3_check), без приложения: спек
|
||||
object-storage «Проверка приватности вне API» — bootstrap S3
|
||||
в режиме check (права ключа API, чужой bucket,
|
||||
административные запросы, аноним изнутри сервера), анонимные
|
||||
запросы с хоста и из сети стенда, порты контейнера S3 из
|
||||
сети, затем режим cleanup и проверка, что проверочных
|
||||
объектов и bucket не осталось; таблица «где → проверка →
|
||||
ожидаемо → получено», код 1 при расхождении
|
||||
stop-at-start [--image ТЕГ] [--delays 0.2,0.3,0.4,1.5,5]
|
||||
[--server-start 3] docker stop контейнеров образа (лимиты
|
||||
реплики, без сети) во время старта: через паузу после
|
||||
@@ -206,16 +214,16 @@ def cmd_start(port: int) -> int:
|
||||
print(f"port {port} is busy:", listener_pids(port))
|
||||
return 1
|
||||
# без Postgres сервис стартует, но /health/ready отвечает 503; без
|
||||
# Valkey работает, но мимо кэша
|
||||
# Valkey работает, но мимо кэша; без S3 — 503 на путях вложений
|
||||
upgrade = subprocess.run(
|
||||
["make", "upgrade", "start_cache"],
|
||||
["make", "upgrade", "start_cache", "start_s3"],
|
||||
cwd=ROOT,
|
||||
capture_output=True,
|
||||
text=True,
|
||||
check=False,
|
||||
)
|
||||
if upgrade.returncode != 0:
|
||||
print("make upgrade start_cache failed:")
|
||||
print("make upgrade start_cache start_s3 failed:")
|
||||
print((upgrade.stdout + upgrade.stderr)[-2000:])
|
||||
return 1
|
||||
env = os.environ | {"APP__RUN_MODE": "console", "APP__PORT": str(port)}
|
||||
@@ -1559,6 +1567,270 @@ def cmd_auth_storage(port: int) -> int:
|
||||
return 0
|
||||
|
||||
|
||||
# s3-check: проверочный объект режима check bootstrap S3
|
||||
S3_CHECK_KEY = ".s3-check/probe"
|
||||
# строки проверок bootstrap: «s3-bootstrap: check<TAB>имя<TAB>ожидаемо…»
|
||||
S3_CHECK_ROW = "s3-bootstrap: check\t"
|
||||
# порты weed server, которые не должны быть доступны из сети стенда:
|
||||
# master, filer, volume (HTTP и gRPC), admin UI, Iceberg, Lance, webdav,
|
||||
# SFTP, pprof
|
||||
S3_CLOSED_PORTS = (
|
||||
9333,
|
||||
19333,
|
||||
8888,
|
||||
18888,
|
||||
8080,
|
||||
18080,
|
||||
23646,
|
||||
8181,
|
||||
9101,
|
||||
7333,
|
||||
8111,
|
||||
6060,
|
||||
)
|
||||
# анонимные запросы из сети стенда и порты контейнера S3: одноразовый
|
||||
# контейнер на образе сервера (curl и nc в нём есть). Строки — как у
|
||||
# bootstrap: имя, ожидаемо, получено
|
||||
S3_NETWORK_SCRIPT = r"""
|
||||
set -u
|
||||
code() { curl -s -o /dev/null -w '%{http_code}' --max-time 5 "$@" || echo 000; }
|
||||
row() { printf 'row\t%s\t%s\t%s\n' "$1" "$2" "$3"; }
|
||||
base="http://$S3_HOST:$S3_PORT"
|
||||
row "anonymous get object" 403 "$(code "$base/$S3_BUCKET/$S3_KEY")"
|
||||
row "anonymous head object" 403 "$(code -I "$base/$S3_BUCKET/$S3_KEY")"
|
||||
row "anonymous get missing object" 403 "$(code "$base/$S3_BUCKET/.s3-check/missing")"
|
||||
row "anonymous list objects" 403 "$(code "$base/$S3_BUCKET?list-type=2")"
|
||||
row "anonymous list buckets" 403 "$(code "$base/")"
|
||||
row "anonymous put object" 403 "$(code -X PUT --data-binary x "$base/$S3_BUCKET/.s3-check/anonymous")"
|
||||
for p in $S3_PORT $S3_GRPC_PORT; do
|
||||
if nc -z -w 2 "$S3_HOST" "$p"; then got=open; else got=closed; fi
|
||||
row "port $p (S3 API / gRPC of gateway)" open "$got"
|
||||
done
|
||||
for p in $S3_CLOSED; do
|
||||
if nc -z -w 2 "$S3_HOST" "$p"; then got=open; else got=closed; fi
|
||||
row "port $p" closed "$got"
|
||||
done
|
||||
"""
|
||||
|
||||
|
||||
def s3_stand() -> dict[str, str]:
|
||||
"""Параметры S3 стенда из `docker compose config` без секретов:
|
||||
проект, образ, адрес и порт в сети, порт на хосте, bucket."""
|
||||
config = json.loads(compose("config", "--format", "json"))
|
||||
services = config["services"]
|
||||
s3 = services["s3"]
|
||||
published = next(
|
||||
p for p in s3.get("ports", []) if p.get("host_ip") == "127.0.0.1"
|
||||
)
|
||||
api_env = services["api"]["environment"]
|
||||
return {
|
||||
"project": config["name"],
|
||||
"image": s3["image"],
|
||||
"host": str(api_env["S3__HOST"]),
|
||||
"port": str(published["target"]),
|
||||
"out_port": str(published["published"]),
|
||||
"bucket": str(services["s3-bootstrap"]["environment"]["S3_BUCKET"]),
|
||||
}
|
||||
|
||||
|
||||
def anonymous_code(
|
||||
url: str,
|
||||
method: str = "GET",
|
||||
data: bytes | None = None,
|
||||
) -> str:
|
||||
request = urllib.request.Request(url, method=method, data=data)
|
||||
try:
|
||||
with urllib.request.urlopen(request, timeout=5) as response:
|
||||
return str(response.status)
|
||||
except urllib.error.HTTPError as error:
|
||||
return str(error.code)
|
||||
except OSError:
|
||||
return "000"
|
||||
|
||||
|
||||
def weed_shell(command: str) -> str:
|
||||
"""Одна команда `weed shell` в контейнере `s3` стенда: master и filer
|
||||
на его loopback, ключ подписи — в его окружении."""
|
||||
return compose(
|
||||
"exec",
|
||||
"-T",
|
||||
"s3",
|
||||
"sh",
|
||||
"-c",
|
||||
"exec weed shell -master=127.0.0.1:9333 2>&1",
|
||||
stdin=f"{command}\n",
|
||||
)
|
||||
|
||||
|
||||
def s3_bootstrap(mode: str) -> tuple[int, str]:
|
||||
"""Bootstrap S3 стенда в режиме `check` или `cleanup`: код и вывод."""
|
||||
proc = subprocess.run(
|
||||
[
|
||||
"docker",
|
||||
"compose",
|
||||
"run",
|
||||
"--rm",
|
||||
"--no-deps",
|
||||
"s3-bootstrap",
|
||||
mode,
|
||||
],
|
||||
cwd=ROOT,
|
||||
capture_output=True,
|
||||
text=True,
|
||||
check=False,
|
||||
)
|
||||
return proc.returncode, proc.stdout + proc.stderr
|
||||
|
||||
|
||||
def cmd_s3_check() -> int:
|
||||
"""Спек `object-storage`, «Проверка приватности вне API»: права ключа
|
||||
API и приватность bucket без приложения (design change `s3-storage`,
|
||||
решение 8).
|
||||
|
||||
1. Bootstrap в режиме `check`: ключ API пишет проверочный объект и
|
||||
проверяет свои права, чужой bucket (временный) и административные
|
||||
запросы; аноним изнутри сервера.
|
||||
2. Анонимные запросы к объекту с хоста (`127.0.0.1:S3_OUT_PORT`) и из
|
||||
сети стенда (одноразовый контейнер того же образа), порты
|
||||
контейнера S3 из сети.
|
||||
3. Bootstrap в режиме `cleanup`: объект и временные bucket-ы удалены,
|
||||
остатков нет (`weed shell` в контейнере `s3`).
|
||||
|
||||
Печатает таблицу «где → проверка → ожидаемо → получено» без
|
||||
секретов; код 1 при любом расхождении."""
|
||||
try:
|
||||
stand = s3_stand()
|
||||
except (RuntimeError, KeyError, StopIteration, ValueError) as e:
|
||||
print(f"FAIL: compose config of the S3 stand: {e}")
|
||||
return 1
|
||||
if not compose("ps", "-q", "--status", "running", "s3").strip():
|
||||
print("FAIL: service s3 is not running, make run_docker first")
|
||||
return 1
|
||||
rows: list[tuple[str, str, str, str]] = []
|
||||
problems: list[str] = []
|
||||
try:
|
||||
rc, out = s3_bootstrap("check")
|
||||
for line in out.splitlines():
|
||||
if line.startswith(S3_CHECK_ROW):
|
||||
name, expected, got, _ = line[len(S3_CHECK_ROW) :].split("\t")
|
||||
rows.append(("server", name, expected, got))
|
||||
elif "FAILED" in line and "check(s) failed" not in line:
|
||||
problems.append(line.strip())
|
||||
if rc != 0 and not problems and not any(r[2] != r[3] for r in rows):
|
||||
problems.append(f"s3-bootstrap check exited with {rc}")
|
||||
host = f"http://127.0.0.1:{stand['out_port']}"
|
||||
obj = f"{host}/{stand['bucket']}/{S3_CHECK_KEY}"
|
||||
for name, url, method, data in (
|
||||
("anonymous get object", obj, "GET", None),
|
||||
("anonymous head object", obj, "HEAD", None),
|
||||
(
|
||||
"anonymous get missing object",
|
||||
f"{host}/{stand['bucket']}/.s3-check/missing",
|
||||
"GET",
|
||||
None,
|
||||
),
|
||||
(
|
||||
"anonymous list objects",
|
||||
f"{host}/{stand['bucket']}?list-type=2",
|
||||
"GET",
|
||||
None,
|
||||
),
|
||||
("anonymous list buckets", f"{host}/", "GET", None),
|
||||
(
|
||||
"anonymous put object",
|
||||
f"{host}/{stand['bucket']}/.s3-check/anonymous",
|
||||
"PUT",
|
||||
b"x",
|
||||
),
|
||||
):
|
||||
rows.append(
|
||||
("host", name, "403", anonymous_code(url, method, data)),
|
||||
)
|
||||
network = subprocess.run(
|
||||
[
|
||||
"docker",
|
||||
"run",
|
||||
"--rm",
|
||||
"--network",
|
||||
f"{stand['project']}_default",
|
||||
"-e",
|
||||
f"S3_HOST={stand['host']}",
|
||||
"-e",
|
||||
f"S3_PORT={stand['port']}",
|
||||
"-e",
|
||||
f"S3_GRPC_PORT={int(stand['port']) + 10000}",
|
||||
"-e",
|
||||
f"S3_BUCKET={stand['bucket']}",
|
||||
"-e",
|
||||
f"S3_KEY={S3_CHECK_KEY}",
|
||||
"-e",
|
||||
"S3_CLOSED=" + " ".join(str(p) for p in S3_CLOSED_PORTS),
|
||||
"--entrypoint",
|
||||
"sh",
|
||||
stand["image"],
|
||||
"-c",
|
||||
S3_NETWORK_SCRIPT,
|
||||
],
|
||||
capture_output=True,
|
||||
text=True,
|
||||
check=False,
|
||||
)
|
||||
for line in network.stdout.splitlines():
|
||||
if line.startswith("row\t"):
|
||||
_, name, expected, got = line.split("\t")
|
||||
rows.append(("network", name, expected, got))
|
||||
if network.returncode != 0:
|
||||
problems.append(f"network probe exited with {network.returncode}")
|
||||
finally:
|
||||
rc, out = s3_bootstrap("cleanup")
|
||||
if rc != 0:
|
||||
problems.append("cleanup: " + out.strip().splitlines()[-1])
|
||||
buckets = weed_shell("s3.bucket.list")
|
||||
left_buckets = sum(
|
||||
1
|
||||
for line in buckets.splitlines()
|
||||
if line.split()
|
||||
and line.split()[0].startswith(f"{stand['bucket']}-check-")
|
||||
)
|
||||
check_dir = S3_CHECK_KEY.split("/")[0]
|
||||
objects = weed_shell(f"fs.ls /buckets/{stand['bucket']}/{check_dir}")
|
||||
# пустой каталог или его нет («no entry is found») — остатков нет
|
||||
left_objects = sum(
|
||||
1
|
||||
for line in objects.splitlines()
|
||||
if line.strip() and "no entry" not in line
|
||||
)
|
||||
rows.append(("server", "temporary buckets left", "0", str(left_buckets)))
|
||||
rows.append(("server", "probe objects left", "0", str(left_objects)))
|
||||
|
||||
width = max(len(name) for _, name, _, _ in rows)
|
||||
print(
|
||||
f"S3 {stand['host']}:{stand['port']} (host 127.0.0.1:"
|
||||
f"{stand['out_port']}), bucket {stand['bucket']}, image "
|
||||
f"{stand['image'].split('@')[0]}",
|
||||
)
|
||||
print(f"{'where':<8} {'check':<{width}} expected got verdict")
|
||||
failed = 0
|
||||
for where, name, expected, got in rows:
|
||||
ok = expected == got
|
||||
failed += not ok
|
||||
print(
|
||||
f"{where:<8} {name:<{width}} {expected:<8} {got:<6} "
|
||||
f"{'ok' if ok else 'FAIL'}",
|
||||
)
|
||||
for problem in problems:
|
||||
print(f"FAIL: {problem}")
|
||||
if failed or problems:
|
||||
names = [f"{w}: {n}" for w, n, e, g in rows if e != g]
|
||||
print(
|
||||
f"FAIL: {failed} check(s) failed"
|
||||
+ (f": {'; '.join(names)}" if names else ""),
|
||||
)
|
||||
return 1
|
||||
print(f"PASS: {len(rows)} checks, bucket {stand['bucket']} is private")
|
||||
return 0
|
||||
|
||||
|
||||
# stop-at-start: записи журнала, по которым видны этапы старта и остановки
|
||||
STARTED_SERVER = "Started server process"
|
||||
SERVER_RUNNING = "Uvicorn running on"
|
||||
@@ -1923,6 +2195,7 @@ def main() -> int:
|
||||
help="код 1 без ключей тестовой базы (сценарий «Временная база»)",
|
||||
)
|
||||
sub.add_parser("auth-storage")
|
||||
sub.add_parser("s3-check")
|
||||
stop = sub.add_parser("stop-at-start")
|
||||
stop.add_argument("--image", default="mtusi-messenger:lab4")
|
||||
stop.add_argument(
|
||||
@@ -1993,6 +2266,8 @@ def main() -> int:
|
||||
)
|
||||
if args.cmd == "auth-storage":
|
||||
return cmd_auth_storage(port)
|
||||
if args.cmd == "s3-check":
|
||||
return cmd_s3_check()
|
||||
if args.cmd == "stop-at-start":
|
||||
return cmd_stop_at_start(
|
||||
args.image,
|
||||
|
||||
+37
-4
@@ -1,6 +1,8 @@
|
||||
# Шаблон .env: `make env_setup` создаёт из него .env, не перезаписывая
|
||||
# существующий файл, и подставляет случайные POSTGRES_PASSWORD и
|
||||
# VALKEY_PASSWORD. В существующий .env новые строки переносятся руками.
|
||||
# существующий файл, и подставляет случайные значения в пустые
|
||||
# POSTGRES_PASSWORD, VALKEY_PASSWORD и пять секретов S3 (S3_ROOT_*,
|
||||
# S3_JWT_SIGNING_KEY, S3_API_*). В существующий .env новые строки
|
||||
# переносятся руками, секреты для них — openssl rand -hex 32.
|
||||
# .env не коммитить. .env читают compose, Makefile и приложение
|
||||
# (pydantic-settings); в контейнеры он не попадает.
|
||||
# Параметры приложения — в формате настроек SECTION__FIELD, без секции —
|
||||
@@ -11,8 +13,8 @@
|
||||
# с lab3 — API_REPLICAS, IDEMPOTENCY_TTL_SECONDS, с lab4 — S3_ENDPOINT,
|
||||
# S3_REGION, S3_BUCKET, S3_ACCESS_KEY_ID_FILE, S3_SECRET_ACCESS_KEY_FILE,
|
||||
# MAX_UPLOAD_BYTES, MAX_IMAGE_PIXELS) — в REPORT.md, «Архитектура и
|
||||
# решения». Строк S3 и вложений здесь пока нет: они появятся вместе с
|
||||
# хранилищем лабы 4.
|
||||
# решения». Имена skeleton S3_* буквально не заводятся: S3 настраивают
|
||||
# строки блока S3 ниже.
|
||||
|
||||
# порт сервиса ([app] port): на нём слушает приложение, его же
|
||||
# публикует compose, на нём же healthcheck
|
||||
@@ -62,6 +64,37 @@ CACHE__HOST=127.0.0.1
|
||||
CACHE__PORT=${VALKEY_OUT_PORT}
|
||||
CACHE__PASSWORD=${VALKEY_PASSWORD}
|
||||
|
||||
# S3 (SeaweedFS) — байты вложений. Пять пустых секретов make env_setup
|
||||
# заменяет случайными hex; без них compose не стартует. Кто какой секрет
|
||||
# получает — docker-compose.yml, якоря x-s3-*
|
||||
# имя bucket: читают приложение ([s3] bucket) и bootstrap S3, который его
|
||||
# создаёт; 3–63 символа: строчные буквы, цифры, точка и дефис
|
||||
S3__BUCKET=messenger
|
||||
# административные ключ и секрет S3: только сервер s3 (без учётной
|
||||
# записи он открыт анониму), ни API, ни bootstrap их не получают
|
||||
S3_ROOT_ACCESS_KEY=
|
||||
S3_ROOT_SECRET_KEY=
|
||||
# ключ подписи служебных вызовов SeaweedFS (gRPC шлюза, IAM filer):
|
||||
# сервер s3 и bootstrap
|
||||
S3_JWT_SIGNING_KEY=
|
||||
# ключи пользователя API (только объекты своего bucket): bootstrap
|
||||
# заводит пользователя с ними, реплики API ходят с ними в S3. Новый
|
||||
# секрет вступает в силу при следующем bootstrap (make run_docker)
|
||||
S3_API_ACCESS_KEY=
|
||||
S3_API_SECRET_KEY=
|
||||
# адрес и порт API S3 внутри сети compose: по ним ходит API в docker,
|
||||
# порт слушает сам сервер и проверяет bootstrap
|
||||
S3_HOST=s3
|
||||
S3_PORT=8333
|
||||
# порт на 127.0.0.1 хоста, куда публикуется API S3: к нему подключается
|
||||
# приложение в console (консоль и UI SeaweedFS не публикуются)
|
||||
S3_OUT_PORT=8334
|
||||
# мосты для console: в docker их задаёт environment compose
|
||||
S3__HOST=127.0.0.1
|
||||
S3__PORT=${S3_OUT_PORT}
|
||||
S3__ACCESS_KEY_ID=${S3_API_ACCESS_KEY}
|
||||
S3__SECRET_ACCESS_KEY=${S3_API_SECRET_KEY}
|
||||
|
||||
# make test_isolated: порт на 127.0.0.1, куда публикуется тестовый
|
||||
# контейнер API
|
||||
TEST_APP_PORT=18088
|
||||
|
||||
@@ -9,7 +9,9 @@ S3-совместимое хранилище и вложения-изображ
|
||||
`contracts/README.md`, раздел «Вложения (с lab4)»). Код перенесён из
|
||||
лабы 3 (репозиторий `mtusi2026lab3-safronov`, ветка
|
||||
`solution/bvt2301-safronov`, commit `ce89eba`) по разделу «Переход в
|
||||
следующую лабу»; S3 и вложений в нём ещё нет. План работ, решения и
|
||||
следующую лабу». S3 в стенде — change `s3-storage`: SeaweedFS с
|
||||
приватным bucket, bootstrap и клиент `src/infra/s3/`; вложений (ручек,
|
||||
`attachment_ids`) ещё нет. План работ, решения и
|
||||
трек «5» — `PLAN.md`. Из лабы 2: PostgreSQL
|
||||
как источник истины, вход по Basic → Bearer-сессия, Valkey — кэш
|
||||
карточек чатов. Из лабы 3: HAProxy перед ≥2 репликами API
|
||||
@@ -25,7 +27,8 @@ S3-совместимое хранилище и вложения-изображ
|
||||
открытых записей. Отчёт, evidence и рабочий план лабы 3 остались в её
|
||||
репозитории (`REPORT.md`, `evidence/`, `git show 063eedb:PLAN.md`).
|
||||
Стек: Python 3.12, uv, FastAPI, pydantic v2, pydantic-settings,
|
||||
structlog (JSON в stdout), redis-py (клиент Valkey).
|
||||
structlog (JSON в stdout), redis-py (клиент Valkey), aiobotocore
|
||||
(клиент S3).
|
||||
|
||||
Репозиторий — fork skeleton преподавателя. Задание, контракт и публичные
|
||||
проверки уже лежат в нём. Реализацию, Dockerfile, compose, собственные
|
||||
@@ -87,7 +90,8 @@ structlog (JSON в stdout), redis-py (клиент Valkey).
|
||||
публичной точкой входа; порты реплик наружу не публикуются, sticky
|
||||
session нет. В памяти процесса нет ничего, от чего зависит
|
||||
корректность: сессии, данные и ключи идемпотентности — в Postgres,
|
||||
Valkey — общий кэш неизменяемых карточек. В каждом ответе API —
|
||||
Valkey — общий кэш неизменяемых карточек, S3 — байты вложений. В
|
||||
каждом ответе API —
|
||||
`X-Instance-Id`. `POST` сообщения требует `Idempotency-Key`; ключ и
|
||||
сообщение пишутся в одной транзакции (`api-contract.md`,
|
||||
`service-layer.md`). Миграции — однократно, отдельным сервисом, не
|
||||
@@ -96,6 +100,16 @@ structlog (JSON в stdout), redis-py (клиент Valkey).
|
||||
rolling_update`. Стенд и отказы — `balancer.md`. В каждом процессе
|
||||
uvicorn по-прежнему один worker: масштабирование — числом реплик.
|
||||
Всё это сохраняется в лабе 4.
|
||||
- Лаба 4, S3 (change `s3-storage`): SeaweedFS в стенде, образ
|
||||
закреплён тегом и digest, volume `s3_data`. Bucket приватен с первой
|
||||
секунды: административная пара — только у сервера, служебные
|
||||
серверы — на loopback контейнера, gRPC шлюза закрыт ключом подписи.
|
||||
Bucket, политику и пользователя API создаёт одноразовый
|
||||
`s3-bootstrap` (идемпотентно, сам проверяет приватность), реплики ждут
|
||||
его, как миграций. У API — только ключи своего пользователя (чтение,
|
||||
запись, удаление объектов своего bucket). `/health/ready` S3 не
|
||||
проверяет. Приватность вне API — `make s3_check` (`docker.md`,
|
||||
`infra.md`, design change `s3-storage`).
|
||||
- `.env`, `config.toml`, секреты, токены и реальные данные не попадают ни
|
||||
в git, ни в образ. В `evidence/` и `REPORT.md` — только обезличенные
|
||||
выводы команд.
|
||||
@@ -166,12 +180,12 @@ structlog (JSON в stdout), redis-py (клиент Valkey).
|
||||
| `service-layer.md` | `src/core/services/**` |
|
||||
| `repo-layer.md` | `src/core/repos/**` |
|
||||
| `dto.md` | `src/schemas/**` |
|
||||
| `infra.md` | `src/infra/**`: логгер, PostgreSQL (engine, пул, таймауты), readiness, кэш Valkey (повтор только на обрыв, срок на команду, обход при отказе) и другие клиенты |
|
||||
| `infra.md` | `src/infra/**`: логгер, PostgreSQL (engine, пул, таймауты), readiness, кэш Valkey (повтор только на обрыв, срок на команду, обход при отказе), клиент S3 (без повторов, срок на вызов, перевод ошибок) и другие клиенты |
|
||||
| `auth.md` | `src/**/session.py`, сервис пользователей, `dependencies.py`, `errors.py`, идентификация в `student-tests/`: пароль и KDF, разбор Basic, токен, срок и отзыв сессии |
|
||||
| `logging.md` | сервисы, API, инфраструктура, `src/main.py`: где и как логировать, чего в логах быть не должно |
|
||||
| `settings.md` | `src/config/**`, `.env.example`, `config_example.toml`: источники настроек, что куда класть |
|
||||
| `run-modes.md` | точки входа, `Makefile`, compose, шаблоны конфигов: console и docker, uvicorn, SIGTERM |
|
||||
| `docker.md` | `Dockerfile`, `docker-compose.yml`, `.dockerignore`, `scripts/restart.sh`, `infra/**`: мультистейдж, non-root, пины, healthcheck, стенд compose, volumes, restart hook |
|
||||
| `docker.md` | `Dockerfile`, `docker-compose.yml`, `.dockerignore`, `scripts/restart.sh`, `infra/**`: мультистейдж, non-root, пины, healthcheck, стенд compose, S3 и bootstrap, секреты по сервисам, volumes, restart hook |
|
||||
| `balancer.md` | `docker-compose.yml`, `infra/haproxy/**`, `scripts/stop-one.sh`, `scripts/rolling-update.sh`: реплики за HAProxy, проверки и цепочка таймаутов, повторы LB, failover hook, поочерёдная замена, лимиты и пулы (с лабы 3) |
|
||||
| `student-tests.md` | `student-tests/**`: обязательные проверки уровня 4, black-box по HTTP, особый стенд |
|
||||
| `bench.md` | `bench/**`: нагрузочный стенд на Postgres (проект compose `mtusi-bench`), что не меняется между метками замеров, граница чёрного ящика и планы запроса, сравнение меток, коммиты измеренных состояний |
|
||||
@@ -262,11 +276,11 @@ structlog (JSON в stdout), redis-py (клиент Valkey).
|
||||
| `make load` | нагрузка из `tests/load.py`; параметры — `tests/README.md` |
|
||||
| `make test-persistence ACTION_SCRIPT=scripts/restart.sh` | сохранность: создаёт данные и сессию, вызывает restart hook, проверяет те же данные прежним токеном (`tests/README.md`) |
|
||||
| `make test-failover ACTION_SCRIPT=scripts/stop-one.sh` | отказ одной API-реплики через LB: 15 с записи параллельно hook, восстановление записи ≤10 с, без дублей (`tests/README.md`). `STOP_MODE=kill` — без graceful, `STOP_ONE_LOG=<файл>` — какой `TARGET_INSTANCE_ID` и контейнер остановлен. Между прогонами — `make replicas` |
|
||||
| `make run_dev` | `make upgrade` (Postgres из compose и миграции) и `make start_cache`, затем `APP__RUN_MODE=console uv run python -m src`: 127.0.0.1:8080, reload |
|
||||
| `make run_dev` | `make upgrade` (Postgres из compose и миграции), `make start_cache` и `make start_s3`, затем `APP__RUN_MODE=console uv run python -m src`: 127.0.0.1:8080, reload |
|
||||
| `make lint` | `ruff format` + `ruff check --fix`, дважды: так нужно из-за COM812; `tests/` и `scripts/` skeleton исключены в `[tool.ruff]` |
|
||||
| `make env_setup` | `.env.example` → `.env` со случайными `POSTGRES_PASSWORD` и `VALKEY_PASSWORD`, `config_example.toml` → `config.toml`; существующие файлы не перезаписывает (новые строки шаблона переносятся руками) |
|
||||
| `make run_docker` | `make env_setup` (только недостающие файлы) + `docker compose build` + `up -d`: postgres, valkey → migrate → api × `API_REPLICAS` (2) → haproxy на `127.0.0.1:APP_OUT_PORT`; `config.toml`, `infra/valkey/valkey.conf` и `infra/haproxy/haproxy.cfg` монтируются read-only. Реплики с изменённым образом пересоздаются все разом; без простоя — `make rolling_update` |
|
||||
| `make stop` / `make down` | остановить / удалить контейнеры compose; volume с данными остаётся |
|
||||
| `make env_setup` | `.env.example` → `.env` со случайными `POSTGRES_PASSWORD`, `VALKEY_PASSWORD` и пятью секретами S3 (печатает только имена), `config_example.toml` → `config.toml`; существующие файлы не перезаписывает (новые строки шаблона переносятся руками) |
|
||||
| `make run_docker` | `make env_setup` (только недостающие файлы) + `docker compose build` + `up -d`: postgres, valkey, s3 → migrate, s3-bootstrap → api × `API_REPLICAS` (2) → haproxy на `127.0.0.1:APP_OUT_PORT`; `config.toml`, `infra/valkey/valkey.conf`, `infra/haproxy/haproxy.cfg` и `infra/s3/bootstrap.sh` монтируются read-only. Реплики с изменённым образом пересоздаются все разом; без простоя — `make rolling_update` |
|
||||
| `make stop` / `make down` | остановить / удалить контейнеры compose; volumes с данными остаются; S3 останавливается плавно ~15 с |
|
||||
| `make logs` | журнал всех реплик API, каждая строка — JSON (`--no-log-prefix`), реплика — поле `instance_id` |
|
||||
| `make replicas [API_REPLICAS=N]` | вернуть остановленные реплики (те же ID) и выставить их число, ждать `healthy` (`balancer.md`) |
|
||||
| `make instances` | вход одним синтетическим пользователем, 12 × `GET /users/me` через LB: `X-Instance-Id` каждого ответа и итог по репликам |
|
||||
@@ -274,19 +288,21 @@ structlog (JSON в stdout), redis-py (клиент Valkey).
|
||||
| `make rolling_update [COMMIT=...] [MIGRATE=0]` | поочерёдная замена реплик без простоя (`scripts/rolling-update.sh`, `balancer.md`): сборка из рабочего дерева (или файлов `COMMIT` через `git archive`), миграции один раз, затем по одной — новая `healthy` и `UP` в LB, старая `drain` → запросов в полёте 0 → `maint` → stop → rm → слот `ready`. Нужен штатный стенд (`make replicas`) без слотов LB в ручном `drain` / `maint` (иначе код 2 и команда `set server … state ready`); сбой и Ctrl+C — `API_REPLICAS` готовых реплик, повтор доводит; `MIGRATE=0` — откат на прежний образ (после него `docker compose up` без сборки не запускать: `migrate` прежнего образа упадёт на новой ревизии) |
|
||||
| `make start_db` / `make stop_db` | Postgres стенда: `up -d --wait postgres` / `stop postgres` |
|
||||
| `make start_cache` / `make stop_cache` | Valkey стенда: `up -d --wait valkey` / `stop valkey`; volume нет, кэш после рестарта пуст |
|
||||
| `make start_s3` / `make stop_s3` | S3 стенда: `up -d --wait s3`, затем `up --no-deps --exit-code-from s3-bootstrap s3-bootstrap` (код bootstrap — код цели: `--wait` одноразовый сервис не ждёт) / `stop s3` |
|
||||
| `make s3_check` | приватность bucket вне API на запущенном стенде (`driver.py s3-check`): bootstrap в режиме `check` (права ключа API, чужой временный bucket, административные запросы), анонимные запросы с хоста и из сети стенда, порты контейнера S3 из сети, затем `cleanup`; таблица «где → проверка → ожидаемо → получено», код 1 при нарушении |
|
||||
| `make upgrade` | `start_db` + `uv run alembic upgrade head` с хоста (`127.0.0.1:POSTGRES_OUT_PORT`) |
|
||||
| `make revision` | `upgrade` + `alembic revision --autogenerate`, сообщение спрашивает `read -p` |
|
||||
| `make wipe_data` | `down -v` — удалить данные стенда (и кэш); только после ввода `yes` |
|
||||
| `make test_isolated [KEEP_TEST_DB=1]` | образ на временной базе `test_<db>` с Valkey стенда (ключи разделены именем базы): сборка, миграции, отдельный контейнер API на `TEST_APP_PORT`, `make test` + `make student_test EXPECT_REPLICAS=1` (тесты реплик пропускаются с причиной), уборка при любом исходе (`student-tests.md`) |
|
||||
| `make wipe_data` | `down -v` — удалить данные стенда (volumes Postgres и S3 называются в запросе) и кэш; только после ввода `yes` |
|
||||
| `make test_isolated [KEEP_TEST_DB=1]` | образ на временной базе `test_<db>` с Valkey и S3 стенда (ключи кэша и объектов разделены именем базы): сборка, миграции, отдельный контейнер API на `TEST_APP_PORT`, `make test` + `make student_test EXPECT_REPLICAS=1` (тесты реплик пропускаются с причиной), уборка при любом исходе — база и объекты под префиксом `test_<db>/` (`student-tests.md`) |
|
||||
| `make student_test [BASE_URL=...] [EXPECT_REPLICAS=...]` | собственные тесты `student-tests/` (pytest) против запущенного сервера, кроме проверок отказов (`-m 'not fault'`); `EXPECT_REPLICAS` (по умолчанию `API_REPLICAS`) — сколько реплик за `BASE_URL`, против одного процесса — 1; сервер недоступен — код 2 и одна строка с адресом |
|
||||
| `make failure_checks [FAULT_ARGS=...]` | проверки отказов (`pytest -m fault`, ~60 с) на отдельном стенде: проект `<рабочий>-failures` со своими Postgres и Valkey, обычный и «тесный» API (срок 2 с, пул 1), hook `student-tests/fault_hook.py`; после тестов — журнал PostgreSQL стенда: сводка (`crash markers`, «too many clients», «administrator command») и ненулевой код при признаках аварийного перезапуска; стенд и его volume удаляются при любом исходе, рабочий не трогается (`student-tests.md`) |
|
||||
| `make failure_checks [FAULT_ARGS=...]` | проверки отказов (`pytest -m fault`, ~70 с) на отдельном стенде: проект `<рабочий>-failures` со своими Postgres, Valkey и S3 (с bootstrap), обычный и «тесный» API (срок 2 с, пул 1), hook `student-tests/fault_hook.py`; после тестов — журнал PostgreSQL стенда: сводка (`crash markers`, «too many clients», «administrator command») и ненулевой код при признаках аварийного перезапуска; стенд и его volumes удаляются при любом исходе, рабочий не трогается (`student-tests.md`) |
|
||||
| `make bench [BENCH_LABEL=...]` | полная матрица 10k / 100k / 500k читаемого чата плюс 100 000 сообщений в 1 110 фоновых чатах разного размера (~35 мин, оценка по `bench_quick`) на своём проекте compose `mtusi-bench` (HAProxy и одна реплика API, Postgres, Valkey с лимитами, без портов хоста и без `.env` рабочего стенда; k6 ходит через LB); на каждый размер — свежий стенд, `VACUUM (ANALYZE)`, планы запроса истории (`auto_explain`) по уровням чатов с вариантами индекса и запроса, в конце — пробы стоимости записи по вариантам. Результаты в `evidence/bench/<метка>/`, занятая метка — отказ. Перед запуском — подготовка хоста (`bench.md`) |
|
||||
| `make bench_quick` | самопроверка стенда на 1k / 5k / 10k и 3 500 фоновых сообщений (~3 мин), метка `quick-<время>`, в git не идёт |
|
||||
| `make bench_restore [RESTORE_LABEL=...]` | трек 2, восстановление (~20 мин, метка `restore` по умолчанию): тот же стенд и данные, без матрицы прогонов; на каждый размер — `pg_dump` во время записи через HTTP, активность после backup, `pg_restore -j` в новый контейнер Postgres на новом volume, сверка обеих баз построчно, переключение API, проверки через HTTP до и после `FLUSHALL`; время dump / restore / RTO и потерянные сообщения — в `summary.md` |
|
||||
| `make bench_restore_quick` | то же на 1k / 5k / 10k (~1,5 мин), метка `quick-restore-<время>`, в git не идёт; сценарий защиты трека 2 |
|
||||
| `make bench_failover [FAILOVER_LABEL=...]` | уровень 4, отказ реплик под нагрузкой (~6 мин, метка `baseline` по умолчанию): стенд `mtusi-bench` с HAProxy и двумя репликами с лимитами рабочего стенда, k6 — 100 записей с ключом и 100 чтений в секунду; каждая реплика в режимах `stop`, `kill`, `pause` с возвратом. Посекундная шкала, время исключения из LB и восстановления, сверка записей после повтора с тем же ключом, CPU и память каждого компонента по окнам фазы (сэмплер `scan`, `resources.csv`, `samples.csv`; CPU на запрос — только до действия) — `evidence/failover/<метка>/`. Перед запуском — проверка хоста (`bench.md`): питание, давление памяти, `Swapouts` без роста; сумма лимитов на пике больше CPU ВМ — код 2 |
|
||||
| `make bench_failover_quick` | то же короче, режимы `stop` и `kill` (~2 мин), с ресурсами, метка `quick-failover-<время>`, в git не идёт |
|
||||
| `make bench_rollout [ROLLOUT_LABEL=...]` | уровень 4, поочерёдная замена под нагрузкой (~3 мин, метка `baseline` по умолчанию): стенд `mtusi-bench` как у `bench_failover`, реплики на образе прежнего commit (`Profile.rollout_from`, `git archive`), та же нагрузка; посреди неё `scripts/rolling-update.sh` меняет их на образ текущего checkout. Посекундная шкала с ответами старых и новых реплик, шаги по репликам, контейнеры, образы и ревизия до и после, сверка записей, CPU и память каждой старой и новой реплики, миграции и остальных компонентов по окнам до / подготовка / замена / после (CPU на запрос — до и после) — `evidence/rollout/<метка>/`. Перед запуском — проверка хоста (`bench.md`) |
|
||||
| `make bench_rollout [ROLLOUT_LABEL=...]` | уровень 4, поочерёдная замена под нагрузкой (~3 мин, метка `baseline` по умолчанию): стенд `mtusi-bench` как у `bench_failover`, реплики на образе прежнего commit (`Profile.rollout_from`, `git archive`; сейчас commit лабы 3, которого здесь нет — `KNOWN_ISSUES.md`, обход `--from`), та же нагрузка; посреди неё `scripts/rolling-update.sh` меняет их на образ текущего checkout. Посекундная шкала с ответами старых и новых реплик, шаги по репликам, контейнеры, образы и ревизия до и после, сверка записей, CPU и память каждой старой и новой реплики, миграции и остальных компонентов по окнам до / подготовка / замена / после (CPU на запрос — до и после) — `evidence/rollout/<метка>/`. Перед запуском — проверка хоста (`bench.md`) |
|
||||
| `make bench_rollout_quick` | то же с короткими окнами (~2 мин), с ресурсами, метка `quick-rollout-<время>`, в git не идёт |
|
||||
| `make bench_scaling SERIES=a\|b\|pool\|ab\|db\|db4 [SCALING_LABEL=...] [RESUME=1]` | уровень 5, трек 1: серия на стенде `mtusi-bench` (метка `scaling-<серия>` по умолчанию). `a` — бюджет 4 CPU: 1 × 4, 2 × 2, 4 × 1 (~50 мин); `b` — 1…6 реплик по 1 CPU (~100 мин); `pool` — 4 реплики при `max_connections` 100 и 50 (~35 мин); `ab` — 1 × 1 и 6 × 1 для «до/после» и A/A (~35 мин); `db` — 1, 2, 4 реплики при PostgreSQL 0,5 CPU и контроль 4 × 1 при 2 CPU (~50 мин); `db4` — только 4 × 1 при 0,5 и 2 CPU (~25 мин, «до/после» `scaling-improvement`); `db_quick` — самопроверка серии `db` (~4 мин, метка `quick-*`). Ячейка — конфигурация × повтор (3), свежий стенд; открытая модель 70/20/10, фиксированные 250 и 500/с и поиск R* по SLO; сэмплер контейнеров, ВМ, LB и PostgreSQL. `RESUME=1` — продолжить прерванную метку на том же commit. Перед запуском — проверка хоста, рабочий стенд — `make stop`; метку коммитить до следующей серии (`bench.md`) |
|
||||
| `make bench_scaling_quick` | самопроверка серий: 1 × 1 и 2 × 1 при `max_connections` 50, короткие окна (~4 мин), метка `quick-scaling-<время>`, в git не идёт |
|
||||
@@ -309,7 +325,7 @@ structlog (JSON в stdout), redis-py (клиент Valkey).
|
||||
src/
|
||||
__main__.py # python -m src: early_stop.install() до импорта приложения → main.main()
|
||||
main.py # FastAPI app: lifespan, middlewares, обработчики ошибок, uvicorn.run
|
||||
config/settings.py # Settings (pydantic-settings), экземпляр settings; [app] instance_id (пусто → hostname) и keep_alive_seconds, [database] pool_size 10 и max_overflow 0 (постоянный пул без переполнения), idle_in_transaction_timeout_ms, [idempotency] ttl_seconds
|
||||
config/settings.py # Settings (pydantic-settings), экземпляр settings; [app] instance_id (пусто → hostname) и keep_alive_seconds, [database] pool_size 10 и max_overflow 0 (постоянный пул без переполнения), idle_in_transaction_timeout_ms, [s3] адрес, bucket (валидатор имени), ключи API, регион, сроки, пул и endpoint_url, [idempotency] ttl_seconds
|
||||
api/
|
||||
routers/health.py # /health/live, /health/ready: вне версии, без идентификации
|
||||
routers/v1/<domain>.py # ручки под /api/v1, сборка в routers/v1/__init__.py; Idempotency-Key — параметр POST сообщения (message.py)
|
||||
@@ -322,7 +338,7 @@ src/
|
||||
repos/idempotency.py # ключ идемпотентности: захват ON CONFLICT DO UPDATE WHERE просрочен, чтение сохранённого результата
|
||||
repos/chat_cache.py # карточка чата в Valkey: ключ с именем базы, JSON ↔ ChatFullDTO
|
||||
services/<domain>.py # <Domain>Service: логика, проверки доступа, id и время, логи; чаты и сообщения — с кэшем; отправка — ключ и сообщение одной транзакцией
|
||||
exceptions/<domain>.py # доменные исключения, реэкспорт в __init__.py
|
||||
exceptions/<domain>.py # доменные исключения, реэкспорт в __init__.py; storage.py — ObjectStorageUnavailable (503) и StoredObjectMissing
|
||||
infra/
|
||||
early_stop.py # ранний обработчик SIGTERM/SIGINT (только stdlib): до старта сервера — запись «Stopped API before startup» и выход 0; disarm() — первая строка lifespan
|
||||
logger.py # structlog, get_logger(), contextvar-ы request_id / user_id, instance_id в каждой записи
|
||||
@@ -333,11 +349,13 @@ src/
|
||||
db/models/ # модели SQLAlchemy (Base с created_at и to_dict); idempotency.py — ключи, FK на сообщение отложен до commit
|
||||
cache/client.py # create_cache (redis-py: повтор только на обрыв, блокирующий пул), Cache: срок на команду, отказ — промах и пропуск
|
||||
cache/instance.py # глобал cache процесса API
|
||||
s3/client.py # create_object_storage (aiobotocore: path-адресация, без повторов, пул), ObjectStorage: put / head / open (чтение блоками) / delete, срок на вызов и блок, ошибки → ObjectStorageUnavailable / StoredObjectMissing; StoredObjectInfo, StoredObject
|
||||
s3/instance.py # глобал object_storage процесса API, namespace — имя базы; start() и aclose() в lifespan
|
||||
schemas/
|
||||
dataclasses/<domain>.py # DTO между repo → service → api
|
||||
enums/<domain>.py # StrEnum доменов, RunModeEnum
|
||||
utils/
|
||||
constants.py # лимиты контракта, размер страницы, префиксы путей
|
||||
constants.py # лимиты контракта, размер страницы, префиксы путей, имя bucket S3, разделитель ключа объекта, keep-alive клиента S3
|
||||
utc.py # utcnow() (aware UTC), формат RFC 3339 с Z
|
||||
cursor.py # непрозрачный keyset-курсор: кодирование и разбор; поля проверяются по отдельности, незнакомые игнорируются, смена формата — новая CURSOR_VERSION
|
||||
student-tests/ # black-box тесты по HTTP (уровень 4): make student_test
|
||||
@@ -350,10 +368,10 @@ student-tests/ # black-box тесты по HTTP (уровень 4)
|
||||
test_rubric.py, test_race.py # обязательные сценарии и гонки уровня 4
|
||||
test_<capability>.py # сценарии основных спеков, маркер @pytest.mark.spec
|
||||
test_failures.py # проверки отказов (маркер fault): только make failure_checks
|
||||
run_isolated.py # make test_isolated: образ на временной базе test_<db> (stdlib)
|
||||
run_failures.py # make failure_checks: стенд <рабочий>-failures, два API, pytest -m fault, журнал PostgreSQL стенда (сводка, признаки аварии — ненулевой код), уборка (stdlib)
|
||||
fault_hook.py # hook стенда отказов: stop/start/pause/unpause, кэш, триггеры сбоя участников и сообщений, заполнение слотов max_connections, счётчик сессий PostgreSQL db-sessions (stdlib)
|
||||
failures.compose.yml # override стенда отказов: без публикации портов (Postgres, Valkey, LB), healthcheck PostgreSQL — на служебную базу postgres (не добавляет сессий в базу приложения), init: true у PostgreSQL (сирот psql из fill-connections подбирает init, а не postmaster)
|
||||
run_isolated.py # make test_isolated: образ на временной базе test_<db>, уборка базы и префикса test_<db>/ в S3 (weed shell fs.rm, префикс только из проверенного имени) (stdlib)
|
||||
run_failures.py # make failure_checks: стенд <рабочий>-failures (Postgres, Valkey, S3 + bootstrap), два API, pytest -m fault, журнал PostgreSQL стенда (сводка, признаки аварии — ненулевой код), уборка (stdlib)
|
||||
fault_hook.py # hook стенда отказов: stop/start/pause/unpause postgres|valkey|s3, кэш, триггеры сбоя участников и сообщений, заполнение слотов max_connections, счётчик сессий PostgreSQL db-sessions (stdlib)
|
||||
failures.compose.yml # override стенда отказов: без публикации портов (Postgres, Valkey, S3, LB), stop_grace_period 2 с у S3, healthcheck PostgreSQL — на служебную базу postgres (не добавляет сессий в базу приложения), init: true у PostgreSQL (сирот psql из fill-connections подбирает init, а не postmaster)
|
||||
bench/ # нагрузочный стенд на HAProxy + N реплик API + Postgres + Valkey: make bench / bench_quick / bench_restore / bench_failover / bench_rollout / bench_scaling
|
||||
run.py # оркестратор: стенд compose, реплики и готовность по LB, фоновые чаты и расписание наполнения, матрица, обслуживание БД, планы и варианты, пробы записи, backup и восстановление во второе хранилище со сверкой, фазы профиля failover (события цели — поток docker events по контейнеру, а не буфер демона), профиль rollout (образ прежнего commit через git archive, scripts/rolling-update.sh против проекта стенда, поток событий Docker с exec_start), ресурсы профилей failover и rollout (Profile.sample_resources: сэмплер scan, карта контейнеров по меткам compose, окна, бюджет на пике, сторож), серии трека 1 (профили scaling_*, ячейки на свежем стенде, ступени k6 и поиск R*, сэмплер, продолжение RESUME, блокировка bench/.bench.lock), метрики (сумма по репликам), runs.csv / phases.csv / searches.csv / samples.csv / summary.md / meta.json
|
||||
scaling.py # серии трека 1 без docker: лестница и автомат поиска R*, разбор итога k6 и строк сэмплера, агрегаты окна, вердикт SLO и брака генератора, признаки узкого места (THRESHOLDS), предельный CPU на запрос, сводка серии; --selftest
|
||||
@@ -362,20 +380,21 @@ bench/ # нагрузочный стенд на HAProxy +
|
||||
resources.py # ресурсы профилей failover и rollout без docker: интервалы контейнеров (сброс при новой cgroup, заморозка, новые контейнеры с момента запуска), окна, CPU / троттлинг / память по компонентам и ВМ, CPU на запрос в установившихся окнах, resources.csv / samples.csv, разделы summary.md; --selftest
|
||||
failover.py # профиль failover без docker: строки k6 о запросах, статистика и журнал HAProxy, события Docker, посекундная шкала, величины фазы, summary.md
|
||||
rollout.py # профиль rollout без docker: строки скрипта замены, события контейнеров проекта, состояния слотов LB (UP, drain, maint, ready), шаги по репликам, шкала со старыми и новыми ответами, окна до / во время / после, summary.md
|
||||
bench.compose.yml # override стенда mtusi-bench: имена, BENCH_API_REPLICAS реплик api без container_name, haproxy с лимитами BENCH_LB_*, лимиты BENCH_* (deploy.resources), без портов и config.toml, auto_explain
|
||||
bench.env # подстановки compose стенда вместо .env рабочего стенда (без паролей)
|
||||
bench.compose.yml # override стенда mtusi-bench: имена, BENCH_API_REPLICAS реплик api без container_name, haproxy с лимитами BENCH_LB_*, лимиты BENCH_* (deploy.resources), без портов и config.toml, auto_explain; s3 описан (mtusi-bench-s3, без порта), но профили его не запускают
|
||||
bench.env # подстановки compose стенда вместо .env рабочего стенда (без паролей и секретов S3: их генерирует run.py)
|
||||
k6/ # сценарии k6 (через LB http://haproxy:8080): prepare (вход по Basic, фоновые чаты), prefill (по расписанию), cursors, plan_cursors (страницы плана фоновых чатов), explain, read, tail, write, after_backup и restore_check (этап восстановления), failover (постоянная интенсивность записи и чтения, строка на запрос) и retry (повтор неуспешных записей с тем же ключом), mixed (ступень серии трека 1: ramping-arrival-rate 70/20/10, тег окна, распределение по X-Instance-Id, досрочный выход); lib.js — Bearer, messageHeaders (новый или заданный Idempotency-Key) и хелперы
|
||||
compare.py # make bench_compare: дельта двух меток (ячейки матрицы или общие конфигурации серий), уровень шума, эффект или шум; отказ при разной методике, в том числе метке без LB и серии против матрицы
|
||||
ab.py # make bench_ab: прогоны «до» и «после» одного изменения подряд, с --series — серии трека 1
|
||||
migrations/, alembic.ini # ревизии alembic, async env.py; применяет одноразовый сервис compose
|
||||
infra/ # конфигурации сервисов стенда; README.md — skeleton
|
||||
valkey/valkey.conf # лимит памяти и LRU, persistence выключен
|
||||
s3/bootstrap.sh # bootstrap S3 (сервис s3-bootstrap, network_mode: service:s3): apply — bucket, анонимный доступ none, политика api-objects, пользователь api и ключ из .env, проверки приватности; check и cleanup — для make s3_check; секреты — stdin weed shell и файл curl на tmpfs
|
||||
haproxy/haproxy.cfg # LB рабочего стенда и bench/: реплики через DNS Docker (8 слотов), проверки /health/ready (inter, fastinter, формулы обнаружения), цепочка таймаутов, http-reuse never (простаивающее соединение закрывает LB), повтор только на conn-failure, ответы LB в формате контракта, мониторинг :8404, runtime API на 127.0.0.1:9999 внутри контейнера (drain / maint / ready при замене)
|
||||
scripts/restart.sh # restart hook для make test-persistence, по restart.example.sh: LB, все реплики api, postgres, valkey
|
||||
scripts/restart.sh # restart hook для make test-persistence, по restart.example.sh: LB, все реплики api, postgres, valkey, s3 (~25 с); start api повторяет migrate и s3-bootstrap (no-op)
|
||||
scripts/stop-one.sh # failover hook для make test-failover: TARGET_INSTANCE_ID → реплика api этого проекта, STOP_MODE stop или kill, STOP_ONE_LOG
|
||||
scripts/rolling-update.sh # make rolling_update: предусловия (в том числе слоты LB без ручного состояния), сборка (или COMMIT через git archive), миграции один раз в контейнере сервиса migrate, по одной: новая UP в LB → старая drain → maint → stop (код выхода в строке) → rm → слот ready; trap при сбое и Ctrl+C; тот же скрипт — профиль rollout стенда bench/
|
||||
Dockerfile # builder (uv sync --locked) → runtime: .venv + src + миграции, UID 10001, healthcheck
|
||||
docker-compose.yml # проект mtusi-lab4: postgres, valkey, migrate, api × API_REPLICAS без портов, haproxy — единственный порт API; адреса и порты из .env, volume postgres_data, лимиты у всех, окружение по сервисам
|
||||
docker-compose.yml # проект mtusi-lab4: postgres, valkey, s3 (SeaweedFS, служебное на loopback, API S3 на 127.0.0.1:S3_OUT_PORT), migrate, s3-bootstrap, api × API_REPLICAS без портов, haproxy — единственный порт API; адреса и порты из .env, volumes postgres_data и s3_data, лимиты у всех, окружение и секреты по сервисам (x-db-env, x-cache-env, x-s3-env)
|
||||
.dockerignore
|
||||
config_example.toml, .env.example
|
||||
evidence/storage/ # отказы БД, пул, statement_timeout, рестарт, порты Postgres, свежий clone; connection-cost.md — цена нового соединения и пинга
|
||||
@@ -470,7 +489,7 @@ KNOWN_ISSUES.md # найденные попутно дефекты,
|
||||
|
||||
- Переносить: `src/`, `student-tests/`, `migrations/`, `alembic.ini`,
|
||||
`Dockerfile`, `docker-compose.yml`, `infra/valkey/`,
|
||||
`infra/haproxy/` (без `infra/README.md` skeleton), свои
|
||||
`infra/haproxy/`, `infra/s3/` (без `infra/README.md` skeleton), свои
|
||||
`scripts/restart.sh`, `scripts/stop-one.sh` и
|
||||
`scripts/rolling-update.sh` (без примеров и проверок skeleton в
|
||||
`scripts/`), `pyproject.toml`, `uv.lock`, `.python-version`,
|
||||
|
||||
+17
-1
@@ -3,4 +3,20 @@
|
||||
Найдены попутно, не исправлены без отдельной просьбы (AGENTS.md).
|
||||
Исправленные удаляются отсюда, история — в git.
|
||||
|
||||
Открытых записей нет: записи лабы 3 исправлены change `fix-known-issues`.
|
||||
## Профиль `rollout` ссылается на commit лабы 3
|
||||
|
||||
- **Где:** `bench/run.py`, профили `rollout` и `rollout_quick`:
|
||||
`rollout_from="c50b721"`.
|
||||
- **Что:** commit `c50b721` — из репозитория лабы 3
|
||||
(`mtusi2026lab3-safronov`), в истории лабы 4 его нет. `make
|
||||
bench_rollout_quick` и `make bench_rollout` падают за 6 с: `git
|
||||
rev-parse c50b721^{commit}` — «Needed a single revision», exit 128.
|
||||
Найдено в apply change `s3-storage` (2026-10-20); от S3 не зависит:
|
||||
код перенесён так в `5d5d8f9`.
|
||||
- **Обход:** `uv run python bench/run.py --profile rollout_quick --label
|
||||
quick-rollout-<время> --from 5d5d8f9` — код 0 на рабочем дереве
|
||||
`s3-storage`.
|
||||
- **Предложение:** `rollout_from` — последний commit лабы 4 до
|
||||
измеряемого изменения (сейчас `5d5d8f9`, перенос кода лабы 3), а в
|
||||
`bench.md` — правило менять его при переходе в следующую лабу
|
||||
(раздел «Переход в следующую лабу» AGENTS.md).
|
||||
|
||||
@@ -34,21 +34,31 @@ test-failover:
|
||||
# Приложение на хосте (свои цели; цели skeleton выше не менять)
|
||||
# -------------------------
|
||||
|
||||
# Postgres из compose и миграции, Valkey из compose, затем сервис на
|
||||
# хосте: 127.0.0.1:APP__PORT, reload по src/
|
||||
# Postgres из compose и миграции, Valkey и S3 с bootstrap из compose,
|
||||
# затем сервис на хосте: 127.0.0.1:APP__PORT, reload по src/
|
||||
.PHONY: run_dev
|
||||
run_dev: upgrade start_cache
|
||||
run_dev: upgrade start_cache start_s3
|
||||
APP__RUN_MODE=console uv run python -m src
|
||||
|
||||
# шаблоны копируются только если файла ещё нет: локальные значения
|
||||
# не затираются. В новый .env подставляются случайные пароли Postgres и
|
||||
# Valkey: в шаблоне они пустые, общего пароля стенда в git нет
|
||||
# Valkey и секреты S3: в шаблоне они пустые, общего секрета стенда в git
|
||||
# нет. Печатаются только имена, значения — нет
|
||||
ENV_SECRETS = POSTGRES_PASSWORD VALKEY_PASSWORD S3_ROOT_ACCESS_KEY S3_ROOT_SECRET_KEY S3_JWT_SIGNING_KEY S3_API_ACCESS_KEY S3_API_SECRET_KEY
|
||||
.PHONY: env_setup
|
||||
env_setup:
|
||||
@test -f .env || sed \
|
||||
-e "s/^POSTGRES_PASSWORD=$$/POSTGRES_PASSWORD=$$(openssl rand -hex 16)/" \
|
||||
-e "s/^VALKEY_PASSWORD=$$/VALKEY_PASSWORD=$$(openssl rand -hex 16)/" \
|
||||
.env.example > .env
|
||||
@if [ ! -f .env ]; then \
|
||||
sed \
|
||||
-e "s/^POSTGRES_PASSWORD=$$/POSTGRES_PASSWORD=$$(openssl rand -hex 16)/" \
|
||||
-e "s/^VALKEY_PASSWORD=$$/VALKEY_PASSWORD=$$(openssl rand -hex 16)/" \
|
||||
-e "s/^S3_ROOT_ACCESS_KEY=$$/S3_ROOT_ACCESS_KEY=$$(openssl rand -hex 10)/" \
|
||||
-e "s/^S3_ROOT_SECRET_KEY=$$/S3_ROOT_SECRET_KEY=$$(openssl rand -hex 20)/" \
|
||||
-e "s/^S3_JWT_SIGNING_KEY=$$/S3_JWT_SIGNING_KEY=$$(openssl rand -hex 32)/" \
|
||||
-e "s/^S3_API_ACCESS_KEY=$$/S3_API_ACCESS_KEY=$$(openssl rand -hex 10)/" \
|
||||
-e "s/^S3_API_SECRET_KEY=$$/S3_API_SECRET_KEY=$$(openssl rand -hex 20)/" \
|
||||
.env.example > .env; \
|
||||
echo "new .env with random $(ENV_SECRETS)"; \
|
||||
fi
|
||||
@test -f config.toml || cp config_example.toml config.toml
|
||||
@echo "env ready: .env, config.toml"
|
||||
|
||||
@@ -68,7 +78,8 @@ API_REPLICAS ?= 2
|
||||
EXPECT_REPLICAS ?= $(API_REPLICAS)
|
||||
DC=docker compose
|
||||
|
||||
# стенд: postgres, valkey -> migrate -> api × API_REPLICAS -> haproxy
|
||||
# стенд: postgres, valkey, s3 -> migrate, s3-bootstrap -> api ×
|
||||
# API_REPLICAS -> haproxy
|
||||
# (единственный порт API на хосте — у haproxy). env_setup создаёт
|
||||
# недостающие .env и config.toml из шаблонов: без config.toml compose не
|
||||
# запустится (bind с create_host_path: false), без паролей — тоже.
|
||||
@@ -120,10 +131,12 @@ revision: upgrade
|
||||
@read -p "Сообщение миграции (англ., прошедшее время): " msg; \
|
||||
uv run alembic revision --autogenerate -m "$$msg"
|
||||
|
||||
# удалить контейнеры стенда и volume с данными: только после ввода yes
|
||||
# удалить контейнеры стенда и volumes с данными: только после ввода yes
|
||||
.PHONY: wipe_data
|
||||
wipe_data:
|
||||
@read -p "Удалить все данные стенда (volume Postgres)? Введите yes: " answer; \
|
||||
@project=$$($(DC) config | sed -n 's/^name: //p'); \
|
||||
volumes=$$($(DC) config --volumes | sed "s/^/$${project}_/" | paste -sd ' ' -); \
|
||||
read -p "Удалить все данные стенда (volumes Postgres и S3: $$volumes)? Введите yes: " answer; \
|
||||
if [ "$$answer" = "yes" ]; then \
|
||||
$(DC) down -v --remove-orphans; \
|
||||
else \
|
||||
@@ -146,6 +159,33 @@ stop_cache:
|
||||
$(DC) stop valkey
|
||||
|
||||
|
||||
# -------------------------
|
||||
# S3 (SeaweedFS, байты вложений)
|
||||
# -------------------------
|
||||
|
||||
# S3 стенда и его bootstrap: --wait ждёт healthcheck сервера, но
|
||||
# одноразовый сервис считает готовым уже запущенным, поэтому bootstrap —
|
||||
# отдельным up с его кодом выхода (как миграции в rolling-update.sh)
|
||||
.PHONY: start_s3
|
||||
start_s3: env_setup
|
||||
$(DC) up -d --wait s3
|
||||
$(DC) up --no-deps --exit-code-from s3-bootstrap s3-bootstrap
|
||||
|
||||
# плавная остановка ~15 с (stop_grace_period 20 с)
|
||||
.PHONY: stop_s3
|
||||
stop_s3:
|
||||
$(DC) stop s3
|
||||
|
||||
# проверка приватности bucket вне API на запущенном стенде: права ключа
|
||||
# API, чужой bucket и административные запросы (bootstrap в режиме check),
|
||||
# анонимные запросы с хоста и из сети стенда, порты контейнера S3 из сети;
|
||||
# таблица «проверка → ожидаемо → получено», проверочные объекты и bucket
|
||||
# удаляются. Код 1 — нарушение
|
||||
.PHONY: s3_check
|
||||
s3_check:
|
||||
$(PYTHON) .claude/skills/run-mtusi-messenger/driver.py s3-check
|
||||
|
||||
|
||||
# -------------------------
|
||||
# Реплики за балансировщиком (HAProxy)
|
||||
# -------------------------
|
||||
@@ -342,11 +382,12 @@ student_test:
|
||||
|
||||
# образ на временной базе test_<POSTGRES_DB>: сборка, миграции, отдельный
|
||||
# контейнер api на 127.0.0.1:TEST_APP_PORT, make test и make student_test,
|
||||
# затем уборка при любом исходе. KEEP_TEST_DB=1 оставляет базу для разбора.
|
||||
# Valkey общий с рабочим стендом: ключи кэша разделены именем базы.
|
||||
# затем уборка при любом исходе. KEEP_TEST_DB=1 оставляет базу и объекты
|
||||
# S3 для разбора. Valkey и S3 общие с рабочим стендом: ключи кэша и
|
||||
# объектов разделены именем базы, префикс test_<db>/ удаляется при уборке.
|
||||
# $(PYTHON), а не uv run: uv повторно шлёт SIGINT, и Ctrl+C обрывал уборку
|
||||
.PHONY: test_isolated
|
||||
test_isolated: env_setup start_db start_cache
|
||||
test_isolated: env_setup start_db start_cache start_s3
|
||||
$(PYTHON) student-tests/run_isolated.py $(if $(KEEP_TEST_DB),--keep-db,)
|
||||
|
||||
# проверки отказов (pytest -m fault) на отдельном стенде: свой проект
|
||||
|
||||
@@ -519,6 +519,28 @@ design) и «Вопросы» (ждут ответа; ответ дописыв
|
||||
красные. Поэтому рестарт hook-ом проверяется напрямую: `StartedAt`,
|
||||
«exists» bootstrap, объект с тем же SHA-256.
|
||||
|
||||
Приняты 2026-10-20 в `/opsx:apply`, подробности — design change
|
||||
`s3-storage`, «Уточнения apply».
|
||||
|
||||
12. **`make start_s3` — два шага**: `up -d --wait s3`, затем `up
|
||||
--no-deps --exit-code-from s3-bootstrap s3-bootstrap`. `--wait` не
|
||||
ждёт завершения одноразового сервиса (compose v5.5.1), вопреки
|
||||
пробе propose. Так же — `run_failures.py`.
|
||||
13. **Bootstrap — режимы `apply`, `check`, `cleanup`**: проверки с хоста и
|
||||
из сети идут между записью проверочного объекта и его удалением.
|
||||
Новый секрет API распознаётся по `SignatureDoesNotMatch`.
|
||||
14. **Клиент**: `open()` читает тело блоками, срок — на каждый блок;
|
||||
ключи в botocore передаются всегда, даже пустые.
|
||||
15. **Ожидаемо красные шире списка tasks**: контракт лабы 4 требует
|
||||
`attachment_ids` в `Message`, код лабы 3 его не отдаёт — до
|
||||
`attachments` красные 30 тестов (и 2 ошибки) `make student_test` и
|
||||
5 проверок `make failure_checks`. От S3 не зависит.
|
||||
16. **Дельта `health` синхронизирована в основной спек в apply**, как в
|
||||
`scaling-bench`: иначе маркер нового сценария — ссылка на
|
||||
неизвестный сценарий в сверке покрытия.
|
||||
17. **`rollout_from c50b721` — дефект переноса** (`KNOWN_ISSUES.md`):
|
||||
профиль `rollout` проверен с `--from 5d5d8f9`.
|
||||
|
||||
#### Вопросы
|
||||
|
||||
1. Как в apply добавить строки S3 в рабочий `.env`? Агент `.env` не
|
||||
|
||||
@@ -43,6 +43,15 @@ services:
|
||||
memory: ${BENCH_CACHE_MEMORY:?run make bench}
|
||||
memswap_limit: ${BENCH_CACHE_MEMORY:?run make bench}
|
||||
|
||||
# S3 (лаба 4) описан, но профили лаб 2–3 его не запускают: старт стенда
|
||||
# перечисляет сервисы, а реплики API поднимает с --no-deps (design change
|
||||
# s3-storage, решение 9). Если сервис всё же запустят — без порта хоста,
|
||||
# без перезапуска и под своим именем
|
||||
s3:
|
||||
container_name: mtusi-bench-s3
|
||||
restart: "no"
|
||||
ports: !reset []
|
||||
|
||||
migrate:
|
||||
image: mtusi-messenger:bench
|
||||
# без config.toml рабочего стенда: настройки — окружение и дефолты
|
||||
|
||||
@@ -8,4 +8,9 @@ POSTGRES_HOST=postgres
|
||||
POSTGRES_PORT=5432
|
||||
VALKEY_HOST=valkey
|
||||
VALKEY_PORT=6379
|
||||
# S3 описан в compose, но профили лаб 2–3 его не запускают; секреты S3
|
||||
# генерирует run.py
|
||||
S3_HOST=s3
|
||||
S3_PORT=8333
|
||||
S3__BUCKET=bench
|
||||
APP__PORT=8080
|
||||
|
||||
+17
-1
@@ -95,6 +95,9 @@ ENV_FILE = ROOT / "bench" / "bench.env"
|
||||
# что из окружения хоста нужно самому docker compose; остальное (в том
|
||||
# числе POSTGRES_* из shell) в стенд не попадает
|
||||
HOST_ENV = ("PATH", "HOME", "USER", "TMPDIR", "DOCKER_HOST", "DOCKER_CONFIG")
|
||||
# части имён переменных окружения API, которые в паспорт (stand.app_env) не
|
||||
# пишутся: пароли Postgres и Valkey, секрет и ключ доступа S3
|
||||
SECRET_ENV_MARKS = ("PASSWORD", "SECRET", "ACCESS_KEY")
|
||||
# статистика HAProxy изнутри контейнера LB (как make lb_stats): порт 8404
|
||||
# наружу не опубликован, curl в образе нет, bash есть
|
||||
LB_STATS = (
|
||||
@@ -1196,6 +1199,11 @@ def compose_env(profile: Profile) -> dict[str, str]:
|
||||
Пароли хранилищ — новые на каждый прогон: живут только в этом словаре
|
||||
и в контейнерах стенда, в результаты не пишутся. Лимиты и срок сессии
|
||||
— из профиля (`BENCH_*` в `bench/bench.compose.yml`).
|
||||
|
||||
Секреты S3 compose требует при разборе файла (`:?` в
|
||||
`docker-compose.yml`), хотя профили лаб 2–3 сервер S3 не запускают:
|
||||
реплики API получают ключи, но к S3 не обращаются (design change
|
||||
`s3-storage`, решение 9).
|
||||
"""
|
||||
env = {key: os.environ[key] for key in HOST_ENV if key in os.environ}
|
||||
return {
|
||||
@@ -1203,6 +1211,11 @@ def compose_env(profile: Profile) -> dict[str, str]:
|
||||
"LC_ALL": "C",
|
||||
"POSTGRES_PASSWORD": secrets.token_urlsafe(24),
|
||||
"VALKEY_PASSWORD": secrets.token_urlsafe(24),
|
||||
"S3_ROOT_ACCESS_KEY": secrets.token_hex(10),
|
||||
"S3_ROOT_SECRET_KEY": secrets.token_hex(20),
|
||||
"S3_JWT_SIGNING_KEY": secrets.token_hex(32),
|
||||
"S3_API_ACCESS_KEY": secrets.token_hex(10),
|
||||
"S3_API_SECRET_KEY": secrets.token_hex(20),
|
||||
"BENCH_APP_CPUS": profile.cpus,
|
||||
"BENCH_APP_MEMORY": profile.memory,
|
||||
"BENCH_DB_CPUS": profile.db_cpus,
|
||||
@@ -2170,12 +2183,15 @@ class Stand:
|
||||
self.replicas()[0],
|
||||
),
|
||||
)
|
||||
# без секретов: пароли хранилищ, секрет и ключ доступа S3
|
||||
app_env = dict(
|
||||
sorted(
|
||||
item.split("=", 1)
|
||||
for item in env
|
||||
if re.match(r"[A-Z0-9_]+__[A-Z0-9_]+=", item)
|
||||
and "PASSWORD" not in item.split("=", 1)[0]
|
||||
and not any(
|
||||
mark in item.split("=", 1)[0] for mark in SECRET_ENV_MARKS
|
||||
)
|
||||
),
|
||||
)
|
||||
|
||||
|
||||
@@ -59,6 +59,19 @@ chat_ttl_seconds = 3600
|
||||
# соединений в пуле клиента Valkey
|
||||
max_connections = 10
|
||||
|
||||
[s3]
|
||||
# Адрес, порт, bucket и ключи пользователя API приходят из .env (мосты к
|
||||
# S3_OUT_PORT и S3_API_*, S3__BUCKET) и из environment compose; здесь их
|
||||
# не указывать.
|
||||
# регион подписи SigV4; SeaweedFS берёт его из запроса
|
||||
region = "us-east-1"
|
||||
# секунды на установку соединения с S3
|
||||
connect_timeout_seconds = 1
|
||||
# секунды на весь вызов S3; меньше timeout server HAProxy (10 с)
|
||||
timeout_seconds = 5
|
||||
# соединений в пуле клиента S3 на процесс
|
||||
max_connections = 10
|
||||
|
||||
[idempotency]
|
||||
# секунды, в течение которых повтор POST сообщения с тем же
|
||||
# Idempotency-Key возвращает исходный результат (имя skeleton
|
||||
|
||||
+140
-2
@@ -1,5 +1,6 @@
|
||||
# Стенд лабы 4: HAProxy — единственная точка входа, за ним API ×
|
||||
# API_REPLICAS; PostgreSQL, Valkey (кэш) и одноразовые миграции.
|
||||
# API_REPLICAS; PostgreSQL, Valkey (кэш), S3 (SeaweedFS, байты вложений),
|
||||
# одноразовые миграции и bootstrap S3.
|
||||
# Правила — .claude/rules/docker.md и balancer.md. Значения — из .env
|
||||
# (шаблон .env.example); литералы только у адреса публикации 127.0.0.1 и
|
||||
# у режима docker. Имя проекта меняется в каждой лабе: от него зависят
|
||||
@@ -22,6 +23,21 @@ x-cache-env: &cache-env
|
||||
CACHE__PORT: ${VALKEY_PORT:-6379}
|
||||
CACHE__PASSWORD: ${VALKEY_PASSWORD:?VALKEY_PASSWORD is empty, copy Valkey lines from .env.example}
|
||||
|
||||
# S3 — только api: адрес в сети, bucket и ключи пользователя API (не
|
||||
# административные). Секреты S3 по сервисам (design change s3-storage,
|
||||
# решение 3): административная пара — только s3, ключ подписи — s3 и
|
||||
# s3-bootstrap, ключи API — s3-bootstrap и api
|
||||
x-s3-env: &s3-env
|
||||
S3__HOST: ${S3_HOST:-s3}
|
||||
S3__PORT: ${S3_PORT:-8333}
|
||||
S3__BUCKET: ${S3__BUCKET:-messenger}
|
||||
S3__ACCESS_KEY_ID: ${S3_API_ACCESS_KEY:?S3_API_ACCESS_KEY is empty, copy S3 lines from .env.example}
|
||||
S3__SECRET_ACCESS_KEY: ${S3_API_SECRET_KEY:?S3_API_SECRET_KEY is empty, copy S3 lines from .env.example}
|
||||
|
||||
# образ сервера S3 и bootstrap: тег с версией и digest индекса (amd64 и
|
||||
# arm64)
|
||||
x-s3-image: &s3-image chrislusf/seaweedfs:4.48@sha256:4e61d15fd35994cb1e43e1e553dff106794841fd9a99ade2fc8c8bfce4d7872d
|
||||
|
||||
# config.toml только на чтение, длинной записью: без файла запуск падает,
|
||||
# а не создаёт на хосте каталог config.toml/
|
||||
x-config-toml: &config-toml
|
||||
@@ -119,6 +135,123 @@ services:
|
||||
cpus: "0.5"
|
||||
memory: 128M
|
||||
|
||||
# S3 — байты вложений (design change s3-storage, решения 1–2): master,
|
||||
# volume, filer и шлюз S3 одним процессом weed server. Служебные серверы
|
||||
# слушают только 127.0.0.1 контейнера, в сеть выходят порт API S3
|
||||
# (S3_PORT) и gRPC шлюза (S3_PORT + 10000), закрытый ключом подписи.
|
||||
# Entrypoint образа сам переходит на пользователя seaweed и добавляет
|
||||
# -dir=/data -volume.max=0 -master.volumeSizeLimitMB=1024
|
||||
s3:
|
||||
image: *s3-image
|
||||
restart: unless-stopped
|
||||
command:
|
||||
- server
|
||||
# master, volume и filer — только loopback контейнера
|
||||
- -ip=127.0.0.1
|
||||
- -ip.bind=127.0.0.1
|
||||
# по умолчанию master шлёт статистику на telemetry.seaweedfs.com
|
||||
- -master.telemetry=false
|
||||
# узел один, выборам ждать некого: перезапуск до healthy ~7 с, а не ~24
|
||||
- -master.electionTimeout=1s
|
||||
# пауза перед остановкой тома нужна кластеру, а не одному узлу
|
||||
- -volume.preStopSeconds=0
|
||||
- -filer
|
||||
- -s3
|
||||
- -s3.ip.bind=0.0.0.0
|
||||
- -s3.port=${S3_PORT:-8333}
|
||||
# REST Catalog и Lance по умолчанию открыты на 8181 и 9101
|
||||
- -s3.port.iceberg=0
|
||||
- -s3.port.lance=0
|
||||
# встроенный IAM API на порту S3 не нужен: bootstrap — weed shell
|
||||
- -s3.iam=false
|
||||
# шлюз держит не больше 64 МБ загрузок одновременно, лишние ждут
|
||||
- -s3.concurrentUploadLimitMB=64
|
||||
environment:
|
||||
# административная пара: учётная запись есть с первого старта, и
|
||||
# анонимного окна нет. Только у сервера: ни API, ни bootstrap её не
|
||||
# получают
|
||||
AWS_ACCESS_KEY_ID: ${S3_ROOT_ACCESS_KEY:?S3_ROOT_ACCESS_KEY is empty, copy S3 lines from .env.example}
|
||||
AWS_SECRET_ACCESS_KEY: ${S3_ROOT_SECRET_KEY:?S3_ROOT_SECRET_KEY is empty, copy S3 lines from .env.example}
|
||||
# без ключа подписи gRPC шлюза принимает учётную запись
|
||||
# администратора от любого контейнера сети
|
||||
WEED_JWT_FILER_SIGNING_KEY: ${S3_JWT_SIGNING_KEY:?S3_JWT_SIGNING_KEY is empty, copy S3 lines from .env.example}
|
||||
# сборщик мусора Go чаще у предела: вместе с лимитом загрузок 20
|
||||
# одновременных PUT по 10 MiB укладываются в 512 МБ
|
||||
GOMEMLIMIT: 400MiB
|
||||
# порт API S3 для healthcheck
|
||||
S3_PORT: ${S3_PORT:-8333}
|
||||
ports:
|
||||
# только localhost и только API S3: к нему подключается приложение в
|
||||
# console; консоль, UI и служебные серверы не публикуются
|
||||
- "127.0.0.1:${S3_OUT_PORT:-8334}:${S3_PORT:-8333}"
|
||||
volumes:
|
||||
# volume образа (Config.Volumes): тома, filer и IAM
|
||||
- s3_data:/data
|
||||
networks:
|
||||
default:
|
||||
# любое значение S3_HOST указывает на этот сервис
|
||||
aliases:
|
||||
- ${S3_HOST:-s3}
|
||||
healthcheck:
|
||||
# master выбран, filer и шлюз S3 отвечают; всё на loopback. $$ —
|
||||
# переменная контейнера
|
||||
test: ["CMD-SHELL", "wget -q -O /dev/null http://127.0.0.1:9333/cluster/healthz && wget -q -O /dev/null http://127.0.0.1:8888/healthz && wget -q -O /dev/null \"http://127.0.0.1:$$S3_PORT/healthz\""]
|
||||
interval: 5s
|
||||
timeout: 3s
|
||||
retries: 10
|
||||
start_period: 30s
|
||||
start_interval: 1s
|
||||
# плавная остановка ~15 с: срок ожидания подписок filer зашит в код.
|
||||
# При 10 с остановка кончалась бы SIGKILL (код 137)
|
||||
stop_grace_period: 20s
|
||||
deploy:
|
||||
resources:
|
||||
limits:
|
||||
# память — GOMEMLIMIT и лимит загрузок выше
|
||||
cpus: "1.0"
|
||||
memory: 512M
|
||||
|
||||
# bootstrap S3 — один раз до реплик, как миграции (решение 4): приватный
|
||||
# bucket, пользователь API с политикой «только объекты своего bucket»,
|
||||
# проверки приватности вне API. Повтор сводит состояние к .env и ничего
|
||||
# не ломает. В сетевом пространстве s3: master и filer сервера на
|
||||
# 127.0.0.1 доступны ему, а в сети их нет. make s3_check запускает его
|
||||
# же в режиме check
|
||||
s3-bootstrap:
|
||||
image: *s3-image
|
||||
network_mode: service:s3
|
||||
user: seaweed
|
||||
entrypoint: ["sh", "/opt/s3/bootstrap.sh"]
|
||||
command: ["apply"]
|
||||
restart: "no"
|
||||
environment:
|
||||
S3_BUCKET: ${S3__BUCKET:-messenger}
|
||||
S3_PORT: ${S3_PORT:-8333}
|
||||
# ключ подписи: им weed shell подписывает вызовы IAM filer
|
||||
WEED_JWT_FILER_SIGNING_KEY: ${S3_JWT_SIGNING_KEY:?S3_JWT_SIGNING_KEY is empty, copy S3 lines from .env.example}
|
||||
S3_API_ACCESS_KEY: ${S3_API_ACCESS_KEY:?S3_API_ACCESS_KEY is empty, copy S3 lines from .env.example}
|
||||
S3_API_SECRET_KEY: ${S3_API_SECRET_KEY:?S3_API_SECRET_KEY is empty, copy S3 lines from .env.example}
|
||||
HOME: /tmp
|
||||
volumes:
|
||||
- type: bind
|
||||
source: ./infra/s3/bootstrap.sh
|
||||
target: /opt/s3/bootstrap.sh
|
||||
read_only: true
|
||||
bind:
|
||||
create_host_path: false
|
||||
# файл ключа для curl и политика — только в памяти
|
||||
tmpfs:
|
||||
- /tmp
|
||||
depends_on:
|
||||
s3:
|
||||
condition: service_healthy
|
||||
deploy:
|
||||
resources:
|
||||
limits:
|
||||
# пик по пробе — 35 MiB, 0,76 с CPU
|
||||
cpus: "0.5"
|
||||
memory: 128M
|
||||
|
||||
# миграции — один раз до реплик, сами реплики их не запускают
|
||||
migrate:
|
||||
# образ собирает сервис api (make run_docker, make test_isolated)
|
||||
@@ -148,7 +281,7 @@ services:
|
||||
image: mtusi-messenger:lab4
|
||||
restart: unless-stopped
|
||||
environment:
|
||||
<<: [*db-env, *cache-env]
|
||||
<<: [*db-env, *cache-env, *s3-env]
|
||||
APP__PORT: ${APP__PORT:-8080}
|
||||
volumes:
|
||||
- *config-toml
|
||||
@@ -160,6 +293,10 @@ services:
|
||||
condition: service_healthy
|
||||
migrate:
|
||||
condition: service_completed_successfully
|
||||
# bucket и пользователь API есть до первого запроса; первую запись
|
||||
# после старта S3 (~2,5 с) делает проверка bootstrap, а не клиент
|
||||
s3-bootstrap:
|
||||
condition: service_completed_successfully
|
||||
# healthcheck — из образа; SIGKILL не раньше, чем через 10 с
|
||||
stop_grace_period: 10s
|
||||
deploy:
|
||||
@@ -212,3 +349,4 @@ services:
|
||||
|
||||
volumes:
|
||||
postgres_data:
|
||||
s3_data:
|
||||
|
||||
Executable
+318
@@ -0,0 +1,318 @@
|
||||
#!/bin/sh
|
||||
# Bootstrap S3 стенда (SeaweedFS): приватный bucket, пользователь API с
|
||||
# политикой «только объекты своего bucket», проверки приватности вне API.
|
||||
# Design change s3-storage, решения 3, 4 и 8; правила — docker.md.
|
||||
#
|
||||
# Запускается сервисом compose s3-bootstrap на образе сервера в сетевом
|
||||
# пространстве сервиса s3 (network_mode: service:s3): master и filer
|
||||
# слушают 127.0.0.1 сервера, из сети стенда их нет. Административные
|
||||
# вызовы — weed shell с ключом подписи (WEED_JWT_FILER_SIGNING_KEY), а не
|
||||
# административной парой S3: её хранит только сервер.
|
||||
#
|
||||
# Режимы:
|
||||
# apply (по умолчанию) — свести состояние к окружению (.env) и проверить
|
||||
# права; каждый шаг безопасно повторять;
|
||||
# check — ничего не менять в настройке, проверить права и приватность
|
||||
# шире, чем apply: чужой bucket (временный, создаётся и удаляется
|
||||
# здесь же), административные запросы ключа API, анонимные запросы.
|
||||
# Проверочный объект остаётся для проверок с хоста и из сети
|
||||
# (make s3_check) до режима cleanup;
|
||||
# cleanup — удалить проверочный объект и временные bucket-ы check.
|
||||
#
|
||||
# Секреты: в weed shell — через stdin (printf — встроенная команда sh), в
|
||||
# curl — файлом -K на tmpfs; в argv процессов и в выводе их нет. Ошибка
|
||||
# шага — «FAILED: <шаг>» и код 1.
|
||||
set -eu
|
||||
|
||||
MODE=${1:-apply}
|
||||
BUCKET=${S3_BUCKET:?S3_BUCKET is not set}
|
||||
S3_PORT=${S3_PORT:?S3_PORT is not set}
|
||||
: "${S3_API_ACCESS_KEY:?S3_API_ACCESS_KEY is empty, copy S3 lines from .env.example}"
|
||||
: "${S3_API_SECRET_KEY:?S3_API_SECRET_KEY is empty, copy S3 lines from .env.example}"
|
||||
: "${WEED_JWT_FILER_SIGNING_KEY:?S3_JWT_SIGNING_KEY is empty, copy S3 lines from .env.example}"
|
||||
|
||||
MASTER=127.0.0.1:9333
|
||||
S3=http://127.0.0.1:${S3_PORT}
|
||||
USER_NAME=api
|
||||
POLICY=api-objects
|
||||
# регион подписи; SeaweedFS берёт его из запроса
|
||||
REGION=us-east-1
|
||||
TAG="s3-bootstrap"
|
||||
# проверочный объект make s3_check: один и тот же ключ, повтор
|
||||
# перезаписывает остаток прерванного прогона
|
||||
CHECK_KEY=.s3-check/probe
|
||||
CHECK_BUCKET_PREFIX="${BUCKET}-check-"
|
||||
# сколько секунд ждать, пока изменения IAM дойдут до шлюза (подписка на
|
||||
# filer)
|
||||
IAM_WAIT_SECONDS=10
|
||||
|
||||
umask 077
|
||||
WORK=$(mktemp -d)
|
||||
CRED="$WORK/api.cred"
|
||||
BODY="$WORK/body"
|
||||
TEMP_BUCKET=""
|
||||
|
||||
cleanup_work() {
|
||||
if [ -n "$TEMP_BUCKET" ]; then
|
||||
ws "s3.bucket.delete -name ${TEMP_BUCKET}" >/dev/null 2>&1 || true
|
||||
fi
|
||||
rm -rf "$WORK"
|
||||
}
|
||||
trap cleanup_work EXIT
|
||||
|
||||
say() {
|
||||
echo "${TAG}: $*"
|
||||
}
|
||||
|
||||
fail() {
|
||||
echo "${TAG}: FAILED: $*" >&2
|
||||
exit 1
|
||||
}
|
||||
|
||||
# одна команда weed shell; вывод — в stdout, код — код shell
|
||||
ws() {
|
||||
printf '%s\n' "$1" | weed shell -master="$MASTER" 2>&1
|
||||
}
|
||||
|
||||
# команда без секретов: при ошибке печатается вывод shell
|
||||
ws_step() {
|
||||
step=$1
|
||||
shift
|
||||
if ! out=$(ws "$*"); then
|
||||
printf '%s\n' "$out" | sed "s/^/${TAG}: /" >&2
|
||||
fail "$step"
|
||||
fi
|
||||
}
|
||||
|
||||
# команда с секретом: вывод не печатается никогда
|
||||
ws_secret_step() {
|
||||
step=$1
|
||||
shift
|
||||
ws "$*" >/dev/null || fail "$step"
|
||||
}
|
||||
|
||||
# ключ API для curl: файл на tmpfs, в argv только путь
|
||||
printf 'user = "%s:%s"\n' "$S3_API_ACCESS_KEY" "$S3_API_SECRET_KEY" >"$CRED"
|
||||
|
||||
# подписанный ключом API запрос: печатает код ответа, тело — в $BODY
|
||||
signed() {
|
||||
curl -s -o "$BODY" -w '%{http_code}' --max-time 5 -K "$CRED" \
|
||||
--aws-sigv4 "aws:amz:${REGION}:s3" "$@" || echo 000
|
||||
}
|
||||
|
||||
# анонимный запрос: печатает код ответа
|
||||
anon() {
|
||||
curl -s -o "$BODY" -w '%{http_code}' --max-time 5 "$@" || echo 000
|
||||
}
|
||||
|
||||
FAILED_CHECKS=0
|
||||
|
||||
# строка проверки: имя, ожидаемый и полученный код. Код выхода 1 — в
|
||||
# конце, после всех строк
|
||||
check() {
|
||||
name=$1
|
||||
expected=$2
|
||||
got=$3
|
||||
if [ "$expected" = "$got" ]; then
|
||||
verdict=ok
|
||||
else
|
||||
verdict=FAIL
|
||||
FAILED_CHECKS=$((FAILED_CHECKS + 1))
|
||||
fi
|
||||
printf '%s: check\t%s\t%s\t%s\t%s\n' "$TAG" "$name" "$expected" "$got" "$verdict"
|
||||
}
|
||||
|
||||
bucket_exists() {
|
||||
ws "s3.bucket.list" | grep -qE "^[[:space:]]*$1([[:space:]]|\$)"
|
||||
}
|
||||
|
||||
# ждать, пока ключ API примет шлюз: изменения IAM доходят подпиской на
|
||||
# filer. SignatureDoesNotMatch — ключ есть, секрет другой: печатается и
|
||||
# возвращается 2
|
||||
wait_api_key() {
|
||||
url=$1
|
||||
i=0
|
||||
while [ "$i" -lt "$IAM_WAIT_SECONDS" ]; do
|
||||
code=$(signed -X PUT --data-binary "$TAG" "$url")
|
||||
if [ "$code" = 200 ]; then
|
||||
return 0
|
||||
fi
|
||||
if [ "$code" = 403 ] && grep -q SignatureDoesNotMatch "$BODY"; then
|
||||
return 2
|
||||
fi
|
||||
i=$((i + 1))
|
||||
sleep 1
|
||||
done
|
||||
return 1
|
||||
}
|
||||
|
||||
# ---------------------------------------------------------------- apply
|
||||
|
||||
apply_bucket() {
|
||||
if bucket_exists "$BUCKET"; then
|
||||
say "bucket ${BUCKET} exists"
|
||||
else
|
||||
ws_step "bucket create" "s3.bucket.create -name ${BUCKET}"
|
||||
say "bucket ${BUCKET} created"
|
||||
fi
|
||||
# анонимный доступ — none; меняется, только если он открыт
|
||||
if ! ws "s3.anonymous.get -bucket ${BUCKET}" | grep -q '^Access: none$'; then
|
||||
ws_step "anonymous access none" \
|
||||
"s3.anonymous.set -bucket ${BUCKET} -access none"
|
||||
say "anonymous access to ${BUCKET} closed"
|
||||
fi
|
||||
}
|
||||
|
||||
apply_policy() {
|
||||
cat >"$WORK/policy.json" <<EOF
|
||||
{"Version": "2012-10-17", "Statement": [{"Effect": "Allow",
|
||||
"Action": ["s3:GetObject", "s3:PutObject", "s3:DeleteObject"],
|
||||
"Resource": ["arn:aws:s3:::${BUCKET}/*"]}]}
|
||||
EOF
|
||||
ws_step "policy put" "s3.policy -put -name=${POLICY} -file=$WORK/policy.json"
|
||||
}
|
||||
|
||||
apply_user() {
|
||||
if ws "s3.user.show -name ${USER_NAME}" >/dev/null; then
|
||||
say "user ${USER_NAME} exists"
|
||||
else
|
||||
ws_secret_step "user create" \
|
||||
"s3.user.create -name ${USER_NAME} -access_key ${S3_API_ACCESS_KEY} -secret_key ${S3_API_SECRET_KEY}"
|
||||
say "user ${USER_NAME} created"
|
||||
fi
|
||||
ws_step "policy attach" \
|
||||
"s3.policy.attach -policy ${POLICY} -user ${USER_NAME}"
|
||||
# ключи пользователя: чужие удаляются, нужного нет — создаётся
|
||||
if ! keys_out=$(ws "s3.accesskey.list -user ${USER_NAME}"); then
|
||||
fail "access key list"
|
||||
fi
|
||||
keys=$(printf '%s\n' "$keys_out" | awk 'NR > 1 && NF { print $1 }')
|
||||
for key in $keys; do
|
||||
if [ "$key" != "$S3_API_ACCESS_KEY" ]; then
|
||||
ws_secret_step "stale key delete" \
|
||||
"s3.accesskey.delete -user ${USER_NAME} -access_key ${key}"
|
||||
say "stale key of ${USER_NAME} removed"
|
||||
fi
|
||||
done
|
||||
if ! printf '%s\n' "$keys" | grep -qxF "$S3_API_ACCESS_KEY"; then
|
||||
ws_secret_step "key create" \
|
||||
"s3.accesskey.create -user ${USER_NAME} -access_key ${S3_API_ACCESS_KEY} -secret_key ${S3_API_SECRET_KEY}"
|
||||
say "key of ${USER_NAME} created"
|
||||
fi
|
||||
}
|
||||
|
||||
recreate_key() {
|
||||
ws_secret_step "key delete" \
|
||||
"s3.accesskey.delete -user ${USER_NAME} -access_key ${S3_API_ACCESS_KEY}"
|
||||
ws_secret_step "key create" \
|
||||
"s3.accesskey.create -user ${USER_NAME} -access_key ${S3_API_ACCESS_KEY} -secret_key ${S3_API_SECRET_KEY}"
|
||||
say "key of ${USER_NAME} recreated (secret changed)"
|
||||
}
|
||||
|
||||
# проверки каждого запуска: ключ API пишет, читает и удаляет проверочный
|
||||
# объект, список и создание bucket — 403; аноним не читает объект и не
|
||||
# видит список
|
||||
apply_checks() {
|
||||
probe="${S3}/${BUCKET}/.s3-bootstrap/check-$$"
|
||||
status=0
|
||||
wait_api_key "$probe" || status=$?
|
||||
if [ "$status" = 2 ]; then
|
||||
recreate_key
|
||||
status=0
|
||||
wait_api_key "$probe" || status=$?
|
||||
fi
|
||||
[ "$status" = 0 ] || fail "api key put (code ${code})"
|
||||
[ "$(signed "$probe")" = 200 ] || fail "api key get"
|
||||
[ "$(anon "$probe")" = 403 ] || fail "anonymous get is not denied"
|
||||
[ "$(anon "${S3}/${BUCKET}?list-type=2")" = 403 ] \
|
||||
|| fail "anonymous list is not denied"
|
||||
[ "$(signed "${S3}/${BUCKET}?list-type=2")" = 403 ] \
|
||||
|| fail "api key list is not denied"
|
||||
[ "$(signed -X PUT "${S3}/${CHECK_BUCKET_PREFIX}forbidden-$$")" = 403 ] \
|
||||
|| fail "api key bucket create is not denied"
|
||||
[ "$(signed -X DELETE "$probe")" = 204 ] || fail "api key delete"
|
||||
say "checks passed (api key put/get/delete; api key list and bucket" \
|
||||
"create, anonymous get and list denied)"
|
||||
}
|
||||
|
||||
# ---------------------------------------------------------------- check
|
||||
|
||||
run_checks() {
|
||||
bucket_exists "$BUCKET" || fail "bucket ${BUCKET} does not exist, run make run_docker"
|
||||
access=$(ws "s3.anonymous.get -bucket ${BUCKET}" \
|
||||
| sed -n 's/^Access: //p')
|
||||
check "anonymous access setting" none "${access:-unknown}"
|
||||
|
||||
obj="${S3}/${BUCKET}/${CHECK_KEY}"
|
||||
missing="${S3}/${BUCKET}/.s3-check/missing-$$"
|
||||
# ключ API: объекты своего bucket
|
||||
check "api key put object" 200 \
|
||||
"$(signed -X PUT --data-binary "$TAG check" "$obj")"
|
||||
check "api key get object" 200 "$(signed "$obj")"
|
||||
check "api key head object" 200 "$(signed -I "$obj")"
|
||||
check "api key get missing object" 404 "$(signed "$missing")"
|
||||
# ключ API: всё остальное запрещено
|
||||
check "api key list objects" 403 "$(signed "${S3}/${BUCKET}?list-type=2")"
|
||||
check "api key create bucket" 403 \
|
||||
"$(signed -X PUT "${S3}/${CHECK_BUCKET_PREFIX}forbidden-$$")"
|
||||
check "api key delete bucket" 403 "$(signed -X DELETE "${S3}/${BUCKET}")"
|
||||
check "api key get bucket policy" 403 "$(signed "${S3}/${BUCKET}?policy")"
|
||||
check "api key put bucket policy" 403 \
|
||||
"$(signed -X PUT --data-binary '{"Version":"2012-10-17","Statement":[{"Effect":"Allow","Principal":"*","Action":"s3:GetObject","Resource":"arn:aws:s3:::'"${BUCKET}"'/*"}]}' "${S3}/${BUCKET}?policy")"
|
||||
check "api key get bucket acl" 403 "$(signed "${S3}/${BUCKET}?acl")"
|
||||
check "api key put bucket acl public-read" 403 \
|
||||
"$(signed -X PUT -H 'x-amz-acl: public-read' "${S3}/${BUCKET}?acl")"
|
||||
check "api key put object acl public-read" 403 \
|
||||
"$(signed -X PUT -H 'x-amz-acl: public-read' "${obj}?acl")"
|
||||
# чужой bucket: временный, создаёт и удаляет weed shell
|
||||
TEMP_BUCKET="${CHECK_BUCKET_PREFIX}$(od -An -N4 -tx4 /dev/urandom | tr -d ' ')"
|
||||
ws_step "temporary bucket create" "s3.bucket.create -name ${TEMP_BUCKET}"
|
||||
other="${S3}/${TEMP_BUCKET}"
|
||||
check "api key put object to other bucket" 403 \
|
||||
"$(signed -X PUT --data-binary "$TAG" "${other}/probe")"
|
||||
check "api key get object from other bucket" 403 "$(signed "${other}/probe")"
|
||||
check "api key list other bucket" 403 "$(signed "${other}?list-type=2")"
|
||||
check "api key delete other bucket" 403 "$(signed -X DELETE "$other")"
|
||||
ws_step "temporary bucket delete" "s3.bucket.delete -name ${TEMP_BUCKET}"
|
||||
TEMP_BUCKET=""
|
||||
# аноним изнутри сервера; с хоста и из сети стенда — make s3_check
|
||||
check "anonymous get object" 403 "$(anon "$obj")"
|
||||
check "anonymous head object" 403 "$(anon -I "$obj")"
|
||||
check "anonymous get missing object" 403 "$(anon "$missing")"
|
||||
check "anonymous list objects" 403 "$(anon "${S3}/${BUCKET}?list-type=2")"
|
||||
check "anonymous list buckets" 403 "$(anon "${S3}/")"
|
||||
check "anonymous put object" 403 \
|
||||
"$(anon -X PUT --data-binary "$TAG" "${S3}/${BUCKET}/.s3-check/anonymous")"
|
||||
check "anonymous create bucket" 403 \
|
||||
"$(anon -X PUT "${S3}/${CHECK_BUCKET_PREFIX}anonymous-$$")"
|
||||
if [ "$FAILED_CHECKS" -gt 0 ]; then
|
||||
fail "${FAILED_CHECKS} check(s) failed"
|
||||
fi
|
||||
say "checks passed; probe object ${BUCKET}/${CHECK_KEY} kept for host and network checks"
|
||||
}
|
||||
|
||||
run_cleanup() {
|
||||
code=$(signed -X DELETE "${S3}/${BUCKET}/${CHECK_KEY}")
|
||||
case "$code" in
|
||||
204 | 404) say "probe object ${BUCKET}/${CHECK_KEY} removed" ;;
|
||||
*) fail "probe object delete (code ${code})" ;;
|
||||
esac
|
||||
# временные bucket-ы прерванных проверок
|
||||
for name in $(ws "s3.bucket.list" | awk '{ print $1 }' \
|
||||
| grep -E "^${CHECK_BUCKET_PREFIX}[0-9a-f]+\$" || true); do
|
||||
ws_step "temporary bucket delete" "s3.bucket.delete -name ${name}"
|
||||
say "temporary bucket ${name} removed"
|
||||
done
|
||||
}
|
||||
|
||||
case "$MODE" in
|
||||
apply)
|
||||
apply_bucket
|
||||
apply_policy
|
||||
apply_user
|
||||
apply_checks
|
||||
;;
|
||||
check) run_checks ;;
|
||||
cleanup) run_cleanup ;;
|
||||
*) fail "unknown mode ${MODE}: apply, check or cleanup" ;;
|
||||
esac
|
||||
@@ -502,3 +502,64 @@ botocore, тот же код подписи и моделей, что у AWS CLI
|
||||
Volume `mtusi-lab4_s3_data` после отката compose не знает, и `make
|
||||
wipe_data` его уже не удалит — только явный `docker volume rm`. Данные
|
||||
PostgreSQL change не трогает.
|
||||
|
||||
## Уточнения apply
|
||||
|
||||
Решения, принятые в `/opsx:apply` (2026-10-20) по ходу работы; копия —
|
||||
`PLAN.md`, «Вопросы и решения по ходу changes» → `s3-storage`.
|
||||
|
||||
1. **`--wait` не ждёт завершения bootstrap** (уточнение решения 9).
|
||||
Compose v5.5.1 считает одноразовый сервис без healthcheck готовым,
|
||||
как только тот запущен: `up -d --wait s3 s3-bootstrap` вернулся через
|
||||
5,6 с, а bootstrap закончил позже. Поэтому `make start_s3` — это `up
|
||||
-d --wait s3`, затем `up --no-deps --exit-code-from s3-bootstrap
|
||||
s3-bootstrap` (код выхода bootstrap — код цели), как миграции в
|
||||
`rolling-update.sh`. Так же — `run_failures.py`. Реплики штатного
|
||||
стенда это не задевает: `depends_on: service_completed_successfully`
|
||||
ждёт завершения.
|
||||
2. **Режимы bootstrap: `apply`, `check`, `cleanup`** (уточнение решений
|
||||
4 и 8). Проверки с хоста и из сети идут между записью проверочного
|
||||
объекта и его удалением, поэтому удаление — отдельный режим
|
||||
`cleanup`, а не последний шаг `check`. Объект — `.s3-check/probe`
|
||||
(повтор перезаписывает остаток прерванного прогона); временный bucket
|
||||
`<bucket>-check-<hex>` создаёт и удаляет сам `check` (и `trap` при
|
||||
сбое), `cleanup` удаляет и забытые. Строки проверок — `s3-bootstrap:
|
||||
check<TAB>имя<TAB>ожидаемо<TAB>получено<TAB>ok|FAIL`, их собирает
|
||||
`driver.py s3-check`. Вывод `weed shell` печатается только у шагов
|
||||
без секретов. `HOME=/tmp` (tmpfs) у `s3-bootstrap`: ничего не пишется
|
||||
в слой контейнера.
|
||||
3. **Секрет сменился — ключ пересоздаётся по `SignatureDoesNotMatch`**,
|
||||
а не по любому 403 (решение 4, шаг 6): ожидание изменений IAM до
|
||||
10 с даёт `InvalidAccessKeyId`, его ждут, а не пересоздают ключ.
|
||||
4. **Клиент** (решение 7): `open(key)` отдаёт `StoredObject` с `size`,
|
||||
`content_type`, `iter_chunks()` и `read()`; срок `[s3]
|
||||
timeout_seconds` — на вызов и на каждый блок чтения тела (отдача
|
||||
10 MiB медленному клиенту дольше срока, блок — нет). Типы
|
||||
`StoredObjectInfo` и `StoredObject` — в `src/infra/s3/client.py`.
|
||||
Переводятся только ошибки клиента и сети (`ClientError`,
|
||||
`ConnectionError` и `HTTPClientError` botocore, `IncompleteReadError`,
|
||||
`aiohttp.ClientError`, `OSError`); прочие не перехватываются (500).
|
||||
Ключи передаются в botocore всегда, даже пустые: иначе он искал бы
|
||||
учётные данные в окружении и `~/.aws` хоста.
|
||||
5. **Ожидаемо красные шире списка tasks.md.** Контракт лабы 4 сделал
|
||||
`attachment_ids` обязательным полем `Message`, а код лабы 3 его не
|
||||
отдаёт (в `src/` его нет с `5d5d8f9`). До change `attachments`
|
||||
падают все тесты, которые проверяют схему сообщения: в `make
|
||||
student_test` (и `make test_isolated`) — 30 упавших и 2 ошибки
|
||||
фикстуры с одной причиной «'attachment_ids' is a required property»,
|
||||
в `make failure_checks` — 5 (`test_database_stopped_and_back`,
|
||||
`test_valkey_stopped`, `test_message_failure_keeps_key_free`,
|
||||
`test_database_outage_keeps_key_free`, `test_key_free_after_ttl`).
|
||||
От этого change это не зависит; правка — поле в `attachments`. Код 0
|
||||
`make failure_checks` до тех пор недостижим, новая проверка
|
||||
`test_readiness_without_object_storage` зелёная.
|
||||
6. **Дельта `health` синхронизирована в основной спек в apply**, как в
|
||||
`scaling-bench` («`/opsx:sync` только её»): сверка покрытия читает
|
||||
только `openspec/specs/`, и маркер нового сценария «Хранилище
|
||||
объектов недоступно» без этого указывал бы на неизвестный сценарий.
|
||||
Остальные дельты — при archive.
|
||||
7. **Профиль `rollout` ссылается на commit лабы 3** (`rollout_from
|
||||
c50b721`, его нет в истории лабы 4) — дефект переноса, записан в
|
||||
`KNOWN_ISSUES.md`. `make bench_rollout_quick` падает за 6 с;
|
||||
самопроверка профиля — `bench/run.py --profile rollout_quick --from
|
||||
5d5d8f9` (код 0).
|
||||
|
||||
@@ -13,18 +13,23 @@
|
||||
- `make test-persistence` и `make test-failover` — загрузка вложения с
|
||||
`LAB=4`;
|
||||
- `test_exclusion_evidence_exists` в `make student_test`;
|
||||
- поэтому и итог `make test_isolated`.
|
||||
- поэтому и итог `make test_isolated`;
|
||||
- найдено в apply (design, «Уточнения apply», п. 5): тесты, которые
|
||||
проверяют схему `Message` / `MessagePage` контракта лабы 4
|
||||
(`attachment_ids` обязателен), — 30 упавших и 2 ошибки в `make
|
||||
student_test`, 5 упавших в `make failure_checks`. Поэтому `make
|
||||
failure_checks` до `attachments` тоже ненулевой.
|
||||
|
||||
Другие падения — дефект, их разбирают по AGENTS.md.
|
||||
|
||||
## 1. Зависимость и настройки
|
||||
|
||||
- [ ] 1.1 Добавить зависимость: `uv add "aiobotocore>=3.9.2,<4"` в
|
||||
- [x] 1.1 Добавить зависимость: `uv add "aiobotocore>=3.9.2,<4"` в
|
||||
основную группу, с комментарием «клиент S3 (SeaweedFS), решение 6».
|
||||
Проверка: `uv lock --check`; `uv run python -c "import aiobotocore,
|
||||
botocore; print(aiobotocore.__version__, botocore.__version__)"` —
|
||||
3.9.x и 1.43.x.
|
||||
- [ ] 1.2 Секция `S3` в `src/config/settings.py` по решению 5:
|
||||
- [x] 1.2 Секция `S3` в `src/config/settings.py` по решению 5:
|
||||
- поля, `endpoint_url`, валидатор имени bucket по
|
||||
`S3_BUCKET_NAME_PATTERN` в `src/utils/constants.py`;
|
||||
- сроки `gt=0`, пул `ge=1`;
|
||||
@@ -37,7 +42,7 @@
|
||||
без `.env` даёт значения по умолчанию;
|
||||
- `S3__BUCKET=Bad_Bucket` — запуск падает, в выводе есть `bucket`;
|
||||
- `S3__TIMEOUT_SECONDS=0` — запуск падает.
|
||||
- [ ] 1.3 Блок S3 в `.env.example` по решениям 3 и 5: `S3_HOST`,
|
||||
- [x] 1.3 Блок S3 в `.env.example` по решениям 3 и 5: `S3_HOST`,
|
||||
`S3_PORT`, `S3_OUT_PORT`, `S3__BUCKET`, пустые `S3_ROOT_*`, `S3_API_*`
|
||||
и `S3_JWT_SIGNING_KEY`, мосты `S3__HOST`, `S3__PORT`,
|
||||
`S3__ACCESS_KEY_ID`, `S3__SECRET_ACCESS_KEY`. Шапка шаблона — без
|
||||
@@ -55,7 +60,7 @@
|
||||
|
||||
## 2. Стенд
|
||||
|
||||
- [ ] 2.1 `infra/s3/bootstrap.sh` (режим по умолчанию) и сервисы `s3`,
|
||||
- [x] 2.1 `infra/s3/bootstrap.sh` (режим по умолчанию) и сервисы `s3`,
|
||||
`s3-bootstrap` в `docker-compose.yml` по решениям 1–4:
|
||||
- пин тега и digest;
|
||||
- аргументы `weed server`, `GOMEMLIMIT`, healthcheck,
|
||||
@@ -81,7 +86,7 @@
|
||||
8333 и 18333;
|
||||
- `docker compose config` — секреты только у сервисов из таблицы;
|
||||
- `docker inspect` — лимиты у `s3` и `s3-bootstrap`.
|
||||
- [ ] 2.2 Makefile и hook по решению 9:
|
||||
- [x] 2.2 Makefile и hook по решению 9:
|
||||
- `start_s3` (`up -d --wait s3 s3-bootstrap`) и `stop_s3`;
|
||||
- `run_dev: upgrade start_cache start_s3`;
|
||||
- `test_isolated: … start_s3`;
|
||||
@@ -94,7 +99,7 @@
|
||||
`StartedAt`, тот же ID; hook укладывается в 90 с (время записать);
|
||||
`s3-bootstrap` после рестарта — «exists»;
|
||||
- `docker compose stop s3` — код выхода контейнера 0, не 137.
|
||||
- [ ] 2.3 `make s3_check` по решению 8: режим `check` в
|
||||
- [x] 2.3 `make s3_check` по решению 8: режим `check` в
|
||||
`infra/s3/bootstrap.sh` (проверочный объект, временный чужой bucket,
|
||||
административные запросы ключом API) и команда `driver.py s3-check`
|
||||
скилла (stdlib): анонимные запросы с хоста и из сети стенда, порты из
|
||||
@@ -109,7 +114,7 @@
|
||||
|
||||
## 3. Клиент хранилища
|
||||
|
||||
- [ ] 3.1 Клиент по решению 7:
|
||||
- [x] 3.1 Клиент по решению 7:
|
||||
- `src/core/exceptions/storage.py` (`ObjectStorageUnavailable`,
|
||||
`StoredObjectMissing`) с реэкспортом;
|
||||
- `src/infra/s3/client.py` и `instance.py` (`namespace` — имя базы),
|
||||
@@ -135,7 +140,7 @@
|
||||
|
||||
## 4. Стенды проверок и нагрузки
|
||||
|
||||
- [ ] 4.1 `make test_isolated` по решению 9: `run_isolated.py` удаляет
|
||||
- [x] 4.1 `make test_isolated` по решению 9: `run_isolated.py` удаляет
|
||||
префикс `test_<db>/` в начале и в уборке (`docker compose exec -T s3`
|
||||
+ `weed shell` `fs.rm -r`). Префикс собирается только из проверенного
|
||||
имени временной базы, иначе отказ. При `KEEP_TEST_DB=1` префикс
|
||||
@@ -146,7 +151,7 @@
|
||||
уборка префикса, `test_<db>/probe` нет, `<db>/probe` на месте;
|
||||
- с `KEEP_TEST_DB=1` префикс остался и напечатан;
|
||||
- пробные объекты затем удалить.
|
||||
- [ ] 4.2 `make failure_checks` по решению 9:
|
||||
- [x] 4.2 `make failure_checks` по решению 9:
|
||||
- `run_failures.py` поднимает `s3` и `s3-bootstrap`;
|
||||
- `failures.compose.yml` — у `s3` порты сброшены,
|
||||
`stop_grace_period: 2s`;
|
||||
@@ -161,7 +166,7 @@
|
||||
`-failures` нет, у рабочего стенда прежний `StartedAt`;
|
||||
- `make student_test` — сверка покрытия считает сценарий покрытым
|
||||
проверкой отказа, красный только `test_exclusion_evidence_exists`.
|
||||
- [ ] 4.3 `bench/` по решению 9:
|
||||
- [x] 4.3 `bench/` по решению 9:
|
||||
- `compose_env` генерирует пять секретов S3;
|
||||
- фильтр `app_env` паспорта убирает имена с `PASSWORD`, `SECRET`,
|
||||
`ACCESS_KEY`;
|
||||
@@ -179,7 +184,7 @@
|
||||
|
||||
## 5. Документы и проверка кода
|
||||
|
||||
- [ ] 5.1 Правила, AGENTS.md и скилл:
|
||||
- [x] 5.1 Правила, AGENTS.md и скилл:
|
||||
- `infra.md` — клиент S3, ошибки, `instance.py`;
|
||||
- `docker.md` — сервисы `s3`, `s3-bootstrap`, healthcheck, срок
|
||||
остановки, порядок `restart.sh`;
|
||||
@@ -201,7 +206,7 @@
|
||||
Проверка: `grep -rn "Строк S3\|пароли MinIO" AGENTS.md .claude
|
||||
.env.example` пуст; `openspec validate s3-storage --strict` — без
|
||||
ошибок.
|
||||
- [ ] 5.2 Финальная проверка кода:
|
||||
- [x] 5.2 Финальная проверка кода:
|
||||
- `make lint`, `make check`, `openspec validate s3-storage
|
||||
--strict`;
|
||||
- на стенде `make run_docker`: `make s3_check` — код 0, `make
|
||||
|
||||
@@ -23,12 +23,19 @@ MUST NOT зависеть от состояния хранилища.
|
||||
|
||||
`GET /health/ready` SHALL отвечать 200 с телом `{"status": "ok"}`,
|
||||
когда сервис может безопасно обслуживать обязательные запросы, и 503 с
|
||||
`code` `unavailable` в формате ошибки, когда не может. На лабе 2
|
||||
критичная зависимость — PostgreSQL: проверка SHALL выполнять запрос к
|
||||
нему с коротким таймаутом при каждом обращении. Valkey — кэш, без него
|
||||
обязательные запросы обслуживаются из PostgreSQL, поэтому его
|
||||
недоступность MUST NOT делать сервис неготовым. Проверка MUST NOT
|
||||
требовать идентификации.
|
||||
`code` `unavailable` в формате ошибки, когда не может. Критичная
|
||||
зависимость — PostgreSQL: проверка SHALL выполнять запрос к нему с
|
||||
коротким таймаутом при каждом обращении.
|
||||
|
||||
Две зависимости не критичны, и их недоступность MUST NOT делать сервис
|
||||
неготовым:
|
||||
- Valkey — кэш: без него обязательные запросы обслуживаются из
|
||||
PostgreSQL;
|
||||
- S3 — хранилище байтов вложений: путь без вложений его не использует.
|
||||
|
||||
Проверка MUST NOT обращаться к S3 и MUST NOT требовать идентификации.
|
||||
Перечень критичных и некритичных зависимостей с причинами SHALL быть в
|
||||
`REPORT.md`.
|
||||
|
||||
#### Scenario: Сервис запущен
|
||||
|
||||
@@ -47,6 +54,12 @@ MUST NOT зависеть от состояния хранилища.
|
||||
- **WHEN** Valkey остановлен, а PostgreSQL доступен
|
||||
- **THEN** `GET /health/ready` отвечает 200
|
||||
|
||||
#### Scenario: Хранилище объектов недоступно
|
||||
|
||||
- **WHEN** сервер S3 остановлен, а PostgreSQL доступен
|
||||
- **THEN** `GET /health/ready` и `GET /health/live` отвечают 200 быстрее
|
||||
секунды: проверка к S3 не обращается
|
||||
|
||||
### Requirement: Health вне версии API и без идентификации
|
||||
|
||||
Эндпоинты health SHALL находиться вне префикса `/api/v1`, MUST NOT
|
||||
|
||||
@@ -20,6 +20,9 @@ dependencies = [
|
||||
"argon2-cffi>=25.1.0,<26",
|
||||
# клиент Valkey: протокол тот же, redis.asyncio зрелее valkey-py
|
||||
"redis>=8.1,<9",
|
||||
# клиент S3 (SeaweedFS), решение 6 design change s3-storage;
|
||||
# botocore закреплён узко, обновлять вместе через uv lock
|
||||
"aiobotocore>=3.9.2,<4",
|
||||
]
|
||||
|
||||
[project.optional-dependencies]
|
||||
|
||||
+10
-8
@@ -3,18 +3,20 @@ set -eu
|
||||
# Restart hook для make test-persistence (tests/README.md) по образцу
|
||||
# scripts/restart.example.sh; правила — .claude/rules/docker.md.
|
||||
# Перезапускает балансировщик, все реплики API и все хранилища стенда
|
||||
# (Postgres и Valkey) с сохранением volume, схемы и данных: без down -v,
|
||||
# FLUSHALL и повторного наполнения. Кэш Valkey после рестарта пуст:
|
||||
# persistence у него выключен, данные — в Postgres.
|
||||
# (Postgres, Valkey и S3) с сохранением volumes, схемы и данных: без
|
||||
# down -v, FLUSHALL и повторного наполнения. Кэш Valkey после рестарта
|
||||
# пуст: persistence у него выключен, данные — в Postgres. Bucket, учётные
|
||||
# записи и объекты S3 лежат в его volume.
|
||||
# LB гасится первым и поднимается последним. start поднимает те же
|
||||
# контейнеры всех реплик: число реплик не меняется (реплика, остановленная
|
||||
# stop-one.sh, тоже запускается). start api запускает и его зависимость
|
||||
# migrate: повторный прогон миграций ничего не меняет.
|
||||
# Готовность через LB ждёт сам тест. Секреты не печатает.
|
||||
# stop-one.sh, тоже запускается). start api запускает и его зависимости
|
||||
# migrate и s3-bootstrap: повторные миграции и bootstrap ничего не меняют.
|
||||
# S3 останавливается плавно ~15 с (stop_grace_period 20 с): hook занимает
|
||||
# ~30–35 с. Готовность через LB ждёт сам тест. Секреты не печатает.
|
||||
cd "$(dirname "$0")/.."
|
||||
|
||||
docker compose stop haproxy api
|
||||
docker compose restart postgres valkey
|
||||
docker compose restart postgres valkey s3
|
||||
# те же контейнеры: --wait только дожидается их healthcheck
|
||||
docker compose up -d --wait postgres valkey
|
||||
docker compose up -d --wait postgres valkey s3
|
||||
docker compose start api haproxy
|
||||
|
||||
+43
-1
@@ -20,7 +20,7 @@ from pydantic_settings import (
|
||||
from sqlalchemy.engine import URL
|
||||
|
||||
from src.schemas.enums import RunModeEnum
|
||||
from src.utils.constants import INSTANCE_ID_PATTERN
|
||||
from src.utils.constants import INSTANCE_ID_PATTERN, S3_BUCKET_NAME_PATTERN
|
||||
|
||||
BASE_DIR = Path(__file__).resolve().parent.parent.parent
|
||||
ENV_PATH = BASE_DIR.joinpath(".env")
|
||||
@@ -172,6 +172,47 @@ class Cache(BaseModel):
|
||||
max_connections: int = Field(default=10, ge=1)
|
||||
|
||||
|
||||
class S3(BaseModel):
|
||||
"""Подключение к S3 (SeaweedFS): байты вложений.
|
||||
|
||||
Адрес, порт, bucket и ключи пользователя API приходят из `.env`: в
|
||||
console — мостами к `S3_OUT_PORT` и `S3_API_*`, в docker — из
|
||||
`environment` compose. Регион, сроки и пул — из `config.toml`.
|
||||
Соответствие имён skeleton `S3_*` — в `REPORT.md`.
|
||||
"""
|
||||
|
||||
host: str = "127.0.0.1"
|
||||
port: int = Field(default=8333, ge=1, le=65535)
|
||||
# тот же bucket создаёт bootstrap стенда (S3__BUCKET в .env)
|
||||
bucket: str = "messenger"
|
||||
# ключи пользователя API в S3, не административные; пусто — warning
|
||||
# при старте
|
||||
access_key_id: SecretStr = SecretStr("")
|
||||
secret_access_key: SecretStr = SecretStr("")
|
||||
# подпись SigV4 требует регион; SeaweedFS берёт его из запроса
|
||||
region: str = "us-east-1"
|
||||
# секунды на установку соединения
|
||||
connect_timeout_seconds: float = Field(default=1, gt=0)
|
||||
# секунды на весь вызов (соединение, запрос, ответ); меньше timeout
|
||||
# server HAProxy (10 с)
|
||||
timeout_seconds: float = Field(default=5, gt=0)
|
||||
# соединений в пуле aiohttp на процесс
|
||||
max_connections: int = Field(default=10, ge=1)
|
||||
|
||||
@field_validator("bucket")
|
||||
@classmethod
|
||||
def bucket_name(cls, value: str) -> str:
|
||||
"""Имя bucket по правилам S3, иначе сервис не стартует."""
|
||||
if not re.fullmatch(S3_BUCKET_NAME_PATTERN, value):
|
||||
raise ValueError(f"must match {S3_BUCKET_NAME_PATTERN}")
|
||||
return value
|
||||
|
||||
@property
|
||||
def endpoint_url(self) -> str:
|
||||
"""Адрес API S3; клиент сам URL не собирает."""
|
||||
return f"http://{self.host}:{self.port}"
|
||||
|
||||
|
||||
class Idempotency(BaseModel):
|
||||
"""Ключи идемпотентности отправки сообщения; срок — из `config.toml`.
|
||||
|
||||
@@ -198,6 +239,7 @@ class Settings(BaseSettings):
|
||||
database: Database = Database()
|
||||
auth: Auth = Auth()
|
||||
cache: Cache = Cache()
|
||||
s3: S3 = S3()
|
||||
idempotency: Idempotency = Idempotency()
|
||||
|
||||
@classmethod
|
||||
|
||||
@@ -4,6 +4,7 @@ from .idempotency import IdempotencyConflict
|
||||
from .pagination import InvalidCursor
|
||||
from .service import ServiceUnavailable
|
||||
from .session import InvalidCredentials, Unauthenticated
|
||||
from .storage import ObjectStorageUnavailable, StoredObjectMissing
|
||||
from .user import UsernameTaken
|
||||
|
||||
__all__ = [
|
||||
@@ -13,7 +14,9 @@ __all__ = [
|
||||
"InvalidChatMembers",
|
||||
"InvalidCredentials",
|
||||
"InvalidCursor",
|
||||
"ObjectStorageUnavailable",
|
||||
"ServiceUnavailable",
|
||||
"StoredObjectMissing",
|
||||
"Unauthenticated",
|
||||
"UsernameTaken",
|
||||
]
|
||||
|
||||
@@ -0,0 +1,20 @@
|
||||
from .base import DomainError
|
||||
from .service import ServiceUnavailable
|
||||
|
||||
|
||||
class ObjectStorageUnavailable(ServiceUnavailable):
|
||||
"""S3 недоступен, не ответил за срок или отклонил учётные данные API.
|
||||
|
||||
Наследник `ServiceUnavailable`: 503 `unavailable` по таблице
|
||||
`src/api/errors.py`. Причину видно в журнале клиента, а не в ответе.
|
||||
"""
|
||||
|
||||
|
||||
class StoredObjectMissing(DomainError):
|
||||
"""Объекта с таким ключом в bucket нет.
|
||||
|
||||
Отличается от недоступности S3. HTTP-ответ на него назначает change
|
||||
`attachments`.
|
||||
"""
|
||||
|
||||
default_message = "Stored object not found"
|
||||
@@ -186,6 +186,12 @@ def configure_logger() -> None:
|
||||
"handlers": ["json"],
|
||||
"propagate": False,
|
||||
},
|
||||
# клиент S3: на DEBUG botocore пишет заголовки запроса с
|
||||
# подписью (Authorization), поэтому явно WARNING, даже если
|
||||
# кто-то опустит уровень root
|
||||
"botocore": {"level": "WARNING"},
|
||||
"aiobotocore": {"level": "WARNING"},
|
||||
"aiohttp": {"level": "WARNING"},
|
||||
},
|
||||
},
|
||||
)
|
||||
|
||||
@@ -0,0 +1,13 @@
|
||||
from src.infra.s3.client import (
|
||||
ObjectStorage,
|
||||
StoredObject,
|
||||
StoredObjectInfo,
|
||||
create_object_storage,
|
||||
)
|
||||
|
||||
__all__ = [
|
||||
"ObjectStorage",
|
||||
"StoredObject",
|
||||
"StoredObjectInfo",
|
||||
"create_object_storage",
|
||||
]
|
||||
@@ -0,0 +1,359 @@
|
||||
"""Клиент S3 (SeaweedFS) на aiobotocore: срок на вызов, без повторов.
|
||||
|
||||
Design change `s3-storage`, решения 6–7. Каждый вызов ограничен
|
||||
`[s3] timeout_seconds` (`asyncio.timeout`), повторов botocore нет
|
||||
(`total_max_attempts=1`): рестарт S3 повтора не требует, таймаут, как у
|
||||
Valkey, не повторяется, а загрузку повторяет клиент контракта. Ошибки
|
||||
переводятся в доменные исключения:
|
||||
|
||||
- отказ соединения, обрыв, таймаут, 5xx и отказ в учётных данных —
|
||||
`ObjectStorageUnavailable` (503 `unavailable`);
|
||||
- отсутствующий ключ — `StoredObjectMissing` (`head` — `None`, `delete` —
|
||||
не ошибка);
|
||||
- прочие ошибки S3 не переводятся: 500, это дефект.
|
||||
|
||||
В журнал — адрес, bucket, ключ объекта, размер, длительность и класс
|
||||
ошибки; ключей доступа, секрета и подписи там нет. Логгеры botocore,
|
||||
aiobotocore и aiohttp стоят на WARNING (`src/infra/logger.py`): на DEBUG
|
||||
botocore пишет заголовки с подписью.
|
||||
"""
|
||||
|
||||
import asyncio
|
||||
import time
|
||||
from collections.abc import AsyncIterator
|
||||
from contextlib import AsyncExitStack, asynccontextmanager
|
||||
from dataclasses import dataclass
|
||||
from typing import Any
|
||||
|
||||
import aiohttp
|
||||
from aiobotocore.config import AioConfig
|
||||
from aiobotocore.session import get_session
|
||||
from botocore.exceptions import (
|
||||
ClientError,
|
||||
HTTPClientError,
|
||||
IncompleteReadError,
|
||||
)
|
||||
from botocore.exceptions import ConnectionError as BotoConnectionError
|
||||
|
||||
from src.config.settings import S3 as S3Settings
|
||||
from src.core.exceptions import ObjectStorageUnavailable, StoredObjectMissing
|
||||
from src.infra.logger import AbstractLogger, get_logger
|
||||
from src.utils.constants import S3_KEEPALIVE_TIMEOUT_SECONDS
|
||||
|
||||
logger: AbstractLogger = get_logger().bind(module="object_storage")
|
||||
|
||||
# коды отказа в учётных данных: секрет или ключ API не совпали с сервером
|
||||
CREDENTIAL_ERROR_CODES = frozenset(
|
||||
{"AccessDenied", "InvalidAccessKeyId", "SignatureDoesNotMatch"},
|
||||
)
|
||||
# отсутствующий ключ: у GET — NoSuchKey, у HEAD тела нет, только статус
|
||||
MISSING_ERROR_CODES = frozenset({"NoSuchKey", "404", "NotFound"})
|
||||
# недоступность: отказ соединения и его таймаут (ConnectionError botocore:
|
||||
# EndpointConnectionError, ConnectTimeoutError), обрыв и таймаут чтения
|
||||
# (HTTPClientError: ConnectionClosedError, ReadTimeoutError,
|
||||
# ResponseStreamingError), неполный ответ, ошибки aiohttp и сокета,
|
||||
# asyncio.timeout (TimeoutError — подкласс OSError). Ошибки конфигурации
|
||||
# botocore (ParamValidationError и др.) сюда не входят: это дефект, 500
|
||||
UNAVAILABLE_ERRORS: tuple[type[Exception], ...] = (
|
||||
BotoConnectionError,
|
||||
HTTPClientError,
|
||||
IncompleteReadError,
|
||||
aiohttp.ClientError,
|
||||
OSError,
|
||||
)
|
||||
TRANSLATED_ERRORS: tuple[type[Exception], ...] = (
|
||||
ClientError,
|
||||
*UNAVAILABLE_ERRORS,
|
||||
)
|
||||
# размер блока чтения объекта по умолчанию
|
||||
DEFAULT_CHUNK_BYTES = 64 * 1024
|
||||
|
||||
|
||||
@dataclass(frozen=True, slots=True)
|
||||
class StoredObjectInfo:
|
||||
"""Метаданные объекта в bucket."""
|
||||
|
||||
key: str
|
||||
size: int
|
||||
content_type: str | None
|
||||
|
||||
|
||||
class StoredObject:
|
||||
"""Открытый на чтение объект: метаданные и чтение блоками.
|
||||
|
||||
Каждое чтение блока ограничено тем же сроком, что и вызов: отдача
|
||||
10 MiB медленному клиенту длится дольше срока, а один блок — нет.
|
||||
"""
|
||||
|
||||
def __init__(
|
||||
self,
|
||||
info: StoredObjectInfo,
|
||||
body: Any,
|
||||
storage: "ObjectStorage",
|
||||
) -> None:
|
||||
self.info = info
|
||||
self._body = body
|
||||
self._storage = storage
|
||||
|
||||
@property
|
||||
def size(self) -> int:
|
||||
return self.info.size
|
||||
|
||||
@property
|
||||
def content_type(self) -> str | None:
|
||||
return self.info.content_type
|
||||
|
||||
async def iter_chunks(
|
||||
self,
|
||||
chunk_bytes: int = DEFAULT_CHUNK_BYTES,
|
||||
) -> AsyncIterator[bytes]:
|
||||
"""Байты объекта блоками до `chunk_bytes`."""
|
||||
while True:
|
||||
chunk = await self._storage._read_chunk(
|
||||
self._body,
|
||||
key=self.info.key,
|
||||
chunk_bytes=chunk_bytes,
|
||||
)
|
||||
if not chunk:
|
||||
return
|
||||
yield chunk
|
||||
|
||||
async def read(self) -> bytes:
|
||||
"""Весь объект; для больших — `iter_chunks`."""
|
||||
return b"".join([chunk async for chunk in self.iter_chunks()])
|
||||
|
||||
|
||||
class ObjectStorage:
|
||||
"""Объекты одного bucket ключом пользователя API.
|
||||
|
||||
`namespace` — имя базы PostgreSQL процесса: ключ объекта строит repo
|
||||
как `f"{namespace}{S3_KEY_SEPARATOR}…"`, и объекты прогона на
|
||||
временной базе (`make test_isolated`) отделены от рабочих, как ключи
|
||||
кэша. Клиент aiobotocore создаёт `start()` (модели botocore грузятся
|
||||
при старте, сети нет) или первый вызов; соединения aiohttp
|
||||
открываются при первом запросе.
|
||||
"""
|
||||
|
||||
def __init__(self, s3: S3Settings, *, namespace: str) -> None:
|
||||
self.namespace = namespace
|
||||
self.bucket = s3.bucket
|
||||
self._settings = s3
|
||||
self._endpoint = f"{s3.host}:{s3.port}"
|
||||
self._timeout_seconds = s3.timeout_seconds
|
||||
self._client: Any = None
|
||||
self._exit_stack: AsyncExitStack | None = None
|
||||
self._lock = asyncio.Lock()
|
||||
|
||||
async def start(self) -> None:
|
||||
"""Создать клиент заранее, при старте процесса."""
|
||||
await self._get_client()
|
||||
|
||||
async def aclose(self) -> None:
|
||||
"""Закрыть клиент и его пул соединений."""
|
||||
async with self._lock:
|
||||
if self._exit_stack is not None:
|
||||
await self._exit_stack.aclose()
|
||||
self._exit_stack = None
|
||||
self._client = None
|
||||
|
||||
async def put(
|
||||
self,
|
||||
key: str,
|
||||
data: bytes,
|
||||
*,
|
||||
content_type: str,
|
||||
) -> None:
|
||||
"""Записать объект целиком."""
|
||||
await self._call(
|
||||
"put_object",
|
||||
key,
|
||||
size=len(data),
|
||||
Body=data,
|
||||
ContentType=content_type,
|
||||
)
|
||||
|
||||
async def head(self, key: str) -> StoredObjectInfo | None:
|
||||
"""Метаданные объекта; `None` — объекта нет."""
|
||||
try:
|
||||
response = await self._call("head_object", key)
|
||||
except StoredObjectMissing:
|
||||
return None
|
||||
return StoredObjectInfo(
|
||||
key=key,
|
||||
size=response["ContentLength"],
|
||||
content_type=response.get("ContentType"),
|
||||
)
|
||||
|
||||
@asynccontextmanager
|
||||
async def open(self, key: str) -> AsyncIterator[StoredObject]:
|
||||
"""Объект на чтение блоками; нет объекта — `StoredObjectMissing`.
|
||||
|
||||
Соединение возвращается в пул (или закрывается, если тело
|
||||
прочитано не до конца) при выходе из контекста.
|
||||
"""
|
||||
response = await self._call("get_object", key)
|
||||
body = response["Body"]
|
||||
info = StoredObjectInfo(
|
||||
key=key,
|
||||
size=response["ContentLength"],
|
||||
content_type=response.get("ContentType"),
|
||||
)
|
||||
try:
|
||||
yield StoredObject(info, body, self)
|
||||
finally:
|
||||
body.close()
|
||||
|
||||
async def delete(self, key: str) -> None:
|
||||
"""Удалить объект; отсутствие объекта — не ошибка."""
|
||||
await self._call("delete_object", key)
|
||||
|
||||
async def _get_client(self) -> Any:
|
||||
if self._client is not None:
|
||||
return self._client
|
||||
async with self._lock:
|
||||
if self._client is None:
|
||||
stack = AsyncExitStack()
|
||||
self._client = await stack.enter_async_context(
|
||||
self._create_client(),
|
||||
)
|
||||
self._exit_stack = stack
|
||||
return self._client
|
||||
|
||||
def _create_client(self) -> Any:
|
||||
s3 = self._settings
|
||||
config = AioConfig(
|
||||
# виртуальные хосты bucket.s3 Docker DNS не разрешает
|
||||
s3={"addressing_style": "path"},
|
||||
connect_timeout=s3.connect_timeout_seconds,
|
||||
read_timeout=s3.timeout_seconds,
|
||||
# повторов нет: отказ — сразу 503, срок — один на вызов
|
||||
retries={"total_max_attempts": 1},
|
||||
max_pool_connections=s3.max_connections,
|
||||
# простаивающее соединение закрывает клиент раньше шлюза
|
||||
connector_args={"keepalive_timeout": S3_KEEPALIVE_TIMEOUT_SECONDS},
|
||||
)
|
||||
# ключи передаются всегда, даже пустые: иначе botocore искал бы
|
||||
# учётные данные в окружении и ~/.aws хоста
|
||||
return get_session().create_client(
|
||||
"s3",
|
||||
endpoint_url=s3.endpoint_url,
|
||||
region_name=s3.region,
|
||||
aws_access_key_id=s3.access_key_id.get_secret_value(),
|
||||
aws_secret_access_key=s3.secret_access_key.get_secret_value(),
|
||||
config=config,
|
||||
)
|
||||
|
||||
async def _call(
|
||||
self,
|
||||
operation: str,
|
||||
key: str,
|
||||
*,
|
||||
size: int | None = None,
|
||||
**params: Any,
|
||||
) -> dict[str, Any]:
|
||||
client = await self._get_client()
|
||||
started = time.monotonic()
|
||||
try:
|
||||
async with asyncio.timeout(self._timeout_seconds):
|
||||
response = await getattr(client, operation)(
|
||||
Bucket=self.bucket,
|
||||
Key=key,
|
||||
**params,
|
||||
)
|
||||
except TRANSLATED_ERRORS as e:
|
||||
failure = self._failure(
|
||||
e,
|
||||
operation=operation,
|
||||
key=key,
|
||||
started=started,
|
||||
)
|
||||
if failure is None:
|
||||
raise
|
||||
raise failure from e
|
||||
logger.debug(
|
||||
"Called object storage",
|
||||
operation=operation,
|
||||
bucket=self.bucket,
|
||||
key=key,
|
||||
size=size,
|
||||
duration_ms=self._duration_ms(started),
|
||||
)
|
||||
return response
|
||||
|
||||
async def _read_chunk(
|
||||
self,
|
||||
body: Any,
|
||||
*,
|
||||
key: str,
|
||||
chunk_bytes: int,
|
||||
) -> bytes:
|
||||
started = time.monotonic()
|
||||
try:
|
||||
async with asyncio.timeout(self._timeout_seconds):
|
||||
return await body.read(chunk_bytes)
|
||||
except TRANSLATED_ERRORS as e:
|
||||
failure = self._failure(
|
||||
e,
|
||||
operation="read_body",
|
||||
key=key,
|
||||
started=started,
|
||||
)
|
||||
if failure is None:
|
||||
raise
|
||||
raise failure from e
|
||||
|
||||
def _failure(
|
||||
self,
|
||||
error: Exception,
|
||||
*,
|
||||
operation: str,
|
||||
key: str,
|
||||
started: float,
|
||||
) -> Exception | None:
|
||||
"""Доменное исключение вместо ошибки клиента; `None` — ошибку не
|
||||
переводить (дефект, 500)."""
|
||||
fields = {
|
||||
"operation": operation,
|
||||
"endpoint": self._endpoint,
|
||||
"bucket": self.bucket,
|
||||
"key": key,
|
||||
"duration_ms": self._duration_ms(started),
|
||||
"error_type": type(error).__name__,
|
||||
}
|
||||
if isinstance(error, ClientError):
|
||||
code = str(error.response.get("Error", {}).get("Code", ""))
|
||||
status = error.response.get("ResponseMetadata", {}).get(
|
||||
"HTTPStatusCode",
|
||||
0,
|
||||
)
|
||||
if code in MISSING_ERROR_CODES or status == 404:
|
||||
return StoredObjectMissing()
|
||||
if code in CREDENTIAL_ERROR_CODES:
|
||||
logger.error(
|
||||
"Object storage rejected credentials",
|
||||
error_code=code,
|
||||
**fields,
|
||||
)
|
||||
return ObjectStorageUnavailable()
|
||||
if status >= 500:
|
||||
logger.warning(
|
||||
"Object storage is unavailable",
|
||||
error_code=code,
|
||||
status=status,
|
||||
**fields,
|
||||
)
|
||||
return ObjectStorageUnavailable()
|
||||
return None
|
||||
if isinstance(error, UNAVAILABLE_ERRORS):
|
||||
logger.warning("Object storage is unavailable", **fields)
|
||||
return ObjectStorageUnavailable()
|
||||
return None
|
||||
|
||||
@staticmethod
|
||||
def _duration_ms(started: float) -> int:
|
||||
return round((time.monotonic() - started) * 1000)
|
||||
|
||||
|
||||
def create_object_storage(s3: S3Settings, *, namespace: str) -> ObjectStorage:
|
||||
"""Хранилище объектов по `[s3]`; клиент и соединения — лениво."""
|
||||
return ObjectStorage(s3, namespace=namespace)
|
||||
@@ -0,0 +1,17 @@
|
||||
"""Хранилище объектов процесса API (S3).
|
||||
|
||||
Создаётся при импорте по `settings.s3`; клиент aiobotocore создаёт
|
||||
lifespan (`start()`), соединения — первый вызов. Импортируют модуль
|
||||
только `src/main.py` (старт и закрытие в lifespan) и
|
||||
`src/api/dependencies.py`, как `src/infra/cache/instance.py`. Ключи
|
||||
объектов — по имени базы из `settings.database`: `make test_isolated` с
|
||||
базой `test_<db>` пишет под своим префиксом.
|
||||
"""
|
||||
|
||||
from src.config import settings
|
||||
from src.infra.s3.client import create_object_storage
|
||||
|
||||
object_storage = create_object_storage(
|
||||
settings.s3,
|
||||
namespace=settings.database.name,
|
||||
)
|
||||
+16
-2
@@ -13,6 +13,7 @@ from src.infra.cache.instance import cache
|
||||
from src.infra.db.session import engine
|
||||
from src.infra.logger import AbstractLogger, get_logger
|
||||
from src.infra.password import prepare_dummy_hash
|
||||
from src.infra.s3.instance import object_storage
|
||||
from src.schemas.enums import RunModeEnum
|
||||
|
||||
logger: AbstractLogger = get_logger().bind(module="startup")
|
||||
@@ -25,15 +26,24 @@ async def lifespan(_: FastAPI) -> AsyncIterator[None]:
|
||||
# он должен пропустить (src/infra/early_stop.py)
|
||||
early_stop.disarm()
|
||||
database = settings.database
|
||||
# engine и кэш подключаются лениво: без Postgres сервис стартует, а
|
||||
# /health/ready отвечает 503; без Valkey запросы идут в Postgres
|
||||
s3 = settings.s3
|
||||
# engine, кэш и S3 подключаются лениво: без Postgres сервис стартует, а
|
||||
# /health/ready отвечает 503; без Valkey запросы идут в Postgres; без
|
||||
# S3 — 503 только на путях вложений
|
||||
if not database.password.get_secret_value():
|
||||
logger.warning("Database password is empty")
|
||||
if not settings.cache.password.get_secret_value():
|
||||
logger.warning("Cache password is empty")
|
||||
if not (
|
||||
s3.access_key_id.get_secret_value()
|
||||
and s3.secret_access_key.get_secret_value()
|
||||
):
|
||||
logger.warning("Object storage credentials are empty")
|
||||
# ~30 мс CPU при старте: время ответа на вход с неизвестным username
|
||||
# ровное с первого запроса
|
||||
await prepare_dummy_hash()
|
||||
# модели botocore грузятся при старте, а не в первом запросе; сети нет
|
||||
await object_storage.start()
|
||||
logger.info(
|
||||
"Started API",
|
||||
host=settings.app.host,
|
||||
@@ -44,12 +54,16 @@ async def lifespan(_: FastAPI) -> AsyncIterator[None]:
|
||||
database_name=database.name,
|
||||
cache_host=settings.cache.host,
|
||||
cache_port=settings.cache.port,
|
||||
s3_host=s3.host,
|
||||
s3_port=s3.port,
|
||||
s3_bucket=s3.bucket,
|
||||
)
|
||||
try:
|
||||
yield
|
||||
finally:
|
||||
await engine.dispose()
|
||||
await cache.aclose()
|
||||
await object_storage.aclose()
|
||||
logger.info("Stopped API")
|
||||
|
||||
|
||||
|
||||
@@ -77,3 +77,14 @@ DB_CLOSE_TIMEOUT_SECONDS = 2
|
||||
# начало ключей; v1 — формат значений: новый формат — v2, и старые ключи
|
||||
# не читаются без чистки кэша
|
||||
CACHE_KEY_PREFIX = "messenger:v1"
|
||||
|
||||
# хранилище объектов (S3)
|
||||
# имя bucket по правилам S3: 3–63 символа, строчные латинские буквы,
|
||||
# цифры, точка и дефис, по краям — буква или цифра
|
||||
S3_BUCKET_NAME_PATTERN = r"^[a-z0-9][a-z0-9.-]{1,61}[a-z0-9]$"
|
||||
# разделитель пространства имён (имени базы) и остатка ключа объекта:
|
||||
# `<имя базы>/<…>`, как ключи кэша по имени базы
|
||||
S3_KEY_SEPARATOR = "/"
|
||||
# секунды, после которых aiohttp закрывает простаивающее соединение с S3:
|
||||
# раньше шлюза SeaweedFS (120 с), чтобы запрос не ушёл в закрывающееся
|
||||
S3_KEEPALIVE_TIMEOUT_SECONDS = 15
|
||||
|
||||
@@ -1,8 +1,8 @@
|
||||
# Override стенда отказов make failure_checks (student-tests/run_failures.py):
|
||||
# тот же docker-compose.yml под проектом <рабочий>-failures (имя рабочего
|
||||
# проекта — из name в docker-compose.yml, сейчас mtusi-lab4), со своим
|
||||
# volume и сетью. Порты Postgres и Valkey не публикуются: к ним ходит только
|
||||
# fault_hook.py через docker compose exec. Сервисы api и haproxy не
|
||||
# volume и сетью. Порты Postgres, Valkey и S3 не публикуются: к ним ходит
|
||||
# только fault_hook.py через docker compose exec. Сервисы api и haproxy не
|
||||
# запускаются: контейнеры API создаёт оркестратор (docker compose run
|
||||
# -p 127.0.0.1:...), у реплик api своих портов нет. Порт LB сброшен, чтобы
|
||||
# случайный up не занял APP_OUT_PORT рабочего стенда.
|
||||
@@ -29,5 +29,11 @@ services:
|
||||
test: ["CMD-SHELL", "pg_isready -h 127.0.0.1 -U \"$$POSTGRES_USER\" -d postgres"]
|
||||
valkey:
|
||||
ports: !reset []
|
||||
# свой S3 со своим volume, порт API S3 не публикуется. Срок остановки
|
||||
# короткий намеренно: здесь проверяется отказ, а не плавная остановка, и
|
||||
# stop не тянет 15 с (design change s3-storage, решение 9)
|
||||
s3:
|
||||
ports: !reset []
|
||||
stop_grace_period: 2s
|
||||
haproxy:
|
||||
ports: !reset []
|
||||
|
||||
@@ -8,7 +8,7 @@
|
||||
не трогает. Решение 3 design change `failure-checks`.
|
||||
|
||||
Действия:
|
||||
stop|start|pause|unpause postgres|valkey
|
||||
stop|start|pause|unpause postgres|valkey|s3
|
||||
flush-cache FLUSHALL
|
||||
cache-hits keyspace_hits из INFO stats
|
||||
cache-has-chat <chat_id> EXISTS ключа карточки: 0 или 1
|
||||
@@ -49,7 +49,7 @@ COMPOSE_FILES = (
|
||||
ROOT / "student-tests" / "failures.compose.yml",
|
||||
)
|
||||
PROJECT_SUFFIX = "-failures"
|
||||
SERVICES = ("postgres", "valkey")
|
||||
SERVICES = ("postgres", "valkey", "s3")
|
||||
# та же проверка, что в healthcheck сервиса в docker-compose.yml. У
|
||||
# PostgreSQL стенда отказов healthcheck переопределён на базу postgres
|
||||
# (failures.compose.yml), а проба после start / unpause ходит в базу
|
||||
@@ -59,6 +59,10 @@ PROBES = {
|
||||
"postgres": 'pg_isready -q -h 127.0.0.1 -U "$POSTGRES_USER" '
|
||||
'-d "$POSTGRES_DB"',
|
||||
"valkey": 'test "$(valkey-cli -p "$VALKEY_PORT" ping)" = PONG',
|
||||
# master выбран, filer и шлюз S3 отвечают — как healthcheck сервиса s3
|
||||
"s3": "wget -q -O /dev/null http://127.0.0.1:9333/cluster/healthz && "
|
||||
"wget -q -O /dev/null http://127.0.0.1:8888/healthz && "
|
||||
'wget -q -O /dev/null "http://127.0.0.1:$S3_PORT/healthz"',
|
||||
}
|
||||
PROBE_TIMEOUT_S = 30
|
||||
# начало ключа карточки — копия CACHE_KEY_PREFIX из src/utils/constants.py:
|
||||
|
||||
@@ -1,9 +1,9 @@
|
||||
"""`make failure_checks`: проверки отказов на отдельном стенде.
|
||||
|
||||
Поднимает тот же `docker-compose.yml` под проектом `<рабочий>-failures`
|
||||
с override `student-tests/failures.compose.yml`: свои PostgreSQL и Valkey
|
||||
со своим volume, порты хранилищ не публикуются. Затем:
|
||||
- собирает образ из рабочего дерева и применяет миграции;
|
||||
с override `student-tests/failures.compose.yml`: свои PostgreSQL, Valkey и
|
||||
S3 со своими volumes, порты хранилищ не публикуются. Затем:
|
||||
- собирает образ из рабочего дерева, применяет миграции и bootstrap S3;
|
||||
- запускает два контейнера API: обычный и «тесный» (сроки сессии и ключа
|
||||
идемпотентности 2 с, пул из одного соединения);
|
||||
- прогоняет тесты с маркером `fault` (`pytest -m fault`), передав им hook
|
||||
@@ -13,7 +13,7 @@
|
||||
`fix-known-issues`);
|
||||
- удаляет стенд вместе с volume при любом исходе, в том числе по Ctrl+C.
|
||||
|
||||
Рабочий стенд, его база и кэш не затрагиваются. Только stdlib. Решения
|
||||
Рабочий стенд, его база, кэш и хранилище объектов не затрагиваются. Только stdlib. Решения
|
||||
1, 2, 5 design change `failure-checks`. Запускается `$(PYTHON)`, а не
|
||||
`uv run`, по той же причине, что `run_isolated.py`.
|
||||
"""
|
||||
@@ -257,10 +257,21 @@ def main() -> int:
|
||||
try:
|
||||
say("build image")
|
||||
dc(project, "build", "api")
|
||||
say("start postgres and valkey")
|
||||
dc(project, "up", "-d", "--wait", "postgres", "valkey")
|
||||
say("start postgres, valkey and s3")
|
||||
dc(project, "up", "-d", "--wait", "postgres", "valkey", "s3")
|
||||
say("migrations")
|
||||
dc(project, "run", "--rm", "migrate")
|
||||
# --wait одноразовый сервис считает готовым уже запущенным: код
|
||||
# выхода bootstrap — отдельным up, как make start_s3
|
||||
say("s3 bootstrap")
|
||||
dc(
|
||||
project,
|
||||
"up",
|
||||
"--no-deps",
|
||||
"--exit-code-from",
|
||||
"s3-bootstrap",
|
||||
"s3-bootstrap",
|
||||
)
|
||||
say("start api containers")
|
||||
base_url = start_api(project, default_name, free_port(), {})
|
||||
tight_url = start_api(project, tight_name, free_port(), TIGHT_ENV)
|
||||
|
||||
@@ -7,8 +7,11 @@
|
||||
балансировщика, тесты реплик пропускаются), затем удаляет контейнер и
|
||||
базу — при любом исходе, в том числе по Ctrl+C. Рабочая база и рабочие
|
||||
контейнеры стенда не трогаются. Valkey стенда общий: ключи кэша включают имя базы, и
|
||||
карточки тестового прогона не смешиваются с рабочими. Только stdlib:
|
||||
всё через docker compose и make. Решение 12 design change
|
||||
карточки тестового прогона не смешиваются с рабочими. S3 стенда тоже
|
||||
общий: ключи объектов начинаются с имени базы, и префикс `test_<db>/`
|
||||
bucket удаляется в начале (хвост прошлого прогона) и в уборке через
|
||||
`weed shell` в контейнере `s3` (design change `s3-storage`, решение 9).
|
||||
Только stdlib: всё через docker compose и make. Решение 12 design change
|
||||
`postgres-storage`.
|
||||
|
||||
Запускается напрямую `$(PYTHON)`, как проверки skeleton, а не через
|
||||
@@ -32,6 +35,12 @@ from pathlib import Path
|
||||
ROOT = Path(__file__).resolve().parents[1]
|
||||
ENV_FILE = ROOT / ".env"
|
||||
DB_NAME_RE = re.compile(r"^[a-z0-9_]+$")
|
||||
# префикс объектов S3 собирается только из такого имени временной базы:
|
||||
# ошибка в имени не может удалить рабочий префикс
|
||||
TEST_DB_NAME_RE = re.compile(r"^test_[a-z0-9_]+$")
|
||||
# как S3_BUCKET_NAME_PATTERN в src/utils/constants.py
|
||||
BUCKET_NAME_RE = re.compile(r"^[a-z0-9][a-z0-9.-]{1,61}[a-z0-9]$")
|
||||
DEFAULT_BUCKET = "messenger"
|
||||
READY_TIMEOUT_S = 60
|
||||
LOG_TAIL_LINES = 50
|
||||
|
||||
@@ -101,6 +110,33 @@ def drop_database(name: str) -> None:
|
||||
psql(f'DROP DATABASE IF EXISTS "{name}" WITH (FORCE);\n')
|
||||
|
||||
|
||||
def object_prefix(bucket: str, test_db: str) -> str:
|
||||
"""Путь filer префикса `test_<db>/` в bucket; другое имя — отказ."""
|
||||
if not TEST_DB_NAME_RE.fullmatch(test_db):
|
||||
raise ValueError(f"not a test database name: {test_db}")
|
||||
if not BUCKET_NAME_RE.fullmatch(bucket):
|
||||
raise ValueError(f"invalid bucket name: {bucket}")
|
||||
return f"/buckets/{bucket}/{test_db}"
|
||||
|
||||
|
||||
def remove_objects(prefix: str) -> None:
|
||||
"""Удалить объекты под префиксом временной базы; его отсутствие — не
|
||||
ошибка. `weed shell` в контейнере `s3`: ключ подписи — в его
|
||||
окружении, master и filer — на его loopback."""
|
||||
run(
|
||||
"docker",
|
||||
"compose",
|
||||
"exec",
|
||||
"-T",
|
||||
"s3",
|
||||
"sh",
|
||||
"-c",
|
||||
"exec weed shell -master=127.0.0.1:9333",
|
||||
stdin=f"fs.rm -r {prefix}\n",
|
||||
quiet=True,
|
||||
)
|
||||
|
||||
|
||||
def remove_container(name: str) -> None:
|
||||
run("docker", "rm", "-f", name, check=False, quiet=True)
|
||||
|
||||
@@ -143,14 +179,24 @@ def main() -> int:
|
||||
if not DB_NAME_RE.fullmatch(test_db):
|
||||
say(f"unsupported database name: {test_db}")
|
||||
return 2
|
||||
try:
|
||||
prefix = object_prefix(env.get("S3__BUCKET", DEFAULT_BUCKET), test_db)
|
||||
except ValueError as e:
|
||||
say(str(e))
|
||||
return 2
|
||||
port = env["TEST_APP_PORT"]
|
||||
app_port = env.get("APP__PORT", "8080")
|
||||
container = f"{compose_project()}-test-api"
|
||||
base_url = f"http://127.0.0.1:{port}"
|
||||
|
||||
say(f"database={test_db} container={container} base_url={base_url}")
|
||||
say(
|
||||
f"database={test_db} objects={prefix}/ container={container} "
|
||||
f"base_url={base_url}",
|
||||
)
|
||||
remove_container(container)
|
||||
drop_database(test_db)
|
||||
say(f"remove objects {prefix}/")
|
||||
remove_objects(prefix)
|
||||
|
||||
results: dict[str, int] = {}
|
||||
failed = True
|
||||
@@ -224,9 +270,11 @@ def main() -> int:
|
||||
remove_container(container)
|
||||
try:
|
||||
if args.keep_db:
|
||||
say(f"kept database {test_db}")
|
||||
say(f"kept database {test_db} and objects {prefix}/")
|
||||
else:
|
||||
drop_database(test_db)
|
||||
say(f"remove objects {prefix}/")
|
||||
remove_objects(prefix)
|
||||
except subprocess.CalledProcessError as e:
|
||||
say(f"cleanup failed: {e}")
|
||||
results["cleanup"] = 1
|
||||
|
||||
@@ -1,7 +1,7 @@
|
||||
"""Проверки отказов: выполняет только `make failure_checks` (маркер `fault`).
|
||||
|
||||
Стенд и hook готовит `student-tests/run_failures.py`: свои Postgres и
|
||||
Valkey, обычный API (`BASE_URL`) и «тесный» (сроки сессии и ключа
|
||||
Стенд и hook готовит `student-tests/run_failures.py`: свои Postgres,
|
||||
Valkey и S3, обычный API (`BASE_URL`) и «тесный» (сроки сессии и ключа
|
||||
идемпотентности 2 с, пул из одного соединения). На хранилища тесты действуют только через фикстуру
|
||||
`stand` (hook `student-tests/fault_hook.py`) и всегда возвращают их в
|
||||
рабочее состояние. Решение 4 design change `failure-checks`.
|
||||
@@ -42,6 +42,9 @@ IDEMPOTENCY_TTL_S = 2
|
||||
POOL_TIMEOUT_S = 1
|
||||
# срок проверки Postgres в /health/ready
|
||||
READINESS_TIMEOUT_S = 2
|
||||
# health без S3: проверка к S3 не обращается, ответ быстрее секунды (спек
|
||||
# health, «Хранилище объектов недоступно»); срок вызова S3 — 5 с
|
||||
OBJECT_STORAGE_HEALTH_S = 1
|
||||
# сколько секунд hook держит слоты max_connections; clear-connections
|
||||
# освобождает их раньше
|
||||
FILL_HOLD_S = 30
|
||||
@@ -349,6 +352,15 @@ def test_readiness_without_cache(api: Api, stand: Stand) -> None:
|
||||
assert api.request("GET", "/health/ready").status_code == 200
|
||||
|
||||
|
||||
@pytest.mark.spec("health", "Хранилище объектов недоступно")
|
||||
def test_readiness_without_object_storage(api: Api, stand: Stand) -> None:
|
||||
with outage(stand, "stop", "s3"):
|
||||
for path in ("/health/ready", "/health/live"):
|
||||
resp, took = timed(lambda path=path: api.request("GET", path))
|
||||
assert assert_ok(resp, 200, "Health") == {"status": "ok"}
|
||||
assert took < OBJECT_STORAGE_HEALTH_S, f"{path} took {took:.2f}s"
|
||||
|
||||
|
||||
# ---------------------------------------------------------------------------
|
||||
# Кэш карточки чата
|
||||
# ---------------------------------------------------------------------------
|
||||
|
||||
@@ -11,6 +11,92 @@ wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/72/15/504337e302d070bd2ff2f39418bb17d2ad73c662c403a4f37cb4e5c5b237/agent_detector-2.0.0-py3-none-any.whl", hash = "sha256:22c6a1c9c23894a12f55aea625f060b8d3330fba774de72d02d5442bb580417f", size = 9352, upload-time = "2026-09-02T14:19:50.971Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "aiobotocore"
|
||||
version = "3.9.2"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
dependencies = [
|
||||
{ name = "aiohttp" },
|
||||
{ name = "aioitertools" },
|
||||
{ name = "botocore" },
|
||||
{ name = "jmespath" },
|
||||
{ name = "multidict" },
|
||||
{ name = "python-dateutil" },
|
||||
{ name = "wrapt" },
|
||||
]
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/a5/95/4f7e0453d5e81bdb1b40ecf09f135bb88e12ce27fdb3efa125022dcca5d7/aiobotocore-3.9.2.tar.gz", hash = "sha256:8e32238c5bd77717ab1ac90077ff51ab141d025528115ccc7cc9b50b2d176e5f", size = 524343, upload-time = "2026-10-01T02:01:59.522Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/09/ab/c8f982c4dfaab49200e31820a4ffe6275356f7dcaaa1024735d8f8b4e048/aiobotocore-3.9.2-py3-none-any.whl", hash = "sha256:363b4892423b272eb84afbb58000da0be6ccd0cf8a68b98438c957d05b841efc", size = 102571, upload-time = "2026-10-01T02:01:57.883Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "aiohappyeyeballs"
|
||||
version = "2.7.1"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/ce/f4/eec0465c2f67b2664688d0240b3212d5196fd89e741df67ddb81f8d35658/aiohappyeyeballs-2.7.1.tar.gz", hash = "sha256:065665c041c42a5938ed220bdcd7230f22527fbec085e1853d2402c8a3615d9d", size = 24757, upload-time = "2026-07-01T17:11:55.501Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/71/43/1947f06babed6b3f1d7f38b0c767f52df66bfb2bc10b468c4a7de9eceff2/aiohappyeyeballs-2.7.1-py3-none-any.whl", hash = "sha256:9243213661e29250eb41368e5daa826fc017156c3b8a11440826b2e3ed376472", size = 15038, upload-time = "2026-07-01T17:11:54.055Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "aiohttp"
|
||||
version = "3.14.5"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
dependencies = [
|
||||
{ name = "aiohappyeyeballs" },
|
||||
{ name = "aiosignal" },
|
||||
{ name = "attrs" },
|
||||
{ name = "frozenlist" },
|
||||
{ name = "multidict" },
|
||||
{ name = "propcache" },
|
||||
{ name = "typing-extensions" },
|
||||
{ name = "yarl" },
|
||||
]
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/6c/4c/bdccd81e9ee225b69c60e7766c9a5b05364f118f4d383713b89a682d772d/aiohttp-3.14.5.tar.gz", hash = "sha256:5558a7f5a05af9ecf744af91e5baefc436f93c9333e656c27ec253f9a6bbe178", size = 8078052, upload-time = "2026-10-11T01:05:12.408Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/d5/94/6ba86efddcb616c811b40e6a0dfdd862738f647e4e3860a961075d5e9ed8/aiohttp-3.14.5-cp312-cp312-macosx_10_13_universal2.whl", hash = "sha256:df37b620684e19b5e25724412518ccafc3b1a49cdac706fdbd2f983fad943450", size = 817499, upload-time = "2026-10-11T01:00:18.901Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/5e/e1/7bca6d84dabd228aa8eb4b7f9feac2586aaa9be5505d7d65bf287a615c43/aiohttp-3.14.5-cp312-cp312-macosx_10_13_x86_64.whl", hash = "sha256:ef60869969180ec2464f1349aff07138ae35ca2200f0946cb3552e49e8f301a8", size = 549467, upload-time = "2026-10-11T01:00:20.854Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/64/91/11b89f45ca486252dd67dd5f3231fec04bf5518da39a95cb3997619f17fb/aiohttp-3.14.5-cp312-cp312-macosx_11_0_arm64.whl", hash = "sha256:d079c0a0135c36e7beb6f1c88087c8f108dc5891cdd0b5eafa778421bda70ed2", size = 548067, upload-time = "2026-10-11T01:00:22.659Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/22/ff/c6615806c14aab34f82b9424ccde8ce6e417315fd57ce1c5b4d4747888e1/aiohttp-3.14.5-cp312-cp312-manylinux2014_aarch64.manylinux_2_17_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:abfda5cb094a829f7bc25216a32f7db2e85cc65bd59910f8e7b40b3d9b224764", size = 1896245, upload-time = "2026-10-11T01:00:24.638Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/39/b2/25a8c971ae6a92c8394d77e42422d7f38989e05cf41a5ceb92d73d67ab7e/aiohttp-3.14.5-cp312-cp312-manylinux2014_armv7l.manylinux_2_17_armv7l.manylinux_2_31_armv7l.whl", hash = "sha256:9cc882cf8619109583c906b4d4a85d6a111a98afa34b7a450d1e08118d016820", size = 1872180, upload-time = "2026-10-11T01:00:26.838Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/2f/d5/99f93ea36cc5205e47c1e5a803e087f2ad21b5430b5db2e942cb6e988a37/aiohttp-3.14.5-cp312-cp312-manylinux2014_ppc64le.manylinux_2_17_ppc64le.manylinux_2_28_ppc64le.whl", hash = "sha256:7457580535e019e1247ea35d6a02bf081ad30c26d0cbc210c93f6c3ab67a0835", size = 1937261, upload-time = "2026-10-11T01:00:28.74Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/40/a6/9ac9c9e6695040bd73d2584a1b59a9388f6433c76d5294a7bf591e21ffe5/aiohttp-3.14.5-cp312-cp312-manylinux2014_s390x.manylinux_2_17_s390x.manylinux_2_28_s390x.whl", hash = "sha256:c5ed596aedb9c42afd3fe0aae3117725378ac73d2cc5ddc735056fbdb96c5d02", size = 2064994, upload-time = "2026-10-11T01:00:30.623Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/da/e4/aa172eb534b7f02f1f8ff1c3213347eaf3cf218db91a727c6863c22f1035/aiohttp-3.14.5-cp312-cp312-manylinux2014_x86_64.manylinux_2_17_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:20f085697d7e911f1f73c43ed03fafbed1e7121797e2eb5428efa80398060584", size = 1919630, upload-time = "2026-10-11T01:00:32.548Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/06/7d/4eedafc5bababa8932636c141e346806966eade12c0b7e5946d43bf8218b/aiohttp-3.14.5-cp312-cp312-manylinux_2_31_riscv64.manylinux_2_39_riscv64.whl", hash = "sha256:74b0a9c8270f9b0a11410e124ff8d4f18bfc1f1837440ec84da5ae7b50927b5d", size = 1710016, upload-time = "2026-10-11T01:00:34.471Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/b2/94/eee018537ba19da0ceb2ac79cab83faed4ac49568e08376e2799043f2538/aiohttp-3.14.5-cp312-cp312-musllinux_1_2_aarch64.whl", hash = "sha256:19e2ba471507c34f8252402ab50f5ab512398b9ea8c8f1cb26beb3f75793ba30", size = 1858112, upload-time = "2026-10-11T01:00:36.581Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/68/76/354653a306547238f3427283905972d796ba7c292ba9977abec9f2b6f260/aiohttp-3.14.5-cp312-cp312-musllinux_1_2_armv7l.whl", hash = "sha256:d418ce2af40c6bb685b3f663e9e8de27cb0a22431d8e88a167348d7f01878073", size = 1896371, upload-time = "2026-10-11T01:00:38.478Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/f2/ec/63e8c7136b570e356345ad3174e3820fdc973ea10712cb6c649bf875755a/aiohttp-3.14.5-cp312-cp312-musllinux_1_2_ppc64le.whl", hash = "sha256:70cb4008ac2ed1e0ca9e824deb4b53d3aa0d939109698ebf1e723a84337bd794", size = 1905836, upload-time = "2026-10-11T01:00:40.527Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/57/d8/11365bda144b127928cd42533d0eff78a55613c9e28f81941bd6630ea887/aiohttp-3.14.5-cp312-cp312-musllinux_1_2_riscv64.whl", hash = "sha256:a23fe35d776bc03cb495938b9594450d047e3bc08c5255315a82323e9cb7d2dd", size = 1696534, upload-time = "2026-10-11T01:00:42.686Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/2f/3d/82df0461b18e00b2998f205c03e0d3010222478c43640aceb8e03dcd7e8f/aiohttp-3.14.5-cp312-cp312-musllinux_1_2_s390x.whl", hash = "sha256:3e0eb43bed3c6801a6cee315195377789e90b2a72c2277a475b578535312488d", size = 1933970, upload-time = "2026-10-11T01:00:44.71Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/03/ad/6ddfe0aacd931c17b53533336d97e9d11a98b96d6ae815a9da0b19f82ccf/aiohttp-3.14.5-cp312-cp312-musllinux_1_2_x86_64.whl", hash = "sha256:3be7dd397d64ca3e1869626fa9318aaebb54b7bf93bc72d7a205448d83e4f748", size = 1899501, upload-time = "2026-10-11T01:00:46.629Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/9e/8e/189bdd9ae4793059bb09f6dc880f211a6c6c7859cebcbf33912dbfab7dd7/aiohttp-3.14.5-cp312-cp312-win32.whl", hash = "sha256:eb324e2009fb54db30a071dad7caf6998ee2879c4704007efb244514dad1fec1", size = 480370, upload-time = "2026-10-11T01:00:48.468Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/ae/ce/1f08114679d49655b30a6e0a29858375c94b82c1de1a0bd0a20c2fee8b02/aiohttp-3.14.5-cp312-cp312-win_amd64.whl", hash = "sha256:2cc38a4f2b516bef1714e690df87a0e043faf1a7693c82d860091684453d5111", size = 506141, upload-time = "2026-10-11T01:00:50.272Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/79/d4/c7b4f60b16a1b7e43249fa9031ae05e7e8c341ba4b7d1866f914dafeaa0e/aiohttp-3.14.5-cp312-cp312-win_arm64.whl", hash = "sha256:a63afd1f757de949028387e65a7127b61ad0f775432dbb0e62816ae619fe69ac", size = 488108, upload-time = "2026-10-11T01:00:52.321Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/68/30/173960c42b05a6c59f7558e4b12a4b0d9ba376cf6aa9bde7f9e08a30ca8d/aiohttp-3.14.5-py3-none-any.whl", hash = "sha256:efc21a454892828368b11c2c780de0ff8bc991f73f6b99c6b66e56205470929b", size = 279517, upload-time = "2026-10-11T01:05:08.523Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "aioitertools"
|
||||
version = "0.13.0"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/fd/3c/53c4a17a05fb9ea2313ee1777ff53f5e001aefd5cc85aa2f4c2d982e1e38/aioitertools-0.13.0.tar.gz", hash = "sha256:620bd241acc0bbb9ec819f1ab215866871b4bbd1f73836a55f799200ee86950c", size = 19322, upload-time = "2025-11-06T22:17:07.609Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/10/a1/510b0a7fadc6f43a6ce50152e69dbd86415240835868bb0bd9b5b88b1e06/aioitertools-0.13.0-py3-none-any.whl", hash = "sha256:0be0292b856f08dfac90e31f4739432f4cb6d7520ab9eb73e143f4f2fa5259be", size = 24182, upload-time = "2025-11-06T22:17:06.502Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "aiosignal"
|
||||
version = "1.4.0"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
dependencies = [
|
||||
{ name = "frozenlist" },
|
||||
{ name = "typing-extensions" },
|
||||
]
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/61/62/06741b579156360248d1ec624842ad0edf697050bbaf7c3e46394e106ad1/aiosignal-1.4.0.tar.gz", hash = "sha256:f47eecd9468083c2029cc99945502cb7708b082c232f9aca65da147157b251c7", size = 25007, upload-time = "2025-07-03T22:54:43.528Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/fb/76/641ae371508676492379f16e2fa48f4e2c11741bd63c48be4b12a6b09cba/aiosignal-1.4.0-py3-none-any.whl", hash = "sha256:053243f8b92b990551949e63930a839ff0cf0b0ebbe0597b0f3fb19e1a0fe82e", size = 7490, upload-time = "2025-07-03T22:54:42.156Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "alembic"
|
||||
version = "1.20.0"
|
||||
@@ -136,6 +222,20 @@ wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/94/51/f975cae76d44274cc2868dc9040ac5d58d464784610234455b4e7b19c6ef/black-26.5.1-py3-none-any.whl", hash = "sha256:4ed7f7da04046d2e488437170797d3b4a4ad83906683bcb7dfc68b673bbce5e2", size = 213693, upload-time = "2026-05-18T16:53:33.964Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "botocore"
|
||||
version = "1.43.106"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
dependencies = [
|
||||
{ name = "jmespath" },
|
||||
{ name = "python-dateutil" },
|
||||
{ name = "urllib3" },
|
||||
]
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/11/b9/10ca68d0092895d5ea60f485a61a9840d5aff9d732c66ed60da53a20b1d4/botocore-1.43.106.tar.gz", hash = "sha256:006870b3b4e40547232ad12c3bb4faec91bbbe0659aafaa3b7fa48a112c4ee97", size = 16271399, upload-time = "2026-09-30T19:36:35.836Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/a8/eb/c51d3b54dfaa9267a687359d946dc2a1ca6a27fb4d381773e59b7bd72bf4/botocore-1.43.106-py3-none-any.whl", hash = "sha256:c1fb8818f9957cb5037f73db34ac1a12ba43562e31d6e7f9cb7e5fc64e1dba78", size = 15965506, upload-time = "2026-09-30T19:36:32.625Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "certifi"
|
||||
version = "2026.7.22"
|
||||
@@ -380,6 +480,31 @@ wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/7a/6d/db8b86e168fef0cf904737e275bccb683558088ef971e92d3b41ce980699/filelock-4.0.3-py3-none-any.whl", hash = "sha256:30cd166e2aee2c7534ce2c33c6367c4cd051b8368e20e2c4eb0c34f699bacfab", size = 108444, upload-time = "2026-09-23T23:40:20.819Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "frozenlist"
|
||||
version = "1.8.0"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/2d/f5/c831fac6cc817d26fd54c7eaccd04ef7e0288806943f7cc5bbf69f3ac1f0/frozenlist-1.8.0.tar.gz", hash = "sha256:3ede829ed8d842f6cd48fc7081d7a41001a56f1f38603f9d49bf3020d59a31ad", size = 45875, upload-time = "2025-10-06T05:38:17.865Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/69/29/948b9aa87e75820a38650af445d2ef2b6b8a6fab1a23b6bb9e4ef0be2d59/frozenlist-1.8.0-cp312-cp312-macosx_10_13_universal2.whl", hash = "sha256:78f7b9e5d6f2fdb88cdde9440dc147259b62b9d3b019924def9f6478be254ac1", size = 87782, upload-time = "2025-10-06T05:36:06.649Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/64/80/4f6e318ee2a7c0750ed724fa33a4bdf1eacdc5a39a7a24e818a773cd91af/frozenlist-1.8.0-cp312-cp312-macosx_10_13_x86_64.whl", hash = "sha256:229bf37d2e4acdaf808fd3f06e854a4a7a3661e871b10dc1f8f1896a3b05f18b", size = 50594, upload-time = "2025-10-06T05:36:07.69Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/2b/94/5c8a2b50a496b11dd519f4a24cb5496cf125681dd99e94c604ccdea9419a/frozenlist-1.8.0-cp312-cp312-macosx_11_0_arm64.whl", hash = "sha256:f833670942247a14eafbb675458b4e61c82e002a148f49e68257b79296e865c4", size = 50448, upload-time = "2025-10-06T05:36:08.78Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/6a/bd/d91c5e39f490a49df14320f4e8c80161cfcce09f1e2cde1edd16a551abb3/frozenlist-1.8.0-cp312-cp312-manylinux1_x86_64.manylinux_2_28_x86_64.manylinux_2_5_x86_64.whl", hash = "sha256:494a5952b1c597ba44e0e78113a7266e656b9794eec897b19ead706bd7074383", size = 242411, upload-time = "2025-10-06T05:36:09.801Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/8f/83/f61505a05109ef3293dfb1ff594d13d64a2324ac3482be2cedc2be818256/frozenlist-1.8.0-cp312-cp312-manylinux2014_aarch64.manylinux_2_17_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:96f423a119f4777a4a056b66ce11527366a8bb92f54e541ade21f2374433f6d4", size = 243014, upload-time = "2025-10-06T05:36:11.394Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/d8/cb/cb6c7b0f7d4023ddda30cf56b8b17494eb3a79e3fda666bf735f63118b35/frozenlist-1.8.0-cp312-cp312-manylinux2014_armv7l.manylinux_2_17_armv7l.manylinux_2_31_armv7l.whl", hash = "sha256:3462dd9475af2025c31cc61be6652dfa25cbfb56cbbf52f4ccfe029f38decaf8", size = 234909, upload-time = "2025-10-06T05:36:12.598Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/31/c5/cd7a1f3b8b34af009fb17d4123c5a778b44ae2804e3ad6b86204255f9ec5/frozenlist-1.8.0-cp312-cp312-manylinux2014_ppc64le.manylinux_2_17_ppc64le.manylinux_2_28_ppc64le.whl", hash = "sha256:c4c800524c9cd9bac5166cd6f55285957fcfc907db323e193f2afcd4d9abd69b", size = 250049, upload-time = "2025-10-06T05:36:14.065Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/c0/01/2f95d3b416c584a1e7f0e1d6d31998c4a795f7544069ee2e0962a4b60740/frozenlist-1.8.0-cp312-cp312-manylinux2014_s390x.manylinux_2_17_s390x.manylinux_2_28_s390x.whl", hash = "sha256:d6a5df73acd3399d893dafc71663ad22534b5aa4f94e8a2fabfe856c3c1b6a52", size = 256485, upload-time = "2025-10-06T05:36:15.39Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/ce/03/024bf7720b3abaebcff6d0793d73c154237b85bdf67b7ed55e5e9596dc9a/frozenlist-1.8.0-cp312-cp312-musllinux_1_2_aarch64.whl", hash = "sha256:405e8fe955c2280ce66428b3ca55e12b3c4e9c336fb2103a4937e891c69a4a29", size = 237619, upload-time = "2025-10-06T05:36:16.558Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/69/fa/f8abdfe7d76b731f5d8bd217827cf6764d4f1d9763407e42717b4bed50a0/frozenlist-1.8.0-cp312-cp312-musllinux_1_2_armv7l.whl", hash = "sha256:908bd3f6439f2fef9e85031b59fd4f1297af54415fb60e4254a95f75b3cab3f3", size = 250320, upload-time = "2025-10-06T05:36:17.821Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/f5/3c/b051329f718b463b22613e269ad72138cc256c540f78a6de89452803a47d/frozenlist-1.8.0-cp312-cp312-musllinux_1_2_ppc64le.whl", hash = "sha256:294e487f9ec720bd8ffcebc99d575f7eff3568a08a253d1ee1a0378754b74143", size = 246820, upload-time = "2025-10-06T05:36:19.046Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/0f/ae/58282e8f98e444b3f4dd42448ff36fa38bef29e40d40f330b22e7108f565/frozenlist-1.8.0-cp312-cp312-musllinux_1_2_s390x.whl", hash = "sha256:74c51543498289c0c43656701be6b077f4b265868fa7f8a8859c197006efb608", size = 250518, upload-time = "2025-10-06T05:36:20.763Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/8f/96/007e5944694d66123183845a106547a15944fbbb7154788cbf7272789536/frozenlist-1.8.0-cp312-cp312-musllinux_1_2_x86_64.whl", hash = "sha256:776f352e8329135506a1d6bf16ac3f87bc25b28e765949282dcc627af36123aa", size = 239096, upload-time = "2025-10-06T05:36:22.129Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/66/bb/852b9d6db2fa40be96f29c0d1205c306288f0684df8fd26ca1951d461a56/frozenlist-1.8.0-cp312-cp312-win32.whl", hash = "sha256:433403ae80709741ce34038da08511d4a77062aa924baf411ef73d1146e74faf", size = 39985, upload-time = "2025-10-06T05:36:23.661Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/b8/af/38e51a553dd66eb064cdf193841f16f077585d4d28394c2fa6235cb41765/frozenlist-1.8.0-cp312-cp312-win_amd64.whl", hash = "sha256:34187385b08f866104f0c0617404c8eb08165ab1272e884abc89c112e9c00746", size = 44591, upload-time = "2025-10-06T05:36:24.958Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/a7/06/1dc65480ab147339fecc70797e9c2f69d9cea9cf38934ce08df070fdb9cb/frozenlist-1.8.0-cp312-cp312-win_arm64.whl", hash = "sha256:fe3c58d2f5db5fbd18c2987cba06d51b0529f52bc3a6cdc33d3f4eab725104bd", size = 40102, upload-time = "2025-10-06T05:36:26.333Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/9a/9a/e35b4a917281c0b8419d4207f4334c8e8c5dbf4f3f5f9ada73958d937dcc/frozenlist-1.8.0-py3-none-any.whl", hash = "sha256:0c18a16eab41e82c295618a77502e17b195883241c563b00f0aa5106fc4eaa0d", size = 13409, upload-time = "2025-10-06T05:38:16.721Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "greenlet"
|
||||
version = "3.5.6"
|
||||
@@ -498,6 +623,15 @@ wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/62/a1/3d680cbfd5f4b8f15abc1d571870c5fc3e594bb582bc3b64ea099db13e56/jinja2-3.1.6-py3-none-any.whl", hash = "sha256:85ece4451f492d0c13c5dd7c13a64681a86afae63a5f347908daf103ce6d2f67", size = 134899, upload-time = "2025-03-05T20:05:00.369Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "jmespath"
|
||||
version = "1.1.0"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/d3/59/322338183ecda247fb5d1763a6cbe46eff7222eaeebafd9fa65d4bf5cb11/jmespath-1.1.0.tar.gz", hash = "sha256:472c87d80f36026ae83c6ddd0f1d05d4e510134ed462851fd5f754c8c3cbb88d", size = 27377, upload-time = "2026-01-22T16:35:26.279Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/14/2f/967ba146e6d58cf6a652da73885f52fc68001525b4197effc174321d70b4/jmespath-1.1.0-py3-none-any.whl", hash = "sha256:a5663118de4908c91729bea0acadca56526eb2698e83de10cd116ae0f4e97c64", size = 20419, upload-time = "2026-01-22T16:35:24.919Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "jsonschema"
|
||||
version = "4.26.0"
|
||||
@@ -611,6 +745,7 @@ name = "mtusi-messenger"
|
||||
version = "0.1.0"
|
||||
source = { editable = "." }
|
||||
dependencies = [
|
||||
{ name = "aiobotocore" },
|
||||
{ name = "alembic" },
|
||||
{ name = "argon2-cffi" },
|
||||
{ name = "asyncpg" },
|
||||
@@ -640,6 +775,7 @@ dev = [
|
||||
|
||||
[package.metadata]
|
||||
requires-dist = [
|
||||
{ name = "aiobotocore", specifier = ">=3.9.2,<4" },
|
||||
{ name = "alembic", specifier = ">=1.20.0,<2" },
|
||||
{ name = "argon2-cffi", specifier = ">=25.1.0,<26" },
|
||||
{ name = "asyncpg", specifier = ">=0.31.0,<0.32" },
|
||||
@@ -664,6 +800,35 @@ dev = [
|
||||
{ name = "pytest", specifier = ">=9.1.1,<10" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "multidict"
|
||||
version = "6.9.1"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/d6/99/1d4d69c3512d0ddbfa3a1b69cfd9a151012ab2eb4eabbb096201b1f0b7d8/multidict-6.9.1.tar.gz", hash = "sha256:0f06e60fa190aa7abd0914c2a766736fdc8e9f34878c4346338534b73d1b20e2", size = 182404, upload-time = "2026-09-21T17:59:05.362Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/d9/0d/4b5afb6d3e545c9af0cdfe2db8f6f4c6664568c23d863d888674e447e6a4/multidict-6.9.1-cp312-cp312-macosx_10_13_universal2.whl", hash = "sha256:29138fef49828542e859828107e42e50d0e587c513b7eb4b2d92bade2b0860fe", size = 98360, upload-time = "2026-09-21T17:55:11.508Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/89/ab/1b9ca66251899981b21138b87da9d5a9c2c81af12b1ea7d19466972f7fe2/multidict-6.9.1-cp312-cp312-macosx_10_13_x86_64.whl", hash = "sha256:19e31815d41cefc365489e591d105d2baceb2f65aa75d29471fbdbda8651e006", size = 59979, upload-time = "2026-09-21T17:55:12.866Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/36/eb/6ae44062466c26c8469ef43f2481a6a48d8cea0587b2d54514ec92e2adfd/multidict-6.9.1-cp312-cp312-macosx_11_0_arm64.whl", hash = "sha256:6ed30be8918e18c8bed0a2e8b70639ecf02feb61ed00ca2e41cfcb2a50fa3f42", size = 57736, upload-time = "2026-09-21T17:55:14.223Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/b9/5c/a67817593019257a4ac8b0d1b4c426030e637c047b0692ef405439ecea7a/multidict-6.9.1-cp312-cp312-manylinux1_i686.manylinux_2_28_i686.manylinux_2_5_i686.whl", hash = "sha256:637f4ae36264bd7b8d9a60193acddc1d735ad52e8ed53a19931ea6d921fea8e5", size = 333097, upload-time = "2026-09-21T17:55:15.591Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/90/bf/599ae2e6222822d88a247a8a7ae82fe6fd25d5700757b79603d5edafe6a0/multidict-6.9.1-cp312-cp312-manylinux2014_aarch64.manylinux_2_17_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:35fc236507fb1b3138f0af5ecd5f94ed752d4d6d826248eae425f86204013eea", size = 334196, upload-time = "2026-09-21T17:55:17.015Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/15/10/d8aac5acacbe7f5c117866c776ec26d5f15a868759b6f37ad8e7ed3b5b02/multidict-6.9.1-cp312-cp312-manylinux2014_armv7l.manylinux_2_17_armv7l.manylinux_2_31_armv7l.whl", hash = "sha256:e58952f04772f59f11c6e007471449809a30165188669bca8fdb19dde40a8f24", size = 317465, upload-time = "2026-09-21T17:55:18.412Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/19/0a/714f796f7293a8b1c5c3f465a26996231d5450c54e85d64ef1258c091134/multidict-6.9.1-cp312-cp312-manylinux2014_ppc64le.manylinux_2_17_ppc64le.manylinux_2_28_ppc64le.whl", hash = "sha256:d35a4f1c63f07fbb8c8f9946dea98b21eddf6c57421585f71d91864be3ba2a24", size = 345914, upload-time = "2026-09-21T17:55:20.306Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/da/b1/e37fbf769c567be277bcf32df6234035a4384677fcc1bd852752be3d6b93/multidict-6.9.1-cp312-cp312-manylinux2014_s390x.manylinux_2_17_s390x.manylinux_2_28_s390x.whl", hash = "sha256:b5f8771aaaed7f80e84a4e471d2f29ab6721e4595075e54d03ae1ed951b2000a", size = 351163, upload-time = "2026-09-21T17:55:22.21Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/ed/5b/db08419c1e1f7c9d60cfd2787b2b517d7ae4ebbda8281b48a33eb5141467/multidict-6.9.1-cp312-cp312-manylinux2014_x86_64.manylinux_2_17_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:976fd7689d69ec78d67d31d38d396d8adb562f7e8368279f76aed4aa451fa06d", size = 336881, upload-time = "2026-09-21T17:55:23.699Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/9b/07/cc9bc8a62651d2d53ab93ee4993b3a71b7cb78eb8ebfc9c757a5b6698617/multidict-6.9.1-cp312-cp312-manylinux_2_31_riscv64.manylinux_2_39_riscv64.whl", hash = "sha256:95052e8777a86bae87c0bd0b5ab22d809e3d1d02bf69e3e66ddda5ba75a05805", size = 303405, upload-time = "2026-09-21T17:55:25.305Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/b6/0c/8e912afafa70e944dbb8bec4b66ca6e008511395278c0d3dd0e89567536a/multidict-6.9.1-cp312-cp312-musllinux_1_2_aarch64.whl", hash = "sha256:1a8adfcaf96f587ab138476eaddef95f29b8a2a8a9afbfea8d2fd62180995d02", size = 324265, upload-time = "2026-09-21T17:55:26.989Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/66/6a/62c2af80fb085e6234805017af857b8e913dfac7a55e9c1349c27768c58a/multidict-6.9.1-cp312-cp312-musllinux_1_2_armv7l.whl", hash = "sha256:1a53de2772cfb74559df2eb4456ec4eeb908435ec55a84b69370d9d745d62aa8", size = 322085, upload-time = "2026-09-21T17:55:28.732Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/f8/6b/35bf801b336fd960811207203ffdcdc24acc3558b3e7ff2e1c914b141e70/multidict-6.9.1-cp312-cp312-musllinux_1_2_i686.whl", hash = "sha256:0f2ce963299d42fa3f22a90adc0fdf174792ffef5ff4c7ffb68260548fb05580", size = 338107, upload-time = "2026-09-21T17:55:30.303Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/80/41/495ef65bf5bba29d142d81b3fe1b8154b919bed70e96491b1e93c3c26f0f/multidict-6.9.1-cp312-cp312-musllinux_1_2_ppc64le.whl", hash = "sha256:5b30ddf7234e611ca877575b62840e6af5977f92f1f9d532eedbb05a44ff8004", size = 339631, upload-time = "2026-09-21T17:55:32.012Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/19/bd/057fdff5f4e04dcd40a960e38f77d19d3c4b67dd243ffa5f43718edb29fc/multidict-6.9.1-cp312-cp312-musllinux_1_2_riscv64.whl", hash = "sha256:63ada7ee2e9345695f9e9bc4c65d72222253f07b1ac94fd0e37555cc6f3c7f60", size = 302080, upload-time = "2026-09-21T17:55:33.817Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/3f/de/9ace933ee8dad808632523726f42255b09600087219e3d4ead7369820910/multidict-6.9.1-cp312-cp312-musllinux_1_2_s390x.whl", hash = "sha256:3c95601ed98fad3f6e2f8fe809c3b526b0fab31ef525e00a155e227f3d17f58a", size = 341107, upload-time = "2026-09-21T17:55:35.471Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/d8/ac/7c1204406097bfc5c283d4a3287d61166807d189917567df4c1318484fc4/multidict-6.9.1-cp312-cp312-musllinux_1_2_x86_64.whl", hash = "sha256:c148e8b596000dd3e4bfe206e70f3e666be18d72032e0012555f2373c52e35d6", size = 333482, upload-time = "2026-09-21T17:55:37.002Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/ff/c0/a70c32ea3299ebe00f44533740cb46905717c51faf29bbd3ce8bb5886d9d/multidict-6.9.1-cp312-cp312-win32.whl", hash = "sha256:f9dad513626a33670f17cddc6078e30e311f444c957e8dbfc5b2b4603c8b4edb", size = 52548, upload-time = "2026-09-21T17:55:38.529Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/d7/2e/8c9c2591df01e5692ad1bf92febb082a17b1c6c3a19aa8b7ff49988fd989/multidict-6.9.1-cp312-cp312-win_amd64.whl", hash = "sha256:a16a1dc8529f9e734a41c3b856f3eae7ebacdc061dde3f8a844e0c7889c97203", size = 59622, upload-time = "2026-09-21T17:55:39.86Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/d0/95/59f4472ec512bc180fd207899594c7803ece96262ff9aaa3a4b6d7da6940/multidict-6.9.1-cp312-cp312-win_arm64.whl", hash = "sha256:361f7206cf341ba94fb015688f5c8b480f8e63bd58a4c14a48aeca7851a241cc", size = 54930, upload-time = "2026-09-21T17:55:41.155Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/be/59/e26cb779be4c591d1a910f59d29aca9fba4de70349840a833beba2652371/multidict-6.9.1-py3-none-any.whl", hash = "sha256:7bf6478188f4e47bf5686e8a33da4ae28bf43b1b2528d9ee144d28492bfac60b", size = 19176, upload-time = "2026-09-21T17:59:03.501Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "mypy-extensions"
|
||||
version = "1.1.0"
|
||||
@@ -772,6 +937,32 @@ wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/45/e2/bbb7129c9e7999a6b8ee9cca3b66486c25c423ab5a75f34071798b74ce94/pre_commit-4.6.2-py2.py3-none-any.whl", hash = "sha256:e2dde9a75d3bce11bd3831c26d134df00a2803c1d818be6a0383c3dcda25dc4e", size = 226202, upload-time = "2026-08-10T22:07:16.942Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "propcache"
|
||||
version = "0.5.4"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/b3/9a/9fbf4e4ec0c2d7f1c32519fff782ef467859b8faa9fbc5331a96f6395d43/propcache-0.5.4.tar.gz", hash = "sha256:ff6b113f50bc066a698db5d944d2c6dc7507168dd3341e255a8892fd0715a558", size = 61545, upload-time = "2026-09-16T00:17:14.386Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/71/cd/348d58f142aebc4873345c6b31087629182ca6e0f2b3caeaa528cf882eba/propcache-0.5.4-cp312-cp312-macosx_10_13_universal2.whl", hash = "sha256:b28f41fa3b8c6900457f858ec5b03998f3a6d535fbc1bb2edec5961ea05ec429", size = 87285, upload-time = "2026-09-16T00:14:29.362Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/df/f4/f3ffaee281b276da854ac1d7a6a506d26cbc62ea2e623756f1d0a4a1ba1a/propcache-0.5.4-cp312-cp312-macosx_10_13_x86_64.whl", hash = "sha256:dcbf346a318a5e30063f547630b02bb787ce2f45b6368d5da143660b6a3835d8", size = 50984, upload-time = "2026-09-16T00:14:30.473Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/25/88/1d7df7201750b37765ef2b23bc1c526c028dadde80afa0f57a118fc01182/propcache-0.5.4-cp312-cp312-macosx_11_0_arm64.whl", hash = "sha256:87a3caecf8095e48dc72f84bfa42e23a848cf410cc9cc13031fba4869b706a21", size = 52460, upload-time = "2026-09-16T00:14:31.692Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/83/4f/48865bd02a16ee5236bc46166b2946f37b93e07b0eae355dac0be0b216ca/propcache-0.5.4-cp312-cp312-manylinux2014_aarch64.manylinux_2_17_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:60a64cbccaa11b7760ce705a14ada17ba459e7ca9f23ba587eb013821032d7ef", size = 251768, upload-time = "2026-09-16T00:14:32.908Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/b0/19/3742a5eed62317b03b4002ee865dc9fd720308bdd0da1f29a5786c630311/propcache-0.5.4-cp312-cp312-manylinux2014_ppc64le.manylinux_2_17_ppc64le.manylinux_2_28_ppc64le.whl", hash = "sha256:a74bfa37147cc08fb29df10bd9c16f40fa7f860cd3a6d2fff853323a94f6e17f", size = 257723, upload-time = "2026-09-16T00:14:34.267Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/cb/d5/ee6350fb0be9122bb6c67082a876d34b90d980d100c106af4b81023e04f4/propcache-0.5.4-cp312-cp312-manylinux2014_s390x.manylinux_2_17_s390x.manylinux_2_28_s390x.whl", hash = "sha256:a4d7a54719b67338a305dca2ce6aafe366817df94ddfd4b5514374356f5ca546", size = 265597, upload-time = "2026-09-16T00:14:35.56Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/85/9f/83a07b6ec0e043c050cfdd35fb0cf1b7897b91d554d6eea293740309afe7/propcache-0.5.4-cp312-cp312-manylinux2014_x86_64.manylinux_2_17_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:2814ecd8e818f487bee4b0f921bc4d1c176cc5fc71ac0f072d0fa67eda4ac14b", size = 250424, upload-time = "2026-09-16T00:14:36.894Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/33/2c/a763a8251f50fba042af0fb1f02bfec4b31381e40aff760db2be7b2e1f84/propcache-0.5.4-cp312-cp312-manylinux_2_31_riscv64.manylinux_2_39_riscv64.whl", hash = "sha256:6af4693716bfb03f1752ef1b30faa593db2c01d5272e9b8564a1549452a979ab", size = 216748, upload-time = "2026-09-16T00:14:38.369Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/6a/e2/4d11bea8fd6a777149c6c20645f873952eab5de3a2497aa11648ec9ab6ab/propcache-0.5.4-cp312-cp312-musllinux_1_2_aarch64.whl", hash = "sha256:4fbc1a15dc8cd1689508758d626b372b1f09d28d9577667feaf9e6bfcd8efcbc", size = 246533, upload-time = "2026-09-16T00:14:39.82Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/9f/36/6683597de4907e70c717e3588c541202c66086a72ff3db58be49de66e72c/propcache-0.5.4-cp312-cp312-musllinux_1_2_armv7l.whl", hash = "sha256:cdee8205a44d0be91bbac4c41b95d86641b72dfc7aef1279400e4fda3f26a937", size = 238173, upload-time = "2026-09-16T00:14:41.259Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/85/84/cb08d79f1762daafeb2b030c470cd0c725c97b8ad67412457c6f35c53e9d/propcache-0.5.4-cp312-cp312-musllinux_1_2_ppc64le.whl", hash = "sha256:9a2a8a50a93dee0268a860a07fa3b4bd968f8ce4dbd794957da772f395368526", size = 251128, upload-time = "2026-09-16T00:14:42.652Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/c2/0d/41b848036db6621370c1f2e5471a7da8149c730f8552a5257567721f4576/propcache-0.5.4-cp312-cp312-musllinux_1_2_riscv64.whl", hash = "sha256:7ffafcbfc7b549ab940047e505c831eabac5e67de53e1bc174adbc5285c55944", size = 214821, upload-time = "2026-09-16T00:14:44.112Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/f1/b7/adfae4bf9c63bccf12e2d9690a175c6579047a6eec3b5a6a5f51428c15e2/propcache-0.5.4-cp312-cp312-musllinux_1_2_s390x.whl", hash = "sha256:d1f5a500bfcbb2c0ab85e98a0dcd70f5899d34efe365a0187700369a79603031", size = 254793, upload-time = "2026-09-16T00:14:45.429Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/51/6f/eeca9647245d5f92e87d53e5f14335bb42fce1a7e6842c8045b364eded8b/propcache-0.5.4-cp312-cp312-musllinux_1_2_x86_64.whl", hash = "sha256:8a235f73d6e020855dc29dff012d920c02ee0feab8d73a24185a7569f4be1161", size = 247134, upload-time = "2026-09-16T00:14:46.976Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/5d/a9/424e38838793d37160b4379c702f61c74c598fc6cd17204adbe3c554f7a8/propcache-0.5.4-cp312-cp312-win32.whl", hash = "sha256:b3083bfe87f95c756e610bd8025f26cbd1cd4aaa03a422f2d65efb7a97cd53d8", size = 43073, upload-time = "2026-09-16T00:14:48.338Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/58/7b/6e8ef26f6d510a7916064fec68d55fcbfbdf7eb01e377480d66a122152d8/propcache-0.5.4-cp312-cp312-win_amd64.whl", hash = "sha256:98914de2c4d7f0f9f4a8c6ea4bf05841f4175796941e3ef7d47eb718f22311fb", size = 46190, upload-time = "2026-09-16T00:14:49.99Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/08/b9/72028c5b56ced97f456de6aefa79435ca64d7f77af78ea8cf3c76fc5195f/propcache-0.5.4-cp312-cp312-win_arm64.whl", hash = "sha256:8876b39961e33d912afe3c1bee18ee564fdad0206f873cc15d522756b7f50737", size = 43075, upload-time = "2026-09-16T00:14:51.155Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/f5/cd/785c64ed382f3f04201870267b02783f63b4678c2acfddc177a3ebcc2727/propcache-0.5.4-py3-none-any.whl", hash = "sha256:62c60aec739ed00124573cce1178138fd690c7676352d67a37328c1cf51d7468", size = 16338, upload-time = "2026-09-16T00:17:13.106Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "pycparser"
|
||||
version = "3.0"
|
||||
@@ -883,6 +1074,18 @@ wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/24/25/1de2678b631f5a49215c6c96fff41ba892b0a34df68d6d80292b1b48aa7f/pytest-9.1.1-py3-none-any.whl", hash = "sha256:37a86b45efb9a47a61a36449063e8e18d0cab3161329fc099eb21783169c4f0c", size = 386536, upload-time = "2026-06-19T10:58:31.347Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "python-dateutil"
|
||||
version = "2.9.0.post0"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
dependencies = [
|
||||
{ name = "six" },
|
||||
]
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/66/c0/0c8b6ad9f17a802ee498c46e004a0eb49bc148f2fd230864601a86dcf6db/python-dateutil-2.9.0.post0.tar.gz", hash = "sha256:37dd54208da7e1cd875388217d5e00ebd4179249f90fb72437e91a35459a0ad3", size = 342432, upload-time = "2024-03-01T18:36:20.211Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/ec/57/56b9bcc3c9c6a792fcbaf139543cee77261f3651ca9da0c93f5c1221264b/python_dateutil-2.9.0.post0-py2.py3-none-any.whl", hash = "sha256:a8b2bc7bffae282281c8140a97d3aa9c14da0b136dfe83f850eea9a5f7470427", size = 229892, upload-time = "2024-03-01T18:36:18.57Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "python-discovery"
|
||||
version = "1.6.1"
|
||||
@@ -1324,3 +1527,54 @@ wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/97/3d/91954e2f7876f74ce1213e9b92c65a63b559cc4b942a931ebeb351cd9932/websockets-17.1-cp312-cp312-win_arm64.whl", hash = "sha256:9f4a08ff7cb68c27b18e09223cc6304e01d0f82d5a240d251266dfd2e6e44729", size = 217711, upload-time = "2026-08-26T14:56:09.267Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/41/63/23572870e01836a98346075b9e17a8bc24a6ddd9800a3204ceee58677f3c/websockets-17.1-py3-none-any.whl", hash = "sha256:f221081107b8c48184d99f7019604486376e7ef826037e70aad6b02540732c23", size = 211134, upload-time = "2026-08-26T17:25:31.397Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "wrapt"
|
||||
version = "2.5.1"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/04/22/89e2f3bdae5cb34e0cab0cd86d7172dbf418de4b46c9b17b9c7a560dfa44/wrapt-2.5.1.tar.gz", hash = "sha256:f595bb0185aab3e9dc31950c95d914f56ea8278810c3b928f3426e12ed6d27bc", size = 184455, upload-time = "2026-10-14T00:39:39.24Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/66/9b/c7f97d5493a33b5ed01d3c85745f9bdfdd2e5c2785471b8d8b55a3c273d6/wrapt-2.5.1-cp312-cp312-macosx_10_13_x86_64.whl", hash = "sha256:6e3eff05ae616671b40d7ad0a504210329e4adc9fb91415663570aca93c5f5cc", size = 106452, upload-time = "2026-10-14T00:37:18.951Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/7f/b0/335b0af2930938678fcde954b29780b26308961b93df5e0192fc182e8b7e/wrapt-2.5.1-cp312-cp312-macosx_11_0_arm64.whl", hash = "sha256:c44dd9881626da7d621c23805f26726f6b023cf3e9755f48d092bc9cbef4a8e7", size = 106087, upload-time = "2026-10-14T00:37:20.392Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/4a/5a/2a34ba5a468e9d3d6e5b0733280e1ae3c850bfc5f1d681fc0e97f564d1f2/wrapt-2.5.1-cp312-cp312-manylinux1_x86_64.manylinux_2_28_x86_64.manylinux_2_5_x86_64.whl", hash = "sha256:bfaa998ceeea4d0aa72b40cdd0023d19409504e244b439ff2aa9f01729341c5f", size = 250438, upload-time = "2026-10-14T00:37:21.882Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/b3/d5/3d4ad322af74d3ab2a14f69ba844cdd3edefb555edfc1c1976ec0112d5c4/wrapt-2.5.1-cp312-cp312-manylinux2014_aarch64.manylinux_2_17_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:d6d274ec50a5b208be75596dc44ea253e65deaa6ee3a600babc86dafbb957dfc", size = 250594, upload-time = "2026-10-14T00:37:23.497Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/37/1a/3cbf48425ec2c66aa9645218458da1e19e315abb9766604d3c49e579076c/wrapt-2.5.1-cp312-cp312-manylinux_2_31_riscv64.manylinux_2_39_riscv64.whl", hash = "sha256:1a96e2671c60f9f09ae547b5a815cecb29af16caa68d73693387d0028788cb32", size = 229856, upload-time = "2026-10-14T00:37:25.029Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/cc/e7/b2ea57f4c51258659200565af8617d76992b0fe65e6aad7162dd5720ef05/wrapt-2.5.1-cp312-cp312-musllinux_1_2_aarch64.whl", hash = "sha256:729d644b6acaf4846a4ef81b037857b66a01dea6d227f827c6d71c0b6d656d6c", size = 247153, upload-time = "2026-10-14T00:37:26.67Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/9d/c1/4714743e672ed1084a035a2a4f0edeef7838399753b4856a0dc46ef9487d/wrapt-2.5.1-cp312-cp312-musllinux_1_2_riscv64.whl", hash = "sha256:859f67bfc31eb7ab55f237b629cd4ab0441b075912446481f910f7d02066811e", size = 226726, upload-time = "2026-10-14T00:37:28.425Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/91/e3/c00401bcc3485eb9937c3fe4a1cc8fc3b61800b1378ea3a143ea1c30f6f6/wrapt-2.5.1-cp312-cp312-musllinux_1_2_x86_64.whl", hash = "sha256:29b62e87fcd6a1893f669abfd02a596a7fc5cfa79fa57e42c4e650a6c170c67b", size = 238843, upload-time = "2026-10-14T00:37:30.075Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/76/b5/c16759fb0721e63df92b576c2222ce1f11690a8b300fd91b49c55436865c/wrapt-2.5.1-cp312-cp312-win32.whl", hash = "sha256:f1c911818fb076910ef509f2298dfcb966a54a6ff068eebd459632102cf589fb", size = 100488, upload-time = "2026-10-14T00:37:31.625Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/22/d5/39d5a704650f18799f37841442b464edb81cf2015f006eaef26068acc6ea/wrapt-2.5.1-cp312-cp312-win_amd64.whl", hash = "sha256:c39c7130ea0702c4ab0faf12da1df1e02d5174305c17edf02309e2f058c4114f", size = 106048, upload-time = "2026-10-14T00:37:33.188Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/21/bf/65743adeeb5476920c62dad6cded7bc8789e19bd4f9a336d4ac812adb8de/wrapt-2.5.1-cp312-cp312-win_arm64.whl", hash = "sha256:e089a22ff5af1290b8c759a610830bdb2a829ef9c3d7797e4ee32c2f795ed482", size = 103200, upload-time = "2026-10-14T00:37:34.673Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/bc/0c/7da7513ddcc8f1d831ec4bfbedc9f7f174ecb91042bc16916fc1e0d06b22/wrapt-2.5.1-py3-none-any.whl", hash = "sha256:c6e6c226b1ca5402d7ae5fb34a0d21f1b49124fe4200e5884d1e19e53c47ac1d", size = 81849, upload-time = "2026-10-14T00:39:37.441Z" },
|
||||
]
|
||||
|
||||
[[package]]
|
||||
name = "yarl"
|
||||
version = "1.25.1"
|
||||
source = { registry = "https://pypi.org/simple" }
|
||||
dependencies = [
|
||||
{ name = "idna" },
|
||||
{ name = "multidict" },
|
||||
{ name = "propcache" },
|
||||
]
|
||||
sdist = { url = "https://files.pythonhosted.org/packages/75/16/e8be8e2fb175bbf41a0680381a319f1199fae256588241a2ac8677eafb49/yarl-1.25.1.tar.gz", hash = "sha256:03dd38de09bc213e9a8b29761eec33ee1d5318dac0e49d8af36e4d27830e23a7", size = 246245, upload-time = "2026-09-15T19:35:02.264Z" }
|
||||
wheels = [
|
||||
{ url = "https://files.pythonhosted.org/packages/75/b3/cd32ac66ae622b854c2df0ac52106dda220d361b65a64fde7d5b3684aa3f/yarl-1.25.1-cp312-cp312-macosx_10_13_universal2.whl", hash = "sha256:94d7aa6debf92a1dd14cb5280b083a764169a13cfb23a452111160274ed989f4", size = 144798, upload-time = "2026-09-15T19:31:01.821Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/61/fb/a2c52a8007c2051ba74662afb112ecf3d00346af4c25e33df9d80fd14fb8/yarl-1.25.1-cp312-cp312-macosx_10_13_x86_64.whl", hash = "sha256:83d4a37e4b95da4d8bda930d6d35b75b4cdadbacbb4980cae290ea3100b5d51d", size = 104583, upload-time = "2026-09-15T19:31:04.05Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/be/dd/ee38aec8e09fdf957e50d4085453fbe202f56c6c3b4cf07b81cdb4f09ee9/yarl-1.25.1-cp312-cp312-macosx_11_0_arm64.whl", hash = "sha256:e029648f9c951db30e98a7d7ec90835db88ec4b32820efe2a9bdc2287e032eb6", size = 104325, upload-time = "2026-09-15T19:31:06.338Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/1e/b3/058dbfb1857b484c9cf9cc135659f50b85ce66e03c99e44dc2f7b6161f55/yarl-1.25.1-cp312-cp312-manylinux2014_aarch64.manylinux_2_17_aarch64.manylinux_2_28_aarch64.whl", hash = "sha256:4d781294bb815ecb5ea57ff6bbf8038e0a31a95fdf3e1788f66e0dc100d64b58", size = 115358, upload-time = "2026-09-15T19:31:08.593Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/db/39/29693446cf0cf6b15a0e2f75a5d40f93c56819b05b0622196f45e95b5cc0/yarl-1.25.1-cp312-cp312-manylinux2014_armv7l.manylinux_2_17_armv7l.manylinux_2_31_armv7l.whl", hash = "sha256:e12c538e00e7c1b286a07061046b90e8124e6a9793efae2c70db6a4aad07faad", size = 107658, upload-time = "2026-09-15T19:31:10.802Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/86/b3/3c4dd7e1af43b931fba95e0a722737f2ea94a6d199c802585282831d7abd/yarl-1.25.1-cp312-cp312-manylinux2014_ppc64le.manylinux_2_17_ppc64le.manylinux_2_28_ppc64le.whl", hash = "sha256:7e4de3ac4adbad3d0bc7c6f4360a7dbff5de2f15e3b723be3198074e17fd9c40", size = 122660, upload-time = "2026-09-15T19:31:12.84Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/bd/b5/1b60dbc3cfc9c5712b15148c206748f2bc93953ffdbe25ea75b63dfc89c9/yarl-1.25.1-cp312-cp312-manylinux2014_s390x.manylinux_2_17_s390x.manylinux_2_28_s390x.whl", hash = "sha256:419f392a1da624877975709e3864dfe833af6cc7671b39318086d456e288380c", size = 126506, upload-time = "2026-09-15T19:31:15.088Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/bc/7b/ca212cbe170ac8b96e45317ecbcf9c3c3ecf0cdec98d5b088a9c4088929b/yarl-1.25.1-cp312-cp312-manylinux2014_x86_64.manylinux_2_17_x86_64.manylinux_2_28_x86_64.whl", hash = "sha256:c6f117789d22dce188e5754e8bc65b7e6ebf8cb73963b9fa761f672a5883769d", size = 117050, upload-time = "2026-09-15T19:31:17.241Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/cb/c3/72b4938cdbe619ad71ac156182faef4908846b84dc3ca4dbb4c4e6f84014/yarl-1.25.1-cp312-cp312-manylinux_2_31_riscv64.manylinux_2_39_riscv64.whl", hash = "sha256:80e47012e730da131c9f059c80936783f9659aae22dc31c03c0595590d11ed54", size = 114174, upload-time = "2026-09-15T19:31:19.294Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/e8/43/268717870f9ba0cc9701a95181587f6dc8c5f387aab4aeecc83158f38a79/yarl-1.25.1-cp312-cp312-musllinux_1_2_aarch64.whl", hash = "sha256:e80f557716fd765439577131e526b8942ffc2c07bdbc5e39fa62f660ba1e963f", size = 114944, upload-time = "2026-09-15T19:31:21.414Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/da/84/baa5bf504d51fe062c4bcaf62936da97fffb43285978d0b39984824231fd/yarl-1.25.1-cp312-cp312-musllinux_1_2_armv7l.whl", hash = "sha256:f61964f235a43738bfac50da46fc4254943a7eea3051aeb0b6fc7c992c29fadc", size = 108263, upload-time = "2026-09-15T19:31:23.388Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/a4/28/779a2ed9e0152a601a27039bed9aead3f0b79797a67e2c44bfa444622dd8/yarl-1.25.1-cp312-cp312-musllinux_1_2_ppc64le.whl", hash = "sha256:e546fe1d4a93ebc2910f0d768baff19faa09843ab3f2036a67ed6e69fae4419d", size = 122184, upload-time = "2026-09-15T19:31:25.343Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/f8/1f/118e9e5b8f07694d63fd3222e801d7782270003f1a222aa798df3f8d5933/yarl-1.25.1-cp312-cp312-musllinux_1_2_riscv64.whl", hash = "sha256:cce0727fd5ac04d372fa9bbfde9febc2bcf209aadfcf0468e45dec72719895d1", size = 114001, upload-time = "2026-09-15T19:31:27.465Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/0f/ae/a4cf1cf372313734b17996d4007f9f73596e7a178b9485802e5494ecf484/yarl-1.25.1-cp312-cp312-musllinux_1_2_s390x.whl", hash = "sha256:af4ea5b37403ef4e30f3927eaed540db942bde01d8d3ff083527c0704d1c9c68", size = 120565, upload-time = "2026-09-15T19:31:29.47Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/05/79/ad94f93ca731bc9e44d321833ab96b82a4f9f5f63cf773f81a4aeea5ecc1/yarl-1.25.1-cp312-cp312-musllinux_1_2_x86_64.whl", hash = "sha256:68782fdb4027b8d1eee25ec35e9a6db05e863b899eb0310b3a33b6c3fef55707", size = 117060, upload-time = "2026-09-15T19:31:31.367Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/bb/cc/51a7b4abf4ac593b8e7eb3794b28e5a35ae26eed8bc04787628d215af82f/yarl-1.25.1-cp312-cp312-win_amd64.whl", hash = "sha256:7d575b54cb3863ef9bc290ea4b009999d55dc237326131e4853cf33e888fee03", size = 102593, upload-time = "2026-09-15T19:31:33.329Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/9d/21/0941a6b93a58b59a1ec75e5333bf06929b671309c43c0cd201c172d9c39f/yarl-1.25.1-cp312-cp312-win_arm64.whl", hash = "sha256:bc3ac7bf569f6b64dad04dd7808c7872dae8a97df657856eac05e9b7e3614a85", size = 97697, upload-time = "2026-09-15T19:31:35.855Z" },
|
||||
{ url = "https://files.pythonhosted.org/packages/54/22/318c7980066769c6bcd9221ed2248294f5698811da099013098c670565ed/yarl-1.25.1-py3-none-any.whl", hash = "sha256:681c758b0490f9e96b78e5fa8e8dc6e648e9185bb6eaebe73183c33ea0c445f3", size = 63617, upload-time = "2026-09-15T19:34:59.616Z" },
|
||||
]
|
||||
|
||||
Reference in New Issue
Block a user