diff --git a/REPORT.md b/REPORT.md index ed2ac07c..323fea4d 100644 --- a/REPORT.md +++ b/REPORT.md @@ -42,7 +42,7 @@ migrate (одноразовый) ──data──> postgres: миграции 00 | Роль | Service | Образ | Health / readiness | Volume | Сеть / порт | Credentials | CPU / RAM | | --- | --- | --- | --- | --- | --- | --- | --- | -| Точка входа | `lb` | `haproxy:3.2.26-alpine@sha256:254e6370…` | `haproxy -c` + stats; бэкенды — активная проверка `/health/ready` | — | edge; `127.0.0.1:8080`, `127.0.0.1:8404` (stats) | нет | 1.0 / 128m | +| Точка входа | `lb` | `haproxy:3.2.26-alpine@sha256:254e6370…` | `haproxy -c` + stats; бэкенды — активная проверка `/health/ready` | — | edge; `127.0.0.1:8080` и `[::1]:8080` (loopback, см. ниже), `127.0.0.1:8404` (stats) | нет | 1.0 / 128m | | API × 2 | `api` (`deploy.replicas`) | `mtusi-messenger:lab3` из исходников | Docker: `/health/ready` 2 с; LB: своя проверка | — | edge + data, только `expose 8080` | secrets `database_url`, `cache_url` | 1.0 / 256m каждая | | Миграции | `migrate` | тот же образ | exit 0 | — | data | secret `database_url` | 0.5 / 256m | | БД | `postgres` | `postgres:18.6-bookworm@sha256:afc7e2d4…` | `pg_isready` | `pgdata` | data (internal) | secret `postgres_password` | 2.0 / 1g | @@ -57,6 +57,7 @@ migrate (одноразовый) ──data──> postgres: миграции 00 - **`X-Instance-Id`** = hostname контейнера (короткий container ID): стабилен для процесса, однозначно сопоставляется контейнеру (`docker inspect`), что использует `scripts/stop-one.sh`. Middleware ставит его и `X-Request-Id` на **каждый** ответ API, включая 404/405/413/500/503. Ошибки, созданные самим HAProxy, — без `X-Instance-Id` (их создал не API), но в формате контракта и с тем же `X-Request-Id`. - **Общая идемпотентность** ([0002](migrations/0002_idempotency_keys.sql), [0003](migrations/0003_post_message_function.sql), [repo.py](src/messenger/repo.py), [app.py](src/messenger/app.py)). Таблица `idempotency_keys (user_id, chat_id, key)` → SHA-256 канонического тела → `message_id`. Ключ, часы чата, сообщение и «результат» — **одна транзакция**; отдельного pending-состояния нет, поэтому сбой не оставляет «висящий» ключ, а транзиентная 5xx не фиксируется. Конкурентный повтор ждёт на уникальном индексе завершения первой транзакции и затем видит её результат (READ COMMITTED). Тот же ключ и тело → тот же 201 и Message; другое тело → 409; постороннему — 404 всегда (членство проверяется до ключа); `attachment_ids: []` = отсутствие поля, порядок ключей JSON не важен. Ключи хранятся ≥ 24 ч, старше — очищаются пачками раз в 10 мин под advisory-замком. - **Миграции** — только сервис `migrate`, до старта реплик; 0002 и 0003 только добавляют объекты и совместимы с работающей предыдущей версией (rolling update: сначала миграция новым образом, затем замена реплик). +- **Порты только на loopback.** LB опубликован на `127.0.0.1` и `[::1]`. На Windows `localhost` сначала разрешается в `::1`, и отказ соединения по нему стоил ~2 с на **каждый** запрос (измерено: 2,0 с против 0,007 с). Публичные тесты по умолчанию ходят на `http://localhost:8080`, и в первом прогоне из чистого clone `make test-failover` из-за этого успел сделать лишь 8 записей за 15 с. После исправления — 0,013 с. - **Сети.** `edge` (lb, api) и internal `data` (api, migrate, postgres, valkey): LB не видит хранилища, у хранилищ нет выхода наружу. Secrets — каждому сервису только свои (проверяется тестом по `docker compose config`). - **Дефект, найденный на lab3-сценарии рецензента.** Если одной реплике отключить сеть `data`, по дедлайну задача psycopg отменялась, psycopg слал cancel-запрос, а libpq `PQcancelStart` синхронно резолвит имя хоста **в потоке event loop** — вся реплика, включая `/health/live`, зависала примерно на минуту и не возвращалась сама. Теперь по дедлайну запрос сразу получает 503, а задача не отменяется и завершается сама; мёртвые соединения рвёт TCP keepalive + `tcp_user_timeout` = 3 с ([db.py](src/messenger/db.py)). Повторная проверка: live отвечает за 0,00 с, ready 503 за 1,0 с, после восстановления сети реплика сама UP за ~2 с (тест `test_lb_stops_routing_…[network]`). - **Улучшение трека 1** — запись сообщения одним вызовом SQL-функции `post_message` (подробно в треке); прежний путь доступен как `MESSAGE_WRITE_PATH=multi`, оба проходят одни и те же тесты. diff --git a/compose.yaml b/compose.yaml index 9e41512f..b8cc3a80 100644 --- a/compose.yaml +++ b/compose.yaml @@ -5,7 +5,7 @@ # docker compose --env-file .env up -d --build --wait # Order: postgres/valkey healthy -> migrate (ONE run, exits 0) -> api replicas healthy -> lb. # Images are pinned by version AND digest. Passwords are passed only as secret files, and -# every service gets only the secrets it needs. Only the LB publishes ports (127.0.0.1 only). +# every service gets only the secrets it needs. Only the LB publishes ports (loopback only). # Two networks: `edge` (lb <-> api) and `data` (api/migrate <-> postgres/valkey, internal): # the LB cannot reach the stores, and the stores are not reachable from the edge. name: mtusi-lab3 @@ -143,7 +143,11 @@ services: volumes: - ./infra/haproxy/haproxy.cfg:/usr/local/etc/haproxy/haproxy.cfg:ro ports: - - "127.0.0.1:${APP_PUBLISH_PORT:-8080}:8080" # the ONLY public entry point + # The ONLY public entry point, on the loopback interfaces only. Both IPv4 and IPv6: + # on Windows `localhost` resolves to ::1 first, and a refused ::1 connection costs ~2 s + # per request before the fallback to 127.0.0.1 (measured: 2.0 s vs 0.007 s). + - "127.0.0.1:${APP_PUBLISH_PORT:-8080}:8080" + - "[::1]:${APP_PUBLISH_PORT:-8080}:8080" - "127.0.0.1:${LB_STATS_PORT:-8404}:8404" # local status page (UP/DOWN of replicas) healthcheck: # Config is valid and the process answers; whether any API is ready is the LB's own job. diff --git a/scripts/collect_evidence.py b/scripts/collect_evidence.py index e7ffe856..cab54f1d 100644 --- a/scripts/collect_evidence.py +++ b/scripts/collect_evidence.py @@ -119,7 +119,13 @@ def main() -> int: # 4. failover: until BOTH replicas have been the stopped one (each run is a real public test) log = Log("test-failover.txt", "make test-failover with scripts/stop-one: which container is really stopped, restore, repeat") stopped: set[str] = set() + import urllib.request for attempt in range(1, 7): + # The public test stops the replica that served its first POST; its request sequence is + # fixed, so with round robin it hits the same replica every time. Shift the rotation by + # (attempt - 1) extra requests so that the other replica becomes the target as well. + for _ in range(attempt - 1): + urllib.request.urlopen("http://127.0.0.1:8080/health/live", timeout=5).read() before = {r for r in states() if "-api-" in r and " running " in r} log.note(f"--- run {attempt}; running API replicas BEFORE:\n" + "\n".join(sorted(before))) log.run([make, "test-failover", f"ACTION_SCRIPT=scripts/stop-one{HOOK}", f"PYTHON={MAKE_PY}"], diff --git a/student-tests/test_balancing.py b/student-tests/test_balancing.py index f9ad850d..c3d14a1b 100644 --- a/student-tests/test_balancing.py +++ b/student-tests/test_balancing.py @@ -289,7 +289,7 @@ def test_compose_policy_limits_ports_secrets_images(): assert "@sha256:" in svc["image"], f"{name}: image must be pinned by digest" assert services["api"]["deploy"]["replicas"] >= 2 and not services["api"].get("ports") published = {name: svc.get("ports", []) for name, svc in services.items() if svc.get("ports")} - assert set(published) == {"lb"} and all(p["host_ip"] == "127.0.0.1" for p in published["lb"]) + assert set(published) == {"lb"} and all(p["host_ip"] in ("127.0.0.1", "::1") for p in published["lb"]) secrets = {name: sorted(s["source"] for s in svc.get("secrets", [])) for name, svc in services.items()} assert secrets == {"postgres": ["postgres_password"], "valkey": ["valkey_password"], "migrate": ["database_url"], "api": ["cache_url", "database_url"], "lb": []} @@ -310,7 +310,7 @@ def test_running_containers_have_limits_and_no_bypass_ports(): assert item["HostConfig"]["NanoCpus"] > 0 and item["HostConfig"]["Memory"] > 0, name bindings = item["HostConfig"]["PortBindings"] or {} if "-lb-" in name: - assert all(b["HostIp"] == "127.0.0.1" for v in bindings.values() for b in v) + assert all(b["HostIp"] in ("127.0.0.1", "::1") for v in bindings.values() for b in v) # loopback only else: assert not bindings, f"{name} publishes ports in bypass of the LB"