16 KiB
Сводка проверок
| Шаг | Что проверяет | Результат | Время, с | Файл |
|---|---|---|---|---|
| check | offline contract check (make check) | PASS | 0 | evidence/check.txt |
| smoke | public smoke over HTTPS (make test CA_FILE=...) with telemetry ON, with attachment | PASS | 2 | evidence/smoke.txt |
| security | lab7 public: trusted HTTPS works, empty trust store fails verification (make test-security) | PASS | 0 | evidence/security.txt |
| tls-matrix | lab7: every trust-matrix link from inside — allowed identity passes, no cert / foreign CA / wrong identity / expired fail | PASS | 1 | evidence/tls-matrix.txt |
| least-privilege | lab7: each service identity vs PostgreSQL grants, S3 prefixes, OpenBao policies, Redis ACL | PASS | 3 | evidence/least-privilege.txt |
| lab7-security | lab7: HTTPS only, headers, outsider ACL, logout, shared login rate limit, size limits, Argon2id, rehash, no credential leaks | PASS | 4 | evidence/lab7-security.txt |
| leak-check | lab7: password/token/Authorization absent in container logs, Loki, Tempo traces, Prometheus labels | PASS | 21 | evidence/leak-check.txt |
| argon2-bench | lab7: Argon2id cost inside the api container for candidate parameters | PASS | 7 | evidence/argon2-bench.txt |
| lifecycle-rotate-secret | lab7: Redis password of api rotated via OpenBao under load, old one revoked | PASS | 18 | evidence/lifecycle-rotate-secret.txt |
| lifecycle-rotate-leaf | lab7: LB leaf rotated (HAProxy reload), old leaf revoked via CRL, rejected by API | PASS | 22 | evidence/lifecycle-rotate-leaf.txt |
| lifecycle-token-expiry | lab7: OpenBao token TTL 20 s / max 40 s + revoke: services re-login with their cert | PASS | 103 | evidence/lifecycle-token-expiry.txt |
| lifecycle-sealed | lab7: sealed OpenBao: running replicas serve, restarted replica not ready until unseal | PASS | 86 | evidence/lifecycle-sealed.txt |
| jobs-variants | lab5: thumbnail/crop/optimized, EXIF orientation, alpha, no upscale, metadata stripped | PASS | 10 | evidence/jobs-variants.txt |
| jobs-limits | lab5: worker limits - bytes, pixels, memory (RLIMIT_AS), time (JOB_TIMEOUT_SECONDS) | PASS | 67 | evidence/jobs-limits.txt |
| jobs-recovery | lab5: worker down -> 202 -> restart api+broker -> ready; broker down -> outbox waits | PASS | 31 | evidence/jobs-recovery.txt |
| jobs-outbox | lab5: dispatcher crash between COMMIT and publish / after confirm | PASS | 7 | evidence/jobs-outbox.txt |
| jobs-crash | lab5: worker crash after S3 PUT / after COMMIT before ack, staging cleanup, frozen worker lease | PASS | 133 | evidence/jobs-crash.txt |
| jobs-retry | lab5: backoff+jitter, retry_exhausted, replay, permanent errors, DLQ | PASS | 45 | evidence/jobs-retry.txt |
| jobs-janitor-replay | lab5: janitor does not delete objects re-written by replay (review fix) | PASS | 172 | evidence/jobs-janitor-replay.txt |
| jobs-concurrency | lab5: WORKER_CONCURRENCY consumers, prefetch 1, bounded processing | PASS | 6 | evidence/jobs-concurrency.txt |
| attachments | lab4: files, limits, damaged images, MIME, filenames, access, attachment_ids | PASS | 14 | evidence/attachments.txt |
| consistency | lab4: aborted upload, crash between S3 and DB, janitor, orphans, S3 outage | PASS | 95 | evidence/consistency.txt |
| balancing | balancing, shared sessions/data/files, X-Instance-Id | PASS | 3 | evidence/balancing.txt |
| idempotency | Idempotency-Key, parallel same key via replicas | PASS | 4 | evidence/idempotency.txt |
| student-tests | lab1/lab2 API tests via the balancer | PASS | 5 | evidence/student-tests.txt |
| race | lab2 races via the balancer | PASS | 3 | evidence/race.txt |
| db | PostgreSQL: rollback, FK, Argon2id, unique keys, migrations | PASS | 7 | evidence/db.txt |
| redis | Redis as the session store | PASS | 1 | evidence/redis.txt |
| explain | EXPLAIN of the history page (full plans: explain-history.txt) | PASS | 1 | evidence/explain.txt |
| failover | public failover test for every replica, file downloaded via the other one (make test-failover) | PASS | 41 | evidence/failover.txt |
| load | public load generator, 30 s, concurrency 4 | PASS | 31 | evidence/load.txt |
| failures | Redis and PostgreSQL outages via the balancer | PASS | 34 | evidence/failures.txt |
| persistence | public persistence test incl. S3, OpenBao (+ operator unseal) + proof of real restarts (make test-persistence) | PASS | 75 | evidence/persistence.txt |
| login-dos | lab7: wrong-password login flood: Argon2id budget per replica, 503/429, latency of legit requests | PASS | 49 | evidence/login-dos.txt |
Замеры
Машина: Linux 6.18.44-fc-v310, x86_64; Docker VM: 2 CPU, 0.0 GiB RAM; клиент Python 3.11.18; дата прогона 2026-11-07, commit 5bfc53a + uncommitted changes. Лимиты контейнеров: api 1 CPU / 512 MiB каждая, postgres, s3 (SeaweedFS) и rabbitmq по 1 CPU / 512 MiB, redis и lb по 0,5 CPU / 128 MiB, janitor 0,25 CPU / 192 MiB, dispatcher 0,25 CPU / 128 MiB, worker 2 CPU / 1536 MiB; lab6: otel-collector 0,5 CPU / 384 MiB, prometheus, loki, tempo по 1 CPU / 512 MiB, grafana 0,5 CPU / 384 MiB; lab7: openbao 0,5 CPU / 256 MiB, otel-gate 0,25 CPU / 64 MiB; у всех — лимит PID.
TLS/mTLS-аудит trust matrix изнутри сети (student-tests/test_tls_matrix.py, контейнер probe):
| Связь | Проверок | Пройдено |
|---|---|---|
| LB -> API (mTLS, allowlist CN=lb) | 9 | 9 |
| API/worker -> RabbitMQ (mTLS + EXTERNAL, CN = broker user) | 11 | 11 |
| API/worker -> OTel Collector (mTLS via otel-gate, allowlist app CNs) | 13 | 13 |
| API/worker -> PostgreSQL (TLS verify-full, SCRAM, roles) | 3 | 3 |
| API -> Redis (TLS + client cert of our CA + ACL user) | 6 | 6 |
| API/worker -> S3 (HTTPS + per-service keys by prefix) | 6 | 6 |
| Services -> OpenBao (TLS + cert auth by CN + policy) | 7 | 7 |
| Collector/Grafana/operator -> Prometheus (mTLS + allowed SANs) | 7 | 7 |
| Loki/Tempo/Grafana | 1 | 1 |
Минимальные права (test_least_privilege.py): 83 проверок, 83 пройдено (разрешённое работает, запрещённое — отказ).
Argon2id внутри контейнера api (argon2_bench.py, медиана из 7):
| m, KiB | t | p | hash, мс | verify, мс | входов/с на реплику при 2 параллельных | RAM на хеширование, MiB |
|---|---|---|---|---|---|---|
| 19456 | 2 | 1 | 23.4 | 23.6 | 84.7 | 38 |
| 19456 | 3 | 1 | 42.2 | 42.1 | 47.5 | 38 |
| 32768 (выбрано) | 2 | 1 | 51.2 | 49.9 | 40.1 | 64 |
| 47104 | 2 | 1 | 63.9 | 62.1 | 32.2 | 92 |
| 65536 | 2 | 1 | 115.8 | 115.8 | 17.3 | 128 |
| 65536 | 3 | 1 | 195.8 | 187.2 | 10.7 | 128 |
Login DoS (login_dos.py, 16 потоков неверных входов, 20 с): атака 54.5 попыток/с, коды {'401': 360, '429': 731}; легитимный клиент p95 16.4 -> 123.9 мс, p99 20.9 -> 197.3 мс, коды {'200': 168, '201': 168}.
Ротация пароля Redis (api) через OpenBao: {"kv_version": [1, 2], "replicas": 2, "active_passwords_during_overlap": 2, "all_replicas_picked_up_after_s": 4.2, "active_password_hashes_after": 1, "new_password_hash_matches": true}; нагрузка 17.2 с, ответы {'me:200': 201, 'send:201': 201, 'login:201': 8}, ошибок 5xx/соединения 0.
Ротация leaf LB + отзыв старого через CRL: {"old_serial": "7867bb9789172458", "new_serial": "aed4162e0d6ff182", "probe": {"valid LB identity (CN=lb)": "http_200", "foreign CA, CN=lb": "connection_closed_after_handshake", "our CA, expired, CN=lb": "connection_closed_after_handshake", "previous (rotated, revoked) LB leaf": "connection_closed_after_handshake"}, "api_events_after_revoke": {"tls.crl_loaded": 2, "tls.revoked_connections_closed": 2, "tls.client_rejected": 4}}; нагрузка 21.3 с, ответы {'me:200': 265, 'send:201': 265, 'login:201': 10}, ошибок 5xx/соединения 0.
Истечение/отзыв токенов OpenBao: {"role_ttl": "20s / max 40s", "observed_seconds": 100, "api_events": {"secrets.refresh_failed": 2, "secrets.login": 6, "secrets.renewed": 16}}; нагрузка 102.1 с, ответы {'me:200': 1302, 'send:201': 1302, 'login:201': 49}, ошибок 5xx/соединения 0.
OpenBao sealed: {"sealed_seconds": 73.7, "restarted_replica_health_while_sealed": "unhealthy", "replicas_answering_while_sealed": 1, "restarted_replica_ready_after_unseal_s": 3.2, "api_events": {"secrets.refresh_failed": 25, "secrets.waiting": 8, "secrets.login": 2}}; нагрузка 85.2 с, ответы {'me:200': 1108, 'send:201': 1108, 'login:201': 41}, ошибок 5xx/соединения 0.
Публичный тест отказа (make test-failover, 15 с записи во время остановки реплики):
| Прогон | Остановлена реплика | Реплик до отказа | Успешных записей | Неудачных попыток (повторены с тем же ключом) | Первая запись после hook, с |
|---|---|---|---|---|---|
| 1 | api | 2 | 131 | 0 | 3.82 |
| 2 | api | 2 | 131 | 0 | 3.721 |
| Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных |
|---|---|---|---|
публичный make test-failover для каждой реплики |
запись продолжается не позже 10 с, подтверждённые сообщения на месте, дублей нет | PASS 2 раз(а), неудачных попыток: 0, 0 | первая запись после hook через 3.82, 3.721 с (hook ждёт остановки ~4 с); потерь нет |
перезапуск всего стенда (restart hook: postgres, redis, s3, api, janitor, lb) |
данные, файл и прежний токен живы | PASS, те же контейнеры с новым временем старта | 73.0 с до готовности; потерь нет |
docker compose stop s3 (SeaweedFS остановлен) |
загрузка и скачивание -> 503, метаданные, сообщения и /health/ready работают | upload 503 за 386 мс, download 503, остальное 200/201 | после start файлы на месте; uploading-строку убрал janitor; потерь нет |
docker compose pause s3 (SeaweedFS завис) |
то же, но через таймауты S3-клиента | upload 503 за 4064 мс (2 попытки x 5 с + откат 2 с) | после unpause файлы на месте; потерь нет |
| падение между PUT в S3 и COMMIT в БД (код API в контейнере, finish_upload падает) | вложение не видно, janitor не трогает его до конца grace period, потом удаляет объект и строку | GET/прикрепление -> 404; janitor: свежая строка сохранена, dry-run только отчёт, затем удалено | мусора не осталось; повторный проход ничего не делает |
| обрыв загрузки клиентом (9 МБ заявлено, отправлено 0,2 и 3 МБ) | ничего не сохраняется | строк и объектов не прибавилось, временных файлов 0 | мгновенно |
| worker остановлен, upload, рестарт rabbitmq и api с volumes, start worker | 202 queued, сообщение с вложением 201, content 409; после рестартов job в очереди; тот же job_id -> ready | worker started -> same job 182a3066-efb5-453d-8d2a-c906da4ac027 ready, thumbnail downloadable; staging object deleted | потерь нет; staging удалён после COMMIT |
| rabbitmq остановлен во время upload | 202 и /health/ready 200 без брокера; строка outbox ждёт; после start публикуется | rabbitmq started -> dispatcher published the pending row -> ready | потерь нет |
| crash dispatcher между COMMIT задания и publish | строка outbox не отмечена -> публикуется после рестарта процесса | dispatcher killed between COMMIT and publish; restarted by policy, outbox re-published -> job a39e310d-6e0e-425c-baa6-33db9da3e290 ready, attempt 1, no manual action | без ручного действия |
| crash dispatcher после confirm, до отметки outbox | дубль сообщения, worker распознаёт по состоянию job | dispatcher killed after publisher confirm, before marking outbox -> message published twice; worker: ['created', 'claimed', 'ready', 'duplicate_ignored'] -> one result set | один набор вариантов |
| crash worker после PUT в S3, до COMMIT и ack | повтор после истечения аренды перезаписывает те же ключи | worker killed after S3 PUT (before COMMIT and ack): redelivery saw a live lease (no-op), lease expired after 15 s, attempt 2 rewrote the same keys -> one set; events ['created', 'claimed', 'duplicate_ignored', 'lease_expired', 'claimed', 'ready'] | один набор, 4 объекта |
| crash worker после COMMIT, до ack | redelivery ready-задачи -> no-op ack | worker killed after COMMIT, before ack: broker redelivered, worker acked as no-op (1:duplicate_ignored:status=ready); queue empty (0 ready, 0 unacked) | очередь пуста, дублей нет |
| worker завис (не продлевает аренду) | dispatcher возвращает job, другой поток завершает; поздний результат отклонён fencing | frozen attempt 1 stopped renewing; lease expired, recovered by dispatcher, attempt 2 ready after 17 s; frozen attempt woke up -> stale_result_rejected; events ['created', 'claimed', 'lease_expired', 'claimed', 'ready', 'stale_result_rejected'] | ready не откатан |
| зависание обработки изображения | процесс убит по JOB_TIMEOUT_SECONDS, временная ошибка, аренда продлевалась | imaging hang -> killed after 60 s (processing_timeout, temporary), lease renewed meanwhile (no lease_expired), attempt 2 ready after 62 s | повтор -> ready |
| нехватка памяти в процессе обработки (RLIMIT_AS) | failed/resource_limit, worker жив | memory bomb in the imaging process -> failed/resource_limit after attempt 1; worker itself survived | постоянная ошибка, без повторов |
| 2 временные ошибки S3 | backoff с jitter, затем ready | 2 x storage_unavailable -> retries after 1.20 s and 2.30 s (equal jitter: 1..2 s, 2..4 s), attempt 3 ready | - |
| 5 временных ошибок подряд | failed/retry_exhausted, реестр failed, content 409 | 5 temporary errors -> failed/retry_exhausted (public error_code), content 409, attach 409, listed by ops.py failed (replayable) | replay оператора |
| replay failed и повторный replay ready | тот же job_id -> ready; повтор отклонён | ops replay -> same job_id 44cac72b-36f8-411d-9b08-cb90fd27bbb9 attempt 6 ready; second replay refused: "job is ready, replay is only for failed jobs" | дубля нет |
| невалидное сообщение и неизвестный job_id | reject -> DLQ, dlq-replay не исполняет | schema-invalid message and unknown job_id -> reject -> DLQ (2 message(s)); dlq-replay kept them: ['invalid message is kept for analysis', 'unknown job'] | сообщения сохранены |
| 8 заданий в очереди, старт worker | WORKER_CONCURRENCY=2, prefetch 1 | 2 consumers, prefetch_count 1, manual ack; 8 queued 3000x2000 JPEG drained in 3.0 s after worker start, peak processing 2 of 8 (17 samples) | - |