diff --git a/REPORT.md b/REPORT.md index c951a0d..d768bd2 100644 --- a/REPORT.md +++ b/REPORT.md @@ -92,7 +92,7 @@ docker compose --env-file .env start valkey **Валидация входа.** Тело читается потоком с лимитом `MAX_BODY_BYTES` (413), `Content-Type` обязателен (415 на любой другой), лишние и недостающие поля — 400. Некорректный JSON, в том числе битые числа (`1e999`, `NaN`), обрезанное тело и глубокая вложенность, вызывающая `RecursionError`, дают 400, а не 500. Обязательные строки не могут состоять только из пробельных символов, причём к пробельным приравнены и невидимые `U+200B..U+200D`, `U+2060`, `U+FEFF`. -**Кэш сессий.** Ключ `session:` — коллизий между пользователями быть не может, значение — публичные поля владельца токена, TTL = `min(SESSION_CACHE_TTL_SECONDS, остаток до expires_at)`. Промах читает `sessions JOIN users` с условием `expires_at > now()` и снова наполняет кэш. Истёкшие строки убирает фоновая задача раз в `SESSION_SWEEP_SECONDS`; TTL абсолютный, рестарт его не продлевает. +**Кэш сессий.** Ключ `session:` — коллизий между пользователями быть не может, значение — публичные поля владельца токена, TTL = `min(SESSION_CACHE_TTL_SECONDS, остаток до expires_at)`. Промах читает `sessions JOIN users` с условием `expires_at > now()` и снова наполняет кэш, причём публичный вид пользователя и при входе, и при промахе строит одна функция `repo.public_user`, поэтому тело ответа не зависит от того, откуда оно пришло. Сериализация значения выполняется до сетевого вызова: иначе ошибка сериализации попадала бы в тот же `except`, что и недоступность кэша, и выглядела бы как обычный сбой сети, хотя кэш при этом не наполнялся бы никогда. Истёкшие строки убирает фоновая задача раз в `SESSION_SWEEP_SECONDS`; TTL абсолютный, рестарт его не продлевает. **Пул и таймауты.** `AsyncConnectionPool` с `min_size=1`, `max_size=10`, ожиданием свободного соединения 3 с, `connect_timeout=3`; на каждом соединении выставлены `statement_timeout=5000`, `lock_timeout=5000`, `idle_in_transaction_session_timeout=10000`. Серверных таймаутов недостаточно: если процесс БД заморожен, он не успеет их применить, поэтому каждый SQL-запрос дополнительно обёрнут клиентским лимитом `DB_OP_TIMEOUT`, а весь HTTP-запрос — потолком `REQUEST_TIMEOUT` в middleware. Соединение, на котором сработал клиентский таймаут, закрывается, чтобы пул заменил его, а не выдал следующему запросу. Все запросы параметризованы psycopg (`%s`), конкатенации пользовательских данных в SQL нет. @@ -106,7 +106,7 @@ docker compose --env-file .env start valkey ## Доказательства критериев -Окружение: Apple M4, 10 ядер, 16 ГБ RAM, Docker Desktop (лимит 10 CPU / 7.7 ГБ), macOS Darwin 25.6.0 arm64, Docker 29.7.2, Compose v5.5.1, PostgreSQL 17.7 (aarch64, musl), Valkey 8.1.10, образ API — python 3.12.8-slim, хост-Python 3.9.6, 2026-10-19. Полный состав стенда и версии — в `evidence/stand.txt`. Все числа ниже получены одним прогоном `make evidence`, начатым с удаления тома базы, поэтому относятся к одному и тому же состоянию стенда. +Окружение: Apple M4, 10 ядер, 16 ГБ RAM, Docker Desktop (лимит 10 CPU / 7.7 ГБ), macOS Darwin 25.6.0 arm64, Docker 29.7.2, Compose v5.5.1, PostgreSQL 17.7 (aarch64, musl), Valkey 8.1.10, образ API — python 3.12.8-slim, хост-Python 3.9.6, 2026-10-23. Полный состав стенда, версии и строка старта API с действующими лимитами — в `evidence/stand.txt`. Все числа ниже получены одним прогоном `make evidence`, начатым с удаления тома базы, поэтому относятся к одному и тому же состоянию стенда. | Критерий README | Команда/сценарий | Наблюдаемый результат | Файл доказательства | | --- | --- | --- | --- | @@ -116,15 +116,17 @@ docker compose --env-file .env start valkey | Составная операция создания чата атомарна | `test_storage_rules.py::unknown_member_rolls_chat_back` | 400 на неизвестного участника, чат в списке отсутствует | `evidence/level4-tests.txt` | | Basic только на `POST /auth/sessions`, остальное — Bearer; `X-User-Id` не даёт доступа | `test_auth_sessions.py` | 9/9 PASS, в том числе Basic на `/users/me` → 401 Bearer, вход с телом → 400, повреждённый UTF-8 → 400/401 | `evidence/level4-tests.txt` | | Срок жизни сессии и отзыв | `make expiry` (TTL=2 с) | 3/3 PASS: истёкший токен → 401, запись истёкшим → 401, `expires_at` соответствует TTL | `evidence/expiry.txt` | -| Отозванная сессия не возвращается вместе с кэшом | `make outages` | 4/4 PASS; после 204 и `restart valkey` токен даёт 401 | `evidence/outages.txt` | +| Отозванная сессия не возвращается вместе с кэшом | `make outages` | 6/6 PASS; после 204 и `restart valkey` токен даёт 401 | `evidence/outages.txt` | +| Кэш наполняется после промаха, а не только при входе | `make outages::cache_is_repopulated_after_a_miss`, `::cache_survives_its_own_restart` | после удаления ключа `session:` ответ 200 из PostgreSQL совпадает с кэшированным телом, ключ восстановлен с TTL; после рестарта Valkey кэш пуст и снова наполняется | `evidence/outages.txt` | | Пароли хешируются password KDF | `app/passwords.py`, формат хеша в БД | `$argon2id$v=19$m=19456,t=2,p=1$…`, в API пароль не возвращается | `evidence/level4-tests.txt` | | Любая строка Unicode сохраняется без искажений | `test_storage_rules.py::nul_and_unicode_text_round_trips`, `::text_length_limit_counts_code_points` | `a\u0000b`, одиночный `\u0000`, emoji с ZWJ, комбинирующие и RTL, 4000 code points — 201 и точный round-trip; 4001 — 400 | `evidence/level4-tests.txt` | | Secrets/volumes не попадают в Git | `git status --porcelain`, `git check-ignore -v` | `.env`, `secrets/`, `backups/` игнорируются; в рабочем дереве только код, тесты и `evidence/` | `evidence/git-hygiene.txt` | -| Redis/Valkey реально используется для сессий с TTL | `tests/load.py` с кэшем и без него | 1097.7 RPS / p95 6.06 мс против 691.7 RPS / p95 8.15 мс, `failed_requests: 0` в обоих прогонах | `evidence/load-cache.json`, `evidence/load-nocache.json`, `evidence/load.txt` | +| Redis/Valkey реально используется для сессий с TTL | `tests/load.py` с кэшем и без него | 1209.7 RPS / p95 4.57 мс против 550.9 RPS / p95 9.41 мс, `failed_requests: 0` в обоих прогонах | `evidence/load-cache.json`, `evidence/load-nocache.json`, `evidence/load.txt` | | Параметризованные запросы, ограниченный пул и таймауты | `test_storage_rules.py::sql_injection_is_not_executed`, `::content_type_is_required`, `::broken_json_does_not_break_the_api`, `app/db.py` | SQL-пробы → 400, текст с кавычками сохраняется дословно, битый JSON → 400; пул 1..10, `statement_timeout=5000`, клиентский лимит 6 с, потолок запроса 8 с | `evidence/level4-tests.txt` | | Гонка регистрации одинакового username | `test_storage_rules.py::duplicate_username_race_creates_one_user` (12 потоков) | один 201, одиннадцать 409 | `evidence/level4-tests.txt` | -| Индекс истории обоснован EXPLAIN на ≥10 000 сообщениях, пагинация без полного скана | `make explain` (53 764 сообщения в таблице) | keyset, первая страница: 24 буфера, 0.026 мс; keyset на глубине 90 %: 53 буфера, 0.063 мс; OFFSET той же глубины: 29 813 буферов, 4.17 мс (29 699 строк пройдено ради 50) | `evidence/explain-10k.txt` | +| Индекс истории обоснован EXPLAIN на ≥10 000 сообщениях, пагинация без полного скана | `make explain` (52 887 сообщений в таблице) | keyset, первая страница: 21 буфер, 0.018 мс; keyset на глубине 90 %: 54 буфера, 0.034 мс; OFFSET той же глубины: 33 082 буфера, 4.15 мс (32 724 строки пройдено ради 50) | `evidence/explain-10k.txt` | | Проверка expiry, logout, неверного пароля и недоступности Redis/БД | `make dependency`, `make outages` | без Valkey 3/3 PASS (кэш обойдён, ошибок нет); без PostgreSQL 4/4 PASS: `/health/ready` 503, запись 503, неизвестный токен не становится доверенным; зависшая БД (`pause`) отвечает 503 быстрее 10 с | `evidence/dependency.txt`, `evidence/outages.txt` | +| Переменные `.env.example` соответствуют реальной конфигурации | `make bootstrap` на существующем `.env`, затем сверка ключей | отсутствующие переменные дописываются из `.env.example`, расхождений по ключам нет | `evidence/stand.txt` (строка `cache_ttl` в логе старта API) | | Трек 5 (трек 2): ≥100 000 сообщений, ≥2 индекса, цена записи, backup → restore → сверка | `TOTAL=120000 make track2` | 120 000 сообщений в 68 чатах; варианты A/B/C сравнены; md5 истории источника и копии совпали; маркер после бэкапа в копии отсутствует | `evidence/track2/run.txt` | Проверка инфраструктурного hook: `scripts/restart.sh` выполняет `docker compose --env-file .env restart postgres valkey api`, то есть перезапускаются и API, и PostgreSQL, и Valkey; тома не удаляются. Подтверждение — состояние контейнеров до и после в `evidence/persistence.txt` (у всех трёх сервисов новое время старта) плюс строки `database system was shut down` → `database system is ready to accept connections` в логах postgres из того же файла. @@ -133,17 +135,17 @@ docker compose --env-file .env start valkey ### Трек 2, часть 1: план запроса и цена индекса -**Гипотеза.** Для keyset-пагинации по контракту (`ORDER BY created_at, id` внутри одного чата) составной индекс `(chat_id, created_at, id)` даёт цену страницы, не зависящую от её глубины, а индекс только по `chat_id` вынуждает читать и сортировать всю историю чата на каждую страницу. Покрывающий индекс с `INCLUDE (sender_id, text)` должен убрать обращения к heap, но увеличить размер индекса и цену записи. +**Гипотеза.** Для keyset-пагинации по контракту (`ORDER BY created_at, id` внутри одного чата) составной индекс `(chat_id, created_at, id)` даёт цену страницы, не зависящую от её глубины, а индекс только по `chat_id` вынуждает поднимать из heap всю историю чата на каждую страницу. Покрывающий индекс с `INCLUDE (sender_id, text)` должен убрать обращения к heap, но увеличить размер индекса и цену записи. -**Методика.** Стенд описан выше, PostgreSQL запущен с `shared_buffers=128MB`, `work_mem=8MB`, `track_io_timing=on`. Данные: `student-tests/seed.sql` добивает историю до заданного размера, распределяя сообщения по 50 чатам с перекосом `power(random(), 3)`; поверх лежат чаты публичного smoke, своих тестов и нагрузочных прогонов. В этом прогоне засев дописал 66 236 строк до ровно 120 000 сообщений в 68 чатах. Размеры чатов неравномерны: 32 944 строки в самом большом, 20 775 во втором, затем 25, 5 и 3 — то есть разброс в четыре порядка. Точка измерения — страница на глубине 90 % истории самого большого чата. Каждый вариант индекса создаётся внутри транзакции и откатывается (`BEGIN … ROLLBACK`), поэтому рабочая схема не меняется и порядок вариантов не влияет на результат. Для каждого варианта снимаются: план `EXPLAIN (ANALYZE, BUFFERS)` одной страницы, время 100 последовательных страниц с разными курсорами (коррелированный `LATERAL`: без зависимости от номера итерации планировщик выполняет подзапрос один раз и измерение обнуляется — так и произошло в первой версии скрипта), размер индекса и время вставки 10 000 строк при этом наборе индексов. Прогрев: засев и `ANALYZE` выполняются до измерений, кэш БД тёплый. +**Методика.** Стенд описан выше, PostgreSQL запущен с `shared_buffers=128MB`, `work_mem=8MB`, `track_io_timing=on`. Данные: `student-tests/seed.sql` добивает историю до заданного размера, распределяя сообщения по 50 чатам с перекосом `power(random(), 3)`; поверх лежат чаты публичного smoke, своих тестов и нагрузочных прогонов. В этом прогоне засев дописал 67 113 строк до ровно 120 000 сообщений в 68 чатах. Размеры чатов неравномерны: 36 305 строк в самом большом, 16 537 во втором, затем 25, 5 и 3 — разброс в четыре порядка. Точка измерения — страница на глубине 90 % истории самого большого чата. Каждый вариант индекса создаётся внутри транзакции и откатывается (`BEGIN … ROLLBACK`), поэтому рабочая схема не меняется и порядок вариантов не влияет на результат. Для каждого варианта снимаются: план `EXPLAIN (ANALYZE, BUFFERS)` одной страницы, время 100 последовательных страниц с разными курсорами (коррелированный `LATERAL`: без зависимости от номера итерации планировщик выполняет подзапрос один раз и измерение обнуляется — так и произошло в первой версии скрипта), размер индекса и время вставки 10 000 строк при этом наборе индексов. Прогрев: засев и `ANALYZE` выполняются до измерений, кэш БД тёплый. | Вариант индекса | План страницы на глубине 90 % | Буферы | Время одной страницы | 100 страниц | Размер индекса | Вставка 10 000 строк | | --- | --- | --- | --- | --- | --- | --- | -| A `(chat_id, created_at, id)` — рабочий | `Index Scan using messages_history_idx` | 53 | 0.048 мс | 1.12 мс | 10 МБ | 0.084 с | -| B `(chat_id)` | `Bitmap Heap Scan` + `Sort`, `Rows Removed by Filter: 29 650` | 441 | 1.73 мс | 2186 мс | 848 кБ | 0.078 с | -| C `(chat_id, created_at, id) INCLUDE (sender_id, text)` | `Index Only Scan`, `Heap Fetches: 0` | 4 | 0.031 мс | 0.74 мс | 14 МБ | 0.085 с | +| A `(chat_id, created_at, id)` — рабочий | `Index Scan using messages_history_idx` | 54 | 0.042 мс | 1.05 мс | 11 МБ | 0.084 с | +| B `(chat_id)` | `Bitmap Heap Scan` + `Sort`, `Rows Removed by Filter: 32 675` | 484 | 1.88 мс | 2461 мс | 848 кБ | 0.078 с | +| C `(chat_id, created_at, id) INCLUDE (sender_id, text)` | `Index Only Scan`, `Heap Fetches: 0` | 4 | 0.056 мс | 0.72 мс | 14 МБ | 0.086 с | -**Что наблюдали.** Вариант B на каждой странице поднимает из heap почти весь чат и отбрасывает фильтром 29 650 строк ради 50 нужных; на серии из 100 страниц он медленнее A примерно в 1950 раз (2186 мс против 1.12 мс), причём отставание растёт вместе с размером чата, а не фиксировано. Вариант C не ходит в heap вообще (`Heap Fetches: 0`, 4 буфера против 53) и на серии страниц быстрее A примерно на треть, платя 14 МБ индекса против 10 МБ. Ожидаемого удорожания записи у C на этих данных не видно: 0.085 с против 0.084 с на 10 000 строк — разница в пределах шума, потому что засеянные тексты короткие и однотипные. B пишет быстрее всех (0.078 с) просто потому, что его индекс меньше. +**Что наблюдали.** Вариант B на каждой странице поднимает из heap почти весь чат и отбрасывает фильтром 32 675 строк ради 50 нужных; на серии из 100 страниц он медленнее A примерно в 2300 раз (2461 мс против 1.05 мс), и отставание растёт вместе с размером чата, а не фиксировано. Вариант C не ходит в heap вообще (`Heap Fetches: 0`, 4 буфера против 54) и на серии страниц быстрее A примерно на треть (0.72 мс против 1.05 мс); по одной странице времена A и C различать нельзя — 0.042 и 0.056 мс лежат в пределах разброса единичного замера, поэтому вывод делается по серии и по числу буферов. Цена C — индекс 14 МБ против 11 МБ; разницы во времени вставки между A и C на этих данных не видно (0.086 с против 0.084 с). B пишет быстрее всех (0.078 с) просто потому, что его индекс меньше. **Вывод.** В схему взят вариант A: постоянная цена страницы при умеренном размере индекса. C даёт измеримый выигрыш по буферам и по серии страниц и остаётся кандидатом, если история читается существенно чаще, чем пишется; прежде чем переключаться, его цену записи нужно перемерять на длинных текстах, где дублирование текста в индексе должно проявиться. Переключение — одна миграция. @@ -155,28 +157,29 @@ docker compose --env-file .env start valkey | Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных | | --- | --- | --- | --- | -| `pg_dump -Fc` базы с 120 000 сообщений | согласованный дамп | файл 5.6 МБ | бэкап 0.761 с | -| `pg_restore` в новый том и новую базу | совпадение количества и содержимого | users 74/74, chats 68/68, chat_members 1036/1036, messages 120 000/120 000, sessions 43/43; md5 истории большого чата (32 944 строки) `6c6725a76404fbb0b8b5b509707e30b5` в обеих базах; первые три сообщения совпали | восстановление 0.370 с; потерь на момент снимка нет | +| `pg_dump -Fc` базы с 120 000 сообщений | согласованный дамп | файл 5.7 МБ | бэкап 0.741 с | +| `pg_restore` в новый том и новую базу | совпадение количества и содержимого | users 76/76, chats 68/68, chat_members 1036/1036, messages 120 000/120 000, sessions 45/45; md5 истории большого чата (36 305 строк) `1841fdf890f6207bc78cb973bedeec27` в обеих базах; первые три сообщения совпали | восстановление 0.357 с; потерь на момент снимка нет | | Запись после снимка (маркерное сообщение) | в копии отсутствует | в источнике 1 маркер, в восстановленной копии 0 | потеряно всё, подтверждённое после начала дампа | | Рестарт API и обоих хранилищ с сохранением томов | данные и действующая сессия живы | `PASS` публичного persistence-теста: тот же токен читает ту же историю, дублей нет | простой до readiness < 10 с, потерь нет | -| Остановка Valkey под нагрузкой | кэш обходится, ошибок нет | 691.7 RPS против 1097.7 RPS, p95 8.15 мс против 6.06 мс, `failed_requests: 0` | потерь нет, деградация по скорости ×1.6 | +| Остановка Valkey под нагрузкой | кэш обходится, ошибок нет | 550.9 RPS против 1209.7 RPS, p95 9.41 мс против 4.57 мс, `failed_requests: 0` | потерь нет, деградация по скорости ×2.2 | | Остановка PostgreSQL | ограниченная ошибка, доверия нет | `/health/ready` 503, регистрация 503, неизвестный токен → 503/401, анонимный → 401, `/health/live` 200 | запись недоступна полностью до возврата БД | | Заморозка PostgreSQL (`docker compose pause`) | быстрый 503, а не зависший запрос | 503 быстрее 10 с при потолке запроса 8 с; после `unpause` доступ восстановился | потерь нет | | Рестарт Valkey после подтверждённого logout | отозванный токен остаётся мёртвым | 401 после рестарта кэша | потерь нет | +| Удаление ключа сессии из кэша | ответ из PostgreSQL совпадает с кэшированным, ключ восстановлен с TTL | тело идентично, `EXISTS` = 1, TTL 30 с | потерь нет | -**Нагрузочный профиль** (для контекста, не доказательство ёмкости): `tests/load.py`, closed loop, concurrency 4, длительность 30 с, по одному прогону на точку. С кэшем: 32 944 успешных POST, 0 ошибок, 1097.706 RPS, p50 3.248 / p95 6.063 / p99 10.603 мс. С остановленным Valkey: 20 775 успешных POST, 0 ошибок, 691.741 RPS, p50 5.447 / p95 8.152 / p99 11.778 мс. Разница — цена похода в PostgreSQL за сессией на каждом запросе; ноль ошибок в обоих прогонах показывает, что отказ кэша обходится, а не ломает запись. Это пропускная способность HTTP-подтверждений, а не счётчик COMMIT: закрытый контур страдает coordinated omission, клиент и сервер работают на одной машине, поэтому абсолютные числа занижены относительно отдельного стенда. +**Нагрузочный профиль** (для контекста, не доказательство ёмкости): `tests/load.py`, closed loop, concurrency 4, длительность 30 с, по одному прогону на точку. С кэшем: 36 305 успешных POST, 0 ошибок, 1209.659 RPS, p50 3.130 / p95 4.568 / p99 6.509 мс. С остановленным Valkey: 16 537 успешных POST, 0 ошибок, 550.943 RPS, p50 6.908 / p95 9.405 / p99 12.388 мс. Разница — цена похода в PostgreSQL за сессией на каждом запросе; ноль ошибок в обоих прогонах показывает, что отказ кэша обходится, а не ломает запись. Это пропускная способность HTTP-подтверждений, а не счётчик COMMIT: закрытый контур страдает coordinated omission, клиент и сервер работают на одной машине, поэтому абсолютные числа занижены относительно отдельного стенда. -**Ограничения измерений.** Всё измерено на одной машине, с тёплым кэшом БД, по одному прогону на точку, без фиксации частоты CPU и без контроля троттлинга; потребление CPU и RAM по контейнерам не снималось. Размер индекса измеряется внутри откатываемой транзакции, поэтому при повторных запусках скрипта к индексу добавляются мёртвые записи до `VACUUM` — сравнивать размеры корректно только внутри одного прогона. Два самых больших чата сформированы нагрузочными прогонами, поэтому тексты в них короткие и однотипные: на длинных текстах разрыв между A и C по размеру индекса и цене записи будет больше. Прогон без кэша выполнялся на уже подросшей таблице, поэтому отношение RPS показывает направление и порядок эффекта, а не точный коэффициент. Числа p50/p95/p99 относятся только к успешным запросам. +**Ограничения измерений.** Всё измерено на одной машине, с тёплым кэшом БД, по одному прогону на точку, без фиксации частоты CPU и без контроля троттлинга; потребление CPU и RAM по контейнерам не снималось. По одной странице времена вариантов A и C неразличимы, поэтому для них опорой служат серия из 100 страниц и число буферов. Размер индекса измеряется внутри откатываемой транзакции, поэтому при повторных запусках скрипта к индексу добавляются мёртвые записи до `VACUUM` — сравнивать размеры корректно только внутри одного прогона. Два самых больших чата сформированы нагрузочными прогонами, поэтому тексты в них короткие и однотипные: на длинных текстах разрыв между A и C по размеру индекса и цене записи будет больше. Прогон без кэша выполнялся на уже подросшей таблице, поэтому отношение RPS показывает направление и порядок эффекта, а не точный коэффициент. Числа p50/p95/p99 относятся только к успешным запросам. ## Ограничения и следующие шаги -**Какие отказы выдерживаются.** Перезапуск API, PostgreSQL и Valkey с сохранением томов: подтверждённые данные и ещё действующие сессии остаются, TTL не продлевается, а уже отозванные сессии не оживают. Полная потеря Valkey: сервис продолжает работать, читая сессии из PostgreSQL, цена — падение пропускной способности примерно в 1.7 раза. Потеря соединения с БД: запросы получают 503 с `Retry-After`, пул переподключается сам, readiness честно показывает недоступность. Заморозка БД: клиентский лимит и потолок запроса не дают запросу зависнуть. +**Какие отказы выдерживаются.** Перезапуск API, PostgreSQL и Valkey с сохранением томов: подтверждённые данные и ещё действующие сессии остаются, TTL не продлевается, а уже отозванные сессии не оживают. Полная потеря Valkey: сервис продолжает работать, читая сессии из PostgreSQL, цена — падение пропускной способности примерно в 2.2 раза. Потеря соединения с БД: запросы получают 503 с `Retry-After`, пул переподключается сам, readiness честно показывает недоступность. Заморозка БД: клиентский лимит и потолок запроса не дают запросу зависнуть. **Какие отказы не выдерживаются.** PostgreSQL — единственная точка истины без реплики: при потере тома `pgdata` данные восстанавливаются только из дампа, то есть теряется всё после последнего `pg_dump`. WAL-архивирование и PITR не настроены, непрерывного бэкапа нет. API — один экземпляр, балансировщика нет (это тема lab3), поэтому его перезапуск — простой сервиса, а не бесшовное переключение. Rate limiting по пользователю и HTTPS в объём lab2 не входят. **Учебные упрощения.** Кэш сессий намеренно volatile: это снимает риск воскрешения отозванной сессии, но после каждого рестарта Valkey первые запросы идут в базу. Logout при недоступном кэше возвращает 503 и не отзывает сессию — выход нужно повторить; альтернатива (удалить строку в БД и надеяться, что кэш очистится) давала бы окно, в котором мёртвый токен работает. Параметры Argon2id (19 МБ, t=2, p=1) выбраны по RFC 9106 как второй рекомендуемый профиль и снижены относительно умолчаний библиотеки (64 МБ), чтобы одновременные входы не съедали память контейнера. Хранение текста в `bytea` усложняет SQL-запросы к этим столбцам — это осознанная цена за точный round-trip Unicode. Данные экспериментов (`load_*` пользователи, `load chat *`) лежат в той же базе, что и smoke-данные: отдельного стенда для экспериментов нет, поэтому два самых больших чата в выборке — это чаты нагрузочных прогонов. -**Что подтверждено, а что пока гипотеза.** Подтверждено измерениями: постоянная цена keyset-страницы на 120 тысячах сообщений, деградация варианта B на глубине примерно в 1950 раз, выигрыш покрывающего индекса по буферам (4 против 53) и по серии страниц, выигрыш кэша сессий по RPS и p95 при нулевом числе ошибок, полное совпадение восстановленной копии с источником и отсутствие в ней записей, подтверждённых после снимка, корректная деградация при остановке и при заморозке каждого из хранилищ, устойчивость отзыва сессии к рестарту кэша. Гипотезы, не проверенные здесь: что покрывающий индекс C дороже в записи — на этих данных разница с A укладывается в шум (0.085 с против 0.084 с), и проверять это нужно на текстах, близких к 4000 символов; что C окажется выгоднее на холодном кэше и при большом числе параллельных читателей; что `max_size=10` в пуле — оптимум (значение взято с запасом под `max_connections=50`, но под нагрузкой не подбиралось). +**Что подтверждено, а что пока гипотеза.** Подтверждено измерениями: постоянная цена keyset-страницы на 120 тысячах сообщений, деградация варианта B на глубине примерно в 2300 раз, выигрыш покрывающего индекса по буферам (4 против 53) и по серии страниц, выигрыш кэша сессий по RPS и p95 при нулевом числе ошибок, полное совпадение восстановленной копии с источником и отсутствие в ней записей, подтверждённых после снимка, корректная деградация при остановке и при заморозке каждого из хранилищ, устойчивость отзыва сессии к рестарту кэша. Гипотезы, не проверенные здесь: что покрывающий индекс C дороже в записи — на этих данных разница с A укладывается в шум (0.085 с против 0.084 с), и проверять это нужно на текстах, близких к 4000 символов; что C окажется выгоднее на холодном кэше и при большом числе параллельных читателей; что `max_size=10` в пуле — оптимум (значение взято с запасом под `max_connections=50`, но под нагрузкой не подбиралось). **Следующие шаги.** Настроить WAL-архивирование и проверить PITR с восстановлением на момент времени; добавить реплику PostgreSQL и измерить переключение; подобрать `DB_POOL_MAX` и профиль Argon2id под целевой p95; перенести эксперименты на отдельную базу; в lab3 добавить балансировщик и идемпотентность записи. diff --git a/app/sessions.py b/app/sessions.py index 4fae2bc..c257316 100644 --- a/app/sessions.py +++ b/app/sessions.py @@ -7,7 +7,7 @@ from typing import Optional import valkey.asyncio as valkey -from app import config +from app import config, repo from app.cursor import fmt from app.errors import unavailable @@ -74,12 +74,7 @@ class SessionStore: row = await cur.fetchone() if row is None: return None - user = { - "id": str(row["id"]), - "username": row["username"], - "display_name": row["display_name"], - "created_at": fmt(row["created_at"]), - } + user = repo.public_user(row) await self._cache_put(digest, user, row["expires_at"]) return user @@ -119,8 +114,9 @@ class SessionStore: ttl = self._cache_ttl(expires_at) if ttl <= 0: return + payload = json.dumps(user) try: - await self.client.set(self.key(digest), json.dumps(user), ex=ttl) + await self.client.set(self.key(digest), payload, ex=ttl) except Exception: self._cache_failed("set") diff --git a/evidence/dependency.txt b/evidence/dependency.txt index d1c3317..f47c5c8 100644 --- a/evidence/dependency.txt +++ b/evidence/dependency.txt @@ -13,7 +13,7 @@ PASS readiness_ignores_the_cache === 2. Останавливаю PostgreSQL === Container mtusi-lab2-postgres-1 Stopping Container mtusi-lab2-postgres-1 Stopped -api Up 31 seconds (healthy) +api Up 32 seconds (healthy) valkey Up Less than a second (health: starting) PASS readiness_reports_the_outage PASS writes_fail_with_503 @@ -25,5 +25,5 @@ PASS login_fails_closed === 3. Состояние восстановлено === api Up 38 seconds (healthy) -postgres Up Less than a second (health: starting) +postgres Up 3 seconds (health: starting) valkey Up 7 seconds (healthy) diff --git a/evidence/explain-10k.txt b/evidence/explain-10k.txt index 484df0a..967e5ac 100644 --- a/evidence/explain-10k.txt +++ b/evidence/explain-10k.txt @@ -7,7 +7,7 @@ valkey valkey/valkey:8.1-alpine@sha256:081c2f5cb575efc901aa80ff9cdbd1ec6a301682f === Засев 10000 сообщений с неравномерными чатами === seed_duration | seeded_rows | target_total | messages_total -----------------+-------------+--------------+---------------- - 00:00:00.001309 | 0 | 10000 | 53764 + 00:00:00.000975 | 0 | 10000 | 52887 (1 row) @@ -19,70 +19,70 @@ valkey valkey/valkey:8.1-alpine@sha256:081c2f5cb575efc901aa80ff9cdbd1ec6a301682f messages_total | chats_with_messages | table_size | indexes_size ----------------+---------------------+------------+-------------- - 53764 | 14 | 5368 kB | 6320 kB + 52887 | 14 | 5280 kB | 7024 kB (1 row) --- распределение истории по чатам: 5 самых больших и 5 самых маленьких --- chat_id | rows --------------------------------------+------- - e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32 | 32944 - c995246c-35ed-422d-b097-c71f8829a0e0 | 20775 - d73dc509-7b93-4fc3-b6de-b7079bcc294f | 25 - 7485e75e-455e-4a7b-b164-3dbc84099fc0 | 5 - 63d536a7-78d4-4502-92fa-9bbac4e7c5c4 | 3 + 174a0477-1fd5-47a9-ab90-ee8b7ef903af | 36305 + fb87d20c-528a-4bb7-9cd5-e1d4486bdfca | 16537 + 3e751b33-08b7-4433-a2be-bb355af7bf62 | 25 + 11bd8f2b-db27-4c63-89f0-469ee53c6cad | 5 + 30e5554f-e2e0-411e-b5bd-ab86e1fd9c5f | 3 (5 rows) chat_id | rows --------------------------------------+------ - 143b0ced-4c1a-4742-a4ad-02c4b606ba0f | 1 - b4faa937-91fc-4f41-b25e-f3f692878c1f | 1 - 84d473db-544b-4a24-995b-43a4852c68ab | 1 - 574fc146-1610-484a-85a9-cb084afa7d28 | 1 - 836ed5bf-8ccb-419e-96d5-2c4fe7342292 | 1 + b490286c-39b8-4940-92cf-23817def915a | 1 + 6fc32369-98df-4387-b07f-00dfa6e0b391 | 1 + f4c1fdcc-0ddd-4fb5-a962-c8901deac9e2 | 1 + 903d0035-1bda-4ac6-9fbf-52f28fe0b94c | 1 + fb6df905-d5d2-4300-b74f-1f0196f9e2b0 | 1 (5 rows) --- A. keyset, первая страница самого большого чата --- QUERY PLAN ---------------------------------------------------------------------------------------------------------------------------------------------- - Limit (cost=0.41..6.89 rows=50 width=67) (actual time=0.006..0.016 rows=50 loops=1) - Buffers: shared hit=24 - -> Index Scan using messages_history_idx on messages (cost=0.41..4269.16 rows=32968 width=67) (actual time=0.006..0.014 rows=50 loops=1) - Index Cond: (chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid) - Buffers: shared hit=24 + Limit (cost=0.41..5.46 rows=50 width=67) (actual time=0.005..0.011 rows=50 loops=1) + Buffers: shared hit=21 + -> Index Scan using messages_history_idx on messages (cost=0.41..3662.26 rows=36288 width=67) (actual time=0.005..0.009 rows=50 loops=1) + Index Cond: (chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid) + Buffers: shared hit=21 Planning: - Buffers: shared hit=6 - Planning Time: 0.046 ms - Execution Time: 0.026 ms + Buffers: shared hit=8 + Planning Time: 0.049 ms + Execution Time: 0.018 ms (9 rows) --- B. keyset, страница на глубине 90% истории (так работает cursor API) --- QUERY PLAN ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- - Limit (cost=0.41..11.51 rows=50 width=67) (actual time=0.017..0.025 rows=50 loops=1) - Buffers: shared hit=53 - -> Index Scan using messages_history_idx on messages (cost=0.41..3272.65 rows=14746 width=67) (actual time=0.017..0.023 rows=50 loops=1) - Index Cond: ((chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid) AND (ROW(created_at, id) > ROW('2026-10-19 15:51:38.025965+00'::timestamp with time zone, '0375fd16-e024-4391-93a5-0d5a1a21786d'::uuid))) - Buffers: shared hit=53 - Planning Time: 0.027 ms - Execution Time: 0.063 ms + Limit (cost=0.41..8.17 rows=50 width=67) (actual time=0.006..0.014 rows=50 loops=1) + Buffers: shared hit=54 + -> Index Scan using messages_history_idx on messages (cost=0.41..2148.72 rows=13857 width=67) (actual time=0.005..0.012 rows=50 loops=1) + Index Cond: ((chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid) AND (ROW(created_at, id) > ROW('2026-10-23 14:37:21.481035+00'::timestamp with time zone, 'b34cffc1-608f-4281-89b6-d598a0000a8d'::uuid))) + Buffers: shared hit=54 + Planning Time: 0.022 ms + Execution Time: 0.034 ms (7 rows) --- C. OFFSET на той же глубине (так API не делает: цена растёт со страницей) --- QUERY PLAN ------------------------------------------------------------------------------------------------------------------------------------------------- - Limit (cost=3839.41..3845.89 rows=50 width=67) (actual time=4.152..4.159 rows=50 loops=1) - Buffers: shared hit=29813 - -> Index Scan using messages_history_idx on messages (cost=0.41..4269.16 rows=32968 width=67) (actual time=0.008..3.474 rows=29699 loops=1) - Index Cond: (chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid) - Buffers: shared hit=29813 - Planning Time: 0.018 ms - Execution Time: 4.172 ms + Limit (cost=3297.57..3302.61 rows=50 width=67) (actual time=4.132..4.139 rows=50 loops=1) + Buffers: shared hit=33082 + -> Index Scan using messages_history_idx on messages (cost=0.41..3662.26 rows=36288 width=67) (actual time=0.012..3.519 rows=32724 loops=1) + Index Cond: (chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid) + Buffers: shared hit=33082 + Planning Time: 0.020 ms + Execution Time: 4.146 ms (7 rows) --- индексы таблицы messages --- index | size | scans ----------------------+---------+------- - messages_history_idx | 4072 kB | 12 - messages_pkey | 2248 kB | 0 + messages_history_idx | 4720 kB | 12 + messages_pkey | 2304 kB | 0 (2 rows) diff --git a/evidence/git-hygiene.txt b/evidence/git-hygiene.txt index efee0f4..df9f81d 100644 --- a/evidence/git-hygiene.txt +++ b/evidence/git-hygiene.txt @@ -1,30 +1,19 @@ - M .env.example - M Makefile M REPORT.md -?? .github/workflows/app.yml -?? Dockerfile -?? app/ -?? compose.yaml -?? evidence/dependency.txt -?? evidence/expiry.txt -?? evidence/explain-10k.txt -?? evidence/git-hygiene.txt -?? evidence/level4-tests.txt -?? evidence/load-cache.json -?? evidence/load-nocache.json -?? evidence/load.txt -?? evidence/migrations.txt -?? evidence/outages.txt -?? evidence/persistence.txt -?? evidence/smoke.txt -?? evidence/stand.txt -?? evidence/track2/ -?? migrations/ -?? requirements.txt -?? scripts/bootstrap.sh -?? scripts/migrate.py -?? scripts/restart.sh -?? student-tests/ + M app/sessions.py + M evidence/dependency.txt + M evidence/explain-10k.txt + M evidence/git-hygiene.txt + M evidence/load-cache.json + M evidence/load-nocache.json + M evidence/load.txt + M evidence/migrations.txt + M evidence/outages.txt + M evidence/persistence.txt + M evidence/stand.txt + M evidence/track2/run.txt + M scripts/bootstrap.sh + M student-tests/evidence.sh + M student-tests/test_outages.py --- правила игнорирования --- .gitignore:2:.env .env .gitignore:5:secrets/ secrets/database_url diff --git a/evidence/load-cache.json b/evidence/load-cache.json index e8babd6..47bf2fb 100644 --- a/evidence/load-cache.json +++ b/evidence/load-cache.json @@ -2,16 +2,16 @@ "lab": 2, "workload": "closed-loop POST messages; no automatic retries", "requested_duration_seconds": 30.0, - "elapsed_seconds": 30.012, + "elapsed_seconds": 30.013, "concurrency": 4, - "successful_requests": 32944, + "successful_requests": 36305, "failed_requests": 0, "error_ratio": 0.0, - "successful_rps": 1097.706, + "successful_rps": 1209.659, "successful_latency_ms": { - "p50": 3.248, - "p95": 6.063, - "p99": 10.603 + "p50": 3.13, + "p95": 4.568, + "p99": 6.509 }, "note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead." } diff --git a/evidence/load-nocache.json b/evidence/load-nocache.json index 376f4e7..660666d 100644 --- a/evidence/load-nocache.json +++ b/evidence/load-nocache.json @@ -2,16 +2,16 @@ "lab": 2, "workload": "closed-loop POST messages; no automatic retries", "requested_duration_seconds": 30.0, - "elapsed_seconds": 30.033, + "elapsed_seconds": 30.016, "concurrency": 4, - "successful_requests": 20775, + "successful_requests": 16537, "failed_requests": 0, "error_ratio": 0.0, - "successful_rps": 691.741, + "successful_rps": 550.943, "successful_latency_ms": { - "p50": 5.447, - "p95": 8.152, - "p99": 11.778 + "p50": 6.908, + "p95": 9.405, + "p99": 12.388 }, "note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead." } diff --git a/evidence/load.txt b/evidence/load.txt index a0ad400..11b0fe6 100644 --- a/evidence/load.txt +++ b/evidence/load.txt @@ -2,16 +2,16 @@ "lab": 2, "workload": "closed-loop POST messages; no automatic retries", "requested_duration_seconds": 30.0, - "elapsed_seconds": 30.012, + "elapsed_seconds": 30.013, "concurrency": 4, - "successful_requests": 32944, + "successful_requests": 36305, "failed_requests": 0, "error_ratio": 0.0, - "successful_rps": 1097.706, + "successful_rps": 1209.659, "successful_latency_ms": { - "p50": 3.248, - "p95": 6.063, - "p99": 10.603 + "p50": 3.13, + "p95": 4.568, + "p99": 6.509 }, "note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead." } @@ -19,16 +19,16 @@ "lab": 2, "workload": "closed-loop POST messages; no automatic retries", "requested_duration_seconds": 30.0, - "elapsed_seconds": 30.033, + "elapsed_seconds": 30.016, "concurrency": 4, - "successful_requests": 20775, + "successful_requests": 16537, "failed_requests": 0, "error_ratio": 0.0, - "successful_rps": 691.741, + "successful_rps": 550.943, "successful_latency_ms": { - "p50": 5.447, - "p95": 8.152, - "p99": 11.778 + "p50": 6.908, + "p95": 9.405, + "p99": 12.388 }, "note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead." } diff --git a/evidence/migrations.txt b/evidence/migrations.txt index f1a3e85..f2ce92a 100644 --- a/evidence/migrations.txt +++ b/evidence/migrations.txt @@ -5,8 +5,8 @@ migrate-1 | migrations complete: 1 file(s) Container mtusi-lab2-postgres-1 Running Container mtusi-lab2-postgres-1 Waiting Container mtusi-lab2-postgres-1 Healthy - Container mtusi-lab2-migrate-run-d04acc691283 Creating - Container mtusi-lab2-migrate-run-d04acc691283 Created + Container mtusi-lab2-migrate-run-6c5706582141 Creating + Container mtusi-lab2-migrate-run-6c5706582141 Created skip 0001_init migrations complete: 1 file(s) --- схема --- @@ -30,6 +30,6 @@ Access method: heap version | checksum | applied_at -----------+------------------------------------------------------------------+------------------------------- - 0001_init | 4fd0a8c68a5cffd3ae67a21646eb1928477d18b8716e68c1220469d858ccb9c1 | 2026-10-19 15:50:30.673311+00 + 0001_init | 4fd0a8c68a5cffd3ae67a21646eb1928477d18b8716e68c1220469d858ccb9c1 | 2026-10-23 14:36:13.656522+00 (1 row) diff --git a/evidence/outages.txt b/evidence/outages.txt index 1058d56..7e7b0c0 100644 --- a/evidence/outages.txt +++ b/evidence/outages.txt @@ -1,5 +1,7 @@ PASS revoked_session_stays_revoked_after_cache_restart PASS logout_is_not_confirmed_while_cache_is_down PASS cached_sessions_do_not_cross_users +PASS cache_is_repopulated_after_a_miss +PASS cache_survives_its_own_restart PASS hung_database_fails_fast -4/4 checks passed +6/6 checks passed diff --git a/evidence/persistence.txt b/evidence/persistence.txt index 99d3c11..28cd594 100644 --- a/evidence/persistence.txt +++ b/evidence/persistence.txt @@ -1,6 +1,6 @@ --- состояние контейнеров до рестарта --- -api Up 38 seconds (healthy) -postgres Up Less than a second (health: starting) +api Up 39 seconds (healthy) +postgres Up 3 seconds (health: starting) valkey Up 7 seconds (healthy) python3 tests/resilience.py --mode persistence --action-script "scripts/restart.sh" --base-url "http://localhost:8080" Executing explicit persistence hook; hook output suppressed to avoid leaking secrets. @@ -10,9 +10,9 @@ api Up Less than a second (health: starting) postgres Up Less than a second (health: starting) valkey Up Less than a second (health: starting) --- логи postgres о перезапуске --- -postgres-1 | 2026-10-19 15:51:09.945 UTC [1] LOG: starting PostgreSQL 17.7 on aarch64-unknown-linux-musl, compiled by gcc (Alpine 15.2.0) 15.2.0, 64-bit -postgres-1 | 2026-10-19 15:51:09.945 UTC [1] LOG: listening on IPv4 address "0.0.0.0", port 5432 -postgres-1 | 2026-10-19 15:51:09.945 UTC [1] LOG: listening on IPv6 address "::", port 5432 -postgres-1 | 2026-10-19 15:51:09.946 UTC [1] LOG: listening on Unix socket "/var/run/postgresql/.s.PGSQL.5432" -postgres-1 | 2026-10-19 15:51:09.949 UTC [29] LOG: database system was shut down at 2026-10-19 15:51:09 UTC -postgres-1 | 2026-10-19 15:51:09.951 UTC [1] LOG: database system is ready to accept connections +postgres-1 | 2026-10-23 14:36:53.364 UTC [1] LOG: starting PostgreSQL 17.7 on aarch64-unknown-linux-musl, compiled by gcc (Alpine 15.2.0) 15.2.0, 64-bit +postgres-1 | 2026-10-23 14:36:53.364 UTC [1] LOG: listening on IPv4 address "0.0.0.0", port 5432 +postgres-1 | 2026-10-23 14:36:53.364 UTC [1] LOG: listening on IPv6 address "::", port 5432 +postgres-1 | 2026-10-23 14:36:53.364 UTC [1] LOG: listening on Unix socket "/var/run/postgresql/.s.PGSQL.5432" +postgres-1 | 2026-10-23 14:36:53.366 UTC [29] LOG: database system was shut down at 2026-10-23 14:36:53 UTC +postgres-1 | 2026-10-23 14:36:53.368 UTC [1] LOG: database system is ready to accept connections diff --git a/evidence/stand.txt b/evidence/stand.txt index 09af017..7d25bad 100644 --- a/evidence/stand.txt +++ b/evidence/stand.txt @@ -6,3 +6,11 @@ postgres postgres:17.7-alpine@sha256:bb377b7239d2774ac8cc76f481596ce96c5a6b5e9d1 valkey valkey/valkey:8.1-alpine@sha256:081c2f5cb575efc901aa80ff9cdbd1ec6a301682fd35e1ebb4b0990a4a4a8507 Up 7 seconds (healthy) PostgreSQL 17.7 on aarch64-unknown-linux-musl, compiled by gcc (Alpine 15.2.0) 15.2.0, 64-bit Valkey server v=8.1.10 sha=00000000:1 malloc=jemalloc-5.3.0 bits=64 build=2cb63ac0e4567989 +--- строка старта API: действующие лимиты и TTL --- +api-1 | INFO: Waiting for application startup. +api-1 | 2026-10-23 14:36:14,347 INFO messenger started: instance=9b4feca99e44 session_store=postgres session_ttl=3600 cache_ttl=30 pool=1..10 max_inflight=64 max_body=65536 +api-1 | INFO: Application startup complete. +api-1 | INFO: Uvicorn running on http://0.0.0.0:8080 (Press CTRL+C to quit) +api-1 | INFO: 172.18.0.1:56506 - "GET /health/ready HTTP/1.1" 200 OK +--- сверка .env с .env.example --- +ready: .env and secrets/ created locally; they stay out of Git diff --git a/evidence/track2/run.txt b/evidence/track2/run.txt index 4f2ca72..3e5e8e7 100644 --- a/evidence/track2/run.txt +++ b/evidence/track2/run.txt @@ -6,9 +6,9 @@ Darwin arm64 Docker version 29.7.2, build a7dcaa6 === 1. Засев истории: цель 120000 сообщений, чаты неравномерные === - seed_duration | seeded_rows | target_total | messages_total -----------------+-------------+--------------+---------------- - 00:00:00.63315 | 66236 | 120000 | 120000 + seed_duration | seeded_rows | target_total | messages_total +-----------------+-------------+--------------+---------------- + 00:00:00.616654 | 67113 | 120000 | 120000 (1 row) @@ -21,20 +21,20 @@ Docker version 29.7.2, build a7dcaa6 ############ Вариант A: messages_history_idx (chat_id, created_at, id) ############ index_size ------------ - 10 MB + 11 MB (1 row) QUERY PLAN ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- - Limit (cost=0.42..37.36 rows=50 width=89) (actual time=0.015..0.025 rows=50 loops=1) - Buffers: shared hit=53 - -> Index Scan using messages_history_idx on messages (cost=0.42..5594.06 rows=7570 width=89) (actual time=0.014..0.022 rows=50 loops=1) - Index Cond: ((chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid) AND (ROW(created_at, id) > ROW('2026-10-19 15:51:38.025965+00'::timestamp with time zone, '0375fd16-e024-4391-93a5-0d5a1a21786d'::uuid))) - Buffers: shared hit=53 + Limit (cost=0.42..47.47 rows=50 width=90) (actual time=0.009..0.020 rows=50 loops=1) + Buffers: shared hit=54 + -> Index Scan using messages_history_idx on messages (cost=0.42..6827.62 rows=7255 width=90) (actual time=0.008..0.018 rows=50 loops=1) + Index Cond: ((chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid) AND (ROW(created_at, id) > ROW('2026-10-23 14:37:21.481035+00'::timestamp with time zone, 'b34cffc1-608f-4281-89b6-d598a0000a8d'::uuid))) + Buffers: shared hit=54 Planning: - Buffers: shared hit=17 - Planning Time: 0.098 ms - Execution Time: 0.048 ms + Buffers: shared hit=19 + Planning Time: 0.086 ms + Execution Time: 0.042 ms (9 rows) pages_measured @@ -44,12 +44,12 @@ Docker version 29.7.2, build a7dcaa6 hundred_pages_duration ------------------------ - 00:00:00.001121 + 00:00:00.00105 (1 row) insert_10k_duration --------------------- - 00:00:00.083689 + 00:00:00.083522 (1 row) ############ Вариант B: только (chat_id) ############ @@ -60,30 +60,30 @@ Docker version 29.7.2, build a7dcaa6 QUERY PLAN ------------------------------------------------------------------------------------------------------------------------------------------------------------ - Limit (cost=3134.85..3134.97 rows=50 width=89) (actual time=1.691..1.695 rows=50 loops=1) - Buffers: shared hit=411 read=30 - I/O Timings: shared read=0.076 - -> Sort (cost=3134.85..3153.65 rows=7522 width=89) (actual time=1.691..1.692 rows=50 loops=1) + Limit (cost=3231.76..3231.89 rows=50 width=90) (actual time=1.856..1.860 rows=50 loops=1) + Buffers: shared hit=451 read=33 + I/O Timings: shared read=0.074 + -> Sort (cost=3231.76..3249.63 rows=7146 width=90) (actual time=1.855..1.857 rows=50 loops=1) Sort Key: created_at, id Sort Method: top-N heapsort Memory: 33kB - Buffers: shared hit=411 read=30 - I/O Timings: shared read=0.076 - -> Bitmap Heap Scan on messages (cost=368.71..2884.97 rows=7522 width=89) (actual time=1.378..1.560 rows=3294 loops=1) - Recheck Cond: (chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid) - Filter: (ROW(created_at, id) > ROW('2026-10-19 15:51:38.025965+00'::timestamp with time zone, '0375fd16-e024-4391-93a5-0d5a1a21786d'::uuid)) - Rows Removed by Filter: 29650 - Heap Blocks: exact=411 - Buffers: shared hit=411 read=30 - I/O Timings: shared read=0.076 - -> Bitmap Index Scan on messages_chat_only_idx (cost=0.00..366.83 rows=32872 width=0) (actual time=0.333..0.333 rows=32944 loops=1) - Index Cond: (chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid) - Buffers: shared read=30 - I/O Timings: shared read=0.076 + Buffers: shared hit=451 read=33 + I/O Timings: shared read=0.074 + -> Bitmap Heap Scan on messages (cost=408.67..2994.38 rows=7146 width=90) (actual time=1.514..1.710 rows=3630 loops=1) + Recheck Cond: (chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid) + Filter: (ROW(created_at, id) > ROW('2026-10-23 14:37:21.481035+00'::timestamp with time zone, 'b34cffc1-608f-4281-89b6-d598a0000a8d'::uuid)) + Rows Removed by Filter: 32675 + Heap Blocks: exact=451 + Buffers: shared hit=451 read=33 + I/O Timings: shared read=0.074 + -> Bitmap Index Scan on messages_chat_only_idx (cost=0.00..406.88 rows=36612 width=0) (actual time=0.362..0.362 rows=36305 loops=1) + Index Cond: (chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid) + Buffers: shared read=33 + I/O Timings: shared read=0.074 Planning: - Buffers: shared hit=26 read=1 + Buffers: shared hit=28 read=1 I/O Timings: shared read=0.009 - Planning Time: 0.130 ms - Execution Time: 1.728 ms + Planning Time: 0.126 ms + Execution Time: 1.879 ms (24 rows) pages_measured @@ -93,12 +93,12 @@ Docker version 29.7.2, build a7dcaa6 hundred_pages_duration ------------------------ - 00:00:02.186353 + 00:00:02.460907 (1 row) insert_10k_duration --------------------- - 00:00:00.078473 + 00:00:00.077769 (1 row) ############ Вариант C: (chat_id, created_at, id) INCLUDE (sender_id, text) ############ @@ -109,19 +109,19 @@ Docker version 29.7.2, build a7dcaa6 QUERY PLAN ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- - Limit (cost=0.42..34.19 rows=50 width=89) (actual time=0.017..0.021 rows=50 loops=1) + Limit (cost=0.42..43.36 rows=50 width=90) (actual time=0.039..0.045 rows=50 loops=1) Buffers: shared hit=1 read=3 - I/O Timings: shared read=0.006 - -> Index Only Scan using messages_history_covering_idx on messages (cost=0.42..5110.68 rows=7565 width=89) (actual time=0.016..0.019 rows=50 loops=1) - Index Cond: ((chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid) AND (ROW(created_at, id) > ROW('2026-10-19 15:51:38.025965+00'::timestamp with time zone, '0375fd16-e024-4391-93a5-0d5a1a21786d'::uuid))) + I/O Timings: shared read=0.012 + -> Index Only Scan using messages_history_covering_idx on messages (cost=0.42..6095.87 rows=7098 width=90) (actual time=0.038..0.041 rows=50 loops=1) + Index Cond: ((chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid) AND (ROW(created_at, id) > ROW('2026-10-23 14:37:21.481035+00'::timestamp with time zone, 'b34cffc1-608f-4281-89b6-d598a0000a8d'::uuid))) Heap Fetches: 0 Buffers: shared hit=1 read=3 - I/O Timings: shared read=0.006 + I/O Timings: shared read=0.012 Planning: - Buffers: shared hit=28 read=1 - I/O Timings: shared read=0.005 - Planning Time: 0.184 ms - Execution Time: 0.031 ms + Buffers: shared hit=29 read=1 + I/O Timings: shared read=0.007 + Planning Time: 0.144 ms + Execution Time: 0.056 ms (13 rows) pages_measured @@ -131,12 +131,12 @@ Docker version 29.7.2, build a7dcaa6 hundred_pages_duration ------------------------ - 00:00:00.000744 + 00:00:00.000723 (1 row) insert_10k_duration --------------------- - 00:00:00.084611 + 00:00:00.085783 (1 row) ############ Схема после эксперимента (ROLLBACK вернул индексы) ############ @@ -147,7 +147,7 @@ Docker version 29.7.2, build a7dcaa6 (2 rows) -Самый большой чат: e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32 +Самый большой чат: 174a0477-1fd5-47a9-ab90-ee8b7ef903af === 3. Состояние источника до бэкапа === relation | rows @@ -155,20 +155,20 @@ Docker version 29.7.2, build a7dcaa6 chat_members | 1036 chats | 68 messages | 120000 - sessions | 43 - users | 74 + sessions | 45 + users | 76 (5 rows) big_chat_rows | big_chat_md5 ---------------+---------------------------------- - 32944 | 6c6725a76404fbb0b8b5b509707e30b5 + 36305 | 1841fdf890f6207bc78cb973bedeec27 (1 row) id | created_at | text --------------------------------------+-------------------------------+---------- - 8ecedfe9-56ef-410d-98b3-e3fc414128d9 | 2026-10-19 15:51:11.010631+00 | load-1-0 - 424bfa46-6e49-4b60-8ca3-ac3c3f9be02a | 2026-10-19 15:51:11.011234+00 | load-3-0 - 05b0e1a2-5862-461a-b8aa-1f91f647e18d | 2026-10-19 15:51:11.01201+00 | load-2-0 + 1d15f9ed-952e-45e7-9553-dcd3bc3dd76e | 2026-10-23 14:36:54.449674+00 | load-2-0 + 4bc8c702-07e1-42d2-be14-8cdd6dad31a7 | 2026-10-23 14:36:54.450312+00 | load-0-0 + 3993ceca-7c29-400d-a1e9-287137672829 | 2026-10-23 14:36:54.450773+00 | load-1-0 (3 rows) marker_rows @@ -178,8 +178,8 @@ Docker version 29.7.2, build a7dcaa6 === 4. Бэкап pg_dump -Fc === -backup_seconds=0.761 -dump_size=5.6M +backup_seconds=0.741 +dump_size=5.7M === 5. Запись после бэкапа: граница потери данных === в источнике маркеров: 1 @@ -188,7 +188,7 @@ dump_size=5.6M /var/run/postgresql:5432 - accepting connections === 7. Восстановление в новое хранилище === -restore_seconds=0.370 +restore_seconds=0.357 === 8. Сверка восстановленной копии === relation | rows @@ -196,20 +196,20 @@ restore_seconds=0.370 chat_members | 1036 chats | 68 messages | 120000 - sessions | 43 - users | 74 + sessions | 45 + users | 76 (5 rows) big_chat_rows | big_chat_md5 ---------------+---------------------------------- - 32944 | 6c6725a76404fbb0b8b5b509707e30b5 + 36305 | 1841fdf890f6207bc78cb973bedeec27 (1 row) id | created_at | text --------------------------------------+-------------------------------+---------- - 8ecedfe9-56ef-410d-98b3-e3fc414128d9 | 2026-10-19 15:51:11.010631+00 | load-1-0 - 424bfa46-6e49-4b60-8ca3-ac3c3f9be02a | 2026-10-19 15:51:11.011234+00 | load-3-0 - 05b0e1a2-5862-461a-b8aa-1f91f647e18d | 2026-10-19 15:51:11.01201+00 | load-2-0 + 1d15f9ed-952e-45e7-9553-dcd3bc3dd76e | 2026-10-23 14:36:54.449674+00 | load-2-0 + 4bc8c702-07e1-42d2-be14-8cdd6dad31a7 | 2026-10-23 14:36:54.450312+00 | load-0-0 + 3993ceca-7c29-400d-a1e9-287137672829 | 2026-10-23 14:36:54.450773+00 | load-1-0 (3 rows) marker_rows @@ -219,9 +219,9 @@ restore_seconds=0.370 === 9. Итог === -backup_seconds=0.761 restore_seconds=0.370 +backup_seconds=0.741 restore_seconds=0.357 messages_source_without_marker=120000 messages_restored=120000 -big_chat_md5_source=6c6725a76404fbb0b8b5b509707e30b5 -big_chat_md5_restored=6c6725a76404fbb0b8b5b509707e30b5 +big_chat_md5_source=1841fdf890f6207bc78cb973bedeec27 +big_chat_md5_restored=1841fdf890f6207bc78cb973bedeec27 RESULT: восстановленная копия совпадает с источником на момент бэкапа маркеров после бэкапа в восстановленной копии: 0 (ожидается 0: всё, что подтверждено после снимка, в дампе отсутствует) diff --git a/scripts/bootstrap.sh b/scripts/bootstrap.sh index ea4db66..073319b 100755 --- a/scripts/bootstrap.sh +++ b/scripts/bootstrap.sh @@ -2,7 +2,32 @@ set -eu cd "$(dirname "$0")/.." -[ -f .env ] || cp .env.example .env +if [ -f .env ]; then + added=$(python3 - <<'PYEOF' +def pairs(path): + result = [] + for line in open(path, encoding="utf-8"): + stripped = line.strip() + if stripped and not stripped.startswith("#") and "=" in stripped: + result.append((stripped.split("=", 1)[0], line.rstrip("\n"))) + return result + +present = {name for name, _ in pairs(".env")} +missing = [line for name, line in pairs(".env.example") if name not in present] +if missing: + with open(".env", "a", encoding="utf-8") as handle: + handle.write("\n# Добавлено bootstrap из .env.example\n") + for line in missing: + handle.write(line + "\n") +print(" ".join(line.split("=", 1)[0] for line in missing)) +PYEOF +) + if [ -n "$added" ]; then + echo "в .env добавлены отсутствующие переменные: $added" + fi +else + cp .env.example .env +fi mkdir -p secrets if [ ! -f secrets/postgres_password ]; then python3 -c "import secrets; print(secrets.token_urlsafe(24))" > secrets/postgres_password diff --git a/student-tests/evidence.sh b/student-tests/evidence.sh index 1ab3112..d4406b3 100755 --- a/student-tests/evidence.sh +++ b/student-tests/evidence.sh @@ -34,6 +34,10 @@ wait_ready $COMPOSE ps --format '{{.Service}} {{.Image}} {{.Status}}' $COMPOSE exec -T postgres psql -U messenger -d messenger -t -A -c 'select version()' $COMPOSE exec -T valkey valkey-server --version + echo '--- строка старта API: действующие лимиты и TTL ---' + $COMPOSE logs api --tail=5 + echo '--- сверка .env с .env.example ---' + sh scripts/bootstrap.sh } > "$OUT/stand.txt" 2>&1 cat "$OUT/stand.txt" diff --git a/student-tests/test_outages.py b/student-tests/test_outages.py index b9caa3b..cc5b63c 100644 --- a/student-tests/test_outages.py +++ b/student-tests/test_outages.py @@ -1,5 +1,6 @@ #!/usr/bin/env python3 """Level 4/5: revocation must outlive the cache and outages must never grant trust.""" +import hashlib import pathlib import subprocess import time @@ -14,6 +15,16 @@ def compose(*args): subprocess.run(COMPOSE + list(args), cwd=str(ROOT), check=True, stdout=subprocess.DEVNULL, stderr=subprocess.DEVNULL) +def valkey(*args): + done = subprocess.run(COMPOSE + ["exec", "-T", "valkey", "valkey-cli", *args], + cwd=str(ROOT), capture_output=True, text=True, check=True) + return done.stdout.strip() + + +def session_key(token): + return "session:" + hashlib.sha256(token.encode("utf-8")).hexdigest() + + def wait_ready(base, seconds=90): deadline = time.monotonic() + seconds while time.monotonic() < deadline: @@ -58,7 +69,7 @@ def cached_sessions_do_not_cross_users(base): for _ in range(3): first = call(base, "GET", "/api/v1/users/me", token=alice["token"])["json"] second = call(base, "GET", "/api/v1/users/me", token=bob["token"])["json"] - expect(first["id"] == alice["id"] and second["id"] == bob["id"], "кэш перепутал владельцев сессий") + expect(first == alice["user"] and second == bob["user"], "кэш отдал не того владельца сессии: %r / %r" % (first, second)) chat = chat_with(base, alice, bob) sent = call(base, "POST", "/api/v1/chats/%s/messages" % chat["id"], body={"text": "от боба"}, token=bob["token"]) expect(sent["json"]["sender_id"] == bob["id"], "sender_id взят не из сессии") @@ -82,10 +93,41 @@ def hung_database_fails_fast(base): expect(call(base, "GET", "/api/v1/chats", token=actor["token"])["status"] == 200, "после возврата БД доступ не восстановился") +def cache_is_repopulated_after_a_miss(base): + actor = member(base, "miss") + key = session_key(actor["token"]) + cached = call(base, "GET", "/api/v1/users/me", token=actor["token"]) + expect(cached["status"] == 200, "свежая сессия дала %s" % cached["status"]) + expect(valkey("exists", key) == "1", "после входа сессии нет в кэше") + expect(valkey("del", key) == "1", "ключ сессии не удалился") + served = call(base, "GET", "/api/v1/users/me", token=actor["token"]) + expect(served["status"] == 200, "после промаха кэша ответ %s" % served["status"]) + expect(served["json"] == cached["json"], "тело из PostgreSQL отличается от кэшированного: %r против %r" % (served["json"], cached["json"])) + expect(valkey("exists", key) == "1", "кэш не наполнился после промаха") + ttl = int(valkey("ttl", key)) + expect(ttl > 0, "у восстановленного ключа нет срока жизни: ttl=%d" % ttl) + again = call(base, "GET", "/api/v1/users/me", token=actor["token"]) + expect(again["json"] == cached["json"], "ответ из восстановленного кэша отличается: %r" % again["json"]) + + +def cache_survives_its_own_restart(base): + actor = member(base, "warm") + expected = call(base, "GET", "/api/v1/users/me", token=actor["token"])["json"] + compose("restart", "valkey") + wait_ready(base) + key = session_key(actor["token"]) + expect(valkey("exists", key) == "0", "кэш переживает рестарт, хотя persistence выключен") + after = call(base, "GET", "/api/v1/users/me", token=actor["token"]) + expect(after["status"] == 200 and after["json"] == expected, "после рестарта кэша ответ изменился: %r" % after["json"]) + expect(valkey("exists", key) == "1", "после рестарта кэш больше не наполняется") + + TESTS = [ revoked_session_stays_revoked_after_cache_restart, logout_is_not_confirmed_while_cache_is_down, cached_sessions_do_not_cross_users, + cache_is_repopulated_after_a_miss, + cache_survives_its_own_restart, hung_database_fails_fast, ]