Исправление по замечанию: кэш сессий наполняется после промаха

This commit is contained in:
alenchha
2026-10-23 17:42:38 +03:00
parent a0c16afa33
commit 1a60b9cd1f
16 changed files with 263 additions and 194 deletions
+21 -18
View File
@@ -92,7 +92,7 @@ docker compose --env-file .env start valkey
**Валидация входа.** Тело читается потоком с лимитом `MAX_BODY_BYTES` (413), `Content-Type` обязателен (415 на любой другой), лишние и недостающие поля — 400. Некорректный JSON, в том числе битые числа (`1e999`, `NaN`), обрезанное тело и глубокая вложенность, вызывающая `RecursionError`, дают 400, а не 500. Обязательные строки не могут состоять только из пробельных символов, причём к пробельным приравнены и невидимые `U+200B..U+200D`, `U+2060`, `U+FEFF`.
**Кэш сессий.** Ключ `session:<sha256-hex>` — коллизий между пользователями быть не может, значение — публичные поля владельца токена, TTL = `min(SESSION_CACHE_TTL_SECONDS, остаток до expires_at)`. Промах читает `sessions JOIN users` с условием `expires_at > now()` и снова наполняет кэш. Истёкшие строки убирает фоновая задача раз в `SESSION_SWEEP_SECONDS`; TTL абсолютный, рестарт его не продлевает.
**Кэш сессий.** Ключ `session:<sha256-hex>` — коллизий между пользователями быть не может, значение — публичные поля владельца токена, TTL = `min(SESSION_CACHE_TTL_SECONDS, остаток до expires_at)`. Промах читает `sessions JOIN users` с условием `expires_at > now()` и снова наполняет кэш, причём публичный вид пользователя и при входе, и при промахе строит одна функция `repo.public_user`, поэтому тело ответа не зависит от того, откуда оно пришло. Сериализация значения выполняется до сетевого вызова: иначе ошибка сериализации попадала бы в тот же `except`, что и недоступность кэша, и выглядела бы как обычный сбой сети, хотя кэш при этом не наполнялся бы никогда. Истёкшие строки убирает фоновая задача раз в `SESSION_SWEEP_SECONDS`; TTL абсолютный, рестарт его не продлевает.
**Пул и таймауты.** `AsyncConnectionPool` с `min_size=1`, `max_size=10`, ожиданием свободного соединения 3 с, `connect_timeout=3`; на каждом соединении выставлены `statement_timeout=5000`, `lock_timeout=5000`, `idle_in_transaction_session_timeout=10000`. Серверных таймаутов недостаточно: если процесс БД заморожен, он не успеет их применить, поэтому каждый SQL-запрос дополнительно обёрнут клиентским лимитом `DB_OP_TIMEOUT`, а весь HTTP-запрос — потолком `REQUEST_TIMEOUT` в middleware. Соединение, на котором сработал клиентский таймаут, закрывается, чтобы пул заменил его, а не выдал следующему запросу. Все запросы параметризованы psycopg (`%s`), конкатенации пользовательских данных в SQL нет.
@@ -106,7 +106,7 @@ docker compose --env-file .env start valkey
## Доказательства критериев
Окружение: Apple M4, 10 ядер, 16 ГБ RAM, Docker Desktop (лимит 10 CPU / 7.7 ГБ), macOS Darwin 25.6.0 arm64, Docker 29.7.2, Compose v5.5.1, PostgreSQL 17.7 (aarch64, musl), Valkey 8.1.10, образ API — python 3.12.8-slim, хост-Python 3.9.6, 2026-10-19. Полный состав стенда и версии — в `evidence/stand.txt`. Все числа ниже получены одним прогоном `make evidence`, начатым с удаления тома базы, поэтому относятся к одному и тому же состоянию стенда.
Окружение: Apple M4, 10 ядер, 16 ГБ RAM, Docker Desktop (лимит 10 CPU / 7.7 ГБ), macOS Darwin 25.6.0 arm64, Docker 29.7.2, Compose v5.5.1, PostgreSQL 17.7 (aarch64, musl), Valkey 8.1.10, образ API — python 3.12.8-slim, хост-Python 3.9.6, 2026-10-23. Полный состав стенда, версии и строка старта API с действующими лимитами — в `evidence/stand.txt`. Все числа ниже получены одним прогоном `make evidence`, начатым с удаления тома базы, поэтому относятся к одному и тому же состоянию стенда.
| Критерий README | Команда/сценарий | Наблюдаемый результат | Файл доказательства |
| --- | --- | --- | --- |
@@ -116,15 +116,17 @@ docker compose --env-file .env start valkey
| Составная операция создания чата атомарна | `test_storage_rules.py::unknown_member_rolls_chat_back` | 400 на неизвестного участника, чат в списке отсутствует | `evidence/level4-tests.txt` |
| Basic только на `POST /auth/sessions`, остальное — Bearer; `X-User-Id` не даёт доступа | `test_auth_sessions.py` | 9/9 PASS, в том числе Basic на `/users/me` → 401 Bearer, вход с телом → 400, повреждённый UTF-8 → 400/401 | `evidence/level4-tests.txt` |
| Срок жизни сессии и отзыв | `make expiry` (TTL=2 с) | 3/3 PASS: истёкший токен → 401, запись истёкшим → 401, `expires_at` соответствует TTL | `evidence/expiry.txt` |
| Отозванная сессия не возвращается вместе с кэшом | `make outages` | 4/4 PASS; после 204 и `restart valkey` токен даёт 401 | `evidence/outages.txt` |
| Отозванная сессия не возвращается вместе с кэшом | `make outages` | 6/6 PASS; после 204 и `restart valkey` токен даёт 401 | `evidence/outages.txt` |
| Кэш наполняется после промаха, а не только при входе | `make outages::cache_is_repopulated_after_a_miss`, `::cache_survives_its_own_restart` | после удаления ключа `session:<sha256(token)>` ответ 200 из PostgreSQL совпадает с кэшированным телом, ключ восстановлен с TTL; после рестарта Valkey кэш пуст и снова наполняется | `evidence/outages.txt` |
| Пароли хешируются password KDF | `app/passwords.py`, формат хеша в БД | `$argon2id$v=19$m=19456,t=2,p=1$…`, в API пароль не возвращается | `evidence/level4-tests.txt` |
| Любая строка Unicode сохраняется без искажений | `test_storage_rules.py::nul_and_unicode_text_round_trips`, `::text_length_limit_counts_code_points` | `a\u0000b`, одиночный `\u0000`, emoji с ZWJ, комбинирующие и RTL, 4000 code points — 201 и точный round-trip; 4001 — 400 | `evidence/level4-tests.txt` |
| Secrets/volumes не попадают в Git | `git status --porcelain`, `git check-ignore -v` | `.env`, `secrets/`, `backups/` игнорируются; в рабочем дереве только код, тесты и `evidence/` | `evidence/git-hygiene.txt` |
| Redis/Valkey реально используется для сессий с TTL | `tests/load.py` с кэшем и без него | 1097.7 RPS / p95 6.06 мс против 691.7 RPS / p95 8.15 мс, `failed_requests: 0` в обоих прогонах | `evidence/load-cache.json`, `evidence/load-nocache.json`, `evidence/load.txt` |
| Redis/Valkey реально используется для сессий с TTL | `tests/load.py` с кэшем и без него | 1209.7 RPS / p95 4.57 мс против 550.9 RPS / p95 9.41 мс, `failed_requests: 0` в обоих прогонах | `evidence/load-cache.json`, `evidence/load-nocache.json`, `evidence/load.txt` |
| Параметризованные запросы, ограниченный пул и таймауты | `test_storage_rules.py::sql_injection_is_not_executed`, `::content_type_is_required`, `::broken_json_does_not_break_the_api`, `app/db.py` | SQL-пробы → 400, текст с кавычками сохраняется дословно, битый JSON → 400; пул 1..10, `statement_timeout=5000`, клиентский лимит 6 с, потолок запроса 8 с | `evidence/level4-tests.txt` |
| Гонка регистрации одинакового username | `test_storage_rules.py::duplicate_username_race_creates_one_user` (12 потоков) | один 201, одиннадцать 409 | `evidence/level4-tests.txt` |
| Индекс истории обоснован EXPLAIN на ≥10 000 сообщениях, пагинация без полного скана | `make explain` (53 764 сообщения в таблице) | keyset, первая страница: 24 буфера, 0.026 мс; keyset на глубине 90 %: 53 буфера, 0.063 мс; OFFSET той же глубины: 29 813 буферов, 4.17 мс (29 699 строк пройдено ради 50) | `evidence/explain-10k.txt` |
| Индекс истории обоснован EXPLAIN на ≥10 000 сообщениях, пагинация без полного скана | `make explain` (52 887 сообщений в таблице) | keyset, первая страница: 21 буфер, 0.018 мс; keyset на глубине 90 %: 54 буфера, 0.034 мс; OFFSET той же глубины: 33 082 буфера, 4.15 мс (32 724 строки пройдено ради 50) | `evidence/explain-10k.txt` |
| Проверка expiry, logout, неверного пароля и недоступности Redis/БД | `make dependency`, `make outages` | без Valkey 3/3 PASS (кэш обойдён, ошибок нет); без PostgreSQL 4/4 PASS: `/health/ready` 503, запись 503, неизвестный токен не становится доверенным; зависшая БД (`pause`) отвечает 503 быстрее 10 с | `evidence/dependency.txt`, `evidence/outages.txt` |
| Переменные `.env.example` соответствуют реальной конфигурации | `make bootstrap` на существующем `.env`, затем сверка ключей | отсутствующие переменные дописываются из `.env.example`, расхождений по ключам нет | `evidence/stand.txt` (строка `cache_ttl` в логе старта API) |
| Трек 5 (трек 2): ≥100 000 сообщений, ≥2 индекса, цена записи, backup → restore → сверка | `TOTAL=120000 make track2` | 120 000 сообщений в 68 чатах; варианты A/B/C сравнены; md5 истории источника и копии совпали; маркер после бэкапа в копии отсутствует | `evidence/track2/run.txt` |
Проверка инфраструктурного hook: `scripts/restart.sh` выполняет `docker compose --env-file .env restart postgres valkey api`, то есть перезапускаются и API, и PostgreSQL, и Valkey; тома не удаляются. Подтверждение — состояние контейнеров до и после в `evidence/persistence.txt` (у всех трёх сервисов новое время старта) плюс строки `database system was shut down` → `database system is ready to accept connections` в логах postgres из того же файла.
@@ -133,17 +135,17 @@ docker compose --env-file .env start valkey
### Трек 2, часть 1: план запроса и цена индекса
**Гипотеза.** Для keyset-пагинации по контракту (`ORDER BY created_at, id` внутри одного чата) составной индекс `(chat_id, created_at, id)` даёт цену страницы, не зависящую от её глубины, а индекс только по `chat_id` вынуждает читать и сортировать всю историю чата на каждую страницу. Покрывающий индекс с `INCLUDE (sender_id, text)` должен убрать обращения к heap, но увеличить размер индекса и цену записи.
**Гипотеза.** Для keyset-пагинации по контракту (`ORDER BY created_at, id` внутри одного чата) составной индекс `(chat_id, created_at, id)` даёт цену страницы, не зависящую от её глубины, а индекс только по `chat_id` вынуждает поднимать из heap всю историю чата на каждую страницу. Покрывающий индекс с `INCLUDE (sender_id, text)` должен убрать обращения к heap, но увеличить размер индекса и цену записи.
**Методика.** Стенд описан выше, PostgreSQL запущен с `shared_buffers=128MB`, `work_mem=8MB`, `track_io_timing=on`. Данные: `student-tests/seed.sql` добивает историю до заданного размера, распределяя сообщения по 50 чатам с перекосом `power(random(), 3)`; поверх лежат чаты публичного smoke, своих тестов и нагрузочных прогонов. В этом прогоне засев дописал 66 236 строк до ровно 120 000 сообщений в 68 чатах. Размеры чатов неравномерны: 32 944 строки в самом большом, 20 775 во втором, затем 25, 5 и 3 — то есть разброс в четыре порядка. Точка измерения — страница на глубине 90 % истории самого большого чата. Каждый вариант индекса создаётся внутри транзакции и откатывается (`BEGIN … ROLLBACK`), поэтому рабочая схема не меняется и порядок вариантов не влияет на результат. Для каждого варианта снимаются: план `EXPLAIN (ANALYZE, BUFFERS)` одной страницы, время 100 последовательных страниц с разными курсорами (коррелированный `LATERAL`: без зависимости от номера итерации планировщик выполняет подзапрос один раз и измерение обнуляется — так и произошло в первой версии скрипта), размер индекса и время вставки 10 000 строк при этом наборе индексов. Прогрев: засев и `ANALYZE` выполняются до измерений, кэш БД тёплый.
**Методика.** Стенд описан выше, PostgreSQL запущен с `shared_buffers=128MB`, `work_mem=8MB`, `track_io_timing=on`. Данные: `student-tests/seed.sql` добивает историю до заданного размера, распределяя сообщения по 50 чатам с перекосом `power(random(), 3)`; поверх лежат чаты публичного smoke, своих тестов и нагрузочных прогонов. В этом прогоне засев дописал 67 113 строк до ровно 120 000 сообщений в 68 чатах. Размеры чатов неравномерны: 36 305 строк в самом большом, 16 537 во втором, затем 25, 5 и 3 — разброс в четыре порядка. Точка измерения — страница на глубине 90 % истории самого большого чата. Каждый вариант индекса создаётся внутри транзакции и откатывается (`BEGIN … ROLLBACK`), поэтому рабочая схема не меняется и порядок вариантов не влияет на результат. Для каждого варианта снимаются: план `EXPLAIN (ANALYZE, BUFFERS)` одной страницы, время 100 последовательных страниц с разными курсорами (коррелированный `LATERAL`: без зависимости от номера итерации планировщик выполняет подзапрос один раз и измерение обнуляется — так и произошло в первой версии скрипта), размер индекса и время вставки 10 000 строк при этом наборе индексов. Прогрев: засев и `ANALYZE` выполняются до измерений, кэш БД тёплый.
| Вариант индекса | План страницы на глубине 90 % | Буферы | Время одной страницы | 100 страниц | Размер индекса | Вставка 10 000 строк |
| --- | --- | --- | --- | --- | --- | --- |
| A `(chat_id, created_at, id)` — рабочий | `Index Scan using messages_history_idx` | 53 | 0.048 мс | 1.12 мс | 10 МБ | 0.084 с |
| B `(chat_id)` | `Bitmap Heap Scan` + `Sort`, `Rows Removed by Filter: 29 650` | 441 | 1.73 мс | 2186 мс | 848 кБ | 0.078 с |
| C `(chat_id, created_at, id) INCLUDE (sender_id, text)` | `Index Only Scan`, `Heap Fetches: 0` | 4 | 0.031 мс | 0.74 мс | 14 МБ | 0.085 с |
| A `(chat_id, created_at, id)` — рабочий | `Index Scan using messages_history_idx` | 54 | 0.042 мс | 1.05 мс | 11 МБ | 0.084 с |
| B `(chat_id)` | `Bitmap Heap Scan` + `Sort`, `Rows Removed by Filter: 32 675` | 484 | 1.88 мс | 2461 мс | 848 кБ | 0.078 с |
| C `(chat_id, created_at, id) INCLUDE (sender_id, text)` | `Index Only Scan`, `Heap Fetches: 0` | 4 | 0.056 мс | 0.72 мс | 14 МБ | 0.086 с |
**Что наблюдали.** Вариант B на каждой странице поднимает из heap почти весь чат и отбрасывает фильтром 29 650 строк ради 50 нужных; на серии из 100 страниц он медленнее A примерно в 1950 раз (2186 мс против 1.12 мс), причём отставание растёт вместе с размером чата, а не фиксировано. Вариант C не ходит в heap вообще (`Heap Fetches: 0`, 4 буфера против 53) и на серии страниц быстрее A примерно на треть, платя 14 МБ индекса против 10 МБ. Ожидаемого удорожания записи у C на этих данных не видно: 0.085 с против 0.084 с на 10 000 строк — разница в пределах шума, потому что засеянные тексты короткие и однотипные. B пишет быстрее всех (0.078 с) просто потому, что его индекс меньше.
**Что наблюдали.** Вариант B на каждой странице поднимает из heap почти весь чат и отбрасывает фильтром 32 675 строк ради 50 нужных; на серии из 100 страниц он медленнее A примерно в 2300 раз (2461 мс против 1.05 мс), и отставание растёт вместе с размером чата, а не фиксировано. Вариант C не ходит в heap вообще (`Heap Fetches: 0`, 4 буфера против 54) и на серии страниц быстрее A примерно на треть (0.72 мс против 1.05 мс); по одной странице времена A и C различать нельзя — 0.042 и 0.056 мс лежат в пределах разброса единичного замера, поэтому вывод делается по серии и по числу буферов. Цена C — индекс 14 МБ против 11 МБ; разницы во времени вставки между A и C на этих данных не видно (0.086 с против 0.084 с). B пишет быстрее всех (0.078 с) просто потому, что его индекс меньше.
**Вывод.** В схему взят вариант A: постоянная цена страницы при умеренном размере индекса. C даёт измеримый выигрыш по буферам и по серии страниц и остаётся кандидатом, если история читается существенно чаще, чем пишется; прежде чем переключаться, его цену записи нужно перемерять на длинных текстах, где дублирование текста в индексе должно проявиться. Переключение — одна миграция.
@@ -155,28 +157,29 @@ docker compose --env-file .env start valkey
| Воздействие | Что ожидаем | Что наблюдали | Время восстановления / потеря данных |
| --- | --- | --- | --- |
| `pg_dump -Fc` базы с 120 000 сообщений | согласованный дамп | файл 5.6 МБ | бэкап 0.761 с |
| `pg_restore` в новый том и новую базу | совпадение количества и содержимого | users 74/74, chats 68/68, chat_members 1036/1036, messages 120 000/120 000, sessions 43/43; md5 истории большого чата (32 944 строки) `6c6725a76404fbb0b8b5b509707e30b5` в обеих базах; первые три сообщения совпали | восстановление 0.370 с; потерь на момент снимка нет |
| `pg_dump -Fc` базы с 120 000 сообщений | согласованный дамп | файл 5.7 МБ | бэкап 0.741 с |
| `pg_restore` в новый том и новую базу | совпадение количества и содержимого | users 76/76, chats 68/68, chat_members 1036/1036, messages 120 000/120 000, sessions 45/45; md5 истории большого чата (36 305 строк) `1841fdf890f6207bc78cb973bedeec27` в обеих базах; первые три сообщения совпали | восстановление 0.357 с; потерь на момент снимка нет |
| Запись после снимка (маркерное сообщение) | в копии отсутствует | в источнике 1 маркер, в восстановленной копии 0 | потеряно всё, подтверждённое после начала дампа |
| Рестарт API и обоих хранилищ с сохранением томов | данные и действующая сессия живы | `PASS` публичного persistence-теста: тот же токен читает ту же историю, дублей нет | простой до readiness < 10 с, потерь нет |
| Остановка Valkey под нагрузкой | кэш обходится, ошибок нет | 691.7 RPS против 1097.7 RPS, p95 8.15 мс против 6.06 мс, `failed_requests: 0` | потерь нет, деградация по скорости ×1.6 |
| Остановка Valkey под нагрузкой | кэш обходится, ошибок нет | 550.9 RPS против 1209.7 RPS, p95 9.41 мс против 4.57 мс, `failed_requests: 0` | потерь нет, деградация по скорости ×2.2 |
| Остановка PostgreSQL | ограниченная ошибка, доверия нет | `/health/ready` 503, регистрация 503, неизвестный токен → 503/401, анонимный → 401, `/health/live` 200 | запись недоступна полностью до возврата БД |
| Заморозка PostgreSQL (`docker compose pause`) | быстрый 503, а не зависший запрос | 503 быстрее 10 с при потолке запроса 8 с; после `unpause` доступ восстановился | потерь нет |
| Рестарт Valkey после подтверждённого logout | отозванный токен остаётся мёртвым | 401 после рестарта кэша | потерь нет |
| Удаление ключа сессии из кэша | ответ из PostgreSQL совпадает с кэшированным, ключ восстановлен с TTL | тело идентично, `EXISTS` = 1, TTL 30 с | потерь нет |
**Нагрузочный профиль** (для контекста, не доказательство ёмкости): `tests/load.py`, closed loop, concurrency 4, длительность 30 с, по одному прогону на точку. С кэшем: 32 944 успешных POST, 0 ошибок, 1097.706 RPS, p50 3.248 / p95 6.063 / p99 10.603 мс. С остановленным Valkey: 20 775 успешных POST, 0 ошибок, 691.741 RPS, p50 5.447 / p95 8.152 / p99 11.778 мс. Разница — цена похода в PostgreSQL за сессией на каждом запросе; ноль ошибок в обоих прогонах показывает, что отказ кэша обходится, а не ломает запись. Это пропускная способность HTTP-подтверждений, а не счётчик COMMIT: закрытый контур страдает coordinated omission, клиент и сервер работают на одной машине, поэтому абсолютные числа занижены относительно отдельного стенда.
**Нагрузочный профиль** (для контекста, не доказательство ёмкости): `tests/load.py`, closed loop, concurrency 4, длительность 30 с, по одному прогону на точку. С кэшем: 36 305 успешных POST, 0 ошибок, 1209.659 RPS, p50 3.130 / p95 4.568 / p99 6.509 мс. С остановленным Valkey: 16 537 успешных POST, 0 ошибок, 550.943 RPS, p50 6.908 / p95 9.405 / p99 12.388 мс. Разница — цена похода в PostgreSQL за сессией на каждом запросе; ноль ошибок в обоих прогонах показывает, что отказ кэша обходится, а не ломает запись. Это пропускная способность HTTP-подтверждений, а не счётчик COMMIT: закрытый контур страдает coordinated omission, клиент и сервер работают на одной машине, поэтому абсолютные числа занижены относительно отдельного стенда.
**Ограничения измерений.** Всё измерено на одной машине, с тёплым кэшом БД, по одному прогону на точку, без фиксации частоты CPU и без контроля троттлинга; потребление CPU и RAM по контейнерам не снималось. Размер индекса измеряется внутри откатываемой транзакции, поэтому при повторных запусках скрипта к индексу добавляются мёртвые записи до `VACUUM` — сравнивать размеры корректно только внутри одного прогона. Два самых больших чата сформированы нагрузочными прогонами, поэтому тексты в них короткие и однотипные: на длинных текстах разрыв между A и C по размеру индекса и цене записи будет больше. Прогон без кэша выполнялся на уже подросшей таблице, поэтому отношение RPS показывает направление и порядок эффекта, а не точный коэффициент. Числа p50/p95/p99 относятся только к успешным запросам.
**Ограничения измерений.** Всё измерено на одной машине, с тёплым кэшом БД, по одному прогону на точку, без фиксации частоты CPU и без контроля троттлинга; потребление CPU и RAM по контейнерам не снималось. По одной странице времена вариантов A и C неразличимы, поэтому для них опорой служат серия из 100 страниц и число буферов. Размер индекса измеряется внутри откатываемой транзакции, поэтому при повторных запусках скрипта к индексу добавляются мёртвые записи до `VACUUM` — сравнивать размеры корректно только внутри одного прогона. Два самых больших чата сформированы нагрузочными прогонами, поэтому тексты в них короткие и однотипные: на длинных текстах разрыв между A и C по размеру индекса и цене записи будет больше. Прогон без кэша выполнялся на уже подросшей таблице, поэтому отношение RPS показывает направление и порядок эффекта, а не точный коэффициент. Числа p50/p95/p99 относятся только к успешным запросам.
## Ограничения и следующие шаги
**Какие отказы выдерживаются.** Перезапуск API, PostgreSQL и Valkey с сохранением томов: подтверждённые данные и ещё действующие сессии остаются, TTL не продлевается, а уже отозванные сессии не оживают. Полная потеря Valkey: сервис продолжает работать, читая сессии из PostgreSQL, цена — падение пропускной способности примерно в 1.7 раза. Потеря соединения с БД: запросы получают 503 с `Retry-After`, пул переподключается сам, readiness честно показывает недоступность. Заморозка БД: клиентский лимит и потолок запроса не дают запросу зависнуть.
**Какие отказы выдерживаются.** Перезапуск API, PostgreSQL и Valkey с сохранением томов: подтверждённые данные и ещё действующие сессии остаются, TTL не продлевается, а уже отозванные сессии не оживают. Полная потеря Valkey: сервис продолжает работать, читая сессии из PostgreSQL, цена — падение пропускной способности примерно в 2.2 раза. Потеря соединения с БД: запросы получают 503 с `Retry-After`, пул переподключается сам, readiness честно показывает недоступность. Заморозка БД: клиентский лимит и потолок запроса не дают запросу зависнуть.
**Какие отказы не выдерживаются.** PostgreSQL — единственная точка истины без реплики: при потере тома `pgdata` данные восстанавливаются только из дампа, то есть теряется всё после последнего `pg_dump`. WAL-архивирование и PITR не настроены, непрерывного бэкапа нет. API — один экземпляр, балансировщика нет (это тема lab3), поэтому его перезапуск — простой сервиса, а не бесшовное переключение. Rate limiting по пользователю и HTTPS в объём lab2 не входят.
**Учебные упрощения.** Кэш сессий намеренно volatile: это снимает риск воскрешения отозванной сессии, но после каждого рестарта Valkey первые запросы идут в базу. Logout при недоступном кэше возвращает 503 и не отзывает сессию — выход нужно повторить; альтернатива (удалить строку в БД и надеяться, что кэш очистится) давала бы окно, в котором мёртвый токен работает. Параметры Argon2id (19 МБ, t=2, p=1) выбраны по RFC 9106 как второй рекомендуемый профиль и снижены относительно умолчаний библиотеки (64 МБ), чтобы одновременные входы не съедали память контейнера. Хранение текста в `bytea` усложняет SQL-запросы к этим столбцам — это осознанная цена за точный round-trip Unicode. Данные экспериментов (`load_*` пользователи, `load chat *`) лежат в той же базе, что и smoke-данные: отдельного стенда для экспериментов нет, поэтому два самых больших чата в выборке — это чаты нагрузочных прогонов.
**Что подтверждено, а что пока гипотеза.** Подтверждено измерениями: постоянная цена keyset-страницы на 120 тысячах сообщений, деградация варианта B на глубине примерно в 1950 раз, выигрыш покрывающего индекса по буферам (4 против 53) и по серии страниц, выигрыш кэша сессий по RPS и p95 при нулевом числе ошибок, полное совпадение восстановленной копии с источником и отсутствие в ней записей, подтверждённых после снимка, корректная деградация при остановке и при заморозке каждого из хранилищ, устойчивость отзыва сессии к рестарту кэша. Гипотезы, не проверенные здесь: что покрывающий индекс C дороже в записи — на этих данных разница с A укладывается в шум (0.085 с против 0.084 с), и проверять это нужно на текстах, близких к 4000 символов; что C окажется выгоднее на холодном кэше и при большом числе параллельных читателей; что `max_size=10` в пуле — оптимум (значение взято с запасом под `max_connections=50`, но под нагрузкой не подбиралось).
**Что подтверждено, а что пока гипотеза.** Подтверждено измерениями: постоянная цена keyset-страницы на 120 тысячах сообщений, деградация варианта B на глубине примерно в 2300 раз, выигрыш покрывающего индекса по буферам (4 против 53) и по серии страниц, выигрыш кэша сессий по RPS и p95 при нулевом числе ошибок, полное совпадение восстановленной копии с источником и отсутствие в ней записей, подтверждённых после снимка, корректная деградация при остановке и при заморозке каждого из хранилищ, устойчивость отзыва сессии к рестарту кэша. Гипотезы, не проверенные здесь: что покрывающий индекс C дороже в записи — на этих данных разница с A укладывается в шум (0.085 с против 0.084 с), и проверять это нужно на текстах, близких к 4000 символов; что C окажется выгоднее на холодном кэше и при большом числе параллельных читателей; что `max_size=10` в пуле — оптимум (значение взято с запасом под `max_connections=50`, но под нагрузкой не подбиралось).
**Следующие шаги.** Настроить WAL-архивирование и проверить PITR с восстановлением на момент времени; добавить реплику PostgreSQL и измерить переключение; подобрать `DB_POOL_MAX` и профиль Argon2id под целевой p95; перенести эксперименты на отдельную базу; в lab3 добавить балансировщик и идемпотентность записи.
+4 -8
View File
@@ -7,7 +7,7 @@ from typing import Optional
import valkey.asyncio as valkey
from app import config
from app import config, repo
from app.cursor import fmt
from app.errors import unavailable
@@ -74,12 +74,7 @@ class SessionStore:
row = await cur.fetchone()
if row is None:
return None
user = {
"id": str(row["id"]),
"username": row["username"],
"display_name": row["display_name"],
"created_at": fmt(row["created_at"]),
}
user = repo.public_user(row)
await self._cache_put(digest, user, row["expires_at"])
return user
@@ -119,8 +114,9 @@ class SessionStore:
ttl = self._cache_ttl(expires_at)
if ttl <= 0:
return
payload = json.dumps(user)
try:
await self.client.set(self.key(digest), json.dumps(user), ex=ttl)
await self.client.set(self.key(digest), payload, ex=ttl)
except Exception:
self._cache_failed("set")
+2 -2
View File
@@ -13,7 +13,7 @@ PASS readiness_ignores_the_cache
=== 2. Останавливаю PostgreSQL ===
Container mtusi-lab2-postgres-1 Stopping
Container mtusi-lab2-postgres-1 Stopped
api Up 31 seconds (healthy)
api Up 32 seconds (healthy)
valkey Up Less than a second (health: starting)
PASS readiness_reports_the_outage
PASS writes_fail_with_503
@@ -25,5 +25,5 @@ PASS login_fails_closed
=== 3. Состояние восстановлено ===
api Up 38 seconds (healthy)
postgres Up Less than a second (health: starting)
postgres Up 3 seconds (health: starting)
valkey Up 7 seconds (healthy)
+36 -36
View File
@@ -7,7 +7,7 @@ valkey valkey/valkey:8.1-alpine@sha256:081c2f5cb575efc901aa80ff9cdbd1ec6a301682f
=== Засев 10000 сообщений с неравномерными чатами ===
seed_duration | seeded_rows | target_total | messages_total
-----------------+-------------+--------------+----------------
00:00:00.001309 | 0 | 10000 | 53764
00:00:00.000975 | 0 | 10000 | 52887
(1 row)
@@ -19,70 +19,70 @@ valkey valkey/valkey:8.1-alpine@sha256:081c2f5cb575efc901aa80ff9cdbd1ec6a301682f
messages_total | chats_with_messages | table_size | indexes_size
----------------+---------------------+------------+--------------
53764 | 14 | 5368 kB | 6320 kB
52887 | 14 | 5280 kB | 7024 kB
(1 row)
--- распределение истории по чатам: 5 самых больших и 5 самых маленьких ---
chat_id | rows
--------------------------------------+-------
e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32 | 32944
c995246c-35ed-422d-b097-c71f8829a0e0 | 20775
d73dc509-7b93-4fc3-b6de-b7079bcc294f | 25
7485e75e-455e-4a7b-b164-3dbc84099fc0 | 5
63d536a7-78d4-4502-92fa-9bbac4e7c5c4 | 3
174a0477-1fd5-47a9-ab90-ee8b7ef903af | 36305
fb87d20c-528a-4bb7-9cd5-e1d4486bdfca | 16537
3e751b33-08b7-4433-a2be-bb355af7bf62 | 25
11bd8f2b-db27-4c63-89f0-469ee53c6cad | 5
30e5554f-e2e0-411e-b5bd-ab86e1fd9c5f | 3
(5 rows)
chat_id | rows
--------------------------------------+------
143b0ced-4c1a-4742-a4ad-02c4b606ba0f | 1
b4faa937-91fc-4f41-b25e-f3f692878c1f | 1
84d473db-544b-4a24-995b-43a4852c68ab | 1
574fc146-1610-484a-85a9-cb084afa7d28 | 1
836ed5bf-8ccb-419e-96d5-2c4fe7342292 | 1
b490286c-39b8-4940-92cf-23817def915a | 1
6fc32369-98df-4387-b07f-00dfa6e0b391 | 1
f4c1fdcc-0ddd-4fb5-a962-c8901deac9e2 | 1
903d0035-1bda-4ac6-9fbf-52f28fe0b94c | 1
fb6df905-d5d2-4300-b74f-1f0196f9e2b0 | 1
(5 rows)
--- A. keyset, первая страница самого большого чата ---
QUERY PLAN
----------------------------------------------------------------------------------------------------------------------------------------------
Limit (cost=0.41..6.89 rows=50 width=67) (actual time=0.006..0.016 rows=50 loops=1)
Buffers: shared hit=24
-> Index Scan using messages_history_idx on messages (cost=0.41..4269.16 rows=32968 width=67) (actual time=0.006..0.014 rows=50 loops=1)
Index Cond: (chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid)
Buffers: shared hit=24
Limit (cost=0.41..5.46 rows=50 width=67) (actual time=0.005..0.011 rows=50 loops=1)
Buffers: shared hit=21
-> Index Scan using messages_history_idx on messages (cost=0.41..3662.26 rows=36288 width=67) (actual time=0.005..0.009 rows=50 loops=1)
Index Cond: (chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid)
Buffers: shared hit=21
Planning:
Buffers: shared hit=6
Planning Time: 0.046 ms
Execution Time: 0.026 ms
Buffers: shared hit=8
Planning Time: 0.049 ms
Execution Time: 0.018 ms
(9 rows)
--- B. keyset, страница на глубине 90% истории (так работает cursor API) ---
QUERY PLAN
-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
Limit (cost=0.41..11.51 rows=50 width=67) (actual time=0.017..0.025 rows=50 loops=1)
Buffers: shared hit=53
-> Index Scan using messages_history_idx on messages (cost=0.41..3272.65 rows=14746 width=67) (actual time=0.017..0.023 rows=50 loops=1)
Index Cond: ((chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid) AND (ROW(created_at, id) > ROW('2026-10-19 15:51:38.025965+00'::timestamp with time zone, '0375fd16-e024-4391-93a5-0d5a1a21786d'::uuid)))
Buffers: shared hit=53
Planning Time: 0.027 ms
Execution Time: 0.063 ms
Limit (cost=0.41..8.17 rows=50 width=67) (actual time=0.006..0.014 rows=50 loops=1)
Buffers: shared hit=54
-> Index Scan using messages_history_idx on messages (cost=0.41..2148.72 rows=13857 width=67) (actual time=0.005..0.012 rows=50 loops=1)
Index Cond: ((chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid) AND (ROW(created_at, id) > ROW('2026-10-23 14:37:21.481035+00'::timestamp with time zone, 'b34cffc1-608f-4281-89b6-d598a0000a8d'::uuid)))
Buffers: shared hit=54
Planning Time: 0.022 ms
Execution Time: 0.034 ms
(7 rows)
--- C. OFFSET на той же глубине (так API не делает: цена растёт со страницей) ---
QUERY PLAN
-------------------------------------------------------------------------------------------------------------------------------------------------
Limit (cost=3839.41..3845.89 rows=50 width=67) (actual time=4.152..4.159 rows=50 loops=1)
Buffers: shared hit=29813
-> Index Scan using messages_history_idx on messages (cost=0.41..4269.16 rows=32968 width=67) (actual time=0.008..3.474 rows=29699 loops=1)
Index Cond: (chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid)
Buffers: shared hit=29813
Planning Time: 0.018 ms
Execution Time: 4.172 ms
Limit (cost=3297.57..3302.61 rows=50 width=67) (actual time=4.132..4.139 rows=50 loops=1)
Buffers: shared hit=33082
-> Index Scan using messages_history_idx on messages (cost=0.41..3662.26 rows=36288 width=67) (actual time=0.012..3.519 rows=32724 loops=1)
Index Cond: (chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid)
Buffers: shared hit=33082
Planning Time: 0.020 ms
Execution Time: 4.146 ms
(7 rows)
--- индексы таблицы messages ---
index | size | scans
----------------------+---------+-------
messages_history_idx | 4072 kB | 12
messages_pkey | 2248 kB | 0
messages_history_idx | 4720 kB | 12
messages_pkey | 2304 kB | 0
(2 rows)
+15 -26
View File
@@ -1,30 +1,19 @@
M .env.example
M Makefile
M REPORT.md
?? .github/workflows/app.yml
?? Dockerfile
?? app/
?? compose.yaml
?? evidence/dependency.txt
?? evidence/expiry.txt
?? evidence/explain-10k.txt
?? evidence/git-hygiene.txt
?? evidence/level4-tests.txt
?? evidence/load-cache.json
?? evidence/load-nocache.json
?? evidence/load.txt
?? evidence/migrations.txt
?? evidence/outages.txt
?? evidence/persistence.txt
?? evidence/smoke.txt
?? evidence/stand.txt
?? evidence/track2/
?? migrations/
?? requirements.txt
?? scripts/bootstrap.sh
?? scripts/migrate.py
?? scripts/restart.sh
?? student-tests/
M app/sessions.py
M evidence/dependency.txt
M evidence/explain-10k.txt
M evidence/git-hygiene.txt
M evidence/load-cache.json
M evidence/load-nocache.json
M evidence/load.txt
M evidence/migrations.txt
M evidence/outages.txt
M evidence/persistence.txt
M evidence/stand.txt
M evidence/track2/run.txt
M scripts/bootstrap.sh
M student-tests/evidence.sh
M student-tests/test_outages.py
--- правила игнорирования ---
.gitignore:2:.env .env
.gitignore:5:secrets/ secrets/database_url
+6 -6
View File
@@ -2,16 +2,16 @@
"lab": 2,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 30.0,
"elapsed_seconds": 30.012,
"elapsed_seconds": 30.013,
"concurrency": 4,
"successful_requests": 32944,
"successful_requests": 36305,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 1097.706,
"successful_rps": 1209.659,
"successful_latency_ms": {
"p50": 3.248,
"p95": 6.063,
"p99": 10.603
"p50": 3.13,
"p95": 4.568,
"p99": 6.509
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+6 -6
View File
@@ -2,16 +2,16 @@
"lab": 2,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 30.0,
"elapsed_seconds": 30.033,
"elapsed_seconds": 30.016,
"concurrency": 4,
"successful_requests": 20775,
"successful_requests": 16537,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 691.741,
"successful_rps": 550.943,
"successful_latency_ms": {
"p50": 5.447,
"p95": 8.152,
"p99": 11.778
"p50": 6.908,
"p95": 9.405,
"p99": 12.388
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+12 -12
View File
@@ -2,16 +2,16 @@
"lab": 2,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 30.0,
"elapsed_seconds": 30.012,
"elapsed_seconds": 30.013,
"concurrency": 4,
"successful_requests": 32944,
"successful_requests": 36305,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 1097.706,
"successful_rps": 1209.659,
"successful_latency_ms": {
"p50": 3.248,
"p95": 6.063,
"p99": 10.603
"p50": 3.13,
"p95": 4.568,
"p99": 6.509
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
@@ -19,16 +19,16 @@
"lab": 2,
"workload": "closed-loop POST messages; no automatic retries",
"requested_duration_seconds": 30.0,
"elapsed_seconds": 30.033,
"elapsed_seconds": 30.016,
"concurrency": 4,
"successful_requests": 20775,
"successful_requests": 16537,
"failed_requests": 0,
"error_ratio": 0.0,
"successful_rps": 691.741,
"successful_rps": 550.943,
"successful_latency_ms": {
"p50": 5.447,
"p95": 8.152,
"p99": 11.778
"p50": 6.908,
"p95": 9.405,
"p99": 12.388
},
"note": "Latency percentiles cover successes only. Timeouts/errors are counted separately; closed-loop has coordinated omission and client overhead."
}
+3 -3
View File
@@ -5,8 +5,8 @@ migrate-1 | migrations complete: 1 file(s)
Container mtusi-lab2-postgres-1 Running
Container mtusi-lab2-postgres-1 Waiting
Container mtusi-lab2-postgres-1 Healthy
Container mtusi-lab2-migrate-run-d04acc691283 Creating
Container mtusi-lab2-migrate-run-d04acc691283 Created
Container mtusi-lab2-migrate-run-6c5706582141 Creating
Container mtusi-lab2-migrate-run-6c5706582141 Created
skip 0001_init
migrations complete: 1 file(s)
--- схема ---
@@ -30,6 +30,6 @@ Access method: heap
version | checksum | applied_at
-----------+------------------------------------------------------------------+-------------------------------
0001_init | 4fd0a8c68a5cffd3ae67a21646eb1928477d18b8716e68c1220469d858ccb9c1 | 2026-10-19 15:50:30.673311+00
0001_init | 4fd0a8c68a5cffd3ae67a21646eb1928477d18b8716e68c1220469d858ccb9c1 | 2026-10-23 14:36:13.656522+00
(1 row)
+3 -1
View File
@@ -1,5 +1,7 @@
PASS revoked_session_stays_revoked_after_cache_restart
PASS logout_is_not_confirmed_while_cache_is_down
PASS cached_sessions_do_not_cross_users
PASS cache_is_repopulated_after_a_miss
PASS cache_survives_its_own_restart
PASS hung_database_fails_fast
4/4 checks passed
6/6 checks passed
+8 -8
View File
@@ -1,6 +1,6 @@
--- состояние контейнеров до рестарта ---
api Up 38 seconds (healthy)
postgres Up Less than a second (health: starting)
api Up 39 seconds (healthy)
postgres Up 3 seconds (health: starting)
valkey Up 7 seconds (healthy)
python3 tests/resilience.py --mode persistence --action-script "scripts/restart.sh" --base-url "http://localhost:8080"
Executing explicit persistence hook; hook output suppressed to avoid leaking secrets.
@@ -10,9 +10,9 @@ api Up Less than a second (health: starting)
postgres Up Less than a second (health: starting)
valkey Up Less than a second (health: starting)
--- логи postgres о перезапуске ---
postgres-1 | 2026-10-19 15:51:09.945 UTC [1] LOG: starting PostgreSQL 17.7 on aarch64-unknown-linux-musl, compiled by gcc (Alpine 15.2.0) 15.2.0, 64-bit
postgres-1 | 2026-10-19 15:51:09.945 UTC [1] LOG: listening on IPv4 address "0.0.0.0", port 5432
postgres-1 | 2026-10-19 15:51:09.945 UTC [1] LOG: listening on IPv6 address "::", port 5432
postgres-1 | 2026-10-19 15:51:09.946 UTC [1] LOG: listening on Unix socket "/var/run/postgresql/.s.PGSQL.5432"
postgres-1 | 2026-10-19 15:51:09.949 UTC [29] LOG: database system was shut down at 2026-10-19 15:51:09 UTC
postgres-1 | 2026-10-19 15:51:09.951 UTC [1] LOG: database system is ready to accept connections
postgres-1 | 2026-10-23 14:36:53.364 UTC [1] LOG: starting PostgreSQL 17.7 on aarch64-unknown-linux-musl, compiled by gcc (Alpine 15.2.0) 15.2.0, 64-bit
postgres-1 | 2026-10-23 14:36:53.364 UTC [1] LOG: listening on IPv4 address "0.0.0.0", port 5432
postgres-1 | 2026-10-23 14:36:53.364 UTC [1] LOG: listening on IPv6 address "::", port 5432
postgres-1 | 2026-10-23 14:36:53.364 UTC [1] LOG: listening on Unix socket "/var/run/postgresql/.s.PGSQL.5432"
postgres-1 | 2026-10-23 14:36:53.366 UTC [29] LOG: database system was shut down at 2026-10-23 14:36:53 UTC
postgres-1 | 2026-10-23 14:36:53.368 UTC [1] LOG: database system is ready to accept connections
+8
View File
@@ -6,3 +6,11 @@ postgres postgres:17.7-alpine@sha256:bb377b7239d2774ac8cc76f481596ce96c5a6b5e9d1
valkey valkey/valkey:8.1-alpine@sha256:081c2f5cb575efc901aa80ff9cdbd1ec6a301682fd35e1ebb4b0990a4a4a8507 Up 7 seconds (healthy)
PostgreSQL 17.7 on aarch64-unknown-linux-musl, compiled by gcc (Alpine 15.2.0) 15.2.0, 64-bit
Valkey server v=8.1.10 sha=00000000:1 malloc=jemalloc-5.3.0 bits=64 build=2cb63ac0e4567989
--- строка старта API: действующие лимиты и TTL ---
api-1 | INFO: Waiting for application startup.
api-1 | 2026-10-23 14:36:14,347 INFO messenger started: instance=9b4feca99e44 session_store=postgres session_ttl=3600 cache_ttl=30 pool=1..10 max_inflight=64 max_body=65536
api-1 | INFO: Application startup complete.
api-1 | INFO: Uvicorn running on http://0.0.0.0:8080 (Press CTRL+C to quit)
api-1 | INFO: 172.18.0.1:56506 - "GET /health/ready HTTP/1.1" 200 OK
--- сверка .env с .env.example ---
ready: .env and secrets/ created locally; they stay out of Git
+66 -66
View File
@@ -6,9 +6,9 @@ Darwin arm64
Docker version 29.7.2, build a7dcaa6
=== 1. Засев истории: цель 120000 сообщений, чаты неравномерные ===
seed_duration | seeded_rows | target_total | messages_total
----------------+-------------+--------------+----------------
00:00:00.63315 | 66236 | 120000 | 120000
seed_duration | seeded_rows | target_total | messages_total
-----------------+-------------+--------------+----------------
00:00:00.616654 | 67113 | 120000 | 120000
(1 row)
@@ -21,20 +21,20 @@ Docker version 29.7.2, build a7dcaa6
############ Вариант A: messages_history_idx (chat_id, created_at, id) ############
index_size
------------
10 MB
11 MB
(1 row)
QUERY PLAN
-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
Limit (cost=0.42..37.36 rows=50 width=89) (actual time=0.015..0.025 rows=50 loops=1)
Buffers: shared hit=53
-> Index Scan using messages_history_idx on messages (cost=0.42..5594.06 rows=7570 width=89) (actual time=0.014..0.022 rows=50 loops=1)
Index Cond: ((chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid) AND (ROW(created_at, id) > ROW('2026-10-19 15:51:38.025965+00'::timestamp with time zone, '0375fd16-e024-4391-93a5-0d5a1a21786d'::uuid)))
Buffers: shared hit=53
Limit (cost=0.42..47.47 rows=50 width=90) (actual time=0.009..0.020 rows=50 loops=1)
Buffers: shared hit=54
-> Index Scan using messages_history_idx on messages (cost=0.42..6827.62 rows=7255 width=90) (actual time=0.008..0.018 rows=50 loops=1)
Index Cond: ((chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid) AND (ROW(created_at, id) > ROW('2026-10-23 14:37:21.481035+00'::timestamp with time zone, 'b34cffc1-608f-4281-89b6-d598a0000a8d'::uuid)))
Buffers: shared hit=54
Planning:
Buffers: shared hit=17
Planning Time: 0.098 ms
Execution Time: 0.048 ms
Buffers: shared hit=19
Planning Time: 0.086 ms
Execution Time: 0.042 ms
(9 rows)
pages_measured
@@ -44,12 +44,12 @@ Docker version 29.7.2, build a7dcaa6
hundred_pages_duration
------------------------
00:00:00.001121
00:00:00.00105
(1 row)
insert_10k_duration
---------------------
00:00:00.083689
00:00:00.083522
(1 row)
############ Вариант B: только (chat_id) ############
@@ -60,30 +60,30 @@ Docker version 29.7.2, build a7dcaa6
QUERY PLAN
------------------------------------------------------------------------------------------------------------------------------------------------------------
Limit (cost=3134.85..3134.97 rows=50 width=89) (actual time=1.691..1.695 rows=50 loops=1)
Buffers: shared hit=411 read=30
I/O Timings: shared read=0.076
-> Sort (cost=3134.85..3153.65 rows=7522 width=89) (actual time=1.691..1.692 rows=50 loops=1)
Limit (cost=3231.76..3231.89 rows=50 width=90) (actual time=1.856..1.860 rows=50 loops=1)
Buffers: shared hit=451 read=33
I/O Timings: shared read=0.074
-> Sort (cost=3231.76..3249.63 rows=7146 width=90) (actual time=1.855..1.857 rows=50 loops=1)
Sort Key: created_at, id
Sort Method: top-N heapsort Memory: 33kB
Buffers: shared hit=411 read=30
I/O Timings: shared read=0.076
-> Bitmap Heap Scan on messages (cost=368.71..2884.97 rows=7522 width=89) (actual time=1.378..1.560 rows=3294 loops=1)
Recheck Cond: (chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid)
Filter: (ROW(created_at, id) > ROW('2026-10-19 15:51:38.025965+00'::timestamp with time zone, '0375fd16-e024-4391-93a5-0d5a1a21786d'::uuid))
Rows Removed by Filter: 29650
Heap Blocks: exact=411
Buffers: shared hit=411 read=30
I/O Timings: shared read=0.076
-> Bitmap Index Scan on messages_chat_only_idx (cost=0.00..366.83 rows=32872 width=0) (actual time=0.333..0.333 rows=32944 loops=1)
Index Cond: (chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid)
Buffers: shared read=30
I/O Timings: shared read=0.076
Buffers: shared hit=451 read=33
I/O Timings: shared read=0.074
-> Bitmap Heap Scan on messages (cost=408.67..2994.38 rows=7146 width=90) (actual time=1.514..1.710 rows=3630 loops=1)
Recheck Cond: (chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid)
Filter: (ROW(created_at, id) > ROW('2026-10-23 14:37:21.481035+00'::timestamp with time zone, 'b34cffc1-608f-4281-89b6-d598a0000a8d'::uuid))
Rows Removed by Filter: 32675
Heap Blocks: exact=451
Buffers: shared hit=451 read=33
I/O Timings: shared read=0.074
-> Bitmap Index Scan on messages_chat_only_idx (cost=0.00..406.88 rows=36612 width=0) (actual time=0.362..0.362 rows=36305 loops=1)
Index Cond: (chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid)
Buffers: shared read=33
I/O Timings: shared read=0.074
Planning:
Buffers: shared hit=26 read=1
Buffers: shared hit=28 read=1
I/O Timings: shared read=0.009
Planning Time: 0.130 ms
Execution Time: 1.728 ms
Planning Time: 0.126 ms
Execution Time: 1.879 ms
(24 rows)
pages_measured
@@ -93,12 +93,12 @@ Docker version 29.7.2, build a7dcaa6
hundred_pages_duration
------------------------
00:00:02.186353
00:00:02.460907
(1 row)
insert_10k_duration
---------------------
00:00:00.078473
00:00:00.077769
(1 row)
############ Вариант C: (chat_id, created_at, id) INCLUDE (sender_id, text) ############
@@ -109,19 +109,19 @@ Docker version 29.7.2, build a7dcaa6
QUERY PLAN
-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
Limit (cost=0.42..34.19 rows=50 width=89) (actual time=0.017..0.021 rows=50 loops=1)
Limit (cost=0.42..43.36 rows=50 width=90) (actual time=0.039..0.045 rows=50 loops=1)
Buffers: shared hit=1 read=3
I/O Timings: shared read=0.006
-> Index Only Scan using messages_history_covering_idx on messages (cost=0.42..5110.68 rows=7565 width=89) (actual time=0.016..0.019 rows=50 loops=1)
Index Cond: ((chat_id = 'e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32'::uuid) AND (ROW(created_at, id) > ROW('2026-10-19 15:51:38.025965+00'::timestamp with time zone, '0375fd16-e024-4391-93a5-0d5a1a21786d'::uuid)))
I/O Timings: shared read=0.012
-> Index Only Scan using messages_history_covering_idx on messages (cost=0.42..6095.87 rows=7098 width=90) (actual time=0.038..0.041 rows=50 loops=1)
Index Cond: ((chat_id = '174a0477-1fd5-47a9-ab90-ee8b7ef903af'::uuid) AND (ROW(created_at, id) > ROW('2026-10-23 14:37:21.481035+00'::timestamp with time zone, 'b34cffc1-608f-4281-89b6-d598a0000a8d'::uuid)))
Heap Fetches: 0
Buffers: shared hit=1 read=3
I/O Timings: shared read=0.006
I/O Timings: shared read=0.012
Planning:
Buffers: shared hit=28 read=1
I/O Timings: shared read=0.005
Planning Time: 0.184 ms
Execution Time: 0.031 ms
Buffers: shared hit=29 read=1
I/O Timings: shared read=0.007
Planning Time: 0.144 ms
Execution Time: 0.056 ms
(13 rows)
pages_measured
@@ -131,12 +131,12 @@ Docker version 29.7.2, build a7dcaa6
hundred_pages_duration
------------------------
00:00:00.000744
00:00:00.000723
(1 row)
insert_10k_duration
---------------------
00:00:00.084611
00:00:00.085783
(1 row)
############ Схема после эксперимента (ROLLBACK вернул индексы) ############
@@ -147,7 +147,7 @@ Docker version 29.7.2, build a7dcaa6
(2 rows)
Самый большой чат: e8b55eec-ce6b-4cc4-9003-e6f1f33ddd32
Самый большой чат: 174a0477-1fd5-47a9-ab90-ee8b7ef903af
=== 3. Состояние источника до бэкапа ===
relation | rows
@@ -155,20 +155,20 @@ Docker version 29.7.2, build a7dcaa6
chat_members | 1036
chats | 68
messages | 120000
sessions | 43
users | 74
sessions | 45
users | 76
(5 rows)
big_chat_rows | big_chat_md5
---------------+----------------------------------
32944 | 6c6725a76404fbb0b8b5b509707e30b5
36305 | 1841fdf890f6207bc78cb973bedeec27
(1 row)
id | created_at | text
--------------------------------------+-------------------------------+----------
8ecedfe9-56ef-410d-98b3-e3fc414128d9 | 2026-10-19 15:51:11.010631+00 | load-1-0
424bfa46-6e49-4b60-8ca3-ac3c3f9be02a | 2026-10-19 15:51:11.011234+00 | load-3-0
05b0e1a2-5862-461a-b8aa-1f91f647e18d | 2026-10-19 15:51:11.01201+00 | load-2-0
1d15f9ed-952e-45e7-9553-dcd3bc3dd76e | 2026-10-23 14:36:54.449674+00 | load-2-0
4bc8c702-07e1-42d2-be14-8cdd6dad31a7 | 2026-10-23 14:36:54.450312+00 | load-0-0
3993ceca-7c29-400d-a1e9-287137672829 | 2026-10-23 14:36:54.450773+00 | load-1-0
(3 rows)
marker_rows
@@ -178,8 +178,8 @@ Docker version 29.7.2, build a7dcaa6
=== 4. Бэкап pg_dump -Fc ===
backup_seconds=0.761
dump_size=5.6M
backup_seconds=0.741
dump_size=5.7M
=== 5. Запись после бэкапа: граница потери данных ===
в источнике маркеров: 1
@@ -188,7 +188,7 @@ dump_size=5.6M
/var/run/postgresql:5432 - accepting connections
=== 7. Восстановление в новое хранилище ===
restore_seconds=0.370
restore_seconds=0.357
=== 8. Сверка восстановленной копии ===
relation | rows
@@ -196,20 +196,20 @@ restore_seconds=0.370
chat_members | 1036
chats | 68
messages | 120000
sessions | 43
users | 74
sessions | 45
users | 76
(5 rows)
big_chat_rows | big_chat_md5
---------------+----------------------------------
32944 | 6c6725a76404fbb0b8b5b509707e30b5
36305 | 1841fdf890f6207bc78cb973bedeec27
(1 row)
id | created_at | text
--------------------------------------+-------------------------------+----------
8ecedfe9-56ef-410d-98b3-e3fc414128d9 | 2026-10-19 15:51:11.010631+00 | load-1-0
424bfa46-6e49-4b60-8ca3-ac3c3f9be02a | 2026-10-19 15:51:11.011234+00 | load-3-0
05b0e1a2-5862-461a-b8aa-1f91f647e18d | 2026-10-19 15:51:11.01201+00 | load-2-0
1d15f9ed-952e-45e7-9553-dcd3bc3dd76e | 2026-10-23 14:36:54.449674+00 | load-2-0
4bc8c702-07e1-42d2-be14-8cdd6dad31a7 | 2026-10-23 14:36:54.450312+00 | load-0-0
3993ceca-7c29-400d-a1e9-287137672829 | 2026-10-23 14:36:54.450773+00 | load-1-0
(3 rows)
marker_rows
@@ -219,9 +219,9 @@ restore_seconds=0.370
=== 9. Итог ===
backup_seconds=0.761 restore_seconds=0.370
backup_seconds=0.741 restore_seconds=0.357
messages_source_without_marker=120000 messages_restored=120000
big_chat_md5_source=6c6725a76404fbb0b8b5b509707e30b5
big_chat_md5_restored=6c6725a76404fbb0b8b5b509707e30b5
big_chat_md5_source=1841fdf890f6207bc78cb973bedeec27
big_chat_md5_restored=1841fdf890f6207bc78cb973bedeec27
RESULT: восстановленная копия совпадает с источником на момент бэкапа
маркеров после бэкапа в восстановленной копии: 0 (ожидается 0: всё, что подтверждено после снимка, в дампе отсутствует)
+26 -1
View File
@@ -2,7 +2,32 @@
set -eu
cd "$(dirname "$0")/.."
[ -f .env ] || cp .env.example .env
if [ -f .env ]; then
added=$(python3 - <<'PYEOF'
def pairs(path):
result = []
for line in open(path, encoding="utf-8"):
stripped = line.strip()
if stripped and not stripped.startswith("#") and "=" in stripped:
result.append((stripped.split("=", 1)[0], line.rstrip("\n")))
return result
present = {name for name, _ in pairs(".env")}
missing = [line for name, line in pairs(".env.example") if name not in present]
if missing:
with open(".env", "a", encoding="utf-8") as handle:
handle.write("\n# Добавлено bootstrap из .env.example\n")
for line in missing:
handle.write(line + "\n")
print(" ".join(line.split("=", 1)[0] for line in missing))
PYEOF
)
if [ -n "$added" ]; then
echo "в .env добавлены отсутствующие переменные: $added"
fi
else
cp .env.example .env
fi
mkdir -p secrets
if [ ! -f secrets/postgres_password ]; then
python3 -c "import secrets; print(secrets.token_urlsafe(24))" > secrets/postgres_password
+4
View File
@@ -34,6 +34,10 @@ wait_ready
$COMPOSE ps --format '{{.Service}} {{.Image}} {{.Status}}'
$COMPOSE exec -T postgres psql -U messenger -d messenger -t -A -c 'select version()'
$COMPOSE exec -T valkey valkey-server --version
echo '--- строка старта API: действующие лимиты и TTL ---'
$COMPOSE logs api --tail=5
echo '--- сверка .env с .env.example ---'
sh scripts/bootstrap.sh
} > "$OUT/stand.txt" 2>&1
cat "$OUT/stand.txt"
+43 -1
View File
@@ -1,5 +1,6 @@
#!/usr/bin/env python3
"""Level 4/5: revocation must outlive the cache and outages must never grant trust."""
import hashlib
import pathlib
import subprocess
import time
@@ -14,6 +15,16 @@ def compose(*args):
subprocess.run(COMPOSE + list(args), cwd=str(ROOT), check=True, stdout=subprocess.DEVNULL, stderr=subprocess.DEVNULL)
def valkey(*args):
done = subprocess.run(COMPOSE + ["exec", "-T", "valkey", "valkey-cli", *args],
cwd=str(ROOT), capture_output=True, text=True, check=True)
return done.stdout.strip()
def session_key(token):
return "session:" + hashlib.sha256(token.encode("utf-8")).hexdigest()
def wait_ready(base, seconds=90):
deadline = time.monotonic() + seconds
while time.monotonic() < deadline:
@@ -58,7 +69,7 @@ def cached_sessions_do_not_cross_users(base):
for _ in range(3):
first = call(base, "GET", "/api/v1/users/me", token=alice["token"])["json"]
second = call(base, "GET", "/api/v1/users/me", token=bob["token"])["json"]
expect(first["id"] == alice["id"] and second["id"] == bob["id"], "кэш перепутал владельцев сессий")
expect(first == alice["user"] and second == bob["user"], "кэш отдал не того владельца сессии: %r / %r" % (first, second))
chat = chat_with(base, alice, bob)
sent = call(base, "POST", "/api/v1/chats/%s/messages" % chat["id"], body={"text": "от боба"}, token=bob["token"])
expect(sent["json"]["sender_id"] == bob["id"], "sender_id взят не из сессии")
@@ -82,10 +93,41 @@ def hung_database_fails_fast(base):
expect(call(base, "GET", "/api/v1/chats", token=actor["token"])["status"] == 200, "после возврата БД доступ не восстановился")
def cache_is_repopulated_after_a_miss(base):
actor = member(base, "miss")
key = session_key(actor["token"])
cached = call(base, "GET", "/api/v1/users/me", token=actor["token"])
expect(cached["status"] == 200, "свежая сессия дала %s" % cached["status"])
expect(valkey("exists", key) == "1", "после входа сессии нет в кэше")
expect(valkey("del", key) == "1", "ключ сессии не удалился")
served = call(base, "GET", "/api/v1/users/me", token=actor["token"])
expect(served["status"] == 200, "после промаха кэша ответ %s" % served["status"])
expect(served["json"] == cached["json"], "тело из PostgreSQL отличается от кэшированного: %r против %r" % (served["json"], cached["json"]))
expect(valkey("exists", key) == "1", "кэш не наполнился после промаха")
ttl = int(valkey("ttl", key))
expect(ttl > 0, "у восстановленного ключа нет срока жизни: ttl=%d" % ttl)
again = call(base, "GET", "/api/v1/users/me", token=actor["token"])
expect(again["json"] == cached["json"], "ответ из восстановленного кэша отличается: %r" % again["json"])
def cache_survives_its_own_restart(base):
actor = member(base, "warm")
expected = call(base, "GET", "/api/v1/users/me", token=actor["token"])["json"]
compose("restart", "valkey")
wait_ready(base)
key = session_key(actor["token"])
expect(valkey("exists", key) == "0", "кэш переживает рестарт, хотя persistence выключен")
after = call(base, "GET", "/api/v1/users/me", token=actor["token"])
expect(after["status"] == 200 and after["json"] == expected, "после рестарта кэша ответ изменился: %r" % after["json"])
expect(valkey("exists", key) == "1", "после рестарта кэш больше не наполняется")
TESTS = [
revoked_session_stays_revoked_after_cache_restart,
logout_is_not_confirmed_while_cache_is_down,
cached_sessions_do_not_cross_users,
cache_is_repopulated_after_a_miss,
cache_survives_its_own_restart,
hung_database_fails_fast,
]