18 KiB
Трек 1: согласованность кэша (подробные доказательства)
Индекс всех доказательств — README.md; сводка решения и критериев — ../REPORT.md; чек-лист сдачи — ../.github/pull_request_template.md.
Санитизированные результаты локального Compose-стенда.
1. Окружение
| Параметр | Значение |
|---|---|
| Хост | Linux x86_64, ядро 7.2.7-100.fc43 |
| Python (клиент бенчмарка) | 3.14.7 |
| Runtime API | Node.js 25.7.0 (node:25.7.0-slim), NestJS 12 + Fastify |
| PostgreSQL | postgres:16.4-alpine, именованный том postgres-data |
| Redis | redis:7.4.2-alpine, AOF appendonly yes, appendfsync everysec, том redis-data |
| Задержка промаха | CACHE_MISS_DELAY_MS=75 — действует только в naive-пути (пауза между промахом и запросом в PostgreSQL); protected-путь её не использует |
| TTL кэша | CACHE_TTL_SECONDS=30 |
| TTL lock | CACHE_LOCK_TTL_MS=1000 |
| TTL сессии | SESSION_TTL_SECONDS=3600 |
Оба режима измерялись на одном стенде и одной базе; переключался только CACHE_MODE (переменная окружения при пересоздании контейнера api), отдельного compose-профиля нет.
2. Методика
- Два пользователя регистрируются со случайным паролем и логинятся через Basic (
track1_cache_benchmark.py). - Создаётся чат, содержащий оба ID; до измерений прогревается отдельная страница истории.
- Повторности: 5. Каждая повторность создаёт новый чат с 1 сообщением, поэтому измеряемый ключ холодный без
FLUSHALLи без ручной эвикции кэша. POST /internal/metrics/resetобнуляет счётчики;GET /internal/metricsчитается до и после всплеска.- 32 конкурентных
GET /api/v1/chats/{id}/messages?limit=50освобождаютсяthreading.Barrier, то есть все читатели бьют в один холодный ключ одновременно. - По каждой повторности фиксируются латентности успешных запросов и ошибки.
- В том же прогоне проверяется read-after-write: греется старая страница, публикуется новое сообщение, затем страница сразу перечитывается второй действующей сессией.
Примечание о воспроизводимости: записанные ниже прогоны запускались с overlay-файлом, который выставлял ровно две переменные контейнера api — CACHE_MODE и CACHE_MISS_DELAY_MS=75. Сейчас тот же результат даёт переопределение из shell без отдельного файла (команды в §9); поведение контейнера идентично.
Счётчики локальны процессу и сбрасываются перед каждой повторностью; дельты ниже не включают сам вызов сброса.
3. Результаты по повторностям
naive (без блокировки, чистый cache-aside)
| Повтор | Успешных | Ошибок | messages.history |
cache_miss |
cache_hit |
cache_lock_wait |
p50, мс | p95, мс | p99, мс |
|---|---|---|---|---|---|---|---|---|---|
| 1 | 32 | 0 | 32 | 32 | 0 | 0 | 116.862 | 120.132 | 120.575 |
| 2 | 32 | 0 | 32 | 32 | 0 | 0 | 89.730 | 98.924 | 99.283 |
| 3 | 32 | 0 | 32 | 32 | 0 | 0 | 88.007 | 96.125 | 96.450 |
| 4 | 32 | 0 | 32 | 32 | 0 | 0 | 89.418 | 96.318 | 96.781 |
| 5 | 32 | 0 | 32 | 32 | 0 | 0 | 87.892 | 94.654 | 95.192 |
| Σ | 160 | 0 | 160 | 160 | 0 | 0 | — | — | — |
Каждый холодный читатель промахивался и выполнял свой SQL-запрос истории: число запросов равно числу конкурентных читателей.
protected (версионированный ключ + lock на конкретную страницу, NX/PX)
| Повтор | Успешных | Ошибок | messages.history |
cache_miss |
cache_hit |
cache_lock_wait |
p50, мс | p95, мс | p99, мс |
|---|---|---|---|---|---|---|---|---|---|
| 1 | 32 | 0 | 1 | 2 | 31 | 1 | 35.607 | 38.285 | 52.027 |
| 2 | 32 | 0 | 1 | 11 | 31 | 10 | 20.404 | 37.166 | 37.178 |
| 3 | 32 | 0 | 1 | 10 | 31 | 9 | 18.170 | 35.897 | 36.559 |
| 4 | 32 | 0 | 1 | 12 | 31 | 11 | 20.513 | 37.058 | 37.455 |
| 5 | 32 | 0 | 1 | 11 | 31 | 10 | 19.435 | 35.451 | 36.281 |
| Σ | 160 | 0 | 5 | 46 | 155 | 41 | — | — | — |
Как читать счётчики:
messages.history = 1на повторность: страницу из PostgreSQL заполнил ровно один владелец lock.cache_hit = 31на повторность: остальные 31 читателя получили страницу владельца (повторное чтение под lock или ожидание).cache_miss(10–12) иcache_lock_wait(9–11) больше единицы потому, что ожидающий считает промах на своём первомGETи ожидание на первой неудачной попыткеSET NX; ни то, ни другое не означает дополнительный SQL-запрос.cache_lock_timeoutиcache_fallbackостались нулевыми: никто не ушёл в PostgreSQL напрямую, владелец успел опубликовать страницу за отведённые повторы.
4. Сравнение
| Метрика | naive | protected | Изменение |
|---|---|---|---|
SQL-запросов messages.history |
160 | 5 | −96,9 % |
| Попаданий в кэш | 0 | 155 | — |
| Промахов | 160 | 46 | −71,3 % |
| Ожиданий lock | 0 | 41 | — |
| Успешных запросов | 160 | 160 | — |
| Ошибок | 0 | 0 | — |
| p50 (медиана по повторностям) | ≈ 89,4 мс | ≈ 20,4 мс | −77 % |
| p95 (медиана по повторностям) | ≈ 96,3 мс | ≈ 37,1 мс | −61 % |
Гипотеза для этой нагрузки подтверждена: без защиты каждый конкурентный холодный читатель выполняет собственный SQL-запрос истории; с lock на конкретную страницу запрос к PostgreSQL делает только владелец, остальные обслуживаются из Redis.
Про латентность: разница p50/p95 между режимами включает искусственную паузу CACHE_MISS_DELAY_MS=75, которая применяется только в naive-пути (protected её не использует). Поэтому латентность здесь — иллюстрация эффекта stampede, а не сравнение скорости реализации; независимое от этой настройки наблюдение — число SQL-запросов истории (160 против 5).
5. Read-after-write
{ "asserted": true, "stale_observed": false }
Наблюдалось в обоих прогонах (naive и protected). Путь записи коммитит сообщение и увеличивает chats.message_version в одной транзакции; путь чтения строит ключ кэша из текущей версии, поэтому страница, закэшированная до записи, становится недостижимой. Конкурентный GET, начавшийся до коммита, может вернуть прежний снимок — это допустимо контрактом.
6. Рестарт Redis и восстановление кэша
python3 scripts/track1_verify.py --restart-redis --evict-cache --output evidence/track1-raw/redis-restart.json:
{
"restart_redis": true,
"cache_eviction": { "requested": true, "message_keys_deleted": 9 },
"same_token_users_me": true,
"history_equal": true,
"history_item_count": 1
}
Последовательность: вход → отправка сообщения → чтение истории → docker compose restart redis → ожидание готовности → удаление только ключей messages:* через redis-cli --scan → повторное чтение /api/v1/users/me и истории тем же bearer-токеном. Сессия выжила благодаря AOF и сохранённому тому; производный кэш истории перезагрузился из PostgreSQL, вернувшаяся страница идентична. FLUSHALL и удаление томов не используются.
7. План запроса истории
EXPLAIN (ANALYZE, BUFFERS) на чате с 10 002 сообщениями (полностью — evidence/track1-explain.md, текст анализируемых запросов и подготовка данных там же):
=== Запрос A: первая страница истории ===
Limit (cost=0.28..112.30 rows=51 width=77) (actual time=0.020..0.028 rows=51 loops=1)
Buffers: shared hit=5
-> Index Scan using messages_chat_created_id_idx on messages (actual time=0.020..0.025 rows=51)
Index Cond: (chat_id = '...'::uuid)
Buffers: shared hit=5
Execution Time: 0.040 ms
=== Запрос B: продолжение по keyset-cursor ===
Limit (cost=0.28..8.30 rows=1 width=77) (actual time=0.008..0.014 rows=51 loops=1)
Buffers: shared hit=4
-> Index Scan using messages_chat_created_id_idx on messages (actual time=0.008..0.012 rows=51)
Index Cond: ((chat_id = '...'::uuid) AND (ROW(created_at, id) > ROW('...'::timestamptz, '...'::uuid)))
Buffers: shared hit=4
Execution Time: 0.048 ms
Оба запроса идут по композитному индексу (chat_id, created_at, id); keyset-предикат продолжения попадает в Index Cond, поэтому следующая страница не пересканирует уже прочитанное. Страница ограничена 51 строкой (limit + 1), полной материализации истории нет. Синтетические строки удалены после снятия планов (DELETE 10000).
8. Артефакты и происхождение данных
| Артефакт | sha256 | Примечание |
|---|---|---|
evidence/track1-raw/naive.json |
afc08f21d877952fd527675a08d4192b5143841e7833a56f1b922d836b74ba64 |
сырой прогон naive, в Git не попадает |
evidence/track1-raw/protected.json |
d5cdb39802414cb3f04289d04167c6177081a79011a919ab40349c5b280ab303 |
сырой прогон protected, в Git не попадает |
evidence/track1-raw/redis-restart.json |
09e8e8539d148cc6175131dea80c21a7d38d8fed370507a01eeff6a01c93c56f |
сырая проверка рестарта Redis, в Git не попадает |
evidence/track1-explain.md |
7e7f9f4ba45de05bf356696f538a346ca1c59c8913bf81bff4204bbd84c33b60 |
запросы + EXPLAIN (ANALYZE, BUFFERS) + подготовка 10 000 строк |
Сырые JSON не коммитятся, потому что содержат локальные идентификаторы (строка платформы, тайминговые отпечатки, пути контейнеров). Хеши выше позволяют убедиться, что сводка соответствует именно тому прогону, который её породил.
9. Воспроизведение
mkdir -p evidence/track1-raw
printf '%s' "$METRICS_TOKEN" > /tmp/track1-metrics-token # METRICS_TOKEN из .env
CACHE_MODE=naive CACHE_MISS_DELAY_MS=75 docker compose --env-file .env up -d api
python3 scripts/track1_cache_benchmark.py --base-url http://localhost:8080 --mode naive \
--concurrency 32 --repetitions 5 --metrics-token-file /tmp/track1-metrics-token \
--runtime-version node=25.7.0 --runtime-version postgres=16.4 --runtime-version redis=7.4.2 \
--output evidence/track1-raw/naive.json
CACHE_MODE=protected docker compose --env-file .env up -d api
python3 scripts/track1_cache_benchmark.py --base-url http://localhost:8080 --mode protected \
--concurrency 32 --repetitions 5 --metrics-token-file /tmp/track1-metrics-token \
--runtime-version node=25.7.0 --runtime-version postgres=16.4 --runtime-version redis=7.4.2 \
--output evidence/track1-raw/protected.json
python3 scripts/track1_verify.py --summary \
--naive-raw evidence/track1-raw/naive.json --protected-raw evidence/track1-raw/protected.json \
--output evidence/track1-cache-consistency.md
python3 scripts/track1_verify.py --restart-redis --evict-cache \
--output evidence/track1-raw/redis-restart.json
После измерений достаточно вернуть штатные значения: docker compose --env-file .env up -d api (в .env лежат CACHE_MODE=protected, CACHE_MISS_DELAY_MS=0).
10. Ограничения
- Замеры на одном хосте (closed-loop, конкуренция 32, 5 повторностей): это не production-пропускная способность и не поведение часов между хостами.
- Латентность naive включает искусственную паузу
CACHE_MISS_DELAY_MS=75; сравнение режимов по числу SQL-запросов от этой настройки не зависит. - В процентили латентности попадают только успешные запросы; ошибки считаются отдельно (в этих прогонах их 0).
- Латентность включает накладные расходы Python-клиента и сети контейнеров.
- Бенчмарк доказывает эффект stampede для одной холодной страницы на повторность; независимость разных cursor/limit/version проверена unit-тестами, а не этой нагрузкой.
- Метрики принадлежат конкретному процессу API: при нескольких репликах нельзя суммировать счётчики как распределённый снимок.