Files
mtusi2026lab2/evidence/track1-cache-consistency.md
T
2026-10-09 15:48:03 +03:00

18 KiB
Raw Blame History

Трек 1: согласованность кэша (подробные доказательства)

Индекс всех доказательств — README.md; сводка решения и критериев — ../REPORT.md; чек-лист сдачи — ../.github/pull_request_template.md.

Санитизированные результаты локального Compose-стенда.

1. Окружение

Параметр Значение
Хост Linux x86_64, ядро 7.2.7-100.fc43
Python (клиент бенчмарка) 3.14.7
Runtime API Node.js 25.7.0 (node:25.7.0-slim), NestJS 12 + Fastify
PostgreSQL postgres:16.4-alpine, именованный том postgres-data
Redis redis:7.4.2-alpine, AOF appendonly yes, appendfsync everysec, том redis-data
Задержка промаха CACHE_MISS_DELAY_MS=75 — действует только в naive-пути (пауза между промахом и запросом в PostgreSQL); protected-путь её не использует
TTL кэша CACHE_TTL_SECONDS=30
TTL lock CACHE_LOCK_TTL_MS=1000
TTL сессии SESSION_TTL_SECONDS=3600

Оба режима измерялись на одном стенде и одной базе; переключался только CACHE_MODE (переменная окружения при пересоздании контейнера api), отдельного compose-профиля нет.

2. Методика

  1. Два пользователя регистрируются со случайным паролем и логинятся через Basic (track1_cache_benchmark.py).
  2. Создаётся чат, содержащий оба ID; до измерений прогревается отдельная страница истории.
  3. Повторности: 5. Каждая повторность создаёт новый чат с 1 сообщением, поэтому измеряемый ключ холодный без FLUSHALL и без ручной эвикции кэша.
  4. POST /internal/metrics/reset обнуляет счётчики; GET /internal/metrics читается до и после всплеска.
  5. 32 конкурентных GET /api/v1/chats/{id}/messages?limit=50 освобождаются threading.Barrier, то есть все читатели бьют в один холодный ключ одновременно.
  6. По каждой повторности фиксируются латентности успешных запросов и ошибки.
  7. В том же прогоне проверяется read-after-write: греется старая страница, публикуется новое сообщение, затем страница сразу перечитывается второй действующей сессией.

Примечание о воспроизводимости: записанные ниже прогоны запускались с overlay-файлом, который выставлял ровно две переменные контейнера api — CACHE_MODE и CACHE_MISS_DELAY_MS=75. Сейчас тот же результат даёт переопределение из shell без отдельного файла (команды в §9); поведение контейнера идентично.

Счётчики локальны процессу и сбрасываются перед каждой повторностью; дельты ниже не включают сам вызов сброса.

3. Результаты по повторностям

naive (без блокировки, чистый cache-aside)

Повтор Успешных Ошибок messages.history cache_miss cache_hit cache_lock_wait p50, мс p95, мс p99, мс
1 32 0 32 32 0 0 116.862 120.132 120.575
2 32 0 32 32 0 0 89.730 98.924 99.283
3 32 0 32 32 0 0 88.007 96.125 96.450
4 32 0 32 32 0 0 89.418 96.318 96.781
5 32 0 32 32 0 0 87.892 94.654 95.192
Σ 160 0 160 160 0 0 — — —

Каждый холодный читатель промахивался и выполнял свой SQL-запрос истории: число запросов равно числу конкурентных читателей.

protected (версионированный ключ + lock на конкретную страницу, NX/PX)

Повтор Успешных Ошибок messages.history cache_miss cache_hit cache_lock_wait p50, мс p95, мс p99, мс
1 32 0 1 2 31 1 35.607 38.285 52.027
2 32 0 1 11 31 10 20.404 37.166 37.178
3 32 0 1 10 31 9 18.170 35.897 36.559
4 32 0 1 12 31 11 20.513 37.058 37.455
5 32 0 1 11 31 10 19.435 35.451 36.281
Σ 160 0 5 46 155 41 — — —

Как читать счётчики:

  • messages.history = 1 на повторность: страницу из PostgreSQL заполнил ровно один владелец lock.
  • cache_hit = 31 на повторность: остальные 31 читателя получили страницу владельца (повторное чтение под lock или ожидание).
  • cache_miss (10–12) и cache_lock_wait (9–11) больше единицы потому, что ожидающий считает промах на своём первом GET и ожидание на первой неудачной попытке SET NX; ни то, ни другое не означает дополнительный SQL-запрос.
  • cache_lock_timeout и cache_fallback остались нулевыми: никто не ушёл в PostgreSQL напрямую, владелец успел опубликовать страницу за отведённые повторы.

4. Сравнение

Метрика naive protected Изменение
SQL-запросов messages.history 160 5 −96,9 %
Попаданий в кэш 0 155 —
Промахов 160 46 −71,3 %
Ожиданий lock 0 41 —
Успешных запросов 160 160 —
Ошибок 0 0 —
p50 (медиана по повторностям) ≈ 89,4 мс ≈ 20,4 мс −77 %
p95 (медиана по повторностям) ≈ 96,3 мс ≈ 37,1 мс −61 %

Гипотеза для этой нагрузки подтверждена: без защиты каждый конкурентный холодный читатель выполняет собственный SQL-запрос истории; с lock на конкретную страницу запрос к PostgreSQL делает только владелец, остальные обслуживаются из Redis.

Про латентность: разница p50/p95 между режимами включает искусственную паузу CACHE_MISS_DELAY_MS=75, которая применяется только в naive-пути (protected её не использует). Поэтому латентность здесь — иллюстрация эффекта stampede, а не сравнение скорости реализации; независимое от этой настройки наблюдение — число SQL-запросов истории (160 против 5).

5. Read-after-write

{ "asserted": true, "stale_observed": false }

Наблюдалось в обоих прогонах (naive и protected). Путь записи коммитит сообщение и увеличивает chats.message_version в одной транзакции; путь чтения строит ключ кэша из текущей версии, поэтому страница, закэшированная до записи, становится недостижимой. Конкурентный GET, начавшийся до коммита, может вернуть прежний снимок — это допустимо контрактом.

6. Рестарт Redis и восстановление кэша

python3 scripts/track1_verify.py --restart-redis --evict-cache --output evidence/track1-raw/redis-restart.json:

{
    "restart_redis": true,
    "cache_eviction": { "requested": true, "message_keys_deleted": 9 },
    "same_token_users_me": true,
    "history_equal": true,
    "history_item_count": 1
}

Последовательность: вход → отправка сообщения → чтение истории → docker compose restart redis → ожидание готовности → удаление только ключей messages:* через redis-cli --scan → повторное чтение /api/v1/users/me и истории тем же bearer-токеном. Сессия выжила благодаря AOF и сохранённому тому; производный кэш истории перезагрузился из PostgreSQL, вернувшаяся страница идентична. FLUSHALL и удаление томов не используются.

7. План запроса истории

EXPLAIN (ANALYZE, BUFFERS) на чате с 10 002 сообщениями (полностью — evidence/track1-explain.md, текст анализируемых запросов и подготовка данных там же):

=== Запрос A: первая страница истории ===
 Limit  (cost=0.28..112.30 rows=51 width=77) (actual time=0.020..0.028 rows=51 loops=1)
   Buffers: shared hit=5
   ->  Index Scan using messages_chat_created_id_idx on messages  (actual time=0.020..0.025 rows=51)
         Index Cond: (chat_id = '...'::uuid)
         Buffers: shared hit=5
 Execution Time: 0.040 ms

=== Запрос B: продолжение по keyset-cursor ===
 Limit  (cost=0.28..8.30 rows=1 width=77) (actual time=0.008..0.014 rows=51 loops=1)
   Buffers: shared hit=4
   ->  Index Scan using messages_chat_created_id_idx on messages  (actual time=0.008..0.012 rows=51)
         Index Cond: ((chat_id = '...'::uuid) AND (ROW(created_at, id) > ROW('...'::timestamptz, '...'::uuid)))
         Buffers: shared hit=4
 Execution Time: 0.048 ms

Оба запроса идут по композитному индексу (chat_id, created_at, id); keyset-предикат продолжения попадает в Index Cond, поэтому следующая страница не пересканирует уже прочитанное. Страница ограничена 51 строкой (limit + 1), полной материализации истории нет. Синтетические строки удалены после снятия планов (DELETE 10000).

8. Артефакты и происхождение данных

Артефакт sha256 Примечание
evidence/track1-raw/naive.json afc08f21d877952fd527675a08d4192b5143841e7833a56f1b922d836b74ba64 сырой прогон naive, в Git не попадает
evidence/track1-raw/protected.json d5cdb39802414cb3f04289d04167c6177081a79011a919ab40349c5b280ab303 сырой прогон protected, в Git не попадает
evidence/track1-raw/redis-restart.json 09e8e8539d148cc6175131dea80c21a7d38d8fed370507a01eeff6a01c93c56f сырая проверка рестарта Redis, в Git не попадает
evidence/track1-explain.md 7e7f9f4ba45de05bf356696f538a346ca1c59c8913bf81bff4204bbd84c33b60 запросы + EXPLAIN (ANALYZE, BUFFERS) + подготовка 10 000 строк

Сырые JSON не коммитятся, потому что содержат локальные идентификаторы (строка платформы, тайминговые отпечатки, пути контейнеров). Хеши выше позволяют убедиться, что сводка соответствует именно тому прогону, который её породил.

9. Воспроизведение

mkdir -p evidence/track1-raw
printf '%s' "$METRICS_TOKEN" > /tmp/track1-metrics-token   # METRICS_TOKEN из .env

CACHE_MODE=naive CACHE_MISS_DELAY_MS=75 docker compose --env-file .env up -d api
python3 scripts/track1_cache_benchmark.py --base-url http://localhost:8080 --mode naive \
  --concurrency 32 --repetitions 5 --metrics-token-file /tmp/track1-metrics-token \
  --runtime-version node=25.7.0 --runtime-version postgres=16.4 --runtime-version redis=7.4.2 \
  --output evidence/track1-raw/naive.json

CACHE_MODE=protected docker compose --env-file .env up -d api
python3 scripts/track1_cache_benchmark.py --base-url http://localhost:8080 --mode protected \
  --concurrency 32 --repetitions 5 --metrics-token-file /tmp/track1-metrics-token \
  --runtime-version node=25.7.0 --runtime-version postgres=16.4 --runtime-version redis=7.4.2 \
  --output evidence/track1-raw/protected.json

python3 scripts/track1_verify.py --summary \
  --naive-raw evidence/track1-raw/naive.json --protected-raw evidence/track1-raw/protected.json \
  --output evidence/track1-cache-consistency.md

python3 scripts/track1_verify.py --restart-redis --evict-cache \
  --output evidence/track1-raw/redis-restart.json

После измерений достаточно вернуть штатные значения: docker compose --env-file .env up -d api (в .env лежат CACHE_MODE=protected, CACHE_MISS_DELAY_MS=0).

10. Ограничения

  • Замеры на одном хосте (closed-loop, конкуренция 32, 5 повторностей): это не production-пропускная способность и не поведение часов между хостами.
  • Латентность naive включает искусственную паузу CACHE_MISS_DELAY_MS=75; сравнение режимов по числу SQL-запросов от этой настройки не зависит.
  • В процентили латентности попадают только успешные запросы; ошибки считаются отдельно (в этих прогонах их 0).
  • Латентность включает накладные расходы Python-клиента и сети контейнеров.
  • Бенчмарк доказывает эффект stampede для одной холодной страницы на повторность; независимость разных cursor/limit/version проверена unit-тестами, а не этой нагрузкой.
  • Метрики принадлежат конкретному процессу API: при нескольких репликах нельзя суммировать счётчики как распределённый снимок.