Archive the lab 3 session cache and proxy review fixes

This commit is contained in:
Artyom
2026-11-06 01:51:42 +03:00
parent 2af24d7762
commit 82641cbd3d
13 changed files with 330 additions and 5 deletions
+5
View File
@@ -2,6 +2,11 @@ date: 2026-11-05T22:28:57.204523+00:00 commit: f591fa64e525679a31c9db7f942d36c78
# Доказательства
Исправления после независимого ревью — [review-fixes/README.md](review-fixes/README.md),
код `2af24d7762a87173aa2d34c3464c64184b3ee8bf`. Здесь выполнены только offline-проверки;
ниже сохранены измерения прежнего кода. Обязательные динамические проверки нового SHA
перечислены в заметке для финального агента.
Обезличенные реальные прогоны; пользователи, сообщения и пароли тестов синтетические. Токены,
содержимое secrets и дампы не сохраняются. В первой строке текстовых логов — UTC и SHA;
`grade3-*.txt` и `grade4-*.txt` также содержат команду, окружение, код завершения и длительность.
+65
View File
@@ -0,0 +1,65 @@
date: 2026-11-06 commit: 2af24d7762a87173aa2d34c3464c64184b3ee8bf
# Исправления независимого ревью
Исходный snapshot ревью: `4513d90e482e9bb7bb1fd0402cfec45aa7f52d36`.
Код исправлений: `2af24d7762a87173aa2d34c3464c64184b3ee8bf`.
Этот этап не запускал Docker, серверы, нагрузку и установку окружения; публикаций нет.
## Что изменено
| Замечание | Исправление | Проверка этого этапа |
| --- | --- | --- |
| major: запоздавшее чтение оживляет сессию после logout и потери tombstone | Одноразовый маркер до чтения БД; Lua заменяет только собственный маркер, отзыв атомарно удаляет маркер; DELETE → отзыв → COMMIT, чтение сессии FOR KEY SHARE | [Регрессия на старом find](baseline-regression.txt): 3 ожидаемых падения при flushall, eviction и replacement; новый код проходит offline-модель |
| minor: кавычка в X-Request-Id ломает JSON 502/503/504 | json(ascii) только в теле, исходный заголовок сохранён | 15 сочетаний статуса и значения заголовка в test_haproxy_errors.py; подстановка JSON по документированной семантике конвертера |
[offline-checks.txt](offline-checks.txt): `make check`, `make validate`, `make lint`,
114 unit-тестов, сбор 12 интеграционных тестов кэша без исполнения и OpenSpec strict — успешно.
Модель не выполняет Lua; подстановка шаблонов не запускает HAProxy. Блокировки PostgreSQL
и сетевые исходы не проверялись. Отдельные ключи `session:<sha256>:fill` имеют ограниченный TTL;
формат положительных сессий сохранён. Кэш-попадание по-прежнему выполняет один GET.
Промежуточные неуспехи до commit исправлений: первая заглушка Redis с `spec=Redis`
создала синхронный MagicMock вместо awaitable (1 failed / 23 passed), исправлена на AsyncMock;
Ruff обнаружил строку 103 символа в новом тесте, форматирование исправлено;
`git diff --cached --check` обнаружил лишнюю пустую строку в дельте спецификации,
она удалена до коммита proposal. Перед архивным коммитом проверка также обнаружила
пробелы в конце строк pytest и пустую строку в журнале: вывод нормализован только по
концевым пробелам, без изменения результатов. Итоговые команды и реальные коды выхода — в журнале.
## Обязательная проверка финальным агентом
Команды ниже здесь **не выполнялись**. Запуск разрешает runner в отдельной фазе нагрузки;
нужен чистый clone финального SHA, собственный допустимый compose project и свободные порты.
1. `make student-test PYTEST_ARGS='-v student-tests/api/test_cache.py'` — 12 тестов с реальными
PostgreSQL/Valkey. Включают задержанное чтение + logout + FLUSHALL/удаление tombstone/смену
маркера, потерю кэша до COMMIT, rollback при ошибке DELETE и COMMIT, cache hit и абсолютный TTL.
Удаление ключа моделирует именно потерю от volatile-lru; реальное вытеснение под давлением
памяти этим тестом не измеряется.
2. `make student-test`, затем `make test-faults` на поднятом стенде — остальная регрессия,
fallback при отказе Valkey, сессии, идемпотентность после logout и границы зон.
3. Проверить `haproxy -c -f /usr/local/etc/haproxy/haproxy.cfg` в закреплённом образе.
На изолированном тестовом backend воспроизвести все три ответа: malformed upstream → 502,
нет готового backend → 503, upstream не отвечает до timeout server → 504. Для каждого отправить
`X-Request-Id` со значениями `a"b`, `a\b`, внутренней табуляцией и 200 символами; получить
валидный JSON, неизменный заголовок и совпадающий `error.request_id`. Offline-тесты этого
факта не доказывают. Для отсутствующих backend пригоден запрос
`curl -sS -i -H 'X-Request-Id: a"b' "$BASE_URL/api/v1/users/me"` на собственном стенде.
4. `make test`, `make test-persistence ACTION_SCRIPT=scripts/restart.sh`,
`make test-failover ACTION_SCRIPT=scripts/stop-one.sh` для каждой реплики с восстановлением,
`make lb-check`, `make retry-check` — общий токен, смена реплики, отсутствие дублей.
5. Уровень «4»: detection, failover-each и rolling-update в новые каталоги evidence;
подтвердить logout и чтения через разные реплики после полной замены. Старый образ сохраняет
дефект, поэтому нельзя заявлять безопасность смешанного развёртывания. После замены старые
записи кэша должны истечь либо быть удалены только в выделенном тестовом стенде; постоянные
пользовательские данные и volumes не удалять.
6. Трек «5»: повторить сравнение до/после на исправленном SHA с прежними лимитами и отдельным
каталогом, например `make track1-compare TRACK1=evidence/review-fixes/final-track1`.
Проверить цену заполнения холодного кэша и тёплый путь; прежние RPS/p95 относятся к
`57744c5` и не являются измерениями нового кода.
Финальный агент сохраняет реальные команды, SHA, сырые результаты и ограничения. После
Docker-этапа останавливает только свои стенды без удаления постоянных volumes. Текущий
этап сохраняет первичные evidence предыдущих измерений без изменений; итоговый отчёт
обновляется отдельным агентом.
+45
View File
@@ -0,0 +1,45 @@
date: 2026-11-05T22:51:32.703428+00:00 commit: 2af24d7762a87173aa2d34c3464c64184b3ee8bf + OpenSpec/evidence documentation only
$ openspec validate --all --strict
✓ spec/lab1-event-publication
✓ spec/lab1-messenger-chats
✓ spec/lab1-messenger-history
✓ spec/lab1-messenger-identity
✓ spec/lab1-service-operability
✓ spec/lab2-auth-sessions
✓ spec/lab2-dependency-failures
✓ spec/lab2-history-index
✓ spec/lab2-persistent-storage
✓ spec/lab2-session-cache
✓ spec/lab3-failover-operations
✓ spec/lab3-idempotent-messages
✓ spec/lab3-load-balancing
✓ spec/lab3-scaling-cost
Totals: 14 passed, 0 failed (14 items)
- Validating...
exit: 0
$ openspec list --json
{
"changes": [],
"root": {
"path": "<repo>",
"source": "nearest"
}
}
exit: 0
$ make lint
.venv/bin/ruff check src student-tests alembic scripts/probe.py scripts/limits.py scripts/scaling.py tools
All checks passed!
.venv/bin/ruff format --check src student-tests alembic scripts/probe.py scripts/limits.py scripts/scaling.py tools
111 files already formatted
.venv/bin/ty check src student-tests alembic
All checks passed!
exit: 0
$ git diff --check
exit: 0
Protected contract/tests/course, runner, secrets, schema and dependency paths: no tracked changes since review snapshot.
Implementation paths src/infra/student-tests match commit above exactly.
@@ -0,0 +1,128 @@
date: 2026-11-05T22:48:32.038850+00:00 commit: 4513d90e482e9bb7bb1fd0402cfec45aa7f52d36 (find method); new tests based on da2f392442c0b62493f3639e4e27a4d7fc5eb7e6 + WIP
$ Inject original CachedSessionDirectory.find from git show into current adapter and run pytest -q student-tests/unit/test_session_cache.py -k delayed_fill
Offline CacheModel; Lua and PostgreSQL are not executed.
.FFF [100%]
=================================== FAILURES ===================================
_________ test_delayed_fill_cannot_revive_logged_out_session[flushall] _________
session = Session(user_id=UUID('707d8826-260e-489a-81a0-fe469adc5850'), created_at=datetime.datetime(2030, 1, 1, 0, 0, tzinfo=datetime.timezone.utc), expires_at=datetime.datetime(2030, 1, 1, 0, 0, 30, tzinfo=datetime.timezone.utc))
loss = 'flushall'
@pytest.mark.parametrize("loss", ["none", "flushall", "evict", "replacement"])
async def test_delayed_fill_cannot_revive_logged_out_session(session: Session, loss: str) -> None:
origin, cache = AsyncMock(), CacheModel()
origin.find.return_value = session
entered, released = asyncio.Event(), asyncio.Event()
async def stale_find(token_hash: bytes, now: datetime) -> Session:
entered.set()
await released.wait()
return session
slow = AsyncMock()
slow.find.side_effect = stale_find
async with asyncio.TaskGroup() as group:
reader = group.create_task(directory(slow, cache).find(session.token_hash, NOW))
await asyncio.wait_for(entered.wait(), 1)
try:
await directory(origin, cache).revoke(session)
origin.find.return_value = None
key = key_of(session.token_hash)
if loss == "flushall":
cache.values.clear()
elif loss in {"evict", "replacement"}:
await cache.delete(key)
if loss == "replacement":
await cache.set(f"{key}:fill", uuid4().hex, pxat=milliseconds(session.expires_at))
finally:
released.set()
assert reader.result() == session
> assert await directory(origin, cache).find(session.token_hash, NOW) is None
E AssertionError: assert Session(user_id=UUID('707d8826-260e-489a-81a0-fe469adc5850'), created_at=datetime.datetime(2030, 1, 1, 0, 0, tzinfo=datetime.timezone.utc), expires_at=datetime.datetime(2030, 1, 1, 0, 0, 30, tzinfo=datetime.timezone.utc)) is None
student-tests/unit/test_session_cache.py:117: AssertionError
__________ test_delayed_fill_cannot_revive_logged_out_session[evict] ___________
session = Session(user_id=UUID('d32076b9-cf70-4df9-8ca0-169b50d1d633'), created_at=datetime.datetime(2030, 1, 1, 0, 0, tzinfo=datetime.timezone.utc), expires_at=datetime.datetime(2030, 1, 1, 0, 0, 30, tzinfo=datetime.timezone.utc))
loss = 'evict'
@pytest.mark.parametrize("loss", ["none", "flushall", "evict", "replacement"])
async def test_delayed_fill_cannot_revive_logged_out_session(session: Session, loss: str) -> None:
origin, cache = AsyncMock(), CacheModel()
origin.find.return_value = session
entered, released = asyncio.Event(), asyncio.Event()
async def stale_find(token_hash: bytes, now: datetime) -> Session:
entered.set()
await released.wait()
return session
slow = AsyncMock()
slow.find.side_effect = stale_find
async with asyncio.TaskGroup() as group:
reader = group.create_task(directory(slow, cache).find(session.token_hash, NOW))
await asyncio.wait_for(entered.wait(), 1)
try:
await directory(origin, cache).revoke(session)
origin.find.return_value = None
key = key_of(session.token_hash)
if loss == "flushall":
cache.values.clear()
elif loss in {"evict", "replacement"}:
await cache.delete(key)
if loss == "replacement":
await cache.set(f"{key}:fill", uuid4().hex, pxat=milliseconds(session.expires_at))
finally:
released.set()
assert reader.result() == session
> assert await directory(origin, cache).find(session.token_hash, NOW) is None
E AssertionError: assert Session(user_id=UUID('d32076b9-cf70-4df9-8ca0-169b50d1d633'), created_at=datetime.datetime(2030, 1, 1, 0, 0, tzinfo=datetime.timezone.utc), expires_at=datetime.datetime(2030, 1, 1, 0, 0, 30, tzinfo=datetime.timezone.utc)) is None
student-tests/unit/test_session_cache.py:117: AssertionError
_______ test_delayed_fill_cannot_revive_logged_out_session[replacement] ________
session = Session(user_id=UUID('9851ca54-cd26-4afa-b3c5-062bb762b064'), created_at=datetime.datetime(2030, 1, 1, 0, 0, tzinfo=datetime.timezone.utc), expires_at=datetime.datetime(2030, 1, 1, 0, 0, 30, tzinfo=datetime.timezone.utc))
loss = 'replacement'
@pytest.mark.parametrize("loss", ["none", "flushall", "evict", "replacement"])
async def test_delayed_fill_cannot_revive_logged_out_session(session: Session, loss: str) -> None:
origin, cache = AsyncMock(), CacheModel()
origin.find.return_value = session
entered, released = asyncio.Event(), asyncio.Event()
async def stale_find(token_hash: bytes, now: datetime) -> Session:
entered.set()
await released.wait()
return session
slow = AsyncMock()
slow.find.side_effect = stale_find
async with asyncio.TaskGroup() as group:
reader = group.create_task(directory(slow, cache).find(session.token_hash, NOW))
await asyncio.wait_for(entered.wait(), 1)
try:
await directory(origin, cache).revoke(session)
origin.find.return_value = None
key = key_of(session.token_hash)
if loss == "flushall":
cache.values.clear()
elif loss in {"evict", "replacement"}:
await cache.delete(key)
if loss == "replacement":
await cache.set(f"{key}:fill", uuid4().hex, pxat=milliseconds(session.expires_at))
finally:
released.set()
assert reader.result() == session
> assert await directory(origin, cache).find(session.token_hash, NOW) is None
E AssertionError: assert Session(user_id=UUID('9851ca54-cd26-4afa-b3c5-062bb762b064'), created_at=datetime.datetime(2030, 1, 1, 0, 0, tzinfo=datetime.timezone.utc), expires_at=datetime.datetime(2030, 1, 1, 0, 0, 30, tzinfo=datetime.timezone.utc)) is None
student-tests/unit/test_session_cache.py:117: AssertionError
=========================== short test summary info ============================
FAILED student-tests/unit/test_session_cache.py::test_delayed_fill_cannot_revive_logged_out_session[flushall]
FAILED student-tests/unit/test_session_cache.py::test_delayed_fill_cannot_revive_logged_out_session[evict]
FAILED student-tests/unit/test_session_cache.py::test_delayed_fill_cannot_revive_logged_out_session[replacement]
3 failed, 1 passed, 5 deselected in 0.06s
exit: 1
+64
View File
@@ -0,0 +1,64 @@
date: 2026-11-05T22:49:42.040537+00:00 commit: 2af24d7762a87173aa2d34c3464c64184b3ee8bf
$ make check
python3 scripts/check_contract.py
PASS: offline skeleton structure, local refs and Python syntax; application NOT tested.
exit: 0
$ make validate
.venv/bin/python scripts/validate_openapi.py
PASS: full OpenAPI 3.1 and JSON Schema validation; application NOT tested.
exit: 0
$ make lint
.venv/bin/ruff check src student-tests alembic scripts/probe.py scripts/limits.py scripts/scaling.py tools
All checks passed!
.venv/bin/ruff format --check src student-tests alembic scripts/probe.py scripts/limits.py scripts/scaling.py tools
111 files already formatted
.venv/bin/ty check src student-tests alembic
All checks passed!
exit: 0
$ make student-test PYTEST_ARGS=-q student-tests/unit
.venv/bin/pytest -q student-tests/unit
........................................................................ [ 63%]
.......................................... [100%]
114 passed in 0.08s
exit: 0
$ .venv/bin/pytest --collect-only -q student-tests/api/test_cache.py
student-tests/api/test_cache.py::test_second_check_is_served_from_cache
student-tests/api/test_cache.py::test_logout_leaves_tombstone_after_commit
student-tests/api/test_cache.py::test_logout_rejected_by_database_changes_nothing[remove]
student-tests/api/test_cache.py::test_logout_rejected_by_database_changes_nothing[commit]
student-tests/api/test_cache.py::test_fill_racing_with_logout_does_not_revive_token[none]
student-tests/api/test_cache.py::test_fill_racing_with_logout_does_not_revive_token[flushall]
student-tests/api/test_cache.py::test_fill_racing_with_logout_does_not_revive_token[evict]
student-tests/api/test_cache.py::test_fill_racing_with_logout_does_not_revive_token[replacement]
student-tests/api/test_cache.py::test_cache_loss_before_logout_commit_cannot_refill_deleted_session[flushall]
student-tests/api/test_cache.py::test_cache_loss_before_logout_commit_cannot_refill_deleted_session[evict]
student-tests/api/test_cache.py::test_flushall_loses_nothing
student-tests/api/test_cache.py::test_unreachable_cache_is_bypassed_without_anonymous_access
12 tests collected in 0.03s
exit: 0
$ openspec validate --all --strict
✓ change/fix-lab3-review-session-cache-and-errors
✓ spec/lab1-event-publication
✓ spec/lab1-messenger-chats
✓ spec/lab1-messenger-history
✓ spec/lab1-messenger-identity
✓ spec/lab1-service-operability
✓ spec/lab2-auth-sessions
✓ spec/lab2-dependency-failures
✓ spec/lab2-history-index
✓ spec/lab2-persistent-storage
✓ spec/lab2-session-cache
✓ spec/lab3-failover-operations
✓ spec/lab3-idempotent-messages
✓ spec/lab3-load-balancing
✓ spec/lab3-scaling-cost
Totals: 15 passed, 0 failed (15 items)
- Validating...
exit: 0
@@ -9,6 +9,6 @@
## 3. Проверки и передача следующему этапу
- [ ] 3.1 Выполнить make check, make validate, make lint, offline unit tests и openspec validate --all --strict, сохранить фактический вывод.
- [ ] 3.2 Записать в evidence ограничения проверки и обязательные динамические команды для финального агента; сохранить старые измерения с исходными SHA.
- [ ] 3.3 Синхронизировать дельты спецификаций, архивировать change с датой и lab: 3; make lint перед английскими коммитами, без push.
- [x] 3.1 Выполнить make check, make validate, make lint, offline unit tests и openspec validate --all --strict, сохранить фактический вывод.
- [x] 3.2 Записать в evidence ограничения проверки и обязательные динамические команды для финального агента; сохранить старые измерения с исходными SHA.
- [x] 3.3 Синхронизировать дельты спецификаций, архивировать change с датой и lab: 3; make lint перед английскими коммитами, без push.
+12 -2
View File
@@ -19,7 +19,7 @@
### Requirement: Выход инвалидирует кэш
Отзыв сессии SHALL записывать в кэш отметку отзыва на оставшийся срок сессии до удаления строки в БД, а заполнение кэша после промаха SHALL выполняться только при отсутствии ключа. Отозванный токен SHALL получать `401` и при гонке «чтение заполнило кэш после выхода». Если отметку отзыва записать нельзя, выход SHALL отвечать `503` и SHALL NOT удалять сессию. Если после записи отметки удалить сессию в PostgreSQL не удалось, выход SHALL отвечать `503` и SHALL снимать отметку отзыва: ответ `503` означает, что сессия осталась действующей и в БД, и для проверки токена.
Отзыв сессии SHALL инвалидировать кэш до фиксации удаления в PostgreSQL. Отозванный токен SHALL получать `401` и при гонке «чтение заполнило кэш после выхода», включая потерю или смену состояния кэша. Если инвалидация невозможна, выход SHALL отвечать `503` и SHALL NOT фиксировать удаление сессии. Если транзакция удаления не завершилась, выход SHALL отвечать `503` и SHALL снимать отметку отзыва: сессия остаётся действующей. Основание: `contracts/README.md`, выход и абсолютный TTL; `README.md`, уровень «3», сохранение минимума lab2.
#### Scenario: Отозванный токен не оживает из кэша
@@ -33,10 +33,20 @@
#### Scenario: Выход при сбое PostgreSQL
- **WHEN** отметка отзыва записана, но удаление сессии в PostgreSQL завершилось ошибкой
- **WHEN** отметка отзыва записана, но транзакция удаления сессии в PostgreSQL завершилась ошибкой
- **THEN** выход отвечает `503` с кодом `unavailable`, токен по-прежнему получает `200`, отметки отзыва в кэше нет
- **AND** после возвращения PostgreSQL повторный выход отвечает `204`, а токен затем получает `401`
#### Scenario: Запоздавшее чтение после выхода и потери кэша
- **WHEN** чтение действующей сессии задержалось, другая реплика завершила logout с `204`, затем очистка или вытеснение удалили отметку отзыва и задержанное чтение продолжилось
- **THEN** новый `GET /api/v1/users/me` с тем же токеном получает `401` с `WWW-Authenticate: Bearer realm="messenger"` и телом общей ошибки, даже если другая проверка успела заново обратиться к кэшу
#### Scenario: Очистка кэша до завершения выхода
- **WHEN** кэш очищен после инвалидации, но до COMMIT удаления сессии, и параллельно начинается новая проверка токена
- **THEN** эта проверка не оставляет действующую сессию в кэше после успешного logout, следующие запросы получают `401`
### Requirement: Недоступный кэш обходится, но не открывает доступ
При ошибке или таймауте Valkey проверка сессии SHALL выполняться по PostgreSQL за ограниченное время, а повторные попытки обращения к кэшу SHALL приостанавливаться на короткий интервал. Недействительный токен SHALL получать `401`; запрос SHALL NOT приниматься как анонимный. Недоступность Valkey SHALL NOT переводить `/health/ready` в `503`.
@@ -46,6 +46,12 @@
- **WHEN** все реплики API остановлены
- **THEN** запрос через LB получает `503` с телом `{"error":{"code":"unavailable",...}}`
#### Scenario: Специальные символы идентификатора в ошибке LB
- **WHEN** запрос с допустимым `X-Request-Id`, содержащим кавычку, обратную косую черту или табуляцию, получает ошибку `502`, `503` или `504` от балансировщика
- **THEN** заголовок ответа сохраняет исходное значение, тело является валидным JSON, а декодированное `error.request_id` совпадает с заголовком
- **AND** сохраняется общий формат ошибки из `contracts/README.md`; требование относится к единой точке входа уровня «3» `README.md`
### Requirement: Повтор запросов балансировщиком
Балансировщик SHALL повторять на другой реплике запрос, который не удалось отправить из-за отказа соединения. Повтор после того, как запрос мог быть обработан, SHALL допускаться только для `GET` и для `POST /api/v1/chats/{chat_id}/messages` с `Idempotency-Key`. Балансировщик SHALL NOT прозрачно повторять `POST /api/v1/users`, `POST /api/v1/chats` и `POST /api/v1/auth/sessions`.