23 KiB
Отчёт — лабораторная 4
- Автор, группа: Черников Дмитрий, БВТ2304.
- Целевая оценка: 4; исследовательский трек 5 не заявлен.
- Commit/PR: заполняется после публикации.
- Основа — собственная лабораторная 3. При разработке lab4 использовался Codex (OpenAI).
- Библиотеки: psycopg 3.3.6, psycopg-pool 3.3.3, Valkey client 6.1.1, argon2-cffi 25.1.0, boto3 1.43.123, Pillow 13.0.0. Транзитивные зависимости и хеши закреплены в
requirements.txt.
Запуск из чистого clone
Требуются Docker с Compose v2 и Python 3.9+ для тестов. Команды выполняются из корня clone mtusi2026lab4. UI не требуется.
| Компонент | Образ | Хранилище | Доступ |
|---|---|---|---|
| API × 2 | Python 3.14.7, собственный mtusi-messenger:lab4 |
постоянных файлов нет | только HAProxy |
| HAProxy | 3.4.5-trixie | нет | 127.0.0.1:8080; статистика 127.0.0.1:8404 |
| PostgreSQL | 18.6-trixie | pgdata |
только Compose |
| Valkey | 9.0.6-trixie | valkeydata, AOF |
только Compose |
| SeaweedFS | 3.85 | s3data: master, volume и индекс filer |
только Compose; S3 :8333 |
| migrate, bucket | образ приложения | одноразовые операции | портов нет |
| cleanup | образ приложения, профиль tools | запуск оператором | портов нет |
Образы закреплены версиями и digest в Dockerfile/Compose, включая SeaweedFS 3.85 (sha256:493129…). Все зависимости поднимаются из этого репозитория.
python scripts/init_secrets.py
cp .env.example .env # PowerShell: Copy-Item .env.example .env
docker compose config --quiet
docker compose up -d --build --wait
docker compose ps -a
python -X utf8 scripts/check_contract.py
python -X utf8 tests/smoke.py --base-url http://127.0.0.1:8080
python -X utf8 -m unittest discover -s student-tests -v
python -X utf8 scripts/lab4_checks.py
В Linux можно использовать python3. В Windows -X utf8 нужен для чтения контракта публичными скриптами. Адрес 127.0.0.1 исключает задержки при попытках IPv6. Краткий сценарий защиты — DEMO.md.
init_secrets.py создаёт случайные пароли только при отсутствии файлов; значения не печатаются. secrets/ и .env исключены из Git и Docker build context. При сохранённом PostgreSQL volume нужно сохранять исходные секреты.
migrate применяет SQL-миграции до запуска API. bucket ожидает S3 и идемпотентно создаёт приватный bucket административным ключом. Повторный docker compose run --rm bucket безопасен.
Остановка: docker compose stop либо docker compose down сохраняют volumes. docker compose down -v намеренно удаляет все учебные данные lab4.
Архитектура и решения
Клиент -> HAProxy -> API x2 -> PostgreSQL: пользователи, чаты, сообщения, attachment metadata
-> Valkey: долговечные сессии с TTL
-> приватный SeaweedFS S3: оригиналы изображений
Из lab3 перенесены аутентификация, Argon2id, общие сессии, keyset pagination, транзакционная идемпотентность сообщений, readiness и плавная остановка API. Публичный контракт и публичные тесты сохранены.
Миграция 0004_attachments.sql добавляет метаданные, связь сообщения с файлами и attachment_ids. Внешние ключи защищают принадлежность вложения чату; API проверяет список до INSERT. attachment_ids=[] и отсутствие поля имеют одинаковый fingerprint. Порядок IDs сохраняется; перестановка списка считается другим телом. Подтверждённые сообщения читаются любой репликой из PostgreSQL. Строка чата блокируется на запись, время следующего сообщения строго больше предыдущего.
Оригинал находится в S3. Ключ originals/<случайный UUID> создаёт сервер; filename используется лишь в метаданных. Метаданные и content доступны после проверки Bearer-сессии и членства в чате; постороннему возвращается 404. API не выдаёт object key, внутренний URL или redirect в S3.
Upload требует один Content-Length, Transfer-Encoding не поддерживается. Размер проверяется до чтения; тело принимается блоками до 64 KiB во временный /tmp. На реплику допускается один decoder, ожидание слота ограничено 8 с. Чтение ограничено общим сроком 10 с; процесс Pillow — 8 с. До распаковки проверяется предел 40 миллионов пикселей. Выполняются verify() и полное load(), тип из содержимого сверяется с MIME. Отдельный процесс освобождает память декодера после завершения.
У API лимит 512 MiB, /tmp — tmpfs 32 MiB. Временный оригинал удаляется после запроса; устойчивый экземпляр хранится в S3. Download читает S3 блоками по 64 KiB.
У boto3 connect timeout 1 с, read timeout 3 с, одна попытка. Пользовательские ошибки дают 400/413/415, отказ хранилища — 503. Readiness зависит от PostgreSQL, Valkey и S3: все нужны обязательному синхронному пути.
PostgreSQL: connect_timeout=3 ограничивает подключение, таймаут пула 3 с — получение соединения. Дополнительно BoundedConnection.wait() ограничивает каждое сетевое ожидание psycopg 3 секундами на стороне API, включая проверку соединения пулом, запрос, COMMIT и ROLLBACK. Серверные statement/lock/idle timeout остаются дополнительной защитой и не заменяют клиентский предел: при docker pause postgres таймер внутри БД тоже остановлен. На клиентском таймауте соединение закрывается в том же потоке и отбрасывается пулом; ожидания сетевого CANCEL/ROLLBACK или незавершённых фоновых запросов в API нет. Ошибка преобразуется в обычный JSON 503. После unpause пул создаёт рабочие соединения без перезапуска API.
Приватность и конфигурация
В secrets/s3_config две identity, анонимной identity нет. Bootstrap/cleanup имеют административный ключ; API получает только Read, Write, List для messenger-attachments. API не может создать bucket или читать другой bucket. В SeaweedFS 3.85 Write допускает также удаление объектов; отдельное ограничение Delete не заявляется. Приложение не предоставляет endpoint удаления.
S3 и административные порты не опубликованы на хосте. Внутренняя сеть Compose считается доверенной учебной сетью. Прямая проверка анонимного GET выполняется из контейнера API, независимо от недоступности S3 с хоста.
S3_ENDPOINT=http://s3:8333, S3_REGION=us-east-1, S3_BUCKET=messenger-attachments соответствуют Compose. .env настраивает TTL, число реплик и лимиты изображения; параметры хранилищ задаёт Compose. При изменении bucket нужно согласованно изменить scope identity в init_secrets.py. SESSION_STORE=valkey в примере описательный: реализация использует Valkey напрямую.
Согласованность S3 и БД
Порядок: приём и проверка -> PostgreSQL transaction/advisory lock по object key -> S3 PUT -> INSERT -> COMMIT -> HTTP 201 ready. Сообщение с вложением создаётся отдельной транзакцией. Доступное вложение можно использовать в нескольких сообщениях того же чата.
Если PUT не удался, метаданные не фиксируются. Если PUT прошёл, а INSERT/COMMIT нет, 201 не возвращается; возможен orphan в S3. При неопределённом COMMIT немедленно удалять объект опасно: транзакция могла зафиксироваться.
Сборщик перечисляет originals/, игнорирует объекты моложе часа, для каждого старого объекта берёт ту же advisory lock, повторно проверяет отсутствие метаданных и лишь затем удаляет. Upload держит lock от PUT до COMMIT; сборщик не удалит объект на этой границе. Повторные запуски безопасны. Отказ БД/S3 прерывает обход. Любые метаданные защищают файл независимо от наличия сообщения.
docker compose --profile tools run --rm cleanup # dry-run
docker compose --profile tools run --rm cleanup --apply # только старые orphan
Действие оператора: запускать cleanup --apply раз в час планировщиком ОС и сохранять summary. Без этого orphan автоматически не исчезают. Grace нельзя уменьшить ниже 3600 с. Обнаружение missing объектов и полноценный reconciler уровня 5 не заявлены.
Доказательства критериев
Результаты в этой таблице не заменяются предположениями. Логи сохраняются в evidence/.
| Критерий | Команда | Результат |
|---|---|---|
| Контракт и синтаксис | python -X utf8 scripts/check_contract.py; python -X utf8 -m compileall -q src student-tests scripts |
PASS |
| Compose | docker compose config --quiet |
PASS |
| Smoke, checksum, ACL | python -X utf8 tests/smoke.py --base-url http://127.0.0.1:8080 |
PASS, evidence/smoke.txt |
| Предыдущие возможности, негативные файлы | python -X utf8 -m unittest discover -s student-tests -v |
PASS: 95 тестов, 32,356 с; evidence/tests.txt |
| Bootstrap, порты, private bucket | python -X utf8 scripts/lab4_checks.py --only stack private |
PASS: повтор bootstrap; анонимный GET 403, создание bucket ключом API 403; evidence/lab4-checks.txt |
| Остановка загрузившей реплики | python -X utf8 scripts/lab4_checks.py --only failover |
PASS: другой X-Instance-Id, байты совпали; evidence/lab4-checks.txt |
| Restart всех хранилищ | python -X utf8 tests/resilience.py --mode persistence --action-script scripts/restart.cmd --base-url http://127.0.0.1:8080 |
PASS: прежние токен, сообщение, metadata и bytes сохранены; evidence/persistence.txt |
| Отказ S3 | python -X utf8 scripts/lab4_checks.py --only outage |
PASS: 503, после восстановления тот же токен и оригинал; evidence/lab4-checks.txt |
| Прерывание upload, отказ INSERT после PUT | python -X utf8 scripts/lab4_checks.py --only compensation |
PASS: метаданные не зафиксированы, свежие объекты не удалены; evidence/lab4-checks.txt |
| 10 одновременных загрузок и RAM | python -X utf8 scripts/lab4_checks.py --only memory |
PASS: 10/10, 2 реплики, checksum всех файлов совпал; evidence/lab4-checks.txt |
Эксперименты и отказы
Гипотеза: потоковый приём и один decoder на реплику ограничивают RAM при десяти параллельных запросах. Десять потоков стартуют через barrier и загружают реальный PNG 1024×1024 с несжимаемыми RGB-пикселями (~3 MiB). Затем каждый оригинал скачивается и сверяется по SHA-256.
Скрипт выводит размер, все задержки, successful RPS, число реплик, memory.current до нагрузки и kernel memory.peak после. Пик включает decoder и tmpfs, относится к жизни контейнера и может учитывать предыдущие запросы; для отдельного эксперимента сначала перезапустите API.
Фактический прогон 04.11.2026: Windows, Docker Desktop engine 29.8.1, Linux containers, Docker VM 22 CPU / 16 464 138 240 байт RAM. У API по 0,5 CPU и 512 MiB. Перед экспериментом выполнены функциональные проверки; отдельного прогрева и повторов нет. Размер PNG — 3 147 780 байт, 1024×1024.
| Метрика | Результат |
|---|---|
| Одновременные запросы / успешные / ошибки | 10 / 10 / 0 |
| Длительность / successful RPS | 6,880 с / 1,453 |
| p50 / p95 / p99 (nearest rank, n=10) | 3,682 / 6,876 / 6,876 с |
| Реплика 1: RAM до / lifetime peak | 289 738 752 / 330 678 272 байт (315,4 MiB peak) |
| Реплика 2: RAM до / lifetime peak | 91 824 128 / 130 723 840 байт (124,7 MiB peak) |
| Проверка оригиналов | все 10 скачаны, SHA-256 совпал |
Высокая исходная память первой реплики включает предыдущие тесты; этот прогон доказывает успешную обработку десяти загрузок в заданном лимите, но не точную добавочную стоимость одного upload. Один короткий прогон не является production benchmark и не доказывает throughput для 40M pixels. Фактическая загрузка CPU не измерялась, заданы только лимиты.
| Воздействие | Наблюдение |
|---|---|
| Остановка реплики, ответившей на upload | другая реплика отдала исходные bytes; SHA-256 99ea7533c441f79cd630d15ce4d58d1ec4e06f6f0efb3b77a5c088305cd1bd75 |
| Остановка S3 | ожидаемый 503; команда stop и проверка суммарно 4,699 с; после start исходный токен и файл сохранены |
| Ошибка INSERT после PUT, временный DB trigger | 500 вместо 201; число метаданных не выросло; orphan моложе часа оставлен grace period |
| Закрытие соединения до конца upload | метаданные не созданы |
| Restart API, PostgreSQL, Valkey, S3 и HAProxy | публичный persistence PASS: подтверждённые данные, ещё действующая сессия и оригинал сохранены |
Dry-run сборщика просмотрел 19 объектов и оставил все 19 как свежие; удалено 0. Реальное удаление объекта старше часа в этом коротком прогоне не проверялось. Лог — evidence/lab4-checks.txt. Проверка синтетического INSERT временно создаёт trigger только для lab4-force-rollback.png и удаляет его в finally.
Исправление по ревью: приостановленная PostgreSQL
Замечание к db.py: server-side таймеры не ограничивали прямой /health/ready, если процесс PostgreSQL приостановлен. На исходном образе сценарий воспроизведён: во втором цикле pause прямой запрос не завершился за клиентские 8 с (evidence/postgres-pause-before.txt).
Команда повторения после сборки исправленного API:
python -X utf8 scripts/check_postgres_pause.py --output evidence/postgres-pause.txt
# либо make test-postgres-pause
Тест выполняет HTTP изнутри каждой API-реплики на 127.0.0.1:8080, минуя HAProxy; внутренние порты на хост не публикуются. Два цикла pause/unpause, по 12 одновременных запросов на каждую из двух реплик: число запросов превышает размер пула 10. БД всегда возобновляется в finally. После каждого unpause теми же токенами создаётся и читается сообщение, без перезапуска API.
Фактический прогон 07.11.2026 (evidence/postgres-pause.txt):
| Проверка | Результат |
|---|---|
| 48 прямых GET /health/ready при paused PostgreSQL | все 503; 3,004–3,085 с, корректные error.code и request_id |
| GET /health/live во время pause | 200; 0,004–0,077 с |
| Возврат готовности после unpause, 2 цикла | 0,681 и 0,886 с; прежняя сессия, запись и чтение работают |
| Pause после получения соединения: запрос | таймаут 3,001 с; соединение закрыто |
| Pause перед COMMIT | таймаут 3,001 с; соединение закрыто |
| Pause перед ROLLBACK | таймаут 3,002 с; соединение закрыто, исходная ошибка сохранена |
| Пул размером 1 после каждого из трёх таймаутов | SELECT после unpause успешен в том же пуле; requests_waiting=0 |
Три секунды — предел одного ожидания драйвера; ожидание очереди пула имеет собственный предел. Таблица содержит измеренное время HTTP именно этого прогона, а не обещание неизменной задержки на любом оборудовании. Таймаут COMMIT означает неопределённый результат операции, а не доказанный rollback; безопасный повтор отправки сообщения использует тот же Idempotency-Key.
Дополнительная проверка обычного API после исправления:
python -X utf8 scripts/verify.py --only offline smoke tests --output-prefix postgres-timeout-
Логи: evidence/postgres-timeout-offline.txt, evidence/postgres-timeout-smoke.txt, evidence/postgres-timeout-tests.txt.
Повторный прогон после исправления: offline PASS, публичный smoke PASS, все 95 собственных тестов PASS за 30,857 с.
Ограничения и следующие шаги
- Один хост, по одному PostgreSQL, Valkey, S3, HAProxy: отказ узла/диска не решён.
- HTTP используется для локальных синтетических данных. Для удалённого доступа нужен TLS.
- При перегрузке upload возможен 503. Upload не идемпотентен; повтор после неопределённого ответа может создать ещё один файл.
- Плавная остановка lab3 сохранена, но долгий upload может не уложиться в 10 с остановки контейнера. До 201 сохранение не гарантируется; orphan обрабатывает сборщик.
- Неиспользованные, но учтённые вложения не удаляются. Полного lifecycle и исследования уровня 5 нет.
Источники
- Задание, контракт и публичные тесты этого репозитория.
- Pillow Image: verify, load, MAX_IMAGE_PIXELS.
- Boto3 put_object.
- SeaweedFS S3 credentials.
- Compose services.
- psycopg 3.3.6: Connection.wait(timeout) и закрытие соединения.