Files
mtusi2026lab4/REPORT.md
T
2026-10-28 22:41:10 +03:00

21 KiB
Raw Blame History

Отчёт — лабораторная 4

Целевая оценка: 5, трек 2 — согласованность PostgreSQL и S3. Автор и группа: Хакимов Дмитрий БВТ2301

Запуск

Установите Docker Engine с поддержкой Swarm, Make и Python 3.9+. Для локальных Go-тестов установите Go 1.26.4 или новее. Для одновременной обработки предельных изображений выделите Docker VM минимум 6 GiB RAM.

make up
make wait
make test

make up создаёт секреты, собирает образы и запускает PostgreSQL, Redis, MinIO и HAProxy. Миграции goose применяются перед запуском API. Отдельная задача создаёт приватный bucket и учётную запись API. Повторный запуск сохраняет данные. Обновление API проходит последовательно, по одной реплике. API: http://localhost:8080. Swagger UI: http://localhost:8080/swagger/.

Если порт занят, выполните PORT=8081 make up. Передавайте одинаковые PORT и STACK_NAME последующим командам. Скрипты получают настройки через переменные процесса. Файлы окружения автоматически не загружаются.

python3 -m venv .venv
.venv/bin/python -m pip install -r requirements-dev.txt
make check validate test-own
make test-integration
make test-lab4
make measure-uploads
make test-reconcile
make test-persistence
make wait
make test-failover
make wait
make test-grade4

Запускайте сценарии отказов, сохранности и обновления последовательно. Проверки создают синтетические данные. Токены остаются в памяти тестовых процессов. test-reconcile создаёт условный тестовый trigger и временно отключает S3/БД. Эксперимент ждёт 92 секунды: возраст настоящих S3-объектов должен превысить grace period.

Остановите стенд командой make down. Команда сохраняет volumes и Swarm secrets. Для намеренного удаления всех учебных данных после остановки выполните:

docker volume rm mtusi-lab4_postgres_data mtusi-lab4_redis_data mtusi-lab4_s3_data

Эта команда необратима. При другом STACK_NAME имена volumes отличаются. compose.yaml предназначен для разработки с одной API-репликой; доказательства масштабирования используют stack.yaml.

Компоненты

Роль Сервис / версия Готовность Постоянные данные Сеть / секреты
API ×2 Go 1.26.4, Echo, pgx, minio-go PostgreSQL, Redis, S3 через /health/ready Нет обязательных локальных данных backend + data; пароль БД, ключ курсоров, S3 API keys
PostgreSQL postgres:17.6-alpine3.22 pg_isready postgres_data data; пароль БД
Redis redis:7.4.5-alpine3.21 PING redis_data; AOF appendfsync always data
MinIO RELEASE.2025-09-07T16-13-09Z /minio/health/live s3_data data; root keys
HAProxy haproxy:3.2.6-alpine Readiness API Нет backend; порт 8080
Bootstrap mc RELEASE.2025-08-13T08-35-41Z Успешное завершение задачи Нет data; root/API keys на время настройки

Go и Alpine в Dockerfiles закреплены digest. MinIO и mc собираются из исходников через Dockerfile.storage. Готовые образы MinIO оказались недоступны в использованных реестрах. Commit, SHA-256 архива и адрес исходников указаны в Dockerfile. latest не используется. Идентификаторы образов и оборудование указаны в evidence/lab4-environment.json.

Лимиты: PostgreSQL 1 CPU/512M, Redis 0.5 CPU/128M, MinIO 1 CPU/512M, HAProxy 0.5 CPU/128M. Каждая API-реплика ограничена 1 CPU/1536M, GOMEMLIMIT=1152MiB, GOGC=50. Bootstrap ограничен 0.5 CPU/512M, интеграционные тесты — 1 CPU/1G. Это лимиты, а не резервирование памяти.

Секреты создаются в закрытом каталоге secrets/ и передаются через /run/secrets. Они не входят в Git или build context. API не получает root keys MinIO.

Настройка Значение в стенде
POSTGRES_HOST / POSTGRES_DB / POSTGRES_USER postgres / messenger / messenger
POSTGRES_PASSWORD_FILE /run/secrets/postgres_password
CURSOR_KEY_FILE /run/secrets/cursor_key
REDIS_ADDR / SESSION_TTL_SECONDS redis:6379 / 3600
S3_ENDPOINT / S3_BUCKET / S3_USE_SSL minio:9000 / attachments / false
S3_ACCESS_KEY_FILE / S3_SECRET_KEY_FILE /run/secrets/s3_access_key / /run/secrets/s3_secret_key
INSTANCE_ID Swarm Task ID

Данные, права и память

PostgreSQL хранит метаданные Attachment и ссылки сообщения attachment_ids. Bucket attachments хранит оригиналы по ключам original/<server-generated UUID>. Имя файла используется только для отображения. Публичный API не возвращает object key.

API проверяет сессию и участие в чате перед чтением тела. Он принимает сырые PNG/JPEG, проверяет MIME по содержимому и полностью декодирует изображение для проверки повреждений. Ограничение 10 MiB действует и без Content-Length. DecodeConfig проверяет максимум 40 млн пикселей до полного декодирования. Имена с разделителями пути, NUL и управляющими символами получают 400.

Одна API-реплика принимает и декодирует один файл одновременно. Остальные запросы ждут свободного места в пределах общего срока 45 секунд. Оригинал проходит через ограниченный временный файл; SHA-256 вычисляется во время копирования. Файл удаляется при завершении запроса. После 201 API не зависит от локального оригинала. Download читает S3 потоком через авторизованный API без redirect.

Предельный 16-bit RGBA PNG и строки декодера могут занимать примерно 960 MB. Поэтому лимит контейнера превышает 1 GiB. Один декодер ограничивает одновременное потребление. Расчёт находится в reconciliation.md. Измерение десяти клиентов проверяет обычные изображения двух размеров, а не все предельные формы PNG.

POST сообщения проверяет вложения своего чата и атомарно сохраняет ссылки вместе с сообщением. Идемпотентность сравнивает текст и упорядоченный список ID; отсутствие списка равно []. PostgreSQL advisory lock сериализует конкурентные запросы одного ключа. Повтор подтверждённого сообщения сохраняет исходный результат даже после утраты оригинала.

Bootstrap создаёт bucket, отключает anonymous access и назначает политику отдельному API-пользователю. API получает Get/Put/Delete для attachments/original/*, LIST этого префикса и GetBucketLocation. API не может создавать bucket, менять политику или писать в другой префикс. Консоль MinIO слушает только loopback контейнера. Только HAProxy публикует порт наружу. Anonymous GET проверяется напрямую через S3, без API.

Трек 2: согласованность

Гипотеза: возраст объектов и общая блокировка позволяют повторять сверку без удаления свежих или используемых данных. Стоимость обхода растёт с числом объектов и метаданных, без скачивания бинарного содержимого.

Upload держит транзакционную advisory lock ключа от S3 PUT до COMMIT метаданных. Только успешные PUT и COMMIT разрешают вернуть 201 ready. При неопределённом COMMIT API не удаляет объект: запись могла завершиться успешно. После отказа БД неподтверждённый объект остаётся до следующей сверки.

# Dry-run по умолчанию:
make reconcile
make reconcile RECONCILE_ARGS='--grace=90s'
# Применение исправлений:
make reconcile-apply

Grace по умолчанию равен двум минутам; минимум — 90 секунд при сроке upload 45 секунд. Оператор запускает make reconcile-apply каждые пять минут через cron или планировщик стенда. API не запускает сверку автоматически. Без запуска reconciler отложенная очистка не происходит.

Reconciler читает страницы S3 LIST и страницы метаданных по 100 строк. Он проверяет кандидата под той же advisory lock; занятую блокировку пропускает до следующего запуска. Он удаляет только старый S3-объект без метаданных после повторного HEAD и проверки БД. Объект с метаданными не удаляется независимо от ссылки сообщения.

Для отсутствующего оригинала старые ready-метаданные получают внутренний статус failed/original_missing. Строка и ссылки сообщений сохраняются. Metadata/content возвращают 409: схема lab4 допускает только ready-метаданные. Восстановление байтов требует резервной копии; сверка не создаёт их заново. Таймаут и отказ доступа S3 не считаются отсутствием объекта.

Dry-run не меняет данные. Повторный apply после исправления не добавляет изменений. JSON-отчёт содержит счётчики обхода, SQL/HEAD, время и не более 100 примеров действий. bytes_scanned означает логический размер объектов из LIST; содержимое не скачивается. list_requests_estimate оценивает число страниц. db_queries считает явные запросы без BEGIN/ROLLBACK.

Доказательства

Результаты находятся в evidence/lab4-*. Публичные tests и обязательный OpenAPI не изменены.

Требование Команда Файл
Контракт и исходники make check validate test-own lab4-validation.txt, lab4-go-tests.txt
API lab3 и вложения lab4 make test lab4-smoke.txt
Транзакции, гонки, миграции make test-integration lab4-integration.txt
PNG/JPEG, лимиты, повреждения, MIME, чужие ID/чат make test-lab4 lab4-acceptance.json
Private bucket, политика, повтор bootstrap make test-lab4 lab4-acceptance.json
Обрыв клиента, отказ S3, остановка загрузившей реплики make test-lab4 lab4-acceptance.json
Полный restart, прежний токен и оригинал make test-persistence lab4-persistence.txt, lab4-status-before/after-restart.json
Failover без дублей make test-failover lab4-failover.txt
Прежние проверки масштабирования make test-grade4 lab4-scaling.txt, swarm-grade4.json
≥10 одновременных загрузок, память make measure-uploads lab4-upload-memory.json
Отказ между S3/БД, grace, locks, dry-run/apply/repeat make test-reconcile lab4-reconciliation.json
Свежий и полный обход, 100/1100 объектов make test-reconcile lab4-reconciliation.json

Наблюдения и результаты

Проверки выполнены на MacBookPro18,3: 8 CPU, 16 GiB RAM; Docker VM: 2 CPU и 2053644288 байт RAM. Docker Engine 29.5.2, Ubuntu 24.04.4 LTS, aarch64. Версии и image IDs сохранены в lab4-environment.json.

Публичный smoke прошёл. Интеграционные тесты проверили миграции с нуля, повторный запуск, откат и прежнюю схему. Негативные HTTP-сценарии получили 400/401/404/413/415 без 500. После обрыва клиента не появились метаданные или временные файлы. Прямой anonymous S3 GET получил 403. Повторный bootstrap дважды сохранил оригинал. После остановки загрузившей API-реплики download через другую восстановился за 0.510 секунды с прежним SHA-256. При отказе S3 liveness остался 200, readiness вернул 503; стенд восстановился за 19.285 секунды. Полный restart заменил все задачи API, HAProxy, PostgreSQL, Redis и MinIO с прежними volumes. Публичная проверка сохранила исходный токен, сообщения и оригинал файла. Публичный failover подтвердил 112 записей с двумя переходными ошибками; первая успешная запись восстановилась за 2.061 секунды. Дополнительная проверка остановила обе исходные реплики по очереди и сохранила подтверждённые сообщения без дублей. Последовательное обновление под нагрузкой завершило 3362 записи без ошибок за 44.156 секунды.

Эксперимент загрузок: один прогревочный файл, затем один burst из десяти одновременных клиентов для каждого размера. PNG содержит синтетический шум, чтобы размер сжатого файла оставался существенным. Download каждого результата проверил SHA-256. Все двадцать загрузок завершились успешно.

Размер PNG, байт Клиенты / ошибки Burst, с p50 / p95, мс Kernel memory.peak, максимум на реплику, MiB
787252 10 / 0 0.325 120.287 / 172.127 46.44
2360847 10 / 0 0.401 258.573 / 324.694 47.61

Это пик за жизнь контейнера, включая предыдущие запросы, а не отдельный профиль Go heap. Сырые baseline, выборочные замеры и kernel peaks находятся в lab4-upload-memory.json. Десять HTTP-запросов активны одновременно; декодирование внутри каждой реплики последовательно.

При ошибке INSERT после успешного PUT API вернул 503 и оставил один неподтверждённый объект. До истечения grace apply сохранил этот объект. Занятая advisory lock также запретила его удаление. После grace dry-run обнаружил один orphan и один missing, не изменив данные. Apply удалил orphan и отметил missing как failed; ссылка сообщения сохранилась. Повторный apply выполнил ноль удалений и ноль изменений метаданных. Живой оригинал со ссылкой сообщения сохранился. Отказы S3 и БД завершили сверку с ошибкой без разрушительных исправлений.

Стоимость обхода измерена для двух наборов с дополнительными объектами по одному байту. В bucket также находились 30 исходных объектов; метаданных было 30. Для полного обхода объекты выдержаны более 90 секунд. Содержимое оригиналов не скачивалось.

Дополнительные объекты / возраст Всего объектов HEAD SQL Время, мс
100 / свежие 130 7 30 27
1100 / свежие 1130 7 30 64
100 / старше grace 130 131 323 129
1100 / старше grace 1130 1131 2323 999

При 1130 объектах LIST занял две страницы вместо одной. Результаты согласуются с линейным ростом числа HEAD/SQL для старых объектов. Свежие объекты требуют LIST, но пропускают отдельные проверки ключа. На каждую точку выполнен один проход; дисперсия и максимальная производительность не оценивались.

Ограничения

Стенд использует один Docker-host и локальные volumes на закреплённом узле. Отказ host, PostgreSQL, Redis, S3 или HAProxy не покрывается резервированием этих компонентов. Readiness учитывает критичные зависимости; liveness проверяет только процесс. Краткие ошибки переключения API учитываются проверками.

Локальный нагрузочный клиент не определяет максимальный production RPS. Выборочные memory.current замеры дают нижнюю оценку кратковременного пика. Kernel memory.peak хранит максимум за жизнь контейнера и может включать предыдущие запросы. Экспериментальная VM имеет меньше памяти, чем суммарные лимиты; пара предельных PNG на ней не проверяется. Обход не является общей snapshot-транзакцией двух хранилищ. Следующий запуск обнаруживает изменения после прохода. Протокол предполагает синхронизированные часы API и S3; в проверенном стенде контейнеры используют часы одного узла.

Источники