# Лабораторная 5: HAProxy -> API x N (по умолчанию 2) -> PostgreSQL (метаданные, задания, outbox) # + Redis (кэш сессий) # + SeaweedFS S3 (staging/ и final/ в приватном бакете) # API/worker outbox relay -> broker (Redis Streams, AOF fsync always) -> worker x M # Сети: backend — lb, api, worker, postgres, redis; storage (internal) — api, worker, s3, s3-init; # queue (internal) — api, worker, broker. Наружу (127.0.0.1) опубликован только LB. name: messenger-lab5 # lab5: общие настройки очереди для API (relay) и worker. x-queue-env: &queue-env BROKER_URL_FILE: /run/secrets/broker_url BROKER_STREAM: ${BROKER_STREAM:-attachments.jobs} BROKER_GROUP: ${BROKER_GROUP:-attachment-workers} BROKER_TIMEOUT_SECONDS: ${BROKER_TIMEOUT_SECONDS:-2} PIPELINE_VERSION: ${PIPELINE_VERSION:-1} JOB_MAX_ATTEMPTS: ${JOB_MAX_ATTEMPTS:-5} JOB_TIMEOUT_SECONDS: ${JOB_TIMEOUT_SECONDS:-60} JOB_LEASE_GRACE_SECONDS: ${JOB_LEASE_GRACE_SECONDS:-10} JOB_CLAIM_IDLE_SECONDS: ${JOB_CLAIM_IDLE_SECONDS:-75} JOB_MAX_DELIVERIES: ${JOB_MAX_DELIVERIES:-10} JOB_RETRY_BASE_SECONDS: ${JOB_RETRY_BASE_SECONDS:-2} JOB_RETRY_MAX_SECONDS: ${JOB_RETRY_MAX_SECONDS:-60} STAGING_RETENTION_SECONDS: ${STAGING_RETENTION_SECONDS:-86400} RELAY_POLL_INTERVAL_SECONDS: ${RELAY_POLL_INTERVAL_SECONDS:-1} RELAY_FAST_PATH_GRACE_SECONDS: ${RELAY_FAST_PATH_GRACE_SECONDS:-2} x-api-env: &api-env APP_ENV: ${APP_ENV:-lab} APP_VERSION: ${APP_VERSION:-lab5} SESSION_STORE: postgres SESSION_TTL_SECONDS: ${SESSION_TTL_SECONDS:-3600} SESSION_CACHE_TTL_SECONDS: ${SESSION_CACHE_TTL_SECONDS:-60} DATABASE_URL_FILE: /run/secrets/database_url CACHE_URL_FILE: /run/secrets/cache_url DB_POOL_MIN: ${DB_POOL_MIN:-1} DB_POOL_MAX: ${DB_POOL_MAX:-10} DB_POOL_TIMEOUT_SECONDS: ${DB_POOL_TIMEOUT_SECONDS:-3} DB_CONNECT_TIMEOUT_SECONDS: ${DB_CONNECT_TIMEOUT_SECONDS:-3} DB_STATEMENT_TIMEOUT_MS: ${DB_STATEMENT_TIMEOUT_MS:-5000} CACHE_TIMEOUT_SECONDS: ${CACHE_TIMEOUT_SECONDS:-0.25} CACHE_RETRY_AFTER_SECONDS: ${CACHE_RETRY_AFTER_SECONDS:-5} IDEMPOTENCY_TTL_SECONDS: ${IDEMPOTENCY_TTL_SECONDS:-86400} READY_DB_TIMEOUT_SECONDS: ${READY_DB_TIMEOUT_SECONDS:-1} DRAIN_SECONDS: ${DRAIN_SECONDS:-3} GRACEFUL_TIMEOUT_SECONDS: ${GRACEFUL_TIMEOUT_SECONDS:-10} KEEP_ALIVE_SECONDS: ${KEEP_ALIVE_SECONDS:-30} PASSWORD_HASH_CONCURRENCY: ${PASSWORD_HASH_CONCURRENCY:-4} # Реплики НЕ применяют миграции — это делает сервис migrate. RUN_MIGRATIONS_ON_START: "false" # lab4: S3 (credentials API — отдельные, только Read/Write/List одного бакета) S3_ENDPOINT: ${S3_ENDPOINT:-http://s3:8333} S3_REGION: ${S3_REGION:-us-east-1} S3_BUCKET: ${S3_BUCKET:-messenger-attachments} S3_ACCESS_KEY_ID_FILE: /run/secrets/s3_access_key_id S3_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_secret_access_key S3_CONNECT_TIMEOUT_SECONDS: ${S3_CONNECT_TIMEOUT_SECONDS:-2} S3_READ_TIMEOUT_SECONDS: ${S3_READ_TIMEOUT_SECONDS:-10} S3_MAX_ATTEMPTS: ${S3_MAX_ATTEMPTS:-2} # Общий бюджет вызова S3 (вкл. DNS) и circuit breaker — см. src/main.py s3_call S3_DOWNLOAD_DEADLINE_SECONDS: ${S3_DOWNLOAD_DEADLINE_SECONDS:-5} S3_UPLOAD_DEADLINE_SECONDS: ${S3_UPLOAD_DEADLINE_SECONDS:-10} S3_CIRCUIT_OPEN_SECONDS: ${S3_CIRCUIT_OPEN_SECONDS:-5} # Лимиты загрузки (не выше контракта: 10 MiB, 40 Мп) MAX_UPLOAD_BYTES: ${MAX_UPLOAD_BYTES:-10485760} MAX_IMAGE_PIXELS: ${MAX_IMAGE_PIXELS:-40000000} MAX_CONCURRENT_UPLOADS: ${MAX_CONCURRENT_UPLOADS:-4} UPLOAD_QUEUE_TIMEOUT_SECONDS: ${UPLOAD_QUEUE_TIMEOUT_SECONDS:-5} UPLOAD_READ_TIMEOUT_SECONDS: ${UPLOAD_READ_TIMEOUT_SECONDS:-60} IMAGE_DECODE_CONCURRENCY: ${IMAGE_DECODE_CONCURRENCY:-2} # Сборщик незавершённых загрузок и объектов-сирот (src/reconcile.py) ATTACHMENT_GC_INTERVAL_SECONDS: ${ATTACHMENT_GC_INTERVAL_SECONDS:-300} ATTACHMENT_GC_GRACE_SECONDS: ${ATTACHMENT_GC_GRACE_SECONDS:-900} ORPHAN_SWEEP_INTERVAL_SECONDS: ${ORPHAN_SWEEP_INTERVAL_SECONDS:-3600} # lab5: задания, outbox relay и брокер <<: *queue-env x-api-healthcheck: &api-healthcheck test: ["CMD", "python", "-c", "import urllib.request; urllib.request.urlopen('http://127.0.0.1:8080/health/ready', timeout=2).read()"] interval: 3s timeout: 2s retries: 2 start_period: 20s x-api-limits: &api-limits limits: cpus: "0.50" # lab4: 4 одновременные загрузки по 10 MiB; замер пика — evidence/upload_memory*.json memory: 320M x-api-secrets: &api-secrets - database_url - cache_url - s3_access_key_id - s3_secret_access_key - broker_url services: postgres: image: postgres:16.4-alpine restart: unless-stopped environment: POSTGRES_USER: messenger POSTGRES_DB: messenger POSTGRES_PASSWORD_FILE: /run/secrets/postgres_password # (API_REPLICAS + 1 при rolling update) x DB_POOL_MAX + migrate + запас < 100 command: ["postgres", "-c", "max_connections=100"] secrets: - postgres_password volumes: - pgdata:/var/lib/postgresql/data healthcheck: test: ["CMD-SHELL", "pg_isready -U messenger -d messenger -h 127.0.0.1"] interval: 3s timeout: 3s retries: 20 start_period: 10s networks: [backend] stop_grace_period: 30s deploy: resources: limits: cpus: "1.00" memory: 512M redis: image: redis:7.4.1-alpine restart: unless-stopped user: redis # Только кэш проверок сессии: без RDB/AOF, ограничение памяти и LRU. command: - sh - -c - exec redis-server --requirepass "$$(tr -d '\r\n' < /run/secrets/redis_password)" --save "" --appendonly no --maxmemory 64mb --maxmemory-policy allkeys-lru secrets: - redis_password healthcheck: test: ["CMD-SHELL", "REDISCLI_AUTH=\"$$(tr -d '\r\n' < /run/secrets/redis_password)\" redis-cli ping | grep -q PONG"] interval: 3s timeout: 3s retries: 20 networks: [backend] deploy: resources: limits: cpus: "0.25" memory: 96M # lab5: брокер заданий — ОТДЕЛЬНЫЙ от кэша сессий Redis (тот же закреплённый образ). # Кэш: без persistence и с вытеснением LRU; брокер: AOF с fsync на каждую запись # (ответ на XADD = сообщение на диске, аналог publisher confirm) и noeviction # (поток никогда не вытесняется). Volume brokerdata переживает рестарт/пересоздание. broker: image: redis:7.4.1-alpine restart: unless-stopped user: redis command: - sh - -c - exec redis-server --requirepass "$$(tr -d '\r\n' < /run/secrets/broker_password)" --dir /data --appendonly yes --appendfsync always --save "" --maxmemory 256mb --maxmemory-policy noeviction secrets: - broker_password volumes: - brokerdata:/data healthcheck: test: ["CMD-SHELL", "REDISCLI_AUTH=\"$$(tr -d '\r\n' < /run/secrets/broker_password)\" redis-cli ping | grep -q PONG"] interval: 3s timeout: 3s retries: 20 networks: [queue] stop_grace_period: 10s deploy: resources: limits: cpus: "0.50" memory: 320M # lab4: S3-совместимое хранилище SeaweedFS (master + volume + filer + S3 gateway в # одном процессе `weed server`). Наружу НЕ публикуется. Административные HTTP-порты # (master 9333, filer 8888, volume 8080) слушают только 127.0.0.1 ВНУТРИ контейнера # (-ip.bind), в сеть storage выставлен только S3 API (8333). Анонимного доступа нет: # identities из secrets/s3_config (bootstrap-admin и messenger-api с правами # Read/Write/List только на свой бакет). Bucket создаёт s3-init. s3: image: chrislusf/seaweedfs:${SEAWEEDFS_VERSION:-4.50} restart: unless-stopped entrypoint: ["/usr/bin/weed"] command: - server - -dir=/data - -ip=127.0.0.1 - -ip.bind=127.0.0.1 - -s3 - -s3.port=8333 - -s3.ip.bind=0.0.0.0 - -s3.config=/run/secrets/s3_config - -s3.iam=false - -s3.port.iceberg=0 - -s3.port.lance=0 - -s3.autoCreateBucket=false # lab5: без ограничения 8 одновременных PUT по 9.5 MiB (2 реплики x # MAX_CONCURRENT_UPLOADS=4) доводили weed до лимита 512M -> OOM-kill и # рестарт S3 (docker events: oom/die/start). Лишние загрузки ждут в S3. - -s3.concurrentUploadLimitMB=128 - -master.volumeSizeLimitMB=256 - -master.electionTimeout=2s - -master.telemetry=false - -volume.max=0 # Go runtime не знает о лимите cgroup и при GOGC=100 копит мусор до ~2x живой # кучи. Мягкий лимит заставляет GC работать раньше, чем придёт OOM killer. environment: GOMEMLIMIT: 400MiB secrets: - s3_config volumes: - s3data:/data healthcheck: test: ["CMD-SHELL", "wget -q -O /dev/null http://127.0.0.1:8333/healthz"] interval: 3s timeout: 3s retries: 20 start_period: 10s networks: [storage] # Штатная остановка SeaweedFS длится ~20 с; Docker ждёт 10 с и шлёт SIGKILL. # Подтверждённые записи уже в page cache ОС, том консистентен (см. REPORT.md). stop_grace_period: 10s deploy: resources: limits: cpus: "1.00" memory: 512M # Идемпотентный bootstrap бакета + проверка приватности и прав API-ключей. # Повторный запуск: "already exists (idempotent no-op)". Admin-ключи есть только здесь. s3-init: build: . command: ["python", "-m", "src.s3_bootstrap"] restart: "no" environment: S3_ENDPOINT: ${S3_ENDPOINT:-http://s3:8333} S3_REGION: ${S3_REGION:-us-east-1} S3_BUCKET: ${S3_BUCKET:-messenger-attachments} S3_ADMIN_ACCESS_KEY_ID_FILE: /run/secrets/s3_admin_access_key_id S3_ADMIN_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_admin_secret_access_key S3_ACCESS_KEY_ID_FILE: /run/secrets/s3_access_key_id S3_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_secret_access_key secrets: - s3_admin_access_key_id - s3_admin_secret_access_key - s3_access_key_id - s3_secret_access_key depends_on: s3: condition: service_healthy networks: [storage] healthcheck: disable: true deploy: resources: limits: cpus: "0.50" memory: 192M # Однократные миграции до старта реплик. Повтор — no-op (schema_migrations), # параллельный запуск сериализуется pg_advisory_lock. migrate: build: . command: ["python", "-m", "src.migrate"] restart: "no" environment: DATABASE_URL_FILE: /run/secrets/database_url DB_CONNECT_TIMEOUT_SECONDS: ${DB_CONNECT_TIMEOUT_SECONDS:-3} # DDL может идти дольше обычного запроса API DB_STATEMENT_TIMEOUT_MS: "60000" MIGRATE_WAIT_SECONDS: "60" secrets: - database_url depends_on: postgres: condition: service_healthy networks: [backend] healthcheck: disable: true deploy: resources: limits: cpus: "0.50" memory: 256M api: build: . image: messenger-api:${APP_VERSION:-lab5} restart: unless-stopped environment: *api-env secrets: *api-secrets depends_on: postgres: condition: service_healthy redis: condition: service_healthy migrate: condition: service_completed_successfully s3-init: condition: service_completed_successfully # Порт только внутри сети backend — в обход LB API недоступен. expose: - "8080" healthcheck: *api-healthcheck # SIGTERM -> осушение DRAIN_SECONDS (3 с) -> graceful shutdown (<= 10 с). stop_signal: SIGTERM stop_grace_period: 20s read_only: true tmpfs: - /tmp:size=16m networks: [backend, storage, queue] # Остановленный s3 исчезает из Docker DNS; короткий таймаут резолвера. dns_opt: ["timeout:1", "attempts:1"] deploy: replicas: ${API_REPLICAS:-2} resources: *api-limits # lab5: worker — отдельный процесс без HTTP. Берёт задания из broker, пишет # final/ в S3 и результат в PostgreSQL. Также крутит outbox relay (sweeper + # сборщик просроченных аренд) и сборщик staging/сирот: публикация не зависит от # того, живы ли реплики API. Недоступность worker НЕ делает API синхронным. worker: # Тот же образ, что у API (один Dockerfile); build здесь, чтобы `up --build` # не пытался скачать локальный тег из registry. build: . image: messenger-api:${APP_VERSION:-lab5} command: ["python", "-m", "src.worker"] restart: unless-stopped environment: <<: *queue-env APP_ENV: ${APP_ENV:-lab} DATABASE_URL_FILE: /run/secrets/database_url DB_POOL_MIN: "1" DB_POOL_MAX: ${WORKER_DB_POOL_MAX:-6} DB_POOL_TIMEOUT_SECONDS: ${DB_POOL_TIMEOUT_SECONDS:-3} DB_CONNECT_TIMEOUT_SECONDS: ${DB_CONNECT_TIMEOUT_SECONDS:-3} DB_STATEMENT_TIMEOUT_MS: ${DB_STATEMENT_TIMEOUT_MS:-5000} S3_ENDPOINT: ${S3_ENDPOINT:-http://s3:8333} S3_REGION: ${S3_REGION:-us-east-1} S3_BUCKET: ${S3_BUCKET:-messenger-attachments} S3_ACCESS_KEY_ID_FILE: /run/secrets/s3_access_key_id S3_SECRET_ACCESS_KEY_FILE: /run/secrets/s3_secret_access_key S3_CONNECT_TIMEOUT_SECONDS: ${S3_CONNECT_TIMEOUT_SECONDS:-2} S3_READ_TIMEOUT_SECONDS: ${S3_READ_TIMEOUT_SECONDS:-10} S3_MAX_ATTEMPTS: ${S3_MAX_ATTEMPTS:-2} S3_CIRCUIT_OPEN_SECONDS: ${S3_CIRCUIT_OPEN_SECONDS:-5} MAX_UPLOAD_BYTES: ${MAX_UPLOAD_BYTES:-10485760} MAX_IMAGE_PIXELS: ${MAX_IMAGE_PIXELS:-40000000} WORKER_CONCURRENCY: ${WORKER_CONCURRENCY:-2} WORKER_IMAGE_TIMEOUT_SECONDS: ${WORKER_IMAGE_TIMEOUT_SECONDS:-30} WORKER_IMAGE_MEMORY_MB: ${WORKER_IMAGE_MEMORY_MB:-1024} ATTACHMENT_GC_INTERVAL_SECONDS: ${ATTACHMENT_GC_INTERVAL_SECONDS:-300} ATTACHMENT_GC_GRACE_SECONDS: ${ATTACHMENT_GC_GRACE_SECONDS:-900} ORPHAN_SWEEP_INTERVAL_SECONDS: ${ORPHAN_SWEEP_INTERVAL_SECONDS:-3600} WORKER_FAULTS: "false" secrets: - database_url - s3_access_key_id - s3_secret_access_key - broker_url depends_on: postgres: condition: service_healthy broker: condition: service_healthy migrate: condition: service_completed_successfully s3-init: condition: service_completed_successfully healthcheck: # Heartbeat обновляется, только пока все consumer-потоки проходят цикл. test: ["CMD", "python", "-c", "import os,time,sys; sys.exit(0 if time.time()-os.path.getmtime('/tmp/worker-heartbeat') < 90 else 1)"] interval: 5s timeout: 3s retries: 3 start_period: 20s # SIGTERM: не брать новые сообщения, дождаться текущих (< JOB_TIMEOUT_SECONDS). stop_signal: SIGTERM stop_grace_period: 75s read_only: true tmpfs: # forkserver-сокет и heartbeat; изображения в памяти, не на диске - /tmp:size=16m networks: [backend, storage, queue] dns_opt: ["timeout:1", "attempts:1"] deploy: replicas: ${WORKER_REPLICAS:-1} resources: limits: cpus: "1.00" # 2 подпроцесса обработки (RLIMIT_AS 1024 MiB виртуальной памяти, реальный # пик 361 MiB на 40 Мп RGBA PNG, замер в REPORT.md) + процесс worker memory: 1280M # Экземпляр с коротким TTL — только для автотеста истечения сессии (профиль ttl). # Не входит в LB (другое DNS-имя), портов наружу не публикует: тест запускается # внутри сети командой `make test-expiry` api-short-ttl: image: messenger-api:${APP_VERSION:-lab5} profiles: [ttl] restart: "no" environment: <<: *api-env SESSION_TTL_SECONDS: ${SHORT_SESSION_TTL_SECONDS:-2} secrets: *api-secrets depends_on: api: condition: service_healthy expose: - "8080" healthcheck: *api-healthcheck stop_grace_period: 20s read_only: true tmpfs: - /tmp:size=16m networks: [backend, storage, queue] deploy: resources: *api-limits # lab4: экземпляры с ВНЕДРЁННЫМИ отказами пути загрузки (профиль faults), только для # student-tests/test_attachment_consistency.py. Не входят в LB (другие DNS-имена), # порты не публикуют. Запуск: python scripts/ops.py in-network consistency api-fault-s3: image: messenger-api:${APP_VERSION:-lab5} profiles: [faults] restart: "no" environment: <<: *api-env FAULT_INJECTION: s3_error_on_put secrets: *api-secrets depends_on: api: condition: service_healthy expose: ["8080"] read_only: true tmpfs: ["/tmp:size=16m"] networks: [backend, storage, queue] deploy: resources: *api-limits api-fault-db: image: messenger-api:${APP_VERSION:-lab5} profiles: [faults] restart: "no" environment: <<: *api-env FAULT_INJECTION: db_error_after_s3_put secrets: *api-secrets depends_on: api: condition: service_healthy expose: ["8080"] read_only: true tmpfs: ["/tmp:size=16m"] networks: [backend, storage, queue] deploy: resources: *api-limits # lab5: разрыв COMMIT -> publish. Реплика отвечает 202 (задание и outbox уже # в PostgreSQL), затем в background task до XADD завершает процесс (os._exit). # Восстановление: sweeper любой другой реплики/worker публикует строку outbox. api-fault-publish: image: messenger-api:${APP_VERSION:-lab5} profiles: [faults] restart: "no" environment: <<: *api-env FAULT_INJECTION: crash_after_commit secrets: *api-secrets depends_on: api: condition: service_healthy expose: ["8080"] read_only: true tmpfs: ["/tmp:size=16m"] networks: [backend, storage, queue] deploy: resources: *api-limits # lab5: разрыв publish -> подтверждение в outbox: XADD выполнен, процесс умирает до # DELETE строки outbox -> повторная публикация (дубль в брокере) -> worker no-op. api-fault-dup: image: messenger-api:${APP_VERSION:-lab5} profiles: [faults] restart: "no" environment: <<: *api-env FAULT_INJECTION: crash_after_publish secrets: *api-secrets depends_on: api: condition: service_healthy expose: ["8080"] read_only: true tmpfs: ["/tmp:size=16m"] networks: [backend, storage, queue] deploy: resources: *api-limits # Процесс завершается (os._exit) между S3 PUT (staging) и COMMIT — «падение» реплики. api-fault-crash: image: messenger-api:${APP_VERSION:-lab5} profiles: [faults] restart: "no" environment: <<: *api-env FAULT_INJECTION: crash_after_s3_put secrets: *api-secrets depends_on: api: condition: service_healthy expose: ["8080"] read_only: true tmpfs: ["/tmp:size=16m"] networks: [backend, storage, queue] deploy: resources: *api-limits lb: image: haproxy:2.8.30-alpine restart: unless-stopped ports: - "127.0.0.1:${APP_PORT:-8080}:8080" - "127.0.0.1:${LB_STATS_PORT:-8404}:8404" volumes: - ./infra/haproxy/haproxy.cfg:/usr/local/etc/haproxy/haproxy.cfg:ro depends_on: api: condition: service_healthy healthcheck: test: ["CMD-SHELL", "wget -q -O /dev/null http://127.0.0.1:8404/lb-health"] interval: 5s timeout: 2s retries: 3 stop_grace_period: 5s networks: [backend] deploy: resources: limits: cpus: "0.50" memory: 128M volumes: pgdata: s3data: brokerdata: networks: backend: # Внутренняя сеть хранилища объектов: без выхода наружу и без LB. storage: internal: true # lab5: сеть брокера — только API (relay), worker и broker. queue: internal: true secrets: postgres_password: file: ./secrets/postgres_password redis_password: file: ./secrets/redis_password database_url: file: ./secrets/database_url cache_url: file: ./secrets/cache_url s3_config: file: ./secrets/s3_config.json s3_admin_access_key_id: file: ./secrets/s3_admin_access_key_id s3_admin_secret_access_key: file: ./secrets/s3_admin_secret_access_key s3_access_key_id: file: ./secrets/s3_access_key_id s3_secret_access_key: file: ./secrets/s3_secret_access_key broker_password: file: ./secrets/broker_password broker_url: file: ./secrets/broker_url