feat: completed tasks for grade 4

This commit is contained in:
2026-11-22 14:40:35 +03:00
parent 0b97f77d76
commit e0263ba902
42 changed files with 5257 additions and 523 deletions
+1 -2
View File
@@ -8,6 +8,7 @@ LOG_LEVEL=INFO
MAX_MESSAGES=100000
# Лимит одновременных запросов НА ОДНУ реплику
MAX_IN_FLIGHT=16
LOGIN_MAX_IN_FLIGHT=10
SESSION_TTL_SECONDS=3600
SESSION_STORE=redis
@@ -80,9 +81,7 @@ JOB_TIMEOUT_SECONDS=60
STAGING_RETENTION_SECONDS=86400
BROKER_HOST=broker
BROKER_PORT=5671
BROKER_PASSWORD_FILE=/run/secrets/broker_password
BROKER_QUEUE=attachment-jobs
BROKER_USER=messenger
BROKER_VHOST=/
JOB_LEASE_SECONDS=90
JOB_RETRY_SECONDS=5
+4
View File
@@ -172,3 +172,7 @@ test-suite:
$(TEST_ENV) $(MAKE) test-storage BASE_URL="$(TEST_BASE_URL)"; \
$(TEST_ENV) $(MAKE) test-outbox BASE_URL="$(TEST_BASE_URL)"; \
$(TEST_ENV) $(MAKE) test-jobs BASE_URL="$(TEST_BASE_URL)";
.PHONY: scan-security
scan-security:
$(PYTHON) -m scripts.scan_security
+5 -2
View File
@@ -2,7 +2,7 @@
Защитить работающий мессенджер на границах доверия и показать защиту отрицательными проверками: чужой доступ, неверный сертификат, недостаточные права и отзыв credentials.
В репозитории реализован уровень «3». Перенесённый мессенджер работает через HTTPS, внутренняя связь nginx с API требует mTLS, а сервисы получают пароли PostgreSQL по ограниченным политикам OpenBao.
В репозитории реализован уровень «4». Перенесённый мессенджер работает через HTTPS, внутренняя связь nginx с API требует mTLS, а сервисы получают пароли PostgreSQL по ограниченным политикам OpenBao. RabbitMQ и Collector проверяют отдельные сертификаты сервисов.
[Карта курса](COURSE.md) · [Процесс fork/PR](CONTRIBUTING.md) · [OpenAPI](contracts/openapi.json) · [Семантика API](contracts/README.md) · [Проверки](tests/README.md) · [Отчёт](REPORT.md) · [Примеры JSON](contracts/examples.json) · [Памятка преподавателю](MAINTAINERS.md)
@@ -59,7 +59,7 @@ make up
make check validate test test-security
```
Публичные проверки используют `https://localhost:8443` и локальный публичный CA. Для другого адреса задайте `BASE_URL`, для другого доверенного CA — `CA_FILE`. `make verify` дополнительно создаёт отдельный тестовый стенд, проверяет внутренние политики, наблюдаемость, перезапуск и отказ реплики. [Матрица доверия](contracts/trust-matrix.md) · [Проверки](tests/README.md) · [OpenBao](infra/openbao/README.md)
Публичные проверки используют `https://localhost:8443` и локальный публичный CA. Для другого адреса задайте `BASE_URL`, для другого доверенного CA — `CA_FILE`. `make verify` дополнительно создаёт отдельный тестовый стенд, проверяет внутренние политики, наблюдаемость, перезапуск, отказ реплики и ротацию worker. Сканирование зависимостей и локальных сборок запускается командой `make scan-security`. [Матрица доверия](contracts/trust-matrix.md) · [Проверки](tests/README.md) · [OpenBao](infra/openbao/README.md)
## Сценарий защиты
@@ -87,6 +87,9 @@ Threat model, заполненная trust matrix, TLS/mTLS конфигурац
- [OWASP Password Storage](https://cheatsheetseries.owasp.org/cheatsheets/Password_Storage_Cheat_Sheet.html)
- [OWASP File Upload](https://cheatsheetseries.owasp.org/cheatsheets/File_Upload_Cheat_Sheet.html)
- [OpenBao AppRole](https://openbao.org/docs/auth/approle/)
- [OpenBao cert auth](https://openbao.org/docs/auth/cert/)
- [RabbitMQ TLS и EXTERNAL](https://www.rabbitmq.com/docs/ssl)
- [Trivy image scan](https://www.trivy.dev/docs/dev/guide/target/container_image/)
- [OpenBao policies](https://openbao.org/docs/concepts/policies/)
- [OpenBao production hardening](https://openbao.org/docs/internals/security/)
- [Docker security](https://docs.docker.com/engine/security/)
+24 -21
View File
@@ -1,7 +1,7 @@
# Отчёт по лабораторной 7
- Автор: Григорян Илья Мурадович, БПИ2303.
- Цель: оценка «3».
- Цель: оценка «4».
- Реализация и проверки подготовлены с помощью Codex.
## Запуск
@@ -24,36 +24,39 @@ API доступен на `https://localhost:8443`, Grafana на `https://localh
`make down` останавливает стенд и сохраняет тома. `make clean-stands` удаляет ресурсы текущего и тестового проекта и теги локальных сборок приложения, включая `messenger-*` и `mns-*`. Просмотр плана доступен командой `.venv/bin/python -m scripts.deployment clean`. Локальные настройки и ключи остаются под контролем оператора.
## Что изменилось
## Архитектура и защита
- Снаружи nginx принимает HTTPS. Внутри nginx проверяет CA и SAN `api`. API требует клиентский сертификат и точный DNS SAN `load-balancer`. Прямых публикаций портов реплик нет.
- PostgreSQL, Redis, RabbitMQ, MinIO, OpenBao и сетевые интерфейсы телеметрии используют TLS с проверкой имени. Аналитические источники принимают клиентские сертификаты по ролям. Локальный plaintext endpoint метрик SDK находится в общем сетевом пространстве Collector и его TLS-прокси.
- PostgreSQL использует отдельные роли API, worker, publisher и cleanup. Аутентификация RabbitMQ разделена на publisher и worker. Доступ MinIO ограничен частным bucket и префиксами. Redis ограничивает прикладную роль ключами сессий.
- OpenBao 2.7.1 работает в серверном режиме с PebbleDB в именованном томе. Сервисы получают пароли БД при запуске. Для каждой роли настроен отдельный leaf certificate, KV-путь и токен на 10 минут. Операторское распечатывание и выпуск сертификатов описаны в [инструкции OpenBao](infra/openbao/README.md).
- Хеш пароля создаётся Argon2id со случайной солью в формате PHC и параметрами 19 MiB, 2 прохода, 1 поток. Вход ограничен на nginx по IP с ответом 429 и `Retry-After`. Тело запроса ограничено 12 MiB на входе и 16 KiB для входа по паролю. API сохраняет потоковый лимит вложений 10 MiB.
- API и worker работают от UID 10001, без Linux capabilities, с ограничениями ресурсов и `no-new-privileges`. Из прикладных сетевых интерфейсов опубликован только ingress. Административные HTTPS-порты остаются на loopback.
- Возможности мессенджера из лабораторной 6 сохранены. nginx принимает HTTPS, проверяет сертификат API, а реплики принимают только клиентский сертификат с DNS SAN `load-balancer`. Порты API не опубликованы.
- RabbitMQ требует mTLS и использует SASL EXTERNAL для сопоставления CN сертификата с ролью. Publisher публикует, worker читает очередь вложений. API пишет задания в PostgreSQL и имеет отдельную cert-роль для проверки подключения без прав на ресурсы RabbitMQ.
- API, publisher и worker используют разные клиентские сертификаты Collector. nginx проверяет доверенную цепочку и список разрешённых CN, затем проксирует OTLP по loopback. Внешние соединения с хранилищами, OpenBao и интерфейсами телеметрии используют TLS.
- OpenBao 2.7.1 с PebbleDB выдаёт отдельным cert-ролям токены на 10 минут. При старте сервис получает пароль своего логина PostgreSQL, а при следующем старте снова аутентифицируется сертификатом. Ротация worker меняет пароль и конечный сертификат без сборки образа. Команды и поведение при seal описаны в [инструкции OpenBao](infra/openbao/README.md).
- Argon2id использует 19 MiB, два прохода и один поток алгоритма. При успешном входе старый хеш обновляется условной записью, привязанной к прежнему хешу. На nginx действует единый лимит по IP в 2 запроса/с с burst 10. Каждая реплика допускает до десяти активных проверок, пул хеширования использует до двух потоков. Redis хранит ключи, производные от SHA-256 Bearer-токена, со сроком жизни.
- API, worker, publisher, cleanup, миграции, nginx, MinIO, OpenBao и компоненты телеметрии работают с read-only rootfs, `no-new-privileges` и без Linux capabilities. Временные файлы вынесены в tmpfs там, где нужны. Записи баз и систем телеметрии идут в отдельно примонтированные тома.
- PostgreSQL, Redis и RabbitMQ сохраняют файловые операции штатной инициализации. PostgreSQL копирует TLS-ключ с правами 0600 и меняет владельца, Redis создаёт ACL-файл, RabbitMQ инициализирует каталог узла и права файлов. Для этих трёх контейнеров включён `no-new-privileges`, а rootfs и начальные права оставлены совместимыми с entrypoint образов.
- nginx ограничивает тело входного запроса 12 MiB, а тело запроса входа 16 KiB. API сохраняет потоковый лимит вложений 10 MiB. Worker ограничен 2 CPU и 2 GiB. Дочерний процесс обработки изображений ограничен 768 MiB адресного пространства и 20 секундами CPU, задание ограничено 60 секундами.
[Матрица доверия](contracts/trust-matrix.md) · [Модель угроз](security/THREAT_MODEL.md) · [Конфигурация наблюдаемости](infra/otel/README.md)
[Матрица доверия](contracts/trust-matrix.md) · [Модель угроз](security/THREAT_MODEL.md) · [Наблюдаемость](infra/otel/README.md) · [Анализ уязвимостей](security/SCAN.md)
## Ограничения
OpenBao и хранилища работают в одном экземпляре. После перезапуска OpenBao требуется действие оператора. Сессии используют срок жизни Redis, а уже загруженные пароли БД хранятся в памяти процессов. Автоматическая ротация и отдельные сертификаты для каждого отправителя OTLP выходят за рамки выбранного уровня. Основной стенд рассчитан на инициализацию новых томов. Для переноса существующих данных нужен отдельный экспорт и импорт с новыми ролями доступа.
OpenBao и хранилища работают в одном экземпляре. После перезапуска OpenBao требуется распечатывание оператором. Запущенные сервисы используют уже загруженный пароль PostgreSQL, а новые процессы требуют работающий OpenBao. Отзыв cert-роли блокирует новый вход со старым leaf. Другие ранее выданные токены действуют до TTL или отдельного отзыва. Сканирование выявляет остаточные находки в MinIO и базовой системе. Развёртывание рассчитано на чистые тома. Перенос данных со старого стенда требует отдельного экспорта и импорта.
## Проверки
Итоговый `make verify VERIFY_ARGS=--keep-stand` завершился успешно 21 ноября 2026 года в 16:17 МСК. Стенд стартовал с чистыми томами. После прогона ресурсы удалены отдельной командой.
Итоговый `make verify VERIFY_ARGS=--keep-stand` завершился успешно 22 ноября 2026 года в 14:34 МСК. Прогон выполнен на чистых томах отдельного Compose-проекта. Для полного воспроизведения сначала выполните `make init`, затем `make verify`.
| Критерий | Наблюдаемый результат |
| --- | --- |
| Контракт и базовое поведение | OpenAPI, конфигурация Compose, 206 регрессионных тестов и публичный HTTPS smoke прошли. Регрессия заняла 90,40 с. |
| TLS и mTLS | HTTPS прошёл с доверенным CA и SAN. Пустой trust store и неверный hostname отклонены. Обе API-реплики приняли балансировщик и отклонили подключения без сертификата, с чужим CA и с другой ролью доверенного CA. |
| Сессии, ACL, ограничения входа | Посторонний получил 404 при чтении чата, чтении и прикреплении чужого файла. Удалённый и просроченный токены получили 401. Подтверждены ответы 429 с `Retry-After` и 413. |
| Argon2id | В API-контейнере с лимитом 1 CPU медиана 15 проверок составила 39,1 мс. Параметры удовлетворяют минимальному бюджету памяти, а задержка измерена на работающем стенде. Унаследованные PHC-хеши проверяются по параметрам внутри хеша. |
| OpenBao и разделение доступа | Обе cert-роли прочитали только свой путь. Чужая роль, чужой путь, запись секрета и изменение policy отклонены. Worker получил отказ при чтении таблицы пользователей и записи вне разрешённых префиксов S3. |
| Наблюдаемость | Подтверждены три источника Grafana, связь логов и трасс, сохранение истории и восстановление после остановок PostgreSQL, worker и Loki. Проверены 399 записей на наличие тестовых приватных значений. |
| Перезапуск и отказ реплики | Общий перезапуск, включая повторное распечатывание OpenBao, сохранил подтверждённые данные и сессию. При отключении API-реплики запись восстановилась через оставшуюся реплику. |
| nginx | Отдельный `make test-nginx` подтвердил HTTPS-балансировку, обнаружение реплики, сохранение заголовков API, ограничение нагрузки и переключение при отказе. |
| Контракт и регрессия | OpenAPI, Compose и HTTPS smoke прошли. Все 208 регрессионных тестов прошли за 96,32 с. Проверены rehash после успешного входа и отказ для одиннадцатой одновременной проверки на реплике. |
| TLS и роли | Аудит проверил ingress, обе API-реплики, TLS-подключения к зависимостям, ACL RabbitMQ, PostgreSQL и MinIO. RabbitMQ и Collector отклонили сертификаты неподходящей роли, выпущенные их доверенными CA. |
| Бюджет входа | Из 25 запросов за 0,33 с две реплики обработали 10 проверок пароля. Остальные 15 получили 429. В контейнере API с лимитом 1 CPU медиана одиночной проверки составила 32,0 мс. Пакет из 24 проверок на двух потоках занял 0,82 с, в среднем 35,7 мс CPU на проверку с пиковым RSS 84,1 MiB для процесса измерения. При 2 входах/с с одного IP оценка устойчивой нагрузки составляет около 71 мс CPU/с на проверку паролей без учёта прочих операций. |
| Жизненный цикл OpenBao | Просроченный трёхсекундный токен потерял доступ. При seal существующий API оставался готовым, новый процесс получал отказ. После замены пароля и leaf worker образ сохранил тот же ID, старый leaf и отдельно отозванный токен потеряли доступ, новое вложение обработано. |
| ACL, сессии и изоляция | Подтверждены отказы при чужом доступе, logout и expiry, ответы 429 и 413. В API и worker проверены read-only rootfs, запись в tmpfs, non-root, ограничения ресурсов и отсутствие capabilities. |
| Наблюдаемость и отказы | Подтверждены три источника Grafana, связность логов и трасс и сохранение истории. Проверены 264 записи на приватные значения. Стенд восстановился после сценариев отказа PostgreSQL, worker и Loki. При общем перезапуске и остановке одной API-реплики сохранились подтверждённые данные и сессии. |
| Сканирование | Trivy проверил зависимости и три собранных образа. Исправление `certifi` подтверждено повторным сканом. Остаточные находки и их применимость разобраны отдельно. [Анализ уязвимостей](security/SCAN.md) |
Во время короткого нагрузочного сценария выполнено 100 POST-запросов с целевой частотой 10 запросов/с и параллелизмом 2. Ошибок не было. Задержки успешных запросов p50/p95/p99 составили 18,8/54,3/58,6 мс. Этот профиль проверяет работу защищённого тракта на стенде и не определяет его предел пропускной способности.
За короткий нагрузочный тест выполнено 100 POST-запросов без ошибок при целевых 10 запросах/с. Задержки p50/p95/p99 составили 19,2/54,4/60,6 мс. Отдельный `make test-nginx` подтвердил балансировку, обработку лимитов и переключение реплики.
[Итоговый прогон](evidence/verification.json) · [Телеметрия и отказы](evidence/observability.json) · [Очистка стенда](evidence/cleanup.json)
[Итоговый прогон](evidence/verification.json) · [Наблюдаемость и нагрузка](evidence/observability.json) · [Сканирование](evidence/security-scan.json) · [Очистка стенда](evidence/cleanup.json)
После проверок удалены 19 контейнеров, 9 томов, 2 сети и 3 образа приложения. Базовые образы сервисов сохранены.
+1
View File
@@ -47,6 +47,7 @@ class Settings(BaseSettings):
max_messages: int = Field(ge=1)
max_in_flight: int = Field(ge=1)
login_max_in_flight: int = Field(default=10, ge=1, le=16)
session_ttl_seconds: int = Field(default=3600, ge=1)
session_store: Literal["redis"] = "redis"
+3 -4
View File
@@ -1,6 +1,5 @@
"""Настройки очереди из .env; credentials брокера читаются отдельно из файла."""
"""Настройки очереди из .env; идентификация брокера через TLS."""
from pathlib import Path
from typing import Self
from pydantic import Field, model_validator
@@ -13,9 +12,9 @@ class JobSettings(BaseSettings):
broker_ca_file: str | None = None
broker_host: str = "broker"
broker_port: int = Field(default=5672, ge=1, le=65535)
broker_password_file: Path = Path("/run/secrets/broker_password")
broker_cert_file: str = "/run/tls/broker-client.crt"
broker_key_file: str = "/run/tls/broker-client.key"
broker_queue: str = "attachment-jobs"
broker_user: str = "messenger"
broker_vhost: str = "/"
worker_concurrency: int = Field(default=2, ge=1, le=4)
job_max_attempts: int = Field(default=5, ge=1, le=100)
+10
View File
@@ -40,3 +40,13 @@ async def acquire_request_slot(request: Request) -> AsyncIterator[None]:
yield
finally:
capacity.release()
async def acquire_login_slot(request: Request) -> AsyncIterator[None]:
capacity: RequestCapacity = request.app.state.login_capacity
if not capacity.try_acquire():
raise rate_limited()
try:
yield
finally:
capacity.release()
+4
View File
@@ -48,6 +48,10 @@ async def verify_password(password: str, password_hash: str) -> bool:
)
def password_needs_rehash(password_hash: str) -> bool:
return _hasher.check_needs_rehash(password_hash)
async def dummy_verify_password(password: str) -> None:
"""Проверка против фиктивного хеша: время ответа не выдаёт отсутствие пользователя."""
await verify_password(password, _DUMMY_HASH)
+5
View File
@@ -45,6 +45,11 @@ async def create_session(
if not await security.verify_password(password, user.password_hash):
raise unauthorized_basic()
if security.password_needs_rehash(user.password_hash):
replacement = await security.hash_password(password)
await users_storage.replace_password_hash(session, user.id, user.password_hash, replacement)
await session.commit()
token = security.generate_token()
expires_at = datetime.now(UTC) + timedelta(seconds=ttl_seconds)
await sessions_storage.create_session(
+3 -2
View File
@@ -1,5 +1,6 @@
from fastapi import APIRouter, Response
from fastapi import APIRouter, Depends, Response
from app.core.request_capacity import acquire_login_slot
from app.domain.auth import create_session, revoke_session
from app.endpoints.dependencies import (
AppSettings,
@@ -13,7 +14,7 @@ from app.schemas.session import AuthSession
router = APIRouter(prefix="/api/v1/auth", tags=["auth"])
@router.post("/sessions", status_code=201)
@router.post("/sessions", status_code=201, dependencies=[Depends(acquire_login_slot)])
async def login(
credentials: BasicCredentials,
session: DbSession,
+1
View File
@@ -61,6 +61,7 @@ def create_app(settings: Settings | None = None) -> FastAPI:
application.state.upload_capacity = create_request_capacity(
settings.s3.max_concurrent_uploads
)
application.state.login_capacity = create_request_capacity(settings.login_max_in_flight)
application.state.request_capacity = create_request_capacity(settings.max_in_flight)
application.state.instance_id = resolve_instance_id(settings.instance_id)
telemetry = Telemetry("messenger-api", application.state.instance_id)
+18 -11
View File
@@ -13,6 +13,23 @@ from app.core.tls import client_context
from app.schemas.job import JobMessage
async def connect_broker(settings: JobSettings):
context = client_context(settings.broker_ca_file)
if context is None:
raise ValueError("RabbitMQ требует CA и клиентский сертификат")
context.load_cert_chain(settings.broker_cert_file, settings.broker_key_file)
return await aio_pika.connect(
host=settings.broker_host,
port=settings.broker_port,
virtualhost=settings.broker_vhost,
ssl=True,
ssl_context=context,
auth="external",
timeout=5,
heartbeat=30,
)
@dataclass(frozen=True)
class Delivery:
id: AbstractIncomingMessage
@@ -37,17 +54,7 @@ class JobBroker:
or self.channel.is_closed
):
await self.aclose()
self.connection = await aio_pika.connect(
host=self.settings.broker_host,
port=self.settings.broker_port,
login=self.settings.broker_user,
password=self.settings.broker_password_file.read_text().strip(),
virtualhost=self.settings.broker_vhost,
ssl=bool(self.settings.broker_ca_file),
ssl_context=client_context(self.settings.broker_ca_file),
timeout=5,
heartbeat=30,
)
self.connection = await connect_broker(self.settings)
self.channel = await self.connection.channel(
publisher_confirms=True, on_return_raises=True
)
+11 -1
View File
@@ -1,7 +1,7 @@
from collections.abc import Collection
from uuid import UUID
from sqlalchemy import select
from sqlalchemy import select, update
from sqlalchemy.ext.asyncio import AsyncSession
from app.models.user import User
@@ -45,3 +45,13 @@ async def get_existing_user_ids(
result = await session.execute(stmt)
existing_ids = set(result.scalars().all())
return existing_ids
async def replace_password_hash(
session: AsyncSession, user_id: UUID, previous: str, replacement: str
) -> None:
await session.execute(
update(User)
.where(User.id == user_id, User.password_hash == previous)
.values(password_hash=replacement)
)
+77 -28
View File
@@ -6,6 +6,9 @@ x-api-image: &api-image
args:
API_BUILD_REVISION: ${API_BUILD_REVISION:?Set API_BUILD_REVISION in .env}
image: ${API_IMAGE:?Set API_IMAGE in .env}
read_only: true
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
x-base-env: &base-env
APP_HOST: ${APP_HOST:?Set APP_HOST in .env}
@@ -20,6 +23,7 @@ x-base-env: &base-env
LOG_LEVEL: ${LOG_LEVEL:?Set LOG_LEVEL in .env}
MAX_MESSAGES: ${MAX_MESSAGES:?Set MAX_MESSAGES in .env}
MAX_IN_FLIGHT: ${MAX_IN_FLIGHT:?Set MAX_IN_FLIGHT in .env}
LOGIN_MAX_IN_FLIGHT: ${LOGIN_MAX_IN_FLIGHT:-10}
DB_HOST: ${DB_HOST:?Set DB_HOST in .env}
DB_PORT: ${DB_PORT:?Set DB_PORT in .env}
DB_NAME: ${DB_NAME:?Set DB_NAME in .env}
@@ -56,9 +60,7 @@ x-jobs-env: &jobs-env
BROKER_CA_FILE: /run/tls/ca.crt
BROKER_HOST: ${BROKER_HOST:?Set BROKER_HOST in .env}
BROKER_PORT: ${BROKER_PORT:?Set BROKER_PORT in .env}
BROKER_PASSWORD_FILE: ${BROKER_PASSWORD_FILE:?Set BROKER_PASSWORD_FILE in .env}
BROKER_QUEUE: ${BROKER_QUEUE:?Set BROKER_QUEUE in .env}
BROKER_USER: ${BROKER_USER:?Set BROKER_USER in .env}
BROKER_VHOST: ${BROKER_VHOST:?Set BROKER_VHOST in .env}
WORKER_CONCURRENCY: ${WORKER_CONCURRENCY:?Set WORKER_CONCURRENCY in .env}
JOB_MAX_ATTEMPTS: ${JOB_MAX_ATTEMPTS:?Set JOB_MAX_ATTEMPTS in .env}
@@ -77,6 +79,11 @@ x-jobs-env: &jobs-env
services:
minio:
read_only: true
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
tmpfs:
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
build:
context: .
dockerfile: infra/minio/Dockerfile
@@ -111,6 +118,11 @@ services:
- miniodata:/data
minio-bootstrap:
read_only: true
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
tmpfs:
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
build:
context: .
dockerfile: infra/minio/Dockerfile
@@ -148,6 +160,7 @@ services:
- ./secrets/tls/ca.crt:/run/tls/ca.crt:ro
postgres:
security_opt: [no-new-privileges:true]
entrypoint: ["/bin/sh", "/etc/postgres/start.sh"]
image: postgres:16.10-bookworm
restart: unless-stopped
@@ -181,6 +194,7 @@ services:
- pgdata:/var/lib/postgresql/data
redis:
security_opt: [no-new-privileges:true]
image: redis:7.4.2-bookworm
restart: unless-stopped
entrypoint: ["/bin/sh", "/usr/local/bin/start-redis.sh"]
@@ -205,6 +219,7 @@ services:
- redisdata:/data
broker:
security_opt: [no-new-privileges:true]
image: rabbitmq:4.4.0
hostname: broker
environment:
@@ -224,6 +239,8 @@ services:
volumes:
- ./secrets/broker_definitions.json:/run/secrets/broker_definitions.json:ro
- ./infra/broker/rabbitmq.conf:/etc/rabbitmq/rabbitmq.conf:ro
- ./infra/broker/enabled_plugins:/etc/rabbitmq/enabled_plugins:ro
- ./secrets/tls/broker-client-ca.crt:/run/tls/broker-client-ca.crt:ro
- ./secrets/tls/ca.crt:/run/tls/ca.crt:ro
- ./secrets/tls/broker.key:/run/tls/server.key:ro
- ./secrets/tls/broker.crt:/run/tls/server.crt:ro
@@ -231,14 +248,10 @@ services:
publisher:
<<: *api-image
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
init: true
command: ["python", "-m", "app.core.outbox_publisher"]
restart: unless-stopped
environment:
BROKER_PASSWORD_FILE: /run/credentials/broker_password
BROKER_USER: attachment-publisher
DB_USER: publisher
BAO_ROLE: publisher
BAO_ADDR: https://openbao:8200
@@ -261,25 +274,22 @@ services:
cpus: "0.5"
memory: 256M
volumes:
- ./secrets/tls/otel-agent.crt:/run/tls/otel-agent.crt:ro
- ./secrets/publisher_broker_password:/run/credentials/broker_password:ro
- ./secrets/tls/attachment-publisher.crt:/run/tls/broker-client.crt:ro
- ./secrets/tls/attachment-publisher.key:/run/tls/broker-client.key:ro
- ./secrets/tls/otel-publisher.crt:/run/tls/otel-agent.crt:ro
- ./secrets/tls/publisher-bao.key:/run/tls/bao-client.key:ro
- ./secrets/tls/publisher-bao.crt:/run/tls/bao-client.crt:ro
- ./secrets/tls/otel-agent.key:/run/tls/otel-agent.key:ro
- ./secrets/tls/otel-publisher.key:/run/tls/otel-agent.key:ro
- ./secrets/tls/ca.crt:/run/tls/ca.crt:ro
worker:
<<: *api-image
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
init: true
command: ["python", "-m", "app.core.job_worker"]
restart: unless-stopped
environment:
S3_SECRET_ACCESS_KEY_FILE: /run/credentials/secret_access_key
S3_ACCESS_KEY_ID_FILE: /run/credentials/access_key_id
BROKER_PASSWORD_FILE: /run/credentials/broker_password
BROKER_USER: attachment-worker
DB_USER: worker
BAO_ROLE: worker
BAO_ADDR: https://openbao:8200
@@ -310,13 +320,14 @@ services:
cpus: "2.0"
memory: 2048M
volumes:
- ./secrets/tls/otel-agent.crt:/run/tls/otel-agent.crt:ro
- ./secrets/tls/attachment-worker.crt:/run/tls/broker-client.crt:ro
- ./secrets/tls/attachment-worker.key:/run/tls/broker-client.key:ro
- ./secrets/tls/otel-worker.crt:/run/tls/otel-agent.crt:ro
- ./secrets/worker_s3_secret_access_key:/run/credentials/secret_access_key:ro
- ./secrets/worker_s3_access_key_id:/run/credentials/access_key_id:ro
- ./secrets/worker_broker_password:/run/credentials/broker_password:ro
- ./secrets/tls/worker-bao.key:/run/tls/bao-client.key:ro
- ./secrets/tls/worker-bao.crt:/run/tls/bao-client.crt:ro
- ./secrets/tls/otel-agent.key:/run/tls/otel-agent.key:ro
- ./secrets/tls/otel-worker.key:/run/tls/otel-agent.key:ro
- ./secrets/tls/ca.crt:/run/tls/ca.crt:ro
migrate:
@@ -341,8 +352,6 @@ services:
api:
<<: *api-image
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
restart: unless-stopped
environment:
API_TLS_ENABLED: "true"
@@ -351,7 +360,7 @@ services:
DB_USER: api
BAO_ROLE: api
BAO_ADDR: https://openbao:8200
<<: [*base-env, *s3-env]
<<: [*base-env, *s3-env, *jobs-env]
REDIS_HOST: ${REDIS_HOST:?Set REDIS_HOST in .env}
REDIS_PORT: ${REDIS_PORT:?Set REDIS_PORT in .env}
REDIS_DB: ${REDIS_DB:?Set REDIS_DB in .env}
@@ -399,18 +408,18 @@ services:
migrate:
condition: service_completed_successfully
volumes:
- ./secrets/tls/otel-agent.crt:/run/tls/otel-agent.crt:ro
- ./secrets/tls/api-broker.crt:/run/tls/broker-client.crt:ro
- ./secrets/tls/api-broker.key:/run/tls/broker-client.key:ro
- ./secrets/tls/otel-api.crt:/run/tls/otel-agent.crt:ro
- ./secrets/tls/api.key:/run/tls/api.key:ro
- ./secrets/tls/api.crt:/run/tls/api.crt:ro
- ./secrets/tls/api-bao.key:/run/tls/bao-client.key:ro
- ./secrets/tls/api-bao.crt:/run/tls/bao-client.crt:ro
- ./secrets/tls/otel-agent.key:/run/tls/otel-agent.key:ro
- ./secrets/tls/otel-api.key:/run/tls/otel-agent.key:ro
- ./secrets/tls/ca.crt:/run/tls/ca.crt:ro
cleanup:
<<: *api-image
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
command: ["python", "-m", "app.core.cleanup", "--apply"]
restart: unless-stopped
environment:
@@ -441,13 +450,18 @@ services:
cpus: "0.25"
memory: 256M
volumes:
- ./secrets/tls/otel-agent.crt:/run/tls/otel-agent.crt:ro
- ./secrets/tls/cleanup-bao.key:/run/tls/bao-client.key:ro
- ./secrets/tls/cleanup-bao.crt:/run/tls/bao-client.crt:ro
- ./secrets/tls/otel-agent.key:/run/tls/otel-agent.key:ro
- ./secrets/tls/ca.crt:/run/tls/ca.crt:ro
nginx:
user: "101:101"
read_only: true
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
tmpfs:
- /var/cache/nginx:rw,noexec,nosuid,size=64m,mode=1777
- /var/run:rw,noexec,nosuid,size=1m,mode=1777
image: nginx:1.28.0-alpine
restart: unless-stopped
ports:
@@ -474,6 +488,11 @@ services:
- ./infra/nginx/nginx.conf:/etc/nginx/nginx.conf:ro
otel-collector:
read_only: true
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
tmpfs:
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
image: otel/opentelemetry-collector-contrib:0.165.0
command: ["--config=/etc/otelcol/config.yaml"]
restart: unless-stopped
@@ -485,7 +504,6 @@ services:
volumes:
- ./secrets/tls/otel-writer.key:/run/tls/otel-writer.key:ro
- ./secrets/tls/otel-writer.crt:/run/tls/otel-writer.crt:ro
- ./secrets/tls/otel-ingest-ca.crt:/run/tls/otel-ingest-ca.crt:ro
- ./secrets/tls/otel-scrape-ca.crt:/run/tls/otel-scrape-ca.crt:ro
- ./secrets/tls/collector.key:/run/tls/server.key:ro
- ./secrets/tls/collector.crt:/run/tls/server.crt:ro
@@ -493,6 +511,13 @@ services:
- ./infra/otel/collector.yaml:/etc/otelcol/config.yaml:ro
collector-scrape:
user: "101:101"
read_only: true
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
tmpfs:
- /var/cache/nginx:rw,noexec,nosuid,size=64m,mode=1777
- /var/run:rw,noexec,nosuid,size=1m,mode=1777
image: nginx:1.28.0-alpine
network_mode: service:otel-collector
restart: unless-stopped
@@ -502,6 +527,7 @@ services:
restart: true
volumes:
- ./infra/otel/collector-scrape.conf:/etc/nginx/nginx.conf:ro
- ./secrets/tls/otel-ingest-ca.crt:/run/tls/otel-ingest-ca.crt:ro
- ./secrets/tls/collector.crt:/run/tls/server.crt:ro
- ./secrets/tls/collector.key:/run/tls/server.key:ro
- ./secrets/tls/otel-scrape-ca.crt:/run/tls/otel-scrape-ca.crt:ro
@@ -512,6 +538,11 @@ services:
memory: 64M
prometheus:
read_only: true
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
tmpfs:
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
image: prom/prometheus:v3.16.0
command: ["--config.file=/etc/prometheus/prometheus.yml", "--storage.tsdb.retention.time=3d", "--web.config.file=/etc/prometheus/web.yml"]
restart: unless-stopped
@@ -533,6 +564,11 @@ services:
- prometheusdata:/prometheus
loki:
read_only: true
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
tmpfs:
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
image: grafana/loki:3.7.10
command: ["-config.file=/etc/loki/config.yaml"]
restart: unless-stopped
@@ -550,8 +586,12 @@ services:
- lokidata:/loki
tempo:
read_only: true
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
tmpfs:
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
image: grafana/tempo:2.9.0
user: "0:0"
command: ["-config.file=/etc/tempo/config.yaml"]
restart: unless-stopped
deploy:
@@ -569,6 +609,11 @@ services:
- tempodata:/var/tempo
grafana:
read_only: true
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
tmpfs:
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
image: grafana/grafana:13.3.1
entrypoint: ["/bin/sh", "/etc/grafana/start.sh"]
restart: unless-stopped
@@ -609,6 +654,11 @@ services:
- grafanadata:/var/lib/grafana
openbao:
read_only: true
cap_drop: [ALL]
security_opt: [no-new-privileges:true]
tmpfs:
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
image: docker.io/openbao/openbao:2.7.1
command: ["server", "-config=/etc/bao/bao.hcl"]
restart: unless-stopped
@@ -617,7 +667,6 @@ services:
BAO_CACERT: /run/tls/ca.crt
ports:
- "127.0.0.1:${BAO_HOST_PORT:-18200}:8200"
cap_drop: [IPC_LOCK]
healthcheck:
test: ["CMD", "bao", "status"]
interval: 3s
+7 -5
View File
@@ -1,19 +1,19 @@
# Матрица доверия лабораторной 7
Серверы предъявляют сертификаты локального CA `ca.crt`. Клиенты проверяют цепочку и DNS SAN. Серверные и клиентские сертификаты выдаются на 30 дней, CA на 365 дней. Пароли DB, S3 и RabbitMQ статические, случайные и отдельные по ролям. OpenBao выдаёт токены на 10 минут.
Серверы предъявляют сертификаты локального CA `ca.crt`. Клиенты проверяют цепочку и DNS SAN. Серверные и клиентские сертификаты выдаются на 30 дней, CA на 365 дней. Пароли PostgreSQL и MinIO назначаются отдельно по ролям. RabbitMQ сопоставляет клиентский сертификат с прикладной ролью. OpenBao выдаёт токены на 10 минут.
| Связь | Endpoint и аутентификация | Граница прав и проверка |
| --- | --- | --- |
| Клиент → ingress | `https://localhost:8443`, DNS SAN `localhost`, Bearer | Вход ограничен по IP. `make test test-security` проверяет API и недоверенный CA. Внутренний набор проверяет неверный hostname, 429, 413, logout и expiry. |
| Клиент → ingress | `https://localhost:8443`, DNS SAN `localhost`, Bearer | Вход ограничен по IP общей зоной nginx, каждая реплика допускает до десяти активных проверок. `make test test-security` проверяет API и недоверенный CA. Внутренний набор проверяет неверный hostname, 429, 413, logout и expiry. |
| Ingress → API | `api:8080`, TLS с проверкой SAN `api`, clientAuth и точным DNS SAN `load-balancer` | Нет опубликованного API-порта. `scripts.check_mtls` отправляет запрос на каждую реплику с правильной ролью и тремя запрещёнными сочетаниями. |
| API, worker, publisher, cleanup → PostgreSQL | `postgres:5432`, TLS с проверкой имени, SCRAM-SHA-256 | Раздельные логины и табличные GRANT. Миграция и initial setup используют владельца. Обычные сетевые подключения отклоняются `pg_hba.conf`. |
| API, worker → S3 | `https://minio:9000`, проверка имени, подписанные S3-запросы | Частный bucket, отдельные access keys. Worker читает и удаляет staging, пишет originals/variants. Права ограничены префиксами вложений. |
| Publisher, worker → RabbitMQ | `broker:5671`, AMQP поверх TLS, проверка имени | Publisher пишет в default exchange, worker читает очередь вложений. Оба могут объявлять только эту durable queue. API записывает outbox в PostgreSQL. Порт Erlang distribution привязан к loopback. |
| API, фоновые процессы → Collector | `https://otel-collector:4318`, mTLS с отдельным CA ingest | Сертификаты для других ролей телеметрии и публичный CA не открывают ingest. Для уровня 3 отправители используют общую роль `otel-agent`. |
| API, publisher, worker → RabbitMQ | `broker:5671`, mTLS, SASL EXTERNAL сопоставляет CN с пользователем | Publisher пишет в default exchange, worker читает очередь вложений. Оба могут объявлять только эту durable queue. API пишет outbox в PostgreSQL. В аудит-проверке его отдельная роль подключается к брокеру без прав на ресурсы. Порт Erlang distribution привязан к loopback. |
| API, worker, publisher → Collector | `https://otel-collector:4318`, mTLS с CA ingest и allowlist CN | Разрешены `otel-api`, `otel-worker`, `otel-publisher`. nginx проксирует только OTLP-пути в loopback `127.0.0.1:14318`. Сертификат посторонней роли от того же CA получает 403. |
| Collector → Loki/Tempo | `https://loki:3100/otlp`, `https://tempo:4318`, mTLS `otel-writer` | Tempo принимает write CA на OTLP и read CA на API. Loki принимает write и read CA на общем HTTP listener. |
| Prometheus → Collector | `https://otel-collector:8888/metrics`, `https://otel-collector:8889/metrics`, mTLS `otel-scraper` | На 8888 nginx и Collector делят сетевое пространство. Нативный SDK endpoint `127.0.0.1:8887` доступен только внутри него. Health Collector привязан к `127.0.0.1:13133`. |
| Grafana → источники | `https://prometheus:9090`, `https://loki:3100`, `https://tempo:3200`, mTLS `otel-reader` | Сертификат действует для группы чтения. Проверка трёх реальных запросов через Grafana в `scripts.check_observability`. |
| API, worker, publisher, cleanup → OpenBao | `https://openbao:8200`, проверка DNS SAN, cert auth с привязкой к конкретному leaf | Каждая роль читает только `messenger/data/<роль>`. Scoped token хранится в памяти на время чтения. Тест проверяет TTL, чужой путь, запись KV и политики. |
| API, worker, publisher, cleanup → OpenBao | `https://openbao:8200`, проверка DNS SAN, cert auth с привязкой к конкретному leaf | Каждая роль читает только `messenger/data/<роль>`. Токен используется на время чтения. Проверки покрывают чужой путь, запись KV, политику, истечение TTL, seal и отзыв прежнего leaf. |
| Оператор → OpenBao/Grafana/MinIO | `https://localhost:18200`, `https://localhost:13000`, `https://minio:9000` из bootstrap-контейнера | OpenBao и Grafana опубликованы на loopback. MinIO admin доступен из внутренней сети объектов через контейнер bootstrap. Root-учётки не монтируются в API и worker. |
| API → Redis | `redis:6379`, TLS с проверкой DNS SAN, ACL `session` | Только ключи `session:*` и команды пинга, сессий и установки соединения. Привилегированный пользователь доступен в отдельном тестовом профиле. |
| Репликация | N/A | API масштабируется горизонтально. Узлы БД, брокера, S3, телеметрии и OpenBao работают в единственном экземпляре. |
@@ -21,3 +21,5 @@
API healthcheck проверяет наличие локального TLS listener. Он не открывает отдельный порт бизнес-приложения. Готовность зависимостей проверяется через `/health/ready` за ingress. Внутренние gRPC-адреса Loki и Tempo привязаны к loopback. Начальная инициализация PostgreSQL выполняется через локальный Unix socket, а миграции используют TLS.
Оператор хранит CA и материалы распечатывания вне Git. Порядок выпуска сертификатов, init/unseal и восстановления описан в [инструкции OpenBao](../infra/openbao/README.md).
`make test-security-internal` подключается к обоим API и к зависимостям из тестовой сети. Аудит проверяет OTLP ingest, scrape, TLS-подключения к источникам Grafana, PostgreSQL, Redis, MinIO, RabbitMQ и OpenBao. Публичный тест проверяет ingress. Проверки приложений подтверждают рабочие запросы Grafana, TLS с правильным CA и ограничение операций PostgreSQL, S3 и брокера. `scripts.check_lifecycle` проверяет отзыв с повторным соединением и рабочим вложением.
+1
View File
@@ -2,6 +2,7 @@
- `verification.json` содержит этапы итогового прогона на отдельном тестовом проекте.
- `observability.json` содержит агрегаты нагрузочного прогона, результаты проверок телеметрии и сценарии восстановления.
- `security-scan.json` содержит результаты повторного скана зависимостей и трёх образов. Разбор находится в [security/SCAN.md](../security/SCAN.md).
- `cleanup.json` подтверждает удаление ресурсов тестового стенда и тегов образов приложения после записи отчёта.
Полные логи, файлы ключей, пароли, токены и материалы распечатывания хранятся локально вне Git.
+2 -16
View File
@@ -12,23 +12,9 @@
"removed_app_image_tags": [
"messenger-lab7-minio-bootstrap:local",
"messenger-lab7-minio:local",
"messenger-lab7:local",
"messenger-minio-bootstrap:local",
"messenger-minio:local",
"messenger:local",
"mns-infra-test-1795199922-136474-backend:local",
"mns-infra-test-1795200152-153092-backend:local",
"mns-test-1795186787-79726-migrate:latest",
"mns-test-1795186787-79726-test:latest",
"mns-test-1795187434-90286-migrate:latest",
"mns-test-1795187434-90286-test:latest",
"mns-test-1795199917-136213-migrate:latest",
"mns-test-1795199917-136213-test:latest",
"mns-test-1795200005-140265-migrate:latest",
"mns-test-1795200005-140265-test:latest",
"mns-test-1795200148-152833-migrate:latest",
"mns-test-1795200148-152833-test:latest"
"messenger-lab7:local"
],
"removed_scanner_image": "ghcr.io/aquasecurity/trivy:0.76.2",
"remaining": {
"containers": 0,
"networks": 0,
File diff suppressed because it is too large Load Diff
File diff suppressed because it is too large Load Diff
+39 -15
View File
@@ -1,5 +1,5 @@
{
"date_utc": "2026-11-21T13:08:31.144600+00:00",
"date_utc": "2026-11-22T11:25:43.337347+00:00",
"checks": [
{
"name": "contract",
@@ -8,7 +8,7 @@
"scripts/check_contract.py"
],
"exit_code": 0,
"duration_seconds": 0.209,
"duration_seconds": 0.093,
"result": "PASS"
},
{
@@ -18,7 +18,7 @@
"scripts/validate_openapi.py"
],
"exit_code": 0,
"duration_seconds": 2.868,
"duration_seconds": 1.033,
"result": "PASS"
},
{
@@ -32,7 +32,7 @@
"--quiet"
],
"exit_code": 0,
"duration_seconds": 0.327,
"duration_seconds": 0.146,
"result": "PASS"
},
{
@@ -43,7 +43,7 @@
"test-stand-up"
],
"exit_code": 0,
"duration_seconds": 67.291,
"duration_seconds": 51.432,
"result": "PASS"
},
{
@@ -55,9 +55,9 @@
"OTEL_ENABLED=false"
],
"exit_code": 0,
"duration_seconds": 92.962,
"duration_seconds": 99.026,
"result": "PASS",
"summary": "206 passed in 90.40s (0:01:30)"
"summary": "208 passed in 96.32s (0:01:36)"
},
{
"name": "api",
@@ -68,7 +68,7 @@
"https://localhost:28080"
],
"exit_code": 0,
"duration_seconds": 2.211,
"duration_seconds": 2.937,
"result": "PASS"
},
{
@@ -85,7 +85,7 @@
"--restart-telemetry"
],
"exit_code": 0,
"duration_seconds": 283.806,
"duration_seconds": 272.094,
"result": "PASS"
},
{
@@ -101,7 +101,7 @@
"https://localhost:28080"
],
"exit_code": 0,
"duration_seconds": 39.793,
"duration_seconds": 38.798,
"result": "PASS"
},
{
@@ -113,7 +113,7 @@
"https://localhost:28080"
],
"exit_code": 0,
"duration_seconds": 0.194,
"duration_seconds": 0.101,
"result": "PASS"
},
{
@@ -128,14 +128,38 @@
"28200"
],
"exit_code": 0,
"duration_seconds": 14.192,
"duration_seconds": 17.778,
"result": "PASS",
"summary": [
"PASS: ограничения контейнеров, роли PostgreSQL и префиксы S3",
"PASS: mTLS allow/deny на всех API-репликах",
"PASS: TLS-зависимости, mTLS identity и ACL RabbitMQ/Collector",
"PASS: OpenBao cert roles, KV allow/deny, TTL",
"PASS: login burst 25 за 0.33 с, 10 проверок на 2 репликах, 15 ограничений",
"PASS: hostname, ACL, logout, expiry, 429/Retry-After, 413",
"PASS: Argon2id, медиана проверки 39.1 мс (15 попыток)"
"PASS: Argon2id, медиана 32.0 мс, 24 проверки на 2 потоках за 0.82 с, CPU 35.7 мс/проверку, пиковый RSS 84.1 MiB"
]
},
{
"name": "lifecycle",
"command": [
"/home/gytall/Projects/HLA/mtusi2026lab6-fork/.venv/bin/python",
"-m",
"scripts.check_lifecycle",
"--base-url",
"https://localhost:28080",
"--bao-port",
"28200"
],
"exit_code": 0,
"duration_seconds": 9.768,
"result": "PASS",
"summary": [
"PASS: короткоживущий токен теряет доступ после TTL",
"OpenBao распечатан",
"PASS: при seal текущий API готов, новая выдача запрещена",
"PASS: пароль PostgreSQL и клиентский сертификат worker заменены без сборки",
"PASS: старый leaf и токен отозваны, worker обработал вложение с новым паролем"
]
},
{
@@ -151,7 +175,7 @@
"https://localhost:28080"
],
"exit_code": 0,
"duration_seconds": 18.433,
"duration_seconds": 17.408,
"result": "PASS"
}
],
@@ -166,5 +190,5 @@
"project": "messenger-lab7-test",
"result": "DEFERRED"
},
"finished_at_utc": "2026-11-21T13:17:13.431181+00:00"
"finished_at_utc": "2026-11-22T11:34:13.952765+00:00"
}
+1 -1
View File
@@ -1,6 +1,6 @@
# Инфраструктура стенда
`compose.yaml` описывает рабочую топологию. nginx принимает HTTPS и распределяет запросы по двум API-репликам через mTLS. PostgreSQL хранит сообщения и состояние заданий, Redis хранит сессии, RabbitMQ доставляет задания обработчику, а MinIO содержит приватный bucket вложений. OpenBao выдаёт доступ к паролям PostgreSQL по сервисным cert-ролям.
`compose.yaml` описывает рабочую топологию. nginx принимает HTTPS и распределяет запросы по двум API-репликам через mTLS. PostgreSQL хранит сообщения и состояние заданий, Redis хранит сессии, RabbitMQ доставляет задания обработчику, а MinIO содержит приватный bucket вложений. OpenBao выдаёт доступ к паролям PostgreSQL по сервисным cert-ролям. RabbitMQ и Collector проверяют cert-роль клиента, а образы приложения запускаются с файловой системой только для чтения.
Конфигурация сервисов находится в этом каталоге. Сертификаты и секреты выпускает оператор командой `make init`. Миграции PostgreSQL, настройка MinIO и provisioning Grafana выполняются при запуске. Готовность бизнес-зависимостей проверяется через `/health/ready` за nginx.
+1
View File
@@ -0,0 +1 @@
[rabbitmq_auth_mechanism_ssl].
+5 -2
View File
@@ -4,8 +4,11 @@ ssl_options.certfile = /run/tls/server.crt
ssl_options.keyfile = /run/tls/server.key
ssl_options.versions.1 = tlsv1.3
ssl_options.versions.2 = tlsv1.2
ssl_options.verify = verify_none
ssl_options.fail_if_no_peer_cert = false
ssl_options.cacertfile = /run/tls/broker-client-ca.crt
ssl_options.verify = verify_peer
ssl_options.fail_if_no_peer_cert = true
auth_mechanisms.1 = EXTERNAL
ssl_cert_login_from = common_name
distribution.listener.interface = 127.0.0.1
definitions.import_backend = local_filesystem
definitions.local.path = /run/secrets/broker_definitions.json
+10
View File
@@ -9,3 +9,13 @@ OpenBao 2.7.1 слушает HTTPS на 8200. TLS-конфигурация на
При старте API, worker, publisher и cleanup загружают пароли БД по TLS. Каждый сертификат регистрируется как точный leaf своей cert-роли. У роли нет default policy, токен живёт 10 минут, право ограничено чтением собственного KV-пути. Пароль сохраняется в памяти процесса, токен после чтения отбрасывается. При следующем запуске сервис повторно аутентифицируется. Уже запущенные сервисы могут обрабатывать запросы во время seal, пока действуют ранее загруженные пароли. [Документация cert auth](https://openbao.org/docs/auth/cert/)
При компрометации оператор удаляет соответствующую cert-роль и отзывает выданные токены, меняет пароль в PostgreSQL и KV, перевыпускает leaf и перезапускает сервис. Для стенда используется ручная процедура. Сценарии автоматической ротации и отзыва под нагрузкой относятся к следующим уровням.
## Ротация worker
`python3 -m scripts.rotate_worker --bao-port 18200` останавливает worker, меняет пароль его PostgreSQL-логина и соответствующее значение KV, выпускает новый leaf под тем же локальным CA и заменяет разрешённый leaf cert-роли. Контейнер пересоздаётся из текущего образа. При исключении выполняется попытка восстановить прежние значения и контейнер.
Команда использует локальные секреты текущего Compose-проекта. Выполняйте её при остановленном втором проекте, если оба используют один каталог `secrets/`. Доступ оператора нужен к CA, OpenBao и локальной роли администрирования PostgreSQL. Ротация leaf меняет право на получение новых токенов. Уже выданный токен сохраняет права до истечения TTL или отдельного отзыва по accessor.
Сервис при каждом старте снова аутентифицируется сертификатом. Он использует десятиминутный токен для одного чтения и не требует периодического продления. Для продления доверия к worker оператор выпускает новый leaf до истечения срока текущего. [API OpenBao для токенов](https://openbao.org/docs/api/auth/token/)
`scripts.check_lifecycle` проверяет истечение отдельного трёхсекундного токена, работу текущих процессов во время seal, отказ чтения из нового процесса, ротацию, отзыв тестового токена и обработку вложения после ротации.
+1 -1
View File
@@ -1,6 +1,6 @@
# Наблюдаемость Messenger
API, publisher и worker экспортируют метрики, логи и трассы по OTLP HTTP/protobuf на `otel-collector:4318` с TLS и сертификатом роли ingest. Collector отправляет логи в Loki и трассы в Tempo с write identity. Grafana читает три источника через read identity. Prometheus собирает метрики с TLS и scrape identity.
API, publisher и worker экспортируют метрики, логи и трассы по OTLP HTTP/protobuf на `otel-collector:4318` через mTLS с отдельными cert-ролями `otel-api`, `otel-publisher` и `otel-worker`. nginx проверяет цепочку и CN, затем передаёт запрос в локальный OTLP-порт 14318. Collector отправляет логи в Loki и трассы в Tempo с write identity. Grafana читает три источника через read identity. Prometheus собирает метрики с TLS и scrape identity.
У Collector HTTPS-экспорт метрик приложения работает на 8889. Метрики самого SDK на loopback 8887 проходят через `collector-scrape` на HTTPS 8888. Службы в других контейнерах не могут обратиться к plaintext-порту. Grafana доступна по HTTPS на loopback, анонимный доступ выключен.
+23
View File
@@ -1,6 +1,29 @@
events {}
http {
map $ssl_client_s_dn $ingest_allowed {
default 0;
CN=otel-api 1;
CN=otel-worker 1;
CN=otel-publisher 1;
}
server {
listen 4318 ssl;
ssl_certificate /run/tls/server.crt;
ssl_certificate_key /run/tls/server.key;
ssl_client_certificate /run/tls/otel-ingest-ca.crt;
ssl_verify_client on;
ssl_protocols TLSv1.2 TLSv1.3;
location ~ ^/v1/(logs|metrics|traces)$ {
if ($ingest_allowed = 0) { return 403; }
proxy_pass http://127.0.0.1:14318;
}
location / { return 404; }
}
server {
listen 8888 ssl;
ssl_certificate /run/tls/server.crt;
+1 -5
View File
@@ -2,11 +2,7 @@ receivers:
otlp:
protocols:
http:
endpoint: 0.0.0.0:4318
tls:
cert_file: /run/tls/server.crt
key_file: /run/tls/server.key
client_ca_file: /run/tls/otel-ingest-ca.crt
endpoint: 127.0.0.1:14318
processors:
memory_limiter:
check_interval: 1s
+1 -1
View File
@@ -3,7 +3,7 @@ annotated-doc==0.0.5
annotated-types==0.8.0
anyio==4.15.1
attrs==26.1.0
certifi==2026.7.22
certifi==2026.10.19
charset-normalizer==3.5.2
click==8.5.0
fastapi==0.143.3
+140
View File
@@ -0,0 +1,140 @@
"""Проверки TLS внутри сети Compose на закреплённых версиях клиентов."""
import asyncio
from pathlib import Path
import socket
import ssl
import time
from urllib.error import HTTPError, URLError
from urllib.request import Request, urlopen
import aio_pika
import asyncpg
from aiormq.exceptions import ChannelAccessRefused
from opentelemetry.proto.collector.logs.v1.logs_service_pb2 import ExportLogsServiceRequest
from app.core.jobs import JobSettings
from app.storage.broker import connect_broker
CERTS = Path("/certificates")
def context(identity=None):
tls = ssl.create_default_context(cafile=str(CERTS / "ca.crt"))
if identity:
tls.load_cert_chain(CERTS / f"{identity}.crt", CERTS / f"{identity}.key")
return tls
def http(host, port, path, identity=None, *, body=None):
request = Request(f"https://{host}:{port}{path}", data=body, headers={
"Content-Type": "application/x-protobuf",
})
try:
with urlopen(request, context=context(identity), timeout=4) as response:
return response.status
except HTTPError as error:
return error.code
except (ssl.SSLError, ConnectionError):
return 0
except URLError as error:
if isinstance(error.reason, (ssl.SSLError, ConnectionError)):
return 0
raise
def check_http():
for role in ("otel-api", "otel-worker", "otel-publisher"):
assert http("otel-collector", 4318, "/v1/traces", role, body=b"") == 200
assert http("otel-collector", 4318, "/v1/traces", "otel-wrong-role", body=b"") == 403
for role in (None, "foreign-client"):
assert http("otel-collector", 4318, "/v1/traces", role, body=b"") in (0, 400)
for port in (8888, 8889):
assert http("otel-collector", port, "/metrics", "otel-scraper") == 200
assert http("otel-collector", port, "/metrics", "otel-api") in (0, 400)
status = http("loki", 3100, "/loki/api/v1/labels", "otel-reader")
assert status == 200, ("loki", status)
status = http("tempo", 3200, "/api/search?limit=1", "otel-reader")
assert status == 200, ("tempo", status)
assert http("prometheus", 9090, "/-/ready", "otel-reader") == 200
assert http("tempo", 4318, "/v1/traces", "otel-writer", body=b"") == 200
assert http("tempo", 4318, "/v1/traces", "otel-reader", body=b"") == 0
logs = ExportLogsServiceRequest()
resource = logs.resource_logs.add()
resource.resource.attributes.add(key="service.name").value.string_value = "tls-audit"
event = resource.scope_logs.add().log_records.add(time_unix_nano=time.time_ns())
event.body.string_value = "synthetic TLS audit"
status = http("loki", 3100, "/otlp/v1/logs", "otel-writer", body=logs.SerializeToString())
assert status in (200, 204), ("loki ingest", status)
assert http("loki", 3100, "/ready", "otel-api") == 0
assert http("grafana", 3000, "/api/datasources") == 401
assert http("minio", 9000, "/minio/health/ready") == 200
assert http("openbao", 8200, "/v1/sys/health") == 200
for port in (14318, 8887, 13133):
try:
with socket.create_connection(("otel-collector", port), 2):
pass
except ConnectionRefusedError:
continue
raise AssertionError(f"Loopback-порт Collector {port} доступен извне")
async def check_broker():
async def connect(identity):
return await connect_broker(JobSettings(
broker_port=5671, broker_ca_file=str(CERTS / "ca.crt"),
broker_cert_file=str(CERTS / f"{identity}.crt"),
broker_key_file=str(CERTS / f"{identity}.key"),
))
for role in ("api-broker", "attachment-worker", "attachment-publisher"):
async with await connect(role) as connection:
assert not connection.is_closed
for role in ("broker-wrong-role", "foreign-client"):
try:
async with await connect(role):
pass
except (aio_pika.exceptions.AMQPException, OSError):
continue
raise AssertionError(f"RabbitMQ принял запрещённую identity: {role}")
try:
async with await aio_pika.connect(host="broker", port=5671, ssl=True,
ssl_context=context(), auth="external", timeout=4):
pass
except (aio_pika.exceptions.AMQPException, OSError):
pass
else:
raise AssertionError("RabbitMQ принял соединение без сертификата")
async with await connect("api-broker") as connection:
channel = await connection.channel()
try:
await channel.declare_queue("scope-audit-probe", auto_delete=True)
except ChannelAccessRefused:
pass
else:
raise AssertionError("Роль API смогла объявить очередь")
async def check_database():
try:
await asyncpg.connect(host="postgres", user="worker", database="postgres",
ssl=False, timeout=3)
except asyncpg.InvalidAuthorizationSpecificationError as error:
assert "rejects connection" in str(error)
else:
raise AssertionError("PostgreSQL принял plaintext")
with socket.create_connection(("redis", 6379), 3) as raw:
with context().wrap_socket(raw, server_hostname="redis") as tls:
tls.sendall(b"*1\r\n$4\r\nPING\r\n")
assert tls.recv(128).startswith(b"-NOAUTH")
if __name__ == "__main__":
check_http()
asyncio.run(check_broker())
asyncio.run(check_database())
print("PASS: TLS-зависимости, mTLS identity и ACL RabbitMQ/Collector")
+20 -8
View File
@@ -15,20 +15,32 @@ TLS = ROOT / "secrets/tls"
ROLES = ("api", "worker", "publisher", "cleanup")
def bootstrap(port: int, *, unseal_only: bool = False) -> None:
address = f"https://localhost:{port}"
context = ssl.create_default_context(cafile=str(TLS / "ca.crt"))
opener = build_opener(NoRedirect(), HTTPSHandler(context=context))
class Bao:
def __init__(self, port: int, certificate: Path | None = None, key: Path | None = None):
self.address = f"https://localhost:{port}/v1/"
context = ssl.create_default_context(cafile=str(TLS / "ca.crt"))
if certificate:
context.load_cert_chain(certificate, key)
self.opener = build_opener(NoRedirect(), HTTPSHandler(context=context))
def call(path, payload=None, *, token=None, method=None):
def call(self, path, payload=None, *, token=None, method=None):
headers = {"Content-Type": "application/json"}
if token:
headers["X-Vault-Token"] = token
request = Request(address + "/v1/" + path, headers=headers, method=method,
request = Request(self.address + path, headers=headers, method=method,
data=None if payload is None else json.dumps(payload).encode())
with opener.open(request, timeout=3) as response:
with self.opener.open(request, timeout=5) as response:
body = response.read()
return json.loads(body) if body else None
return json.loads(body) if body else None
def operator_token(port: int) -> str:
config = ROOT / f"secrets/bao-operator/operator-{port}.json"
return json.loads(config.read_text())["root_token"]
def bootstrap(port: int, *, unseal_only: bool = False) -> None:
call = Bao(port).call
deadline = time.monotonic() + 30
while True:
+83
View File
@@ -0,0 +1,83 @@
"""Испытания TTL, распечатывания и отзыва cert identity OpenBao."""
import argparse
import time
from urllib.error import HTTPError
from scripts.bootstrap_bao import TLS, Bao, bootstrap, operator_token
from scripts.deployment import ComposeProject
from scripts.rotate_worker import cert_role, rotate
from tests.client import Client
def deny(call, codes=(400, 403)):
try:
call()
except HTTPError as error:
assert error.code in codes, error.code
return
raise AssertionError("OpenBao разрешил запрещённую операцию")
def main():
parser = argparse.ArgumentParser(description=__doc__)
parser.add_argument("--base-url", required=True)
parser.add_argument("--bao-port", required=True, type=int)
args = parser.parse_args()
project = ComposeProject()
port = args.bao_port
client = Client(args.base_url, str(TLS / "ca.crt"))
cert, key = TLS / "worker-bao.crt", TLS / "worker-bao.key"
operator, old_identity = Bao(port), Bao(port, cert, key)
root = operator_token(port)
probe = "auth/cert/certs/worker-expiry-probe"
secret = "messenger/data/worker"
def login(bao, role="worker"):
return bao.call("auth/cert/login", {"name": role})["auth"]
operator.call(probe, cert_role(cert, "worker", "3s"), token=root)
try:
temporary = login(old_identity, "worker-expiry-probe")
assert 0 < temporary["lease_duration"] <= 3
old_identity.call(secret, token=temporary["client_token"])
time.sleep(temporary["lease_duration"] + 1)
deny(lambda: old_identity.call(secret, token=temporary["client_token"]))
finally:
operator.call(probe, token=root, method="DELETE")
print("PASS: короткоживущий токен теряет доступ после TTL")
operator.call("sys/seal", {}, token=root)
try:
client.call("GET", "/health/ready", schema="Health")
deny(lambda: login(old_identity), (503,))
try:
project.run("exec", "-T", "worker", "python", "-c",
"from app.core.bao import database_secret; database_secret()")
except RuntimeError as error:
assert "Не удалось получить секрет DB" in str(error)
else:
raise AssertionError("Новый процесс получил секрет из sealed OpenBao")
finally:
bootstrap(port, unseal_only=True)
print("PASS: при seal текущий API готов, новая выдача запрещена")
old_token = login(old_identity)
original = old_identity.call(secret, token=old_token["client_token"])["data"]["data"]["db_password"]
actor, _, _, chat = client.bootstrap()
image = project.run("images", "-q", "worker")
rotate(project, port)
operator.call("auth/token/revoke-accessor", {"accessor": old_token["accessor"]}, token=root)
deny(lambda: login(old_identity))
deny(lambda: old_identity.call(secret, token=old_token["client_token"]))
new_identity = Bao(port, cert, key)
new_token = login(new_identity)["client_token"]
assert new_identity.call(secret, token=new_token)["data"]["data"]["db_password"] != original
assert project.run("images", "-q", "worker") == image
attachment, _ = client.attachment(actor, chat)
client.wait_ready(actor, attachment, wait_seconds=60)
print("PASS: старый leaf и токен отозваны, worker обработал вложение с новым паролем")
if __name__ == "__main__":
main()
+72 -10
View File
@@ -1,7 +1,8 @@
"""Сквозные проверки уровня 3 для запущенного HTTPS-стенда."""
"""Сквозные проверки защиты для запущенного HTTPS-стенда."""
import argparse
import base64
from concurrent.futures import ThreadPoolExecutor
import hashlib
import json
from pathlib import Path
@@ -64,15 +65,42 @@ asyncio.run(probe())
"""
ROOTFS_PROBE = """
from os import ST_RDONLY, statvfs
from tempfile import TemporaryFile
assert statvfs("/app").f_flag & ST_RDONLY
with TemporaryFile(dir="/tmp") as temporary:
temporary.write(b"tmpfs probe")
"""
API_BROKER_PROBE = """
import asyncio
from app.core.jobs import JobSettings
from app.storage.broker import connect_broker
async def probe():
async with await connect_broker(JobSettings()) as connection:
assert not connection.is_closed
asyncio.run(probe())
"""
def probe_deployment(project: ComposeProject) -> None:
services = project.config["services"]
for name in ("api", "worker"):
service = services[name]
assert not service.get("ports")
assert "ALL" in service["cap_drop"]
assert "ALL" in service["cap_drop"] and service["read_only"]
assert "no-new-privileges:true" in service["security_opt"]
assert service["tmpfs"]
assert service["deploy"]["resources"]["limits"]["memory"]
uid = project.run("exec", "-T", name, "id", "-u")
assert int(uid) > 0
project.run("exec", "-T", name, "python", "-c", ROOTFS_PROBE)
for service in services.values():
assert not service.get("privileged") and service.get("network_mode") != "host"
assert all(mount["target"] != "/var/run/docker.sock"
@@ -104,6 +132,22 @@ def probe_mtls(project: ComposeProject) -> None:
print(output)
def audit_dependencies(project: ComposeProject) -> None:
command = ["run", "--rm", "--network", project.name + "_default",
"--network", project.name + "_objects",
"-v", f"{ROOT / 'scripts/audit_tls.py'}:/app/audit_tls.py:ro",
"-v", f"{TLS / 'ca.crt'}:/certificates/ca.crt:ro"]
for role in ("otel-api", "otel-worker", "otel-publisher", "otel-wrong-role",
"otel-reader", "otel-writer", "otel-scraper", "api-broker",
"attachment-worker", "attachment-publisher", "broker-wrong-role", "foreign-client"):
for extension in ("crt", "key"):
name = f"{role}.{extension}"
command.extend(("-v", f"{TLS / name}:/certificates/{name}:ro"))
project.run("exec", "-T", "api", "python", "-c", API_BROKER_PROBE)
image = project.config["services"]["api"]["image"]
print(project.docker(*command, image, "python", "-m", "audit_tls"))
def probe_bao(port: int) -> None:
def call(context, path, *, token=None, data=None):
headers = {"Content-Type": "application/json"}
@@ -178,19 +222,28 @@ def probe_http(base: str, project: ComposeProject) -> None:
time.sleep(0.1)
client.call("GET", "/api/v1/users/me", 401, actor=outsider)
basic = "Basic " + base64.b64encode(b"unknown:wrong").decode()
basic = "Basic " + base64.b64encode(b"unknown:synthetic-password").decode()
login = base + "/api/v1/auth/sessions"
for _ in range(25):
def login_attempt(_):
request = Request(login, data=b"", headers={"Authorization": basic})
try:
urlopen(request, context=tls, timeout=5)
except HTTPError as error:
if error.code == 429:
assert int(error.headers["Retry-After"]) > 0
break
assert error.code == 401
else:
raise AssertionError("Лимит входа не сработал")
return error.code, error.headers.get("X-Instance-Id")
raise AssertionError("Неизвестный пользователь получил сессию")
started = time.monotonic()
with ThreadPoolExecutor(max_workers=12) as pool:
results = list(pool.map(login_attempt, range(25)))
statuses = [status for status, _ in results]
replicas = {instance for status, instance in results if status == 401 and instance}
assert set(statuses) == {401, 429} and len(replicas) >= 2, (statuses, len(replicas))
print(f"PASS: login burst 25 за {time.monotonic() - started:.2f} с, "
f"{statuses.count(401)} проверок на {len(replicas)} репликах, "
f"{statuses.count(429)} ограничений")
try:
urlopen(Request(login, data=b"x" * 17000), context=tls, timeout=5)
@@ -203,8 +256,10 @@ def probe_http(base: str, project: ComposeProject) -> None:
def measure_argon2(project: ComposeProject) -> None:
probe = """
from concurrent.futures import ThreadPoolExecutor
from resource import RUSAGE_SELF, getrusage
from statistics import median
from time import perf_counter
from time import perf_counter, process_time
from app.core.security import _hash_password_sync, _verify_password_sync
@@ -216,7 +271,13 @@ for _ in range(15):
started = perf_counter()
assert _verify_password_sync(password, encoded)
timings.append((perf_counter() - started) * 1000)
print(f"PASS: Argon2id, медиана проверки {median(timings):.1f} мс (15 попыток)")
wall, cpu = perf_counter(), process_time()
with ThreadPoolExecutor(max_workers=2) as pool:
assert all(pool.map(lambda _: _verify_password_sync(password, encoded), range(24)))
wall, cpu = perf_counter() - wall, process_time() - cpu
print(f"PASS: Argon2id, медиана {median(timings):.1f} мс, 24 проверки на 2 потоках "
f"за {wall:.2f} с, CPU {cpu / 24 * 1000:.1f} мс/проверку, "
f"пиковый RSS {getrusage(RUSAGE_SELF).ru_maxrss / 1024:.1f} MiB")
"""
print(project.run("exec", "-T", "api", "python", "-c", probe))
@@ -229,6 +290,7 @@ def main() -> None:
project = ComposeProject()
probe_deployment(project)
probe_mtls(project)
audit_dependencies(project)
probe_bao(args.bao_port)
probe_http(args.base_url, project)
measure_argon2(project)
+7 -4
View File
@@ -28,12 +28,13 @@ class ComposeProject:
self.config = json.loads(self.run("config", "--format", "json"))
self.name = self.config["name"]
def docker(self, *args: str, timeout: int = 90, env=None) -> str:
def docker(self, *args: str, timeout: int = 90, env=None, input_text=None) -> str:
"""Выполняет Docker-команду с ограничением времени."""
result = subprocess.run(
["docker", *args],
cwd=ROOT,
text=True,
input=input_text,
capture_output=True,
timeout=timeout,
env={**os.environ, **(env or {})},
@@ -42,9 +43,9 @@ class ComposeProject:
raise RuntimeError(result.stderr.strip() or result.stdout.strip())
return result.stdout.strip()
def run(self, *args: str, timeout: int = 90, env=None) -> str:
def run(self, *args: str, timeout: int = 90, env=None, input_text=None) -> str:
"""Выполняет команду Compose с текущими overrides."""
return self.docker(*self.command[1:], *args, timeout=timeout, env=env)
return self.docker(*self.command[1:], *args, timeout=timeout, env=env, input_text=input_text)
def replicas(self) -> list[Replica]:
"""Читает состояние API без окружения контейнеров."""
@@ -170,7 +171,7 @@ def verify(*, keep_stand=False):
summary = re.search(r'\d+ passed[^\n]*', result.stdout)
if summary:
entry['summary'] = summary.group(0)
if name == 'security' and not result.returncode:
if name in ('security', 'lifecycle') and not result.returncode:
entry['summary'] = result.stdout.strip().splitlines()
print(result.stdout.strip(), flush=True)
if result.returncode:
@@ -200,6 +201,8 @@ def verify(*, keep_stand=False):
run('external-tls', [sys.executable, 'tests/security.py', '--base-url', 'https://localhost:28080'])
run('security', [sys.executable, '-m', 'scripts.check_security',
'--base-url', 'https://localhost:28080', '--bao-port', bao_port])
run('lifecycle', [sys.executable, '-m', 'scripts.check_lifecycle',
'--base-url', 'https://localhost:28080', '--bao-port', bao_port])
run('failover', [sys.executable, 'tests/resilience.py', '--mode', 'failover',
'--action-script', 'scripts/stop-one.sh', '--base-url', 'https://localhost:28080'])
report['result'] = 'PASS'
+25 -27
View File
@@ -1,34 +1,32 @@
"""Готовит RabbitMQ definitions с хешами паролей и правами очереди."""
"""Готовит cert-пользователей RabbitMQ и их права очереди."""
import base64
import hashlib
import json
import os
from pathlib import Path
import re
def initialize(directory: Path, queue: str, vhost: str, admin: str) -> None:
users, permissions = [], []
for name, filename, read, write in (
(admin, "broker_password", ".*", ".*"),
("attachment-publisher", "publisher_broker_password", "^$", "^amq\\.default$"),
("attachment-worker", "worker_broker_password", f"^{re.escape(queue)}$", "^$a"),
):
salt = os.urandom(4)
password = (directory / filename).read_bytes().strip()
digest = hashlib.sha256(salt + password).digest()
users.append({
"name": name, "password_hash": base64.b64encode(salt + digest).decode(),
"hashing_algorithm": "rabbit_password_hashing_sha256",
"tags": ["administrator"] if name == admin else [],
})
permissions.append({
"user": name, "vhost": vhost, "read": read, "write": write,
"configure": ".*" if name == admin else f"^{re.escape(queue)}$",
})
def initialize(directory: Path, queue: str, vhost: str) -> None:
queue_pattern = f"^{re.escape(queue)}$"
denied = "^$a"
roles = (
("api-broker", denied, denied, denied),
("attachment-publisher", queue_pattern, denied, r"^amq\.default$"),
("attachment-worker", queue_pattern, queue_pattern, denied),
)
users = [
{"name": name, "password_hash": "", "hashing_algorithm": "rabbit_password_hashing_sha256",
"tags": []}
for name, *_ in roles
]
permissions = [
{"user": name, "vhost": vhost, "configure": configure, "read": read, "write": write}
for name, configure, read, write in roles
]
definitions = json.dumps({"users": users, "vhosts": [{"name": vhost}],
"permissions": permissions})
path = directory / "broker_definitions.json"
if not path.exists():
path.write_text(json.dumps({"users": users, "vhosts": [{"name": vhost}],
"permissions": permissions}))
path.chmod(0o444)
if not path.exists() or path.read_text() != definitions:
temporary = path.with_suffix(".tmp")
temporary.write_text(definitions)
temporary.chmod(0o444)
temporary.replace(path)
+1 -5
View File
@@ -26,9 +26,6 @@ def main() -> None:
"cleanup_db_password",
"redis_password",
"test_redis_password",
"broker_password",
"worker_broker_password",
"publisher_broker_password",
"minio_root_user",
"minio_root_password",
"s3_access_key_id",
@@ -49,8 +46,7 @@ def main() -> None:
if line and not line.lstrip().startswith("#") and "=" in line
for key, value in [line.split("=", 1)]
}
initialize_broker(directory, settings["BROKER_QUEUE"], settings["BROKER_VHOST"],
settings["BROKER_USER"])
initialize_broker(directory, settings["BROKER_QUEUE"], settings["BROKER_VHOST"])
initialize(root)
print("Настройки готовы; существующие значения сохранены")
+9 -2
View File
@@ -64,7 +64,7 @@ def issue(directory: Path, name: str, san: str, usage: str, ca: str) -> None:
def initialize(root: Path) -> None:
directory = root / "secrets" / "tls"
directory.mkdir(mode=0o700, parents=True, exist_ok=True)
for name in ("ca", "foreign-ca", "otel-ingest-ca", "otel-write-ca", "otel-read-ca", "otel-scrape-ca"):
for name in ("ca", "foreign-ca", "broker-client-ca", "otel-ingest-ca", "otel-write-ca", "otel-read-ca", "otel-scrape-ca"):
create_ca(directory, name)
for name, san in SERVER_NAMES.items():
issue(directory, name, san, "serverAuth", "ca")
@@ -74,7 +74,14 @@ def initialize(root: Path) -> None:
for name, authority in (
("otel-writer", "otel-write-ca"),
("otel-reader", "otel-read-ca"),
("otel-agent", "otel-ingest-ca"),
("otel-api", "otel-ingest-ca"),
("otel-worker", "otel-ingest-ca"),
("otel-publisher", "otel-ingest-ca"),
("otel-wrong-role", "otel-ingest-ca"),
("api-broker", "broker-client-ca"),
("attachment-worker", "broker-client-ca"),
("attachment-publisher", "broker-client-ca"),
("broker-wrong-role", "broker-client-ca"),
("otel-scraper", "otel-scrape-ca"),
):
issue(directory, name, f"DNS:{name}", "clientAuth", authority)
+92
View File
@@ -0,0 +1,92 @@
"""Ротация пароля PostgreSQL и cert identity worker из операторского контура."""
import argparse
import base64
import hashlib
import hmac
import os
from pathlib import Path
import secrets
from tempfile import TemporaryDirectory
from urllib.error import HTTPError
from scripts.bootstrap_bao import ROOT, TLS, Bao, operator_token
from scripts.deployment import ComposeProject
from scripts.init_tls import issue
def cert_role(certificate: Path, role: str, ttl: str = "10m") -> dict:
return {
"certificate": certificate.read_text(),
"token_policies": [role],
"token_no_default_policy": True,
"token_ttl": ttl,
"token_max_ttl": ttl,
}
def change_db_password(project: ComposeProject, password: str) -> None:
salt = secrets.token_bytes(16)
iterations = 4096
salted = hashlib.pbkdf2_hmac("sha256", password.encode(), salt, iterations)
client_key = hmac.digest(salted, b"Client Key", "sha256")
server_key = hmac.digest(salted, b"Server Key", "sha256")
def encode(value):
return base64.b64encode(value).decode()
verifier = (f"SCRAM-SHA-256${iterations}:{encode(salt)}"
f"${encode(hashlib.sha256(client_key).digest())}:{encode(server_key)}")
project.run("exec", "-T", "postgres", "sh", "-ec",
'exec psql --no-psqlrc -v ON_ERROR_STOP=1 -U "$POSTGRES_USER" -d "$POSTGRES_DB"',
input_text=f"ALTER ROLE worker PASSWORD '{verifier}';\n")
def rotate(project: ComposeProject, port: int) -> None:
bao, token = Bao(port), operator_token(port)
role_path = "auth/cert/certs/worker"
secret_path = "messenger/data/worker"
previous = bao.call(secret_path, token=token)["data"]["data"]
current_cert = TLS / "worker-bao.crt"
current_key = TLS / "worker-bao.key"
password_file = ROOT / "secrets/worker_db_password"
password = secrets.token_urlsafe(24)
with TemporaryDirectory(prefix=".worker-rotation-", dir=TLS) as directory:
staging = Path(directory)
for suffix in ("crt", "key"):
(staging / f"ca.{suffix}").symlink_to(TLS / f"ca.{suffix}")
issue(staging, "worker-bao", "DNS:worker-bao", "clientAuth", "ca")
new_cert, new_key = (staging / f"worker-bao.{suffix}" for suffix in ("crt", "key"))
old_certificate, old_key = current_cert.read_bytes(), current_key.read_bytes()
project.run("stop", "worker")
try:
change_db_password(project, password)
bao.call(secret_path, {"data": {"db_password": password}}, token=token)
bao.call(role_path, cert_role(new_cert, "worker"), token=token)
password_stage = staging / "password"
password_stage.write_text(password)
password_stage.chmod(0o444)
os.replace(password_stage, password_file)
os.replace(new_cert, current_cert)
os.replace(new_key, current_key)
project.run("up", "-d", "--no-build", "--no-deps", "--force-recreate", "worker")
except (HTTPError, OSError, RuntimeError):
change_db_password(project, previous["db_password"])
bao.call(secret_path, {"data": previous}, token=token)
for path, data in ((current_cert, old_certificate), (current_key, old_key),
(password_file, previous["db_password"].encode())):
temporary = staging / (path.name + ".rollback")
temporary.write_bytes(data)
temporary.chmod(0o444)
os.replace(temporary, path)
bao.call(role_path, cert_role(current_cert, "worker"), token=token)
project.run("up", "-d", "--no-build", "--no-deps", "--force-recreate", "worker")
raise
print("PASS: пароль PostgreSQL и клиентский сертификат worker заменены без сборки")
if __name__ == "__main__":
parser = argparse.ArgumentParser(description=__doc__)
parser.add_argument("--bao-port", type=int, default=18200)
rotate(ComposeProject(), parser.parse_args().bao_port)
+69
View File
@@ -0,0 +1,69 @@
"""Сканирует lock-файл и локальные образы, не передавая сокет Docker сканеру."""
from datetime import UTC, datetime
import json
import os
from pathlib import Path
import shutil
import subprocess
from tempfile import TemporaryDirectory
from scripts.deployment import ROOT, ComposeProject
SCANNER = "ghcr.io/aquasecurity/trivy:0.76.2"
def scan() -> dict:
project = ComposeProject()
images = sorted({service["image"] for service in project.config["services"].values()
if "build" in service})
with TemporaryDirectory(prefix="lab7-scan-") as directory:
workspace = Path(directory)
packages = workspace / "packages"
packages.mkdir()
shutil.copyfile(ROOT / "requirements.txt", packages / "requirements.txt")
cache = workspace / "cache"
cache.mkdir()
def trivy(mount, args):
result = subprocess.run(
["docker", "run", "--rm", "--cap-drop=ALL",
"--user", f"{os.getuid()}:{os.getgid()}",
"--security-opt=no-new-privileges", "-v", f"{cache}:/cache",
"-v", mount, SCANNER, *args, "--cache-dir", "/cache",
"--quiet", "--scanners", "vuln", "--severity", "HIGH,CRITICAL",
"--format", "json", "--timeout", "6m"],
cwd=ROOT, check=True, stdout=subprocess.PIPE,
)
report = json.loads(result.stdout)
return {
"targets": [item["Target"] for item in report.get("Results", [])],
"findings": [
{name: issue.get(name) for name in (
"VulnerabilityID", "PkgName", "InstalledVersion", "FixedVersion",
"Severity", "PrimaryURL", "Status",
)}
for item in report.get("Results", [])
for issue in item.get("Vulnerabilities", [])
],
}
result = {"scanner": SCANNER, "date_utc": datetime.now(UTC).isoformat(), "dependency": trivy(
f"{packages}:/scan:ro", ["fs", "/scan"],
), "images": {}}
archive = workspace / "image.tar"
for name in images:
subprocess.run(["docker", "image", "save", "-o", archive, name],
cwd=ROOT, check=True)
findings = trivy(f"{archive}:/image.tar:ro", ["image", "--input", "/image.tar"])
result["images"][name] = {
"image_id": project.docker("image", "inspect", "--format", "{{.Id}}", name),
**findings,
}
return result
if __name__ == "__main__":
destination = ROOT / "evidence/security-scan.json"
destination.write_text(json.dumps(scan(), ensure_ascii=False, indent=2) + "\n")
print("Результаты Trivy сохранены в evidence/security-scan.json")
+17
View File
@@ -0,0 +1,17 @@
# Анализ зависимостей и образов
`make scan-security` запускает закреплённый Trivy 0.76.2 для `requirements.txt` и трёх локальных сборок Compose. В область проверки входят Python, Debian, Go и зависимости бинарников MinIO и mc. Сканер получает временный архив образа или копию файла зависимостей. Сокет Docker и каталог с секретами ему не передаются. Результаты уровня HIGH и CRITICAL сохраняются в [security-scan.json](../evidence/security-scan.json).
| Находка | Применимость и решение |
| --- | --- |
| `certifi`, GHSA-6q48-6c7w-9gw2 | Библиотеку устанавливает Python-образ. TLS стенда использует явный локальный CA, а библиотека может применяться к другим клиентским HTTPS-соединениям. Версия обновлена до 2026.10.19. [Advisory certifi](https://github.com/certifi/python-certifi/security/advisories/GHSA-6q48-6c7w-9gw2) |
| OpenSSL, CVE-2026-84782 | Находка относится к DTLS. Приложение использует потоковый TLS по TCP. Остаточная уязвимость относится к базовому образу. Исправление для bookworm указано в трекере Debian. [Debian](https://security-tracker.debian.org/tracker/CVE-2026-84782) |
| SQLite, CVE-2025-7458 | Библиотека входит в базовый образ. Бизнес-запросы приложения идут в PostgreSQL, маршрута исполнения пользовательского SQLite SQL нет. [Debian](https://security-tracker.debian.org/tracker/CVE-2025-7458) |
| `zlib1g`, CVE-2023-45853 | Trivy сопоставил уязвимость MiniZip с системным пакетом zlib. В Debian bookworm обычный пакет zlib собирается без затронутого кода MiniZip, поэтому эта находка к нему неприменима. [Debian](https://security-tracker.debian.org/tracker/CVE-2023-45853) |
| MinIO, CVE-2026-33322 | Условия уязвимости связаны с OIDC. Стенд использует локальные ключи S3, OIDC не настроен. Открытый релиз MinIO остаётся уязвимым при включении OIDC. [Advisory MinIO](https://github.com/minio/minio/security/advisories/GHSA-5cx5-wh4m-82fh) |
| MinIO, CVE-2026-33419 | Находка относится к интерактивной LDAP-аутентификации. На стенде LDAP не настроен. [Advisory MinIO](https://github.com/minio/minio/security/advisories/GHSA-jv87-32hw-hh99) |
| Go, CVE-2025-68121 | Затрагивает повтор TLS-сессии при изменении доверенных CA внутри работающего процесса. В этом стенде сертификаты S3 статичны на время работы процесса, а клиент и сервер используют фиксированный CA. Бинарники MinIO и mc всё равно содержат затронутую версию Go. [Go vulnerability report](https://pkg.go.dev/vuln/GO-2026-4337) |
Основной остаточный риск — находки в исходной сборке MinIO и системных библиотеках. Сеть S3 изолирована, административный порт не публикуется, доступ имеют только прикладные сервисы и bootstrap. Это ограничивает достижимость, а найденные уязвимости остаются в отчёте. Результаты относятся к заявленным трём сборкам и текущей базе Trivy.
Повторный скан 22 ноября 2026 года в 14:27 МСК не обнаружил HIGH или CRITICAL в `requirements.txt`. В окончательных образах Trivy зафиксировал 105 находок в приложении, 181 в MinIO и 158 в MinIO bootstrap, включая соответственно 2, 9 и 4 CRITICAL. Находка `certifi` исчезла из повторного скана зависимостей и приложения.
+9
View File
@@ -15,3 +15,12 @@
| Чтение чужого секрета из OpenBao | Доступ ограничен cert-ролью и одним KV-путём | 403 на чужом пути, записи KV и операции над policy | Доступ к памяти запущенного процесса раскрывает его рабочий пароль |
Сертификаты локально выдаёт оператор. После seal OpenBao требуется unseal по операторской инструкции. Короткий TTL ограничивает доступ по выданному токену. Раздельные роли и префиксы ограничивают последствия компрометации одного сервиса. Главные ограничения стенда описаны в [отчёте](../REPORT.md).
| Угроза | Инвариант и контроль | Проверка | Остаточное ограничение |
| --- | --- | --- | --- |
| Сертификат постороннего, подписанный доверенным CA брокера | SASL EXTERNAL должен сопоставить CN с существующим cert-пользователем и его ACL | `audit_tls` отклоняет неподходящий CN и попытку API создать очередь | Выпуск новых cert-ролей контролирует оператор CA |
| Подмена или загрязнение телеметрии | Вход OTLP проверяет цепочку и allowlist CN до передачи в Collector | `audit_tls` проверяет 403 для постороннего CN от того же CA и недоступность plaintext-портов | Скомпрометированный легитимный отправитель может отправлять свои записи |
| Повтор доступа с прежним сертификатом worker | OpenBao принимает точный актуальный leaf. Тестовый токен отзывается по accessor | `check_lifecycle` отклоняет старый leaf и старый токен, затем проверяет обработку вложения новым worker | Другие выданные токены действуют до TTL или отзыва |
| Аномальные изображения | Дочерний процесс имеет лимиты CPU, адресного пространства и времени выполнения | `student-tests/test_image_pipeline.py` проверяет лимиты ОС и отмену по таймауту | Вложение в допустимых пределах всё ещё расходует выделенные ресурсы |
Применимость находок сканера описана в [отчёте по зависимостям и образам](SCAN.md).
+65
View File
@@ -296,3 +296,68 @@ async def test_whitespace_only_password_at_login_returns_401(client: AsyncClient
assert response.status_code == 401
assert response.headers["WWW-Authenticate"].startswith("Basic")
async def test_login_rehashes_only_after_success(client, db_engine):
from argon2 import PasswordHasher
from sqlalchemy import text
user = await register(client)
previous = await asyncio.to_thread(
PasswordHasher(memory_cost=8192, time_cost=2, parallelism=1).hash, user["password"]
)
async with db_engine.begin() as connection:
await connection.execute(
text("UPDATE users SET password_hash=:hash WHERE username=:name"),
{"hash": previous, "name": user["username"]},
)
async def read_hash():
async with db_engine.connect() as connection:
return await connection.scalar(
text("SELECT password_hash FROM users WHERE username=:name"),
{"name": user["username"]},
)
bad = await client.post("/api/v1/auth/sessions",
headers=basic_header(user["username"], "wrong-password"))
assert bad.status_code == 401
assert await read_hash() == previous
await login(client, user)
updated = await read_hash()
assert updated != previous
assert updated.startswith("$argon2id$v=19$m=19456,t=2,p=1$")
await login(client, user)
assert await read_hash() == updated
async def test_login_capacity_rejects_before_password_verification(client, monkeypatch):
from app.domain.auth import security
limit = 10
all_inside = asyncio.Event()
release = asyncio.Event()
entered = 0
async def wait_for_release(_password):
nonlocal entered
entered += 1
if entered == limit:
all_inside.set()
await release.wait()
monkeypatch.setattr(security, "dummy_verify_password", wait_for_release)
headers = basic_header("missing_user", "synthetic-password")
pending = [
asyncio.create_task(client.post("/api/v1/auth/sessions", headers=headers))
for _ in range(limit)
]
try:
await asyncio.wait_for(all_inside.wait(), timeout=5)
response = await client.post("/api/v1/auth/sessions", headers=headers)
assert response.status_code == 429
assert response.headers["Retry-After"] == "1"
assert entered == limit
finally:
release.set()
assert all(response.status_code == 401 for response in await asyncio.gather(*pending))
+2
View File
@@ -62,3 +62,5 @@ Smoke не доказывает persistence, число реальных кон
`make verify` создаёт отдельный Compose-проект, переносит проверки PostgreSQL и Redis на TLS, запускает HTTPS smoke, наблюдаемость, persistence/failover и отрицательные проверки TLS. Файл `evidence/verification.json` сохраняет команды и результаты. Для ручного изучения запущенного проекта перед очисткой используйте `make verify VERIFY_ARGS=--keep-stand`.
`make test-security-internal` на запущенном тестовом проекте проверяет каждую API-реплику внутри Docker-сети, сертификаты доступа к OpenBao, ACL вложений, завершение сессий, предел размеров запросов и ограничение входа. Проверка expiry сокращает TTL конкретной синтетической сессии через административный аккаунт Redis, активный только в тестовом проекте.
Для уровня «4» регрессия проверяет обновление старого хеша только после успешного входа и отказ при заполнении лимита параллельных проверок. `make test-security-internal` дополнительно проверяет сертификаты RabbitMQ и Collector, ограничения ролей и измеряет бюджет Argon2id. `make verify` запускает испытание жизненного цикла OpenBao с ротацией worker. `make scan-security` сканирует зависимости и собранные образы.