forked from mtusi2026/mtusi2026lab7
feat: completed tasks for grade 4
This commit is contained in:
+1
-2
@@ -8,6 +8,7 @@ LOG_LEVEL=INFO
|
||||
MAX_MESSAGES=100000
|
||||
# Лимит одновременных запросов НА ОДНУ реплику
|
||||
MAX_IN_FLIGHT=16
|
||||
LOGIN_MAX_IN_FLIGHT=10
|
||||
|
||||
SESSION_TTL_SECONDS=3600
|
||||
SESSION_STORE=redis
|
||||
@@ -80,9 +81,7 @@ JOB_TIMEOUT_SECONDS=60
|
||||
STAGING_RETENTION_SECONDS=86400
|
||||
BROKER_HOST=broker
|
||||
BROKER_PORT=5671
|
||||
BROKER_PASSWORD_FILE=/run/secrets/broker_password
|
||||
BROKER_QUEUE=attachment-jobs
|
||||
BROKER_USER=messenger
|
||||
BROKER_VHOST=/
|
||||
JOB_LEASE_SECONDS=90
|
||||
JOB_RETRY_SECONDS=5
|
||||
|
||||
@@ -172,3 +172,7 @@ test-suite:
|
||||
$(TEST_ENV) $(MAKE) test-storage BASE_URL="$(TEST_BASE_URL)"; \
|
||||
$(TEST_ENV) $(MAKE) test-outbox BASE_URL="$(TEST_BASE_URL)"; \
|
||||
$(TEST_ENV) $(MAKE) test-jobs BASE_URL="$(TEST_BASE_URL)";
|
||||
|
||||
.PHONY: scan-security
|
||||
scan-security:
|
||||
$(PYTHON) -m scripts.scan_security
|
||||
|
||||
@@ -2,7 +2,7 @@
|
||||
|
||||
Защитить работающий мессенджер на границах доверия и показать защиту отрицательными проверками: чужой доступ, неверный сертификат, недостаточные права и отзыв credentials.
|
||||
|
||||
В репозитории реализован уровень «3». Перенесённый мессенджер работает через HTTPS, внутренняя связь nginx с API требует mTLS, а сервисы получают пароли PostgreSQL по ограниченным политикам OpenBao.
|
||||
В репозитории реализован уровень «4». Перенесённый мессенджер работает через HTTPS, внутренняя связь nginx с API требует mTLS, а сервисы получают пароли PostgreSQL по ограниченным политикам OpenBao. RabbitMQ и Collector проверяют отдельные сертификаты сервисов.
|
||||
|
||||
[Карта курса](COURSE.md) · [Процесс fork/PR](CONTRIBUTING.md) · [OpenAPI](contracts/openapi.json) · [Семантика API](contracts/README.md) · [Проверки](tests/README.md) · [Отчёт](REPORT.md) · [Примеры JSON](contracts/examples.json) · [Памятка преподавателю](MAINTAINERS.md)
|
||||
|
||||
@@ -59,7 +59,7 @@ make up
|
||||
make check validate test test-security
|
||||
```
|
||||
|
||||
Публичные проверки используют `https://localhost:8443` и локальный публичный CA. Для другого адреса задайте `BASE_URL`, для другого доверенного CA — `CA_FILE`. `make verify` дополнительно создаёт отдельный тестовый стенд, проверяет внутренние политики, наблюдаемость, перезапуск и отказ реплики. [Матрица доверия](contracts/trust-matrix.md) · [Проверки](tests/README.md) · [OpenBao](infra/openbao/README.md)
|
||||
Публичные проверки используют `https://localhost:8443` и локальный публичный CA. Для другого адреса задайте `BASE_URL`, для другого доверенного CA — `CA_FILE`. `make verify` дополнительно создаёт отдельный тестовый стенд, проверяет внутренние политики, наблюдаемость, перезапуск, отказ реплики и ротацию worker. Сканирование зависимостей и локальных сборок запускается командой `make scan-security`. [Матрица доверия](contracts/trust-matrix.md) · [Проверки](tests/README.md) · [OpenBao](infra/openbao/README.md)
|
||||
|
||||
## Сценарий защиты
|
||||
|
||||
@@ -87,6 +87,9 @@ Threat model, заполненная trust matrix, TLS/mTLS конфигурац
|
||||
- [OWASP Password Storage](https://cheatsheetseries.owasp.org/cheatsheets/Password_Storage_Cheat_Sheet.html)
|
||||
- [OWASP File Upload](https://cheatsheetseries.owasp.org/cheatsheets/File_Upload_Cheat_Sheet.html)
|
||||
- [OpenBao AppRole](https://openbao.org/docs/auth/approle/)
|
||||
- [OpenBao cert auth](https://openbao.org/docs/auth/cert/)
|
||||
- [RabbitMQ TLS и EXTERNAL](https://www.rabbitmq.com/docs/ssl)
|
||||
- [Trivy image scan](https://www.trivy.dev/docs/dev/guide/target/container_image/)
|
||||
- [OpenBao policies](https://openbao.org/docs/concepts/policies/)
|
||||
- [OpenBao production hardening](https://openbao.org/docs/internals/security/)
|
||||
- [Docker security](https://docs.docker.com/engine/security/)
|
||||
|
||||
@@ -1,7 +1,7 @@
|
||||
# Отчёт по лабораторной 7
|
||||
|
||||
- Автор: Григорян Илья Мурадович, БПИ2303.
|
||||
- Цель: оценка «3».
|
||||
- Цель: оценка «4».
|
||||
- Реализация и проверки подготовлены с помощью Codex.
|
||||
|
||||
## Запуск
|
||||
@@ -24,36 +24,39 @@ API доступен на `https://localhost:8443`, Grafana на `https://localh
|
||||
|
||||
`make down` останавливает стенд и сохраняет тома. `make clean-stands` удаляет ресурсы текущего и тестового проекта и теги локальных сборок приложения, включая `messenger-*` и `mns-*`. Просмотр плана доступен командой `.venv/bin/python -m scripts.deployment clean`. Локальные настройки и ключи остаются под контролем оператора.
|
||||
|
||||
## Что изменилось
|
||||
## Архитектура и защита
|
||||
|
||||
- Снаружи nginx принимает HTTPS. Внутри nginx проверяет CA и SAN `api`. API требует клиентский сертификат и точный DNS SAN `load-balancer`. Прямых публикаций портов реплик нет.
|
||||
- PostgreSQL, Redis, RabbitMQ, MinIO, OpenBao и сетевые интерфейсы телеметрии используют TLS с проверкой имени. Аналитические источники принимают клиентские сертификаты по ролям. Локальный plaintext endpoint метрик SDK находится в общем сетевом пространстве Collector и его TLS-прокси.
|
||||
- PostgreSQL использует отдельные роли API, worker, publisher и cleanup. Аутентификация RabbitMQ разделена на publisher и worker. Доступ MinIO ограничен частным bucket и префиксами. Redis ограничивает прикладную роль ключами сессий.
|
||||
- OpenBao 2.7.1 работает в серверном режиме с PebbleDB в именованном томе. Сервисы получают пароли БД при запуске. Для каждой роли настроен отдельный leaf certificate, KV-путь и токен на 10 минут. Операторское распечатывание и выпуск сертификатов описаны в [инструкции OpenBao](infra/openbao/README.md).
|
||||
- Хеш пароля создаётся Argon2id со случайной солью в формате PHC и параметрами 19 MiB, 2 прохода, 1 поток. Вход ограничен на nginx по IP с ответом 429 и `Retry-After`. Тело запроса ограничено 12 MiB на входе и 16 KiB для входа по паролю. API сохраняет потоковый лимит вложений 10 MiB.
|
||||
- API и worker работают от UID 10001, без Linux capabilities, с ограничениями ресурсов и `no-new-privileges`. Из прикладных сетевых интерфейсов опубликован только ingress. Административные HTTPS-порты остаются на loopback.
|
||||
- Возможности мессенджера из лабораторной 6 сохранены. nginx принимает HTTPS, проверяет сертификат API, а реплики принимают только клиентский сертификат с DNS SAN `load-balancer`. Порты API не опубликованы.
|
||||
- RabbitMQ требует mTLS и использует SASL EXTERNAL для сопоставления CN сертификата с ролью. Publisher публикует, worker читает очередь вложений. API пишет задания в PostgreSQL и имеет отдельную cert-роль для проверки подключения без прав на ресурсы RabbitMQ.
|
||||
- API, publisher и worker используют разные клиентские сертификаты Collector. nginx проверяет доверенную цепочку и список разрешённых CN, затем проксирует OTLP по loopback. Внешние соединения с хранилищами, OpenBao и интерфейсами телеметрии используют TLS.
|
||||
- OpenBao 2.7.1 с PebbleDB выдаёт отдельным cert-ролям токены на 10 минут. При старте сервис получает пароль своего логина PostgreSQL, а при следующем старте снова аутентифицируется сертификатом. Ротация worker меняет пароль и конечный сертификат без сборки образа. Команды и поведение при seal описаны в [инструкции OpenBao](infra/openbao/README.md).
|
||||
- Argon2id использует 19 MiB, два прохода и один поток алгоритма. При успешном входе старый хеш обновляется условной записью, привязанной к прежнему хешу. На nginx действует единый лимит по IP в 2 запроса/с с burst 10. Каждая реплика допускает до десяти активных проверок, пул хеширования использует до двух потоков. Redis хранит ключи, производные от SHA-256 Bearer-токена, со сроком жизни.
|
||||
- API, worker, publisher, cleanup, миграции, nginx, MinIO, OpenBao и компоненты телеметрии работают с read-only rootfs, `no-new-privileges` и без Linux capabilities. Временные файлы вынесены в tmpfs там, где нужны. Записи баз и систем телеметрии идут в отдельно примонтированные тома.
|
||||
- PostgreSQL, Redis и RabbitMQ сохраняют файловые операции штатной инициализации. PostgreSQL копирует TLS-ключ с правами 0600 и меняет владельца, Redis создаёт ACL-файл, RabbitMQ инициализирует каталог узла и права файлов. Для этих трёх контейнеров включён `no-new-privileges`, а rootfs и начальные права оставлены совместимыми с entrypoint образов.
|
||||
- nginx ограничивает тело входного запроса 12 MiB, а тело запроса входа 16 KiB. API сохраняет потоковый лимит вложений 10 MiB. Worker ограничен 2 CPU и 2 GiB. Дочерний процесс обработки изображений ограничен 768 MiB адресного пространства и 20 секундами CPU, задание ограничено 60 секундами.
|
||||
|
||||
[Матрица доверия](contracts/trust-matrix.md) · [Модель угроз](security/THREAT_MODEL.md) · [Конфигурация наблюдаемости](infra/otel/README.md)
|
||||
[Матрица доверия](contracts/trust-matrix.md) · [Модель угроз](security/THREAT_MODEL.md) · [Наблюдаемость](infra/otel/README.md) · [Анализ уязвимостей](security/SCAN.md)
|
||||
|
||||
## Ограничения
|
||||
|
||||
OpenBao и хранилища работают в одном экземпляре. После перезапуска OpenBao требуется действие оператора. Сессии используют срок жизни Redis, а уже загруженные пароли БД хранятся в памяти процессов. Автоматическая ротация и отдельные сертификаты для каждого отправителя OTLP выходят за рамки выбранного уровня. Основной стенд рассчитан на инициализацию новых томов. Для переноса существующих данных нужен отдельный экспорт и импорт с новыми ролями доступа.
|
||||
OpenBao и хранилища работают в одном экземпляре. После перезапуска OpenBao требуется распечатывание оператором. Запущенные сервисы используют уже загруженный пароль PostgreSQL, а новые процессы требуют работающий OpenBao. Отзыв cert-роли блокирует новый вход со старым leaf. Другие ранее выданные токены действуют до TTL или отдельного отзыва. Сканирование выявляет остаточные находки в MinIO и базовой системе. Развёртывание рассчитано на чистые тома. Перенос данных со старого стенда требует отдельного экспорта и импорта.
|
||||
|
||||
## Проверки
|
||||
|
||||
Итоговый `make verify VERIFY_ARGS=--keep-stand` завершился успешно 21 ноября 2026 года в 16:17 МСК. Стенд стартовал с чистыми томами. После прогона ресурсы удалены отдельной командой.
|
||||
Итоговый `make verify VERIFY_ARGS=--keep-stand` завершился успешно 22 ноября 2026 года в 14:34 МСК. Прогон выполнен на чистых томах отдельного Compose-проекта. Для полного воспроизведения сначала выполните `make init`, затем `make verify`.
|
||||
|
||||
| Критерий | Наблюдаемый результат |
|
||||
| --- | --- |
|
||||
| Контракт и базовое поведение | OpenAPI, конфигурация Compose, 206 регрессионных тестов и публичный HTTPS smoke прошли. Регрессия заняла 90,40 с. |
|
||||
| TLS и mTLS | HTTPS прошёл с доверенным CA и SAN. Пустой trust store и неверный hostname отклонены. Обе API-реплики приняли балансировщик и отклонили подключения без сертификата, с чужим CA и с другой ролью доверенного CA. |
|
||||
| Сессии, ACL, ограничения входа | Посторонний получил 404 при чтении чата, чтении и прикреплении чужого файла. Удалённый и просроченный токены получили 401. Подтверждены ответы 429 с `Retry-After` и 413. |
|
||||
| Argon2id | В API-контейнере с лимитом 1 CPU медиана 15 проверок составила 39,1 мс. Параметры удовлетворяют минимальному бюджету памяти, а задержка измерена на работающем стенде. Унаследованные PHC-хеши проверяются по параметрам внутри хеша. |
|
||||
| OpenBao и разделение доступа | Обе cert-роли прочитали только свой путь. Чужая роль, чужой путь, запись секрета и изменение policy отклонены. Worker получил отказ при чтении таблицы пользователей и записи вне разрешённых префиксов S3. |
|
||||
| Наблюдаемость | Подтверждены три источника Grafana, связь логов и трасс, сохранение истории и восстановление после остановок PostgreSQL, worker и Loki. Проверены 399 записей на наличие тестовых приватных значений. |
|
||||
| Перезапуск и отказ реплики | Общий перезапуск, включая повторное распечатывание OpenBao, сохранил подтверждённые данные и сессию. При отключении API-реплики запись восстановилась через оставшуюся реплику. |
|
||||
| nginx | Отдельный `make test-nginx` подтвердил HTTPS-балансировку, обнаружение реплики, сохранение заголовков API, ограничение нагрузки и переключение при отказе. |
|
||||
| Контракт и регрессия | OpenAPI, Compose и HTTPS smoke прошли. Все 208 регрессионных тестов прошли за 96,32 с. Проверены rehash после успешного входа и отказ для одиннадцатой одновременной проверки на реплике. |
|
||||
| TLS и роли | Аудит проверил ingress, обе API-реплики, TLS-подключения к зависимостям, ACL RabbitMQ, PostgreSQL и MinIO. RabbitMQ и Collector отклонили сертификаты неподходящей роли, выпущенные их доверенными CA. |
|
||||
| Бюджет входа | Из 25 запросов за 0,33 с две реплики обработали 10 проверок пароля. Остальные 15 получили 429. В контейнере API с лимитом 1 CPU медиана одиночной проверки составила 32,0 мс. Пакет из 24 проверок на двух потоках занял 0,82 с, в среднем 35,7 мс CPU на проверку с пиковым RSS 84,1 MiB для процесса измерения. При 2 входах/с с одного IP оценка устойчивой нагрузки составляет около 71 мс CPU/с на проверку паролей без учёта прочих операций. |
|
||||
| Жизненный цикл OpenBao | Просроченный трёхсекундный токен потерял доступ. При seal существующий API оставался готовым, новый процесс получал отказ. После замены пароля и leaf worker образ сохранил тот же ID, старый leaf и отдельно отозванный токен потеряли доступ, новое вложение обработано. |
|
||||
| ACL, сессии и изоляция | Подтверждены отказы при чужом доступе, logout и expiry, ответы 429 и 413. В API и worker проверены read-only rootfs, запись в tmpfs, non-root, ограничения ресурсов и отсутствие capabilities. |
|
||||
| Наблюдаемость и отказы | Подтверждены три источника Grafana, связность логов и трасс и сохранение истории. Проверены 264 записи на приватные значения. Стенд восстановился после сценариев отказа PostgreSQL, worker и Loki. При общем перезапуске и остановке одной API-реплики сохранились подтверждённые данные и сессии. |
|
||||
| Сканирование | Trivy проверил зависимости и три собранных образа. Исправление `certifi` подтверждено повторным сканом. Остаточные находки и их применимость разобраны отдельно. [Анализ уязвимостей](security/SCAN.md) |
|
||||
|
||||
Во время короткого нагрузочного сценария выполнено 100 POST-запросов с целевой частотой 10 запросов/с и параллелизмом 2. Ошибок не было. Задержки успешных запросов p50/p95/p99 составили 18,8/54,3/58,6 мс. Этот профиль проверяет работу защищённого тракта на стенде и не определяет его предел пропускной способности.
|
||||
За короткий нагрузочный тест выполнено 100 POST-запросов без ошибок при целевых 10 запросах/с. Задержки p50/p95/p99 составили 19,2/54,4/60,6 мс. Отдельный `make test-nginx` подтвердил балансировку, обработку лимитов и переключение реплики.
|
||||
|
||||
[Итоговый прогон](evidence/verification.json) · [Телеметрия и отказы](evidence/observability.json) · [Очистка стенда](evidence/cleanup.json)
|
||||
[Итоговый прогон](evidence/verification.json) · [Наблюдаемость и нагрузка](evidence/observability.json) · [Сканирование](evidence/security-scan.json) · [Очистка стенда](evidence/cleanup.json)
|
||||
|
||||
После проверок удалены 19 контейнеров, 9 томов, 2 сети и 3 образа приложения. Базовые образы сервисов сохранены.
|
||||
|
||||
@@ -47,6 +47,7 @@ class Settings(BaseSettings):
|
||||
|
||||
max_messages: int = Field(ge=1)
|
||||
max_in_flight: int = Field(ge=1)
|
||||
login_max_in_flight: int = Field(default=10, ge=1, le=16)
|
||||
|
||||
session_ttl_seconds: int = Field(default=3600, ge=1)
|
||||
session_store: Literal["redis"] = "redis"
|
||||
|
||||
+3
-4
@@ -1,6 +1,5 @@
|
||||
"""Настройки очереди из .env; credentials брокера читаются отдельно из файла."""
|
||||
"""Настройки очереди из .env; идентификация брокера через TLS."""
|
||||
|
||||
from pathlib import Path
|
||||
from typing import Self
|
||||
|
||||
from pydantic import Field, model_validator
|
||||
@@ -13,9 +12,9 @@ class JobSettings(BaseSettings):
|
||||
broker_ca_file: str | None = None
|
||||
broker_host: str = "broker"
|
||||
broker_port: int = Field(default=5672, ge=1, le=65535)
|
||||
broker_password_file: Path = Path("/run/secrets/broker_password")
|
||||
broker_cert_file: str = "/run/tls/broker-client.crt"
|
||||
broker_key_file: str = "/run/tls/broker-client.key"
|
||||
broker_queue: str = "attachment-jobs"
|
||||
broker_user: str = "messenger"
|
||||
broker_vhost: str = "/"
|
||||
worker_concurrency: int = Field(default=2, ge=1, le=4)
|
||||
job_max_attempts: int = Field(default=5, ge=1, le=100)
|
||||
|
||||
@@ -40,3 +40,13 @@ async def acquire_request_slot(request: Request) -> AsyncIterator[None]:
|
||||
yield
|
||||
finally:
|
||||
capacity.release()
|
||||
|
||||
|
||||
async def acquire_login_slot(request: Request) -> AsyncIterator[None]:
|
||||
capacity: RequestCapacity = request.app.state.login_capacity
|
||||
if not capacity.try_acquire():
|
||||
raise rate_limited()
|
||||
try:
|
||||
yield
|
||||
finally:
|
||||
capacity.release()
|
||||
|
||||
@@ -48,6 +48,10 @@ async def verify_password(password: str, password_hash: str) -> bool:
|
||||
)
|
||||
|
||||
|
||||
def password_needs_rehash(password_hash: str) -> bool:
|
||||
return _hasher.check_needs_rehash(password_hash)
|
||||
|
||||
|
||||
async def dummy_verify_password(password: str) -> None:
|
||||
"""Проверка против фиктивного хеша: время ответа не выдаёт отсутствие пользователя."""
|
||||
await verify_password(password, _DUMMY_HASH)
|
||||
|
||||
@@ -45,6 +45,11 @@ async def create_session(
|
||||
if not await security.verify_password(password, user.password_hash):
|
||||
raise unauthorized_basic()
|
||||
|
||||
if security.password_needs_rehash(user.password_hash):
|
||||
replacement = await security.hash_password(password)
|
||||
await users_storage.replace_password_hash(session, user.id, user.password_hash, replacement)
|
||||
await session.commit()
|
||||
|
||||
token = security.generate_token()
|
||||
expires_at = datetime.now(UTC) + timedelta(seconds=ttl_seconds)
|
||||
await sessions_storage.create_session(
|
||||
|
||||
@@ -1,5 +1,6 @@
|
||||
from fastapi import APIRouter, Response
|
||||
from fastapi import APIRouter, Depends, Response
|
||||
|
||||
from app.core.request_capacity import acquire_login_slot
|
||||
from app.domain.auth import create_session, revoke_session
|
||||
from app.endpoints.dependencies import (
|
||||
AppSettings,
|
||||
@@ -13,7 +14,7 @@ from app.schemas.session import AuthSession
|
||||
router = APIRouter(prefix="/api/v1/auth", tags=["auth"])
|
||||
|
||||
|
||||
@router.post("/sessions", status_code=201)
|
||||
@router.post("/sessions", status_code=201, dependencies=[Depends(acquire_login_slot)])
|
||||
async def login(
|
||||
credentials: BasicCredentials,
|
||||
session: DbSession,
|
||||
|
||||
@@ -61,6 +61,7 @@ def create_app(settings: Settings | None = None) -> FastAPI:
|
||||
application.state.upload_capacity = create_request_capacity(
|
||||
settings.s3.max_concurrent_uploads
|
||||
)
|
||||
application.state.login_capacity = create_request_capacity(settings.login_max_in_flight)
|
||||
application.state.request_capacity = create_request_capacity(settings.max_in_flight)
|
||||
application.state.instance_id = resolve_instance_id(settings.instance_id)
|
||||
telemetry = Telemetry("messenger-api", application.state.instance_id)
|
||||
|
||||
+18
-11
@@ -13,6 +13,23 @@ from app.core.tls import client_context
|
||||
from app.schemas.job import JobMessage
|
||||
|
||||
|
||||
async def connect_broker(settings: JobSettings):
|
||||
context = client_context(settings.broker_ca_file)
|
||||
if context is None:
|
||||
raise ValueError("RabbitMQ требует CA и клиентский сертификат")
|
||||
context.load_cert_chain(settings.broker_cert_file, settings.broker_key_file)
|
||||
return await aio_pika.connect(
|
||||
host=settings.broker_host,
|
||||
port=settings.broker_port,
|
||||
virtualhost=settings.broker_vhost,
|
||||
ssl=True,
|
||||
ssl_context=context,
|
||||
auth="external",
|
||||
timeout=5,
|
||||
heartbeat=30,
|
||||
)
|
||||
|
||||
|
||||
@dataclass(frozen=True)
|
||||
class Delivery:
|
||||
id: AbstractIncomingMessage
|
||||
@@ -37,17 +54,7 @@ class JobBroker:
|
||||
or self.channel.is_closed
|
||||
):
|
||||
await self.aclose()
|
||||
self.connection = await aio_pika.connect(
|
||||
host=self.settings.broker_host,
|
||||
port=self.settings.broker_port,
|
||||
login=self.settings.broker_user,
|
||||
password=self.settings.broker_password_file.read_text().strip(),
|
||||
virtualhost=self.settings.broker_vhost,
|
||||
ssl=bool(self.settings.broker_ca_file),
|
||||
ssl_context=client_context(self.settings.broker_ca_file),
|
||||
timeout=5,
|
||||
heartbeat=30,
|
||||
)
|
||||
self.connection = await connect_broker(self.settings)
|
||||
self.channel = await self.connection.channel(
|
||||
publisher_confirms=True, on_return_raises=True
|
||||
)
|
||||
|
||||
+11
-1
@@ -1,7 +1,7 @@
|
||||
from collections.abc import Collection
|
||||
from uuid import UUID
|
||||
|
||||
from sqlalchemy import select
|
||||
from sqlalchemy import select, update
|
||||
from sqlalchemy.ext.asyncio import AsyncSession
|
||||
|
||||
from app.models.user import User
|
||||
@@ -45,3 +45,13 @@ async def get_existing_user_ids(
|
||||
result = await session.execute(stmt)
|
||||
existing_ids = set(result.scalars().all())
|
||||
return existing_ids
|
||||
|
||||
|
||||
async def replace_password_hash(
|
||||
session: AsyncSession, user_id: UUID, previous: str, replacement: str
|
||||
) -> None:
|
||||
await session.execute(
|
||||
update(User)
|
||||
.where(User.id == user_id, User.password_hash == previous)
|
||||
.values(password_hash=replacement)
|
||||
)
|
||||
|
||||
+77
-28
@@ -6,6 +6,9 @@ x-api-image: &api-image
|
||||
args:
|
||||
API_BUILD_REVISION: ${API_BUILD_REVISION:?Set API_BUILD_REVISION in .env}
|
||||
image: ${API_IMAGE:?Set API_IMAGE in .env}
|
||||
read_only: true
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
|
||||
x-base-env: &base-env
|
||||
APP_HOST: ${APP_HOST:?Set APP_HOST in .env}
|
||||
@@ -20,6 +23,7 @@ x-base-env: &base-env
|
||||
LOG_LEVEL: ${LOG_LEVEL:?Set LOG_LEVEL in .env}
|
||||
MAX_MESSAGES: ${MAX_MESSAGES:?Set MAX_MESSAGES in .env}
|
||||
MAX_IN_FLIGHT: ${MAX_IN_FLIGHT:?Set MAX_IN_FLIGHT in .env}
|
||||
LOGIN_MAX_IN_FLIGHT: ${LOGIN_MAX_IN_FLIGHT:-10}
|
||||
DB_HOST: ${DB_HOST:?Set DB_HOST in .env}
|
||||
DB_PORT: ${DB_PORT:?Set DB_PORT in .env}
|
||||
DB_NAME: ${DB_NAME:?Set DB_NAME in .env}
|
||||
@@ -56,9 +60,7 @@ x-jobs-env: &jobs-env
|
||||
BROKER_CA_FILE: /run/tls/ca.crt
|
||||
BROKER_HOST: ${BROKER_HOST:?Set BROKER_HOST in .env}
|
||||
BROKER_PORT: ${BROKER_PORT:?Set BROKER_PORT in .env}
|
||||
BROKER_PASSWORD_FILE: ${BROKER_PASSWORD_FILE:?Set BROKER_PASSWORD_FILE in .env}
|
||||
BROKER_QUEUE: ${BROKER_QUEUE:?Set BROKER_QUEUE in .env}
|
||||
BROKER_USER: ${BROKER_USER:?Set BROKER_USER in .env}
|
||||
BROKER_VHOST: ${BROKER_VHOST:?Set BROKER_VHOST in .env}
|
||||
WORKER_CONCURRENCY: ${WORKER_CONCURRENCY:?Set WORKER_CONCURRENCY in .env}
|
||||
JOB_MAX_ATTEMPTS: ${JOB_MAX_ATTEMPTS:?Set JOB_MAX_ATTEMPTS in .env}
|
||||
@@ -77,6 +79,11 @@ x-jobs-env: &jobs-env
|
||||
|
||||
services:
|
||||
minio:
|
||||
read_only: true
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
tmpfs:
|
||||
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
|
||||
build:
|
||||
context: .
|
||||
dockerfile: infra/minio/Dockerfile
|
||||
@@ -111,6 +118,11 @@ services:
|
||||
- miniodata:/data
|
||||
|
||||
minio-bootstrap:
|
||||
read_only: true
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
tmpfs:
|
||||
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
|
||||
build:
|
||||
context: .
|
||||
dockerfile: infra/minio/Dockerfile
|
||||
@@ -148,6 +160,7 @@ services:
|
||||
- ./secrets/tls/ca.crt:/run/tls/ca.crt:ro
|
||||
|
||||
postgres:
|
||||
security_opt: [no-new-privileges:true]
|
||||
entrypoint: ["/bin/sh", "/etc/postgres/start.sh"]
|
||||
image: postgres:16.10-bookworm
|
||||
restart: unless-stopped
|
||||
@@ -181,6 +194,7 @@ services:
|
||||
- pgdata:/var/lib/postgresql/data
|
||||
|
||||
redis:
|
||||
security_opt: [no-new-privileges:true]
|
||||
image: redis:7.4.2-bookworm
|
||||
restart: unless-stopped
|
||||
entrypoint: ["/bin/sh", "/usr/local/bin/start-redis.sh"]
|
||||
@@ -205,6 +219,7 @@ services:
|
||||
- redisdata:/data
|
||||
|
||||
broker:
|
||||
security_opt: [no-new-privileges:true]
|
||||
image: rabbitmq:4.4.0
|
||||
hostname: broker
|
||||
environment:
|
||||
@@ -224,6 +239,8 @@ services:
|
||||
volumes:
|
||||
- ./secrets/broker_definitions.json:/run/secrets/broker_definitions.json:ro
|
||||
- ./infra/broker/rabbitmq.conf:/etc/rabbitmq/rabbitmq.conf:ro
|
||||
- ./infra/broker/enabled_plugins:/etc/rabbitmq/enabled_plugins:ro
|
||||
- ./secrets/tls/broker-client-ca.crt:/run/tls/broker-client-ca.crt:ro
|
||||
- ./secrets/tls/ca.crt:/run/tls/ca.crt:ro
|
||||
- ./secrets/tls/broker.key:/run/tls/server.key:ro
|
||||
- ./secrets/tls/broker.crt:/run/tls/server.crt:ro
|
||||
@@ -231,14 +248,10 @@ services:
|
||||
|
||||
publisher:
|
||||
<<: *api-image
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
init: true
|
||||
command: ["python", "-m", "app.core.outbox_publisher"]
|
||||
restart: unless-stopped
|
||||
environment:
|
||||
BROKER_PASSWORD_FILE: /run/credentials/broker_password
|
||||
BROKER_USER: attachment-publisher
|
||||
DB_USER: publisher
|
||||
BAO_ROLE: publisher
|
||||
BAO_ADDR: https://openbao:8200
|
||||
@@ -261,25 +274,22 @@ services:
|
||||
cpus: "0.5"
|
||||
memory: 256M
|
||||
volumes:
|
||||
- ./secrets/tls/otel-agent.crt:/run/tls/otel-agent.crt:ro
|
||||
- ./secrets/publisher_broker_password:/run/credentials/broker_password:ro
|
||||
- ./secrets/tls/attachment-publisher.crt:/run/tls/broker-client.crt:ro
|
||||
- ./secrets/tls/attachment-publisher.key:/run/tls/broker-client.key:ro
|
||||
- ./secrets/tls/otel-publisher.crt:/run/tls/otel-agent.crt:ro
|
||||
- ./secrets/tls/publisher-bao.key:/run/tls/bao-client.key:ro
|
||||
- ./secrets/tls/publisher-bao.crt:/run/tls/bao-client.crt:ro
|
||||
- ./secrets/tls/otel-agent.key:/run/tls/otel-agent.key:ro
|
||||
- ./secrets/tls/otel-publisher.key:/run/tls/otel-agent.key:ro
|
||||
- ./secrets/tls/ca.crt:/run/tls/ca.crt:ro
|
||||
|
||||
worker:
|
||||
<<: *api-image
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
init: true
|
||||
command: ["python", "-m", "app.core.job_worker"]
|
||||
restart: unless-stopped
|
||||
environment:
|
||||
S3_SECRET_ACCESS_KEY_FILE: /run/credentials/secret_access_key
|
||||
S3_ACCESS_KEY_ID_FILE: /run/credentials/access_key_id
|
||||
BROKER_PASSWORD_FILE: /run/credentials/broker_password
|
||||
BROKER_USER: attachment-worker
|
||||
DB_USER: worker
|
||||
BAO_ROLE: worker
|
||||
BAO_ADDR: https://openbao:8200
|
||||
@@ -310,13 +320,14 @@ services:
|
||||
cpus: "2.0"
|
||||
memory: 2048M
|
||||
volumes:
|
||||
- ./secrets/tls/otel-agent.crt:/run/tls/otel-agent.crt:ro
|
||||
- ./secrets/tls/attachment-worker.crt:/run/tls/broker-client.crt:ro
|
||||
- ./secrets/tls/attachment-worker.key:/run/tls/broker-client.key:ro
|
||||
- ./secrets/tls/otel-worker.crt:/run/tls/otel-agent.crt:ro
|
||||
- ./secrets/worker_s3_secret_access_key:/run/credentials/secret_access_key:ro
|
||||
- ./secrets/worker_s3_access_key_id:/run/credentials/access_key_id:ro
|
||||
- ./secrets/worker_broker_password:/run/credentials/broker_password:ro
|
||||
- ./secrets/tls/worker-bao.key:/run/tls/bao-client.key:ro
|
||||
- ./secrets/tls/worker-bao.crt:/run/tls/bao-client.crt:ro
|
||||
- ./secrets/tls/otel-agent.key:/run/tls/otel-agent.key:ro
|
||||
- ./secrets/tls/otel-worker.key:/run/tls/otel-agent.key:ro
|
||||
- ./secrets/tls/ca.crt:/run/tls/ca.crt:ro
|
||||
|
||||
migrate:
|
||||
@@ -341,8 +352,6 @@ services:
|
||||
|
||||
api:
|
||||
<<: *api-image
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
restart: unless-stopped
|
||||
environment:
|
||||
API_TLS_ENABLED: "true"
|
||||
@@ -351,7 +360,7 @@ services:
|
||||
DB_USER: api
|
||||
BAO_ROLE: api
|
||||
BAO_ADDR: https://openbao:8200
|
||||
<<: [*base-env, *s3-env]
|
||||
<<: [*base-env, *s3-env, *jobs-env]
|
||||
REDIS_HOST: ${REDIS_HOST:?Set REDIS_HOST in .env}
|
||||
REDIS_PORT: ${REDIS_PORT:?Set REDIS_PORT in .env}
|
||||
REDIS_DB: ${REDIS_DB:?Set REDIS_DB in .env}
|
||||
@@ -399,18 +408,18 @@ services:
|
||||
migrate:
|
||||
condition: service_completed_successfully
|
||||
volumes:
|
||||
- ./secrets/tls/otel-agent.crt:/run/tls/otel-agent.crt:ro
|
||||
- ./secrets/tls/api-broker.crt:/run/tls/broker-client.crt:ro
|
||||
- ./secrets/tls/api-broker.key:/run/tls/broker-client.key:ro
|
||||
- ./secrets/tls/otel-api.crt:/run/tls/otel-agent.crt:ro
|
||||
- ./secrets/tls/api.key:/run/tls/api.key:ro
|
||||
- ./secrets/tls/api.crt:/run/tls/api.crt:ro
|
||||
- ./secrets/tls/api-bao.key:/run/tls/bao-client.key:ro
|
||||
- ./secrets/tls/api-bao.crt:/run/tls/bao-client.crt:ro
|
||||
- ./secrets/tls/otel-agent.key:/run/tls/otel-agent.key:ro
|
||||
- ./secrets/tls/otel-api.key:/run/tls/otel-agent.key:ro
|
||||
- ./secrets/tls/ca.crt:/run/tls/ca.crt:ro
|
||||
|
||||
cleanup:
|
||||
<<: *api-image
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
command: ["python", "-m", "app.core.cleanup", "--apply"]
|
||||
restart: unless-stopped
|
||||
environment:
|
||||
@@ -441,13 +450,18 @@ services:
|
||||
cpus: "0.25"
|
||||
memory: 256M
|
||||
volumes:
|
||||
- ./secrets/tls/otel-agent.crt:/run/tls/otel-agent.crt:ro
|
||||
- ./secrets/tls/cleanup-bao.key:/run/tls/bao-client.key:ro
|
||||
- ./secrets/tls/cleanup-bao.crt:/run/tls/bao-client.crt:ro
|
||||
- ./secrets/tls/otel-agent.key:/run/tls/otel-agent.key:ro
|
||||
- ./secrets/tls/ca.crt:/run/tls/ca.crt:ro
|
||||
|
||||
nginx:
|
||||
user: "101:101"
|
||||
read_only: true
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
tmpfs:
|
||||
- /var/cache/nginx:rw,noexec,nosuid,size=64m,mode=1777
|
||||
- /var/run:rw,noexec,nosuid,size=1m,mode=1777
|
||||
image: nginx:1.28.0-alpine
|
||||
restart: unless-stopped
|
||||
ports:
|
||||
@@ -474,6 +488,11 @@ services:
|
||||
- ./infra/nginx/nginx.conf:/etc/nginx/nginx.conf:ro
|
||||
|
||||
otel-collector:
|
||||
read_only: true
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
tmpfs:
|
||||
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
|
||||
image: otel/opentelemetry-collector-contrib:0.165.0
|
||||
command: ["--config=/etc/otelcol/config.yaml"]
|
||||
restart: unless-stopped
|
||||
@@ -485,7 +504,6 @@ services:
|
||||
volumes:
|
||||
- ./secrets/tls/otel-writer.key:/run/tls/otel-writer.key:ro
|
||||
- ./secrets/tls/otel-writer.crt:/run/tls/otel-writer.crt:ro
|
||||
- ./secrets/tls/otel-ingest-ca.crt:/run/tls/otel-ingest-ca.crt:ro
|
||||
- ./secrets/tls/otel-scrape-ca.crt:/run/tls/otel-scrape-ca.crt:ro
|
||||
- ./secrets/tls/collector.key:/run/tls/server.key:ro
|
||||
- ./secrets/tls/collector.crt:/run/tls/server.crt:ro
|
||||
@@ -493,6 +511,13 @@ services:
|
||||
- ./infra/otel/collector.yaml:/etc/otelcol/config.yaml:ro
|
||||
|
||||
collector-scrape:
|
||||
user: "101:101"
|
||||
read_only: true
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
tmpfs:
|
||||
- /var/cache/nginx:rw,noexec,nosuid,size=64m,mode=1777
|
||||
- /var/run:rw,noexec,nosuid,size=1m,mode=1777
|
||||
image: nginx:1.28.0-alpine
|
||||
network_mode: service:otel-collector
|
||||
restart: unless-stopped
|
||||
@@ -502,6 +527,7 @@ services:
|
||||
restart: true
|
||||
volumes:
|
||||
- ./infra/otel/collector-scrape.conf:/etc/nginx/nginx.conf:ro
|
||||
- ./secrets/tls/otel-ingest-ca.crt:/run/tls/otel-ingest-ca.crt:ro
|
||||
- ./secrets/tls/collector.crt:/run/tls/server.crt:ro
|
||||
- ./secrets/tls/collector.key:/run/tls/server.key:ro
|
||||
- ./secrets/tls/otel-scrape-ca.crt:/run/tls/otel-scrape-ca.crt:ro
|
||||
@@ -512,6 +538,11 @@ services:
|
||||
memory: 64M
|
||||
|
||||
prometheus:
|
||||
read_only: true
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
tmpfs:
|
||||
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
|
||||
image: prom/prometheus:v3.16.0
|
||||
command: ["--config.file=/etc/prometheus/prometheus.yml", "--storage.tsdb.retention.time=3d", "--web.config.file=/etc/prometheus/web.yml"]
|
||||
restart: unless-stopped
|
||||
@@ -533,6 +564,11 @@ services:
|
||||
- prometheusdata:/prometheus
|
||||
|
||||
loki:
|
||||
read_only: true
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
tmpfs:
|
||||
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
|
||||
image: grafana/loki:3.7.10
|
||||
command: ["-config.file=/etc/loki/config.yaml"]
|
||||
restart: unless-stopped
|
||||
@@ -550,8 +586,12 @@ services:
|
||||
- lokidata:/loki
|
||||
|
||||
tempo:
|
||||
read_only: true
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
tmpfs:
|
||||
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
|
||||
image: grafana/tempo:2.9.0
|
||||
user: "0:0"
|
||||
command: ["-config.file=/etc/tempo/config.yaml"]
|
||||
restart: unless-stopped
|
||||
deploy:
|
||||
@@ -569,6 +609,11 @@ services:
|
||||
- tempodata:/var/tempo
|
||||
|
||||
grafana:
|
||||
read_only: true
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
tmpfs:
|
||||
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
|
||||
image: grafana/grafana:13.3.1
|
||||
entrypoint: ["/bin/sh", "/etc/grafana/start.sh"]
|
||||
restart: unless-stopped
|
||||
@@ -609,6 +654,11 @@ services:
|
||||
- grafanadata:/var/lib/grafana
|
||||
|
||||
openbao:
|
||||
read_only: true
|
||||
cap_drop: [ALL]
|
||||
security_opt: [no-new-privileges:true]
|
||||
tmpfs:
|
||||
- /tmp:rw,noexec,nosuid,size=64m,mode=1777
|
||||
image: docker.io/openbao/openbao:2.7.1
|
||||
command: ["server", "-config=/etc/bao/bao.hcl"]
|
||||
restart: unless-stopped
|
||||
@@ -617,7 +667,6 @@ services:
|
||||
BAO_CACERT: /run/tls/ca.crt
|
||||
ports:
|
||||
- "127.0.0.1:${BAO_HOST_PORT:-18200}:8200"
|
||||
cap_drop: [IPC_LOCK]
|
||||
healthcheck:
|
||||
test: ["CMD", "bao", "status"]
|
||||
interval: 3s
|
||||
|
||||
@@ -1,19 +1,19 @@
|
||||
# Матрица доверия лабораторной 7
|
||||
|
||||
Серверы предъявляют сертификаты локального CA `ca.crt`. Клиенты проверяют цепочку и DNS SAN. Серверные и клиентские сертификаты выдаются на 30 дней, CA на 365 дней. Пароли DB, S3 и RabbitMQ статические, случайные и отдельные по ролям. OpenBao выдаёт токены на 10 минут.
|
||||
Серверы предъявляют сертификаты локального CA `ca.crt`. Клиенты проверяют цепочку и DNS SAN. Серверные и клиентские сертификаты выдаются на 30 дней, CA на 365 дней. Пароли PostgreSQL и MinIO назначаются отдельно по ролям. RabbitMQ сопоставляет клиентский сертификат с прикладной ролью. OpenBao выдаёт токены на 10 минут.
|
||||
|
||||
| Связь | Endpoint и аутентификация | Граница прав и проверка |
|
||||
| --- | --- | --- |
|
||||
| Клиент → ingress | `https://localhost:8443`, DNS SAN `localhost`, Bearer | Вход ограничен по IP. `make test test-security` проверяет API и недоверенный CA. Внутренний набор проверяет неверный hostname, 429, 413, logout и expiry. |
|
||||
| Клиент → ingress | `https://localhost:8443`, DNS SAN `localhost`, Bearer | Вход ограничен по IP общей зоной nginx, каждая реплика допускает до десяти активных проверок. `make test test-security` проверяет API и недоверенный CA. Внутренний набор проверяет неверный hostname, 429, 413, logout и expiry. |
|
||||
| Ingress → API | `api:8080`, TLS с проверкой SAN `api`, clientAuth и точным DNS SAN `load-balancer` | Нет опубликованного API-порта. `scripts.check_mtls` отправляет запрос на каждую реплику с правильной ролью и тремя запрещёнными сочетаниями. |
|
||||
| API, worker, publisher, cleanup → PostgreSQL | `postgres:5432`, TLS с проверкой имени, SCRAM-SHA-256 | Раздельные логины и табличные GRANT. Миграция и initial setup используют владельца. Обычные сетевые подключения отклоняются `pg_hba.conf`. |
|
||||
| API, worker → S3 | `https://minio:9000`, проверка имени, подписанные S3-запросы | Частный bucket, отдельные access keys. Worker читает и удаляет staging, пишет originals/variants. Права ограничены префиксами вложений. |
|
||||
| Publisher, worker → RabbitMQ | `broker:5671`, AMQP поверх TLS, проверка имени | Publisher пишет в default exchange, worker читает очередь вложений. Оба могут объявлять только эту durable queue. API записывает outbox в PostgreSQL. Порт Erlang distribution привязан к loopback. |
|
||||
| API, фоновые процессы → Collector | `https://otel-collector:4318`, mTLS с отдельным CA ingest | Сертификаты для других ролей телеметрии и публичный CA не открывают ingest. Для уровня 3 отправители используют общую роль `otel-agent`. |
|
||||
| API, publisher, worker → RabbitMQ | `broker:5671`, mTLS, SASL EXTERNAL сопоставляет CN с пользователем | Publisher пишет в default exchange, worker читает очередь вложений. Оба могут объявлять только эту durable queue. API пишет outbox в PostgreSQL. В аудит-проверке его отдельная роль подключается к брокеру без прав на ресурсы. Порт Erlang distribution привязан к loopback. |
|
||||
| API, worker, publisher → Collector | `https://otel-collector:4318`, mTLS с CA ingest и allowlist CN | Разрешены `otel-api`, `otel-worker`, `otel-publisher`. nginx проксирует только OTLP-пути в loopback `127.0.0.1:14318`. Сертификат посторонней роли от того же CA получает 403. |
|
||||
| Collector → Loki/Tempo | `https://loki:3100/otlp`, `https://tempo:4318`, mTLS `otel-writer` | Tempo принимает write CA на OTLP и read CA на API. Loki принимает write и read CA на общем HTTP listener. |
|
||||
| Prometheus → Collector | `https://otel-collector:8888/metrics`, `https://otel-collector:8889/metrics`, mTLS `otel-scraper` | На 8888 nginx и Collector делят сетевое пространство. Нативный SDK endpoint `127.0.0.1:8887` доступен только внутри него. Health Collector привязан к `127.0.0.1:13133`. |
|
||||
| Grafana → источники | `https://prometheus:9090`, `https://loki:3100`, `https://tempo:3200`, mTLS `otel-reader` | Сертификат действует для группы чтения. Проверка трёх реальных запросов через Grafana в `scripts.check_observability`. |
|
||||
| API, worker, publisher, cleanup → OpenBao | `https://openbao:8200`, проверка DNS SAN, cert auth с привязкой к конкретному leaf | Каждая роль читает только `messenger/data/<роль>`. Scoped token хранится в памяти на время чтения. Тест проверяет TTL, чужой путь, запись KV и политики. |
|
||||
| API, worker, publisher, cleanup → OpenBao | `https://openbao:8200`, проверка DNS SAN, cert auth с привязкой к конкретному leaf | Каждая роль читает только `messenger/data/<роль>`. Токен используется на время чтения. Проверки покрывают чужой путь, запись KV, политику, истечение TTL, seal и отзыв прежнего leaf. |
|
||||
| Оператор → OpenBao/Grafana/MinIO | `https://localhost:18200`, `https://localhost:13000`, `https://minio:9000` из bootstrap-контейнера | OpenBao и Grafana опубликованы на loopback. MinIO admin доступен из внутренней сети объектов через контейнер bootstrap. Root-учётки не монтируются в API и worker. |
|
||||
| API → Redis | `redis:6379`, TLS с проверкой DNS SAN, ACL `session` | Только ключи `session:*` и команды пинга, сессий и установки соединения. Привилегированный пользователь доступен в отдельном тестовом профиле. |
|
||||
| Репликация | N/A | API масштабируется горизонтально. Узлы БД, брокера, S3, телеметрии и OpenBao работают в единственном экземпляре. |
|
||||
@@ -21,3 +21,5 @@
|
||||
API healthcheck проверяет наличие локального TLS listener. Он не открывает отдельный порт бизнес-приложения. Готовность зависимостей проверяется через `/health/ready` за ingress. Внутренние gRPC-адреса Loki и Tempo привязаны к loopback. Начальная инициализация PostgreSQL выполняется через локальный Unix socket, а миграции используют TLS.
|
||||
|
||||
Оператор хранит CA и материалы распечатывания вне Git. Порядок выпуска сертификатов, init/unseal и восстановления описан в [инструкции OpenBao](../infra/openbao/README.md).
|
||||
|
||||
`make test-security-internal` подключается к обоим API и к зависимостям из тестовой сети. Аудит проверяет OTLP ingest, scrape, TLS-подключения к источникам Grafana, PostgreSQL, Redis, MinIO, RabbitMQ и OpenBao. Публичный тест проверяет ingress. Проверки приложений подтверждают рабочие запросы Grafana, TLS с правильным CA и ограничение операций PostgreSQL, S3 и брокера. `scripts.check_lifecycle` проверяет отзыв с повторным соединением и рабочим вложением.
|
||||
|
||||
@@ -2,6 +2,7 @@
|
||||
|
||||
- `verification.json` содержит этапы итогового прогона на отдельном тестовом проекте.
|
||||
- `observability.json` содержит агрегаты нагрузочного прогона, результаты проверок телеметрии и сценарии восстановления.
|
||||
- `security-scan.json` содержит результаты повторного скана зависимостей и трёх образов. Разбор находится в [security/SCAN.md](../security/SCAN.md).
|
||||
- `cleanup.json` подтверждает удаление ресурсов тестового стенда и тегов образов приложения после записи отчёта.
|
||||
|
||||
Полные логи, файлы ключей, пароли, токены и материалы распечатывания хранятся локально вне Git.
|
||||
|
||||
+2
-16
@@ -12,23 +12,9 @@
|
||||
"removed_app_image_tags": [
|
||||
"messenger-lab7-minio-bootstrap:local",
|
||||
"messenger-lab7-minio:local",
|
||||
"messenger-lab7:local",
|
||||
"messenger-minio-bootstrap:local",
|
||||
"messenger-minio:local",
|
||||
"messenger:local",
|
||||
"mns-infra-test-1795199922-136474-backend:local",
|
||||
"mns-infra-test-1795200152-153092-backend:local",
|
||||
"mns-test-1795186787-79726-migrate:latest",
|
||||
"mns-test-1795186787-79726-test:latest",
|
||||
"mns-test-1795187434-90286-migrate:latest",
|
||||
"mns-test-1795187434-90286-test:latest",
|
||||
"mns-test-1795199917-136213-migrate:latest",
|
||||
"mns-test-1795199917-136213-test:latest",
|
||||
"mns-test-1795200005-140265-migrate:latest",
|
||||
"mns-test-1795200005-140265-test:latest",
|
||||
"mns-test-1795200148-152833-migrate:latest",
|
||||
"mns-test-1795200148-152833-test:latest"
|
||||
"messenger-lab7:local"
|
||||
],
|
||||
"removed_scanner_image": "ghcr.io/aquasecurity/trivy:0.76.2",
|
||||
"remaining": {
|
||||
"containers": 0,
|
||||
"networks": 0,
|
||||
|
||||
+350
-350
File diff suppressed because it is too large
Load Diff
File diff suppressed because it is too large
Load Diff
+39
-15
@@ -1,5 +1,5 @@
|
||||
{
|
||||
"date_utc": "2026-11-21T13:08:31.144600+00:00",
|
||||
"date_utc": "2026-11-22T11:25:43.337347+00:00",
|
||||
"checks": [
|
||||
{
|
||||
"name": "contract",
|
||||
@@ -8,7 +8,7 @@
|
||||
"scripts/check_contract.py"
|
||||
],
|
||||
"exit_code": 0,
|
||||
"duration_seconds": 0.209,
|
||||
"duration_seconds": 0.093,
|
||||
"result": "PASS"
|
||||
},
|
||||
{
|
||||
@@ -18,7 +18,7 @@
|
||||
"scripts/validate_openapi.py"
|
||||
],
|
||||
"exit_code": 0,
|
||||
"duration_seconds": 2.868,
|
||||
"duration_seconds": 1.033,
|
||||
"result": "PASS"
|
||||
},
|
||||
{
|
||||
@@ -32,7 +32,7 @@
|
||||
"--quiet"
|
||||
],
|
||||
"exit_code": 0,
|
||||
"duration_seconds": 0.327,
|
||||
"duration_seconds": 0.146,
|
||||
"result": "PASS"
|
||||
},
|
||||
{
|
||||
@@ -43,7 +43,7 @@
|
||||
"test-stand-up"
|
||||
],
|
||||
"exit_code": 0,
|
||||
"duration_seconds": 67.291,
|
||||
"duration_seconds": 51.432,
|
||||
"result": "PASS"
|
||||
},
|
||||
{
|
||||
@@ -55,9 +55,9 @@
|
||||
"OTEL_ENABLED=false"
|
||||
],
|
||||
"exit_code": 0,
|
||||
"duration_seconds": 92.962,
|
||||
"duration_seconds": 99.026,
|
||||
"result": "PASS",
|
||||
"summary": "206 passed in 90.40s (0:01:30)"
|
||||
"summary": "208 passed in 96.32s (0:01:36)"
|
||||
},
|
||||
{
|
||||
"name": "api",
|
||||
@@ -68,7 +68,7 @@
|
||||
"https://localhost:28080"
|
||||
],
|
||||
"exit_code": 0,
|
||||
"duration_seconds": 2.211,
|
||||
"duration_seconds": 2.937,
|
||||
"result": "PASS"
|
||||
},
|
||||
{
|
||||
@@ -85,7 +85,7 @@
|
||||
"--restart-telemetry"
|
||||
],
|
||||
"exit_code": 0,
|
||||
"duration_seconds": 283.806,
|
||||
"duration_seconds": 272.094,
|
||||
"result": "PASS"
|
||||
},
|
||||
{
|
||||
@@ -101,7 +101,7 @@
|
||||
"https://localhost:28080"
|
||||
],
|
||||
"exit_code": 0,
|
||||
"duration_seconds": 39.793,
|
||||
"duration_seconds": 38.798,
|
||||
"result": "PASS"
|
||||
},
|
||||
{
|
||||
@@ -113,7 +113,7 @@
|
||||
"https://localhost:28080"
|
||||
],
|
||||
"exit_code": 0,
|
||||
"duration_seconds": 0.194,
|
||||
"duration_seconds": 0.101,
|
||||
"result": "PASS"
|
||||
},
|
||||
{
|
||||
@@ -128,14 +128,38 @@
|
||||
"28200"
|
||||
],
|
||||
"exit_code": 0,
|
||||
"duration_seconds": 14.192,
|
||||
"duration_seconds": 17.778,
|
||||
"result": "PASS",
|
||||
"summary": [
|
||||
"PASS: ограничения контейнеров, роли PostgreSQL и префиксы S3",
|
||||
"PASS: mTLS allow/deny на всех API-репликах",
|
||||
"PASS: TLS-зависимости, mTLS identity и ACL RabbitMQ/Collector",
|
||||
"PASS: OpenBao cert roles, KV allow/deny, TTL",
|
||||
"PASS: login burst 25 за 0.33 с, 10 проверок на 2 репликах, 15 ограничений",
|
||||
"PASS: hostname, ACL, logout, expiry, 429/Retry-After, 413",
|
||||
"PASS: Argon2id, медиана проверки 39.1 мс (15 попыток)"
|
||||
"PASS: Argon2id, медиана 32.0 мс, 24 проверки на 2 потоках за 0.82 с, CPU 35.7 мс/проверку, пиковый RSS 84.1 MiB"
|
||||
]
|
||||
},
|
||||
{
|
||||
"name": "lifecycle",
|
||||
"command": [
|
||||
"/home/gytall/Projects/HLA/mtusi2026lab6-fork/.venv/bin/python",
|
||||
"-m",
|
||||
"scripts.check_lifecycle",
|
||||
"--base-url",
|
||||
"https://localhost:28080",
|
||||
"--bao-port",
|
||||
"28200"
|
||||
],
|
||||
"exit_code": 0,
|
||||
"duration_seconds": 9.768,
|
||||
"result": "PASS",
|
||||
"summary": [
|
||||
"PASS: короткоживущий токен теряет доступ после TTL",
|
||||
"OpenBao распечатан",
|
||||
"PASS: при seal текущий API готов, новая выдача запрещена",
|
||||
"PASS: пароль PostgreSQL и клиентский сертификат worker заменены без сборки",
|
||||
"PASS: старый leaf и токен отозваны, worker обработал вложение с новым паролем"
|
||||
]
|
||||
},
|
||||
{
|
||||
@@ -151,7 +175,7 @@
|
||||
"https://localhost:28080"
|
||||
],
|
||||
"exit_code": 0,
|
||||
"duration_seconds": 18.433,
|
||||
"duration_seconds": 17.408,
|
||||
"result": "PASS"
|
||||
}
|
||||
],
|
||||
@@ -166,5 +190,5 @@
|
||||
"project": "messenger-lab7-test",
|
||||
"result": "DEFERRED"
|
||||
},
|
||||
"finished_at_utc": "2026-11-21T13:17:13.431181+00:00"
|
||||
"finished_at_utc": "2026-11-22T11:34:13.952765+00:00"
|
||||
}
|
||||
|
||||
+1
-1
@@ -1,6 +1,6 @@
|
||||
# Инфраструктура стенда
|
||||
|
||||
`compose.yaml` описывает рабочую топологию. nginx принимает HTTPS и распределяет запросы по двум API-репликам через mTLS. PostgreSQL хранит сообщения и состояние заданий, Redis хранит сессии, RabbitMQ доставляет задания обработчику, а MinIO содержит приватный bucket вложений. OpenBao выдаёт доступ к паролям PostgreSQL по сервисным cert-ролям.
|
||||
`compose.yaml` описывает рабочую топологию. nginx принимает HTTPS и распределяет запросы по двум API-репликам через mTLS. PostgreSQL хранит сообщения и состояние заданий, Redis хранит сессии, RabbitMQ доставляет задания обработчику, а MinIO содержит приватный bucket вложений. OpenBao выдаёт доступ к паролям PostgreSQL по сервисным cert-ролям. RabbitMQ и Collector проверяют cert-роль клиента, а образы приложения запускаются с файловой системой только для чтения.
|
||||
|
||||
Конфигурация сервисов находится в этом каталоге. Сертификаты и секреты выпускает оператор командой `make init`. Миграции PostgreSQL, настройка MinIO и provisioning Grafana выполняются при запуске. Готовность бизнес-зависимостей проверяется через `/health/ready` за nginx.
|
||||
|
||||
|
||||
@@ -0,0 +1 @@
|
||||
[rabbitmq_auth_mechanism_ssl].
|
||||
@@ -4,8 +4,11 @@ ssl_options.certfile = /run/tls/server.crt
|
||||
ssl_options.keyfile = /run/tls/server.key
|
||||
ssl_options.versions.1 = tlsv1.3
|
||||
ssl_options.versions.2 = tlsv1.2
|
||||
ssl_options.verify = verify_none
|
||||
ssl_options.fail_if_no_peer_cert = false
|
||||
ssl_options.cacertfile = /run/tls/broker-client-ca.crt
|
||||
ssl_options.verify = verify_peer
|
||||
ssl_options.fail_if_no_peer_cert = true
|
||||
auth_mechanisms.1 = EXTERNAL
|
||||
ssl_cert_login_from = common_name
|
||||
distribution.listener.interface = 127.0.0.1
|
||||
definitions.import_backend = local_filesystem
|
||||
definitions.local.path = /run/secrets/broker_definitions.json
|
||||
|
||||
@@ -9,3 +9,13 @@ OpenBao 2.7.1 слушает HTTPS на 8200. TLS-конфигурация на
|
||||
При старте API, worker, publisher и cleanup загружают пароли БД по TLS. Каждый сертификат регистрируется как точный leaf своей cert-роли. У роли нет default policy, токен живёт 10 минут, право ограничено чтением собственного KV-пути. Пароль сохраняется в памяти процесса, токен после чтения отбрасывается. При следующем запуске сервис повторно аутентифицируется. Уже запущенные сервисы могут обрабатывать запросы во время seal, пока действуют ранее загруженные пароли. [Документация cert auth](https://openbao.org/docs/auth/cert/)
|
||||
|
||||
При компрометации оператор удаляет соответствующую cert-роль и отзывает выданные токены, меняет пароль в PostgreSQL и KV, перевыпускает leaf и перезапускает сервис. Для стенда используется ручная процедура. Сценарии автоматической ротации и отзыва под нагрузкой относятся к следующим уровням.
|
||||
|
||||
## Ротация worker
|
||||
|
||||
`python3 -m scripts.rotate_worker --bao-port 18200` останавливает worker, меняет пароль его PostgreSQL-логина и соответствующее значение KV, выпускает новый leaf под тем же локальным CA и заменяет разрешённый leaf cert-роли. Контейнер пересоздаётся из текущего образа. При исключении выполняется попытка восстановить прежние значения и контейнер.
|
||||
|
||||
Команда использует локальные секреты текущего Compose-проекта. Выполняйте её при остановленном втором проекте, если оба используют один каталог `secrets/`. Доступ оператора нужен к CA, OpenBao и локальной роли администрирования PostgreSQL. Ротация leaf меняет право на получение новых токенов. Уже выданный токен сохраняет права до истечения TTL или отдельного отзыва по accessor.
|
||||
|
||||
Сервис при каждом старте снова аутентифицируется сертификатом. Он использует десятиминутный токен для одного чтения и не требует периодического продления. Для продления доверия к worker оператор выпускает новый leaf до истечения срока текущего. [API OpenBao для токенов](https://openbao.org/docs/api/auth/token/)
|
||||
|
||||
`scripts.check_lifecycle` проверяет истечение отдельного трёхсекундного токена, работу текущих процессов во время seal, отказ чтения из нового процесса, ротацию, отзыв тестового токена и обработку вложения после ротации.
|
||||
|
||||
@@ -1,6 +1,6 @@
|
||||
# Наблюдаемость Messenger
|
||||
|
||||
API, publisher и worker экспортируют метрики, логи и трассы по OTLP HTTP/protobuf на `otel-collector:4318` с TLS и сертификатом роли ingest. Collector отправляет логи в Loki и трассы в Tempo с write identity. Grafana читает три источника через read identity. Prometheus собирает метрики с TLS и scrape identity.
|
||||
API, publisher и worker экспортируют метрики, логи и трассы по OTLP HTTP/protobuf на `otel-collector:4318` через mTLS с отдельными cert-ролями `otel-api`, `otel-publisher` и `otel-worker`. nginx проверяет цепочку и CN, затем передаёт запрос в локальный OTLP-порт 14318. Collector отправляет логи в Loki и трассы в Tempo с write identity. Grafana читает три источника через read identity. Prometheus собирает метрики с TLS и scrape identity.
|
||||
|
||||
У Collector HTTPS-экспорт метрик приложения работает на 8889. Метрики самого SDK на loopback 8887 проходят через `collector-scrape` на HTTPS 8888. Службы в других контейнерах не могут обратиться к plaintext-порту. Grafana доступна по HTTPS на loopback, анонимный доступ выключен.
|
||||
|
||||
|
||||
@@ -1,6 +1,29 @@
|
||||
events {}
|
||||
|
||||
http {
|
||||
map $ssl_client_s_dn $ingest_allowed {
|
||||
default 0;
|
||||
CN=otel-api 1;
|
||||
CN=otel-worker 1;
|
||||
CN=otel-publisher 1;
|
||||
}
|
||||
|
||||
server {
|
||||
listen 4318 ssl;
|
||||
ssl_certificate /run/tls/server.crt;
|
||||
ssl_certificate_key /run/tls/server.key;
|
||||
ssl_client_certificate /run/tls/otel-ingest-ca.crt;
|
||||
ssl_verify_client on;
|
||||
ssl_protocols TLSv1.2 TLSv1.3;
|
||||
|
||||
location ~ ^/v1/(logs|metrics|traces)$ {
|
||||
if ($ingest_allowed = 0) { return 403; }
|
||||
proxy_pass http://127.0.0.1:14318;
|
||||
}
|
||||
|
||||
location / { return 404; }
|
||||
}
|
||||
|
||||
server {
|
||||
listen 8888 ssl;
|
||||
ssl_certificate /run/tls/server.crt;
|
||||
|
||||
@@ -2,11 +2,7 @@ receivers:
|
||||
otlp:
|
||||
protocols:
|
||||
http:
|
||||
endpoint: 0.0.0.0:4318
|
||||
tls:
|
||||
cert_file: /run/tls/server.crt
|
||||
key_file: /run/tls/server.key
|
||||
client_ca_file: /run/tls/otel-ingest-ca.crt
|
||||
endpoint: 127.0.0.1:14318
|
||||
processors:
|
||||
memory_limiter:
|
||||
check_interval: 1s
|
||||
|
||||
+1
-1
@@ -3,7 +3,7 @@ annotated-doc==0.0.5
|
||||
annotated-types==0.8.0
|
||||
anyio==4.15.1
|
||||
attrs==26.1.0
|
||||
certifi==2026.7.22
|
||||
certifi==2026.10.19
|
||||
charset-normalizer==3.5.2
|
||||
click==8.5.0
|
||||
fastapi==0.143.3
|
||||
|
||||
@@ -0,0 +1,140 @@
|
||||
"""Проверки TLS внутри сети Compose на закреплённых версиях клиентов."""
|
||||
|
||||
import asyncio
|
||||
from pathlib import Path
|
||||
import socket
|
||||
import ssl
|
||||
import time
|
||||
from urllib.error import HTTPError, URLError
|
||||
from urllib.request import Request, urlopen
|
||||
|
||||
import aio_pika
|
||||
import asyncpg
|
||||
from aiormq.exceptions import ChannelAccessRefused
|
||||
from opentelemetry.proto.collector.logs.v1.logs_service_pb2 import ExportLogsServiceRequest
|
||||
|
||||
from app.core.jobs import JobSettings
|
||||
from app.storage.broker import connect_broker
|
||||
|
||||
CERTS = Path("/certificates")
|
||||
|
||||
|
||||
def context(identity=None):
|
||||
tls = ssl.create_default_context(cafile=str(CERTS / "ca.crt"))
|
||||
if identity:
|
||||
tls.load_cert_chain(CERTS / f"{identity}.crt", CERTS / f"{identity}.key")
|
||||
return tls
|
||||
|
||||
|
||||
def http(host, port, path, identity=None, *, body=None):
|
||||
request = Request(f"https://{host}:{port}{path}", data=body, headers={
|
||||
"Content-Type": "application/x-protobuf",
|
||||
})
|
||||
try:
|
||||
with urlopen(request, context=context(identity), timeout=4) as response:
|
||||
return response.status
|
||||
except HTTPError as error:
|
||||
return error.code
|
||||
except (ssl.SSLError, ConnectionError):
|
||||
return 0
|
||||
except URLError as error:
|
||||
if isinstance(error.reason, (ssl.SSLError, ConnectionError)):
|
||||
return 0
|
||||
raise
|
||||
|
||||
|
||||
def check_http():
|
||||
for role in ("otel-api", "otel-worker", "otel-publisher"):
|
||||
assert http("otel-collector", 4318, "/v1/traces", role, body=b"") == 200
|
||||
assert http("otel-collector", 4318, "/v1/traces", "otel-wrong-role", body=b"") == 403
|
||||
for role in (None, "foreign-client"):
|
||||
assert http("otel-collector", 4318, "/v1/traces", role, body=b"") in (0, 400)
|
||||
for port in (8888, 8889):
|
||||
assert http("otel-collector", port, "/metrics", "otel-scraper") == 200
|
||||
assert http("otel-collector", port, "/metrics", "otel-api") in (0, 400)
|
||||
status = http("loki", 3100, "/loki/api/v1/labels", "otel-reader")
|
||||
assert status == 200, ("loki", status)
|
||||
status = http("tempo", 3200, "/api/search?limit=1", "otel-reader")
|
||||
assert status == 200, ("tempo", status)
|
||||
assert http("prometheus", 9090, "/-/ready", "otel-reader") == 200
|
||||
assert http("tempo", 4318, "/v1/traces", "otel-writer", body=b"") == 200
|
||||
assert http("tempo", 4318, "/v1/traces", "otel-reader", body=b"") == 0
|
||||
logs = ExportLogsServiceRequest()
|
||||
resource = logs.resource_logs.add()
|
||||
resource.resource.attributes.add(key="service.name").value.string_value = "tls-audit"
|
||||
event = resource.scope_logs.add().log_records.add(time_unix_nano=time.time_ns())
|
||||
event.body.string_value = "synthetic TLS audit"
|
||||
status = http("loki", 3100, "/otlp/v1/logs", "otel-writer", body=logs.SerializeToString())
|
||||
assert status in (200, 204), ("loki ingest", status)
|
||||
assert http("loki", 3100, "/ready", "otel-api") == 0
|
||||
assert http("grafana", 3000, "/api/datasources") == 401
|
||||
assert http("minio", 9000, "/minio/health/ready") == 200
|
||||
assert http("openbao", 8200, "/v1/sys/health") == 200
|
||||
|
||||
for port in (14318, 8887, 13133):
|
||||
try:
|
||||
with socket.create_connection(("otel-collector", port), 2):
|
||||
pass
|
||||
except ConnectionRefusedError:
|
||||
continue
|
||||
raise AssertionError(f"Loopback-порт Collector {port} доступен извне")
|
||||
|
||||
|
||||
async def check_broker():
|
||||
async def connect(identity):
|
||||
return await connect_broker(JobSettings(
|
||||
broker_port=5671, broker_ca_file=str(CERTS / "ca.crt"),
|
||||
broker_cert_file=str(CERTS / f"{identity}.crt"),
|
||||
broker_key_file=str(CERTS / f"{identity}.key"),
|
||||
))
|
||||
|
||||
for role in ("api-broker", "attachment-worker", "attachment-publisher"):
|
||||
async with await connect(role) as connection:
|
||||
assert not connection.is_closed
|
||||
for role in ("broker-wrong-role", "foreign-client"):
|
||||
try:
|
||||
async with await connect(role):
|
||||
pass
|
||||
except (aio_pika.exceptions.AMQPException, OSError):
|
||||
continue
|
||||
raise AssertionError(f"RabbitMQ принял запрещённую identity: {role}")
|
||||
|
||||
try:
|
||||
async with await aio_pika.connect(host="broker", port=5671, ssl=True,
|
||||
ssl_context=context(), auth="external", timeout=4):
|
||||
pass
|
||||
except (aio_pika.exceptions.AMQPException, OSError):
|
||||
pass
|
||||
else:
|
||||
raise AssertionError("RabbitMQ принял соединение без сертификата")
|
||||
|
||||
async with await connect("api-broker") as connection:
|
||||
channel = await connection.channel()
|
||||
try:
|
||||
await channel.declare_queue("scope-audit-probe", auto_delete=True)
|
||||
except ChannelAccessRefused:
|
||||
pass
|
||||
else:
|
||||
raise AssertionError("Роль API смогла объявить очередь")
|
||||
|
||||
|
||||
async def check_database():
|
||||
try:
|
||||
await asyncpg.connect(host="postgres", user="worker", database="postgres",
|
||||
ssl=False, timeout=3)
|
||||
except asyncpg.InvalidAuthorizationSpecificationError as error:
|
||||
assert "rejects connection" in str(error)
|
||||
else:
|
||||
raise AssertionError("PostgreSQL принял plaintext")
|
||||
|
||||
with socket.create_connection(("redis", 6379), 3) as raw:
|
||||
with context().wrap_socket(raw, server_hostname="redis") as tls:
|
||||
tls.sendall(b"*1\r\n$4\r\nPING\r\n")
|
||||
assert tls.recv(128).startswith(b"-NOAUTH")
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
check_http()
|
||||
asyncio.run(check_broker())
|
||||
asyncio.run(check_database())
|
||||
print("PASS: TLS-зависимости, mTLS identity и ACL RabbitMQ/Collector")
|
||||
@@ -15,20 +15,32 @@ TLS = ROOT / "secrets/tls"
|
||||
ROLES = ("api", "worker", "publisher", "cleanup")
|
||||
|
||||
|
||||
def bootstrap(port: int, *, unseal_only: bool = False) -> None:
|
||||
address = f"https://localhost:{port}"
|
||||
context = ssl.create_default_context(cafile=str(TLS / "ca.crt"))
|
||||
opener = build_opener(NoRedirect(), HTTPSHandler(context=context))
|
||||
class Bao:
|
||||
def __init__(self, port: int, certificate: Path | None = None, key: Path | None = None):
|
||||
self.address = f"https://localhost:{port}/v1/"
|
||||
context = ssl.create_default_context(cafile=str(TLS / "ca.crt"))
|
||||
if certificate:
|
||||
context.load_cert_chain(certificate, key)
|
||||
self.opener = build_opener(NoRedirect(), HTTPSHandler(context=context))
|
||||
|
||||
def call(path, payload=None, *, token=None, method=None):
|
||||
def call(self, path, payload=None, *, token=None, method=None):
|
||||
headers = {"Content-Type": "application/json"}
|
||||
if token:
|
||||
headers["X-Vault-Token"] = token
|
||||
request = Request(address + "/v1/" + path, headers=headers, method=method,
|
||||
request = Request(self.address + path, headers=headers, method=method,
|
||||
data=None if payload is None else json.dumps(payload).encode())
|
||||
with opener.open(request, timeout=3) as response:
|
||||
with self.opener.open(request, timeout=5) as response:
|
||||
body = response.read()
|
||||
return json.loads(body) if body else None
|
||||
return json.loads(body) if body else None
|
||||
|
||||
|
||||
def operator_token(port: int) -> str:
|
||||
config = ROOT / f"secrets/bao-operator/operator-{port}.json"
|
||||
return json.loads(config.read_text())["root_token"]
|
||||
|
||||
|
||||
def bootstrap(port: int, *, unseal_only: bool = False) -> None:
|
||||
call = Bao(port).call
|
||||
|
||||
deadline = time.monotonic() + 30
|
||||
while True:
|
||||
|
||||
@@ -0,0 +1,83 @@
|
||||
"""Испытания TTL, распечатывания и отзыва cert identity OpenBao."""
|
||||
|
||||
import argparse
|
||||
import time
|
||||
from urllib.error import HTTPError
|
||||
|
||||
from scripts.bootstrap_bao import TLS, Bao, bootstrap, operator_token
|
||||
from scripts.deployment import ComposeProject
|
||||
from scripts.rotate_worker import cert_role, rotate
|
||||
from tests.client import Client
|
||||
|
||||
|
||||
def deny(call, codes=(400, 403)):
|
||||
try:
|
||||
call()
|
||||
except HTTPError as error:
|
||||
assert error.code in codes, error.code
|
||||
return
|
||||
raise AssertionError("OpenBao разрешил запрещённую операцию")
|
||||
|
||||
|
||||
def main():
|
||||
parser = argparse.ArgumentParser(description=__doc__)
|
||||
parser.add_argument("--base-url", required=True)
|
||||
parser.add_argument("--bao-port", required=True, type=int)
|
||||
args = parser.parse_args()
|
||||
project = ComposeProject()
|
||||
port = args.bao_port
|
||||
client = Client(args.base_url, str(TLS / "ca.crt"))
|
||||
cert, key = TLS / "worker-bao.crt", TLS / "worker-bao.key"
|
||||
operator, old_identity = Bao(port), Bao(port, cert, key)
|
||||
root = operator_token(port)
|
||||
probe = "auth/cert/certs/worker-expiry-probe"
|
||||
secret = "messenger/data/worker"
|
||||
|
||||
def login(bao, role="worker"):
|
||||
return bao.call("auth/cert/login", {"name": role})["auth"]
|
||||
|
||||
operator.call(probe, cert_role(cert, "worker", "3s"), token=root)
|
||||
try:
|
||||
temporary = login(old_identity, "worker-expiry-probe")
|
||||
assert 0 < temporary["lease_duration"] <= 3
|
||||
old_identity.call(secret, token=temporary["client_token"])
|
||||
time.sleep(temporary["lease_duration"] + 1)
|
||||
deny(lambda: old_identity.call(secret, token=temporary["client_token"]))
|
||||
finally:
|
||||
operator.call(probe, token=root, method="DELETE")
|
||||
print("PASS: короткоживущий токен теряет доступ после TTL")
|
||||
|
||||
operator.call("sys/seal", {}, token=root)
|
||||
try:
|
||||
client.call("GET", "/health/ready", schema="Health")
|
||||
deny(lambda: login(old_identity), (503,))
|
||||
try:
|
||||
project.run("exec", "-T", "worker", "python", "-c",
|
||||
"from app.core.bao import database_secret; database_secret()")
|
||||
except RuntimeError as error:
|
||||
assert "Не удалось получить секрет DB" in str(error)
|
||||
else:
|
||||
raise AssertionError("Новый процесс получил секрет из sealed OpenBao")
|
||||
finally:
|
||||
bootstrap(port, unseal_only=True)
|
||||
print("PASS: при seal текущий API готов, новая выдача запрещена")
|
||||
|
||||
old_token = login(old_identity)
|
||||
original = old_identity.call(secret, token=old_token["client_token"])["data"]["data"]["db_password"]
|
||||
actor, _, _, chat = client.bootstrap()
|
||||
image = project.run("images", "-q", "worker")
|
||||
rotate(project, port)
|
||||
operator.call("auth/token/revoke-accessor", {"accessor": old_token["accessor"]}, token=root)
|
||||
deny(lambda: login(old_identity))
|
||||
deny(lambda: old_identity.call(secret, token=old_token["client_token"]))
|
||||
new_identity = Bao(port, cert, key)
|
||||
new_token = login(new_identity)["client_token"]
|
||||
assert new_identity.call(secret, token=new_token)["data"]["data"]["db_password"] != original
|
||||
assert project.run("images", "-q", "worker") == image
|
||||
attachment, _ = client.attachment(actor, chat)
|
||||
client.wait_ready(actor, attachment, wait_seconds=60)
|
||||
print("PASS: старый leaf и токен отозваны, worker обработал вложение с новым паролем")
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
main()
|
||||
+72
-10
@@ -1,7 +1,8 @@
|
||||
"""Сквозные проверки уровня 3 для запущенного HTTPS-стенда."""
|
||||
"""Сквозные проверки защиты для запущенного HTTPS-стенда."""
|
||||
|
||||
import argparse
|
||||
import base64
|
||||
from concurrent.futures import ThreadPoolExecutor
|
||||
import hashlib
|
||||
import json
|
||||
from pathlib import Path
|
||||
@@ -64,15 +65,42 @@ asyncio.run(probe())
|
||||
"""
|
||||
|
||||
|
||||
ROOTFS_PROBE = """
|
||||
from os import ST_RDONLY, statvfs
|
||||
from tempfile import TemporaryFile
|
||||
|
||||
assert statvfs("/app").f_flag & ST_RDONLY
|
||||
with TemporaryFile(dir="/tmp") as temporary:
|
||||
temporary.write(b"tmpfs probe")
|
||||
"""
|
||||
|
||||
API_BROKER_PROBE = """
|
||||
import asyncio
|
||||
from app.core.jobs import JobSettings
|
||||
from app.storage.broker import connect_broker
|
||||
|
||||
|
||||
async def probe():
|
||||
async with await connect_broker(JobSettings()) as connection:
|
||||
assert not connection.is_closed
|
||||
|
||||
|
||||
asyncio.run(probe())
|
||||
"""
|
||||
|
||||
|
||||
def probe_deployment(project: ComposeProject) -> None:
|
||||
services = project.config["services"]
|
||||
for name in ("api", "worker"):
|
||||
service = services[name]
|
||||
assert not service.get("ports")
|
||||
assert "ALL" in service["cap_drop"]
|
||||
assert "ALL" in service["cap_drop"] and service["read_only"]
|
||||
assert "no-new-privileges:true" in service["security_opt"]
|
||||
assert service["tmpfs"]
|
||||
assert service["deploy"]["resources"]["limits"]["memory"]
|
||||
uid = project.run("exec", "-T", name, "id", "-u")
|
||||
assert int(uid) > 0
|
||||
project.run("exec", "-T", name, "python", "-c", ROOTFS_PROBE)
|
||||
for service in services.values():
|
||||
assert not service.get("privileged") and service.get("network_mode") != "host"
|
||||
assert all(mount["target"] != "/var/run/docker.sock"
|
||||
@@ -104,6 +132,22 @@ def probe_mtls(project: ComposeProject) -> None:
|
||||
print(output)
|
||||
|
||||
|
||||
def audit_dependencies(project: ComposeProject) -> None:
|
||||
command = ["run", "--rm", "--network", project.name + "_default",
|
||||
"--network", project.name + "_objects",
|
||||
"-v", f"{ROOT / 'scripts/audit_tls.py'}:/app/audit_tls.py:ro",
|
||||
"-v", f"{TLS / 'ca.crt'}:/certificates/ca.crt:ro"]
|
||||
for role in ("otel-api", "otel-worker", "otel-publisher", "otel-wrong-role",
|
||||
"otel-reader", "otel-writer", "otel-scraper", "api-broker",
|
||||
"attachment-worker", "attachment-publisher", "broker-wrong-role", "foreign-client"):
|
||||
for extension in ("crt", "key"):
|
||||
name = f"{role}.{extension}"
|
||||
command.extend(("-v", f"{TLS / name}:/certificates/{name}:ro"))
|
||||
project.run("exec", "-T", "api", "python", "-c", API_BROKER_PROBE)
|
||||
image = project.config["services"]["api"]["image"]
|
||||
print(project.docker(*command, image, "python", "-m", "audit_tls"))
|
||||
|
||||
|
||||
def probe_bao(port: int) -> None:
|
||||
def call(context, path, *, token=None, data=None):
|
||||
headers = {"Content-Type": "application/json"}
|
||||
@@ -178,19 +222,28 @@ def probe_http(base: str, project: ComposeProject) -> None:
|
||||
time.sleep(0.1)
|
||||
client.call("GET", "/api/v1/users/me", 401, actor=outsider)
|
||||
|
||||
basic = "Basic " + base64.b64encode(b"unknown:wrong").decode()
|
||||
basic = "Basic " + base64.b64encode(b"unknown:synthetic-password").decode()
|
||||
login = base + "/api/v1/auth/sessions"
|
||||
for _ in range(25):
|
||||
|
||||
def login_attempt(_):
|
||||
request = Request(login, data=b"", headers={"Authorization": basic})
|
||||
try:
|
||||
urlopen(request, context=tls, timeout=5)
|
||||
except HTTPError as error:
|
||||
if error.code == 429:
|
||||
assert int(error.headers["Retry-After"]) > 0
|
||||
break
|
||||
assert error.code == 401
|
||||
else:
|
||||
raise AssertionError("Лимит входа не сработал")
|
||||
return error.code, error.headers.get("X-Instance-Id")
|
||||
raise AssertionError("Неизвестный пользователь получил сессию")
|
||||
|
||||
started = time.monotonic()
|
||||
with ThreadPoolExecutor(max_workers=12) as pool:
|
||||
results = list(pool.map(login_attempt, range(25)))
|
||||
statuses = [status for status, _ in results]
|
||||
replicas = {instance for status, instance in results if status == 401 and instance}
|
||||
assert set(statuses) == {401, 429} and len(replicas) >= 2, (statuses, len(replicas))
|
||||
print(f"PASS: login burst 25 за {time.monotonic() - started:.2f} с, "
|
||||
f"{statuses.count(401)} проверок на {len(replicas)} репликах, "
|
||||
f"{statuses.count(429)} ограничений")
|
||||
|
||||
try:
|
||||
urlopen(Request(login, data=b"x" * 17000), context=tls, timeout=5)
|
||||
@@ -203,8 +256,10 @@ def probe_http(base: str, project: ComposeProject) -> None:
|
||||
|
||||
def measure_argon2(project: ComposeProject) -> None:
|
||||
probe = """
|
||||
from concurrent.futures import ThreadPoolExecutor
|
||||
from resource import RUSAGE_SELF, getrusage
|
||||
from statistics import median
|
||||
from time import perf_counter
|
||||
from time import perf_counter, process_time
|
||||
|
||||
from app.core.security import _hash_password_sync, _verify_password_sync
|
||||
|
||||
@@ -216,7 +271,13 @@ for _ in range(15):
|
||||
started = perf_counter()
|
||||
assert _verify_password_sync(password, encoded)
|
||||
timings.append((perf_counter() - started) * 1000)
|
||||
print(f"PASS: Argon2id, медиана проверки {median(timings):.1f} мс (15 попыток)")
|
||||
wall, cpu = perf_counter(), process_time()
|
||||
with ThreadPoolExecutor(max_workers=2) as pool:
|
||||
assert all(pool.map(lambda _: _verify_password_sync(password, encoded), range(24)))
|
||||
wall, cpu = perf_counter() - wall, process_time() - cpu
|
||||
print(f"PASS: Argon2id, медиана {median(timings):.1f} мс, 24 проверки на 2 потоках "
|
||||
f"за {wall:.2f} с, CPU {cpu / 24 * 1000:.1f} мс/проверку, "
|
||||
f"пиковый RSS {getrusage(RUSAGE_SELF).ru_maxrss / 1024:.1f} MiB")
|
||||
"""
|
||||
print(project.run("exec", "-T", "api", "python", "-c", probe))
|
||||
|
||||
@@ -229,6 +290,7 @@ def main() -> None:
|
||||
project = ComposeProject()
|
||||
probe_deployment(project)
|
||||
probe_mtls(project)
|
||||
audit_dependencies(project)
|
||||
probe_bao(args.bao_port)
|
||||
probe_http(args.base_url, project)
|
||||
measure_argon2(project)
|
||||
|
||||
@@ -28,12 +28,13 @@ class ComposeProject:
|
||||
self.config = json.loads(self.run("config", "--format", "json"))
|
||||
self.name = self.config["name"]
|
||||
|
||||
def docker(self, *args: str, timeout: int = 90, env=None) -> str:
|
||||
def docker(self, *args: str, timeout: int = 90, env=None, input_text=None) -> str:
|
||||
"""Выполняет Docker-команду с ограничением времени."""
|
||||
result = subprocess.run(
|
||||
["docker", *args],
|
||||
cwd=ROOT,
|
||||
text=True,
|
||||
input=input_text,
|
||||
capture_output=True,
|
||||
timeout=timeout,
|
||||
env={**os.environ, **(env or {})},
|
||||
@@ -42,9 +43,9 @@ class ComposeProject:
|
||||
raise RuntimeError(result.stderr.strip() or result.stdout.strip())
|
||||
return result.stdout.strip()
|
||||
|
||||
def run(self, *args: str, timeout: int = 90, env=None) -> str:
|
||||
def run(self, *args: str, timeout: int = 90, env=None, input_text=None) -> str:
|
||||
"""Выполняет команду Compose с текущими overrides."""
|
||||
return self.docker(*self.command[1:], *args, timeout=timeout, env=env)
|
||||
return self.docker(*self.command[1:], *args, timeout=timeout, env=env, input_text=input_text)
|
||||
|
||||
def replicas(self) -> list[Replica]:
|
||||
"""Читает состояние API без окружения контейнеров."""
|
||||
@@ -170,7 +171,7 @@ def verify(*, keep_stand=False):
|
||||
summary = re.search(r'\d+ passed[^\n]*', result.stdout)
|
||||
if summary:
|
||||
entry['summary'] = summary.group(0)
|
||||
if name == 'security' and not result.returncode:
|
||||
if name in ('security', 'lifecycle') and not result.returncode:
|
||||
entry['summary'] = result.stdout.strip().splitlines()
|
||||
print(result.stdout.strip(), flush=True)
|
||||
if result.returncode:
|
||||
@@ -200,6 +201,8 @@ def verify(*, keep_stand=False):
|
||||
run('external-tls', [sys.executable, 'tests/security.py', '--base-url', 'https://localhost:28080'])
|
||||
run('security', [sys.executable, '-m', 'scripts.check_security',
|
||||
'--base-url', 'https://localhost:28080', '--bao-port', bao_port])
|
||||
run('lifecycle', [sys.executable, '-m', 'scripts.check_lifecycle',
|
||||
'--base-url', 'https://localhost:28080', '--bao-port', bao_port])
|
||||
run('failover', [sys.executable, 'tests/resilience.py', '--mode', 'failover',
|
||||
'--action-script', 'scripts/stop-one.sh', '--base-url', 'https://localhost:28080'])
|
||||
report['result'] = 'PASS'
|
||||
|
||||
+25
-27
@@ -1,34 +1,32 @@
|
||||
"""Готовит RabbitMQ definitions с хешами паролей и правами очереди."""
|
||||
"""Готовит cert-пользователей RabbitMQ и их права очереди."""
|
||||
|
||||
import base64
|
||||
import hashlib
|
||||
import json
|
||||
import os
|
||||
from pathlib import Path
|
||||
import re
|
||||
|
||||
|
||||
def initialize(directory: Path, queue: str, vhost: str, admin: str) -> None:
|
||||
users, permissions = [], []
|
||||
for name, filename, read, write in (
|
||||
(admin, "broker_password", ".*", ".*"),
|
||||
("attachment-publisher", "publisher_broker_password", "^$", "^amq\\.default$"),
|
||||
("attachment-worker", "worker_broker_password", f"^{re.escape(queue)}$", "^$a"),
|
||||
):
|
||||
salt = os.urandom(4)
|
||||
password = (directory / filename).read_bytes().strip()
|
||||
digest = hashlib.sha256(salt + password).digest()
|
||||
users.append({
|
||||
"name": name, "password_hash": base64.b64encode(salt + digest).decode(),
|
||||
"hashing_algorithm": "rabbit_password_hashing_sha256",
|
||||
"tags": ["administrator"] if name == admin else [],
|
||||
})
|
||||
permissions.append({
|
||||
"user": name, "vhost": vhost, "read": read, "write": write,
|
||||
"configure": ".*" if name == admin else f"^{re.escape(queue)}$",
|
||||
})
|
||||
def initialize(directory: Path, queue: str, vhost: str) -> None:
|
||||
queue_pattern = f"^{re.escape(queue)}$"
|
||||
denied = "^$a"
|
||||
roles = (
|
||||
("api-broker", denied, denied, denied),
|
||||
("attachment-publisher", queue_pattern, denied, r"^amq\.default$"),
|
||||
("attachment-worker", queue_pattern, queue_pattern, denied),
|
||||
)
|
||||
users = [
|
||||
{"name": name, "password_hash": "", "hashing_algorithm": "rabbit_password_hashing_sha256",
|
||||
"tags": []}
|
||||
for name, *_ in roles
|
||||
]
|
||||
permissions = [
|
||||
{"user": name, "vhost": vhost, "configure": configure, "read": read, "write": write}
|
||||
for name, configure, read, write in roles
|
||||
]
|
||||
definitions = json.dumps({"users": users, "vhosts": [{"name": vhost}],
|
||||
"permissions": permissions})
|
||||
path = directory / "broker_definitions.json"
|
||||
if not path.exists():
|
||||
path.write_text(json.dumps({"users": users, "vhosts": [{"name": vhost}],
|
||||
"permissions": permissions}))
|
||||
path.chmod(0o444)
|
||||
if not path.exists() or path.read_text() != definitions:
|
||||
temporary = path.with_suffix(".tmp")
|
||||
temporary.write_text(definitions)
|
||||
temporary.chmod(0o444)
|
||||
temporary.replace(path)
|
||||
|
||||
@@ -26,9 +26,6 @@ def main() -> None:
|
||||
"cleanup_db_password",
|
||||
"redis_password",
|
||||
"test_redis_password",
|
||||
"broker_password",
|
||||
"worker_broker_password",
|
||||
"publisher_broker_password",
|
||||
"minio_root_user",
|
||||
"minio_root_password",
|
||||
"s3_access_key_id",
|
||||
@@ -49,8 +46,7 @@ def main() -> None:
|
||||
if line and not line.lstrip().startswith("#") and "=" in line
|
||||
for key, value in [line.split("=", 1)]
|
||||
}
|
||||
initialize_broker(directory, settings["BROKER_QUEUE"], settings["BROKER_VHOST"],
|
||||
settings["BROKER_USER"])
|
||||
initialize_broker(directory, settings["BROKER_QUEUE"], settings["BROKER_VHOST"])
|
||||
initialize(root)
|
||||
print("Настройки готовы; существующие значения сохранены")
|
||||
|
||||
|
||||
+9
-2
@@ -64,7 +64,7 @@ def issue(directory: Path, name: str, san: str, usage: str, ca: str) -> None:
|
||||
def initialize(root: Path) -> None:
|
||||
directory = root / "secrets" / "tls"
|
||||
directory.mkdir(mode=0o700, parents=True, exist_ok=True)
|
||||
for name in ("ca", "foreign-ca", "otel-ingest-ca", "otel-write-ca", "otel-read-ca", "otel-scrape-ca"):
|
||||
for name in ("ca", "foreign-ca", "broker-client-ca", "otel-ingest-ca", "otel-write-ca", "otel-read-ca", "otel-scrape-ca"):
|
||||
create_ca(directory, name)
|
||||
for name, san in SERVER_NAMES.items():
|
||||
issue(directory, name, san, "serverAuth", "ca")
|
||||
@@ -74,7 +74,14 @@ def initialize(root: Path) -> None:
|
||||
for name, authority in (
|
||||
("otel-writer", "otel-write-ca"),
|
||||
("otel-reader", "otel-read-ca"),
|
||||
("otel-agent", "otel-ingest-ca"),
|
||||
("otel-api", "otel-ingest-ca"),
|
||||
("otel-worker", "otel-ingest-ca"),
|
||||
("otel-publisher", "otel-ingest-ca"),
|
||||
("otel-wrong-role", "otel-ingest-ca"),
|
||||
("api-broker", "broker-client-ca"),
|
||||
("attachment-worker", "broker-client-ca"),
|
||||
("attachment-publisher", "broker-client-ca"),
|
||||
("broker-wrong-role", "broker-client-ca"),
|
||||
("otel-scraper", "otel-scrape-ca"),
|
||||
):
|
||||
issue(directory, name, f"DNS:{name}", "clientAuth", authority)
|
||||
|
||||
@@ -0,0 +1,92 @@
|
||||
"""Ротация пароля PostgreSQL и cert identity worker из операторского контура."""
|
||||
|
||||
import argparse
|
||||
import base64
|
||||
import hashlib
|
||||
import hmac
|
||||
import os
|
||||
from pathlib import Path
|
||||
import secrets
|
||||
from tempfile import TemporaryDirectory
|
||||
from urllib.error import HTTPError
|
||||
|
||||
from scripts.bootstrap_bao import ROOT, TLS, Bao, operator_token
|
||||
from scripts.deployment import ComposeProject
|
||||
from scripts.init_tls import issue
|
||||
|
||||
|
||||
def cert_role(certificate: Path, role: str, ttl: str = "10m") -> dict:
|
||||
return {
|
||||
"certificate": certificate.read_text(),
|
||||
"token_policies": [role],
|
||||
"token_no_default_policy": True,
|
||||
"token_ttl": ttl,
|
||||
"token_max_ttl": ttl,
|
||||
}
|
||||
|
||||
|
||||
def change_db_password(project: ComposeProject, password: str) -> None:
|
||||
salt = secrets.token_bytes(16)
|
||||
iterations = 4096
|
||||
salted = hashlib.pbkdf2_hmac("sha256", password.encode(), salt, iterations)
|
||||
client_key = hmac.digest(salted, b"Client Key", "sha256")
|
||||
server_key = hmac.digest(salted, b"Server Key", "sha256")
|
||||
|
||||
def encode(value):
|
||||
return base64.b64encode(value).decode()
|
||||
|
||||
verifier = (f"SCRAM-SHA-256${iterations}:{encode(salt)}"
|
||||
f"${encode(hashlib.sha256(client_key).digest())}:{encode(server_key)}")
|
||||
project.run("exec", "-T", "postgres", "sh", "-ec",
|
||||
'exec psql --no-psqlrc -v ON_ERROR_STOP=1 -U "$POSTGRES_USER" -d "$POSTGRES_DB"',
|
||||
input_text=f"ALTER ROLE worker PASSWORD '{verifier}';\n")
|
||||
|
||||
|
||||
def rotate(project: ComposeProject, port: int) -> None:
|
||||
bao, token = Bao(port), operator_token(port)
|
||||
role_path = "auth/cert/certs/worker"
|
||||
secret_path = "messenger/data/worker"
|
||||
previous = bao.call(secret_path, token=token)["data"]["data"]
|
||||
current_cert = TLS / "worker-bao.crt"
|
||||
current_key = TLS / "worker-bao.key"
|
||||
password_file = ROOT / "secrets/worker_db_password"
|
||||
password = secrets.token_urlsafe(24)
|
||||
|
||||
with TemporaryDirectory(prefix=".worker-rotation-", dir=TLS) as directory:
|
||||
staging = Path(directory)
|
||||
for suffix in ("crt", "key"):
|
||||
(staging / f"ca.{suffix}").symlink_to(TLS / f"ca.{suffix}")
|
||||
issue(staging, "worker-bao", "DNS:worker-bao", "clientAuth", "ca")
|
||||
new_cert, new_key = (staging / f"worker-bao.{suffix}" for suffix in ("crt", "key"))
|
||||
old_certificate, old_key = current_cert.read_bytes(), current_key.read_bytes()
|
||||
project.run("stop", "worker")
|
||||
try:
|
||||
change_db_password(project, password)
|
||||
bao.call(secret_path, {"data": {"db_password": password}}, token=token)
|
||||
bao.call(role_path, cert_role(new_cert, "worker"), token=token)
|
||||
password_stage = staging / "password"
|
||||
password_stage.write_text(password)
|
||||
password_stage.chmod(0o444)
|
||||
os.replace(password_stage, password_file)
|
||||
os.replace(new_cert, current_cert)
|
||||
os.replace(new_key, current_key)
|
||||
project.run("up", "-d", "--no-build", "--no-deps", "--force-recreate", "worker")
|
||||
except (HTTPError, OSError, RuntimeError):
|
||||
change_db_password(project, previous["db_password"])
|
||||
bao.call(secret_path, {"data": previous}, token=token)
|
||||
for path, data in ((current_cert, old_certificate), (current_key, old_key),
|
||||
(password_file, previous["db_password"].encode())):
|
||||
temporary = staging / (path.name + ".rollback")
|
||||
temporary.write_bytes(data)
|
||||
temporary.chmod(0o444)
|
||||
os.replace(temporary, path)
|
||||
bao.call(role_path, cert_role(current_cert, "worker"), token=token)
|
||||
project.run("up", "-d", "--no-build", "--no-deps", "--force-recreate", "worker")
|
||||
raise
|
||||
print("PASS: пароль PostgreSQL и клиентский сертификат worker заменены без сборки")
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
parser = argparse.ArgumentParser(description=__doc__)
|
||||
parser.add_argument("--bao-port", type=int, default=18200)
|
||||
rotate(ComposeProject(), parser.parse_args().bao_port)
|
||||
@@ -0,0 +1,69 @@
|
||||
"""Сканирует lock-файл и локальные образы, не передавая сокет Docker сканеру."""
|
||||
|
||||
from datetime import UTC, datetime
|
||||
import json
|
||||
import os
|
||||
from pathlib import Path
|
||||
import shutil
|
||||
import subprocess
|
||||
from tempfile import TemporaryDirectory
|
||||
|
||||
from scripts.deployment import ROOT, ComposeProject
|
||||
|
||||
SCANNER = "ghcr.io/aquasecurity/trivy:0.76.2"
|
||||
|
||||
|
||||
def scan() -> dict:
|
||||
project = ComposeProject()
|
||||
images = sorted({service["image"] for service in project.config["services"].values()
|
||||
if "build" in service})
|
||||
with TemporaryDirectory(prefix="lab7-scan-") as directory:
|
||||
workspace = Path(directory)
|
||||
packages = workspace / "packages"
|
||||
packages.mkdir()
|
||||
shutil.copyfile(ROOT / "requirements.txt", packages / "requirements.txt")
|
||||
cache = workspace / "cache"
|
||||
cache.mkdir()
|
||||
|
||||
def trivy(mount, args):
|
||||
result = subprocess.run(
|
||||
["docker", "run", "--rm", "--cap-drop=ALL",
|
||||
"--user", f"{os.getuid()}:{os.getgid()}",
|
||||
"--security-opt=no-new-privileges", "-v", f"{cache}:/cache",
|
||||
"-v", mount, SCANNER, *args, "--cache-dir", "/cache",
|
||||
"--quiet", "--scanners", "vuln", "--severity", "HIGH,CRITICAL",
|
||||
"--format", "json", "--timeout", "6m"],
|
||||
cwd=ROOT, check=True, stdout=subprocess.PIPE,
|
||||
)
|
||||
report = json.loads(result.stdout)
|
||||
return {
|
||||
"targets": [item["Target"] for item in report.get("Results", [])],
|
||||
"findings": [
|
||||
{name: issue.get(name) for name in (
|
||||
"VulnerabilityID", "PkgName", "InstalledVersion", "FixedVersion",
|
||||
"Severity", "PrimaryURL", "Status",
|
||||
)}
|
||||
for item in report.get("Results", [])
|
||||
for issue in item.get("Vulnerabilities", [])
|
||||
],
|
||||
}
|
||||
|
||||
result = {"scanner": SCANNER, "date_utc": datetime.now(UTC).isoformat(), "dependency": trivy(
|
||||
f"{packages}:/scan:ro", ["fs", "/scan"],
|
||||
), "images": {}}
|
||||
archive = workspace / "image.tar"
|
||||
for name in images:
|
||||
subprocess.run(["docker", "image", "save", "-o", archive, name],
|
||||
cwd=ROOT, check=True)
|
||||
findings = trivy(f"{archive}:/image.tar:ro", ["image", "--input", "/image.tar"])
|
||||
result["images"][name] = {
|
||||
"image_id": project.docker("image", "inspect", "--format", "{{.Id}}", name),
|
||||
**findings,
|
||||
}
|
||||
return result
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
destination = ROOT / "evidence/security-scan.json"
|
||||
destination.write_text(json.dumps(scan(), ensure_ascii=False, indent=2) + "\n")
|
||||
print("Результаты Trivy сохранены в evidence/security-scan.json")
|
||||
@@ -0,0 +1,17 @@
|
||||
# Анализ зависимостей и образов
|
||||
|
||||
`make scan-security` запускает закреплённый Trivy 0.76.2 для `requirements.txt` и трёх локальных сборок Compose. В область проверки входят Python, Debian, Go и зависимости бинарников MinIO и mc. Сканер получает временный архив образа или копию файла зависимостей. Сокет Docker и каталог с секретами ему не передаются. Результаты уровня HIGH и CRITICAL сохраняются в [security-scan.json](../evidence/security-scan.json).
|
||||
|
||||
| Находка | Применимость и решение |
|
||||
| --- | --- |
|
||||
| `certifi`, GHSA-6q48-6c7w-9gw2 | Библиотеку устанавливает Python-образ. TLS стенда использует явный локальный CA, а библиотека может применяться к другим клиентским HTTPS-соединениям. Версия обновлена до 2026.10.19. [Advisory certifi](https://github.com/certifi/python-certifi/security/advisories/GHSA-6q48-6c7w-9gw2) |
|
||||
| OpenSSL, CVE-2026-84782 | Находка относится к DTLS. Приложение использует потоковый TLS по TCP. Остаточная уязвимость относится к базовому образу. Исправление для bookworm указано в трекере Debian. [Debian](https://security-tracker.debian.org/tracker/CVE-2026-84782) |
|
||||
| SQLite, CVE-2025-7458 | Библиотека входит в базовый образ. Бизнес-запросы приложения идут в PostgreSQL, маршрута исполнения пользовательского SQLite SQL нет. [Debian](https://security-tracker.debian.org/tracker/CVE-2025-7458) |
|
||||
| `zlib1g`, CVE-2023-45853 | Trivy сопоставил уязвимость MiniZip с системным пакетом zlib. В Debian bookworm обычный пакет zlib собирается без затронутого кода MiniZip, поэтому эта находка к нему неприменима. [Debian](https://security-tracker.debian.org/tracker/CVE-2023-45853) |
|
||||
| MinIO, CVE-2026-33322 | Условия уязвимости связаны с OIDC. Стенд использует локальные ключи S3, OIDC не настроен. Открытый релиз MinIO остаётся уязвимым при включении OIDC. [Advisory MinIO](https://github.com/minio/minio/security/advisories/GHSA-5cx5-wh4m-82fh) |
|
||||
| MinIO, CVE-2026-33419 | Находка относится к интерактивной LDAP-аутентификации. На стенде LDAP не настроен. [Advisory MinIO](https://github.com/minio/minio/security/advisories/GHSA-jv87-32hw-hh99) |
|
||||
| Go, CVE-2025-68121 | Затрагивает повтор TLS-сессии при изменении доверенных CA внутри работающего процесса. В этом стенде сертификаты S3 статичны на время работы процесса, а клиент и сервер используют фиксированный CA. Бинарники MinIO и mc всё равно содержат затронутую версию Go. [Go vulnerability report](https://pkg.go.dev/vuln/GO-2026-4337) |
|
||||
|
||||
Основной остаточный риск — находки в исходной сборке MinIO и системных библиотеках. Сеть S3 изолирована, административный порт не публикуется, доступ имеют только прикладные сервисы и bootstrap. Это ограничивает достижимость, а найденные уязвимости остаются в отчёте. Результаты относятся к заявленным трём сборкам и текущей базе Trivy.
|
||||
|
||||
Повторный скан 22 ноября 2026 года в 14:27 МСК не обнаружил HIGH или CRITICAL в `requirements.txt`. В окончательных образах Trivy зафиксировал 105 находок в приложении, 181 в MinIO и 158 в MinIO bootstrap, включая соответственно 2, 9 и 4 CRITICAL. Находка `certifi` исчезла из повторного скана зависимостей и приложения.
|
||||
@@ -15,3 +15,12 @@
|
||||
| Чтение чужого секрета из OpenBao | Доступ ограничен cert-ролью и одним KV-путём | 403 на чужом пути, записи KV и операции над policy | Доступ к памяти запущенного процесса раскрывает его рабочий пароль |
|
||||
|
||||
Сертификаты локально выдаёт оператор. После seal OpenBao требуется unseal по операторской инструкции. Короткий TTL ограничивает доступ по выданному токену. Раздельные роли и префиксы ограничивают последствия компрометации одного сервиса. Главные ограничения стенда описаны в [отчёте](../REPORT.md).
|
||||
|
||||
| Угроза | Инвариант и контроль | Проверка | Остаточное ограничение |
|
||||
| --- | --- | --- | --- |
|
||||
| Сертификат постороннего, подписанный доверенным CA брокера | SASL EXTERNAL должен сопоставить CN с существующим cert-пользователем и его ACL | `audit_tls` отклоняет неподходящий CN и попытку API создать очередь | Выпуск новых cert-ролей контролирует оператор CA |
|
||||
| Подмена или загрязнение телеметрии | Вход OTLP проверяет цепочку и allowlist CN до передачи в Collector | `audit_tls` проверяет 403 для постороннего CN от того же CA и недоступность plaintext-портов | Скомпрометированный легитимный отправитель может отправлять свои записи |
|
||||
| Повтор доступа с прежним сертификатом worker | OpenBao принимает точный актуальный leaf. Тестовый токен отзывается по accessor | `check_lifecycle` отклоняет старый leaf и старый токен, затем проверяет обработку вложения новым worker | Другие выданные токены действуют до TTL или отзыва |
|
||||
| Аномальные изображения | Дочерний процесс имеет лимиты CPU, адресного пространства и времени выполнения | `student-tests/test_image_pipeline.py` проверяет лимиты ОС и отмену по таймауту | Вложение в допустимых пределах всё ещё расходует выделенные ресурсы |
|
||||
|
||||
Применимость находок сканера описана в [отчёте по зависимостям и образам](SCAN.md).
|
||||
|
||||
@@ -296,3 +296,68 @@ async def test_whitespace_only_password_at_login_returns_401(client: AsyncClient
|
||||
|
||||
assert response.status_code == 401
|
||||
assert response.headers["WWW-Authenticate"].startswith("Basic")
|
||||
|
||||
|
||||
async def test_login_rehashes_only_after_success(client, db_engine):
|
||||
from argon2 import PasswordHasher
|
||||
from sqlalchemy import text
|
||||
|
||||
user = await register(client)
|
||||
previous = await asyncio.to_thread(
|
||||
PasswordHasher(memory_cost=8192, time_cost=2, parallelism=1).hash, user["password"]
|
||||
)
|
||||
async with db_engine.begin() as connection:
|
||||
await connection.execute(
|
||||
text("UPDATE users SET password_hash=:hash WHERE username=:name"),
|
||||
{"hash": previous, "name": user["username"]},
|
||||
)
|
||||
|
||||
async def read_hash():
|
||||
async with db_engine.connect() as connection:
|
||||
return await connection.scalar(
|
||||
text("SELECT password_hash FROM users WHERE username=:name"),
|
||||
{"name": user["username"]},
|
||||
)
|
||||
|
||||
bad = await client.post("/api/v1/auth/sessions",
|
||||
headers=basic_header(user["username"], "wrong-password"))
|
||||
assert bad.status_code == 401
|
||||
assert await read_hash() == previous
|
||||
await login(client, user)
|
||||
updated = await read_hash()
|
||||
assert updated != previous
|
||||
assert updated.startswith("$argon2id$v=19$m=19456,t=2,p=1$")
|
||||
await login(client, user)
|
||||
assert await read_hash() == updated
|
||||
|
||||
|
||||
async def test_login_capacity_rejects_before_password_verification(client, monkeypatch):
|
||||
from app.domain.auth import security
|
||||
|
||||
limit = 10
|
||||
all_inside = asyncio.Event()
|
||||
release = asyncio.Event()
|
||||
entered = 0
|
||||
|
||||
async def wait_for_release(_password):
|
||||
nonlocal entered
|
||||
entered += 1
|
||||
if entered == limit:
|
||||
all_inside.set()
|
||||
await release.wait()
|
||||
|
||||
monkeypatch.setattr(security, "dummy_verify_password", wait_for_release)
|
||||
headers = basic_header("missing_user", "synthetic-password")
|
||||
pending = [
|
||||
asyncio.create_task(client.post("/api/v1/auth/sessions", headers=headers))
|
||||
for _ in range(limit)
|
||||
]
|
||||
try:
|
||||
await asyncio.wait_for(all_inside.wait(), timeout=5)
|
||||
response = await client.post("/api/v1/auth/sessions", headers=headers)
|
||||
assert response.status_code == 429
|
||||
assert response.headers["Retry-After"] == "1"
|
||||
assert entered == limit
|
||||
finally:
|
||||
release.set()
|
||||
assert all(response.status_code == 401 for response in await asyncio.gather(*pending))
|
||||
|
||||
@@ -62,3 +62,5 @@ Smoke не доказывает persistence, число реальных кон
|
||||
`make verify` создаёт отдельный Compose-проект, переносит проверки PostgreSQL и Redis на TLS, запускает HTTPS smoke, наблюдаемость, persistence/failover и отрицательные проверки TLS. Файл `evidence/verification.json` сохраняет команды и результаты. Для ручного изучения запущенного проекта перед очисткой используйте `make verify VERIFY_ARGS=--keep-stand`.
|
||||
|
||||
`make test-security-internal` на запущенном тестовом проекте проверяет каждую API-реплику внутри Docker-сети, сертификаты доступа к OpenBao, ACL вложений, завершение сессий, предел размеров запросов и ограничение входа. Проверка expiry сокращает TTL конкретной синтетической сессии через административный аккаунт Redis, активный только в тестовом проекте.
|
||||
|
||||
Для уровня «4» регрессия проверяет обновление старого хеша только после успешного входа и отказ при заполнении лимита параллельных проверок. `make test-security-internal` дополнительно проверяет сертификаты RabbitMQ и Collector, ограничения ролей и измеряет бюджет Argon2id. `make verify` запускает испытание жизненного цикла OpenBao с ротацией worker. `make scan-security` сканирует зависимости и собранные образы.
|
||||
|
||||
Reference in New Issue
Block a user