forked from mtusi2026/mtusi2026lab7
Перенесена реализация lab6; бизнес-API без изменений, транспорт — HTTPS. - Внешний HTTPS (public-ca) на 127.0.0.1:8443; HSTS, TLS >= 1.2. - Обязательное mTLS LB -> каждая API-реплика: API проверяет цепочку internal-ca и SAN клиента (allowlist: lb); health только на 127.0.0.1. - TLS с проверкой сервера ко всем зависимостям: PostgreSQL verify-full (pg_hba только hostssl), HTTPS S3, AMQPS, OTLP/HTTPS с client cert, mTLS Collector -> Prometheus/Loki/Tempo, Grafana -> datasources, scrape. - OpenBao 2.7.2 не в dev-mode: Raft на volume, init/unseal оператором, auth/cert с ролью и policy на сервис, TTL 15 мин + renew/re-login. - Отдельные роли PostgreSQL с грантами по таблицам; разные ключи S3 и пользователи брокера выдаются из OpenBao. - Argon2id (m=19 MiB, t=2, p=1, замер на стенде) и rehash при входе. - Случайный X-Instance-Id; hardening контейнеров (non-root, cap_drop ALL, no-new-privileges, read-only, лимиты); TCP_NODELAY на сокете API. - Модель угроз, trust matrix, отрицательные тесты TLS/mTLS, API, OpenBao, hardening; evidence, в т.ч. прогон из чистого clone.
136 lines
7.7 KiB
Bash
Executable File
136 lines
7.7 KiB
Bash
Executable File
#!/bin/sh
|
||
# Lab7: локальные секреты, PKI и .env учебного стенда. Повторный запуск ничего не перезаписывает,
|
||
# значения не печатаются. Ничего из созданного не попадает в Git (.gitignore: secrets/, *.key, *.pem)
|
||
# и в образы (.dockerignore).
|
||
#
|
||
# Где что лежит:
|
||
# $OPERATOR_DIR (по умолчанию ~/.mtusi2026lab7-operator, вне проекта, 700):
|
||
# ca/*.key — закрытые ключи public-ca и internal-ca (не монтируются ни в один контейнер);
|
||
# openbao/ — root token и unseal shares (создаёт scripts/bao-init.sh).
|
||
# secrets/ (в проекте, вне Git, 700):
|
||
# pki/*.crt|*.key — leaf-сертификаты сервисов (каждый контейнер получает ТОЛЬКО свой ключ);
|
||
# pki/test/ — rogue CA и identity intruder для отрицательных тестов;
|
||
# *_password, s3_* — исходные значения сервисных credentials. Приложения (api, worker,
|
||
# relay, janitor, migrate, s3-init, ops) получают их НЕ из этих файлов,
|
||
# а из OpenBao (scripts/bao-init.sh кладёт их в KV). Файлы нужны серверной
|
||
# стороне: s3_identities.json (SeaweedFS), rabbitmq_definitions.json (только
|
||
# хеши паролей), postgres_password (суперпользователь в db).
|
||
#
|
||
# S3 (SeaweedFS) — разные ключи и права (secrets/s3_identities.json):
|
||
# admin — только job s3-init; api — Read+Write; worker — Read+Write; janitor — List+Write.
|
||
# RabbitMQ — пользователи с минимальными правами в vhost messenger:
|
||
# relay — только publish в exchange attachments; worker — только consume из attachments.process.v1;
|
||
# ops — consume из DLQ и publish в attachments. Ни у кого нет configure.
|
||
# PostgreSQL — отдельные роли api_svc, worker_svc, relay_svc, janitor_svc, ops_svc с грантами по
|
||
# таблицам (migrations/grants.sql); суперпользователь postgres — только у job migrate.
|
||
set -eu
|
||
cd "$(dirname "$0")/.."
|
||
umask 077
|
||
OPERATOR_DIR=${OPERATOR_DIR:-$HOME/.mtusi2026lab7-operator}
|
||
mkdir -p secrets/pki "$OPERATOR_DIR"
|
||
chmod 700 secrets "$OPERATOR_DIR"
|
||
gen() { # gen <file> <bytes>
|
||
if [ ! -s "secrets/$1" ]; then
|
||
python3 -c "import secrets,sys; print(secrets.token_urlsafe(int(sys.argv[1])))" "$2" > "secrets/$1"
|
||
echo "created secrets/$1"
|
||
fi
|
||
}
|
||
gen postgres_password 24
|
||
for who in api worker relay janitor ops; do
|
||
gen "db_${who}_password" 24
|
||
done
|
||
gen grafana_admin_password 18
|
||
for who in admin api worker janitor; do
|
||
if [ ! -s "secrets/s3_${who}_access_key" ]; then
|
||
python3 -c "import secrets; print('MTUSI' + secrets.token_hex(8).upper())" > "secrets/s3_${who}_access_key"
|
||
echo "created secrets/s3_${who}_access_key"
|
||
fi
|
||
gen "s3_${who}_secret_key" 30
|
||
done
|
||
for who in relay worker ops; do
|
||
gen "broker_${who}_password" 24
|
||
done
|
||
|
||
# PKI: OpenSSL закреплённого образа (тот же, на котором собрано приложение).
|
||
PKI_IMAGE=python:3.12.7-slim@sha256:60d9996b6a8a3689d36db740b49f4327be3be09a21122bd02fb8895abb38b50d
|
||
docker run --rm --network none --user "$(id -u):$(id -g)" \
|
||
-e PKI_CA_DAYS -e PKI_LEAF_DAYS \
|
||
-v "$PWD/secrets/pki:/out" -v "$OPERATOR_DIR:/op" -v "$PWD/scripts/pki-issue.sh:/pki-issue.sh:ro" \
|
||
"$PKI_IMAGE" sh /pki-issue.sh
|
||
|
||
BUCKET=$(grep -E '^S3_BUCKET=' .env 2>/dev/null | cut -d= -f2 || true)
|
||
BUCKET=${BUCKET:-messenger-attachments}
|
||
python3 - "$BUCKET" <<'PY'
|
||
import base64, hashlib, json, os, sys
|
||
b = sys.argv[1]
|
||
def read(name):
|
||
return open("secrets/" + name).read().strip()
|
||
def ident(name, actions):
|
||
return {"name": name, "credentials": [{"accessKey": read("s3_%s_access_key" % name),
|
||
"secretKey": read("s3_%s_secret_key" % name)}], "actions": actions}
|
||
cfg = {"identities": [
|
||
ident("admin", ["Admin", "Read", "List", "Tagging", "Write"]),
|
||
ident("api", ["Read:" + b, "Write:" + b]),
|
||
ident("worker", ["Read:" + b, "Write:" + b]),
|
||
ident("janitor", ["List:" + b, "Write:" + b]),
|
||
]}
|
||
with open("secrets/s3_identities.json", "w") as f:
|
||
json.dump(cfg, f, indent=1)
|
||
|
||
# RabbitMQ: rabbit_password_hashing_sha256 = base64(salt4 + sha256(salt4 + password)).
|
||
def rmq_hash(password):
|
||
salt = os.urandom(4)
|
||
return base64.b64encode(salt + hashlib.sha256(salt + password.encode()).digest()).decode()
|
||
vhost = "messenger"
|
||
users, perms = [], []
|
||
rights = {
|
||
"relay": {"configure": "^$", "write": "^attachments$", "read": "^$"},
|
||
"worker": {"configure": "^$", "write": "^$", "read": r"^attachments\.process\.v1$"},
|
||
"ops": {"configure": "^$", "write": "^attachments$", "read": r"^attachments\.dlq$"},
|
||
}
|
||
for user, r in rights.items():
|
||
users.append({"name": user, "password_hash": rmq_hash(read("broker_%s_password" % user)),
|
||
"hashing_algorithm": "rabbit_password_hashing_sha256", "tags": []})
|
||
perms.append(dict(user=user, vhost=vhost, **r))
|
||
x = lambda name, kind: {"name": name, "vhost": vhost, "type": kind, "durable": True, "auto_delete": False,
|
||
"internal": False, "arguments": {}}
|
||
definitions = {
|
||
"users": users,
|
||
"vhosts": [{"name": vhost}],
|
||
"permissions": perms,
|
||
"exchanges": [x("attachments", "direct"), x("attachments.dlx", "fanout")],
|
||
"queues": [
|
||
{"name": "attachments.process.v1", "vhost": vhost, "durable": True, "auto_delete": False,
|
||
"arguments": {"x-queue-type": "quorum", "x-delivery-limit": 10,
|
||
"x-dead-letter-exchange": "attachments.dlx",
|
||
"x-dead-letter-strategy": "at-least-once", "x-overflow": "reject-publish",
|
||
"x-max-length": 100000}},
|
||
{"name": "attachments.dlq", "vhost": vhost, "durable": True, "auto_delete": False,
|
||
"arguments": {"x-queue-type": "quorum"}},
|
||
],
|
||
"bindings": [
|
||
{"source": "attachments", "vhost": vhost, "destination": "attachments.process.v1",
|
||
"destination_type": "queue", "routing_key": "attachment.process.v1", "arguments": {}},
|
||
{"source": "attachments.dlx", "vhost": vhost, "destination": "attachments.dlq",
|
||
"destination_type": "queue", "routing_key": "", "arguments": {}},
|
||
],
|
||
}
|
||
if not os.path.exists("secrets/rabbitmq_definitions.json"):
|
||
with open("secrets/rabbitmq_definitions.json", "w") as f:
|
||
json.dump(definitions, f, indent=1)
|
||
print("created secrets/rabbitmq_definitions.json")
|
||
PY
|
||
# Файлы монтируются в контейнеры как Docker secrets (bind mount): uid процесса внутри контейнера
|
||
# (70 postgres, 10001 app, 100 rabbitmq/openbao, 99 haproxy, 472 grafana, 65534 prometheus, 10001 loki/tempo)
|
||
# должен их читать. От других пользователей ХОСТА их закрывает каталог secrets/ (700). Каждый
|
||
# контейнер получает только свои файлы (см. compose.yaml: secrets per service).
|
||
chmod 644 secrets/*_password secrets/s3_* secrets/rabbitmq_definitions.json secrets/pki/*.crt secrets/pki/*.key \
|
||
secrets/pki/*.pem secrets/pki/test/*
|
||
chmod 700 secrets/pki secrets/pki/test
|
||
if [ ! -f .env ]; then
|
||
cp .env.example .env
|
||
chmod 600 .env
|
||
echo "created .env from .env.example"
|
||
fi
|
||
echo "operator material: $OPERATOR_DIR (CA keys; OpenBao init material after scripts/bao-init.sh)"
|