Upload answers 202 after staging, a queued job in PostgreSQL and a broker confirm; a separate worker publishes the original and a thumbnail with bounded retries. Adds the job and variant tables, the broker service, the worker S3 user, cleanup and reconcile support for staging and variants, the failure stand with broker and worker, bench and driver updates. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
1377 lines
57 KiB
Python
Executable File
1377 lines
57 KiB
Python
Executable File
#!/usr/bin/env python3
|
||
"""Hook стенда отказов для проверок `fault` (`make failure_checks`).
|
||
|
||
Тесты вызывают его как `[FAULT_HOOK, действие, аргументы…]` без shell —
|
||
так же `tests/resilience.py` вызывает `ACTION_SCRIPT`. Сами тесты docker
|
||
не трогают. Hook работает только с проектом compose из `FAULT_PROJECT`,
|
||
его задаёт `student-tests/run_failures.py`. Проект рабочего стенда hook
|
||
не трогает. Решение 3 design change `failure-checks`.
|
||
|
||
Действия:
|
||
stop|start|pause|unpause postgres|valkey|s3
|
||
flush-cache FLUSHALL
|
||
cache-hits keyspace_hits из INFO stats
|
||
cache-has-chat <chat_id> EXISTS ключа карточки: 0 или 1
|
||
fail-members <title> вставка участников чата с этим названием
|
||
падает (триггер в базе стенда отказов)
|
||
clear-fail-members убрать триггер
|
||
fail-messages <text> вставка сообщения с этим текстом падает
|
||
(триггер; ключ идемпотентности к этому
|
||
моменту уже вставлен в той же транзакции)
|
||
clear-fail-messages убрать триггер
|
||
count-chats <title> число чатов с этим названием
|
||
fill-connections <секунд> занять все слоты max_connections сессиями
|
||
psql (`SELECT pg_sleep`) и оборвать
|
||
соединения API: их пулы переподключаются
|
||
и получают «too many clients» (53300)
|
||
clear-connections освободить слоты и дождаться подключения
|
||
db-sessions pg_stat_database.sessions базы стенда:
|
||
сколько сессий PostgreSQL приняла за всё
|
||
время (учитывает и сессию самого вызова)
|
||
attachment-ids строки `<id> <status>` всех вложений базы
|
||
стенда
|
||
last-pending `id` самого нового вложения в статусе
|
||
pending или пусто
|
||
object-ids `id` вложений, у которых в bucket стенда
|
||
есть объект: файл `original` под
|
||
`<база>/attachments/<id>/` (filer через
|
||
`weed shell fs.tree` на loopback контейнера
|
||
s3). Каталог `<id>` без файла не считается:
|
||
после DELETE SeaweedFS убирает его лишь
|
||
через ~2 мин
|
||
staging-ids то же под `<база>/staging/<id>/`
|
||
variant-object-count <id> сколько у вложения объектов вариантов
|
||
(`<база>/attachments/<id>/v<N>-<имя>`)
|
||
job <attachment_id> строка задания вложения: JSON с id, state,
|
||
attempt, last_error_code, next_attempt_at,
|
||
published_at; нет задания — пусто
|
||
fail-attachments insert|queued|stall|commit|outlive|undeletable <filename>
|
||
триггеры на вложения с этим filename (сбой —
|
||
SQLSTATE 08006, для API это отказ БД, 503):
|
||
insert — вставка строки падает; queued —
|
||
перевод в queued падает до COMMIT; stall —
|
||
перевод в queued ждёт pg_sleep(4); commit —
|
||
перевод в queued падает на COMMIT (исход для
|
||
API неизвестен); outlive — строка
|
||
вставляется на час старше (уборщик берёт её
|
||
сразу), а перевод в queued ждёт до 4,5 с, пока
|
||
строка pending не исчезнет; undeletable — как
|
||
outlive, и удаление строки падает
|
||
fail-attachments ready-fail|ready-stall <filename>
|
||
фиксация worker: перевод в ready падает
|
||
(08006) или ждёт pg_sleep(4)
|
||
stop|start|pause|unpause|kill|recreate rabbitmq
|
||
брокер стенда; recreate — up --force-recreate
|
||
на том же volume; после start, recreate и
|
||
unpause — ожидание ответа брокера
|
||
stop|start|kill worker worker стенда; start — docker start контейнера
|
||
worker-state JSON: running, restart_count, oom_killed,
|
||
exit_code
|
||
worker-log журнал контейнера worker (stdout), все
|
||
запуски подряд
|
||
queue-state JSON очереди: messages, messages_ready,
|
||
messages_unacknowledged, consumers, durable;
|
||
очереди нет — null
|
||
peek-job тело одного сообщения очереди, прочитанного
|
||
без подтверждения (возвращается в очередь);
|
||
JSON с полями body (JSON-строка), delivery_mode;
|
||
сообщения нет — пусто. Python в контейнере API
|
||
его настройками: пароль в hook не попадает
|
||
publish-job сообщение с телом из stdin в очередь,
|
||
persistent; тот же контейнер
|
||
delete-queue удалить очередь (rabbitmqctl в контейнере
|
||
брокера); отсутствие — не ошибка
|
||
fail-attachments mark <filename>
|
||
пометка потерянного оригинала (UPDATE
|
||
lost_at) вложения с этим filename падает
|
||
(08006); свой триггер BEFORE UPDATE OF
|
||
lost_at, прежние режимы колонку не трогают
|
||
clear-fail-attachments убрать триггеры
|
||
kill-api docker kill обычного API стенда
|
||
(`<FAULT_PROJECT>-api`)
|
||
start-api docker start того же контейнера и ожидание
|
||
healthy его healthcheck
|
||
put-object <ключ> записать объект с телом из stdin в bucket
|
||
стенда мимо API: botocore в контейнере
|
||
обычного API его ключами из окружения
|
||
контейнера. Ключ — только под
|
||
`<FAULT_DATABASE>/attachments/` или
|
||
`<FAULT_DATABASE>/staging/`, символы
|
||
[A-Za-z0-9._/-]
|
||
delete-object <ключ> удалить объект мимо шлюза S3: `weed shell
|
||
fs.rm /buckets/<bucket>/<ключ>`; ключ — с той
|
||
же проверкой
|
||
delete-row <id> удалить строку вложения с его заданием и
|
||
вариантами (неиспользуемого: ссылку
|
||
сообщения не даст удалить FK)
|
||
set-size <id> <байт> изменить size_bytes строки
|
||
age-row <id> <секунд> сдвинуть created_at и updated_at строки
|
||
назад на одно и то же время: CHECK и
|
||
непомеченность pending сохраняются
|
||
set-key <id> <ключ> изменить object_key строки (только БД,
|
||
bucket не трогается): ключ — под
|
||
`<FAULT_DATABASE>/`, в том числе вне
|
||
`attachments/`, символы [A-Za-z0-9._/-]
|
||
lost-ids `id` вложений с потерянным оригиналом
|
||
(lost_at задан)
|
||
reconcile dry-run|apply [<предел>] [--strategy batch|head] [--deep]
|
||
[--max-objects-per-second R]
|
||
разовая сверка (`docker compose run --rm
|
||
--no-deps -T cleaner reconcile [--apply]
|
||
[--max-changes N] …`): стратегия обхода,
|
||
глубокая сверка и предел скорости (R —
|
||
неотрицательное число, 0 — без предела)
|
||
проверяются по списку и передаются команде
|
||
как есть (design change
|
||
`track2-reconcile-cost`, решение 14);
|
||
записи процесса и строка `exit_code=<n>`;
|
||
код hook — 0
|
||
stop|start cleaner сервис уборщика стенда
|
||
run-cleaner <секунд> отдельный уборщик
|
||
`<FAULT_PROJECT>-cleaner-scheduled` с
|
||
плановой сверкой раз в 1 с
|
||
(RECONCILER__INTERVAL_SECONDS=1) на это
|
||
время, затем docker stop, его журнал и
|
||
docker rm
|
||
|
||
Bucket и имя базы для object-ids и ключей объектов — FAULT_S3_BUCKET и
|
||
FAULT_DATABASE, их задаёт run_failures.py. Пароли и ключи не получает и
|
||
не печатает: valkey-cli берёт пароль из VALKEYCLI_AUTH контейнера, psql
|
||
работает от POSTGRES_USER контейнера, weed shell — с ключом подписи из
|
||
окружения контейнера s3, put-object — ключами API из окружения
|
||
контейнера API, peek-job и publish-job — настройками брокера там же. Только
|
||
stdlib. Действия вложений — design change `upload-consistency`, решение 10;
|
||
расхождения хранилищ и сверка — design change `track2-reconciler`, решение
|
||
11; брокер, worker и задания — design change `async-attachments`, решение 15.
|
||
"""
|
||
|
||
from __future__ import annotations
|
||
|
||
import json
|
||
import os
|
||
import re
|
||
import subprocess
|
||
import sys
|
||
import time
|
||
import uuid
|
||
from pathlib import Path
|
||
|
||
ROOT = Path(__file__).resolve().parents[1]
|
||
COMPOSE_FILES = (
|
||
ROOT / "docker-compose.yml",
|
||
ROOT / "student-tests" / "failures.compose.yml",
|
||
)
|
||
PROJECT_SUFFIX = "-failures"
|
||
SERVICES = ("postgres", "valkey", "s3", "rabbitmq")
|
||
# та же проверка, что в healthcheck сервиса в docker-compose.yml. У
|
||
# PostgreSQL стенда отказов healthcheck переопределён на базу postgres
|
||
# (failures.compose.yml), а проба после start / unpause ходит в базу
|
||
# приложения и добавляет в её pg_stat_database одну сессию: тест «Соединения
|
||
# пула не переоткрываются» start в своём окне не вызывает
|
||
PROBES = {
|
||
"postgres": 'pg_isready -q -h 127.0.0.1 -U "$POSTGRES_USER" '
|
||
'-d "$POSTGRES_DB"',
|
||
"valkey": 'test "$(valkey-cli -p "$VALKEY_PORT" ping)" = PONG',
|
||
# master выбран, том зарегистрирован у master, filer и шлюз S3
|
||
# отвечают — как healthcheck сервиса s3
|
||
"s3": "wget -q -O /dev/null http://127.0.0.1:9333/cluster/healthz && "
|
||
"wget -q -O - http://127.0.0.1:9333/dir/status | "
|
||
"grep -qF '\"DataNodes\":[{' && "
|
||
"wget -q -O /dev/null http://127.0.0.1:8888/healthz && "
|
||
'wget -q -O /dev/null "http://127.0.0.1:$S3_PORT/healthz"',
|
||
"rabbitmq": "rabbitmq-diagnostics -q check_port_connectivity",
|
||
}
|
||
PROBE_TIMEOUT_S = 30
|
||
# начало ключа карточки — копия CACHE_KEY_PREFIX из src/utils/constants.py:
|
||
# hook на stdlib и код приложения не импортирует. Меняется формат ключа —
|
||
# менять и здесь, иначе упадут test_flush_cache и test_valkey_back
|
||
CACHE_KEY_PREFIX = "messenger:v1"
|
||
|
||
FAIL_MEMBERS_SQL = """\
|
||
CREATE OR REPLACE FUNCTION fault_fail_members() RETURNS trigger
|
||
LANGUAGE plpgsql AS $$
|
||
BEGIN
|
||
IF (SELECT title FROM chats WHERE id = NEW.chat_id) = TG_ARGV[0] THEN
|
||
RAISE EXCEPTION 'fault injected: chat members insert';
|
||
END IF;
|
||
RETURN NEW;
|
||
END
|
||
$$;
|
||
DROP TRIGGER IF EXISTS fault_fail_members ON chat_members;
|
||
CREATE TRIGGER fault_fail_members BEFORE INSERT ON chat_members
|
||
FOR EACH ROW EXECUTE FUNCTION fault_fail_members(:'title');
|
||
"""
|
||
CLEAR_FAIL_MEMBERS_SQL = """\
|
||
DROP TRIGGER IF EXISTS fault_fail_members ON chat_members;
|
||
DROP FUNCTION IF EXISTS fault_fail_members();
|
||
"""
|
||
FAIL_MESSAGES_SQL = """\
|
||
CREATE OR REPLACE FUNCTION fault_fail_messages() RETURNS trigger
|
||
LANGUAGE plpgsql AS $$
|
||
BEGIN
|
||
IF NEW.text = TG_ARGV[0] THEN
|
||
RAISE EXCEPTION 'fault injected: message insert';
|
||
END IF;
|
||
RETURN NEW;
|
||
END
|
||
$$;
|
||
DROP TRIGGER IF EXISTS fault_fail_messages ON messages;
|
||
CREATE TRIGGER fault_fail_messages BEFORE INSERT ON messages
|
||
FOR EACH ROW EXECUTE FUNCTION fault_fail_messages(:'title');
|
||
"""
|
||
CLEAR_FAIL_MESSAGES_SQL = """\
|
||
DROP TRIGGER IF EXISTS fault_fail_messages ON messages;
|
||
DROP FUNCTION IF EXISTS fault_fail_messages();
|
||
"""
|
||
COUNT_CHATS_SQL = "SELECT count(*) FROM chats WHERE title = :'title';\n"
|
||
# Сессия psql учитывает себя в sessions, только когда сбросит свои
|
||
# счётчики: обычно на первом простое до запроса, но без ожидания
|
||
# блокировки, и при занятой — позже. Принудительный сброс в отдельной
|
||
# транзакции делает это детерминированным: значение всегда включает
|
||
# сессию самого вызова
|
||
DB_SESSIONS_SQL = """\
|
||
SELECT pg_stat_force_next_flush();
|
||
SELECT sessions FROM pg_stat_database WHERE datname = current_database();
|
||
"""
|
||
|
||
# Заполнение слотов: отвязанный sh в контейнере Postgres. Сначала столько
|
||
# попыток, сколько слотов, затем новая попытка раз в 0,05 с до конца
|
||
# срока: слот, освободившийся после обрыва соединения API, сразу занимает
|
||
# снова psql, а не переподключение пула. Лишние попытки получают отказ и
|
||
# выходят. Сессии — через сокет ([local]), пользователь контейнера.
|
||
# После CLEAR_FILL_SH фоновые psql — сироты пространства PID: их подбирает
|
||
# init стенда отказов (init: true у postgres в failures.compose.yml), а не
|
||
# postmaster, для которого выход чужого потомка с кодом 2 — авария
|
||
FILL_PID = "/tmp/fault-fill.pid"
|
||
FILL_SH = f"""\
|
||
echo $$ > {FILL_PID}
|
||
hold() {{
|
||
PGAPPNAME=fault_fill psql -U "$POSTGRES_USER" -d "$POSTGRES_DB" -XAtq \\
|
||
-c "SELECT pg_sleep($1)" >/dev/null 2>&1 &
|
||
}}
|
||
end=$(( $(date +%s) + $1 ))
|
||
slots=$(psql -U "$POSTGRES_USER" -d "$POSTGRES_DB" -XAtq \\
|
||
-c 'SHOW max_connections')
|
||
i=0
|
||
while [ "$i" -lt "$slots" ]; do hold "$1"; i=$((i + 1)); done
|
||
while [ "$(date +%s)" -lt "$end" ]; do hold "$1"; sleep 0.05; done
|
||
"""
|
||
# Обрыв соединений по TCP (это пулы API) сигналом SIGTERM — то же, что
|
||
# pg_terminate_backend, но без своего слота. Заголовок процесса backend —
|
||
# «postgres: <user> <db> <адрес>(<порт>) <состояние>»; сокет ([local]) и
|
||
# проверку готовности с 127.0.0.1 не трогаем. Печатает число оборванных.
|
||
KILL_TCP_SH = """\
|
||
n=0
|
||
for d in /proc/[0-9]*; do
|
||
t=$(tr '\\0' ' ' < "$d/cmdline" 2>/dev/null) || continue
|
||
case "$t" in
|
||
"postgres: "*" 127.0.0.1("*) ;;
|
||
"postgres: "*"("*")"*) kill -TERM "${d#/proc/}" 2>/dev/null \\
|
||
&& n=$((n + 1)) ;;
|
||
esac
|
||
done
|
||
echo "$n"
|
||
"""
|
||
CLEAR_FILL_SH = f"""\
|
||
[ -f {FILL_PID} ] && kill "$(cat {FILL_PID})" 2>/dev/null
|
||
rm -f {FILL_PID}
|
||
for d in /proc/[0-9]*; do
|
||
t=$(tr '\\0' ' ' < "$d/cmdline" 2>/dev/null) || continue
|
||
case "$t" in
|
||
"postgres: "*" [local] "*) kill -TERM "${{d#/proc/}}" 2>/dev/null ;;
|
||
esac
|
||
done
|
||
"""
|
||
ATTACHMENT_IDS_SQL = """\
|
||
SELECT id || ' ' || status FROM attachments ORDER BY created_at, id;
|
||
"""
|
||
LAST_PENDING_SQL = """\
|
||
SELECT id FROM attachments WHERE status = 'pending'
|
||
ORDER BY created_at DESC, id DESC LIMIT 1;
|
||
"""
|
||
# режим и filename — аргументы триггеров (TG_ARGV). SQLSTATE 08006
|
||
# (connection_failure) приложение считает отказом БД: 503, а не 500
|
||
# (design change upload-consistency, пробы). Три триггера, каждый
|
||
# срабатывает только в своих режимах:
|
||
# - fault_fail_attachments (строка, BEFORE): insert, queued, stall; в outlive
|
||
# и undeletable вставка «на час старше» — created_at и updated_at вместе,
|
||
# строка остаётся непомеченной (mark_queued требует updated_at =
|
||
# created_at); в undeletable удаление строки падает; ready-fail и
|
||
# ready-stall — перевод worker в ready;
|
||
# - fault_fail_attachments_commit (отложенный триггер ограничения, AFTER
|
||
# UPDATE): commit — перевод в queued падает на COMMIT, исход для API
|
||
# неизвестен;
|
||
# - fault_wait_attachments (оператор, BEFORE UPDATE OF status): outlive и
|
||
# undeletable — перевод в queued ждёт, пока строка pending с этим
|
||
# filename не исчезнет, но не дольше WAIT. На уровне оператора строка ещё
|
||
# не заблокирована, уборщик её берёт. UPDATE OF status: пометку уборщика
|
||
# (меняет только updated_at) ожидание не задерживает.
|
||
# stall и ожидание короче statement_timeout (5 с): завершаются сами
|
||
FAIL_ATTACHMENTS_SQL = """\
|
||
CREATE OR REPLACE FUNCTION fault_fail_attachments() RETURNS trigger
|
||
LANGUAGE plpgsql AS $$
|
||
BEGIN
|
||
IF TG_OP = 'DELETE' THEN
|
||
IF OLD.filename = TG_ARGV[1] AND TG_ARGV[0] = 'undeletable' THEN
|
||
RAISE EXCEPTION 'fault injected: attachment delete'
|
||
USING ERRCODE = '08006';
|
||
END IF;
|
||
RETURN OLD;
|
||
END IF;
|
||
IF NEW.filename <> TG_ARGV[1] THEN
|
||
RETURN NEW;
|
||
END IF;
|
||
IF TG_OP = 'INSERT' THEN
|
||
IF TG_ARGV[0] = 'insert' THEN
|
||
RAISE EXCEPTION 'fault injected: attachment insert'
|
||
USING ERRCODE = '08006';
|
||
END IF;
|
||
IF TG_ARGV[0] IN ('outlive', 'undeletable') THEN
|
||
NEW.created_at := NEW.created_at - interval '1 hour';
|
||
NEW.updated_at := NEW.updated_at - interval '1 hour';
|
||
END IF;
|
||
RETURN NEW;
|
||
END IF;
|
||
IF OLD.status = 'pending' AND NEW.status = 'queued' THEN
|
||
IF TG_ARGV[0] = 'queued' THEN
|
||
RAISE EXCEPTION 'fault injected: attachment queued'
|
||
USING ERRCODE = '08006';
|
||
END IF;
|
||
IF TG_ARGV[0] = 'stall' THEN
|
||
PERFORM pg_sleep(4);
|
||
END IF;
|
||
END IF;
|
||
IF OLD.status <> 'ready' AND NEW.status = 'ready' THEN
|
||
IF TG_ARGV[0] = 'ready-fail' THEN
|
||
RAISE EXCEPTION 'fault injected: attachment ready'
|
||
USING ERRCODE = '08006';
|
||
END IF;
|
||
IF TG_ARGV[0] = 'ready-stall' THEN
|
||
PERFORM pg_sleep(4);
|
||
END IF;
|
||
END IF;
|
||
RETURN NEW;
|
||
END
|
||
$$;
|
||
CREATE OR REPLACE FUNCTION fault_fail_attachments_commit() RETURNS trigger
|
||
LANGUAGE plpgsql AS $$
|
||
BEGIN
|
||
IF TG_ARGV[0] = 'commit' AND NEW.filename = TG_ARGV[1]
|
||
AND OLD.status = 'pending' AND NEW.status = 'queued' THEN
|
||
RAISE EXCEPTION 'fault injected: attachment queued commit'
|
||
USING ERRCODE = '08006';
|
||
END IF;
|
||
RETURN NULL;
|
||
END
|
||
$$;
|
||
CREATE OR REPLACE FUNCTION fault_wait_attachments() RETURNS trigger
|
||
LANGUAGE plpgsql AS $$
|
||
DECLARE
|
||
deadline timestamptz := clock_timestamp() + interval '4.5 seconds';
|
||
BEGIN
|
||
IF TG_ARGV[0] NOT IN ('outlive', 'undeletable') THEN
|
||
RETURN NULL;
|
||
END IF;
|
||
WHILE clock_timestamp() < deadline AND EXISTS (
|
||
SELECT 1 FROM attachments
|
||
WHERE filename = TG_ARGV[1] AND status = 'pending'
|
||
) LOOP
|
||
PERFORM pg_sleep(0.1);
|
||
END LOOP;
|
||
RETURN NULL;
|
||
END
|
||
$$;
|
||
DROP TRIGGER IF EXISTS fault_fail_attachments ON attachments;
|
||
CREATE TRIGGER fault_fail_attachments
|
||
BEFORE INSERT OR UPDATE OR DELETE ON attachments
|
||
FOR EACH ROW EXECUTE FUNCTION fault_fail_attachments(:'mode', :'title');
|
||
DROP TRIGGER IF EXISTS fault_fail_attachments_commit ON attachments;
|
||
CREATE CONSTRAINT TRIGGER fault_fail_attachments_commit
|
||
AFTER UPDATE ON attachments DEFERRABLE INITIALLY DEFERRED
|
||
FOR EACH ROW
|
||
EXECUTE FUNCTION fault_fail_attachments_commit(:'mode', :'title');
|
||
DROP TRIGGER IF EXISTS fault_wait_attachments ON attachments;
|
||
CREATE TRIGGER fault_wait_attachments
|
||
BEFORE UPDATE OF status ON attachments
|
||
FOR EACH STATEMENT
|
||
EXECUTE FUNCTION fault_wait_attachments(:'mode', :'title');
|
||
"""
|
||
# пометка потерянного оригинала падает: отдельный триггер на колонку
|
||
# lost_at (design change track2-reconciler, решение 11) — прежние режимы и
|
||
# их функция от новой колонки не зависят
|
||
FAIL_ATTACHMENTS_MARK_SQL = """\
|
||
CREATE OR REPLACE FUNCTION fault_fail_attachments_mark() RETURNS trigger
|
||
LANGUAGE plpgsql AS $$
|
||
BEGIN
|
||
IF NEW.filename = TG_ARGV[0] AND OLD.lost_at IS NULL
|
||
AND NEW.lost_at IS NOT NULL THEN
|
||
RAISE EXCEPTION 'fault injected: attachment mark lost'
|
||
USING ERRCODE = '08006';
|
||
END IF;
|
||
RETURN NEW;
|
||
END
|
||
$$;
|
||
DROP TRIGGER IF EXISTS fault_fail_attachments_mark ON attachments;
|
||
CREATE TRIGGER fault_fail_attachments_mark
|
||
BEFORE UPDATE OF lost_at ON attachments
|
||
FOR EACH ROW EXECUTE FUNCTION fault_fail_attachments_mark(:'title');
|
||
"""
|
||
CLEAR_FAIL_ATTACHMENTS_SQL = """\
|
||
DROP TRIGGER IF EXISTS fault_fail_attachments ON attachments;
|
||
DROP TRIGGER IF EXISTS fault_fail_attachments_commit ON attachments;
|
||
DROP TRIGGER IF EXISTS fault_wait_attachments ON attachments;
|
||
DROP TRIGGER IF EXISTS fault_fail_attachments_mark ON attachments;
|
||
DROP FUNCTION IF EXISTS fault_fail_attachments();
|
||
DROP FUNCTION IF EXISTS fault_fail_attachments_commit();
|
||
DROP FUNCTION IF EXISTS fault_wait_attachments();
|
||
DROP FUNCTION IF EXISTS fault_fail_attachments_mark();
|
||
"""
|
||
# расхождения хранилищ (design change track2-reconciler, решение 11):
|
||
# значения — переменные psql (:'title' — id, :'mode' — число)
|
||
# задание и варианты ссылаются на строку без каскада: у готового вложения
|
||
# метаданные удаляются вместе с ними
|
||
DELETE_ROW_SQL = """\
|
||
BEGIN;
|
||
DELETE FROM attachment_variants WHERE attachment_id = :'title'::uuid;
|
||
DELETE FROM attachment_jobs WHERE attachment_id = :'title'::uuid;
|
||
DELETE FROM attachments WHERE id = :'title'::uuid RETURNING id;
|
||
COMMIT;
|
||
"""
|
||
SET_SIZE_SQL = """\
|
||
UPDATE attachments SET size_bytes = :'mode'::integer
|
||
WHERE id = :'title'::uuid RETURNING id;
|
||
"""
|
||
AGE_ROW_SQL = """\
|
||
UPDATE attachments
|
||
SET created_at = created_at - make_interval(secs => :'mode'::float8),
|
||
updated_at = updated_at - make_interval(secs => :'mode'::float8)
|
||
WHERE id = :'title'::uuid RETURNING id;
|
||
"""
|
||
SET_KEY_SQL = """\
|
||
UPDATE attachments SET object_key = :'mode'
|
||
WHERE id = :'title'::uuid RETURNING id;
|
||
"""
|
||
LOST_IDS_SQL = """\
|
||
SELECT id FROM attachments WHERE lost_at IS NOT NULL ORDER BY id;
|
||
"""
|
||
JOB_SQL = """\
|
||
SELECT row_to_json(j) FROM (
|
||
SELECT id, state, attempt, last_error_code, next_attempt_at,
|
||
lease_expires_at, published_at
|
||
FROM attachment_jobs WHERE attachment_id = :'title'::uuid
|
||
) j;
|
||
"""
|
||
# брокер — настройками процесса в контейнере API: пароль в hook не попадает.
|
||
# Соединение прямо на сообщение, без подтверждения (peek): закрытие
|
||
# соединения возвращает его в очередь. Очередь — из имени базы процесса
|
||
PEEK_JOB_PY = """\
|
||
import asyncio
|
||
import json
|
||
import aio_pika
|
||
from src.config import settings
|
||
from src.infra.broker import queue_name
|
||
async def main():
|
||
broker = settings.broker
|
||
connection = await aio_pika.connect(
|
||
host=broker.host, port=broker.port, login=broker.user,
|
||
password=broker.password.get_secret_value(), timeout=5,
|
||
)
|
||
async with connection:
|
||
channel = await connection.channel()
|
||
queue = await channel.declare_queue(
|
||
queue_name(settings.database.name), durable=True,
|
||
)
|
||
message = await queue.get(no_ack=False, fail=False, timeout=5)
|
||
if message is None:
|
||
return
|
||
print(json.dumps({
|
||
"body": message.body.decode(),
|
||
"delivery_mode": message.delivery_mode,
|
||
}))
|
||
await message.nack(requeue=True)
|
||
asyncio.run(main())
|
||
"""
|
||
PUBLISH_JOB_PY = """\
|
||
import asyncio
|
||
import sys
|
||
import aio_pika
|
||
from src.config import settings
|
||
from src.infra.broker import queue_name
|
||
async def main():
|
||
broker = settings.broker
|
||
connection = await aio_pika.connect(
|
||
host=broker.host, port=broker.port, login=broker.user,
|
||
password=broker.password.get_secret_value(), timeout=5,
|
||
)
|
||
async with connection:
|
||
channel = await connection.channel(publisher_confirms=True)
|
||
name = queue_name(settings.database.name)
|
||
await channel.declare_queue(name, durable=True)
|
||
await channel.default_exchange.publish(
|
||
aio_pika.Message(
|
||
sys.stdin.buffer.read(),
|
||
delivery_mode=aio_pika.DeliveryMode.PERSISTENT,
|
||
),
|
||
routing_key=name,
|
||
)
|
||
asyncio.run(main())
|
||
"""
|
||
# поля list_queues; очередь — точное имя из FAULT_DATABASE
|
||
QUEUE_COLUMNS = (
|
||
"name",
|
||
"messages",
|
||
"messages_ready",
|
||
"messages_unacknowledged",
|
||
"consumers",
|
||
"durable",
|
||
)
|
||
# копия ATTACHMENT_QUEUE_SUFFIX из src/utils/constants.py
|
||
QUEUE_SUFFIX = "attachment.process.v1"
|
||
# объект мимо API: botocore образа (зависимость aiobotocore) с адресом,
|
||
# регионом и ключами из настроек процесса в контейнере API — ключи в hook
|
||
# не попадают. Ключ — argv[1], тело — stdin
|
||
PUT_OBJECT_PY = """\
|
||
import sys
|
||
import botocore.session
|
||
from botocore.config import Config
|
||
from src.config import settings
|
||
s3 = settings.s3
|
||
client = botocore.session.get_session().create_client(
|
||
"s3",
|
||
endpoint_url=s3.endpoint_url,
|
||
region_name=s3.region,
|
||
aws_access_key_id=s3.access_key_id.get_secret_value(),
|
||
aws_secret_access_key=s3.secret_access_key.get_secret_value(),
|
||
config=Config(s3={"addressing_style": "path"},
|
||
retries={"total_max_attempts": 1}),
|
||
)
|
||
body = sys.stdin.buffer.read()
|
||
client.put_object(Bucket=s3.bucket, Key=sys.argv[1], Body=body)
|
||
"""
|
||
# символы ключа объекта, который hook пишет или удаляет мимо API
|
||
OBJECT_KEY_RE = re.compile(r"^[A-Za-z0-9._/-]+$")
|
||
RECONCILE_MODES = {"dry-run": (), "apply": ("--apply",)}
|
||
# стратегии обхода и предел скорости сверки (change track2-reconcile-cost):
|
||
# неотрицательное число, целое или с дробной частью
|
||
RECONCILE_STRATEGIES = ("batch", "head")
|
||
RATE_PATTERN = re.compile(r"[0-9]+(\.[0-9]+)?")
|
||
# плановая сверка отдельного уборщика: раз в секунду
|
||
SCHEDULED_CLEANER_ENV = "RECONCILER__INTERVAL_SECONDS=1"
|
||
SCHEDULED_CLEANER_MAX_S = 60
|
||
FAIL_ATTACHMENTS_MODES = (
|
||
"insert",
|
||
"queued",
|
||
"stall",
|
||
"commit",
|
||
"outlive",
|
||
"undeletable",
|
||
"ready-fail",
|
||
"ready-stall",
|
||
)
|
||
# как S3_BUCKET_NAME_PATTERN в src/utils/constants.py; имя базы — как в
|
||
# run_isolated.py: путь filer собирается только из проверенных имён
|
||
BUCKET_NAME_RE = re.compile(r"^[a-z0-9][a-z0-9.-]{1,61}[a-z0-9]$")
|
||
DB_NAME_RE = re.compile(r"^[a-z0-9_]+$")
|
||
# каталог вложения в filer — его id; копия ATTACHMENT_KEY_PREFIX и
|
||
# ATTACHMENT_ORIGINAL_SUFFIX из src/utils/constants.py
|
||
ATTACHMENT_DIR_RE = re.compile(
|
||
r"^[0-9a-f]{8}-[0-9a-f]{4}-[0-9a-f]{4}-[0-9a-f]{4}-[0-9a-f]{12}$",
|
||
)
|
||
ATTACHMENT_KEY_PREFIX = "attachments"
|
||
ATTACHMENT_STAGING_PREFIX = "staging"
|
||
ATTACHMENT_ORIGINAL = "original"
|
||
# объект варианта в каталоге вложения: v<версия>-<имя>
|
||
VARIANT_FILE_RE = re.compile(r"^v[1-9][0-9]*-(thumbnail|crop|optimized)$")
|
||
# строка fs.tree: отступ по 4 символа на уровень («│ » или « »), затем
|
||
# «├──» или «└──» и имя
|
||
TREE_LINE_RE = re.compile(r"^((?:[│ ] {3})*)[├└]──\s*(.*?)\s*$")
|
||
API_HEALTHY_TIMEOUT_S = 60
|
||
PROBE_SQL_SH = (
|
||
'exec psql -U "$POSTGRES_USER" -d "$POSTGRES_DB" -XAtq -c "SELECT 1"'
|
||
)
|
||
TOO_MANY = "too many clients"
|
||
FILL_TIMEOUT_S = 20
|
||
|
||
|
||
class HookError(Exception):
|
||
"""Неверный вызов или проект: код 2 и сообщение в stderr."""
|
||
|
||
|
||
def working_project() -> str:
|
||
"""Имя проекта рабочего стенда — из docker-compose.yml без `-p`."""
|
||
result = subprocess.run(
|
||
["docker", "compose", "config", "--format", "json"],
|
||
cwd=ROOT,
|
||
text=True,
|
||
capture_output=True,
|
||
check=True,
|
||
)
|
||
return json.loads(result.stdout)["name"]
|
||
|
||
|
||
def fault_project() -> str:
|
||
project = os.environ.get("FAULT_PROJECT", "")
|
||
if not project.endswith(PROJECT_SUFFIX):
|
||
raise HookError(
|
||
f"FAULT_PROJECT must end with {PROJECT_SUFFIX!r}: "
|
||
"run make failure_checks",
|
||
)
|
||
if project == working_project():
|
||
raise HookError("FAULT_PROJECT is the working stand, refusing")
|
||
return project
|
||
|
||
|
||
def compose_run(
|
||
project: str,
|
||
*args: str,
|
||
stdin: str | None = None,
|
||
) -> subprocess.CompletedProcess[str]:
|
||
files = [arg for path in COMPOSE_FILES for arg in ("-f", str(path))]
|
||
return subprocess.run(
|
||
["docker", "compose", "-p", project, *files, *args],
|
||
cwd=ROOT,
|
||
input=stdin,
|
||
text=True,
|
||
capture_output=True,
|
||
check=False,
|
||
)
|
||
|
||
|
||
def compose(project: str, *args: str, stdin: str | None = None) -> str:
|
||
result = compose_run(project, *args, stdin=stdin)
|
||
if result.returncode != 0:
|
||
sys.stderr.write(result.stderr)
|
||
raise SystemExit(result.returncode)
|
||
return result.stdout.strip()
|
||
|
||
|
||
def wait_answers(project: str, name: str) -> str:
|
||
"""Ждать, пока сервис ответит своей проверкой из healthcheck.
|
||
|
||
После `unpause` Docker до следующего запуска healthcheck (до 5 с)
|
||
показывает `unhealthy`, и `up --wait` сразу выходит с ошибкой, хотя
|
||
сервис уже отвечает. Поэтому проверка — напрямую.
|
||
"""
|
||
deadline = time.monotonic() + PROBE_TIMEOUT_S
|
||
while time.monotonic() < deadline:
|
||
probe = compose_run(
|
||
project,
|
||
"exec",
|
||
"-T",
|
||
name,
|
||
"sh",
|
||
"-c",
|
||
PROBES[name],
|
||
)
|
||
if probe.returncode == 0:
|
||
return ""
|
||
time.sleep(0.2)
|
||
raise HookError(f"{name} does not answer in {PROBE_TIMEOUT_S}s")
|
||
|
||
|
||
def valkey(project: str, *args: str) -> str:
|
||
# аргументы — позиционные параметры sh, без подстановки в строку
|
||
return compose(
|
||
project,
|
||
"exec",
|
||
"-T",
|
||
"valkey",
|
||
"sh",
|
||
"-c",
|
||
'exec valkey-cli -p "$VALKEY_PORT" "$@"',
|
||
"sh",
|
||
*args,
|
||
)
|
||
|
||
|
||
def psql(project: str, sql: str, *, title: str = "", mode: str = "") -> str:
|
||
# значения — переменные psql (:'title', :'mode'), без подстановки в SQL
|
||
return compose(
|
||
project,
|
||
"exec",
|
||
"-T",
|
||
"postgres",
|
||
"sh",
|
||
"-c",
|
||
'exec psql -U "$POSTGRES_USER" -d "$POSTGRES_DB" -XAtq '
|
||
'-v ON_ERROR_STOP=1 -v title="$1" -v mode="$2"',
|
||
"sh",
|
||
title,
|
||
mode,
|
||
stdin=sql,
|
||
)
|
||
|
||
|
||
def service(name: str) -> str:
|
||
if name not in SERVICES:
|
||
raise HookError(f"service must be one of {SERVICES}")
|
||
return name
|
||
|
||
|
||
def wait_healthy(project: str, name: str) -> str:
|
||
# тот же контейнер, без пересоздания; --wait ждёт его healthcheck
|
||
return compose(project, "up", "-d", "--wait", "--no-recreate", name)
|
||
|
||
|
||
def cache_hits(project: str) -> str:
|
||
for line in valkey(project, "INFO", "stats").splitlines():
|
||
if line.startswith("keyspace_hits:"):
|
||
return line.split(":", 1)[1].strip()
|
||
raise HookError("keyspace_hits not found in INFO stats")
|
||
|
||
|
||
def cache_has_chat(project: str, chat_id: str) -> str:
|
||
database = compose(
|
||
project,
|
||
"exec",
|
||
"-T",
|
||
"postgres",
|
||
"printenv",
|
||
"POSTGRES_DB",
|
||
)
|
||
key = f"{CACHE_KEY_PREFIX}:{database}:chat:{uuid.UUID(chat_id)}"
|
||
return valkey(project, "EXISTS", key)
|
||
|
||
|
||
def postgres_sh(project: str, script: str, *args: str) -> str:
|
||
return compose(
|
||
project,
|
||
"exec",
|
||
"-T",
|
||
"postgres",
|
||
"sh",
|
||
"-c",
|
||
script,
|
||
"sh",
|
||
*args,
|
||
)
|
||
|
||
|
||
def probe_connect(project: str) -> subprocess.CompletedProcess[str]:
|
||
"""Новое подключение psql и `SELECT 1`."""
|
||
return compose_run(
|
||
project,
|
||
"exec",
|
||
"-T",
|
||
"postgres",
|
||
"sh",
|
||
"-c",
|
||
PROBE_SQL_SH,
|
||
)
|
||
|
||
|
||
def slots_full(project: str) -> bool:
|
||
"""Новое подключение получает «too many clients»."""
|
||
probe = probe_connect(project)
|
||
return probe.returncode != 0 and TOO_MANY in probe.stderr
|
||
|
||
|
||
def fill_connections(project: str, seconds: str) -> str:
|
||
"""Все слоты заняты psql, соединений API не осталось.
|
||
|
||
Готово, когда новое подключение получает отказ, а обрывать уже
|
||
некого: пул API, переподключаясь, получит 53300.
|
||
"""
|
||
if int(seconds) <= 0:
|
||
raise HookError("seconds must be positive")
|
||
compose(
|
||
project,
|
||
"exec",
|
||
"-d",
|
||
"postgres",
|
||
"sh",
|
||
"-c",
|
||
FILL_SH,
|
||
"sh",
|
||
str(int(seconds)),
|
||
)
|
||
deadline = time.monotonic() + FILL_TIMEOUT_S
|
||
while time.monotonic() < deadline:
|
||
if slots_full(project) and postgres_sh(project, KILL_TCP_SH) == "0":
|
||
return ""
|
||
time.sleep(0.1)
|
||
raise HookError(f"connections are not filled in {FILL_TIMEOUT_S}s")
|
||
|
||
|
||
def clear_connections(project: str) -> str:
|
||
deadline = time.monotonic() + FILL_TIMEOUT_S
|
||
while time.monotonic() < deadline:
|
||
postgres_sh(project, CLEAR_FILL_SH)
|
||
if probe_connect(project).returncode == 0:
|
||
return ""
|
||
time.sleep(0.2)
|
||
raise HookError(f"connections are not freed in {FILL_TIMEOUT_S}s")
|
||
|
||
|
||
def ids_with_original(tree: str) -> list[str]:
|
||
"""`id` каталогов первого уровня, в которых есть файл `original`.
|
||
|
||
Вывод `fs.tree` каталога `attachments`: первая строка — сам каталог,
|
||
затем `├──<id>` и под ним `│ └──original`. Каталог `<id>` без файла
|
||
— остаток после DELETE, объекта в нём нет.
|
||
"""
|
||
found: list[str] = []
|
||
current = ""
|
||
for line in tree.splitlines():
|
||
match = TREE_LINE_RE.match(line)
|
||
if match is None:
|
||
continue
|
||
depth = len(match.group(1)) // 4 + 1
|
||
name = match.group(2)
|
||
if depth == 1:
|
||
current = name if ATTACHMENT_DIR_RE.fullmatch(name) else ""
|
||
elif depth == 2 and name == ATTACHMENT_ORIGINAL and current:
|
||
found.append(current)
|
||
return found
|
||
|
||
|
||
def variant_files(tree: str, attachment_id: str) -> list[str]:
|
||
"""Файлы вариантов в каталоге `attachment_id` вывода `fs.tree`."""
|
||
found: list[str] = []
|
||
current = ""
|
||
for line in tree.splitlines():
|
||
match = TREE_LINE_RE.match(line)
|
||
if match is None:
|
||
continue
|
||
depth = len(match.group(1)) // 4 + 1
|
||
name = match.group(2)
|
||
if depth == 1:
|
||
current = name
|
||
elif (
|
||
depth == 2
|
||
and current == attachment_id
|
||
and VARIANT_FILE_RE.fullmatch(name)
|
||
):
|
||
found.append(name)
|
||
return found
|
||
|
||
|
||
def tree_of(project: str, prefix: str) -> str:
|
||
"""`fs.tree` каталога `<база>/<prefix>` bucket стенда; нет — пусто."""
|
||
bucket, database = storage_names()
|
||
return compose(
|
||
project,
|
||
"exec",
|
||
"-T",
|
||
"s3",
|
||
"sh",
|
||
"-c",
|
||
"exec weed shell -master=127.0.0.1:9333 2>&1",
|
||
stdin=f"fs.tree /buckets/{bucket}/{database}/{prefix}\n",
|
||
)
|
||
|
||
|
||
def object_ids(project: str, prefix: str = ATTACHMENT_KEY_PREFIX) -> str:
|
||
"""`id` вложений с объектом `original` под префиксом bucket стенда,
|
||
строка на `id`. Нет префикса — пусто."""
|
||
return "\n".join(ids_with_original(tree_of(project, prefix)))
|
||
|
||
|
||
def variant_object_count(project: str, attachment_id: str) -> str:
|
||
wanted = str(uuid.UUID(attachment_id))
|
||
tree = tree_of(project, ATTACHMENT_KEY_PREFIX)
|
||
return str(len(variant_files(tree, wanted)))
|
||
|
||
|
||
def queue() -> str:
|
||
_, database = storage_names()
|
||
return f"{database}.{QUEUE_SUFFIX}"
|
||
|
||
|
||
def queue_state(project: str) -> str:
|
||
"""Состояние очереди стенда JSON-ом или `null`: `rabbitmqctl` в контейнере
|
||
брокера, без management API."""
|
||
output = compose(
|
||
project,
|
||
"exec",
|
||
"-T",
|
||
"rabbitmq",
|
||
"rabbitmqctl",
|
||
"-q",
|
||
"list_queues",
|
||
*QUEUE_COLUMNS,
|
||
"--formatter",
|
||
"json",
|
||
)
|
||
for item in json.loads(output or "[]"):
|
||
if item["name"] == queue():
|
||
return json.dumps(item)
|
||
return "null"
|
||
|
||
|
||
def delete_queue(project: str) -> str:
|
||
"""Удалить очередь стенда; её отсутствие — не ошибка."""
|
||
result = compose_run(
|
||
project,
|
||
"exec",
|
||
"-T",
|
||
"rabbitmq",
|
||
"rabbitmqctl",
|
||
"-q",
|
||
"delete_queue",
|
||
queue(),
|
||
)
|
||
if result.returncode != 0 and "No such queue" not in (
|
||
result.stdout + result.stderr
|
||
):
|
||
sys.stderr.write(result.stderr)
|
||
raise SystemExit(result.returncode)
|
||
return ""
|
||
|
||
|
||
def api_python(project: str, code: str, stdin: bytes | None = None) -> str:
|
||
"""Код в контейнере обычного API: настройки процесса, а не hook, знают
|
||
пароль брокера."""
|
||
result = subprocess.run(
|
||
["docker", "exec", "-i", api_container(project), "python", "-c", code],
|
||
input=b"" if stdin is None else stdin,
|
||
capture_output=True,
|
||
check=False,
|
||
)
|
||
if result.returncode != 0:
|
||
tail = result.stderr.decode(errors="replace").strip().splitlines()[-1:]
|
||
raise HookError(f"api python failed: {tail}")
|
||
# лишние записи настройки логгера в stdout: строка результата — последняя
|
||
lines = result.stdout.decode(errors="replace").strip().splitlines()
|
||
return lines[-1] if lines else ""
|
||
|
||
|
||
def worker_container(project: str) -> str:
|
||
container = compose(project, "ps", "-a", "-q", "worker")
|
||
if not container:
|
||
raise HookError("worker container of the stand not found")
|
||
return container
|
||
|
||
|
||
def worker_action(project: str, action: str) -> str:
|
||
"""`start` — тот же контейнер, `docker start`, как у уборщика: у compose
|
||
start нет контейнера одноразовых зависимостей."""
|
||
if action == "stop":
|
||
return compose(project, "stop", "worker")
|
||
docker(action, worker_container(project))
|
||
return ""
|
||
|
||
|
||
def worker_state(project: str) -> str:
|
||
fields = docker(
|
||
"inspect",
|
||
"-f",
|
||
"{{.State.Running}} {{.RestartCount}} {{.State.OOMKilled}} "
|
||
"{{.State.ExitCode}}",
|
||
worker_container(project),
|
||
).split()
|
||
return json.dumps(
|
||
{
|
||
"running": fields[0] == "true",
|
||
"restart_count": int(fields[1]),
|
||
"oom_killed": fields[2] == "true",
|
||
"exit_code": int(fields[3]),
|
||
},
|
||
)
|
||
|
||
|
||
def broker_action(project: str, action: str) -> str:
|
||
"""Действия брокера; ждёт ответа после возврата."""
|
||
if action in ("stop", "pause"):
|
||
compose(project, action, "rabbitmq")
|
||
return ""
|
||
if action == "kill":
|
||
docker("kill", compose(project, "ps", "-q", "rabbitmq"))
|
||
return ""
|
||
if action == "start":
|
||
docker("start", compose(project, "ps", "-a", "-q", "rabbitmq"))
|
||
elif action == "unpause":
|
||
compose(project, "unpause", "rabbitmq")
|
||
else:
|
||
compose(
|
||
project,
|
||
"up",
|
||
"-d",
|
||
"--no-deps",
|
||
"--force-recreate",
|
||
"rabbitmq",
|
||
)
|
||
return wait_answers(project, "rabbitmq")
|
||
|
||
|
||
def fail_attachments(project: str, mode: str, filename: str) -> str:
|
||
if mode == "mark":
|
||
return psql(project, FAIL_ATTACHMENTS_MARK_SQL, title=filename)
|
||
if mode not in FAIL_ATTACHMENTS_MODES:
|
||
raise HookError(
|
||
f"mode must be one of {(*FAIL_ATTACHMENTS_MODES, 'mark')}",
|
||
)
|
||
return psql(project, FAIL_ATTACHMENTS_SQL, title=filename, mode=mode)
|
||
|
||
|
||
def storage_names() -> tuple[str, str]:
|
||
"""Проверенные bucket и имя базы стенда (FAULT_S3_BUCKET,
|
||
FAULT_DATABASE): пути filer и ключи собираются только из них."""
|
||
bucket = os.environ.get("FAULT_S3_BUCKET", "")
|
||
database = os.environ.get("FAULT_DATABASE", "")
|
||
if not BUCKET_NAME_RE.fullmatch(bucket):
|
||
raise HookError(f"FAULT_S3_BUCKET is not a bucket name: {bucket!r}")
|
||
if not DB_NAME_RE.fullmatch(database):
|
||
raise HookError(f"FAULT_DATABASE is not a database name: {database!r}")
|
||
return bucket, database
|
||
|
||
|
||
def object_key(key: str) -> str:
|
||
"""Ключ объекта вложений или staging базы стенда; иначе — отказ (код
|
||
2)."""
|
||
_, database = storage_names()
|
||
prefixes = (
|
||
f"{database}/{ATTACHMENT_KEY_PREFIX}/",
|
||
f"{database}/{ATTACHMENT_STAGING_PREFIX}/",
|
||
)
|
||
if (
|
||
not any(
|
||
key.startswith(prefix) and len(key) > len(prefix)
|
||
for prefix in prefixes
|
||
)
|
||
or not OBJECT_KEY_RE.fullmatch(key)
|
||
or ".." in key.split("/")
|
||
):
|
||
raise HookError(f"object key must be under {prefixes}: {key!r}")
|
||
return key
|
||
|
||
|
||
def row_key(key: str) -> str:
|
||
"""Ключ для `set-key`: под `<FAULT_DATABASE>/` (в том числе вне
|
||
`attachments/` — ключ «вне префикса вложений»), иначе — отказ (код 2).
|
||
Меняется только строка БД стенда, bucket hook не трогает."""
|
||
_, database = storage_names()
|
||
prefix = f"{database}/"
|
||
if (
|
||
not key.startswith(prefix)
|
||
or len(key) == len(prefix)
|
||
or not OBJECT_KEY_RE.fullmatch(key)
|
||
or ".." in key.split("/")
|
||
):
|
||
raise HookError(f"row key must be under {prefix}: {key!r}")
|
||
return key
|
||
|
||
|
||
def put_object(project: str, key: str) -> str:
|
||
"""Объект с телом из stdin мимо API — процессом в контейнере API."""
|
||
result = subprocess.run(
|
||
[
|
||
"docker",
|
||
"exec",
|
||
"-i",
|
||
api_container(project),
|
||
"python",
|
||
"-c",
|
||
PUT_OBJECT_PY,
|
||
object_key(key),
|
||
],
|
||
input=sys.stdin.buffer.read(),
|
||
capture_output=True,
|
||
check=False,
|
||
)
|
||
if result.returncode != 0:
|
||
sys.stderr.write(result.stderr.decode(errors="replace"))
|
||
raise SystemExit(result.returncode)
|
||
return ""
|
||
|
||
|
||
def delete_object(project: str, key: str) -> str:
|
||
"""Удалить объект в filer, мимо шлюза S3. `weed shell` выходит с кодом
|
||
0 и при ошибке команды: ошибка — по её выводу."""
|
||
bucket, _ = storage_names()
|
||
output = compose(
|
||
project,
|
||
"exec",
|
||
"-T",
|
||
"s3",
|
||
"sh",
|
||
"-c",
|
||
"exec weed shell -master=127.0.0.1:9333 2>&1",
|
||
stdin=f"fs.rm /buckets/{bucket}/{object_key(key)}\n",
|
||
)
|
||
failed = [
|
||
line
|
||
for line in output.splitlines()
|
||
if "error" in line.lower() or "not found" in line.lower()
|
||
]
|
||
if failed:
|
||
raise HookError(f"fs.rm failed: {failed[0]}")
|
||
return ""
|
||
|
||
|
||
def row_change(project: str, sql: str, attachment_id: str, value: str) -> str:
|
||
"""Изменение одной строки вложения; строки нет — отказ (код 2)."""
|
||
changed = psql(
|
||
project,
|
||
sql,
|
||
title=str(uuid.UUID(attachment_id)),
|
||
mode=value,
|
||
)
|
||
if not changed:
|
||
raise HookError(f"attachment {attachment_id} not found")
|
||
return ""
|
||
|
||
|
||
def reconcile_options(args: list[str]) -> list[str]:
|
||
"""Аргументы сверки после режима: необязательный предел изменений
|
||
первым, затем `--strategy batch|head`, `--deep`,
|
||
`--max-objects-per-second R`. Каждый — по списку разрешённых, иначе
|
||
код 2 hook."""
|
||
usage = (
|
||
"reconcile dry-run|apply [<max changes>] [--strategy batch|head] "
|
||
"[--deep] [--max-objects-per-second R]"
|
||
)
|
||
options: list[str] = []
|
||
rest = list(args)
|
||
if rest and not rest[0].startswith("--"):
|
||
if not rest[0].isdigit() or int(rest[0]) < 1:
|
||
raise HookError(usage)
|
||
options += ["--max-changes", str(int(rest.pop(0)))]
|
||
seen: set[str] = set()
|
||
while rest:
|
||
name = rest.pop(0)
|
||
if name in seen:
|
||
raise HookError(usage)
|
||
seen.add(name)
|
||
if name == "--deep":
|
||
options.append(name)
|
||
elif name == "--strategy" and rest and rest[0] in RECONCILE_STRATEGIES:
|
||
options += [name, rest.pop(0)]
|
||
elif name == "--max-objects-per-second" and rest:
|
||
value = rest.pop(0)
|
||
if not RATE_PATTERN.fullmatch(value):
|
||
raise HookError(usage)
|
||
options += [name, value]
|
||
else:
|
||
raise HookError(usage)
|
||
return options
|
||
|
||
|
||
def reconcile(project: str, mode: str, args: list[str]) -> str:
|
||
"""Разовая сверка в одноразовом контейнере уборщика стенда: записи
|
||
процесса и строка `exit_code=<n>`."""
|
||
if mode not in RECONCILE_MODES:
|
||
raise HookError("reconcile dry-run|apply [<max changes>] [options]")
|
||
options = reconcile_options(args)
|
||
result = compose_run(
|
||
project,
|
||
"run",
|
||
"--rm",
|
||
"--no-deps",
|
||
"-T",
|
||
"cleaner",
|
||
"reconcile",
|
||
*RECONCILE_MODES[mode],
|
||
*options,
|
||
)
|
||
lines = [*result.stdout.splitlines(), *result.stderr.splitlines()]
|
||
return "\n".join([*lines, f"exit_code={result.returncode}"])
|
||
|
||
|
||
def cleaner_action(project: str, action: str) -> str:
|
||
"""`stop` или `start` сервиса уборщика стенда — тот же контейнер.
|
||
|
||
`docker compose start` проверял бы зависимости сервиса, а одноразовый
|
||
`migrate` стенд запускал через `run --rm`, и контейнера его нет
|
||
(«missing dependency migrate»): поэтому `docker start` контейнера.
|
||
"""
|
||
if action == "stop":
|
||
return compose(project, "stop", "cleaner")
|
||
container = compose(project, "ps", "-a", "-q", "cleaner")
|
||
if not container:
|
||
raise HookError("cleaner container of the stand not found")
|
||
docker("start", container)
|
||
return ""
|
||
|
||
|
||
def run_cleaner(project: str, seconds: str) -> str:
|
||
"""Отдельный уборщик с плановой сверкой раз в 1 с на `seconds`, затем
|
||
остановка; его журнал."""
|
||
duration = float(seconds)
|
||
if not 0 < duration <= SCHEDULED_CLEANER_MAX_S:
|
||
raise HookError(f"seconds must be in (0, {SCHEDULED_CLEANER_MAX_S}]")
|
||
name = f"{project}-cleaner-scheduled"
|
||
subprocess.run(
|
||
["docker", "rm", "-f", name],
|
||
capture_output=True,
|
||
check=False,
|
||
)
|
||
compose(
|
||
project,
|
||
"run",
|
||
"-d",
|
||
"--no-deps",
|
||
"--name",
|
||
name,
|
||
"-e",
|
||
SCHEDULED_CLEANER_ENV,
|
||
"cleaner",
|
||
)
|
||
try:
|
||
time.sleep(duration)
|
||
docker("stop", name)
|
||
return docker("logs", name)
|
||
finally:
|
||
subprocess.run(
|
||
["docker", "rm", "-f", name],
|
||
capture_output=True,
|
||
check=False,
|
||
)
|
||
|
||
|
||
def api_container(project: str) -> str:
|
||
# обычный API стенда отказов: имя задаёт run_failures.py
|
||
return f"{project}-api"
|
||
|
||
|
||
def start_api(project: str) -> str:
|
||
"""Тот же контейнер API; готов — `healthy` по healthcheck образа."""
|
||
name = api_container(project)
|
||
docker("start", name)
|
||
deadline = time.monotonic() + API_HEALTHY_TIMEOUT_S
|
||
while time.monotonic() < deadline:
|
||
status = docker(
|
||
"inspect",
|
||
"-f",
|
||
"{{.State.Health.Status}}",
|
||
name,
|
||
)
|
||
if status == "healthy":
|
||
return ""
|
||
time.sleep(0.2)
|
||
raise HookError(f"{name} is not healthy in {API_HEALTHY_TIMEOUT_S}s")
|
||
|
||
|
||
def docker(*args: str) -> str:
|
||
result = subprocess.run(
|
||
["docker", *args],
|
||
text=True,
|
||
capture_output=True,
|
||
check=False,
|
||
)
|
||
if result.returncode != 0:
|
||
sys.stderr.write(result.stderr)
|
||
raise SystemExit(result.returncode)
|
||
return result.stdout.strip()
|
||
|
||
|
||
def run(project: str, action: str, args: list[str]) -> str:
|
||
"""Выполнить действие; синтаксис без match: hook запускают и 3.9."""
|
||
if action in ("stop", "start") and args == ["cleaner"]:
|
||
return cleaner_action(project, action)
|
||
if action in ("stop", "start", "kill") and args == ["worker"]:
|
||
return worker_action(project, action)
|
||
if action in (
|
||
"stop",
|
||
"start",
|
||
"pause",
|
||
"unpause",
|
||
"kill",
|
||
"recreate",
|
||
) and args == ["rabbitmq"]:
|
||
return broker_action(project, action)
|
||
if action == "worker-state" and not args:
|
||
return worker_state(project)
|
||
if action == "worker-log" and not args:
|
||
return docker("logs", worker_container(project))
|
||
if action == "queue-state" and not args:
|
||
return queue_state(project)
|
||
if action == "delete-queue" and not args:
|
||
return delete_queue(project)
|
||
if action == "peek-job" and not args:
|
||
return api_python(project, PEEK_JOB_PY)
|
||
if action == "publish-job" and not args:
|
||
return api_python(project, PUBLISH_JOB_PY, sys.stdin.buffer.read())
|
||
if action == "job" and len(args) == 1:
|
||
return psql(project, JOB_SQL, title=str(uuid.UUID(args[0])))
|
||
if action == "staging-ids" and not args:
|
||
return object_ids(project, ATTACHMENT_STAGING_PREFIX)
|
||
if action == "variant-object-count" and len(args) == 1:
|
||
return variant_object_count(project, args[0])
|
||
if action in ("stop", "pause") and len(args) == 1:
|
||
return compose(project, action, service(args[0]))
|
||
if action == "start" and len(args) == 1:
|
||
return wait_healthy(project, service(args[0]))
|
||
if action == "unpause" and len(args) == 1:
|
||
compose(project, "unpause", service(args[0]))
|
||
return wait_answers(project, args[0])
|
||
if action == "flush-cache" and not args:
|
||
return valkey(project, "FLUSHALL")
|
||
if action == "cache-hits" and not args:
|
||
return cache_hits(project)
|
||
if action == "cache-has-chat" and len(args) == 1:
|
||
return cache_has_chat(project, args[0])
|
||
if action == "fail-members" and len(args) == 1:
|
||
return psql(project, FAIL_MEMBERS_SQL, title=args[0])
|
||
if action == "clear-fail-members" and not args:
|
||
return psql(project, CLEAR_FAIL_MEMBERS_SQL)
|
||
if action == "fail-messages" and len(args) == 1:
|
||
# аргумент триггера передаётся той же переменной psql, что title
|
||
return psql(project, FAIL_MESSAGES_SQL, title=args[0])
|
||
if action == "clear-fail-messages" and not args:
|
||
return psql(project, CLEAR_FAIL_MESSAGES_SQL)
|
||
if action == "count-chats" and len(args) == 1:
|
||
return psql(project, COUNT_CHATS_SQL, title=args[0])
|
||
if action == "fill-connections" and len(args) == 1:
|
||
return fill_connections(project, args[0])
|
||
if action == "clear-connections" and not args:
|
||
return clear_connections(project)
|
||
if action == "db-sessions" and not args:
|
||
return psql(project, DB_SESSIONS_SQL)
|
||
if action == "attachment-ids" and not args:
|
||
return psql(project, ATTACHMENT_IDS_SQL)
|
||
if action == "last-pending" and not args:
|
||
return psql(project, LAST_PENDING_SQL)
|
||
if action == "object-ids" and not args:
|
||
return object_ids(project)
|
||
if action == "fail-attachments" and len(args) == 2:
|
||
return fail_attachments(project, args[0], args[1])
|
||
if action == "clear-fail-attachments" and not args:
|
||
return psql(project, CLEAR_FAIL_ATTACHMENTS_SQL)
|
||
if action == "kill-api" and not args:
|
||
return docker("kill", api_container(project)) and ""
|
||
if action == "start-api" and not args:
|
||
return start_api(project)
|
||
if action == "put-object" and len(args) == 1:
|
||
return put_object(project, args[0])
|
||
if action == "delete-object" and len(args) == 1:
|
||
return delete_object(project, args[0])
|
||
if action == "delete-row" and len(args) == 1:
|
||
return row_change(project, DELETE_ROW_SQL, args[0], "")
|
||
if action == "set-size" and len(args) == 2:
|
||
return row_change(project, SET_SIZE_SQL, args[0], str(int(args[1])))
|
||
if action == "age-row" and len(args) == 2:
|
||
return row_change(
|
||
project,
|
||
AGE_ROW_SQL,
|
||
args[0],
|
||
str(float(args[1])),
|
||
)
|
||
if action == "set-key" and len(args) == 2:
|
||
return row_change(project, SET_KEY_SQL, args[0], row_key(args[1]))
|
||
if action == "lost-ids" and not args:
|
||
return psql(project, LOST_IDS_SQL)
|
||
if action == "reconcile" and args:
|
||
return reconcile(project, args[0], args[1:])
|
||
if action == "run-cleaner" and len(args) == 1:
|
||
return run_cleaner(project, args[0])
|
||
raise HookError(f"unknown action or arguments: {action} {args}")
|
||
|
||
|
||
def main() -> int:
|
||
if len(sys.argv) < 2:
|
||
print(__doc__, file=sys.stderr)
|
||
return 2
|
||
try:
|
||
output = run(fault_project(), sys.argv[1], sys.argv[2:])
|
||
except (HookError, ValueError) as e:
|
||
print(f"fault_hook: {e}", file=sys.stderr)
|
||
return 2
|
||
if output:
|
||
print(output)
|
||
return 0
|
||
|
||
|
||
if __name__ == "__main__":
|
||
sys.exit(main())
|