ЛР 6 - БВТ2301 - Никитин - на 5 #29

Closed
AndrewNikkk wants to merge 1 commits from AndrewNikkk/mtusi2026lab6:solution/bvt2301-nikitin into main
First-time contributor

Лабораторная 6

Автор / группа: Никитин Андрей Александрович, БВТ2301
Целевая оценка (3/4/5): 5
Трек 5, если заявлен: Track 1 — цена наблюдаемости (Cost of observability).

Что реализовано и что перенесено:

Из lab5 перенесены C++17 API и Worker, PostgreSQL, Valkey/Redis Streams,
transactional outbox, retry/backoff, MinIO original/variants, direct uploads,
авторизация, сессии и идемпотентность. Бизнес-API и обработка заданий сохранены.

Добавлены opentelemetry-cpp v1.21.0 с OTLP HTTP/protobuf, Collector, Prometheus,
Loki, Tempo и Grafana с закреплёнными версиями и persistent volumes. Реализованы
метрики HTTP/jobs/queue/pools/saturation/CPU/RAM, структурные логи, сквозные
traces API → outbox → Redis → Worker → S3/DB, включая retry. Добавлены provisioning,
dashboard p50/p95/p99/error rate/queue/saturation, SLI/SLO, alert rules и runbooks.
Экспортеры и Collector имеют ограниченные очереди и timeout/retry.

Для Track 1 создан scripts/benchmark_telemetry.py: три повтора каждого варианта
Off / On 100% / On с Collector sampling 10%, по 1000 uploads, concurrency 4.
Сохранены latency samples, Docker stats, counters ingest/export и результаты
отдельного synthetic ERROR probe.

Команды запуска из чистого clone:

Требуются Linux amd64, Docker Engine с Compose v2+, Python 3.9+ и сеть для первой
сборки/pull. Команды выполняются из корня репозитория:

python3 scripts/bootstrap-local.py
docker compose config --quiet
docker compose up -d --build
# Дождаться HTTP 200; при необходимости повторить запрос:
curl -fsS http://localhost:8080/health/ready
make check
make test
make test-observability
make test-incidents
python3 scripts/benchmark_telemetry.py --self-test
python3 scripts/benchmark_telemetry.py --requests 1000 --concurrency 4 --repetitions 3

Миграции, S3 bootstrap и Grafana provisioning выполняются автоматически.
Grafana: http://localhost:3000/d/messenger-observability, пользователь admin;
пароль — в локальном secrets/grafana_admin_password, значение не публикуется.
Bootstrap не перезаписывает существующие credentials. Безопасная остановка:
docker compose down без удаления volumes. Для Docker Snap можно передать
COMPOSE=/path/to/docker-compose в make и --compose /path/to/docker-compose --docker /path/to/docker в benchmark.

Результаты проверок и ссылка на REPORT.md:

Полный отчёт по исходному шаблону: REPORT.md.

  • Docker build, Compose config, Collector validate, Prometheus config и три alert rules — PASS.
  • C++ self-test, публичный API smoke с telemetry on/off и проверка observability — PASS; проверены 25 запросов dashboard и privacy canaries.
  • Worker/DB alerts прошли firing → resolved; retry сохранил trace; при остановке Loki/Tempo API и Worker продолжили работать. Сервисы восстановлены.
  • Track 1 — PASS: 9 прогонов, 9000 HTTP 202/uploads ready, 0 HTTP-ошибок. Медианные RPS A/B/C: 84.37 / 75.44 / 75.28; p99: 202.70 / 288.30 / 204.05 ms.
  • Средний CPU API B относительно A вырос на 22.5%, Worker — на 10.6%; RAM — на 19.9% / 13.5%. Парный прирост оценочных CPU ms/job: API +9.9%, Worker +2.2%.
  • Collector sampling сохранил 10.92% spans для Tempo, не уменьшив входящий SDK ingest. Из 100 synthetic ERROR traces найдены 9; metrics/logs в варианте C сохраняются на 100%.

Доказательства:
evidence/verification.md,
evidence/observability.json,
evidence/incidents.json,
evidence/load.json,
evidence/track1-benchmark.md,
evidence/track1-benchmark.json.

Реальный вывод make check и сохранённого публичного make test
(проверки выполнены 16.11.2026):

python3 scripts/check_contract.py
PASS: offline skeleton structure, local refs and Python syntax; application NOT tested.

python3 tests/smoke.py --base-url "http://localhost:8080"
PASS: lab6 public API scenario; infrastructure and grading evidence remain separate.

Ограничения / известные ошибки:

Функциональные ошибки в перечисленных проверенных сценариях не выявлены.
Длительный memory soak, исчерпывающий privacy/security audit, отдельные полные
persistence/failover hooks lab6 и подтверждение SLO за полные 30 минут не выполнялись.
SDK не предоставляет точного счётчика потерь log batch queue; export failures
не равны числу уникальных потерянных spans. Worker последовательный, capacity=1.
Queue depth — durable незавершённые jobs из БД, не Redis XLEN.

Бенчмарк closed-loop на одном хосте, три повтора без CPU pinning и изоляции
фоновой нагрузки; медленные третьи прогоны сохранены. Точные OTLP bytes и
backend CPU/RAM не измерены. Sampling в Collector экономит trace export/storage,
но не доказано снижение CPU SDK; он может отбросить редкие ошибки.
Error/slow-aware tail sampling остаётся рекомендацией. Подробности — в отчёте.

Источники и использование ИИ:

README и контракты курса, контракт наблюдаемости,
OpenTelemetry C++ exporters,
W3C Trace Context,
Loki native OTLP,
probabilistic sampler Collector 0.119.0.
Библиотеки: opentelemetry-cpp, minio-cpp, libpqxx, hiredis, libsodium,
nlohmann/json, libexif, libwebp и stb; версии указаны в REPORT.md и конфигурациях.
ИИ Codex использован для реализации инструментации/конфигураций, скриптов
проверок и бенчмарка, анализа измерений и оформления документации.
Результаты получены реальными запусками, ожидаемые значения не подставлялись.

  • Весь обязательный минимум текущей и предыдущих работ сохранён с объявленными переходами.
  • Контракт и публичные тесты не ослаблены.
  • make check и make test выполнены; приложен реальный вывод.
  • Сценарии отказов/безопасности своего уровня воспроизведены.
  • Все секреты и приватные ключи находятся вне Git; отчёт не содержит tokens.
  • README задания сохранён, REPORT.md содержит инструкцию именно моего решения.
## Лабораторная 6 Автор / группа: Никитин Андрей Александрович, БВТ2301 Целевая оценка (3/4/5): 5 Трек 5, если заявлен: Track 1 — цена наблюдаемости (Cost of observability). Что реализовано и что перенесено: Из lab5 перенесены C++17 API и Worker, PostgreSQL, Valkey/Redis Streams, transactional outbox, retry/backoff, MinIO original/variants, direct uploads, авторизация, сессии и идемпотентность. Бизнес-API и обработка заданий сохранены. Добавлены opentelemetry-cpp v1.21.0 с OTLP HTTP/protobuf, Collector, Prometheus, Loki, Tempo и Grafana с закреплёнными версиями и persistent volumes. Реализованы метрики HTTP/jobs/queue/pools/saturation/CPU/RAM, структурные логи, сквозные traces API → outbox → Redis → Worker → S3/DB, включая retry. Добавлены provisioning, dashboard p50/p95/p99/error rate/queue/saturation, SLI/SLO, alert rules и runbooks. Экспортеры и Collector имеют ограниченные очереди и timeout/retry. Для Track 1 создан `scripts/benchmark_telemetry.py`: три повтора каждого варианта Off / On 100% / On с Collector sampling 10%, по 1000 uploads, concurrency 4. Сохранены latency samples, Docker stats, counters ingest/export и результаты отдельного synthetic ERROR probe. Команды запуска из чистого clone: Требуются Linux amd64, Docker Engine с Compose v2+, Python 3.9+ и сеть для первой сборки/pull. Команды выполняются из корня репозитория: ```sh python3 scripts/bootstrap-local.py docker compose config --quiet docker compose up -d --build # Дождаться HTTP 200; при необходимости повторить запрос: curl -fsS http://localhost:8080/health/ready make check make test make test-observability make test-incidents python3 scripts/benchmark_telemetry.py --self-test python3 scripts/benchmark_telemetry.py --requests 1000 --concurrency 4 --repetitions 3 ``` Миграции, S3 bootstrap и Grafana provisioning выполняются автоматически. Grafana: http://localhost:3000/d/messenger-observability, пользователь `admin`; пароль — в локальном `secrets/grafana_admin_password`, значение не публикуется. Bootstrap не перезаписывает существующие credentials. Безопасная остановка: `docker compose down` без удаления volumes. Для Docker Snap можно передать `COMPOSE=/path/to/docker-compose` в make и `--compose /path/to/docker-compose --docker /path/to/docker` в benchmark. Результаты проверок и ссылка на REPORT.md: Полный отчёт по исходному шаблону: [REPORT.md](REPORT.md). - Docker build, Compose config, Collector validate, Prometheus config и три alert rules — PASS. - C++ self-test, публичный API smoke с telemetry on/off и проверка observability — PASS; проверены 25 запросов dashboard и privacy canaries. - Worker/DB alerts прошли firing → resolved; retry сохранил trace; при остановке Loki/Tempo API и Worker продолжили работать. Сервисы восстановлены. - Track 1 — PASS: 9 прогонов, 9000 HTTP 202/uploads ready, 0 HTTP-ошибок. Медианные RPS A/B/C: 84.37 / 75.44 / 75.28; p99: 202.70 / 288.30 / 204.05 ms. - Средний CPU API B относительно A вырос на 22.5%, Worker — на 10.6%; RAM — на 19.9% / 13.5%. Парный прирост оценочных CPU ms/job: API +9.9%, Worker +2.2%. - Collector sampling сохранил 10.92% spans для Tempo, не уменьшив входящий SDK ingest. Из 100 synthetic ERROR traces найдены 9; metrics/logs в варианте C сохраняются на 100%. Доказательства: [evidence/verification.md](evidence/verification.md), [evidence/observability.json](evidence/observability.json), [evidence/incidents.json](evidence/incidents.json), [evidence/load.json](evidence/load.json), [evidence/track1-benchmark.md](evidence/track1-benchmark.md), [evidence/track1-benchmark.json](evidence/track1-benchmark.json). Реальный вывод `make check` и сохранённого публичного `make test` (проверки выполнены 16.11.2026): ```text python3 scripts/check_contract.py PASS: offline skeleton structure, local refs and Python syntax; application NOT tested. python3 tests/smoke.py --base-url "http://localhost:8080" PASS: lab6 public API scenario; infrastructure and grading evidence remain separate. ``` Ограничения / известные ошибки: Функциональные ошибки в перечисленных проверенных сценариях не выявлены. Длительный memory soak, исчерпывающий privacy/security audit, отдельные полные persistence/failover hooks lab6 и подтверждение SLO за полные 30 минут не выполнялись. SDK не предоставляет точного счётчика потерь log batch queue; export failures не равны числу уникальных потерянных spans. Worker последовательный, capacity=1. Queue depth — durable незавершённые jobs из БД, не Redis XLEN. Бенчмарк closed-loop на одном хосте, три повтора без CPU pinning и изоляции фоновой нагрузки; медленные третьи прогоны сохранены. Точные OTLP bytes и backend CPU/RAM не измерены. Sampling в Collector экономит trace export/storage, но не доказано снижение CPU SDK; он может отбросить редкие ошибки. Error/slow-aware tail sampling остаётся рекомендацией. Подробности — в отчёте. Источники и использование ИИ: README и контракты курса, [контракт наблюдаемости](contracts/observability.md), [OpenTelemetry C++ exporters](https://opentelemetry.io/docs/languages/cpp/exporters/), [W3C Trace Context](https://www.w3.org/TR/trace-context/), [Loki native OTLP](https://grafana.com/docs/loki/latest/send-data/otel/), [probabilistic sampler Collector 0.119.0](https://github.com/open-telemetry/opentelemetry-collector-contrib/blob/v0.119.0/processor/probabilisticsamplerprocessor/README.md). Библиотеки: opentelemetry-cpp, minio-cpp, libpqxx, hiredis, libsodium, nlohmann/json, libexif, libwebp и stb; версии указаны в REPORT.md и конфигурациях. ИИ Codex использован для реализации инструментации/конфигураций, скриптов проверок и бенчмарка, анализа измерений и оформления документации. Результаты получены реальными запусками, ожидаемые значения не подставлялись. - [x] Весь обязательный минимум текущей и предыдущих работ сохранён с объявленными переходами. - [x] Контракт и публичные тесты не ослаблены. - [x] make check и make test выполнены; приложен реальный вывод. - [x] Сценарии отказов/безопасности своего уровня воспроизведены. - [x] Все секреты и приватные ключи находятся вне Git; отчёт не содержит tokens. - [x] README задания сохранён, REPORT.md содержит инструкцию именно моего решения.
AndrewNikkk added 1 commit 2026-11-16 18:53:50 +03:00
AndrewNikkk changed title from lab6 to ЛР 6 - БВТ2301 - Никитин - на 5 2026-11-16 18:54:18 +03:00
Owner

Принято. Закрываю МР.

Принято. Закрываю МР.
veprickiy closed this pull request 2026-11-17 11:03:32 +03:00

Pull request closed

Please reopen this pull request to perform a merge.
Sign in to join this conversation.
No Reviewers
No labels
2 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: mtusi2026/mtusi2026lab6#29