16 KiB
Отчёт — лабораторная 1
- Автор: Самохвалов Андрей Ремович (локальный Git); группа БПИ2302 (имя ветки/remote). Подтвердить данные перед PR.
- Цель: оценка 5, трек 1 «Предел in-memory архитектуры». Ниже — проверенные критерии уровней 3 и 4 и эксперимент уровня 5.
- Ветка:
solution/bpi2302-samohvalov. Commit/PR: заполнить после публикации. - Источники:
README.md,COURSE.md,contracts/openapi.json,contracts/README.md,Dockerfile.example,tests/README.md. FastAPI, Pydantic и Uvicorn закреплены вrequirements.lock. Codex помог написать код, тесты и отчёт; результаты команд получены локально.
Запуск из чистого clone
Нужны Docker Engine, Python 3.9+ и make. В корне репозитория:
cp .env.example .env
docker build -t mtusi-messenger:lab1 .
docker run -d --name mtusi-messenger-lab1 -p 127.0.0.1:8080:8080 --env-file .env mtusi-messenger:lab1
curl --fail http://127.0.0.1:8080/health/ready
make check
make test BASE_URL=http://127.0.0.1:8080
python3 student-tests/test_lifecycle.py -v
docker stop --time 10 mtusi-messenger-lab1
docker rm mtusi-messenger-lab1
APP_HOST=0.0.0.0 и APP_PORT=8080 из .env.example читает src/server.py; при смене порта измените и публикацию Docker. Миграций и volumes нет. Сервер — PID 1, docker stop посылает SIGTERM. Удаление контейнера намеренно удаляет учебные данные. Локальный .env исключён из Git и Docker build context.
На этой машине Colima не пробрасывает published port на macOS. Для make test откройте во втором терминале туннель, после проверки завершите его Ctrl-C:
ssh -F /Users/wingto/.colima/ssh_config -o ExitOnForwardFailure=yes -N -L 127.0.0.1:8080:127.0.0.1:8080 colima
make test BASE_URL=http://127.0.0.1:8080
Архитектура
Один Uvicorn worker обслуживает FastAPI и один Store в памяти. Словари пользователей, чатов и сообщений защищены общим threading.Lock. Членство проверяется перед чтением чата и истории. Страницы отсортированы по (created_at, id), cursor привязан к пользователю или чату. Данные не переживают рестарт и не синхронизируются между процессами. Базовый Python 3.12.12 slim-bookworm закреплён по digest; прямые и транзитивные зависимости закреплены версиями в requirements.lock. Контейнер работает от UID 999.
Доказательства критериев
| Критерий README | Команда/сценарий | Наблюдение 01.10.2026 | Файл доказательства |
|---|---|---|---|
| Целостность skeleton | make check |
PASS: offline skeleton structure, local refs and Python syntax |
scripts/check_contract.py |
| Все endpoint, доступ, Unicode, ошибки, страницы | make test BASE_URL=http://127.0.0.1:8080 через временный SSH-туннель к Colima; также публичный smoke внутри VM |
PASS: lab1 public API scenario |
tests/smoke.py |
| Сборка и запуск на 8080 | docker build -t mtusi-messenger:lab1 .; docker run -d -p 127.0.0.1:8080:8080 ... |
Сборка успешна; в VM /health/ready вернул {"status":"ok"}, Uvicorn слушал 0.0.0.0:8080 |
Dockerfile, src/server.py |
| Только память и сброс после рестарта | colima ssh -- python3 /Users/wingto/study/mtusi2026lab1/student-tests/test_lifecycle.py -v |
Сообщение читалось до рестарта; старый X-User-Id после docker restart получил 401 |
student-tests/test_lifecycle.py |
| Негативные и cursor-тесты | /private/tmp/mtusi-lab1-venv/bin/python -m unittest discover -s student-tests -v |
Ran 8 tests in 0.517s, OK (skipped=1); отдельный Docker lifecycle запускается явно |
student-tests/test_api.py, student-tests/test_lifecycle.py |
| Параллельная запись | Та же команда unittest discover |
Concurrency evidence: 10 clients, 100 writes, 100 unique messages read |
student-tests/test_concurrency.py |
| Non-root, pinned образ/зависимости, healthcheck, .dockerignore | Lifecycle-тест в Colima VM | healthy, UID 999; образ собран по digest и requirements.lock |
Dockerfile, .dockerignore, requirements.lock, student-tests/test_lifecycle.py |
| SIGTERM, закрытый порт, логи без текстов | Lifecycle-тест в Colima VM | SIGTERM=0.25s, exit code 0, новое TCP-подключение отклонено, текст тестового сообщения отсутствует в docker logs |
student-tests/test_lifecycle.py |
| CI приложения | .github/workflows/application.yml |
Job build/readiness/public smoke добавлен; внешнее выполнение ещё не подтверждено | .github/workflows/application.yml |
| Трек 5 | Матрица 3 размера истории × 3 конкуренции × 2 повтора до/после | 36 замеров, 0 ошибок; при 10 000 сообщений и 12 клиентах медианный RPS 493 → 2343, p95 32.157 → 6.793 мс | student-tests/benchmark_memory.py, evidence/load-lab1.csv |
Эксперименты и отказы
| Воздействие | Ожидание | Наблюдение | Восстановление / потеря данных |
|---|---|---|---|
docker restart |
Память сброшена | Прежний пользователь получил 401 после готовности | Все данные потеряны по дизайну lab1 |
docker stop --time 10 |
Завершение за ≤10 с, новые запросы отклонены | 0.25 с, exit code 0, порт закрыт | После остановки сервис недоступен |
Исследование предела памяти: трек 1
Гипотеза до изменения. Store.list_messages на каждом GET сортирует весь список сообщений и фильтрует его после cursor под общим lock. При фиксированной странице из 20 сообщений рост истории должен снизить throughput и увеличить задержки. Поддержание порядка при записи и бинарный поиск cursor должны убрать эту зависимость для чтения; размер памяти при этом останется пропорциональным числу сообщений.
Стенд и метод. Измерения 01.10.2026 выполнены внутри Colima VM, Linux aarch64 / Ubuntu 24.04.4 LTS, Docker Engine 29.5.2 (VM: 2 CPU, 2 054 840 320 байт RAM). Каждый контейнер ограничен --cpus=1 --memory=512m --memory-swap=512m, один Uvicorn worker, Python 3.12.12. Исходный образ mtusi-messenger:lab1 имеет ID sha256:2e71d7424c0769e04834d5d71ee929efd8772048f38842deeb62ca4506703430 и собран из commit c5e93067ec5b57031fdfb413ad6033dde622590d; образ после одного изменения mtusi-messenger:lab1-after — sha256:99353b010fcd7704b06a884a6fccbbe8dd487fb20e11946c6f8828256a793ad9.
Для каждого размера истории (100, 2000, 10 000) стартует новый контейнер, создаются пользователь, чат и заданное число синтетических сообщений с seed 20261001. Нагрузка — GET /api/v1/chats/{id}/messages?limit=20&cursor=... из середины истории. Для 1, 4 и 12 клиентов выполняются два повтора по 1 секунде прогрева и 3 секунды замера. Клиенты держат HTTP keep-alive, не делают retry и измеряют время до полного чтения ответа. Успешный RPS — число ответов 200 за фактическое время; ошибки считаются отдельно. p50/p95/p99 вычисляются по успешным ответам. CPU — разница utime+stime /proc/1/stat за интервал как процент одного ядра; RSS — VmRSS /proc/1/status до и после интервала. CSV содержит все 36 отдельных агрегатов без текстов сообщений и идентификаторов пользователей.
После baseline изменён только алгоритм хранения и чтения сообщений в src/store.py: вставка в отсортированный список через bisect.insort, поиск позиции cursor через bisect_right, выдача среза страницы. Это сохраняет порядок (created_at, id), включая совпавшие timestamps. Повторная матрица использовала тот же скрипт, seed, размеры, конкуренцию, длительность и лимиты.
# Команды из корня текущего checkout; baseline-образ собран из commit U4 до правки src/store.py.
git checkout c5e93067ec5b57031fdfb413ad6033dde622590d
docker build -t mtusi-messenger:lab1 .
git checkout solution/bpi2302-samohvalov
docker build -t mtusi-messenger:lab1-after .
colima ssh -- python3 "$PWD/student-tests/benchmark_memory.py" --phase baseline --image mtusi-messenger:lab1 --output "$PWD/evidence/load-lab1.csv" --duration 3 --warmup 1 --repeats 2 --seed 20261001
colima ssh -- python3 "$PWD/student-tests/benchmark_memory.py" --phase after --image mtusi-messenger:lab1-after --output "$PWD/evidence/load-lab1.csv" --duration 3 --warmup 1 --repeats 2 --seed 20261001
Перед повторным запуском удалите старый evidence/load-lab1.csv, иначе скрипт допишет строки. Ниже медианы двух повторов; полные числа, включая количество успешных ответов, ошибки, CPU и RSS в каждом повторе, находятся в CSV. RSS приведён в KiB после замера.
| Сообщений | Клиентов | RPS до → после | p50, мс до → после | p95, мс до → после | p99, мс до → после | CPU %, до → после | RSS KiB, до → после |
|---|---|---|---|---|---|---|---|
| 100 | 1 | 1763 → 1758 | 0.564 → 0.568 | 0.636 → 0.629 | 0.696 → 0.677 | 86.2 → 86.0 | 45666 → 45674 |
| 100 | 4 | 2087 → 2143 | 1.784 → 1.732 | 2.575 → 2.494 | 3.426 → 3.269 | 95.4 → 95.3 | 45884 → 45848 |
| 100 | 12 | 2277 → 2384 | 5.160 → 4.967 | 7.042 → 6.710 | 9.841 → 8.994 | 98.7 → 98.9 | 46828 → 46766 |
| 2000 | 1 | 1195 → 1671 | 0.819 → 0.587 | 0.883 → 0.647 | 0.932 → 0.706 | 88.7 → 85.0 | 47040 → 46950 |
| 2000 | 4 | 1301 → 2125 | 2.966 → 1.784 | 4.171 → 2.567 | 5.067 → 3.267 | 94.8 → 97.2 | 47296 → 47074 |
| 2000 | 12 | 1344 → 2322 | 8.587 → 5.010 | 11.563 → 6.787 | 25.556 → 9.622 | 95.3 → 96.9 | 48420 → 47714 |
| 10000 | 1 | 469 → 1666 | 1.968 → 0.587 | 2.276 → 0.647 | 7.179 → 0.706 | 93.8 → 84.5 | 51852 → 50996 |
| 10000 | 4 | 464 → 2116 | 7.824 → 1.760 | 13.589 → 2.529 | 19.584 → 3.349 | 95.2 → 95.5 | 52456 → 51120 |
| 10000 | 12 | 493 → 2343 | 23.328 → 5.054 | 32.157 → 6.793 | 39.069 → 9.267 | 98.8 → 99.4 | 53688 → 51792 |
Вывод и ограничения. В baseline рост истории с 100 до 10 000 при 12 клиентах уменьшил медианный RPS в 4.6 раза; CPU был почти насыщен. После изменения RPS на 10 000 сообщениях вырос в 4.75 раза, а p95 уменьшился в 4.73 раза. На 100 сообщениях при одном клиенте разница RPS меньше разброса повторов; универсального выигрыша не утверждаем. При 2000 сообщениях и 12 клиентах baseline p99 различался между повторами (37.517 и 13.596 мс), поэтому медиана не описывает худший выброс. RSS увеличивается с размером истории и остаётся около 46–54 MiB в этом опыте: оптимизация чтения не устраняет предел in-memory хранения. Алгоритм вставки сохраняет быстрый append для хронологических записей, но при времени, идущем назад, может потребовать сдвига O(N); нагрузка записи после изменения отдельно не измерена. Генератор closed-loop, клиент и сервер делят VM, поэтому coordinated omission и CPU клиента ограничивают выводы о максимальной ёмкости; трёхсекундные окна и два повтора дают локальное сравнение, но не долгосрочную оценку. Ошибок HTTP во всех 36 замерах не было; отсутствие ошибок в этом опыте не доказывает надёжность при OOM или отказе host.
После изменения make check прошёл; python -m unittest discover -s student-tests -v дал 8 проверок, 7 успешных и 1 пропуск Docker lifecycle, включая 100/100 уникальных сообщений в конкурентном тесте. Публичный tests/smoke.py --base-url http://127.0.0.1:18080 внутри Colima VM прошёл на изменённом образе (PASS: lab1 public API scenario).
Ограничения и следующие шаги
В текущей Colima VM опубликованный порт отвечал, но macOS host без отдельного SSH-туннеля получал Connection refused даже для -p 18080:8080. Контейнер и API проверены из VM, штатный make test — через туннель; прямой host localhost на этой машине пока не подтверждён. CI job рассчитан на обычный Docker runner, внешний результат пока не получен. Второй worker имел бы независимую память. Cursor не даёт snapshot между запросами. Общий lock и хранение всей истории в RAM остаются ограничениями, несмотря на измеренное ускорение чтения.