- evidence: consistency (driver upload-consistency), cleaner process, cleaner S3 key, pending index plan on the working database - re-run failure_checks (29/29), student_test via LB and test_isolated with the cleaner and storage-consistency coverage - REPORT: database and S3 consistency, compensation table, grace period rationale, "PUT succeeded, COMMIT did not" answer, level 4 rows, limitations; PLAN stage 3 and AGENTS evidence map Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
7.4 KiB
Bootstrap S3: первый запуск, повтор, смена секрета, ошибка шага
- Дата: 2026-10-20, 17:19–17:21 UTC.
- Commit:
2e997f9. - Стенд: временный проект compose
mtusi-lab4-s3freshс тем жеdocker-compose.ymlи.env, на новых volumes. Внешние порты сдвинуты окружением:APP_OUT_PORT=18180,POSTGRES_OUT_PORT=15433,VALKEY_OUT_PORT=16380,S3_OUT_PORT=18334. Рабочий стендmtusi-lab4в это время работал и не затрагивался. - Docker Desktop 29.8.2, compose 5.5.1, Apple M3 Pro.
- Спек
object-storage: «Приватный bucket создаёт bootstrap» (первый и повторный запуск, новый секрет API, ошибка), «Запрет анонимного доступа» («До bootstrap»);container-run: «Bootstrap S3 один раз». Design changes3-storage, решения 3–4. - С change
upload-consistency(commit5b42bd2) bootstrap заводит и пользователяcleanerи проверяет его права; первый запуск, повтор и новый секрет уборщика —evidence/s3/cleaner-key.md.
1. Первый запуск на пустых volumes
$ docker compose -p mtusi-lab4-s3fresh up -d (fresh volumes, ports shifted)
up -d exit=0 in 9 s
LB ready after 12 s
mtusi-lab4-s3fresh_postgres_data
mtusi-lab4-s3fresh_s3_data
s3 started 2026-10-20T17:19:25.999144958Z finished 0001-01-01T00:00:00Z exit 0
s3-bootstrap started 2026-10-20T17:19:30.649598544Z finished 2026-10-20T17:19:34.176309754Z exit 0
migrate started 2026-10-20T17:19:28.497465917Z finished 2026-10-20T17:19:30.952969252Z exit 0
api started 2026-10-20T17:19:34.36139567Z finished 0001-01-01T00:00:00Z exit 0
api started 2026-10-20T17:19:34.259315212Z finished 0001-01-01T00:00:00Z exit 0
haproxy started 2026-10-20T17:19:34.481840962Z finished 0001-01-01T00:00:00Z exit 0
$ docker compose logs -t s3-bootstrap
2026-10-20T17:19:31.154643710Z s3-bootstrap: bucket messenger created
2026-10-20T17:19:32.245046586Z s3-bootstrap: user api created
2026-10-20T17:19:34.173270295Z s3-bootstrap: checks passed (api key put/get/delete; api key list and bucket create, anonymous get and list denied)
- Сервер
s3сталhealthyза 4,7 с (s3started →s3-bootstrapstarted). - Bootstrap занял 3,5 с, из них ~1,9 с — проверка: первая запись после старта сервера ждёт регистрации тома (design, Context).
- Реплики
apiстартовали через 0,1 с после завершения bootstrap (17:19:34.176 → 17:19:34.259). Bootstrap прошёл один раз, на свой прогон.
2. Повторный запуск дважды: ничего не меняет
Перед повтором клиент приложения записал 3 объекта, после — прочитал их.
Скрипт persist_probe.py (scratchpad): клиент src/infra/s3,
S3__PORT=18334.
$ persist_probe.py write 3 (S3__PORT=18334)
written and confirmed: 3 objects
$ docker compose run --rm s3-bootstrap # repeat 1
s3-bootstrap: bucket messenger exists
s3-bootstrap: user api exists
s3-bootstrap: checks passed (api key put/get/delete; api key list and bucket create, anonymous get and list denied)
exit=0, 2.9 s
$ docker compose run --rm s3-bootstrap # repeat 2
s3-bootstrap: bucket messenger exists
s3-bootstrap: user api exists
s3-bootstrap: checks passed (api key put/get/delete; api key list and bucket create, anonymous get and list denied)
exit=0, 2.9 s
$ persist_probe.py verify
read back with the same SHA-256: 3/3; deleted
3. Новый секрет API: прежний перестаёт действовать
Новый секрет — случайный hex в переменной shell, разовый run -e.
Проверка — один PUT и DELETE клиентом приложения: с секретом из .env
(«old») и с новым (окружение S3__SECRET_ACCESS_KEY). Скрипт
put_once.py, значения не печатаются.
$ docker compose run --rm -e S3_API_SECRET_KEY=<new> s3-bootstrap
s3-bootstrap: bucket messenger exists
s3-bootstrap: user api exists
s3-bootstrap: key of api recreated (secret changed)
s3-bootstrap: checks passed (api key put/get/delete; api key list and bucket create, anonymous get and list denied)
exit=0
old secret (.env): ObjectStorageUnavailable (503)
new secret: PUT and DELETE ok
$ docker compose run --rm s3-bootstrap # back to the .env secret
s3-bootstrap: bucket messenger exists
s3-bootstrap: user api exists
s3-bootstrap: key of api recreated (secret changed)
s3-bootstrap: checks passed (api key put/get/delete; api key list and bucket create, anonymous get and list denied)
exit=0
old secret (.env): PUT and DELETE ok
new secret: ObjectStorageUnavailable (503)
Смену секрета bootstrap распознаёт по ответу SignatureDoesNotMatch
своей проверки: ключ есть, секрет другой. Тогда он пересоздаёт ключ,
пользователь и политика остаются.
4. Ошибка шага: код 1, шаг назван, реплики не стартуют
$ docker compose run --rm -e S3_BUCKET=Bad_Bucket s3-bootstrap
s3-bootstrap: error: bucket name can only contain lower case characters, numbers, dots, and hyphens
s3-bootstrap: FAILED: bucket create
exit=1
Реплики удалены (rm -sf api haproxy), затем стенд поднят с
недопустимым именем bucket:
api containers before: 0
$ S3__BUCKET=Bad_Bucket docker compose up -d api
Container mtusi-lab4-s3fresh-s3-bootstrap-1 Error service "s3-bootstrap" didn't complete successfully: exit 1
service "s3-bootstrap" didn't complete successfully: exit 1
exit=1
api containers after: 2 created, 0 running
s3-bootstrap: error: bucket name can only contain lower case characters, numbers, dots, and hyphens
s3-bootstrap: FAILED: bucket create
Секретов в выводе нет: weed shell получает их через stdin, curl —
файлом на tmpfs. Вывод команд с секретами bootstrap не печатает.
Затем docker compose -p mtusi-lab4-s3fresh down --remove-orphans:
контейнеры и сеть удалены. Volumes mtusi-lab4-s3fresh_postgres_data и
mtusi-lab4-s3fresh_s3_data остались: удалить их агенту не разрешено,
это сделает пользователь (docker volume rm).
5. До bootstrap анонимного окна нет
Одноразовый сервер (docker run --rm, анонимный volume, в сеть не
подключён) с теми же аргументами weed server, что у сервиса s3, и
случайной административной парой. Bootstrap не запускался:
healthy after ~4 s, bootstrap not run
anonymous create bucket: 403
anonymous put object: 403
anonymous list buckets: 403
s3.bucket.list — bucket messenger не создан. Без административной
пары в окружении сервер открыт анониму целиком (design, Context), поэтому
она задана с первого старта.