51 lines
1.8 KiB
Python
51 lines
1.8 KiB
Python
"""Готовность реплики и мягкое завершение сервера."""
|
|
|
|
import asyncio
|
|
from types import FrameType
|
|
|
|
import uvicorn
|
|
|
|
|
|
class Lifecycle:
|
|
"""Хранит состояние завершения реплики."""
|
|
|
|
def __init__(self) -> None:
|
|
self._draining = False
|
|
|
|
@property
|
|
def draining(self) -> bool:
|
|
return self._draining
|
|
|
|
def start_draining(self) -> None:
|
|
"""Отключает приём новых бизнес-запросов."""
|
|
self._draining = True
|
|
|
|
|
|
class GracefulServer(uvicorn.Server):
|
|
"""Оставляет время для исключения завершающейся реплики."""
|
|
|
|
def __init__(
|
|
self, config: uvicorn.Config, lifecycle: Lifecycle, drain_seconds: float
|
|
) -> None:
|
|
super().__init__(config)
|
|
self.lifecycle = lifecycle
|
|
self.drain_seconds = drain_seconds
|
|
self._drain_task: asyncio.Task[None] | None = None
|
|
|
|
def handle_exit(self, sig: int, frame: FrameType | None) -> None:
|
|
"""Первый сигнал запускает drain, повторный ускоряет остановку."""
|
|
if self._drain_task is not None:
|
|
if not self._drain_task.done():
|
|
self._drain_task.cancel()
|
|
super().handle_exit(sig, frame)
|
|
return
|
|
self.lifecycle.start_draining()
|
|
self._drain_task = asyncio.get_running_loop().create_task(
|
|
self._finish_draining(sig, frame)
|
|
)
|
|
|
|
async def _finish_draining(self, sig: int, frame: FrameType | None) -> None:
|
|
"""Передаёт остановку Uvicorn после drain-периода."""
|
|
await asyncio.sleep(self.drain_seconds)
|
|
super().handle_exit(sig, frame)
|