Автопереключение при сбое
Если у модели несколько подключений, запрос уйдёт в резервное. Если подключение одно — ошибку провайдера вы получите как есть, без маскировки.
- >POST /v1/chat/completions · glm-5.3
- xподключение A → 503 Unavailable
- ~повтор через подключение B
- =200 OK · стрим идёт клиенту
SSE-стриминг насквозь
Токены приходят клиенту по мере генерации. Клиент оборвал соединение — запрос к провайдеру тоже останавливается.
Объясни SSE одной фразой
SSE — это поток событий поверх HTTP: сервер отправляет данные, как только они готовы, а клиент читает их без повторных запросов.
data: [DONE]событий: 21
Четыре формата — один ключ
OpenAI SDK для Python, JS и Go подключаются сменой base URL.
- [x]chat/completionsOpenAI
- [x]responsesOpenAI
- [x]messagesAnthropic
- [x]generateContentGemini
Оригинальные модели
Запросы уходят в оригинальные API через подключённые каналы, включая партнёрские. Без подмены.
request.model"claude-sonnet-5-5"
response.model"claude-sonnet-5-5"
= модель совпадает · без подмены
Мониторинг 24/7
Недоступные модели автоматически исключаются из маршрутов и возвращаются после восстановления.
в маршрутахисключена на время сбоя