Потоковая передача
Потоковая передача позволяет показывать результат по мере генерации. В запросе передайте stream: true и обрабатывайте события до завершения потока.
Поддержка
| API | Формат |
|---|---|
| Responses | Типизированные SSE-события |
| Chat Completions | OpenAI-совместимые chat.completion.chunk |
| Messages | Anthropic-совместимые события сообщений |
Пример Responses API
curl https://api.makura.ai/v1/responses -H "Authorization: Bearer $MAKURA_API_KEY" -H "Content-Type: application/json" -d '{"model":"openai/gpt-4o-mini","input":"Кратко объясни SSE.","stream":true}'Требования к клиенту
- Читайте поток инкрементально, не буферизуя весь ответ.
- Не считайте каждую строку отдельным JSON-объектом: соблюдайте структуру SSE.
- Обрабатывайте error-события и преждевременное завершение соединения.
- Фиксируйте данные использования из завершающих событий, если API их возвращает.
- Не повторяйте запрос автоматически после получения части ответа без собственной идемпотентной стратегии.