Подготовка к эксплуатации
Ключи и доступ
- Храните секреты только на сервере или в хранилище секретов.
- Используйте разные ключи для рабочего и тестового окружений, а также CI.
- Ограничьте модели и расходы ключа в кредитах.
- Проверьте процедуру ротации и отзыва.
Запросы
- Установите явные таймауты подключения, чтения и всей операции.
- Ограничьте конкурентность и размер входных данных.
- Проверяйте вызовы инструментов и структурированные ответы.
- Закрепите точные идентификаторы моделей и обработайте их недоступность.
Ошибки и наблюдаемость
- Обрабатывайте
401,403,409,429и5xx. - Используйте ограниченную экспоненциальную задержку; не повторяйте небезопасные операции без идемпотентности.
- Сохраняйте идентификатор запроса, задержку и объём использования без секретов.
- Проверьте сетевой обрыв при потоковой передаче и частично полученный ответ.
Стоимость и данные
- Настройте лимиты ключей и уведомления о низком балансе.
- Сверяйте баланс с Makura Account, а данные использования с Gateway.
- Включайте сохранение запросов и ответов только по явной необходимости.
- Проверьте требования к персональным данным и срокам хранения.