Журналы запросов
Журналы помогают сверять использование, расходы, длительность и маршрутизацию. При ошибках или неожиданных расходах сначала проверьте журнал.
Содержимое журнала
Запись журнала обычно позволяет определить:
- Время запроса.
- Использованный токен.
- Запрошенную и фактически использованную модель.
- Входные, кэшированные и выходные токены.
- Стоимость до скидки и фактическое списание.
- Время вышестоящего сервиса, системы и полную длительность.
- Состояние ответа и идентификатор запроса.
Поля могут немного различаться между протоколами и моделями. Ориентируйтесь на данные панели управления.
Анализ расходов
Проверяйте в следующем порядке:
- Соответствует ли запрошенная модель ожиданиям.
- Не изменилась ли фактически использованная модель.
- Не слишком ли велико число входных или выходных токенов.
- Применена ли цена кэшированных токенов.
- Применилась ли скидка текущего уровня пользователя.
Анализ медленных запросов
Обычно медленные запросы вызваны одной из трех причин:
- Слишком длинный ответ модели.
- Медленный ответ вышестоящей модели.
- Тайм-аут клиентской сети или соединения.
Если журнал разделяет составляющие времени, выясните, где прошла основная задержка: в вышестоящем сервисе или в системе. При обращении в поддержку укажите идентификатор и время запроса.
Хранение журналов
Журналы могут храниться ограниченное время. Рабочим сервисам рекомендуется сохранять в приложении основные поля:
- Идентификатор запроса.
- Имя модели.
- Использование токенов.
- Фактическую стоимость.
- Код состояния.
- Время запроса.