Провайдеры и маршрутизация

DDTokens может распределять запросы по доступным ресурсам моделей с помощью маршрутизации по умолчанию. Она рекомендуется большинству пользователей.

Маршрутизация по умолчанию

Если указать только имя модели, DDTokens выберет доступный канал по умолчанию:

gpt-4o-mini

Маршрутизация по умолчанию подходит для:

• Обычных диалогов и генерации текста.
• Приложений, которым нужна простая настройка.
• Сценариев, нечувствительных к различиям провайдеров.

Выбор канала

Если DDTokens поддерживает префиксы провайдеров, вышестоящий сервис можно зафиксировать в похожем формате:

openai/gpt-4o-mini
anthropic/claude-3-5-sonnet
google/gemini-1.5-flash

Доступные префиксы определяются списком моделей в панели управления.

Когда выбирать канал

Выбор канала полезен, если:

• Нужен стабильный формат ответа.
• Вы проверили, что определенный провайдер лучше поддерживает конкретные параметры.
• Требуется сравнить цены, скорость или стабильность провайдеров.

Важные замечания

• Выбор канала может изменить цену.
• Выбор канала может уменьшить возможности автоматического аварийного переключения.
• Разные каналы могут поддерживать разные параметры.
• До запуска проверьте работу на реальных запросах.

Если вы не уверены в выборе, начните с маршрутизации по умолчанию.