Бесплатные модели

DDTokens может предоставлять бесплатные модели для тестов, проверки интеграции и неинтенсивного использования. Они не подходят для критичных рабочих сервисов.

Подходящие сценарии

Бесплатные модели подходят для:

• Проверки API-ключа и настройки base_url.
• Тестирования подключения клиента.
• Редких, некритичных задач разработки.
• Оценки формата ответа модели.

Использование

Если платформа поддерживает суффикс бесплатной модели, обычно к имени можно добавить :free:

gpt-4o-mini:free

Доступные модели, правила именования и суточные квоты определяются панелью управления.

Ограничения ресурсов

Для бесплатных моделей обычно действуют более строгие ограничения:

• Количество запросов в минуту.
• Количество запросов в день.
• Максимальный параллелизм.
• Набор доступных моделей.

После исчерпания бесплатной квоты запросы могут возвращать ошибку ограничения частоты или недостаточной квоты. Дождитесь обновления квоты или переключитесь на платную модель.

Рекомендации для рабочей среды

Не полагайтесь на бесплатные модели в рабочей среде. Рабочие сервисы должны использовать платные модели и настраивать:

• Повторные запросы.
• Очередь с ограничением частоты.
• Журналирование.
• Оповещения о расходах.