渠道与路由
DDTokens 可以通过默认路由把请求分发到可用的模型资源。对于大多数用户,默认路由是推荐选择。
默认路由
直接使用模型名时,DDTokens 会选择默认可用渠道:
text
gpt-4o-mini默认路由适合:
- 普通对话和文本生成。
- 需要更少配置的应用。
- 对供应商差异不敏感的场景。
指定渠道
如果 DDTokens 支持供应商前缀,你可以用类似格式固定上游:
text
openai/gpt-4o-mini
anthropic/claude-3-5-sonnet
google/gemini-1.5-flash具体可用前缀以控制台模型列表为准。
什么时候指定渠道
在这些情况下,可以考虑指定渠道:
- 你需要固定响应格式。
- 你已经验证某个供应商对特定参数兼容性更好。
- 你要对比不同供应商的价格、速度或稳定性。
注意事项
- 指定渠道可能改变价格。
- 指定渠道可能降低自动容灾能力。
- 不同渠道支持的参数可能不同。
- 上线前应使用真实业务请求测试。
如果你不确定该怎么选,先使用默认路由。