速率限制

UniterRouter 实施速率限制以确保所有用户的公平使用和最佳性能。速率限制根据你的账户状态和使用的模型类型而有所不同。

免费模型

免费模型（输入和输出价格为零的模型）的速率限制取决于你账户的额度状态：

基础速率限制

对于 零额度 的组织：

• 每 10 分钟 5 个请求
• 适用于所有免费模型请求
• 每 10 分钟重置

提升的速率限制

对于 已购买一定额度 的组织：

• 每分钟 20 个请求
• 适用于所有免费模型请求
• 每分钟重置

付费模型

付费 AI 模型目前没有速率限制。 你可以根据需要向付费模型发起尽可能多的请求，仅受账户额度余额和任何特定提供商限制的约束。

速率限制头

所有 API 响应在头中包含速率限制信息：

X-RateLimit-Limit: 20
X-RateLimit-Remaining: 19
X-RateLimit-Reset: 1640995200

• X-RateLimit-Limit：当前窗口允许的最大请求数
• X-RateLimit-Remaining：当前窗口剩余的请求数
• X-RateLimit-Reset：速率限制窗口重置的 Unix 时间戳

超出速率限制

当你超出速率限制时，会收到 429 Too Many Requests 响应：

{
	"error": {
		"message": "超出速率限制。请稍后重试。",
		"type": "rate_limit_error",
		"code": "rate_limit_exceeded"
	}
}

最佳实践

升级限制

要解锁免费模型的提升速率限制：

1. 通过控制台向账户添加额度
2. 你的速率限制将自动增加到每分钟 20 个请求
3. 免费模型使用仍然不会从你的额度中扣除

处理速率限制

• 当收到 429 响应时实现指数退避
• 监控 X-RateLimit-Remaining 头以避免触及限制
• 考虑为高流量应用使用付费模型

成本优化

• 使用免费模型进行开发和测试
• 对于需要更高吞吐量的生产工作负载切换到付费模型
• 通过控制台监控你的使用模式