429 Too Many Requests。
处理方式:
- 读取响应中的错误信息和请求 ID。
- 降低并发请求数。
- 使用带随机抖动的指数退避,例如 1 秒、2 秒、4 秒、8 秒。
- 设置最大重试次数,避免无限重试。
400、401 和 403。这些状态通常需要修正请求、令牌、余额或模型权限。
具体限制可能随分组和模型调整,不要在客户端硬编码一个固定额度。正确处理 429 和临时上游错误。
429 Too Many Requests。
处理方式:
400、401 和 403。这些状态通常需要修正请求、令牌、余额或模型权限。
具体限制可能随分组和模型调整,不要在客户端硬编码一个固定额度。