当请求过于频繁或当前模型容量不足时,API 可能返回 429 Too Many Requests。 处理方式:
  1. 读取响应中的错误信息和请求 ID。
  2. 降低并发请求数。
  3. 使用带随机抖动的指数退避,例如 1 秒、2 秒、4 秒、8 秒。
  4. 设置最大重试次数,避免无限重试。
不要自动重试 400、401 和 403。这些状态通常需要修正请求、令牌、余额或模型权限。 具体限制可能随分组和模型调整,不要在客户端硬编码一个固定额度。