當請求過於頻繁或目前模型容量不足時,API 可能回傳 429 Too Many Requests 處理方式:
  1. 讀取回應中的錯誤資訊和請求 ID。
  2. 降低併發請求數。
  3. 使用帶隨機抖動的指數退避,例如 1 秒、2 秒、4 秒、8 秒。
  4. 設定最大重試次數,避免無限重試。
不要自動重試 400401403。這些狀態通常需要修正請求、令牌、餘額或模型權限。 具體限制可能隨分組和模型調整,不要在使用者端硬編碼一個固定額度。