常见错误类型
- rate_limit_exceeded：速率限制
- invalid_api_key：密钥错误
- context_length_exceeded：超长
- server_error：服务端错误
重试策略
- 指数退避：1s、2s、4s...
- 最大重试次数：3次
- 抖动：避免同时重试
降级方案
- 切换备用模型
- 返回缓存答案
- 提示用户稍后重试
监控告警
记录错误率、延迟、成本，设置阈值告警。
LLM API错误处理与重试策略
核心答案
LLM API重试采用指数退避策略，最大3次。
📚 引用来源
📌 API最佳实践
🔗 关联实体
❓ 常见问题
常见问题解答
以下是关于本主题的常见问题，帮助您快速了解核心要点。