[Code 개선] #10. [LLM] Tenacity 도입을 통한 API 호출 재시도(Retry) 및 지수 백오프 구현 #36

Open
opened 2026-03-05 11:56:39 +09:00 by Kyeongmin · 0 comments
Owner

1. 목표

일시적인 네트워크 순단이나 LLM API의 일시적인 과부하(Rate Limit) 상황에서 작업을 포기하지 않고 자동으로 재시도하여 서비스 신뢰도를 높입니다.

2. 상세 원인 및 배경

  • 외부 API 연동 시 발생하는 에러 중 상당수는 잠시 후 재시도하면 해결되는 일시적인(Transient) 문제입니다.
  • 현재는 단 한 번의 실패로도 전체 생성 과정이 중단되어 사용자가 처음부터 다시 작업을 시작해야 하는 불편이 있습니다.

Original: Kyeongmin/test#40

### 1. 목표 일시적인 네트워크 순단이나 LLM API의 일시적인 과부하(Rate Limit) 상황에서 작업을 포기하지 않고 자동으로 재시도하여 서비스 신뢰도를 높입니다. ### 2. 상세 원인 및 배경 - 외부 API 연동 시 발생하는 에러 중 상당수는 잠시 후 재시도하면 해결되는 일시적인(Transient) 문제입니다. - 현재는 단 한 번의 실패로도 전체 생성 과정이 중단되어 사용자가 처음부터 다시 작업을 시작해야 하는 불편이 있습니다. --- *Original: Kyeongmin/test#40*
Kyeongmin added this to the [Code 개선] 필요 시 나중에 진행 milestone 2026-03-05 12:29:51 +09:00
Sign in to join this conversation.
No Label
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: Kyeongmin/_Geulbeot#36