[Code 개선] #9. [LLM] Claude API 호출 시 명시적 타임아웃 및 네트워크 에러 전파 처리 #37

New Issue

Kyeongmin · 2026-03-05T11:56:39+09:00

Kyeongmin commented

2026-03-05 11:56:39 +09:00

1. 목표

LLM API의 지연이나 무응답 시 서버 자원이 고갈되는 것을 방지하고, 사용자에게 명확한 타임아웃 에러를 반환합니다.

2. 상세 원인 및 배경

Claude와 같은 외부 API는 네트워크 상태나 모델 부하에 따라 응답 시간이 가변적입니다.
기본 설정으로 둘 경우 수 분간 워커가 대기하게 되어, 후속 사용자들의 요청이 모두 대기열(Queue)에 쌓이는 장애로 이어집니다.

Original: Kyeongmin/test#39

### 1. 목표 LLM API의 지연이나 무응답 시 서버 자원이 고갈되는 것을 방지하고, 사용자에게 명확한 타임아웃 에러를 반환합니다. ### 2. 상세 원인 및 배경 - Claude와 같은 외부 API는 네트워크 상태나 모델 부하에 따라 응답 시간이 가변적입니다. - 기본 설정으로 둘 경우 수 분간 워커가 대기하게 되어, 후속 사용자들의 요청이 모두 대기열(Queue)에 쌓이는 장애로 이어집니다. --- *Original: Kyeongmin/test#39*

Kyeongmin added this to the [Code 개선] 필요 시 나중에 진행 milestone 2026-03-05 12:29:51 +09:00

Sign in to join this conversation.

1 Participants

Notifications

Due Date

No due date set.

Dependencies

No dependencies set.

Reference: Kyeongmin/_Geulbeot#37