kyy/llm_asycio
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

Update commit

Browse Source
This commit is contained in:
kyy
2025-01-08 15:06:58 +09:00
parent 8eb945687d
commit 4ced8db541
9 changed files with 78 additions and 95 deletions
Download Patch File Download Diff File Expand all files Collapse all files

1
ADR-0.md
View File

@@ -13,7 +13,6 @@ FastAPI를 이용해 클라이언트가 RESTful API를 통해 서비스와 상
- 비동기 요청을 처리하고 데이터 유효성 검사를 수행.
- **주요 엔드포인트**:
- `/start-inference/`: CSV 및 모델 리스트 파일 업로드 후 추론 작업 시작.
- `/merge-results/`: 배치별로 나뉜 결과를 단일 파일로 결합
- `/download-latest/`: 가장 최근에 완료된 결과 파일 다운로드.
### (2) 작업 처리 계층