Tighten issue gates and loop validation criteria

This commit is contained in:
2026-04-02 08:59:58 +09:00
parent 5b219461f3
commit e81be7e9ef
10 changed files with 368 additions and 224 deletions

View File

@@ -1,61 +1,76 @@
목적
- 계획에 따라 실제 실행을 수행하고 산출물을 저장한다.
- 계획된 stage를 실제 실행하고, 검증에 필요한 실행 패키지를 완전하게 남긴다.
입력
- Step 4 결과 경로:
- 실행에 사용할 코드/스크립트:
실행 방법
1. 계획된 stage를 순서대로 수행한다.
2. stage별 산출물을 저장한다.
3. 경고와 재시도 이력을 남긴다.
4. 최종 결과물 경로를 연결한다.
5. 저장 누락과 실행 중단 여부를 점검한다.
1. Step 4에서 확정한 실행 계획과 입력 산출물을 사용해 실제 실행을 수행한다.
2. 아래 `필수 산출 항목`을 모두 생성하거나 기록한다.
3. 실행 종료 코드, 예외 유무, 산출물 파일 존재 여부를 확인한다.
4. `measurement.json``context.json`이 다음 단계에서 재검증 가능할 정도로 완전한지 확인한다.
5. `판정 규칙`에 따라 pass / revise / fail을 결정한다.
6. 실패 시 `실패 분류``수정 액션`을 함께 기록한다.
필수 산출 항목
- E1. 실제 실행 경로 기록
- E2. 산출물 파일 1개 이상 생성
- E3. 중간 또는 최종 결과 경로 기록
- E4. 경고 사항 기록
- E5. 재시도 이력 기록 (없으면 없음으로 표기)
- E1. 실행 명령 또는 실행 스크립트 1개
- E2. 입력 파일 경로 1개
- E3. `final.html` 생성
- E4. `generated_html.json` 생성
- E5. `measurement.json` 생성
- E6. `context.json` 생성
- E7. 경고/재시도/예외 기록 1개 이상 (`없음` 포함)
- E8. Step 6으로 넘길 핵심 리스크 또는 확인 포인트 1개 이상 (`없음` 포함)
성공 기준
- E1~E5 전부 작성됨
- 산출물 파일이 실제로 존재
- 실행 경로가 추적 가능함
- 경고/재시도 이력이 남
- E1~E8 전부 작성됨
- `final.html`, `generated_html.json`, `measurement.json`, `context.json` 파일이 모두 실제로 존재하고 0 byte가 아님
- 실행 종료 코드가 0임
- 처리되지 않은 예외(unhandled exception)가 없
- `measurement.json`에 최소 `slide`, `zones.body`, `zones.sidebar`, `zones.footer`가 존재함
- 다음 단계에서 재검증 가능한 실행 추적 정보가 남아 있음
실패 기준
- 실행 중단
- 산출물 미생성
- 실행 경로 미기록
- 경고/재시도 이력 미기록
- 실행 종료 코드가 0이 아님
- 필수 산출물 4종 중 1개 이상 미생성 또는 0 byte
- `measurement.json` 파싱 실패 또는 필수 키 누락
- `context.json` 누락으로 재검증 불가
- 실행 명령/스크립트 또는 입력 경로가 기록되지 않음
- 예외가 발생했는데 기록이 없음
KPI / 판정 규칙
- 충족률 = 충족 항목 수 / 5
- pass: 충족률 100% and 치명 항목(E1, E2, E3) 모두 충족
- revise: 충족률 80% 이상 100% 미만 and 치명 항목 모두 충족
- fail: 충족률 80% 미만 or 치명 항목 1개 이상 누락
- 충족률 = 충족 항목 수 / 8
- 치명 항목 = E1, E2, E3, E4, E5, E6
- `pass`: 충족률 100% and 치명 항목 모두 충족 and 실행 종료 코드 0 and 필수 산출물 4종이 모두 유효함
- `revise`: 충족률 87.5% 이상 100% 미만 and 치명 항목 모두 충족 and 실행은 완료되었으나 경고/재시도/리스크 기록 보강이 필요함
- `fail`: 충족률 87.5% 미만 or 치명 항목 1개 이상 누락 or 실행 종료 코드 비정상 or 필수 산출물 4종 중 1개 이상 무효
실패 분류
- Exec-Run: 실행 중단
- Exec-Artifact: 산출물 생성 실패
- Exec-Trace: 실행 경로 추적 불가
- Exec-Warn: 경고/재시도 기록 누락
- Exec-Tool: 도구/스크립트 문제
- `Exec-Exit`: 실행 종료 코드 비정상
- `Exec-Artifact`: 산출물 파일 생성 실패 또는 0 byte
- `Exec-Measurement`: `measurement.json` 누락/파싱 실패/필수 키 누락
- `Exec-Context`: `context.json` 누락 또는 재검증 정보 부족
- `Exec-Trace`: 실행 명령, 입력, 경고 이력 추적 불가
- `Exec-Tool`: 도구/스크립트 자체 오류
수정 액션 가이드
- Exec-Run: 중단 지점 재확인 후 해당 stage 재실행
- Exec-Artifact: 산출물 경로와 저장 로직 점검 재생성
- Exec-Trace: 사용한 스크립트/명령/입력을 다시 기록
- Exec-Warn: 경고와 재시도 이력을 보강
- Exec-Tool: 도구 오류 분리 후 수정
- `Exec-Exit`: 실패한 stage와 stderr를 확인하고 해당 stage부터 재실행
- `Exec-Artifact`: 산출물 저장 경로와 쓰기 로직 점검하고 파일 재생성
- `Exec-Measurement`: 렌더/측정 단계를 재실행하고 필수 키 존재 여부 재검사
- `Exec-Context`: 컨텍스트 저장 로직을 복구하고 입력/분석 정보 재저장
- `Exec-Trace`: 사용한 스크립트, 명령, 입력 경로, 경고 이력을 다시 기록
- `Exec-Tool`: 실행 스크립트 또는 코드 오류를 수정 후 재실행
실행 결과 기록
- 사용한 실행 경로:
- 생성된 산출물:
- 사용한 실행 명령 또는 스크립트:
- 입력 파일 경로:
- 생성된 산출물 경로:
- 실행 종료 코드:
- 경고:
- 재시도 이력:
- 예외:
- Step 6 전달 리스크/확인 포인트:
- 충족 항목 수:
- 충족률:
- 실패 분류:
@@ -65,4 +80,7 @@ KPI / 판정 규칙
- pass / revise / fail
다음 단계 전달물
- Step 6에서 사용할 실행 결과와 산출물 경로
- Step 6에서 사용할 `final.html`
- Step 6에서 사용할 `generated_html.json`
- Step 6에서 사용할 `measurement.json`
- Step 6에서 사용할 `context.json`