Tighten issue gates and loop validation criteria
This commit is contained in:
@@ -1,61 +1,76 @@
|
||||
목적
|
||||
- 계획에 따라 실제 실행을 수행하고 산출물을 저장한다.
|
||||
- 계획된 stage를 실제로 실행하고, 검증에 필요한 실행 패키지를 완전하게 남긴다.
|
||||
|
||||
입력
|
||||
- Step 4 결과 경로:
|
||||
- 실행에 사용할 코드/스크립트:
|
||||
|
||||
실행 방법
|
||||
1. 계획된 stage를 순서대로 수행한다.
|
||||
2. stage별 산출물을 저장한다.
|
||||
3. 경고와 재시도 이력을 남긴다.
|
||||
4. 최종 결과물 경로를 연결한다.
|
||||
5. 저장 누락과 실행 중단 여부를 점검한다.
|
||||
1. Step 4에서 확정한 실행 계획과 입력 산출물을 사용해 실제 실행을 수행한다.
|
||||
2. 아래 `필수 산출 항목`을 모두 생성하거나 기록한다.
|
||||
3. 실행 종료 코드, 예외 유무, 산출물 파일 존재 여부를 확인한다.
|
||||
4. `measurement.json`과 `context.json`이 다음 단계에서 재검증 가능할 정도로 완전한지 확인한다.
|
||||
5. `판정 규칙`에 따라 pass / revise / fail을 결정한다.
|
||||
6. 실패 시 `실패 분류`와 `수정 액션`을 함께 기록한다.
|
||||
|
||||
필수 산출 항목
|
||||
- E1. 실제 실행 경로 기록
|
||||
- E2. 산출물 파일 1개 이상 생성
|
||||
- E3. 중간 또는 최종 결과 경로 기록
|
||||
- E4. 경고 사항 기록
|
||||
- E5. 재시도 이력 기록 (없으면 없음으로 표기)
|
||||
- E1. 실행 명령 또는 실행 스크립트 1개
|
||||
- E2. 입력 파일 경로 1개
|
||||
- E3. `final.html` 생성
|
||||
- E4. `generated_html.json` 생성
|
||||
- E5. `measurement.json` 생성
|
||||
- E6. `context.json` 생성
|
||||
- E7. 경고/재시도/예외 기록 1개 이상 (`없음` 포함)
|
||||
- E8. Step 6으로 넘길 핵심 리스크 또는 확인 포인트 1개 이상 (`없음` 포함)
|
||||
|
||||
성공 기준
|
||||
- E1~E5 전부 작성됨
|
||||
- 산출물 파일이 실제로 존재함
|
||||
- 실행 경로가 추적 가능함
|
||||
- 경고/재시도 이력이 남음
|
||||
- E1~E8 전부 작성됨
|
||||
- `final.html`, `generated_html.json`, `measurement.json`, `context.json` 네 파일이 모두 실제로 존재하고 0 byte가 아님
|
||||
- 실행 종료 코드가 0임
|
||||
- 처리되지 않은 예외(unhandled exception)가 없음
|
||||
- `measurement.json`에 최소 `slide`, `zones.body`, `zones.sidebar`, `zones.footer`가 존재함
|
||||
- 다음 단계에서 재검증 가능한 실행 추적 정보가 남아 있음
|
||||
|
||||
실패 기준
|
||||
- 실행 중단
|
||||
- 산출물 미생성
|
||||
- 실행 경로 미기록
|
||||
- 경고/재시도 이력 미기록
|
||||
- 실행 종료 코드가 0이 아님
|
||||
- 필수 산출물 4종 중 1개 이상 미생성 또는 0 byte
|
||||
- `measurement.json` 파싱 실패 또는 필수 키 누락
|
||||
- `context.json` 누락으로 재검증 불가
|
||||
- 실행 명령/스크립트 또는 입력 경로가 기록되지 않음
|
||||
- 예외가 발생했는데 기록이 없음
|
||||
|
||||
KPI / 판정 규칙
|
||||
- 충족률 = 충족 항목 수 / 5
|
||||
- pass: 충족률 100% and 치명 항목(E1, E2, E3) 모두 충족
|
||||
- revise: 충족률 80% 이상 100% 미만 and 치명 항목 모두 충족
|
||||
- fail: 충족률 80% 미만 or 치명 항목 1개 이상 누락
|
||||
- 충족률 = 충족 항목 수 / 8
|
||||
- 치명 항목 = E1, E2, E3, E4, E5, E6
|
||||
- `pass`: 충족률 100% and 치명 항목 모두 충족 and 실행 종료 코드 0 and 필수 산출물 4종이 모두 유효함
|
||||
- `revise`: 충족률 87.5% 이상 100% 미만 and 치명 항목 모두 충족 and 실행은 완료되었으나 경고/재시도/리스크 기록 보강이 필요함
|
||||
- `fail`: 충족률 87.5% 미만 or 치명 항목 1개 이상 누락 or 실행 종료 코드 비정상 or 필수 산출물 4종 중 1개 이상 무효
|
||||
|
||||
실패 분류
|
||||
- Exec-Run: 실행 중단
|
||||
- Exec-Artifact: 산출물 생성 실패
|
||||
- Exec-Trace: 실행 경로 추적 불가
|
||||
- Exec-Warn: 경고/재시도 기록 누락
|
||||
- Exec-Tool: 도구/스크립트 문제
|
||||
- `Exec-Exit`: 실행 종료 코드 비정상
|
||||
- `Exec-Artifact`: 산출물 파일 생성 실패 또는 0 byte
|
||||
- `Exec-Measurement`: `measurement.json` 누락/파싱 실패/필수 키 누락
|
||||
- `Exec-Context`: `context.json` 누락 또는 재검증 정보 부족
|
||||
- `Exec-Trace`: 실행 명령, 입력, 경고 이력 추적 불가
|
||||
- `Exec-Tool`: 도구/스크립트 자체 오류
|
||||
|
||||
수정 액션 가이드
|
||||
- Exec-Run: 중단 지점 재확인 후 해당 stage 재실행
|
||||
- Exec-Artifact: 산출물 경로와 저장 로직 점검 후 재생성
|
||||
- Exec-Trace: 사용한 스크립트/명령/입력을 다시 기록
|
||||
- Exec-Warn: 경고와 재시도 이력을 보강
|
||||
- Exec-Tool: 도구 오류 분리 후 수정
|
||||
- `Exec-Exit`: 실패한 stage와 stderr를 확인하고 해당 stage부터 재실행
|
||||
- `Exec-Artifact`: 산출물 저장 경로와 쓰기 로직을 점검하고 파일 재생성
|
||||
- `Exec-Measurement`: 렌더/측정 단계를 재실행하고 필수 키 존재 여부 재검사
|
||||
- `Exec-Context`: 컨텍스트 저장 로직을 복구하고 입력/분석 정보 재저장
|
||||
- `Exec-Trace`: 사용한 스크립트, 명령, 입력 경로, 경고 이력을 다시 기록
|
||||
- `Exec-Tool`: 실행 스크립트 또는 코드 오류를 수정 후 재실행
|
||||
|
||||
실행 결과 기록
|
||||
- 사용한 실행 경로:
|
||||
- 생성된 산출물:
|
||||
- 사용한 실행 명령 또는 스크립트:
|
||||
- 입력 파일 경로:
|
||||
- 생성된 산출물 경로:
|
||||
- 실행 종료 코드:
|
||||
- 경고:
|
||||
- 재시도 이력:
|
||||
- 예외:
|
||||
- Step 6 전달 리스크/확인 포인트:
|
||||
- 충족 항목 수:
|
||||
- 충족률:
|
||||
- 실패 분류:
|
||||
@@ -65,4 +80,7 @@ KPI / 판정 규칙
|
||||
- pass / revise / fail
|
||||
|
||||
다음 단계 전달물
|
||||
- Step 6에서 사용할 실행 결과와 산출물 경로
|
||||
- Step 6에서 사용할 `final.html`
|
||||
- Step 6에서 사용할 `generated_html.json`
|
||||
- Step 6에서 사용할 `measurement.json`
|
||||
- Step 6에서 사용할 `context.json`
|
||||
|
||||
Reference in New Issue
Block a user