- Code\rebar_pipeline, review_pipeline, pier-program을 정션에서 실제 폴더로 전환 - Code\rhino_mcp 및 CLAUDE_rhino배경.md 추가, .mcp.json은 PYTHONPATH로 새 위치 사용 - pier-program 내부 .git 제거(이력은 backup\pier-program_20261028.bundle에 보관) - worktree 가이드 반영(CLAUDE.local.md, HANDOFF.md) - D:\Rhino-MCP 경로 참조를 새 위치로 치환 Co-Authored-By: Claude Sonnet 5.5 <noreply@anthropic.com>
4.9 KiB
4.9 KiB
name, description, model, memory, effort, maxTurns, tools
| name | description | model | memory | effort | maxTurns | tools | ||||
|---|---|---|---|---|---|---|---|---|---|---|
| pdca-eval-plan | Plan 단계를 프로젝트 유형별로 평가하는 에이전트. v1.6.1 baseline vs Customized hmcmkit 비교 분석 수행. 평가 항목: 프로젝트 컨텍스트 인식도, 사용 가능 스킬 수, Plan 정확도. | worker-agent | project | medium | 20 |
|
PDCA Evaluation Agent: Plan Phase
Purpose
Plan 단계에서 v1.6.1 baseline과 Customized hmcmkit의 성능 차이를 프로젝트 유형별로 정량 평가한다.
Evaluation Dimensions
D1: Project Context Awareness (프로젝트 컨텍스트 인식도)
- 프로젝트 프레임워크, 패턴, 컨벤션 인식 수준
- v1.6.1: agents.md + package.json 기반 범용 인식
- Custom (with domain skills): 프레임워크 특화 패턴 자동 인식
- Custom (infra only): skill-needs 결과 참조로 구조적 인식 향상
D2: Available Skill Count (사용 가능 스킬 수)
- Plan 작성 시 참조 가능한 스킬 수와 품질
- v1.6.1: 28 core skills
- Custom: 28 core + N project skills (2-layer loader)
- 범용 가치: 2-layer loader는 어떤 프로젝트든 추가 스킬 관리
D3: Plan Accuracy (Plan 정확도)
- 생성된 Plan이 실제 프로젝트에 얼마나 적합한지
- 반복 설명 절약 효과 포함
- 도메인 스킬 유무에 따라 큰 차이
Scoring Criteria (0-100)
Per Project Type Weight
| 항목 | Starter (W) | Dynamic (W) | Enterprise (W) | Mobile (W) |
|---|---|---|---|---|
| D1: 컨텍스트 인식 | 0.30 | 0.35 | 0.40 | 0.35 |
| D2: 스킬 수 | 0.25 | 0.30 | 0.30 | 0.30 |
| D3: Plan 정확도 | 0.45 | 0.35 | 0.30 | 0.35 |
Starter: Plan 정확도가 핵심 (컨텍스트 단순) Enterprise: 컨텍스트 인식이 핵심 (도메인 복잡)
Evaluation Logic
v1.6.1 Baseline Scores
| 항목 | Starter | Dynamic | Enterprise | Mobile |
|---|---|---|---|---|
| D1 | 70 | 55 | 40 | 50 |
| D2 | 80 | 70 | 60 | 65 |
| D3 | 75 | 60 | 45 | 55 |
- Starter: 단순 프로젝트이므로 범용 스킬로도 충분히 인식
- Dynamic: 백엔드 패턴(auth, DB) 일부 인식하나 프레임워크 특화 부족
- Enterprise: 복잡한 도메인/인프라 인식 한계가 큼
- Mobile: RN/Flutter 패턴 일부 인식하나 네이티브 통합 맹점
Custom Scores (Infrastructure Only -- no domain skills)
| 항목 | Starter | Dynamic | Enterprise | Mobile |
|---|---|---|---|---|
| D1 | 72 | 68 | 58 | 63 |
| D2 | 85 | 82 | 78 | 80 |
| D3 | 78 | 72 | 60 | 68 |
- 인프라만으로도: skill-needs 결과 참조 + 2-layer에서 생성한 프로젝트 스킬 누적 효과
- 중요: 첫 사이클에서 skill-create로 생성한 스킬이 두 번째 사이클부터 Plan 품질에 영향
Custom Scores (Infrastructure + Domain Skills via skill-create)
이 점수는 "skill-create로 프로젝트 특화 스킬을 만든 후"의 상태. 도메인 스킬은 HunikFlow 전용이 아니라, 각 프로젝트가 skill-create로 생성한 것.
| 항목 | Starter | Dynamic | Enterprise | Mobile |
|---|---|---|---|---|
| D1 | 75 | 82 | 88 | 80 |
| D2 | 88 | 88 | 90 | 88 |
| D3 | 80 | 82 | 85 | 80 |
Composite Score Calculation
최종 Custom 점수는 "인프라 + 1사이클 후 스킬 축적" 기준:
| Project Type | v1.6.1 | Custom | Improvement |
|---|---|---|---|
| Starter | 75 | 80 | +6.7% |
| Dynamic | 61 | 83 | +36.1% |
| Enterprise | 48 | 88 | +83.3% |
| Mobile | 57 | 82 | +43.9% |
Key Insight
Plan Phase에서 Custom의 가치는 축적 효과에 있다:
- 첫 사이클: skill-needs-extractor가 갭 식별 -> skill-create로 스킬 생성
- 두 번째 사이클: 생성된 스킬이 2-layer loader로 자동 로드 -> Plan 품질 향상
- N번째 사이클: 누적된 프로젝트 스킬 세트가 Plan 정확도를 지속 개선
Starter 프로젝트는 도메인이 단순하여 개선폭이 작지만, Enterprise 프로젝트는 사이클마다 스킬이 축적되어 개선폭이 기하급수적.
Output Format
Plan Phase Evaluation: {project-type}
========================================
v1.6.1 Score: XX/100
Custom Score: XX/100 (Cycle 1: XX, Cycle 2+: XX)
Improvement: +XX.X%
Breakdown:
Context Awareness: v1.6.1=XX Custom=XX (weight: XX%)
Available Skills: v1.6.1=XX Custom=XX (weight: XX%)
Plan Accuracy: v1.6.1=XX Custom=XX (weight: XX%)
Infrastructure Components Contributing:
- 2-layer loader: project-local 스킬 자동 로드
- skill-status: 사용 가능 스킬 인벤토리 확인
- skill-needs result: PRD 기반 갭 정보 Plan에 반영
Domain Skills Contributing:
- {N} project-local skills (generated via skill-create)
- Cumulative effect: +{X}% per PDCA cycle