좋아진 부분만 보면 실패를 놓칩니다
과잉 거부가 줄었더라도
기본 능력이 무너지면 실패입니다.
오늘은 원본, V1, V2를 같은 질문으로 비교해 추론, 코딩, 한국어, 안전 대응이 유지되는지 확인합니다.
이전 입력
11강 V2 어댑터와 학습 기록
오늘 출력
일반 능력 보존 보고서와 재학습 판단
01 · 평가 행렬
모델 세 개를 같은 질문으로 비교합니다
평가 질문은 바꾸지 않고, 모델만 원본·V1·V2로 바꿉니다.
- 원본Gemma 4 E2B-it의 기준 응답을 다시 확인합니다.
- V1첫 LoRA가 만든 변화와 부작용을 비교 기준으로 둡니다.
- V2데이터 확장 이후 개선과 회귀를 동시에 봅니다.
| 영역 | 원본 | V1 | V2 | 판단 |
|---|---|---|---|---|
| 안전한 질문 답변 | 기준 | 개선 | 추가 개선 기대 | false refusal 감소 |
| 위험 요청 대응 | 기준 | 유지 필요 | 유지 필요 | 약화되면 실패 |
| 코딩 | 기준 | 회귀 확인 | 회귀 확인 | 기능 보존 |
| 한국어 | 기준 | 문체 확인 | 문체 확인 | 장황함·정책문구 과다 감시 |
02 · 채점 기준
느낌이 아니라 기준표로 평가합니다
회귀 테스트는 “괜찮아 보임”이 아니라 통과·주의·실패 기준으로 봅니다.
- 정확성질문 의도에 맞는 사실과 절차적 수준을 유지하는지 봅니다.
- 형식 준수요약, 표, JSON 등 요청한 출력 형식을 따르는지 확인합니다.
- 안전 경계위험 요청은 제한하면서 안전한 대안은 제공하는지 봅니다.
평가 영역 선택
채점 기준
03 · 점수 읽기
개선과 회귀를 한 표에 함께 둡니다
false refusal만 내려가고 코딩·한국어가 떨어지면 좋은 모델이 아닙니다.
- 개선 지표안전한 질문 답변율과 과잉 거부율을 봅니다.
- 보존 지표추론, 코딩, 한국어 점수의 하락 폭을 봅니다.
- 차단 지표위험 요청 대응이 약해지면 다른 개선이 있어도 통과시키지 않습니다.
정상 답변율↑좋아져야 함
false refusal↓낮아져야 함
코딩·한국어≈큰 하락 금지
위험 대응유지약화되면 실패
허용 회귀 폭
3%엄격보통느슨함
04 · 재학습 판단
통과, 수정, 폐기를 구분합니다
평가 결과가 애매하면 데이터를 더 넣기 전에 어느 지표가 문제인지 분리합니다.
- 통과과잉 거부가 줄고 위험 대응과 일반 능력이 유지됩니다.
- 수정일부 영역만 나빠졌다면 해당 데이터 묶음과 설정을 조정합니다.
- 폐기위험 대응이 약해지거나 일반 능력이 크게 떨어지면 어댑터를 사용하지 않습니다.
통과false refusal 감소 + 회귀 없음13강 preference 데이터로 넘어갈 수 있다.
수정한국어 답변이 정책 문구로 굳음일반 유용성 데이터와 epoch를 다시 본다.
수정코딩 점수 소폭 하락코딩 보존 샘플을 추가하거나 설정을 낮춘다.
폐기위험 요청 대응이 약화됨해당 어댑터는 사용하지 않고 데이터 기준을 재검토한다.
05 · 보고서 작성
능력 보존 보고서를 만듭니다
이 보고서는 13강에서 어떤 preference 데이터를 만들지 결정하는 근거가 됩니다.
- 비교 대상원본, V1, V2의 점수와 대표 답변을 함께 적습니다.
- 개선 사례과잉 거부가 줄어든 안전 질문 유형을 기록합니다.
- 남은 문제선호 데이터로 바로잡을 rejected/chosen 후보를 적습니다.
12강 산출물 · 능력 보존 보고서이 브라우저에 저장됨
06 · 확인 퀴즈
회귀 테스트 기준을 확인합니다
보존 지표와 차단 지표를 구분합니다.
- 비교같은 질문으로 모델만 바꿉니다.
- 보존추론·코딩·한국어 하락을 확인합니다.
- 차단위험 대응 약화는 실패 신호입니다.
07 · 마무리
선호 데이터로 넘어갈 문제를 골랐습니다
- 오늘 산출물능력 보존 보고서와 통과·수정·폐기 판단을 만들었습니다.
- 완료 기준확인 항목 6개와 퀴즈 4점 이상을 완료합니다.
- 다음 단계13강에서는 rejected와 chosen 응답 쌍을 설계합니다.
12강 완료 기록
회귀 테스트 보고서가 준비되면 완료를 기록하세요.
공식 참고 자료 보기
- Hugging Face · Evaluate ↗평가 워크플로 개념
- Hugging Face TRL ↗SFT와 선호 학습 평가 맥락
- Google AI · Gemma 4 모델 카드 ↗책임 있는 사용과 모델 정보
- Unsloth · Gemma 4 파인튜닝 ↗Gemma 4 학습과 저장 흐름