1강 산출물: 모델 목표 문장
LoRA는 무엇을 적게 바꾸고,
QLoRA는 무엇을 더 아끼는지
설정값으로 확인합니다.
오늘은 학습 코드를 실행하지 않습니다. 대신 rank, alpha, target module, 양자화의 의미를 비교해 첫 실험에 사용할 설정 가설표를 만듭니다.
- 어댑터원본 위의 작은 변화
- 랭크표현력과 메모리
- 알파반영 강도
- 대상 모듈어디에 붙일까?
- 가설표첫 설정 기록
오늘 할 일
설정 비교, 랭크 슬라이더, 대상 모듈 선택, 가설표 작성
완료 기준
확인 항목 6개 + 퀴즈 5문항 중 4문항 이상
01 · 어댑터 개념
LoRA는 원본 모델을 덮어쓰지 않습니다
LoRA는 원본 가중치를 고정한 채 작은 추가 가중치만 학습합니다.
- 원본 보존기반 모델 파일은 그대로 두고 변화량만 별도 어댑터로 저장합니다.
- 실험 관리같은 모델 위에 여러 어댑터를 붙여 실험별 차이를 비교하기 쉽습니다.
- 병합 가능배포 단계에서는 기반 모델과 어댑터를 합쳐 하나의 모델로 만들 수도 있습니다.
고정Gemma 4 E2B-it
원본 가중치
학습LoRA Adapter
작은 변화량
결과Base + Adapter
조정된 응답 성향
| 방식 | 학습 대상 | 장점 | 주의점 |
|---|---|---|---|
| FFT | 전체 가중치 | 표현력은 크지만 자원이 많이 듭니다. | 소형 실험에는 부담이 큽니다. |
| LoRA | 작은 어댑터 | 빠르고 되돌리기 쉽습니다. | 기반 모델과 함께 관리해야 합니다. |
| QLoRA | 양자화 모델 + 어댑터 | VRAM 부담을 더 줄입니다. | 정밀도와 속도 특성을 함께 봐야 합니다. |
02 · Rank와 Alpha
rank는 용량, alpha는 반영 강도에 가깝습니다
둘 다 정답이 하나로 고정된 값이 아니라 실험 가설로 기록해야 합니다.
- rank어댑터가 담을 수 있는 변화의 폭을 정합니다. 클수록 메모리와 과적합 위험도 커질 수 있습니다.
- alpha학습된 어댑터 변화가 원본에 얼마나 강하게 반영될지 조절합니다.
- 첫 실험소형 모델에서는 rank 16, alpha 16~32처럼 보수적인 값에서 시작해 비교합니다.
rank 가정값
슬라이더를 움직여 설정 부담이 커지는 감각을 확인하세요.
작은 어댑터균형큰 어댑터
추천 시작r=16빠른 첫 실험
alpha16~32rank와 함께 기록
dropout0~0.05과적합 관찰
epoch1~3짧게 비교
03 · Target Module
어댑터를 어느 층에 붙일지 선택합니다
대상 모듈은 학습 가능한 위치를 정합니다. 처음에는 공식 예제와 Unsloth 기본값을 우선 확인합니다.
- 주의 집중 계열q_proj, k_proj, v_proj, o_proj 같은 모듈은 응답 패턴 변화에 자주 사용됩니다.
- MLP 계열gate_proj, up_proj, down_proj는 표현 변환에 관여하며 함께 지정되는 예가 많습니다.
- 기록 원칙어떤 모듈을 켰는지 남기지 않으면 실험 결과를 재현할 수 없습니다.
모듈 묶음 선택
선택 결과
주의 집중 모듈 중심
응답의 문맥 선택과 토큰 간 관계를 조정하는 데 초점을 둔 설정입니다.
q/k/v/o proj개념용target_modules = [
"q_proj", "k_proj", "v_proj", "o_proj",
"gate_proj", "up_proj", "down_proj"
]04 · 첫 설정 가설표
내 첫 LoRA 설정을 말로 설명해 둡니다
다음 강의에서 설치 후 코드를 실행할 때 이 표가 기준점이 됩니다.
- 이유설정값만 적지 말고 왜 그 값을 택했는지 한 줄로 남깁니다.
- 관찰 항목메모리, 학습 시간, 과잉 거부율, 일반 능력 저하 여부를 함께 봅니다.
- 다음 입력3강에서는 이 가설표를 바탕으로 실행 환경과 첫 모델 로드를 기록합니다.
첫 설정 가설표이 브라우저에 저장됨
05 · 확인 퀴즈
설정값의 의미를 점검합니다
5문항 중 4문항 이상을 맞히면 통과입니다.
- 범위LoRA, QLoRA, rank, alpha, target module을 확인합니다.
- 판단 기준설정값은 실험 가설이며 결과 지표와 함께 읽어야 합니다.
- 다음 연결정리한 가설표는 3강의 설치와 첫 실행 기록에 이어집니다.
06 · 마무리
오늘의 산출물은 첫 설정 가설표입니다
- 오늘 산출물rank, alpha, target module, 관찰 지표가 들어간 첫 설정 가설표를 남깁니다.
- 다음 입력3강에서는 이 가설표를 들고 Unsloth 설치와 첫 모델 로드를 진행합니다.
- 주의설정값은 모델·라이브러리 버전에 따라 바뀔 수 있으므로 공식 예제를 다시 확인합니다.
2강 완료 기록
확인 항목 6개와 퀴즈 4점 이상을 완료하면 버튼이 활성화됩니다.
3강 · Unsloth 설치와 첫 실행
공식 설치 문서를 확인하고 재현 가능한 환경 기록을 만듭니다.
공식 참고 자료 보기
- Unsloth Docs · Fine-tuning guide ↗LoRA/QLoRA 학습 흐름과 설정 예시
- Unsloth Docs · LoRA parameters ↗rank, alpha, dropout, target module 설명
- Hugging Face PEFT · LoRA ↗LoRA의 기본 개념과 어댑터 방식