AI 기본고급
Distillation
큰 모델의 지식을 더 작고 빠른 모델에 옮기는 방법.
언제 쓰나요
“비싼 모델의 답변 패턴을 작은 모델이 따라 하게 학습한다.”
Distillation 한 줄 정리
Distillation은(는) AI 기본 영역에서 자주 등장하는 고급 단계 용어입니다. 처음 접하는 분이라면 외우기보다 위 예시처럼 실제 사용 맥락에서 익히는 편이 자연스럽습니다.
큰 모델의 지식을 더 작고 빠른 모델에 옮기는 방법.
“비싼 모델의 답변 패턴을 작은 모델이 따라 하게 학습한다.”
Distillation은(는) AI 기본 영역에서 자주 등장하는 고급 단계 용어입니다. 처음 접하는 분이라면 외우기보다 위 예시처럼 실제 사용 맥락에서 익히는 편이 자연스럽습니다.