본 문서는 지식 증류(Knowledge Distillation, KD) 기반의 경량 음성인식 모델 ASKD-Whisper(arXiv:2601.19919)를 분석하고, 해당 방법론이 이론적으로 기반하고 있는 지식 증류의 원류 논문(Hinton et al., 2015; Kim et al., 2021)을 함께 정리한다.대규모 파운데이션 모델인 Whisper는 그 자체로 배포할 경우 지연시간과 연산 비용 측면에서 실용성이 떨어진다. 이에 대한 대표적 해결책이 지식 증류이나, 표준 KD를 자동 음성 인식(ASR)에 그대로 적용할 경우 오히려 student 모델의 성능이 teacher 모델에 미치지 못하는 역설적 현상이 반복적으로 보고되어 왔다. OKESTRO 및 세종대학교 연구진이 제안한 ASKD-Whisper는..