[논문 리뷰] ASKD-Whisper: Adaptive Self-Knowledge Distillation for Efficient and Low-Latency ASR (Lee et al.)
·
인공지능/STT
본 문서는 지식 증류(Knowledge Distillation, KD) 기반의 경량 음성인식 모델 ASKD-Whisper(arXiv:2601.19919)를 분석하고, 해당 방법론이 이론적으로 기반하고 있는 지식 증류의 원류 논문(Hinton et al., 2015; Kim et al., 2021)을 함께 정리한다.대규모 파운데이션 모델인 Whisper는 그 자체로 배포할 경우 지연시간과 연산 비용 측면에서 실용성이 떨어진다. 이에 대한 대표적 해결책이 지식 증류이나, 표준 KD를 자동 음성 인식(ASR)에 그대로 적용할 경우 오히려 student 모델의 성능이 teacher 모델에 미치지 못하는 역설적 현상이 반복적으로 보고되어 왔다. OKESTRO 및 세종대학교 연구진이 제안한 ASKD-Whisper는..
[논문 리뷰] Qwen3-ASR Technical Report (Shi et al.)
·
인공지능/STT
Whisper 이후 오픈소스 ASR 판도를 바꿀 만한 모델이 또 하나 나왔다. Alibaba Qwen 팀의 Qwen3-ASR(arXiv:2601.21337)이다. 단순히 "정확한 ASR 모델 하나"가 아니라, ASR 2종(1.7B/0.6B) + LLM 기반 강제정렬(Forced Alignment) 모델 1종을 묶은 패밀리를 Apache 2.0 라이선스로 통째로 풀었다. 30개 언어(한국어 포함)와 22개 중국 방언을 지원하고, 노래 인식과 스트리밍까지 하나의 모델로 처리한다.1. 왜 주목할 만한가: LALM 패러다임ASR은 Transducer, AED(Whisper류) 같은 전통적인 end-to-end 패러다임에서 LALM(Large Audio-Language Model) 패러다임으로 넘어가는 중이다. ..
[논문 리뷰] Open ASR Leaderboard: Towards Reproducible and Transparent Multilingual and Long-Form Speech Recognition Evaluation (Srivastav et al.)
·
인공지능/STT
음성인식(ASR/STT) 모델을 개발하거나 도입하려고 할 때 누구나 한 번쯤 부딪히는 질문이 있다. "그래서 지금 뭐가 제일 좋은 모델인데?" 논문마다 평가 데이터셋이 다르고, 텍스트 정규화 방식도 제각각이라 공정한 비교가 어렵다. 오늘 소개할 논문은 이 문제를 정면으로 다룬 Open ASR Leaderboard(Srivastav et al., arXiv:2510.06961)이다. Hugging Face와 NVIDIA가 주도하고 커뮤니티가 함께 만드는 공개 벤치마크 플랫폼으로, 86개 ASR 시스템을 동일한 조건에서 비교한다.1. 이 논문이 해결하려는 문제ASR 분야는 오픈소스 데이터셋과 사전학습 모델 덕분에 빠르게 발전했지만, 그만큼 부작용도 생겼다.새 모델 개발자는 어떤 베이스라인과 어떻게 비교해야 ..
VirtualJin
'ASR' 태그의 글 목록