3.5시간 음성을 1초에 받아쓰다

IBM이 Hugging Face에 초경량 음성 인식 모델 'Granite Speech 5.0 Turbo CTC' 두 종(Apache 2.0 라이선스판과 비상업 라이선스판)을 공개했습니다. 파라미터는 4.7억 개에 불과하지만, 속도와 정확도를 동시에 노린 인코더 전용 설계가 특징입니다 — 16개의 Conformer 블록에 청크 단위 어텐션과 CTC 손실을 결합하고, 2배 서브샘플링을 세 단계로 쌓아 초당 12.5토큰으로 처리합니다.

"전례 없는 속도와 강력한 정확도를 최소한의 크기로 결합해, 엣지 기기의 음성-텍스트 작업에 이상적이다."IBM Granite, Hugging Face

왜 중요한가

숫자가 설계의 성패를 말해줍니다 — NVIDIA H200 GPU에서 12,600 RTFx를 넘겨, 배치 추론이면 3.5시간이 넘는 음성을 단 1초에 받아씁니다. 그러면서 평균 단어 오류율(WER)은 4.85%(비상업판)·5.00%(Apache판)로, FFASR 리더보드에서 가장 빠른 모델이면서도 정확도 5위·9위에 올랐습니다. 속도를 위해 정확도를 크게 희생하는 통념을 4.7억 파라미터 규모에서 뒤집은 셈입니다.

실무 적용

이 조합은 클라우드에 음성을 보내지 않고 기기 안에서 처리해야 하는 상황 — 회의록·자막·음성 명령·콜센터 로그 — 에 특히 유효합니다. Apache 2.0 판은 상업적 활용이 자유로워 제품에 바로 얹을 수 있고, 인코더 전용·소형이라 GPU 비용과 지연을 함께 줄입니다. 대규모 아카이브를 일괄 전사하거나 실시간 자막을 붙이는 팀이라면, 거대 모델 대신 이런 경량 모델로 처리량을 확보하는 편이 현실적입니다.

교차 참고

• Hugging Face: LFM2.5-VL-3B for Better and Faster Vision Capabilities for the Edge — 엣지에서 빠르게 도는 소형 멀티모달 모델의 흐름을 보여줍니다.
• Hugging Face: State of Open Models — Summer 2026 — 오픈 모델 생태계가 소형·효율 중심으로 확장되는 큰 그림을 짚습니다.

Wemeet의 관점

Wemeet은 음성 AI의 승부가 '가장 정확한 거대 모델'이 아니라 '어디서, 얼마나 싸게 돌아가느냐'로 넘어가고 있다고 봅니다. 4.7억 파라미터가 3.5시간을 1초에 받아쓴다는 것은, 실시간·온디바이스 전사가 사치가 아니라 기본값이 된다는 신호입니다 — 작고 빠른 모델이 제품의 체감 속도를 바꿉니다.