Liquid AI LFM3: 하나의 백본으로 만든 6종의 온디바이스 모델

Liquid AI가 Hugging Face 블로그를 통해 차세대 파운데이션 모델 LFM3를 소개했다. 텍스트, 비전, 오디오, 옴니, 의사결정 모델 여섯 종이 모두 LFM3-1.7B-Base라는 하나의 백본에서 갈라져 나오며, 전부 2B 파라미터 안팎이라 단일 GPU에서 미세조정하고 기기 위에서 돌릴 수 있다는 점을 내세운다.

"LFM3 is our new generation of Liquid Foundation Models (LFMs), built to be the starting point for specialized intelligence."Liquid AI (Hugging Face 블로그)

왜 중요한가

회사 설명에 따르면 LFM3-1.7B는 파라미터가 35% 적은데도 LFM2.5-2.6B를 앞서고, 4비트 양자화 시 약 1GB에 들어가며 컨텍스트 창은 256K 토큰이다. 합성곱 13층, 슬라이딩 윈도 어텐션 5층, 전역 어텐션 6층을 섞은 구조로, 8K 토큰 컨텍스트에서 LFM2-1.2B보다 약 25% 빠르다고 밝혔다. 모두 제조사가 직접 공개한 수치이므로 독립 검증 결과는 따로 확인해야 한다.

흐름 자체도 의미가 있다. 거대한 범용 모델 하나를 클라우드에서 부르는 대신, 입력 형태에 맞는 작은 모델을 골라 자기 데이터로 다듬어 사용자 기기에서 실행하는 쪽으로 선택지가 넓어지고 있다.

실무 적용

개인정보가 민감하거나 네트워크가 불안정한 환경, 응답 지연이 중요한 서비스라면 온디바이스 모델이 현실적인 후보가 된다. 다만 모델 크기가 작을수록 범용 지식은 얇아지므로, 업무 용어와 데이터에 맞춘 미세조정과 평가 세트를 먼저 준비해야 효과를 본다.

웹 서비스 관점에서는 브라우저나 앱 안에서 음성·이미지 입력을 처리하는 기능을 서버 호출 없이 붙이는 시나리오를 검토해 볼 만하다.

교차 참고

• Hugging Face 블로그(IBM Granite): Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint — 대화·의사결정·음성을 하나의 엔드포인트로 묶는 또 다른 접근
• Hugging Face 블로그: Introducing Llama Windows: llama.cpp in your Windows tray — 로컬 PC에서 모델을 상시 실행하는 환경을 다룬 사례

Wemeet의 관점

Wemeet은 이번 발표를 모델 크기 경쟁에서 용도별 전문화로 무게추가 옮겨가는 신호로 읽는다. 중소 비즈니스에는 가장 똑똑한 모델보다 비용이 예측 가능하고 데이터가 밖으로 나가지 않는 모델이 더 맞는 경우가 많다.

AI 기능을 기획할 때 어떤 모델을 쓸지보다 어디에서 실행하고 무엇으로 평가할지를 먼저 정하는 편이 실패 비용을 줄인다.