작지만 추론하는 오픈 LLM, Granite 4.2

IBM이 Hugging Face에 오픈 LLM 제품군 'Granite 4.2'를 공개했습니다. 3B·8B·30B 세 가지 밀집(dense) 디코더 모델을 약 15조 토큰으로 처음부터 학습했고, 다섯 단계 사전학습으로 512K 토큰의 긴 맥락을 확보했습니다. 특징은 모든 모델이 답변 전에 '사고의 연쇄(chain of thought)'를 생성할 수 있고, 과제 난이도에 따라 사고·비사고 모드를 오간다는 점입니다.

"모든 모델은 답변에 앞서 사고의 연쇄를 생성할 수 있으며, 과제에 필요한 만큼 '사고' 또는 '비사고' 모드로 작동한다."Granite Team, IBM · Hugging Face

왜 중요한가

숫자가 설계 의도를 보여줍니다 — 지도 미세조정(SFT)에 약 720만 개 샘플(약 1,000억 토큰)을 쓰고, 8B·30B 모델은 실제 샌드박스 환경에서 에이전트형 강화학습을 거쳤습니다. 그 결과 30B 모델은 SWE-Bench Verified에서 57.00%를 기록했습니다. 거대 규모 경쟁이 아니라, 중형 오픈 모델이 실제 코드 수정 과제를 얼마나 풀어내는지로 승부가 옮겨가고 있음을 보여줍니다.

실무 적용

512K 맥락과 사고·비사고 모드를 함께 갖췄다는 것은, 긴 문서·코드베이스를 통째로 다루면서도 단순 질의에는 추론 깊이를 낮춰 비용을 아낄 수 있다는 뜻입니다. 자체 인프라에 오픈 가중치로 얹어 데이터 유출 없이 운영하려는 팀이라면, 30B로 에이전트 과제를 처리하고 3B·8B로 경량 작업을 분담하는 구성이 현실적입니다. 다만 벤치마크 수치가 자사 과제로 그대로 옮겨지는지는 직접 평가로 확인해야 합니다.

교차 참고

• Hugging Face: State of Open Models — Summer 2026 — 오픈 모델 생태계가 소형·효율 중심으로 확장되는 큰 그림을 수치로 짚습니다.
• Hugging Face: Up to 3.2x Faster Inference with LFM2.5-DSpark — 같은 오픈 진영에서 추론 속도를 끌어올리는 효율 경쟁의 흐름을 보여줍니다.

Wemeet의 관점

Wemeet은 오픈 LLM의 가치가 '가장 큰 모델'이 아니라 '내 서버에서, 조절 가능한 비용으로, 실제 과제를 푸는가'에 있다고 봅니다. 512K 맥락과 사고 모드를 갖춘 30B급 오픈 모델은, 폐쇄형 API에 기대지 않고도 에이전트 제품을 세울 토대가 됩니다 — 효율과 통제를 함께 쥔 팀이 AI 원가를 설계합니다.