오픈AI·브로드컴, 추론 전용 칩 ‘할라피뇨’ 공개

OpenAI가 Broadcom과 함께 대규모 언어모델(LLM)의 ‘추론(inference)’ 전용으로 설계한 맞춤형 AI 칩 ‘할라피뇨(Jalapeño)’를 공개했습니다. 기존 범용 가속기를 AI에 맞춰 손본 것이 아니라, LLM 추론만을 겨냥해 백지에서 새로 설계했다는 점이 핵심입니다.

"할라피뇨는 과거 AI 워크로드용 범용 가속기를 손본 것이 아니라, 현대 LLM 추론을 위해 백지에서 설계한 칩이다."OpenAI

왜 중요한가

OpenAI는 자사 모델·커널·서빙 시스템·제품 요구를 꿰뚫는 이해를 바탕으로, 파트너 Broadcom·Celestica와 함께 칩을 처음부터 설계했다고 밝혔습니다. 현재 엔지니어링 샘플이 실험실에서 목표 생산 주파수·전력으로 실제 ML 워크로드(예: GPT-5.3-Codex-Spark)를 돌리고 있고, 초기 테스트에서 ‘와트당 성능’이 현존 최고 수준을 크게 앞선다고 합니다. 모델을 만드는 회사가 그 모델을 가장 잘 돌릴 칩까지 직접 설계하는 ‘수직 통합’의 신호입니다.

실무 적용

할라피뇨는 2026년 말 초기 배치를 시작해 여러 세대에 걸쳐 기가와트 규모로 확장될 다세대 컴퓨팅 플랫폼의 첫 단계입니다. 추론의 전력 효율이 좋아지면 같은 예산으로 더 많은 추론을 돌릴 수 있어, AI 기능을 제품에 넣는 쪽의 단가·지연이 점차 낮아질 여지가 생깁니다. 다만 실제 가용성은 배치 일정에 달려 있으므로, 지금은 ‘추론 비용 구조가 바뀔 수 있다’는 방향성으로 받아들이는 것이 적절합니다.

교차 참고

• OpenAI: OpenAI and Broadcom announce strategic collaboration — 10기가와트 규모 ‘OpenAI 설계 가속기’ 합의 등 이번 칩이 올라탄 대형 인프라 맥락을 보완합니다.
• OpenAI: OpenAI and NVIDIA announce strategic partnership — 자체 칩과 외부 GPU(엔비디아)를 함께 쓰는 멀티 공급 전략을 함께 보여줍니다.

Wemeet의 관점

AI 경쟁의 무게중심이 ‘모델 성능’에서 ‘그 모델을 얼마나 싸고 효율적으로 돌리느냐’로 내려가고 있습니다. Wemeet은 추론 비용·전력의 구조 변화를 제품 기획의 변수로 미리 읽어, 기능 단가가 낮아질 흐름에 맞춰 AI 도입의 우선순위를 설계하는 방식을 우선합니다.