요약:
OpenAI는 자체 개발한 인공지능 칩 '할라페뇨(Jalapeño)'(후추)가 작업 완료 효율성과 응답 속도 측면에서 현재의 다른 인공지능 시스템보다 우수하다는 내용의 블로그 게시물을 화요일에 게시했습니다. 미디어 기자와의 브리핑 회의에서 OpenAI 하드웨어 담당 부사장인 Richard Ho는 Jalapeño가 더 낮은 대기 시간과 더 높은 처리량으로 "두 가지"를 모두 달성하는 반면, 이전 인공 지능 시스템은 일반적으로 이 두 지표 사이에서 균형을 맞춰야 한다고 말했습니다.
이 칩은 올해 6월에 처음 발표되었습니다. OpenAI와 Broadcom이 공동 개발한 ASIC(Application-Specific Integrated Circuit)입니다. 주로 인공 지능 추론 작업, 즉 훈련된 모델을 실행하여 작업을 수행하거나 에이전트를 배포하도록 설계되었습니다.
성능 테스트 측면에서 OpenAI는 추론 작업을 처리하는 인공지능 시스템의 능력을 평가하는 데 사용할 수 있는 InferenceX라는 벤치마크 테스트 플랫폼을 사용합니다. 테스트에서는 Jalapeño를 당시 최고 성능의 Nvidia GB200 및 GB300 슈퍼칩과 비교했습니다. 결과에 따르면 GPT-OSS 120B DeepSeek R1, Kimi K2.5 1T 세 가지 모델에서 Jalapeño는 비교 시스템보다 와트당 1.5~1.9배 더 많은 인공지능 작업을 완료할 수 있으며 종단 간 지연은 1.7~3.6배 감소하는 것으로 나타났습니다. Ho는 이것이 칩이 사용자에게 "수요가 증가함에 따라 더 빠른 응답, 더 반응성이 뛰어난 인텔리전스, 더 안정적인 액세스 경험"을 제공할 수 있음을 의미한다고 말했습니다.
OpenAI는 할라피뇨를 올해 말까지 '소규모 배치'로 배치하고 2027년에는 점진적으로 생산 능력을 확대할 계획이지만 내년에 구체적인 배치 수는 공개하지 않았습니다. 성능 개선에도 불구하고 Ho는 OpenAI가 기존 전체 칩 라인업을 Jalapeño로 교체할 계획이 없다는 점을 강조하고 회사의 전반적인 컴퓨팅 성능 전략에는 여전히 Nvidia와 같은 '품질 파트너'가 포함되어 있다고 말했습니다. OpenAI는 칩의 2세대 및 3세대 제품을 계속 개발할 것으로 알려졌습니다.
댓글