요약:
Anthropic은 자사의 최신 AI 모델 Claude Mythos Preview가 인공 지능 모델을 AMD GPU 플랫폼에 배포하는 데 필요한 소프트웨어 개발 시간을 크게 단축했다고 밝혔습니다. 회사에 따르면 과거에는 이 작업을 완료하는 데 보통 6~12개월이 걸렸고 수십 명의 엔지니어가 필요했지만 Claude Mythos는 거의 수동 개입 없이 약 3일 만에 중요한 소프트웨어 적응 작업을 완료할 수 있습니다. 이러한 발전은 Nvidia가 오랫동안 CUDA 소프트웨어 생태계를 기반으로 구축해 온 경쟁 장벽을 약화시킬 수 있습니다.

Anthropic 공동 창립자이자 최고 컴퓨팅 책임자인 Tom Brown은 회사의 IPO 로드쇼에서 투자자들에게 결과를 소개했습니다. 그는 Claude Mythos가 GPU 커널 코드의 거의 100%를 자동으로 포팅하거나 작성할 수 있어 Claude 모델이 AMD Instinct MI355X 가속기에서 실행될 수 있다고 말했습니다. 이전에는 유사한 하드웨어 조정 작업에 수십 명의 엔지니어로 구성된 팀이 필요한 경우가 많았으며 몇 달이 걸렸습니다.
그러나 Anthropic이 공개한 3일은 적용 범위가 명확하므로 전체 모델 배포, 생산 환경 검증 및 성능 최적화 프로세스가 3일 이내에 완료될 수 있다는 의미는 아닙니다. 로드쇼 자료의 각주에서는 이 성과가 특히 AMD MI355X GPU에서 프롬프트 워드 프로세싱(Prefill) 작업을 완료하고 실제 사용 가치가 있는 성능 수준에 도달하는 Anthropic 모델을 목표로 한다고 지적합니다. Anthropic은 모델 생성 답변 단계(Decode)도 포함되는지 여부를 명확하게 밝히지 않았습니다.
GPU 코어는 인공지능 소프트웨어와 기본 하드웨어 간의 중요한 연결 역할을 합니다. 모델 계산 작업을 특정 프로세서에서 효율적으로 실행할 수 있는 명령으로 변환하는 역할을 담당합니다. 제조업체마다 GPU 아키텍처, 메모리 시스템 및 컴퓨팅 장치가 다르기 때문에 동일한 AI 모델이 다양한 하드웨어 플랫폼에 대한 기본 코드를 작성하거나 조정해야 하는 경우가 많습니다. 이러한 유형의 작업은 오랫동안 NVIDIA의 CUDA 생태계에 중요한 이점을 제공해 왔습니다.
NVIDIA의 CUDA 플랫폼은 약 20년 동안 개발되었으며 성숙한 컴파일러, 개발 도구, 최적화 라이브러리 및 대규모 개발자 커뮤니티를 갖추고 있습니다. AMD는 자체 ROCm 소프트웨어 플랫폼을 보유하고 있으며 HIP 프로그래밍 계층을 통해 관련 컴퓨팅 작업을 지원합니다. 개발자가 CUDA 코드를 AMD 플랫폼으로 마이그레이션하는 것을 돕기 위해 AMD는 이전에 HIPify 도구를 출시했습니다. 그러나 코드 변환이 모든 프로그램이 직접적으로 이상적인 성능을 얻을 수 있다는 것을 의미하지는 않습니다. 개발자는 일반적으로 여전히 많은 디버깅과 최적화를 수행해야 합니다.
AI 프로그래밍 도구의 발전으로 이러한 상황이 바뀌고 있습니다. AMD의 인공 지능 소프트웨어 부사장인 Anush Elangovan은 올해 4월 Claude가 웹 검색 기능이 내장되어 있고 처리 중에 더 많은 기술 정보를 얻을 수 있기 때문에 코드 변환에서 HIPify보다 유리하다고 말했습니다. AMD는 이전에 AI 에이전트를 사용하여 GPU 커널을 자동으로 작성하는 연구 결과를 시연했지만 일부 테스트에서는 초기 시스템이 여전히 인간 전문가보다 열등했습니다.
Anthropic은 모델을 실행하기 위해 Nvidia GPU에만 의존하지 않습니다. 이 회사는 NVIDIA 및 AMD GPU, Google TPU, Amazon AWS Trainium과 같은 다양한 유형의 가속기를 동시에 사용했으며 이러한 하드웨어 리소스를 유연하게 예약된 컴퓨팅 리소스 풀로 통합 관리했습니다. Tom Brown은 이전에 멀티 칩 플랫폼 전략을 채택하기로 한 회사의 초기 결정이 특이한 선택이라고 말했습니다. 이 전략은 소프트웨어 적응 시간이 크게 단축됨에 따라 더욱 매력적이 될 수 있습니다.
Anthropic은 올해 처음으로 AMD GPU를 사용하기 시작했으며 AMD와 최대 2기가와트의 컴퓨팅 성능에 관한 협력 계약을 체결했습니다. 이전에 양 당사자가 공개한 정보에 따르면 AMD는 Instinct 시리즈 GPU의 작업 부하를 최적화하고 ROCm 소프트웨어 플랫폼 개발을 가속화하기 위해 Claude를 사용하고 있습니다. AMD는 AI의 커널 코드 자동 생성이 고객이 가속기를 채택할 수 있는 기술적 한계를 더욱 낮출 것으로 기대하고 있습니다.
실제로 AMD 경영진은 AI 프로그래밍 도구가 GPU 소프트웨어 생태계에 미치는 영향에 대해 반복해서 이야기해 왔습니다. AMD CEO인 Su Zifeng은 지난해 9월 원래 많은 양의 AI 소프트웨어가 CUDA를 중심으로 개발됐지만 이제는 소프트웨어 도구를 통해 코드의 상당 부분을 AMD 플랫폼에 적합한 형태로 변환할 수 있다고 밝혔습니다. 올해 7월 Vamsi Boppana AMD 수석 부사장도 AMD GPU를 채택할 때 AI가 나머지 소프트웨어 장벽을 제거할 것으로 예상된다고 말했습니다.
올해 7월 열린 AMD Advancing AI 행사에서 OpenAI의 Philippe Tillet도 GPU 코어 개발에서 AI 에이전트의 역할에 대해 이야기했습니다. 그는 OpenAI가 AMD Helios 랙을 구입한 후 엔지니어가 시스템이 제대로 작동하는지 확인하는 데 며칠 밖에 걸리지 않았다고 말했으며, 기존 커널 엔지니어의 책임이었던 작업 중 일부를 AI 에이전트가 점차적으로 맡고 있다는 점을 지적했습니다. AMD는 또한 엔지니어가 Claude에게 MI355X 랙을 시작하고 주말 동안 시스템을 계속 실행하도록 도와달라고 요청했다고 밝혔습니다.
앤트로픽이 공개한 데이터는 해당 결과가 더 이상 AMD 자체의 시연이나 홍보가 아니라는 점에서 주목을 받았다. 실제로 칩을 구매하고 사용하는 AI 회사인 Anthropic은 시간이 지남에 따라 자체 엔지니어링 관행의 변화를 투자자에게 공개했습니다. IPO 설명서 문서에는 Claude의 도움으로 회사가 이전보다 훨씬 낮은 엔지니어링 투자로 생산 환경에 새로운 칩 플랫폼을 도입할 수 있었다고 언급되어 있지만 문서에서는 구체적인 3일 수치를 제공하지 않았습니다.
그러나 적응 속도의 향상이 AMD GPU가 성능 면에서 Nvidia와 동등하다는 것을 직접적으로 증명하지는 않습니다. Anthropic은 MI355X에서 Claude의 실제 실행 속도를 발표하지 않았으며 Nvidia의 유사한 하드웨어와의 성능 비교 데이터도 제공하지 않았습니다. 보고서는 또한 회사가 표시한 차트에는 두 솔루션의 적응 진행률이 100%에 가깝다고 표시했지만, 이 비율이 어떤 작업 내용에 해당하는지 자세히 설명하지 않았다고 지적했습니다.
Nvidia CEO Jensen Huang은 이전에 회사 자체도 GPU 코어 개발을 지원하기 위해 AI를 사용한다고 밝혔으며, Nvidia보다 자체 칩 아키텍처를 더 잘 이해하는 사람은 없기 때문에 Nvidia는 하드웨어 성능을 최대한 활용할 수 있다고 믿습니다. Anthropic과 같은 기업의 다른 액셀러레이터 채택에 대해 그는 한때 Anthropic을 업계 동향이 아닌 특별한 사례라고 불렀습니다.
동시에 GPU 커널의 AI 자동 작성은 새로운 리소스 병목 현상에도 직면합니다. 올해 7월 세미애널리시스(SemiAnalytics)가 발표한 분석에 따르면 소프트웨어 개발 비용은 줄어들고 있지만 AI 에이전트가 생성한 코드는 여전히 실제 GPU에서 테스트하고 검증해야 한다. 각 에이전트는 테스트를 실행하기 위해 해당 GPU 리소스가 필요하며, 이러한 개발을 위한 AMD의 내부 GPU 리소스가 부족하여 애플리케이션의 추가 확장에 제약이 될 수 있습니다.
전반적으로 Claude Mythos 시연의 중요성은 특정 소프트웨어 개발 프로세스를 단축할 뿐만 아니라 AI가 서로 다른 GPU 플랫폼 간의 소프트웨어 마이그레이션 비용을 변경할 수 있다는 것입니다. CUDA의 장점은 즉시 사라지지 않습니다. 성숙한 도구 체인, 개발자 생태계 및 장기간 축적된 성능 최적화 경험은 여전히 가치가 있습니다. 그러나 AI가 코드 이식, 커널 작성 및 하드웨어 적응을 점점 더 자동으로 완료할 수 있다면 고객은 GPU를 선택할 때 특정 소프트웨어 생태계에 덜 의존하게 될 수 있습니다. AMD와 같은 경쟁업체도 원래 Nvidia 플랫폼을 주로 사용했던 고객을 더 낮은 마이그레이션 비용으로 확보할 수 있는 기회를 갖게 됩니다.
댓글