요약:
Anthropic은 IPO 로드쇼에서 AMD AI 가속기 적용을 돕기 위해 Claude Mythos Preview를 사용한다고 밝혔습니다. 한 회사는 Claude AI가 내부 모델이 AMD MI355X에서 프롬프트 워드 프로세싱을 완료하고 사용 가능한 성능 수준에 도달하는 데 단 3일밖에 걸리지 않았다고 밝혔습니다.
Claude는 이러한 노력을 통해 사람의 개입을 최소화하면서 거의 모든 GPU 커널 코드를 포팅하거나 작성했습니다. 이 사건은 NVIDIA의 CUDA 소프트웨어 생태계와 AI 칩과의 경쟁에 대한 논의를 촉발시켰습니다. CUDA는 NVIDIA의 해자이지만 AI 시대에 이 해자가 얼마나 오래 지속될 수 있을지는 지켜봐야 합니다.
AI 모델이 다양한 칩 아키텍처에서 실행되는 경우 기본 컴퓨팅 코드, 소프트웨어 스택, 하드웨어 기능에 적응해야 합니다. 실용적인 성능을 달성하기 위해 엔지니어는 매트릭스 작업, 메모리 액세스 및 다중 칩 통신을 최적화하는 경우도 많습니다.
한 회사는 회사의 과거 경험에 따르면 전통적인 엔지니어링 방법을 사용하여 새로운 칩 플랫폼을 통합하는 데 일반적으로 수십 명의 엔지니어가 수개월(실제로 6~12개월)이 걸리지만 AI가 참여하면 이 프로세스를 단 3일로 단축할 수 있다고 말했습니다.
수많은 개발 도구, 컴퓨팅 라이브러리, GPU에 최적화된 소프트웨어를 하나로 묶은 엔비디아의 CUDA는 오랫동안 AI 개발의 중요한 기반이 되어 왔습니다. 원래 특정 하드웨어에 최적화된 코드를 다른 칩에 적용하려면 많은 양의 엔지니어링 리소스가 투자되어야 하기 때문입니다.
AI가 기본 코드 이식에 참여한 후에는 엔지니어가 GPU 커널을 더 빠르게 작성하고 조정하는 데 도움이 될 수 있으며 기업이 다양한 칩 플랫폼에 액세스하는 데 드는 비용과 시간이 줄어들 수 있습니다. 이 단계에서 A사가 실제로 채택한 칩에는 NVIDIA, AMD, Google TPU 및 Amazon Trainium이 포함되지만 이에 국한되지는 않습니다.
AMD와 Anthropic은 이전에 AMD MI450 시리즈를 기반으로 최대 2GW의 GPU 컴퓨팅 성능을 배포할 것이라고 발표했습니다. 첫 번째 1GW 배포는 2027년 상반기에 시작될 예정입니다. 양 당사자는 또한 Claude를 사용하여 AMD GPU 워크로드를 최적화하고 ROCm 소프트웨어 개발을 가속화할 것입니다.
댓글