Apple의 MLX 기계 학습 프레임워크에 대한 최근 테스트에서 벤치마크 결과 새로운 Apple Silicon Mac이 NVIDIA의 RTX 4090보다 훨씬 뛰어난 성능을 보였습니다. Apple은 12월 6일 Apple 칩용으로 특별히 설계된 오픈 소스 프레임워크인 MLX 출시를 발표했습니다. 이 프레임워크는 AI 개발자가 프로젝트에서 구축, 테스트, 사용 및 향상할 수 있도록 설계되었습니다.
개발자 Oliver Wehrens는 최근 NVIDIA ARTX 4090 그래픽 카드를 사용하는 Apple의 M1 Pro, M2 및 M3 칩에 대한 MLX 프레임워크의 일부 벤치마크 결과를 공유했습니다. OpenAI의 음성 인식 모델인 Whisper를 사용합니다.
Wehrens는 Whisper 모델을 사용하여 음성을 기록하고 10분짜리 오디오 파일을 처리하는 데 걸리는 시간을 측정했습니다. 결과는 M1Pro 칩의 성능이 NVIDIA GPU의 성능과 비슷하다는 것을 보여줍니다. 오디오를 처리하는 데 216초가 걸리는 반면, 4090은 186초만 걸립니다.
하지만 최신 Apple 칩의 성능은 훨씬 더 좋습니다. 예를 들어, 서로 다른 사람들이 76개의 GPU를 탑재한 M2 Ultra와 40개의 GPU를 탑재한 M3 Max에서 동일한 오디오 파일을 실행한 결과 이러한 칩이 NVIDIA GPU보다 오디오를 기록하는 데 더 적은 시간이 걸린다는 사실을 발견했습니다.
Apple 칩과 NVIDIA 제품 사이에는 전력 소비에도 상당한 차이가 있습니다. 구체적으로 NVIDIA 4090을 실행하고 유휴 상태인 PC의 전력 소비를 비교하면 242W 증가합니다.
이에 비해 16개의 M1 GPU 코어가 장착된 MacBook은 실행 중과 유휴 상태 사이의 전력 소비 증가량이 38와트에 불과하여 훨씬 작습니다.
이러한 결과는 Apple의 인공 지능 및 기계 학습 기능 발전을 강조하며 Apple 제품 성능 향상의 시작이 될 수 있습니다. MLX 프레임워크가 오픈 소스가 되면서 개발자가 더 폭넓게 적용하고 혁신할 수 있는 기반이 마련되었습니다.
엔비디아 4090 GPU는 컴퓨터를 제외하면 1,599달러부터 시작하며, 2022년 출시된 M3 맥북 프로와 가격은 동일하지만, M3 Pro와 M3 Max의 가격은 여전히 급격하게 오르고 있다.