요약:
Apple의 최신 A20 Pro 칩은 온디바이스 인공 지능 분야에서 진정한 잠재력을 보여주고 있습니다. 최근 실제 테스트 결과 A20 Pro를 탑재한 아이폰18 프로는 270억 개의 매개변수를 갖춘 대규모 AI 모델을 로컬에서 실행할 수 있고, 생성 속도도 이전 세대 아이폰17 프로보다 2배 빨라져 휴대폰의 로컬 AI 역량에 대한 외부 세계의 새로운 관심을 불러일으켰다.
이 테스트는 개발자 Adrien Grondin이 수행했습니다. 시연에서 iPhone 18 Pro는 Bonsai 27B라는 270억 매개변수 모델을 실행했습니다. 클라우드 서버에 의존하지 않고 로컬에서 추론 작업을 직접 완료하며 이전 세대 제품보다 훨씬 빠른 응답 속도를 보여준다.
이러한 성능 도약을 이끄는 핵심 요소는 A20 Pro의 새로운 인공지능 하드웨어 아키텍처에서 비롯됩니다. 단일 16코어 신경망 엔진 세트만 탑재했던 이전 Apple 칩과 달리 A20 Pro는 총 32개의 신경망 처리 코어를 갖춘 듀얼 16코어 신경망 엔진 설계를 최초로 채택했습니다. 애플이 자체 개발한 칩에 듀얼 신경망 엔진 아키텍처를 적용한 것은 이번이 처음이다.
신경망 유닛 업그레이드와 더불어 메모리 시스템도 성능 향상에 중요한 부분이다. iPhone 18 Pro와 iPhone 18 Pro Max에는 모두 12GB, 96비트 폭의 LPDDR5X 메모리가 탑재되어 이전 세대 제품보다 전송 속도와 데이터 처리 용량이 더 커졌습니다.
테스트 결과에 따르면 대규모 언어 모델을 실행할 때 새로운 신경망 엔진과 더 빠른 메모리 시스템이 시너지 효과를 발휘하여 A20 Pro가 토큰 생성 속도에서 확실한 이점을 제공하는 것으로 나타났습니다. 로컬 추론에 의존하는 AI 애플리케이션의 경우 이는 더 빠른 응답 시간과 더 원활한 대화형 경험을 의미합니다.
그러나 이러한 혁신이 스마트폰이 이미 모든 대형 모델을 제한 없이 실행할 수 있다는 의미는 아닙니다.
연구원들은 A20 Pro가 아이폰을 270억 매개변수 모델 시대로 성공적으로 밀어넣었지만, 로컬 AI는 여전히 메모리 용량의 제약을 받고 있다고 지적했습니다. 예를 들어, 2비트 양자화 압축을 사용해도 새로 출시된 Bonsai 2 모델은 여전히 너무 커서 iPhone 18 Pro의 로컬 메모리 공간에 완전히 로드할 수 없어 성능이 저하됩니다.
이는 또한 현재 휴대폰 AI 개발의 실질적인 문제를 반영합니다. 즉, 컴퓨팅 성능이 빠르게 성장하고 있지만 메모리 용량과 모델 크기 간의 모순이 여전히 존재합니다. 칩 성능이 지속적으로 향상되더라도 모델 자체가 장치 메모리에 완전히 로드되지 않으면 실제 작동 효율성에 영향을 미치게 됩니다.
반면, 1세대 Bonsai는 1비트 양자화 모델이며 리소스 요구 사항이 상당히 낮습니다. 개발자들은 이러한 유형의 모델이 4GB 메모리만 있는 장치에서도 실행될 수 있으며 8GB 또는 12GB 메모리 플랫폼에서 더 높은 성능을 달성할 수 있다고 말합니다.
하드웨어 사양 측면에서 A20 Pro는 듀얼 신경망 엔진을 탑재했을 뿐만 아니라 최대 115.2GB/s의 통합 메모리 대역폭을 갖추고 있습니다. 일부 테스트에서는 신경망에 최적화된 작업 부하에서 신경망 엔진의 최대 처리량 기능이 칩 내부 7코어 GPU의 처리량을 훨씬 초과하는 것으로 나타났습니다.
이 결과는 Apple이 '기기 측 AI' 전략을 가속화하고 있음을 반영합니다. 클라우드 데이터 센터에 의존하는 것과 달리 로컬 AI는 더 빠른 응답 시간, 더 나은 개인 정보 보호 및 오프라인 가용성을 제공할 수 있는데, 이는 Apple이 최근 몇 년 동안 강조한 개발 방향입니다.
생성 인공 지능이 점차 스마트폰의 중요한 기능이 되면서 휴대폰 제조업체 간의 경쟁도 이미징 성능 및 프로세서 벤치마크에서 로컬 AI 추론 기능으로 전환되고 있습니다. A20 Pro의 성능은 스마트폰이 수십억, 심지어 수백억 개의 매개변수 모델을 실행할 수 있는 능력을 갖추기 시작했음을 의미합니다.
그러나 모델 크기가 계속해서 증가함에 따라 메모리 용량은 여전히 향후 개발에 주요 제한 요소가 될 수 있습니다. 분석가들은 애플이 향후 아이폰의 메모리 구성을 더욱 개선한다면, 더 큰 규모의 AI 모델을 실행할 수 있는 기기의 능력은 계속해서 향상될 것으로 예상하고, 독립적인 AI 컴퓨팅 플랫폼으로서 휴대폰의 역할이 점점 더 중요해질 것이라고 믿고 있습니다.
댓글