요약:
Qualcomm은 최근 Snapdragon 8 Elite Gen 6 Pro의 AI 처리 기능에 대한 추가 세부 정보를 발표했는데, 그 중 가장 주목할만한 것은 새로운 Hexagon NPU의 업그레이드입니다. 퀄컴은 과거 순전히 AI 컴퓨팅 성능의 성장을 추구했던 것과 달리 이번에는 AI 모델 운영, 메모리 액세스, 전력 소비 제어의 효율성에 더 많은 관심을 기울이고 있으며, 차세대 플래그십 휴대폰에서 대규모 생성 AI 모델과 AI 에이전트를 로컬에서 실행할 수 있기를 희망하고 있습니다.
퀄컴은 생성 AI가 점차 스마트폰의 중요한 기능이 되면서 AI 모델 자체도 계속해서 더 크고 복잡해지고 있다고 밝혔습니다. 모바일 장치의 경우 실제 병목 현상은 컴퓨팅 성능뿐만 아니라 제한된 전력 소비 및 메모리 대역폭에서 이러한 모델을 효율적으로 처리하는 방법입니다. 따라서 Snapdragon 8 Elite Gen 6 Pro의 NPU는 여러 측면에서 재설계되었습니다.
중요한 업그레이드 중 하나는 새로운 Element Accelerator입니다. 이 전용 하드웨어 가속 장치는 AI 컴퓨팅의 특정 작업에 최적화되어 관련 워크로드를 실행할 때 NPU의 효율성을 향상시킬 수 있습니다. 단순히 NPU의 최대 컴퓨팅 성능을 높이는 것과 비교하면 이 특수 설계를 통해 칩은 더 적은 리소스로 특정 AI 작업을 완료할 수 있으므로 컴퓨팅 프로세스에서 에너지 소비가 줄어듭니다.
신세대 Hexagon NPU는 공유 메모리도 더 커졌습니다. 퀄컴은 대용량 공유 메모리 용량이 이전 세대에 비해 50% 증가했다고 밝혔습니다. 고속 공유 메모리의 이 부분을 통해 NPU는 AI 모델 실행 중에 필요한 데이터를 보다 편리하게 저장할 수 있어 시스템 메모리에 자주 액세스할 필요성이 줄어듭니다.
이 변경 사항은 대규모 언어 모델의 경우 특히 중요합니다. 생성적 AI를 실행할 때 모델은 대량의 상황별 데이터를 지속적으로 처리해야 하며, 그 중 일부는 추론 중에 지속되어야 합니다. 이 데이터가 NPU와 시스템 메모리 간에 자주 전송되면 대기 시간이 늘어나고 더 많은 전력을 소비하게 됩니다. 퀄컴은 NPU 내부에서 직접 사용할 수 있는 고속 공유 메모리를 추가해 이러한 데이터 처리를 최대한 줄일 것으로 기대하고 있다.
큰 이점을 얻은 객체 중 하나는 KV 캐시입니다. 사용자가 AI 비서와 점점 더 오랫동안 지속적으로 대화함에 따라 모델은 점점 더 많은 상황 정보를 저장해야 합니다. KV 캐시 크기도 그에 따라 증가하며, 대규모 모델을 로컬에서 실행할 때 중요한 메모리 부담이 되는 경우가 많습니다. 공유 메모리가 클수록 관련성이 높은 데이터가 컴퓨팅 장치에 더 가깝게 유지되어 AI 추론 효율성이 향상됩니다.
Qualcomm은 이 기능이 AI 에이전트에 특히 중요하다고 믿습니다. 기존의 질의응답 AI에 비해 AI 에이전트는 사용자 요구 사항 이해, 실행 계획 수립, 다양한 도구 호출, 반환 결과 분석 등 여러 단계를 지속적으로 완료한 후 다음 단계로 진행해야 합니다. 프로세스 전반에 걸쳐 모델 상태와 컨텍스트를 지속적으로 저장해야 하므로 메모리 액세스를 줄이면 대기 시간을 줄이고 복잡한 AI 작업을 보다 원활하게 실행할 수 있습니다.
또한 Qualcomm의 NPU 개선은 향후 휴대폰에서 AI를 실행할 때 문제 해결을 위해 단순히 시스템 RAM을 늘리는 데에만 의존할 필요가 없음을 의미합니다. 국내 AI 모델이 점점 대형화되면서 휴대폰 제조사들은 최근 몇 년간 주력 제품의 메모리 용량을 지속적으로 늘려왔다. 그러나 RAM을 늘리면 하드웨어 비용이 늘어날 뿐만 아니라 전력 소비도 늘어나고 메모리 공급에 대한 압박도 커집니다. Qualcomm은 칩 내부의 고속 공유 메모리에 더 많은 데이터를 넣어 아키텍처 수준에서 이 문제를 완화하려고 노력하고 있습니다.
스냅드래곤 8 엘리트 6세대 프로는 NPU 외에도 CPU와 GPU도 대폭 업그레이드됐다. Qualcomm은 이전에 차세대 플래그십 플랫폼이 최대 5GHz의 CPU 주파수를 가질 것이라고 밝혔습니다. 현재 발표된 정보에 따라 이 사양이 최종적으로 구현된다면 스마트폰 CPU의 최고 주파수가 공식적으로 5GHz 시대에 돌입하게 되므로 모바일 프로세서에서 매우 상징적인 노드가 될 것입니다.
Qualcomm은 CPU용 FlexCache 기술도 도입했습니다. 핵심 아이디어는 또한 외부 시스템 메모리에 대한 프로세서의 의존도를 줄이고 칩의 내부 캐시를 보다 유연하게 사용하여 CPU가 데이터를 보다 효율적으로 얻을 수 있도록 하는 것입니다. 최신 모바일 프로세서의 경우 캐시와 메모리 사이의 데이터 액세스 효율성이 점점 더 중요해지고 있으므로 이 설계는 성능과 에너지 효율성 간의 균형을 어느 정도 향상시킬 수 있습니다.
GPU에도 상당한 아키텍처 변화가 있었습니다. Qualcomm은 차세대 Adreno GPU를 기존 그래픽 성능을 향상시킬 뿐만 아니라 GPU의 AI 작업 수행 능력을 더욱 향상시키는 매우 중요한 아키텍처 업그레이드라고 설명합니다.
중요한 변경 사항 중 하나는 매트릭스 계산 전용 코어인 Adreno 매트릭스 코어가 추가된 것입니다. 매트릭스 연산은 최신 AI 모델에서 중요한 계산 유형이므로 전용 매트릭스 코어는 GPU가 AI 관련 작업을 보다 효율적으로 수행하는 데 도움이 될 수 있습니다.
이는 향후 Snapdragon 플래그십 플랫폼이 모든 AI 계산을 NPU에 넘겨주지 않을 것임을 의미합니다. 특정 작업에 따라 CPU, GPU 및 NPU는 각각 다른 유형의 작업을 수행할 수 있으므로 보다 확실한 이기종 컴퓨팅 시스템을 형성할 수 있습니다. 게임의 경우 GPU는 기존 그래픽 렌더링을 완료하면서 AI 계산의 일부를 수행할 수 있습니다. 생성적 AI와 같은 워크로드의 경우 NPU가 더 중요한 역할을 할 수 있습니다.
Qualcomm은 AI와 그래픽 렌더링 간의 결합을 더욱 강화하기 위해 Adreno Neural Fusion 기술도 출시했습니다. 이 기술은 AI 알고리즘을 활용해 게임 화면의 시각적 효과를 향상시키고, 전력 소모를 제어하면서 더욱 발전된 그래픽 처리 효과를 얻을 수 있도록 돕는다.
이 디자인은 특히 초해상도, 프레임 생성 등 최근 급속도로 발전하는 AI 그래픽 기술에 적합하다. 모바일 게임의 해상도와 화면 복잡성은 계속해서 증가하고 있습니다. 모든 사진이 기본 렌더링을 위해 기존 방법에 의존한다면 GPU 부담과 전력 소비가 급격히 증가합니다. AI를 사용하여 사진 정보의 일부를 생성하면 더 낮은 렌더링 비용으로 더 높은 최종 사진 품질을 얻을 수 있습니다.
전체 아키텍처 관점에서 스냅드래곤 8 엘리트 6세대 프로의 AI 업그레이드는 단순히 NPU를 더 빠르게 만드는 것이 아니라 전체 SoC 내부의 데이터 처리 방식을 재설계하려는 시도다. NPU에는 더 큰 공유 메모리와 전용 가속기가 있습니다. CPU는 FlexCache를 통해 시스템 메모리 의존도를 줄이고, GPU는 AI 기술을 통해 특화된 매트릭스 컴퓨팅 기능을 추가하고 그래픽 처리에 참여합니다.
이러한 변화는 모바일 칩이 새로운 단계에 진입하고 있음을 반영합니다. 과거에는 플래그십 SoC의 성능을 측정할 때 사람들이 주로 CPU와 GPU 실행 점수에 집중했지만, 이제는 AI 워크로드가 칩의 실제 경험을 결정하는 중요한 요소가 되었습니다. 차세대 휴대폰에서 정말 중요한 것은 칩의 최대 컴퓨팅 성능이 얼마나 높을 수 있는지뿐만 아니라 제한된 전력 소비로 오랫동안 AI 모델을 실행할 수 있는지, 서로 다른 컴퓨팅 장치와 메모리 간의 데이터 이동을 효과적으로 제어할 수 있는지 여부입니다.
퀄컴이 공유 메모리와 메모리 액세스 감소를 특별히 강조하는 것도 AI 시대의 칩 경쟁이 단순한 '컴퓨팅 파워 전쟁'에서 '데이터 전송 효율성 전쟁'으로 점차 전환되고 있음을 보여준다. 대규모 AI 모델의 경우 계산 자체가 중요하지만 모델 매개변수, 컨텍스트 및 중간 결과를 적시에 올바른 컴퓨팅 장치에 보내는 방법도 최종 성능과 에너지 소비에 직접적인 영향을 미칩니다.
따라서 Snapdragon 8 Elite Gen 6 Pro에서 정말 주목할 점은 개별 AI 성능이 얼마나 향상되었는지가 아니라 Qualcomm이 NPU, CPU, GPU, 캐시 및 공유 메모리 간의 긴밀한 협력을 통해 휴대폰에서 점점 복잡해지는 AI 작업을 로컬에서 처리할 수 있도록 노력하고 있다는 것입니다.
AI 비서, AI 에이전트, 생성 애플리케이션, AI 게임 기능이 점차 플래그십 휴대폰의 중요한 부분이 됨에 따라 이러한 아키텍처 아이디어는 향후 모바일 SoC 개발의 중요한 방향이 될 수도 있습니다. 지속적으로 증가하는 시스템 RAM과 비교할 때, 칩 내에서 보다 효율적인 데이터 처리 및 캐싱 메커니즘을 통해 계속 확장되는 AI 모델을 소화하면 성능, 전력 소비 및 비용 간의 보다 합리적인 균형을 달성할 수 있을 것으로 예상됩니다.
Snapdragon 8 Elite Gen 6 Pro가 궁극적으로 이러한 기술적 목표를 달성할 수 있는지 여부는 실제 기기 출시 후 완전한 테스트를 통해 검증되어야 합니다. 그러나 지금까지 공개된 정보로 볼 때 이번 세대 퀄컴의 플래그십 플랫폼 업그레이드의 초점은 매우 분명했습니다. AI 계산을 더 빠르게 할 뿐만 아니라 AI 계산을 더 효율적으로 만들고 로컬 AI를 실행하기 위해 휴대폰의 메모리 및 전력 소비 비용을 최소화하는 것입니다.
댓글