Microsoft는 이전에 Copilot+ PC에 그렸던 "강경한 선"을 완화하여 올바른 GPU가 있는 경우 더 많은 Windows 11 장치에서 기본 AI 워크로드를 실행할 수 있도록 허용합니다.최신 업데이트는 NVIDIA GeForce RTX 30 시리즈 또는 최소 6GB의 비디오 메모리를 갖춘 최신 그래픽 카드가 있는 시스템이 Windows의 로컬 언어 모델 API를 지원함을 보여줍니다. 표면적으로 이는 개발자에게 있어 작은 변화일 뿐이지만 Microsoft가 기본 AI 기능을 Copilot+ 브랜드에 긴밀하게 묶을 것인지 다시 생각하고 있음을 암시합니다.

2024년 6월 18일 Copilot+ PC가 공식적으로 출시되었을 때 Microsoft의 메시지는 매우 명확했습니다. 전용 AI 하드웨어가 필요하다는 것입니다. 이러한 유형의 장치를 정의하는 기능 중 일부는 내장형 신경 처리 장치(NPU)뿐 아니라 16GB 메모리 및 솔리드 스테이트 드라이브와 같은 기본 구성입니다. 그중 NPU는 Windows의 기본 AI 기능을 잠금 해제하는 핵심으로 의도적으로 형성되었습니다.

그러나 NPU만이 AI 워크로드를 처리할 수 있는 유일한 것은 아닙니다. 특히 최신 GPU는 대규모 병렬 컴퓨팅을 위해 제작되었으며 오랫동안 기계 학습 모델을 실행하는 데 사용되어 왔습니다. 실제로 많은 AI 워크로드의 경우 GPU는 현재 NPU보다 더 높은 처리량 기능을 제공할 수 있지만 종종 전력 소비가 더 높아집니다.

이번 조정 이전에 Microsoft는 대부분의 내장 AI 기능을 NPU가 있는 장치로 제한했습니다. 이는 충분한 컴퓨팅 성능을 갖추고 GPU에만 의존하는 많은 PC가 로컬 텍스트 및 이미지 생성은 물론 Windows Recall과 같은 일련의 AI 도구를 사용하는 것을 방지합니다. 오늘날 이러한 격차가 메워지기 시작했습니다. Microsoft는 업데이트된 기술 문서와 GitHub 게시물을 통해 개발자가 이제 지원되는 GPU가 있는 Copilot+ PC가 아닌 PC에서 언어 모델 API를 실행할 수 있음을 확인했습니다.

소개에서 Microsoft는 이 기능을 "GPU에서 실행되는 언어 모델 API(실험적)"라고 부르며, 이제 이러한 API가 지원되는 GPU가 있는 Copilot+ PC가 아닌 PC에서 실행될 수 있으며 기본 언어 모델 기능을 더 광범위한 Windows 11 장치에 제공할 수 있음을 언급합니다. 관계자는 또한 현재 지원되는 하드웨어에는 NVIDIA GeForce RTX 30 시리즈와 6GB 이상의 비디오 메모리를 탑재한 최신 제품이 포함되어 있음을 밝혔습니다.

현재 단계에서 이 기능은 여전히 ​​주로 개발자 수준에 있으며 일반 최종 사용자에게 직접 공개되지 않습니다. 이러한 API를 호출하려면 Windows AI Framework를 통합하는 애플리케이션을 개발하거나 사용해야 합니다. 그러나 이는 기본 AI 기능을 더 많은 Windows 장치로 대대적으로 확장할 수 있는 기반을 마련했습니다.

이 프레임워크의 중심에는 Phi Silica라는 작은 로컬 언어 모델이 있습니다. Phi Silica는 모든 시스템에 사전 설치되는 대신 Windows 업데이트를 통해 요청 시 배포됩니다. 모델은 앱에서 요청할 때만 다운로드됩니다. 모델이 설치되면 로컬 하드웨어에서 실행할 수 있습니다. 사용 가능한 GPU가 감지되면 추론을 가속화하기 위해 GPU가 먼저 사용됩니다.

현재 공개된 기능은 주로 텍스트 관련 작업에 중점을 두고 있습니다. Windows.AI.Text API를 통해 앱은 콘텐츠 요약, 텍스트 다시 쓰기, 텍스트를 구조화된 형식으로 변환, 프롬프트 생성과 같은 작업을 수행할 수 있습니다. 사용자 관점에서 이러한 기능은 계산이 완전히 로컬에서 완료된다는 점을 제외하면 클라우드 AI 도구가 제공하는 경험과 유사합니다.

로컬로 실행하면 몇 가지 실질적인 이점이 있습니다. 클라우드 컴퓨팅 파워에 대한 의존도를 줄여 시스템 응답 속도가 향상될 것으로 기대된다. 동시에 데이터를 외부 서버에 업로드할 필요가 없으므로 데이터가 로컬 시스템 내에 유지되는 데 도움이 됩니다. 이 모델은 지연 시간, 대역폭 비용, 개인 정보 보호 규정 준수 측면에서 개발자와 기업 사용자 모두에게 잠재적으로 매력적이며, 이는 AI 기능 채택 방식에 영향을 미칠 수 있습니다.

이 개방이 Copilot+ 시스템이 완전히 "잠금 해제"되었음을 의미하지는 않는다는 점에 유의해야 합니다. Windows Recall 및 Click to Do와 같이 눈에 띄는 Copilot+ 기능 중 일부는 현재 NPU 기반 시스템과 연결되어 있습니다. 현재 GPU 지원은 전체 AI 경험에 대한 완전한 통합이 아니라 주로 언어 모델 API 계층으로 제한됩니다.

한계는 남아 있지만 추세는 이미 분명합니다. Microsoft는 더 이상 NPU를 Windows 기본 AI의 유일한 진입점으로 보지 않습니다. GPU가 작업 부하의 이 부분을 처리하도록 허용하면 호환되는 하드웨어의 범위가 크게 확장되고 Copilot+ PC가 출시 시 가졌던 "네이티브 AI 전용" 이미지가 약화됩니다.