Microsoft에서는 USB4 또는 Thunderbolt 연결을 통해 여러 Windows PC를 함께 사용할 수 있습니다.

📅 2026-11-23

요약:

Microsoft는 Windows 11용 RDMA over USB4 기술을 출시했습니다. 이를 통해 여러 일반 PC가 USB4 또는 Thunderbolt 연결을 통해 함께 작동하여 메모리와 GPU 컴퓨팅 성능을 공유함으로써 원래 단일 시스템의 메모리 용량을 초과하는 대규모 AI 모델을 실행할 수 있습니다. 이 기술은 로컬 AI 추론을 위한 하드웨어 임계값을 낮추고 개발자가 기존 컴퓨터를 사용하여 분산 컴퓨팅 시스템을 구축할 수 있게 할 것으로 예상됩니다.

이 기술은 RDMA(Remote Direct Memory Access)를 기반으로 합니다. TCP/IP에 의존하는 기존 네트워크 통신과 달리 RDMA는 연결된 장치가 운영 체제와 CPU의 일부 네트워크 처리 링크를 우회하여 서로의 메모리를 직접 읽고 쓸 수 있도록 하여 데이터 복사를 줄이고 통신 지연을 낮추며 전송 효율성을 향상시킵니다. RDMA는 이전에는 주로 고성능 서버와 데이터센터에서 사용됐지만, 마이크로소프트가 이번에 이를 소비자용 윈도우 PC에 도입한다.

Microsoft에서는 USB4를 통한 RDMA가 기존 NetworkDirect 인터페이스와 새로운 소프트웨어 RDMA 공급자를 사용하여 구현되었다고 밝혔습니다. 호환 장치는 USB4 또는 지원되는 Thunderbolt 연결을 통해 직접 통신하므로 전용 RDMA 네트워크 카드나 네트워크 스위치가 필요하지 않습니다. 테스트 결과 작은 메시지를 전송할 때 왕복 지연 시간은 약 28~50마이크로초로 나타났습니다. 이는 UDP 기반 USB4 통신을 통한 기존 이더넷보다 약 4배 낮은 수치입니다. 이 낮은 대기 시간은 40Gbps 및 80Gbps 연결 모두에서 유지되지만 후자는 공칭 대역폭의 두 배를 갖습니다.

실제 시연에서 Microsoft는 AMD와 협력하여 완전히 상호 연결된 USB4 40Gbps 네트워크를 통해 Ryzen AI Max+ 395 프로세서, Radeon 8060S 그래픽 카드 및 128GB 통합 메모리를 탑재한 미니 PC 3대를 연결했습니다. 3개의 장치는 2,350억 개의 매개변수를 사용하여 Qwen3-235B-A22B 하이브리드 전문가 모델을 성공적으로 실행하여 4비트 양자화에서 초당 약 18.5 토큰의 추론 속도를 달성했습니다. AMD의 독립적인 테스트에 따르면 디코딩 속도는 초당 21.98 토큰에 도달할 수 있고 프롬프트 워드 처리 속도는 초당 117.98 토큰에 도달할 수 있습니다.

Intel은 또한 Core Ultra Series 3 프로세서, 64GB 메모리, GPT-OSS-120B 모델을 실행하는 Thunderbolt 4 연결을 갖춘 PC 3대와 4대를 사용하여 유사한 시연을 실시했습니다. 1000개 토큰의 컨텍스트 길이에서 속도는 3개 장치에서 초당 약 49.4토큰이고, 4개 장치에서는 초당 54.2토큰으로 증가합니다. 이 1,200억 개의 매개변수 모델은 64GB 메모리를 갖춘 단일 PC에 완전히 로드될 수 없으므로 다중 시스템 협업이 모델 실행의 핵심이 된다는 점은 주목할 가치가 있습니다.

Microsoft는 USB4를 통한 RDMA가 아직 실험 단계에 있으며 하드웨어와 소프트웨어 구성 모두에 대한 요구 사항이 높다는 점을 지적했습니다. 참여 PC에는 Windows 관리형 USB4 연결(가급적 40Gbps 이상)이 있어야 합니다. 또한 Microsoft는 성능을 크게 저하시킬 수 있는 데이지 체인 방식 대신 각 PC가 다른 모든 장치에 직접 연결되는 풀 메시 토폴로지를 권장합니다.

또한 애플리케이션은 호환 프레임워크를 통해 분산 실행을 명시적으로 지원해야 합니다. Microsoft는 NetworkDirect 공급자를 오픈 소스로 공개하고 이 기술을 시연하는 수정된 llama.cpp 구현을 출시했습니다. USB4를 통한 RDMA는 Windows Insider Experimental Channel의 향후 "미래 플랫폼" 버전과 함께 출시될 예정이지만 Microsoft는 아직 구체적인 출시 시기를 발표하지 않았습니다.

개발자 미리보기 단계에서는 이 기능이 기본적으로 꺼져 있으며 레지스트리 구성 및 테스트 서명을 통해 활성화해야 합니다. 테스트 서명을 활성화하려면 보안 부팅을 일시적으로 꺼야 할 수도 있습니다. 따라서 Microsoft는 사용자가 매일 사용하는 컴퓨터보다는 전용 개발 장비에서 테스트할 것을 권장합니다.

공식적으로 널리 채택될 시기는 불확실하지만, 이 기술이 결국 결실을 맺게 된다면 강력한 로컬 AI 추론이 더욱 보편화될 수 있습니다. 개발자는 더 이상 값비싼 전용 AI 서버를 구매할 필요가 없지만 기존 여러 PC의 메모리와 GPU 리소스를 결합하여 대규모 로컬 AI 모델을 실행할 수 있습니다.

관련 태그

관련 글

댓글

0/500
Captcha (click to refresh)
댓글 없음