요약:
이 거래에 대해 알고 있는 세 사람에 따르면 Nvidia는 d-Matrix에 투자할 계획이라고 합니다. 7년차의 이 회사는 인공지능용 서버칩 연구개발에 주력하고 있으며 제품 목표는 엔비디아와 경쟁하는 것이다. 이번 투자 제안은 AI 추론 칩 시장에서 Nvidia의 점유율이 지속적으로 상승하고 있는 가운데, 경쟁 칩 설계자와 자체 기술의 호환성을 촉진하고 경쟁자를 지배적인 하드웨어 생태계로 끌어들이기 위한 Nvidia의 이니셔티브입니다.
이것은 Nvidia가 작년 12월 Groq와 200억 달러 규모의 기술 라이선스 계약을 체결한 이후 AI 추론 칩 스타트업과의 첫 번째 거래이기도 합니다. 이는 Nvidia가 단지 이 회사에만 투자할 의도가 없음을 보여줍니다.
3개월 전 Nvidia는 칩 경쟁업체와 협력 모델을 출시하여 두 회사의 칩이 동일한 AI 추론 워크로드 세트에서 함께 작동하고 서로 다른 작업을 공유할 수 있도록 했습니다. 목표는 이러한 컴퓨팅 작업의 운영 효율성을 향상시키는 것입니다.
경쟁업체가 Nvidia의 엄청난 선두를 흔들기 어렵기 때문에 점점 더 많은 제조업체가 Nvidia의 GPU를 완전히 교체하는 대신 GPU를 사용하기로 선택하고 있습니다. NVIDIA는 경쟁업체가 자체 생태계에 연결하도록 장려하며 네트워크 하드웨어 제품에도 도움이 될 수 있습니다. 이 제품은 여러 그룹의 서버 랙을 전체 시스템으로 상호 연결하여 고부하 AI 계산을 완료할 수 있습니다. 이 기술 솔루션은 병렬 컴퓨팅입니다.
지난 12개월 동안 Nvidia는 다른 두 개의 대형 AI 칩 경쟁사인 Intel과 Broadcom에 수십억 달러 투자를 완료했습니다. 이는 부분적으로 Nvidia GPU와 이 두 엔터프라이즈 칩의 통합을 촉진하기 위한 것입니다. 이러한 통합이 언제 대규모로 제공될지는 확실하지 않습니다. 여러 스타트업 칩 회사의 사람들은 Nvidia가 칩이 Nvidia 네트워크 기술이 탑재된 GPU와 호환될 수 있기를 희망하면서 다른 여러 칩 스타트업에도 솔루션을 홍보했다고 밝혔습니다.
올해 8월 Amazon도 비슷한 통합 아이디어를 제안했습니다. Nvidia GPU와 Amazon이 자체 개발한 Trainium AI 칩을 통합 아키텍처의 서버 랙을 사용하여 동일한 데이터 센터에서 동시에 실행하고 공존하도록 하세요. 동시에 Trainium 칩은 Nvidia의 네트워크 및 메모리 하드웨어를 호출할 수도 있습니다.
또 다른 칩 스타트업인 SambaNova Systems도 지난 6월 자체 칩을 NVIDIA GPU와 상호 연결하여 AI 모델을 함께 실행하는 솔루션을 시연했습니다. 엔비디아는 앞서 언급한 이기종 통합을 추진하는 동시에 GPU와 그로크(Groq)의 전용 AI 추론 칩을 결합한 칩 시스템도 독자적으로 개발하고 있다. 이전에도 NVIDIA는 이번 200억 달러 규모의 기술 라이선스 거래를 통해 Groq의 창립 팀과 많은 직원을 흡수했습니다.
조사에 정통한 소식통에 따르면 미국 법무부는 거래가 칩 시장에 미치는 영향에 대한 공식적인 법무부의 조사를 우회하는 방식으로 Nvidia가 Groq 거래를 설계했는지 여부를 조사하고 있습니다. 이 소식은 뉴욕타임스(New York Times)에 의해 처음 보도되었습니다.
동일한 AI 작업을 공동으로 처리하기 위해 여러 제조업체의 칩을 호출하는 것은
분리 추론
이라고 불리는 상당히 새로운 업계 개념입니다. AWS 뉴런. NVIDIA는 소규모 경쟁업체와 분리된 추론 솔루션을 적극적으로 개발하고 있지만 NVIDIA는 자체 칩만으로도 거의 모든 AI 워크로드를 가장 효율적으로 처리할 수 있다고 공개적으로 밝혔습니다.그럼에도 불구하고 클라우드 서비스 제공업체와 Anthropic, OpenAI 등 선도적인 AI 개발 기업은 단일 칩 공급업체에 전적으로 의존하는 것을 원하지 않습니다. 엔비디아에 대한 의존도를 줄이기 위해 다른 제조업체로부터 칩을 구매하는 것 외에도 이들 두 AI 회사는 자체 AI 추론 칩도 개발하고 있습니다.
d-Matrix의 기술적 초점은
추측적 디코딩
입니다. , 이 기술은 AI 모델의 실행 속도를 향상시킬 수 있습니다. NVIDIA가 출시할 이 공동 시스템에서 d-Matrix 칩은 소형 AI 모델을 실행하고 대형 모델이 사용자에게 제공해야 하는 출력 결과를 미리 예측합니다. 대형 모델은 NVIDIA GPU에서 실행되어 추측된 결과를 확인하고 채택을 확인합니다.The Information은 이전에 d-Matrix가 당시 미화 50억 달러의 목표 후가치로 새로운 자금 조달을 모색하고 있다고 보고했습니다. 현재 Nvidia의 자금이 이번 자금 조달에 포함될지 여부는 불확실합니다. d‑Matrix의 마지막 자금 조달 라운드는 2025년 11월에 이루어졌으며, 자금 조달 후 가치는 20억 달러로 2억 7,500만 달러를 모금했습니다. 이 회사는 올여름 1세대 칩 양산을 완료했으며 현재 2세대 칩을 테스트하고 있다.
댓글