딥식(DeepSeek) 컬렉션 첫 오픈소스 공개 6시간 만에 5,000회 돌파, 국산 GPU에 적합?

지난주 2월 24일, DeepSeek은 이번 주가 오픈 소스 주간이 될 것이며 5개의 소프트웨어 라이브러리를 연속으로 오픈 소스화할 것이라고 발표했습니다. 오늘 오전 9시 30분경 DeepSeek은 이번 오픈 소스 주간의 첫 번째 코드 라이브러리인 FlashMLA를 오픈 소스화했다고 발표했습니다. FlashMLA는 Hopper GPU에 최적화된 효율적인 MLA 디코딩 코어입니다.

GitHub에서 프로젝트는 오픈 소스로 공개된 지 6시간 만에 5,000개 이상의 Star 컬렉션과 188개 이상의 포크(생성된 복사본)를 받았습니다. DeepSeek의 오픈소스 FlashMLA와 Star collection 및 Fork 데이터의 급속한 성장에 대해 듣고 홍콩 상장 회사의 CTO는 Sina Technology와의 커뮤니케이션에서 "너무 강력합니다"라고 말했습니다.

AI 하드웨어 연구 및 투자에 주력하는 또 다른 투자자는 FlashMLA를 검토한 후 시나테크놀로지에 이 오픈소스가 국산 GPU에 큰 이점이라고 말했다. "이전 국내 GPU 카드는 매우 약했습니다. 이제 FlashMLA에서 제공하는 최적화 아이디어와 방법론을 사용하여 국산 카드의 성능을 크게 향상시킬 수 있습니다. 아키텍처가 다르더라도 나중에 국산 카드의 추론 성능이 향상되는 것은 당연한 문제가 될 것입니다."

DeepSeek 공식 소개에 따르면 FlashMLA는 HopperGPU의 효과적인 MLA 디코딩 커널을 기반으로 하며 가변 길이 시퀀스에 최적화될 수 있습니다.

DeepSeek의 전체 기술 경로에서 MLA(Multiple Latent Attention Mechanism)는 회사가 출시한 V2 및 V3 모델의 가장 핵심 기술 중 하나입니다. 이는 컴퓨팅 효율성 및 메모리 사용의 성능 병목 현상을 해결하는 데 사용되며, 이를 통해 모델 성능을 유지하거나 향상시키는 동시에 모델 교육 및 추론 효율성을 크게 향상시킬 수 있습니다.

이전에 중국 공학원 원사이자 칭화 대학교 컴퓨터 과학과 교수인 Zheng Weimin은 Sina Technology와의 인터뷰에서 "DeepSeek의 자체 개발한 MLA 아키텍처는 자체 모델 훈련 비용을 줄이는 데 핵심적인 역할을 했습니다."라고 언급했습니다. 그는 "MLA는 주의 연산자 캐시 크기를 변환하여 KV를 압축하므로 동일한 용량으로 더 많은 KVCache를 저장할 수 있습니다. 이 아키텍처는 DeepSeek-V3 모델에서 FFN 계층의 변환과 결합되어 매우 큰 희소 MoE 계층을 달성하며 이는 DeepSeek의 훈련 비용이 낮은 가장 중요한 이유가 됩니다."

이번에는 DeepSeek가 MLA 디코딩 코어인 FlashMLA를 직접 엽니다. 이는 DeepSeek이 핵심 MLA 기본 코드를 무료로 직접 열 수 있음을 의미합니다. 이를 통해 대부분의 개발 그룹은 FlashMLA 코드 기반을 직접 재사용하여 더 적은 수의 GPU 서버로 동일한 작업을 완료하고 추론 비용을 직접 절감할 수 있습니다. 이는 DeepSeek의 오픈 소스 기능을 기반으로 기본 최적화 및 AI 애플리케이션 개발을 수행하려는 더 많은 그룹에게 의심할 여지 없이 큰 이점입니다.

흥미롭게도 이번에 DeepSeek이 오픈한 MLA 디코딩 코어는 주로 Hopper GPU에 최적화되어 있습니다. 일반적으로 Hopper GPU는 NVIDIA의 Hopper 아키텍처를 기반으로 개발된 H 시리즈 GPU 제품을 의미합니다. 현재 NVIDIA는 H100, H800 및 H20과 같은 이 칩 시리즈의 여러 칩을 출시했습니다.

DeepSeek에 따르면 벤치마크 성능 측면에서 FlashMLA는 NVIDIA H800SXM5 GPU에서 3000GB/s의 메모리 속도와 580TFLOPS의 컴퓨팅 상한을 달성할 수 있습니다.

공개 정보에 따르면 미국 수출 통제 규정에 따라 H800의 대역폭 제한은 일부 주력 제품보다 낮은 600GB/s로 설정되어 있습니다. 이는 FlashMLA를 통한 최적화 후에 H800의 메모리 대역폭 활용도가 더욱 향상되거나 심지어 H800 GPU의 이론적 상한을 초과하여 메모리 액세스의 극한에 도달할 것으로 예상된다는 것을 의미합니다. 이를 통해 개발 커뮤니티는 NVIDIA H 시리즈 칩의 기능을 완전히 "압축"하고 더 적은 수의 칩으로 더 강력한 모델 성능을 달성하며 GPU의 가치를 극대화할 수 있습니다.

AI 하드웨어 연구 및 투자에 주력하는 한 투자자는 FlashMLA를 본 후 "FlashMLA는 H800에서 LLM을 더 빠르고 효율적으로 실행할 수 있는 최적화 솔루션입니다. 특히 고성능 AI 작업에 적합합니다. 핵심은 대규모 언어 모델의 디코딩 프로세스를 가속화하고 모델의 응답 속도와 처리량을 향상시키는 것입니다. 이는 실시간 생성 작업(예: 챗봇 등)에 매우 중요합니다. 대형 모델의 기능과 사용자 경험을 크게 향상시킬 것이며 속도도 크게 향상될 것입니다." 개선됐다."

FlashMLA는 HopperGPU에 최적화된 코드 라이브러리이지만, 국내 GPU에도 이런 오픈소스가 도움이 됩니다. 앞서 언급한 투자자들은 FlashMLA를 검토한 후, 국내 GPU의 경우 이 오픈소스가 큰 이점이라고 말했습니다. "이전 국내 GPU 카드는 매우 약했습니다. 이제 FlashMLA에서 제공하는 최적화 아이디어와 방법론을 사용하여 국산 카드의 성능을 크게 향상시킬 수 있습니다. 아키텍처가 다르더라도 나중에 국산 카드의 추론 성능이 향상되는 것은 당연한 문제가 될 것입니다."