요약:
Google은 최근 인공 지능 칩 제품 라인을 확장하고 다양한 애플리케이션 시나리오에 맞게 특별히 설계된 TPU 8tx 및 TPU 8i Max라는 두 가지 새로운 텐서 처리 장치(TPU) 출시를 발표했습니다. 이 두 제품은 Google의 기존 8세대 TPU 아키텍처를 기반으로 개발되었으며, 데이터 보안 및 대규모 인공지능 추론 작업에 대한 기업 고객의 증가하는 요구를 충족하도록 설계되었습니다.
그중 TPU 8tx는 정부 기관, 금융 서비스, 의료 보건 및 기타 엄격하게 규제되는 분야를 포함하여 개인 정보 보호 및 데이터 보안에 대한 요구 사항이 매우 높은 산업에 중점을 둡니다. Google은 이 제품에 무단 액세스에 노출되지 않도록 데이터 처리 중에 모델 가중치와 민감한 정보를 보호하기 위한 기밀 컴퓨팅 기능이 도입되었다고 밝혔습니다.
이 목표를 달성하기 위해 TPU 8tx는 AMD 프로세서와 함께 작동하며 암호화 기능을 하드웨어 수준에 심층적으로 통합합니다. 계산을 수행하기 전에 메모리의 데이터를 해독해야 하는 기존 솔루션과 달리 새로운 솔루션은 민감한 데이터 처리 중 보안을 크게 향상시키고 보안 수준이 높은 AI 시스템을 배포하려는 기업의 요구 사항을 충족할 수 있습니다.
또 다른 신제품인 TPU 8i Max는 매우 긴 컨텍스트 창이 필요한 대규모 모델 애플리케이션을 위해 특별히 설계되었습니다. 최근 몇 년간 생성 인공 지능(Generative Artificial Intelligence) 및 AI 에이전트 기술의 급속한 발전으로 인해 한 번에 엄청난 양의 텍스트, 코드 또는 데이터를 처리해야 하는 모델이 점점 더 많아지면서 메모리 용량 및 추론 성능에 대한 요구 사항이 높아졌습니다.
보고서에 따르면 TPU 8i Max는 컴퓨팅 성능과 메모리 리소스를 강화하여 더 긴 컨텍스트 창을 지원할 수 있으며, 이를 통해 인공 지능 모델은 단일 요청으로 더 많은 콘텐츠를 분석할 수 있습니다. 이 기능은 복잡한 코드 생성, 수학적 추론, 과학 연구, 약물 개발과 같은 시나리오에 특히 중요합니다. 이는 모델이 더 많은 배경 정보를 유지하고 작업 완료 품질을 향상시키는 데 도움이 될 수 있습니다.
Google AI 인프라 책임자인 Amin Wahdat는 이 두 칩은 새로운 아키텍처 제품이 아니라 고객 요구에 맞게 특별히 최적화된 기존 8세대 TPU 기반의 파생 모델이라고 말했습니다. 회사는 모든 시장 요구를 충족시키려는 범용 칩을 개발하는 대신 특정 시나리오에 대한 여러 전문 버전을 만들어 사용자에게 더 높은 가치를 제공하는 것이 더 낫다고 믿습니다.
올해 초 Google은 8세대 TPU 시리즈인 TPU 8t와 TPU 8i를 출시했습니다. 전자는 대규모 모델 훈련 작업에 맞춰져 있는 반면, 후자는 지연 시간이 짧은 추론에 최적화되어 있습니다. TPU 8tx 및 TPU 8i Max가 라인업에 추가됨에 따라 Google의 8세대 TPU 제품군은 모델 훈련, 보안 추론, 짧은 지연 시간 추론, 매우 긴 컨텍스트 추론 등 다양한 부문을 포괄하는 4가지 제품으로 확장되었습니다.
분석가들은 이번 신제품 출시가 인공 지능 인프라가 순전히 컴퓨팅 성능 규모 추구에서 보다 실질적인 비즈니스 요구 사항 충족으로 전환하고 있음을 반영한다고 지적했습니다. AI 에이전트, 엔터프라이즈급 생성 AI, 장기 컨텍스트 모델이 점점 대중화되면서 컴퓨팅 성능 다음으로 보안, 메모리 용량, 추론 효율성이 새로운 경쟁 초점이 되고 있습니다.
Google은 원래 주로 자체 인공 지능 서비스를 지원하기 위해 TPU를 개발했지만 이제는 클라우드 컴퓨팅 비즈니스의 중요한 부분으로 임대용으로 외부 고객에게 공개되었습니다. 현재 TPU는 NVIDIA GPU 외에 가장 중요한 AI 컴퓨팅 플랫폼 중 하나가 되었으며, 많은 대규모 인공 지능 기업과 클라우드 컴퓨팅 고객이 고급 모델을 훈련하고 배포하는 데 사용됩니다.
Google은 새 모델 출시를 통해 인공 지능 인프라 시장에서 경쟁력을 더욱 강화하고 차세대 AI 에이전트 및 복잡한 추론 시스템을 위한 보다 목표화된 기본 하드웨어 지원을 제공할 수 있기를 희망합니다.
댓글