오늘 Moore Threads는 다음과 같이 공식적으로 발표했습니다.무어 스레드(Moore Thread)의 국내 최초 생산 1,000업, 1,000억 모델 훈련 플랫폼인 무어 스레드(Moore Thread)의 KUAE 지능형 컴퓨팅 센터(KUAE Intelligent Computing Center) 공개식이 성공적으로 개최됐다.이 움직임은 또한 다음을 의미합니다.국내에서 생산된 모든 기능을 갖춘 GPU를 기반으로 한 국내 최초의 대규모 컴퓨팅 클러스터가 공식 출시되었습니다.
Moore Thread CEO Zhang Jianzhong은 Moore Thread가 칩에서 그래픽 카드, 클러스터에 이르기까지 지능형 컴퓨팅 제품 라인을 구축했다고 말했습니다. 모든 기능을 갖춘 GPU의 다양한 컴퓨팅 이점을 활용하여 대규모 모델 교육 및 추론에 대한 증가하는 요구를 충족할 수 있습니다.
보고서에 따르면 Moore Thread KUAE 지능형 컴퓨팅 센터 솔루션은 모든 기능을 갖춘 GPU를 기반으로 합니다.대규모 GPU 컴퓨팅 성능의 구축 및 운영 관리 문제를 통합 전달 방식으로 해결하는 것을 목표로 합니다.
이 솔루션은 즉시 사용할 수 있어 기존 컴퓨팅 성능 구축, 애플리케이션 개발, 운영 및 유지 관리 플랫폼 구축에 소요되는 시간 비용을 크게 절감하고 상업적 운영을 위한 시장에서의 신속한 출시를 달성할 수 있습니다.
현재 Moore Thread는 LLaMA, GLM, Aquila, Baichuan, GPT, Bloom, Yuyan 등 다양한 주류 대형 모델의 교육 및 미세 조정을 지원합니다.
Moore 스레드 KUAE kilocal 클러스터를 기반으로,70B~130B 매개변수를 사용하는 대규모 모델 학습의 경우 선형 가속 비율은 91%에 도달할 수 있습니다.컴퓨팅 전력 활용률은 기본적으로 변경되지 않습니다.
2,000억 개의 훈련 데이터 양을 예로 들면,Zhiyuan Research Institute의 700억 매개변수 Aquila2는 33일 만에 훈련을 완료할 수 있습니다. 1,300억 개의 매개변수가 있는 모델은 56일 만에 학습을 완료할 수 있습니다.