요약:
모델 기능 향상 외에도 Anthropic의 최신 Claude Opus 5.5에는 최첨단 대규모 언어 모델 개발 시나리오를 위한 특수 제한 메커니즘이 추가된 것으로 나타났습니다. 사용자가 Opus 5.5를 사용하여 차세대 AI 모델을 위한 기본 커널을 개발하는 경우 시스템은 최신 Opus 5.5를 직접 사용하지 않을 수 있지만 자동으로 더 낮은 기능을 갖춘 Opus 5로 대체됩니다. 더욱 주목할 만한 점은 현재 이러한 제한 조치가 화웨이와 아마존의 일부 AI 가속기를 표적으로 삼는 것으로 보인다는 점입니다.
Anthropic은 Opus 5.5 지원 문서에서 이 모델에 '최첨단 LLM 개발'을 위한 전용 분류자가 있으며 일부 기계 학습 가속기를 위한 커널 개발과 같은 제한된 범위의 작업을 다룬다고 설명했습니다. 이러한 유형의 분류기의 목적은 사용자의 현재 요청이 최첨단 대형 언어 모델 자체의 개발과 관련되어 있는지 확인하는 것입니다. 관련 조건이 실행되면 Claude는 자동으로 Opus 5.5에서 Opus 5로 되돌아갑니다.
소위 AI 코어란 인공지능 모델을 실행할 때 가장 낮은 수준에서 이루어지는 일련의 컴퓨팅 작업을 의미합니다. 커널은 모델이 칩의 컴퓨팅 리소스와 메모리를 사용하는 방법과 다양한 수학적 연산을 수행하는 방법을 결정하는 역할을 담당합니다. 이러한 작업은 수학적 계산이 실제 프로세서에 매핑되는 방식을 직접 결정하기 때문에 커널 설계는 대규모 언어 모델의 실행 속도, 메모리 사용량, 정확도 및 추론 비용에 직접적인 영향을 미칩니다. 가장 발전된 AI 모델을 훈련하고 실행하려면 특정 AI 가속기에 대한 커널 최적화가 중요한 단계인 경우가 많습니다.
이 제한 사항은 Opus 5.5의 공식 릴리스 이후 지원 문서에서 사용자에 의해 처음 발견되었습니다. Anthropic은 이전에 잠재적으로 위험한 요청을 식별하기 위해 일부 모델에서 분류자를 사용했으며 이번에는 최첨단 AI 모델 개발에 유사한 메커니즘을 추가로 적용했습니다.
Anthropic은 이러한 제한이 대다수의 전통적인 인공 지능, 기계 학습 연구 및 일반적인 프로그래밍 작업에 영향을 미치지 않을 것임을 분명히 했습니다. 소수의 최첨단 LLM 개발 기능이 포함된 경우에만 시스템이 롤백 메커니즘을 트리거할 수 있습니다. 따라서 일반 개발자의 경우 일상 프로그래밍, AI 애플리케이션 개발 및 기계 학습 연구에서 Opus 5.5를 사용하는 데 기본적으로 영향을 받지 않습니다.
그러나 추가 테스트를 거친 후 일부 사용자는 Opus 5.5가 일부 AI 칩을 구체적으로 인식하는 것 같다는 사실을 발견했습니다. 현재 공개 테스트 결과에 따르면 이 분류자 세트에는 최소한 Huawei의 Ascend 950DT와 Amazon이 자체 개발한 Trainium3 AI 칩이 포함되어 있습니다. 즉, 개발자가 Opus 5.5를 사용하여 이러한 칩에 대한 최첨단 대규모 언어 모델용 기본 커널을 개발하는 경우 모델이 자동으로 Opus 5로 전환될 수 있습니다.
이 제한사항에 화웨이 칩이 포함된 것은 놀라운 일이 아닙니다. Anthropic은 최근 몇 년 동안 중국 기업이 모델을 확보할 수 있는 능력에 대한 경계를 강화했으며 모델 증류를 중요한 보안 및 국가 안보 문제로 보고 있습니다. 소위 모델 증류란 더 유능한 모델을 대량으로 호출하여 해당 모델의 동작 및 성능 특성을 추출한 다음 이러한 데이터를 사용하여 다른 모델을 훈련시키는 것을 의미합니다. Anthropic의 최근 위협 인텔리전스 보고서에 따르면 회사는 여러 중국 관련 조직이 Claude의 Opus 시리즈 모델에 대해 무단 증류 활동을 수행한 사실을 발견했으며 이에 따라 계정 식별, 요청 차단 및 추론 프로세스 보호 메커니즘을 더욱 강화했습니다.
Anthropic은 또한 문맥을 반복적으로 조작하여 모델의 내부 추론 정보를 추출하는 것을 피하기 위해 API 사용자가 모델의 이전 대화 문맥을 수정하지 못하도록 제한하는 것을 포함하여 Opus 5.5에 더 엄격한 증류 방지 조치를 추가했습니다. 회사는 이러한 조치가 일반 사용자의 정상적인 사용이 아닌 대규모 산업 역량 추출 활동을 주로 목표로 한다고 밝혔습니다.
따라서 Opus 5.5가 Huawei의 AI 가속기와 관련된 최첨단 모델 개발 요청을 감지하면 제한 메커니즘에 명백한 기술적, 지리적 배경이 있을 수 있습니다. 그러나 현재 Anthropic이 이러한 규칙 세트를 Huawei를 위해 특별히 설계했는지 또는 제한 범위 내에 특정 유형의 AI 가속기가 전체적으로 포함되어 있는지 여부를 보여주는 증거가 부족합니다.
정말 놀라운 점은 Amazon Trainium 3도 같은 방식으로 영향을 받는 것으로 보인다는 것입니다.
Amazon은 대규모 글로벌 클라우드 컴퓨팅 회사일 뿐만 아니라 Anthropic의 중요한 파트너이자 투자자이기도 합니다. Anthropic의 Claude 모델 자체는 Amazon Web Services를 통해 기업 고객에게 제공되는 반면, Trainium 시리즈는 Nvidia GPU에 대한 클라우드 인공 지능 컴퓨팅의 의존성을 줄이기 위해 Amazon이 독자적으로 개발한 AI 훈련 및 추론 칩입니다. 따라서 Opus 5.5가 최첨단 모델 커널 개발을 위해 Trainium3을 제한하는 경우 Amazon은 Huawei와 동일한 기술 제한의 영향을 받을 수 있습니다.
이러한 상황이 Anthropic이 의도한 것인지, 아니면 분류자가 특정 AI 칩을 식별할 때 예상치 못한 오판을 한 것인지는 불분명합니다. 관련 테스트에 따르면 Opus 5.5는 다양한 하드웨어 플랫폼을 식별하고 요청 내용에 따라 최신 모델을 허용할지 여부를 결정할 수 있는 것으로 나타났습니다. 그러나 Anthropic은 Trainium3이 Huawei 950DT와 동시에 제한을 트리거하는 이유를 공개적으로 설명하지 않았습니다.
이러한 상황은 Anthropic이 이전에 자사 모델이 AWS와 같은 클라우드 플랫폼을 통해 광범위하게 제공될 수 있음을 강조했으며, Opus 5.5가 Amazon Web Services, Google Cloud, Microsoft Azure와 같은 플랫폼에 공식적으로 상륙했기 때문에 특히 주목할 만합니다. 이러한 제한이 향후 고급 모델 교육을 위해 더 많은 AI 가속기로 확장된다면 클라우드 컴퓨팅 회사와 AI 모델 회사 간의 파트너십에는 모델 기능, 하드웨어 지원 및 보안 제약 사항 간의 더 복잡한 조정이 필요할 수 있습니다.
기술적 관점에서 볼 때 이번 Anthropic의 접근 방식은 새로운 추세도 반영합니다. AI 모델 자체가 인간이 차세대 AI 모델을 설계하고 최적화하는 데 도움이 되기 시작하면서 모델 제조업체는 'AI를 사용하여 애플리케이션 개발'과 'AI를 사용하여 더 강력한 AI 개발'이라는 두 가지 작업 유형을 구별하기 시작해야 합니다.
일반 프로그래머의 경우 Opus 5.5를 사용하여 애플리케이션 작성, 코드 디버그 또는 기계 학습 실험 수행을 돕더라도 일반적으로 특별한 제한이 발생하지 않습니다. 그러나 동일한 모델을 사용하여 차세대 최첨단 대형 언어 모델의 기본 컴퓨팅 코어를 개발하는 경우 Anthropic은 이를 다른 위험 수준에 진입한 것으로 간주하여 요청이 자동으로 이전 모델로 돌아가도록 할 수 있습니다.
이는 AI 모델 자체가 점차 AI R&D 인프라의 일부가 되고 있다는 뜻이다. 과거에는 모델 사용을 제한한다는 것은 주로 특정 위험한 콘텐츠나 민감한 영역을 제한하는 것을 의미했습니다. 이제 모델 제조업체는 "차세대 모델을 만들기 위해 최신 모델을 사용할 수 있는 사람"과 "최신 모델이 경쟁업체가 자체 AI 컴퓨팅 인프라를 최적화하는 데 도움이 될지 여부"와 같은 문제를 더 고려하기 시작했습니다.
현재 Anthropic은 Trainium3이 Huawei 950DT와 동시에 제한을 실행하는 이유를 공개적으로 밝히지 않았으며 이 메커니즘이 향후 버전에도 계속 존재할지 여부도 명확하게 밝히지 않았습니다. 점점 더 많은 기업이 자체 AI 가속기를 개발하기 시작함에 따라 특정 하드웨어 및 최첨단 모델 개발 작업에 대한 이러한 제한은 AI 모델 제조업체가 보안, 기능 증류 방지 및 하드웨어 생태학 간의 절충안을 고려할 때 직면해야 하는 새로운 문제가 될 가능성이 높습니다.
댓글