Anthropic은 최근 중국 AI 기업인 DeepSeek, MiniMax 및 Moonshot이 자사의 대형 모델인 Claude를 제품 성능을 향상시키기 위해 대규모로 남용했다고 공개적으로 비난했으며 이러한 행위를 "산업 규모의 남용"으로 정의했습니다. 이 활동에는 약 24,000개의 가짜 계정이 포함되었으며 클로드와의 1,600만 건 이상의 상호 작용이 포함되었다고 회사는 월스트리트 저널의 보도에 이어 월요일 성명을 통해 밝혔습니다.
보고서에 따르면 이들 회사는 소규모 모델을 훈련하기 위해 Claude와 같은 고급 모델에서 기능을 추출하기 위해 소위 "증류" 기술을 사용했다는 비난을 받았습니다. Anthropic은 설명에서 모델 증류 자체가 "합법적인 훈련 방법"임을 인정했지만, 이 방법은 독립적인 연구 개발에 드는 시간과 자본 비용보다 훨씬 낮은 비용으로 다른 실험실에서 강력한 기능을 얻는 등 "부적절한 목적으로도 사용될 수도 있다"고 강조했습니다.
Anthropic은 이러한 방식으로 불법 증류를 통해 얻은 모델이 원래 모델의 보안 보호 및 제한 메커니즘을 상속하지 못할 가능성이 높다고 특별히 경고합니다. "미국 모델을 정제하는 외국 연구소는 이러한 보안 제약을 우회하고 보호되지 않는 기능을 군사, 정보 및 감시 시스템에 직접 공급하여 권위주의 정부가 공격적인 사이버 작전, 허위 정보 확산 및 대량 감시를 위해 최첨단 AI를 사용할 수 있도록 할 수 있습니다."라고 회사는 지적했습니다.
이번 사건에서 가장 주목을 받은 회사는 DeepSeek이다. 이 회사는 더욱 계산적으로 효율적이고 강력한 모델을 선보이며 글로벌 AI 업계에 충격을 안겼다. Anthropic은 DeepSeek과 Claude 사이에 150,000회 이상의 상호 작용이 있었으며 특히 Claude의 추론 능력에 중점을 두었다고 말했습니다. 또한 DeepSeek은 국가 검열 시스템의 필터링을 우회하기 위해 반체제 인사, 정당 지도자 또는 권위주의와 관련된 정치적으로 민감한 질문에 대답하기 위해 클로드를 사용하여 "검열 친화적인 대체 표현"을 생성한 혐의도 받고 있습니다.
DeepSeek에 대한 의심은 Anthropic에서만 나오는 것이 아닙니다. 불과 일주일 전, OpenAI는 미국 국회의원들에게 보낸 서한에서 DeepSeek가 경쟁 우위를 추구하기 위해 오랫동안 OpenAI 및 기타 미국 회사가 개발한 모델 기능을 "무임승차"하기 위해 유사한 증류 방법을 사용했다고 비난했습니다. 이 서한은 또한 DeepSeek을 미국 AI 생태계와 기술 리더십에 대한 위협으로 규정하고 있습니다.
현재 Anthropic은 공개 성명을 통해 후속 법적 또는 규제 조치 경로를 자세히 공개하지 않았지만 국가 안보 및 글로벌 AI 거버넌스 수준으로 문제를 제기함으로써 회사는 규제 기관과 정책 입안자가 "모델 증류 남용"의 위험에 직면하도록 압력을 가할 수 있기를 분명히 희망하고 있습니다. 글로벌 AI 경쟁이 점점 치열해지고 국경을 넘는 기술 흐름이 매우 민감한 상황에서, 이러한 비난은 AI 기술 분야에서 중국과 미국 간의 경쟁과 안보 게임을 둘러싼 긴장을 더욱 악화시켰습니다.