요약:
미국 인공 지능 회사인 Anthropic은 최근 위협 정보 보고서를 발표하여 Alibaba, Moonshot AI, DeepSeek, Xiaomi 및 기타 여러 중국 AI 연구소를 포함한 기관이 Claude에 대한 대규모 호출을 통해 모델 기능을 추출하고 생성된 결과를 사용하여 자체 인공 지능 모델을 훈련하고 개선한다고 비난했습니다. Anthropic은 이러한 행위를 무단 "증류 공격"이라고 부릅니다.
소위 모델 증류란 더 강력한 기능과 더 큰 규모의 모델을 사용하여 많은 답변을 생성한 다음 이러한 출력을 학습 데이터로 사용하여 더 낮은 비용, 더 작은 규모 또는 더 약한 기능의 모델을 학습시키는 것을 의미합니다. AI 기업에게 이는 훈련 비용을 절감하고 모델 역량을 빠르게 향상시킬 수 있는 기술적 경로입니다. 그러나 Anthropic은 이번에 발견된 행동 중 일부가 일반적인 모델 증류의 범위를 넘어 비즈니스 모델 역량의 조직적이고 대규모 추출에 속한다고 믿습니다.
Anthropic은 2026년 5월부터 7월 사이에 Alibaba와 관련된 운영으로 Claude와 1억 5,100만 건 이상의 상호 작용이 발생하여 지금까지 회사가 발견한 최대 규모의 불법 증류 운영이 되었다고 밝혔습니다. 관련 작업에서는 Anthropic이 사기로 식별한 3,500개 이상의 계정을 사용했으며, 하루 최대 상호 작용 수는 거의 300만 건에 달했습니다.
Anthropic은 이러한 계정이 주로 Claude에게 지속적으로 많은 질문을 하고 모델의 답변과 보다 자세한 추론 프로세스를 얻은 다음 이 정보를 사용하여 Alibaba의 Tongyi Qianwen 모델 시리즈를 개선하는 데 사용된다고 믿습니다.
모델 개발자에게 추론 프로세스는 특히 중요합니다. 단지 최종 답을 얻는 것에 비해 상세한 추론 기록은 모델이 문제를 어떻게 분석했는지, 작업을 어떻게 분해하고 최종 결론에 도달했는지 트레이너에게 보여줄 수 있으므로 고급 추론 모델을 훈련하는 데 중요한 데이터가 될 수 있습니다.
Anthropic은 Kimi의 개발자인 Dark Side of the Moon AI도 명명했습니다. 보고서에 따르면 2026년 5월부터 7월까지 Dark Side of the Moon 관련 계정에서 Claude와 2,300만 건 이상의 상호 작용이 있었습니다.
더 주목할만한 점은 Anthropic이 Dark Side of the Moon을 모델 증류에 Claude를 사용할 뿐만 아니라 처리를 위해 Kimi 사용자의 실제 요청을 Claude에게 전달했다고 비난했다는 것입니다.
Anthropic은 10일 중 하루 동안 Dark Side of the Moon이 5,380개의 계정으로 구성된 계정 네트워크를 통해 원래 Kimi에 제출된 거의 300,000개의 사용자 요청을 Claude에게 전송했으며 대부분의 요청이 Claude Opus 시리즈 모델로 전송되었다고 밝혔습니다. Anthropic은 이러한 계정이 대부분 싱가포르와 일본에 있으며 실제 요청 소스를 숨기는 데 사용된다고 믿습니다.
이는 어떤 경우에는 Kimi 사용자가 Dark Side of the Moon의 자체 모델과 상호작용하고 있다고 생각하지만 실제로는 요청이 처리를 위해 Anthropic의 Claude로 전달될 수 있음을 의미합니다. Anthropic은 또한 Dark Side of the Moon이 대화형 콘텐츠 중 일부를 저장하고 Claude의 추론 기록을 훈련 데이터로 추출했다고 말했습니다.
더욱 걱정스러운 점은 전달된 요청이 반드시 일반적인 채팅 콘텐츠만은 아니라는 점입니다. Anthropic은 일부 요청에는 민감한 정보가 포함되어 있으며 사용자는 자신의 데이터가 실제로 다른 AI 회사의 모델로 전송되고 있다는 사실을 인식하지 못할 수도 있다고 말했습니다.
보고서에는 키미와 관련된 사건이 인용됐다. 한 사용자는 개인의 행동을 파악하기 위해 중국 청두에서 촬영된 수많은 감시 카메라 영상을 분석해 달라고 Kimi에게 요청했습니다. Anthropic에 따르면 비디오 데이터는 결국 처리를 위해 Claude로 전송되었으며 사용자는 원래 데이터가 Kimi 내에서 분석되었다고 믿었습니다.
Anthropic은 또한 일부 사용자가 Kimi에 제출한 일부 콘텐츠에 기업 로그인 자격 증명과 같은 민감한 정보가 포함되어 있음을 발견했습니다. 한 경우에는 엔지니어가 Kimi를 사용하여 중국 회사의 소프트웨어 개발을 돕기 위해 여러 회사의 로그인 자격 증명을 Kimi에 제출했으며 이후 관련 정보가 Claude에게 전송되었습니다.
Anthropic은 사용자가 자신의 요청이 Anthropic의 모델로 전달된다는 사실을 명확하게 알지 못하기 때문에 모델 정제 문제와 관련된 것 외에도 이 접근 방식은 심각한 개인 정보 보호 및 데이터 보안 위험을 초래할 수 있다고 밝혔습니다.
DeepSeek도 유사한 접근 방식을 채택했다는 이유로 Anthropic으로부터 비난을 받았습니다. 보고서에 따르면 DeepSeek은 2026년 7월 14일 동안 Claude 관련 증류 상호작용을 1,200만 건 이상 수행한 것으로 나타났습니다.
Anthropic은 DeepSeek이 사용자의 실제 요청을 Claude에게 전달했으며 이러한 요청의 일부 콘텐츠에는 민감한 정보가 포함되어 있다고 믿습니다. 그런 다음 Claude의 답변은 DeepSeek의 자체 모델을 훈련하고 개선하는 데 사용되었습니다.
Anthropic은 Alibaba, Dark Side of the Moon, DeepSeek 외에도 Zhipu, Xiaomi 등 중국 AI 기업도 언급했습니다. 보고서에 따르면 Xiaomi는 사용자와 MiMo 모델 간의 채팅을 녹음하고 이러한 대화를 Claude에게 전달하여 모델 교육을 위한 데이터를 생성했습니다.
Anthropic은 보고서에 포함된 기간 동안 총 7개의 중국 AI 연구소가 Claude를 대상으로 모델 증류 활동을 구현한 것으로 밝혀졌다고 밝혔습니다. 관련된 모든 활동이 완전히 동일한 방법을 사용하는 것은 아니지만, 공통적인 특징은 Claude의 출력을 대량으로 얻고, 모델 기능을 학습하고, 이 정보를 자체 AI 시스템 교육에 사용하려고 한다는 것입니다.
Anthropic은 이러한 활동이 점점 더 조직화되고 대규모화되고 있다고 믿습니다. 때때로 테스트를 위해 다른 AI 모델을 호출하는 일반 개발자와 달리 이러한 작업은 수많은 계정, 에이전트 및 중간 플랫폼을 사용하여 실제 신원을 숨기고 산업 규모에서 지속적으로 모델 상호 작용을 생성합니다.
그 중에서도 특히 알리바바 관련 활동이 눈길을 끌었다. 1억 5100만 건이 넘는 상호작용이 발생했다는 것은 이 작업이 단순한 실험 테스트가 아니라 몇 달 동안 지속된 대규모 데이터 수집 작업이었다는 것을 의미합니다. Anthropic은 이러한 데이터가 주로 Alibaba의 Tongyi Qianwen 모델을 훈련하고 개선하는 데 사용된다고 믿습니다.
Dark Side of the Moon과 DeepSeek의 경우 문제는 더 복잡합니다. Anthropic은 그들이 Claude로부터 훈련 데이터를 얻을 뿐만 아니라 자체 사용자 요청을 경쟁 모델에 전달한다고 비난하기 때문입니다. 이는 사용자가 한 AI 회사에 제출한 콘텐츠가 명시적인 통지 없이 다른 AI 회사의 시스템에 입력될 수 있음을 의미합니다.
Anthropic은 관련 계정 금지, 신원 확인 강화, Claude의 자세한 추론 능력 제한 등 이러한 활동을 중단하기 위한 조치를 취했다고 밝혔습니다. 상세한 추론 기록은 모델 추출에 매우 중요하므로 이 콘텐츠의 출력을 줄이면 수많은 자동화된 요청을 통해 Claude의 기능을 복제하는 경쟁업체의 효율성이 저하될 수 있습니다.
앤트로픽은 또한 중국, 러시아, 이란 등 현재 클로드가 공식 서비스를 제공하지 않는 국가나 지역의 이용자 중 제한을 우회해 클로드에 접근하려 시도한 것으로 의심되는 국가나 지역의 이용자에 대해 신원 확인 조치를 강화할 것이라고 밝혔다.
이 보고서는 Anthropic이 모델 증류에 대해 중국 AI 기업을 공개적으로 비난한 것이 처음이 아닙니다. 올해 6월, 인류 정책 책임자 사라 헥(Sarah Heck)은 미국 하원 의원들에게 알리바바가 4월 22일부터 6월 5일까지 클로드와 약 2,880만 건의 상호 작용을 했으며 이러한 상호 작용이 승인되지 않은 모델 증류에 사용되었다고 믿었다고 밝혔습니다.
이번 보고서는 Anthropic이 앞으로 관련 활동 규모가 더욱 확대될 것이라고 믿고 있음을 보여줍니다. 알리바바에서만 5월과 7월 사이에 1억 5100만 건 이상의 상호작용이 발생했는데, 이는 이전에 공개된 수치보다 훨씬 높은 수치입니다.
동시에 이번 사건은 중국과 미국 간의 AI 경쟁이 점점 치열해지는 배경에서 발생했다. 최근 몇 년 동안 중국 AI 기업은 상대적으로 낮은 훈련 및 추론 비용으로 모델 역량을 빠르게 향상시켰습니다. DeepSeek, Kimi, Tongyi Qianwen과 같은 제품은 글로벌 AI 산업에서 중요한 역할을 하고 있습니다. 미국 AI 기업들은 클로드(Claude), GPT 시리즈 등 고급 기본 모델을 보유하고 있다.
모델 증류 자체는 불법적이거나 불합리한 기술이 아닙니다. AI 개발자는 교사 모델에서 생성된 데이터를 사용하여 승인을 받아 자신의 모델을 훈련할 수 있습니다. 그러나 앤트로픽은 해당 기업들이 다수의 가짜 계정, 에이전시 플랫폼, 숨겨진 데이터 전달 메커니즘을 통해 앤트로픽의 승인 없이 체계적으로 클로드의 역량을 획득했다는 비난을 받고 있어 해당 운영이 심각한 문제를 야기한다고 보고 있다.
더 중요한 것은 Anthropic은 일부 조치가 사용자 데이터 보안 문제에 영향을 미쳤다고 믿습니다. 일반적으로 AI 서비스를 사용하는 사용자의 경우 Kimi 및 DeepSeek과 같은 플랫폼에 제출하는 데이터가 해당 플랫폼의 개인정보 보호정책에 따라 처리될 것이라고 생각하는 경우가 많습니다. 플랫폼이 실제로 이러한 요청을 제3자 모델로 전달하는 경우 사용자는 자신의 데이터가 다른 회사의 시스템에 입력되었다는 사실을 알지 못할 수 있습니다.
보도 당시 알리바바, 다크사이드오브더문, 딥시크, 샤오미, 앤트로픽 등은 논평 요청에 즉각 응하지 않았다. 중국 외교부는 Anthropic이 발표한 보고서에 대해 알지 못했다고 밝혔으며, 중국 정부는 인공지능이 인류를 이롭게 하기 위해 활용되어야 한다고 믿으며, 사실을 왜곡하고 중국을 비방하는 데 반대한다는 점을 거듭 밝혔습니다.
앤트로픽이 폭로한 사건은 AI 업계의 오랜 모형증류 논란도 재부상했다. 고급 기본 모델을 보유한 기업의 경우, 자동화 및 대규모 통화를 통해 경쟁사가 모델 역량을 확보하지 못하게 하는 방법이 비즈니스 및 보안 분야에서 중요한 문제가 되었습니다. AI 애플리케이션 회사의 경우 사용자 데이터를 처리하는 방법과 요청이 제3자 모델로 전달된다는 사실을 사용자에게 명확하게 알려야 하는지 여부도 향후 규제 관심의 초점이 될 수 있습니다.
업계 경쟁 관점에서 볼 때 Anthropic이 발표한 수치는 특히 주목할 만합니다. 1억 5100만 건 이상의 Alibaba 관련 상호 작용, 2300만 건 이상의 Dark Side of the Moon 관련 상호 작용, 1200만 건 이상의 DeepSeek 관련 상호 작용은 고급 AI 모델 간의 경쟁이 더 이상 전통적인 의미의 알고리즘과 칩에 국한되지 않고 훈련 데이터, 모델 역량 획득, 모델 증류 등의 영역으로 확장되고 있음을 보여줍니다.
다양한 AI 모델 간의 역량 격차가 계속해서 좁아짐에 따라, 공공 기술의 합법적인 사용, 정상적인 모델 증류, 무단 대규모 역량 복제 사이에 명확한 경계를 긋는 방법은 앞으로 글로벌 AI 산업이 직면해야 할 점점 더 어려운 문제가 될 것입니다.
댓글