어제 일부 네티즌들은 클로드 코드에 시스템 시간대와 API 엔드포인트 URL을 탐지하기 위한 난독화된 코드가 숨겨져 있다는 사실을 발견했습니다. 이번 탐지는 주로 일반 중국 개발자와 중국 AI 기업을 포함한 중국 사용자를 대상으로 한다. 예를 들어 클로드코드에 개발자가 Dark Side of the Moon과 같은 API 주소를 설정한 것이 감지되면 해당 정보가 시스템 프롬프트 단어에 자동으로 추가된 후 A사의 서버로 전송된다.
A사는 서버에서 수신한 프롬프트 단어를 기반으로 모델 지능을 저하시키거나 생성 속도를 늦추는 등 타겟 처리를 수행할 수 있습니다. 물론 API 전송 스테이션의 Claude Pro/Max 구독 계정을 식별한 후 차단하는 데에도 사용할 수 있습니다. 하지만 A사가 숨긴 코드가 너무 어두워 이를 게시한 네티즌들은 심지어 백도어와 비슷하다며 A사에 투명성을 높여달라고 촉구했다.
커뮤니티의 관심을 끈 후 A사는 내일 코드를 삭제할 것이라고 말했습니다.
현재 클로드코드의 숨겨진 탐지 코드가 커뮤니티에서 상당한 관심을 받고 있어 A사 엔지니어들은 해당 코드 삭제를 롤백하겠다는 답변을 내놨다. 지금 코드를 삭제할 수 있는 이유는 A사가 보다 강력한 탐지 메커니즘을 배포했기 때문입니다. 어떤 종류의 탐지 메커니즘인지는 일시적으로 알 수 없지만 현재 계정 차단 상황을 고려하면 A사에서 구현한 새로운 탐지 메커니즘은 확실히 더 엄격합니다.
A회사의 엔지니어는 다음과 같이 답변했습니다. 이는 승인되지 않은 리셀러의 계정 남용을 방지하고 증류 공격을 방지하기 위해 3월에 시작한 실험입니다. 그 이후로 팀은 더 강력한 완화 조치를 구현했으며 실제로 한동안 이 실험을 취소할 계획을 세워왔습니다. PR을 병합했으며 이는 내일 릴리스에서 완전히 롤백되어야 합니다.
커뮤니티 사용자들은 A사가 실험을 핑계로 삼았다고 불평했습니다.
많은 개발자는 Claude Code를 주요 생산성 도구로 간주합니다. A사는 개인정보보호 동의서에 별도의 공지나 명시 없이 클로드코드에 백도어코드와 유사한 탐지 메커니즘을 직접 추가했다. 이제 발견되었으니 충격을 줄이기 위해 실험을 핑계로 삼았습니다. 커뮤니티 사용자들은 이것이 매우 무책임한 행동이라고 생각합니다. Claude Code는 이번에는 중국 사용자만을 대상으로 하지만 A사가 원하는 경우 이 메커니즘을 사용하여 다른 사용자 그룹을 식별하고 대상으로 지정할 수도 있습니다. 이는 매우 비윤리적이고 위험한 접근이다.