요약:
Anthropic은 경쟁업체가 Claude AI 모델의 기능을 복사하는 것을 방지하기 위한 새로운 조치를 통해 소위 "증류 공격"으로 인해 도난당하는 데이터의 양이 약 90%에서 99%까지 줄었다고 월요일 밝혔습니다.
모델 추출은 최고의 인공 지능 회사의 초점이 되었습니다. Anthropic, OpenAI, Google과 같은 회사는 이러한 관행을 통해 경쟁업체가 더 저렴하고 빠르게 고급 기능을 복사할 수 있다고 믿습니다.
앤트로픽은 클로드의 추론 능력에 대한 접근을 제한하기 위한 안전장치로 인해 모델에 대한 추출 시도가 크게 줄어들었고, '증류를 통해 추출된 추론 토큰의 수'가 이제 '이전 수준의 1/100~1/10'로 떨어졌다고 밝혔습니다.
캘리포니아에 본사를 둔 이 회사는 에이전트 네트워크를 활용하여 Claude의 보호된 추론 프로세스를 반복적으로 조사하여 데이터 추출 시도를 차단하고 대규모 모델 증류 캠페인을 방해하는 것이 더 어려워졌다고 말했습니다.
Anthropic은 자사의 보안 시스템이 "Claude가 생물학적 무기 제작을 지원하는 것을 막는 시스템과 거의 동일"하며 "오탐률이 0.1% 미만"이라고 밝혔습니다.
댓글