미국 정부는 최근 미국 국가안보부의 지시를 인용해 새로운 수출통제 지침을 발표했다. 이 지침은 Anthropic이 모든 외국인 시민의 Claude Fable/Mythos 5 모델에 대한 접근을 즉시 중단하도록 요구합니다. 미국에 있는 미국 회사의 외국인 직원도 이러한 모델에 액세스할 수 없습니다. 또한 이 금지 조치로 인해 A 회사의 외국인 직원은 Claude Fable/Mythos 5를 사용할 수 없게 됩니다.
규정 준수 요구 사항에 따라 A사는 Claude Fable/Mythos 5의 전 세계 제공을 즉시 중단하기로 결정했습니다. 이러한 모델은 미국 거주 여부에 관계없이 사용할 수 없습니다. 아마존 AWS 등 다른 협력 플랫폼도 즉시 접속을 차단했다. 언제 모델 접근권한이 복원될 수 있을지는 A사가 미국 정부와 협의하기 전까지는 알 수 없을 수도 있다.
모델 탈옥과 관련이 있을 수 있습니다.
어제, 유명한 AI 모델 탈옥 전문가가 Claude Fable/Mythos 5 모델을 탈옥하는 데 성공했습니다. 탈옥 전문가들이 사용하는 방법은 많지만, 발표되기만 하면 다른 사용자들도 이러한 방법을 사용하여 탈옥을 시도할 수 있으며, 탈옥 성공률이 상대적으로 높아 모델이 다양한 민감한 내용에 대해 자세한 답변을 제공할 수 있습니다.
미국 정부는 A사에 발부된 수출 통제 명령에서 Claude Fable 5 모델을 우회하거나 크랙하는 방법을 발견했다고 언급했습니다. 이 특정 기술에 대한 시연을 검토한 A 회사의 검토를 통해 이 기술을 사용하면 상대적으로 간단해 보이고 다른 모델에서 이를 우회하지 않고 악용할 수 있는 이전에 언급된 소수의 사소한 취약점을 식별할 수 있음이 확인되었습니다.
그러나 여기에 언급된 기술 시연이 탈옥 전문가들이 사용하는 방식인지는 확실하지 않다. 그러나 미국 정부가 모델 접근을 전면 중단하라고 요구하는 것이 아니라 외국인이 해당 모델을 사용하는 것만 금지하는 점을 고려하면 미국 국가안보국(NSA)이 발견한 문제는 탈옥 전문가가 언급한 문제와 직접적인 관련이 없을 수도 있다. 다만 탈옥 방법을 찾기 위해 탈옥 전문가들의 아이디어도 참고할 것이라고는 할 수 없다.
A사는 공개서한을 통해 불만을 표시했다.
A사는 현재 어떤 모델도 크랙에 100% 저항할 수 없으며 현재 어떤 테스터도 범용 탈옥 솔루션을 찾을 수 없다고 주장합니다. Claude Fable/Mythos 5가 채택한 심층 방어 전략은 탈옥을 더욱 어렵게 만들 수 있습니다. 포괄적인 모니터링 기술과 결합하여 A사는 성공적인 공격을 신속하게 감지하고 차단할 수 있으므로 모델이 탈옥될 위험을 줄일 수 있습니다.
A기관은 또 미국 정부가 수출통제 금지 조치로 인해 해로운 결과를 초래할 수 있는 자세한 공개 정보를 제공하지 않았다고 언급했는데, 이는 공개된 탈옥 솔루션이 완전히 무해하거나 미미한 발견이라는 의미다. A기관이 잠재적인 보안 취약점이 발견됐다는 이유만으로 수억 명의 사용자에게 배포된 상용 소프트웨어를 리콜하는 것은 매우 불합리하다.
A사는 미국 정부가 안전하지 않은 모델의 배포를 방지할 권리가 있다고 생각하지만, 이는 구두 지시에만 기반한 통제 구현을 요구하기보다는 투명하고 공정하며 명확하고 기술적 사실에 기반한 법적 절차를 통해 행사되어야 합니다. 그러므로 이번 조치는 원칙에 어긋난다. A사는 미국 정부와 지속적인 소통을 통해 Claude Fable/Mythos 5 모델 서비스를 조속히 복원하기 위해 노력하고 있습니다.