1일 뉴스에 따르면 현지시간 화요일 앤트로픽은 클로드 페이블 5와 클로드 미토스 5가 미국의 수출통제 대상이 되어 접근이 정지되고 온라인으로 복구되는 전 과정을 자세히 설명하는 장문의 글을 공개했다. 이는 단순한 회복 발표가 아니다. 더 중요한 것은 Anthropic이 "AI 모델 탈옥의 심각성"을 업계 점수 프레임워크로 전환하고 최첨단 모델 릴리스를 정부 사전 릴리스 테스트 및 보안 협업에 통합하고 있다는 것입니다.

Anthropic의 발표에 따르면 Fable 5는 7월 1일부터 전 세계 사용자에게 공개되며 Claude Platform, Claude.ai, Claude Code 및 Claude Cowork를 포괄합니다. Pro, Max, Team 및 일부 Enterprise 사용자는 7월 7일 이전에 주간 사용 할당량의 최대 50%까지 Fable 5를 사용할 수 있습니다. 이후에도 사용 크레딧을 통해 계속 사용할 수 있습니다. Anthropic은 또한 가능한 한 빨리 AWS, Google Cloud 및 Microsoft Foundry에 대한 액세스를 다시 활성화할 것이라고 말했습니다.

Mythos 5는 회복 범위가 더 좁습니다. Anthropic은 6월 26일 미국 정부의 승인 이후 회사가 미국 기관 그룹의 Mythos 5 액세스를 복원했으며 Glasswing 프로젝트에서 더 많은 국내외 파트너로 확장하기 위해 정부와 계속 협력할 것이라고 말했습니다.

"탈옥" 신고로 인해 모델이 진열대에서 제거되었습니다.

이번 혼란은 6월 12일에 시작되었습니다.

Anthropic은 그날 미국 정부가 Claude Fable 5와 Claude Mythos 5에 대한 수출 통제를 시행하여 외국인이 이 두 모델에 대한 접근을 제한하도록 요구했다고 밝혔습니다. 여기서 "외국인"에는 미국 이외의 사용자뿐만 아니라 미국 내 미국 국적이 아닌 사용자도 포함됩니다. 지침은 즉시 발효되었고 Anthropic은 모든 사용자의 국적을 실시간으로 확인할 수 있는 신뢰할 수 있는 방법이 없었기 때문에 결국 회사는 모든 사용자에 대한 액세스를 일시 중단하기로 결정했습니다.

Anthropic의 최신 리뷰에 따르면 Fable 5와 Mythos 5는 6월 9일에 출시되었습니다. 두 모델의 기본 모델은 동일하지만 서로 다른 시나리오를 지향합니다. Fable 5는 더 강력한 보안 보호 기능을 추가하고 더 넓은 범위의 일반 사용자 시나리오에 사용됩니다. Mythos 5는 보호 수준이 낮으며 방어 네트워크 보안 작업을 위해 신뢰할 수 있는 소수의 Project Glasswing 파트너만 사용할 수 있습니다.

미국 정부가 개입한 직접적인 이유는 아마존 연구진의 보고서였다. 보고서에 따르면 연구원들은 Fable 5의 보안 보호를 우회하는 방법을 발견하여 모델이 여러 소프트웨어 취약점을 식별할 수 있도록 했습니다. 어떤 경우에는 모델이 관련 취약점을 악용하는 방법을 보여주는 코드도 생성했습니다.

Anthropic의 대응: 이 사건은 Fable 5 보안 보호의 경계선 사례를 노출했지만 독특한 Mythos 수준의 사이버 공격 기능을 발휘하지는 못했습니다. 회사는 테스트 후 Claude Opus 4.8, GPT-5.5, Kimi K2.7과 같이 성능이 낮은 모델도 동일한 취약점을 식별할 수 있다고 밝혔습니다. 단일 취약점 악용 데모를 생성할 때 여러 모델도 유사한 결과를 제공할 수 있습니다.

간단히 말해서, Anthropic이 강조하고 싶은 것은 Fable 5 특유의 위험한 능력이 갑자기 발현되는 것이 아니라 모호한 영역에서 안전 분류기를 우회하고 있다는 점이다.

새로운 분류기는 99% 이상 차단할 수 있지만 우발적인 손상을 초래할 수 있습니다.

액세스를 복원하기 위해 Anthropic은 Amazon 보고서에 언급된 동작을 구체적으로 가로채는 새로운 보안 분류자를 교육했습니다.

Anthropic은 새로운 분류기가 Amazon의 보고서에 설명된 특정 우회 기술을 99% 이상의 사례에서 차단할 수 있다고 말합니다. 차단된 Fable 5 요청은 처리를 위해 Claude Opus 4.8로 전달됩니다. 미국 상무부 산하 AI 표준 및 혁신 센터(CAISI)도 인류 보호의 기존 및 신규 세트를 모두 테스트했습니다.

하지만 수정은 대가 없이 이루어지지 않습니다.

Anthropic은 새로운 분류자가 일상적인 프로그래밍 및 디버깅 작업 중에 양성 요청을 더 자주 잘못 분류할 것이라는 점을 인정했습니다. 즉, 일부 정상적인 보안 조사, 코드 디버깅 또는 취약점 분석 요청이 시스템에 의해 차단될 수 있습니다. 회사는 앞으로도 최적화를 계속해 실제 학대와 합법적인 요청을 구별하려고 노력할 것이라고 말했습니다.

이는 Fable 5 사건의 핵심 문제이기도 합니다. 모델의 기능이 강력할수록 방어 보안 노력에 더 많은 도움이 될 수 있습니다. 그러나 동일한 기능을 공격에도 사용할 수 있습니다. 제조업체는 "잘못된 요청을 차단할 수 있습니까?"라고 대답해야 할 뿐만 아니라 뿐만 아니라 "좋은 요청을 차단할 수 있나요?"

Anthropic은 AI 탈옥의 등급을 매기고 싶어합니다.

긴 기사에서 가장 주목할 부분은 Fable 5 복구 액세스가 아니라 Anthropic이 제안한 “AI Jailbreak Severity Framework”입니다.

Anthropic은 현재 AI 탈옥이 얼마나 심각한지 판단할 수 있는 통일된 표준이 업계에 없다고 믿습니다. 결과적으로 새로운 우회 방법이 나타날 때마다 개발자는 이를 얼마나 빨리 수정해야 하는지 알지 못하고, 정부는 개입이 필요한지 여부를 판단할 일관된 기준이 부족합니다.

Anthropic은 Amazon, Microsoft, Google 및 기타 Glasswing 파트너와 함께 프레임워크 초안을 작성하고 있습니다. 다음 네 가지 차원에 따라 탈옥 위험을 평가할 것을 권장합니다.

첫째, 능력치 획득입니다. 탈옥된 모델은 기존 공개 도구와 약한 모델이 할 수 없는 작업을 수행할 수 있습니까? 다른 도구의 기능에만 도달한다면 위험은 낮습니다. 전문가 수준의 공격을 크게 가속화할 수 있다면 위험이 높습니다.

둘째, 역량의 범위입니다. 동일한 탈옥 방법은 매우 좁은 작업만 잠금 해제할 수 있거나 여러 유형의 공격 대상 및 기술 경로를 포괄할 수 있습니다.

셋째, 무기화의 어려움이다. 이 탈옥을 실제 공격으로 전환하려면 얼마나 많은 수동 노력, 팁, 시행 착오가 필요합니까? 하나 또는 두 개의 프롬프트가 일관된 성공을 제공할 때 위험은 더 높아집니다.

넷째, 발견 가능성입니다. 이 방법을 찾으려면 전문적인 지식이 필요한가요? 아니면 이미 온라인에서 널리 사용 가능합니까?

이 프레임워크의 중요성은 일반적인 패닉 상태에서 발생하는 "AI 탈옥"을 전달 가능하고, 분류 가능하며, 복구 가능한 문제로 분해하려고 시도한다는 것입니다. 향후 모델에서 취약점이 발견되면 제조업체와 정부는 먼저 이것이 저위험 경계선 사례인지 아니면 즉각적인 완화 조치가 필요한 고위험 탈옥인지 여부를 판단할 수 있습니다.

Anthropic은 또한 보안 연구원들이 Fable 5의 잠재적인 네트워크 보안 탈옥 사례를 제출할 수 있는 새로운 HackerOne 프로젝트를 시작할 계획입니다.

최첨단 모델 출시는 "정부도 먼저 살펴봐야 한다"

Anthropic은 또한 기사 끝부분에서 일련의 장기적인 약속을 제시합니다. 국가 안보와 관련된 최첨단 기능이 포함된 모델의 경우 지정된 정부 파트너에게 조기 액세스를 제공하여 정부가 모델을 테스트하고 널리 출시되기 전에 보호를 지원할 것입니다. 중요한 탈옥이나 남용 패턴이 발생하면 정보가 정부와 더 신속하게 공유됩니다. 동시에 AI 보안 평가 및 연구에 참여하기 위해 전담 팀과 컴퓨팅 능력이 투자될 것입니다.

첨단 AI 모델 출시 과정이 바뀌고 있다는 뜻이다.

과거에는 모델 출시가 주로 회사의 제품 리듬(교육, 평가, 레드팀 테스트, 출시)을 기반으로 이루어졌습니다. Fable 5 사건 이후 최소한 사이버 보안과 같은 고위험 방향에서는 출시 프로세스에 정부 출시 전 평가, 정보 공유 및 위험 협상이라는 추가 계층이 포함될 수 있습니다.

사용자에게는 Fable 5의 재개가 좋은 소식입니다. 그러나 기업 고객에게 이 사건은 보다 현실적인 알림을 남겼습니다. 최첨단 모델의 가용성은 기술과 가격뿐만 아니라 정책 상태에도 달려 있다는 것입니다. 모델이 출시되더라도 안전성 논란으로 인해 갑자기 중단됐다가 보완적 보호와 협상, 정부 테스트 등을 거쳐 재개될 수도 있다.

Anthropic의 경우 이 리뷰는 상장 폐지 이유에 대한 설명일 뿐만 아니라 발언권을 위한 싸움이기도 합니다. 회사는 외부 세계가 Fable 5가 통제 불능 모델이 아니라 지나치게 주의 깊게 처리되는 경계선 사례라고 믿기를 바랍니다. 동시에 업계의 초점이 "모델이 탈옥될 수 있는지 여부"에서 "탈옥의 심각성을 판단하는 방법"으로 전환하기를 희망합니다.

이것이 이번 발표의 정말 중요한 신호일 수 있습니다. Fable 5의 재출시는 바로 그 결과입니다. 앞으로 첨단 모델이 어떻게 테스트되고 출시될지, 정부가 개입할지는 이번 폭풍이 남긴 새로운 질문이다.