미국의 AI 스타트업인 앤트로픽(Anthropic)은 최근 전례 없는 규제 폭풍에 휩싸였다. 불과 열흘 전 자사의 가장 발전된 대규모 모델이 대중에게 공개될 것이라고 발표했지만, 이제 수출 통제를 이유로 미국 정부에 의해 긴급 중단됐다. 전 세계 대다수의 사용자는 더 이상 Fable 5 및 Mythos 5 모델에 액세스할 수 없습니다. 미국이 AI 모델 자체에 대해 수출통제 조치를 직접 시행해 안보, 산업, 동맹 관계 등 다방면에서 충격을 안긴 것은 이번이 처음이다.

이코노미스트에 따르면 미국 상원의원 마크 워너는 6월 11일 기밀 브리핑에서 국가안보국(NSA) 국장이자 미 사이버사령부 사령관이기도 한 조슈아 러드 장군이 그에게 앤트로픽의 미토스 모델이 승인된 레드팀 훈련 중 NSA의 기밀 시스템 대부분의 방어를 몇 주나 며칠이 아닌 '몇 시간' 만에 돌파했다고 말했다고 보도했다. 이 주장은 아직 정부 기관에서 공식적으로 확인되지 않았으며 관련 세부 사항은 기밀로 유지되지만 미국 정부가 6월 12일 갑자기 심각한 수출 금지 조치를 내린 이유를 설명하는 지배적인 이야기가 되었습니다. 상업 회사의 AI 모델이 짧은 시간에 세계에서 가장 삼엄하게 보호되는 비밀 인프라 중 하나에 침입했습니다.

Anthropic이 올해 4월 Mythos를 처음 공개했을 때 이 모델은 소프트웨어 보안 취약점을 발견하는 데 너무 강력하고 남용될 위험이 있으므로 대중에게 공개되지 않을 것임을 분명히 했습니다. Amazon, Apple, Google, Microsoft, Nvidia, JPMorgan Chase 및 Linux Foundation을 포함하여 Project Glasswing이라는 프로젝트에서 엄격하게 심사된 약 200개의 파트너에게만 액세스를 제공합니다. 그 이후로 Mythos는 27년 동안 OpenBSD에 잠복해 있던 보안 결함과 Mozilla Firefox 150 브라우저의 271개 새로운 문제를 포함하여 수천 개의 실제 취약점을 발견하는 데 도움을 주었습니다.

6월 9일, Anthropic은 Fable 5 모델을 대중에게 출시했습니다. 기본 기반은 Mythos와 동일하지만 보안 분류자가 위에 겹쳐져 위험하다고 판단되는 요청을 가로채고 이러한 요청을 처리할 능력이 떨어지는 모델로 리디렉션합니다. Anthropic의 입장은 이러한 "가드레일"이 Fable 5를 대중에게 안전하게 만드는 데 충분하다는 것입니다. 그러나 NSA 침투 테스트에 대한 러드 장군의 증언이 폭로된 후, 미국 정부는 분명히 이 판단에 동의하지 않았으며 Mythos와 Fable 5 사이에 보안 분류자만으로는 발생하는 "능력 격차"가 신뢰할 수 있는 방어선을 구성하기에 충분하지 않다고 믿었습니다.

이 모든 것을 촉발한 직접적인 계기는 '탈옥' 보고서였습니다. 미국 정부는 6월 12일 Anthropic에 Fable 5 보안 분류를 우회하여 잠재적으로 가장 민감한 사이버 공격 및 방어 기능을 잠금 해제하는 방법을 발견했다고 통보했습니다. Anthropic에 따르면, 정부는 이 취약점에 대해 구두로만 통보받았으며 이를 "잠재적이고 제한적이며 보편적이지 않은 탈옥"이라고 설명하고 회사에 조치를 취하는 데 90분의 시간을 주었습니다. 이번 탈옥 사실은 앤트로픽(Anthropic)의 주요 투자자이자 AI 분야 경쟁사인 아마존이 미국 상무부에 처음 신고했다. 동시에 "해방자 플리니우스(Pliny the Liberator)"라는 가명을 사용하는 한 연구원은 Fable 5가 온라인에 공개된 후 48시간 이내에 X와 GitHub에 자칭 완전한 시스템 프롬프트 단어를 게시했습니다.

정부의 압력에 직면한 Anthropic은 이번 탈옥의 영향이 제한적이고 보편적이지 않으며 Fable 5의 전반적인 보안을 근본적으로 무너뜨리지 못했다는 평가를 강조하여 대응했습니다. 또한 회사는 OpenAI의 GPT-5.5를 포함하여 대중에게 공개된 다른 모델에도 유사한 보안 취약점이 존재하지만 이러한 모델은 동일한 강도의 수출 통제에 직면하지 않는다고 지적했습니다. Anthropic은 성명을 통해 Fable 5의 현재 표준이 업계 전반에 적용된다면 "거의 모든 주요 모델 제공업체가 새로운 모델 배포를 중단해야 할 것"이라고 경고했습니다.

보안 커뮤니티의 일부는 Anthropic의 평가에 동의합니다. 알렉스 스타모스 전 페이스북 최고보안책임자(CSO)는 관련 연구를 검토했으며 주목할 만한 결과가 있다고 믿었지만 이러한 극단적인 대응을 정당화할 '독특한 능력'을 보여주지는 못했다고 말했습니다. 그러나 트럼프 행정부의 데이비드 색스(David Sacks) 고문은 사이버 무기를 완전히 작동시키기에 충분한 탈옥이 "심각하지 않은" 것으로 정의될 수 있다고 Anthropic이 어떻게 주장할 수 있는지 이해하기 어렵다며 반대 견해를 취했습니다.

정치적 배경으로 인해 외부인이 이 결정을 순전히 기술적인 안전 문제로 보는 것이 더 어렵습니다. 지난 2월, 트럼프 행정부는 Anthropic이 AI를 자율 무기 시스템과 대규모 국내 감시에 사용할 수 있도록 허용하는 계약 조건 서명을 거부하자 모든 연방 기관에 Anthropic 모델 사용을 중단하라고 명령했습니다. 미 국방부는 이후 Anthropic을 "공급망 위험"으로 분류하여 군사 계약자가 해당 모델을 사용하는 것을 금지했으며 Anthropic은 현재 연방 법원에서 해당 지정에 이의를 제기하고 있습니다. 이러한 일련의 갈등으로 인해 수출 통제는 대규모 보안 사고로 촉발된 장기 게임의 발발에 더 가깝습니다.

더 큰 문제는 제도가 없다는 점이다. 일부 분석가들은 미국에는 최첨단 AI 모델의 보안 위험을 평가하고 통제할 수 있는 안정적이고 투명한 프레임워크가 아직 부족하다고 지적했습니다. 지난 6월 2일, 트럼프 행정부는 AI 기업들에게 차세대 최첨단 모델이 공개되기 전 30일 동안 사전 접근권을 정부에 제공할 것을 "자발적으로" 요구하는 행정 명령을 발표했습니다. 그러나 페이블5는 7일 만에 곧바로 온라인에 접속했고, 이런 '자발적 틀'을 따르지 않았다. 실질적으로 6·12 금지령은 기업들이 정부 심사에 협조하도록 강제하는 어려운 수단이 됐다. "Dialogue" 웹사이트의 분석 기사는 정부가 최첨단 독점 모델을 독립적으로 평가하는 데 필요한 데이터, 인프라 및 전문 역량이 부족하고 기업에 대한 의존도가 이번 행정 명령에서 어떤 형태로든 인정되는 것이 본질적인 문제라고 생각합니다.

이번 금지령의 영향은 미국을 훨씬 넘어 확장됩니다. Fable 5와 Mythos 5에 대한 접근이 완전히 차단되자 Five Eyes로 알려진 미국의 전통적인 정보 동맹인 호주, 영국, 캐나다, 뉴질랜드도 경고 없이 동시에 차단되었습니다. 첨단 모델 테스트 분야 세계 최고 기관으로 평가받는 영국 AI 안전연구소가 관련 시스템을 평가하는 과정에서 갑자기 접근권한을 잃었다. 이를 위해 5개국 정보기관은 어제 보기 드문 공동성명을 발표했다. Anthropic이나 Mythos는 이름이 지정되지 않았지만 문맥은 의심할 여지없이 현재 상황을 가리켰습니다.

공동 성명에서는 최첨단 AI 모델이 현재 업계의 기대치를 뛰어넘고 네트워크 공격 및 방어 역량의 지형을 근본적으로 변화시킬 것으로 예상된다고 지적했습니다. 관련 위험에 대한 기간은 더 이상 "년"이 아닌 "월" 단위로 측정됩니다. 이 문서에는 NSA 사이버보안 책임자 데이비드 임보르디노(David Imbordino)와 CISA 국장 대행 닉 앤더슨(Nick Andersen)을 포함한 고위 관리들이 서명했다. 성명서는 AI가 악의적인 행위자가 공격을 시작하는 임계값을 크게 낮추고 패치되지 않은 시스템, 약한 ID 관리 제어, 인터넷에 불필요하게 노출되는 서비스 등 수년 동안 해결되지 않은 동일한 문제를 계속 악용할 것이라고 경고했습니다. 성명서는 사이버 위험이 더 이상 순전히 기술적인 문제가 아니라 기업의 핵심 위험과 리더십 책임임을 강조했습니다.

호주 시드니 대학교의 국가 안보 및 AI 전문가인 올리비아 셴(Olivia Shen)은 외부인이 자신의 비전을 인류학에만 국한시켜서는 안 된다고 지적했습니다. 그녀는 업계가 "다음 신화 또는 다음 우화가 곧 나타날 것"을 기대해야 하며 현재 대중은 출시된 모델만 볼 수 있으며 중국이나 다른 국가에서 개발한 동등하거나 훨씬 더 발전된 시스템이 있을 수 있으며 비밀리에 진행되고 있다고 믿습니다. 보안 매체 CyberScoop은 이번 정부 조치를 촉발한 Amazon 위협 인텔리전스 보고서에 언급된 공격 능력이 실제로 Claude Opus, Claude Sonnet과 같은 이전 세대 모델과 미국 수출 통제 대상이 아닌 오픈 소스 중국 모델의 도움을 통해 달성할 수 있다고 지적했습니다. 오픈 소스 모델은 전통적으로 기능 면에서 헤드 랩보다 약 6~8개월 정도 뒤쳐져 있었습니다. 따라서 Fable 5를 비활성화하면 의도적인 공격자의 속도가 실제로 크게 느려질지는 미지수입니다.

현재 Fable 5와 Mythos 5는 대부분의 사용자에게 여전히 오프라인 상태입니다. Anthropic은 이전에 언론에 회사가 "앞으로 며칠 내에 모델 가용성이 복원될 것이라고 매우 확신한다"고 밝혔지만 이 입장은 아직 이행되지 않았습니다. 예측 시장에서 제공한 확률에 따르면 7월 1일 이전에 액세스가 복원될 확률은 약 57%입니다. 트럼프는 지난주 악시오스(Axios)와의 인터뷰에서 인류를 더 이상 국가 안보 위협으로 간주하지 않는다고 말하면서 “아마도 일주일 전이었을지 모르지만 지금은 아니다”라고 말했다. 양측은 G7에서 만났고, 트럼프 대통령은 협상 진행에 대해 "모든 것이 매우 잘 진행되고 있다"고 말했다.

사이버 보안 연구원, AI 기업가, 기업 임원 등 수십 명이 월요일 백악관에 공동 서한을 보내 정부가 향후 AI 위험 평가 및 대응 프로세스에서 "개방적이고 과학적이며 투명한" 프로세스를 약속할 것을 촉구했습니다. 7월 8일부터 시행될 예정인 Anthropic의 신원 확인 정책에서 더 많은 운영 신호가 나올 수 있다고 믿어집니다. 이를 통해 회사는 사용자가 미국 시민인지 여부를 확인하여 수출 통제 명령을 완전히 취소하지 않고도 미국에서 모델의 가용성을 복원할 수 있을 것입니다.

금지 조치가 단기적으로 어떻게 끝날지는 아직 불분명하지만 지난 열흘 정도가 전환점을 분명히 알렸다. 미국이 AI 운영을 지원하는 하드웨어 장비가 아닌 AI 모델 자체에 직접 수출 통제를 한 것은 이번이 처음이다. 유럽은 향후 Azure, AWS, Google Cloud에서 유사한 상황이 반복될 수 있다는 우려를 갖고 이 선례를 면밀히 관찰하고 있습니다. 톰 투겐다트(Tom Tugendhat) 전 영국 안보장관은 이러한 "직관적인 교훈"을 얻은 후 국가들은 중요한 클라우드 및 AI 인프라에서 국가의 주권 역량을 달성하는 방법에 대해 생각하기 시작할 것이라고 직설적으로 말했습니다. Mythos가 실제로 몇 시간 내에 대부분의 NSA 기밀 시스템에 침입했는지 여부에 대해서는 정부 기관으로부터 독립적인 확인이 이루어지지 않았으며 구체적인 세부 사항은 여전히 ​​기밀 문서에 숨겨져 있습니다.