지난 주 미국 정부는 Amazon의 사이버 보안 엔지니어로부터 정보를 받았으며 회사 A가 미국 시민이 아닌 모든 사람에게 Claude Fable 5 모델 제공을 중단하도록 요구하는 긴급 수출 통제 명령을 내렸습니다. 수출 통제 명령을 내린 이유는 아마존의 네트워크 보안 엔지니어들이 모델의 보안 메커니즘이 불충분하고 특정 방법을 통해 보안 경계를 우회하여 민감한 콘텐츠를 얻을 수 있다는 것을 발견했기 때문입니다. 규정 준수 고려 사항에 따라 A사는 Claude Fable 5 모델을 전 세계적으로 직접 제거했습니다.
A사는 해당 모델을 삭제하면서 미국 정부가 수출통제 지시를 불투명하게 내리고 있다고 비난하는 공개서한도 함께 보냈다. 이를 위해 A사는 고위 기술팀을 워싱턴에 파견해 미국 정부와 긴급 협의를 진행했다. 당초 긴급 협의 후 곧 모델이 복원될 것으로 예상됐고, A사는 더욱 엄격한 보안 경계를 시행했다. 그러나 현재 협상은 순조롭게 진행되지 않고 있다.
협상 타결 후에도 통제명령은 해제되지 않았다.
미국 정부가 수출 통제 명령을 내린 이유는 클로드 페이블 5(Claude Fable 5)를 탈옥해 보안 보호를 우회해 일반 사용자가 클로드 미토스 프리뷰(Claude Mythos Preview) 모델과 유사한 강력한 네트워크 보안 기능을 얻을 수 있기 때문이다. 이로 인해 인터넷 보안에 숨겨진 위험이 발생할 수 있습니다. 물론 미국 정부는 일반 사용자가 Claude Fable 5를 사용하여 탈옥을 통해 미국 인프라에 대한 공격을 감행하여 공공 안전에 영향을 미칠 수 있다고 우려하고 있습니다.
Anthropic은 항상 미국 정부의 우려가 과장되었다고 믿었지만 문제를 해결하려면 여전히 협상이 필요했기 때문에 회사는 협상에 참여하기 위해 공동 창업자이자 최고 컴퓨팅 책임자, 대외 업무 책임자, 프론티어 레드팀 리더, 수석 보안 연구원을 워싱턴 D.C.로 파견했습니다. 미국 정부의 협상 참가자로는 미국 상무부 장관과 미국 인공지능표준혁신센터 연구원들이 참여했다.
WIRED가 발표한 뉴스에 따르면 Anthropic과 미국 정부 간의 협상이 종료되었습니다. 그러나 미국 정부는 클로드 페이블 5 모델에 대한 수출통제 금지 조치를 해제하지 않아 여전히 교착상태에 빠져 있다. Claude Fable 5 모델의 회복 시간은 멀었습니다. Anthropic은 양측이 문제 해결을 신속하게 추진하고 있다고만 밝혔으며, 미국 정부는 논평을 거부했습니다.
핵심 문제는 탈옥이 해결되지 않았다는 것입니다.
현재 두 당사자 간의 분쟁은 여전히 Claude Fable 5 모델의 보안 문제입니다. Anthropic은 Mythos 클래스 모델이 실제로 취약점과 무기화된 악용을 찾아내는 데 탁월하다고 믿지만 이것이 유일한 것은 아닙니다. 다른 모델도 유사한 작업을 수행할 수 있으며, 모델을 제거하면 네트워크 보안 방어자에게 최고의 도구가 박탈될 뿐이며, 이는 오히려 불확실성을 야기하고 심지어 네트워크 보안을 위험에 빠뜨리게 됩니다.
미국 정부는 항상 Claude Fable 5를 복원하여 사용할 수 있는 방법을 찾을 의향이 있다는 견해를 가지고 있었지만, 전제 조건은 Anthropic이 탈옥 문제를 완전히 해결할 수 있다는 것입니다. 탈옥 문제를 해결할 수 없다면 규제 완화도 불가능하다. 미국 정부가 우려하는 보안 위험이 여전히 존재하기 때문이다. 하지만 AI 모델이 탈옥 문제를 완전히 해결하는 것은 매우 어렵고, 아무리 보안 경계가 엄격하더라도 우회할 수 있는 방법은 있다.