오늘 이른 아침, 여러 외신 보도에 따르면 앤트로픽은 Fable 5와 Mythos 5 모델에 대한 액세스를 종료한다고 발표했습니다. 이것이 계기가 될 수 있습니다.아마존 CEO는 앤디 재시(Andy Jassy)이다.. 월스트리트저널은 아마존 연구원들이 앤트로픽(Anthropic)의 클로드 페이블 5(Claude Fable 5)를 사용해 연구를 진행하던 중 사이버공격에 활용될 수 있는 정보를 입수했다고 보도했다. 이후 미국 정부는 Fable 5와 Mythos 5에 대해 수출 통제 금지 조치를 취했습니다.

트럼프의 전 AI 국장이자 현 대통령 과학기술자문위원회 공동의장인 데이비드 색스(David Sacks)가 소셜 플랫폼에 게시한 글Anthropic CEO Dario Amodei는 수정을 거부합니다., 후속 공식 발표에서 주장됨해당 취약점은 심각하지 않으며 타사 모델에서도 발견될 수 있습니다..

Sacks는 이러한 위험 경시가 AI 보안 회사라는 Anthropic의 브랜드 포지셔닝과 일치하지 않는다고 믿습니다. 그는 또한 미국 정부가 희망한다고 밝혔습니다.Anthropic은 보안 문제를 신속하게 해결하여 수출 통제를 해제할 수 있습니다., Fable 5 모델을 다시 출시합니다.


사용자 권리를 보상하기 위해 Anthropic은 다음을 제공합니다.환불 채널, 일부 네티즌들은 클로드로부터받은 환불 이메일을 게시했습니다. 이메일에는 Anthropic이 Claude Fable 5 모델에 대한 액세스를 차단했다고 언급되어 있습니다. Opus, Sonnet 및 Haiku의 다른 모든 모델은 정상적으로 사용할 수 있습니다. 사용자의 사용 할당량이 재설정되었습니다.

사용자가 이 조정이 사용자의 요구 사항을 충족하지 않는다고 생각하는 경우 구독을 취소하고 남은 시간을 기준으로 자동으로 환불을 받을 수 있습니다. 환불 마감일은 현지 시간으로 6월 20일입니다. 이 환불은 Claude 모바일 앱에서의 작업을 지원하지 않습니다.


▲네티즌들이 받은 환불 메일 (출처:X)

1. 클로드가 환불을 시작했다고 네티즌들은 말했다: 되돌릴 수 없다

많은 네티즌들은 서둘러 출시된 페이블 5를 금지하려는 앤트로픽의 환불 처리 계획에 버그가 많다고 언급했다. 네티즌 중 한 명은 앤트로픽이 해당 사용자의 모든 구독 서비스를 직접 종료했다고 전했다. 5배 더 길고 6월 19일까지 유효했던 그의 이전 구독권은 사라졌습니다.


일부 네티즌들은 클로드가 탈락했으며 돌아갈 길이 없다고 직접적으로 주장하기도 했다.



일부 네티즌들은 앤트로픽의 환불 조치 역시 '페이블5'가 곧 돌아오지 않을 것이라는 점을 입증했다고 분석했다.


일부 네티즌들은 구독을 취소하고 ChatGPT의 새로운 모델을 기다리겠다고 말했습니다.


2. 미국 정부는 Anthropic이 새로운 모델에서 중요한 문제를 회피하고 보안 취약점을 약화시켰다고 주장했습니다.

Amazon 대변인은 The Information과의 인터뷰에서 다수의 민간 및 공공 부문 고객에게 서비스를 제공하는 선도적인 클라우드 서비스 제공업체로서 미국 정부가 잠재적인 보안 위험에 대해 Amazon의 조언을 구하는 것은 드문 일이 아니라고 말했습니다. 관련 커뮤니케이션이 이루어지더라도 구체적인 협상 내용은 공개하지 않습니다.

대변인은 또한 Amazon Cloud Technology도 Anthropic의 금지 모델에 영향을 받았다고 밝혔습니다. 6월 13일 오전, Amazon Cloud Technology는 모든 지역에서 Fable 5 및 Mythos 5에 대한 액세스를 취소했습니다.

정보는 이 문제에 정통한 사람들의 말을 인용해 Jassy 및 기타 기술 회사 리더들과 대화를 나눈 후 미국 국립 사이버 사건 국장인 Sean Cairncross가 금요일에 미국 정부 고위 관료 회의를 소집하여 결정이 내려졌다고 말했습니다.수출 통제는 인류에 대한 조치를 취하는 가장 직접적인 수단입니다..

회의 후 Anthropic CEO Dario Amodei는 미국 정부 관리들과 대화를 나눴습니다. 회의에서 Anthropic은 소위 탈옥 취약점이 노출되었다고 설명했습니다.안전 위험에 대한 기준은 그리 높지 않습니다., 다른 대형 모델에도 비슷한 문제가 발생할 가능성이 있습니다. 그러나 미국 정부는 수출통제 시행 결정이 확정됐다고 앤트로픽에 통보했다.

트럼프의 전 AI 위원이자 현 대통령 과학기술자문위원회 공동의장인 데이비드 색스(David Sacks)는 소셜 플랫폼 X에 몇 가지 세부 사항을 게시했습니다.

그는 Anthropic과 미국 정부 모두로부터 높은 신뢰를 받는 신뢰할 수 있는 파트너가 모델 탈옥 취약점을 공개하는 데 앞장섰다고 말했습니다. 그리고 미국 정부가 Amodei에게 탈옥 취약점을 수정하지 않으면 모델이 시장에서 제거될 것을 요청했을 때 Amodei는 취약점 수정을 거부했습니다.

Sacks는 또한 Anthropic이 공식 블로그에서 탈옥 취약점이 심각하지 않다고 주장했다고 ​​언급했습니다. 그러나 신뢰할 수 있는 파트너나 미국 정부 모두 이 성명에 동의하지 않았습니다. 위험을 경시하는 이러한 진술은 AI 보안 회사라는 Anthropic의 브랜드 포지셔닝과도 모순됩니다.현재 미국 정부는 Anthropic이 가능한 한 빨리 보안 문제를 해결하여 수출 통제를 해제하고 Fable 5 모델을 다시 출시할 수 있기를 바라고 있습니다..

또한 Anthropic은 금지 모델을 발표하는 블로그에서 다른 공개 모델에서도 유사한 취약점이 나타났다고 언급하기도 했습니다. 그러나 미국 정부와 가까운 관계자는 The Information에 미국 정부가 Anthropic의 고급 모델에 대한 수출 제한을 다른 AI 회사로 확대할 가능성은 낮다고 말했습니다.

Amazon은 Anthropic의 주요 투자자입니다. 아마존은 올해 4월 공개적으로 2023년부터 앤트로픽에 130억 달러(약 879억 위안)를 투자했으며 앞으로도 200억 달러(약 1353억 위안)를 추가로 투자할 계획이라고 밝혔다. Amazon의 Trainium 칩은 Amazon의 클라우드 서비스에서도 실행되는 Anthropic의 대규모 모델을 훈련하고 구동하는 데 도움이 됩니다.

올해 아마존도 Anthropic의 주요 경쟁사인 OpenAI에 대규모 투자를 하여 최대 500억 달러를 투자하겠다고 약속했으며, 처음으로 OpenAI의 최신 모델을 Amazon Cloud Technology에 연결하여 외부 판매를 할 예정이라는 점은 언급할 가치가 있습니다.

미국 정부가 인류 모델을 금지한 또 다른 주요 배경은 미국 정부가 2주 전 자발적 준수 메커니즘을 시작하라는 행정 명령을 내렸다는 것입니다. 즉, AI 회사는 파트너와 대중에게 모델을 공개하기 전에 검증을 위해 정부에 모델을 제출할 수 있습니다. 미국 정부 내에서 고급형 대형 모델을 출시하려는 AI 기업에 대해 기준을 높이고 심사를 더욱 엄격하게 하는 라이센싱 시스템을 구축할지 여부를 두고 논란이 있어왔기 때문이다. 이 행정 명령은 이 게임의 산물입니다.

결론: Anthropic의 가장 강력한 모델이 종료되고 업계의 안전 문턱이 높아질 수밖에 없었습니까?

6월 10일, Anthropic은 Claude Fable 5와 Mythos 5라는 두 가지 주요 모델을 공식 출시했습니다. 둘 다 Mythos(신화) 수준에 속하며 동일한 기본 모델을 공유합니다. 그들의 능력은 Opus 수준보다 높습니다. 이는 또한 현재까지 Anthropic의 가장 강력하고 전반적인 성능이 가장 높은 대형 모델 수준입니다.

같은 출시 기간 동안 Anthropic은 의도적으로 계층적 개방성과 내장된 보안 다운그레이드 라우팅을 설계했습니다. 원래는 강력한 기능과 위험 관리 및 제어의 균형을 맞추고 싶었지만 여전히 숨겨진 보안 취약점으로 인한 체인 영향을 견디지 못했습니다. 단 며칠 만에 두 개의 주력 모델이 종료되었습니다. 이는 향후 새로운 모델이 출시되기 전에 제3자 독립 레드팀에 의한 심층 공격 및 방어 검증과 관련된 보안 테스트가 엄격한 기준이 될 수 있음을 의미할 수 있습니다.