베센트 미국 재무장관과 파월 연준 의장은 지난 7일 월스트리트 경영진 긴급회의를 소집해 모델의 안전성 위험성을 논의했다. 미국 AI 기업 앤트로픽(Anthropic)이 최신 AI 모델을 출시한 날, 베상트 미 재무장관과 파월 연준 의장은 월스트리트 경영진 긴급 회의를 소집해 모델의 보안 위험성을 논의했다.
현지 시간으로 7일(현지 시간) 워싱턴 재무부 본부에서 열린 이번 회의는 은행들이 앤트로픽의 최신 모델인 미토스(Mythos)와 기타 유사 모델의 잠재적 위험을 인지하고 은행 시스템을 보호하기 위한 예방 조치를 취하도록 하는 것이 목적이었다.
이날 회의에는 제인 프레이저 씨티그룹 CEO, 테드 피크 모건스탠리 CEO, 브라이언 모이니한 뱅크오브아메리카 CEO, 찰리 샤프 웰스파고 CEO, 데이비드 솔로몬 골드만삭스그룹 CEO 등 월스트리트 임원들이 소환된 것으로 알려졌다. 이 문제에 정통한 소식통은 JPMorgan CEO인 Jamie Dimon도 참석할 수 없었다고 말했습니다.
현재까지 회의에 참석한 모든 당사자들은 이 문제에 대해 논평하지 않았습니다.
Bessant와 Powell은 무엇을 걱정합니까?
미국 정부를 이토록 긴장하게 만드는 것은 코딩과 추론 분야에서 앤트로픽의 현재 가장 강력한 모델인 '클로드 마이토스 프리뷰(Claude Mythos Preview)'(이하 '마이토스')다. 지난 7일에야 공식적으로 발표된 이 모델은 아직 일반에 공개되지 않았으며 특정 파트너에게만 제공됩니다.
Mythos는 범용 모델이며 사이버 보안 목적으로 특별히 설계된 것은 아니지만 주요 운영 체제 및 웹 브라우저의 취약점을 쉽게 식별하는 것으로 입증되었습니다. Anthropic은 이전에 이 모델이 보안과 엄격함으로 유명한 Unix 계열 시스템인 OpenBSD에서 27년 된 취약점을 발견했으며 현재는 수정되었다고 밝혔습니다.
Mythos의 힘은 또한 해커가 사이버 공격을 시작하는 데 이를 악용할 수 있음을 의미합니다. 이를 위해 Anthropic은 해킹될 수 있는 각 제품의 취약점을 조기에 탐지하고 방어 메커니즘을 개발하기 위해 소수의 회사에 모델에 대한 액세스를 제공하는 "Project Glasswing"(Glass Wings)이라는 프로젝트를 시작했습니다. '유리의 날개' 프로젝트 1차 파트너에는 아마존웹서비스(Amazon Web Services), 구글, 마이크로소프트(Microsoft) 등 12개사가 포함돼 있으며, 이 중 JPMorgan Chase가 유일한 금융기관이다. Anthropic은 이제 40개 이상의 조직으로 모델 액세스를 확장했지만 구체적인 목록은 제공하지 않았습니다.
다시 한번 Anthropic을 실행하면 규제 기관이 불안해집니다.
긴급 회의는 또한 미국 규제 당국이 새로운 사이버 공격의 가능성을 금융 산업이 직면한 가장 큰 위험 중 하나로 보고 있음을 의미합니다.
Anthropic은 Mythos를 출시하기 전에 모델의 "공격적이고 방어적인 사이버 기능"에 대해 미국 정부와 소통해 왔다고 말했습니다. 또한 회사는 인공지능 모델과 관련된 국가 안보 위험을 평가하고 완화하는 데 도움을 주기 위해 미국의 지방, 주, 연방 대표자들과 협력할 준비가 되어 있다고 밝혔습니다.
현재 앤트로픽은 미국 정부와 소송이 진행 중이다. 미국 국방부는 지난달 초 인류를 공식적으로 '공급망 위험' 대상으로 지정해 국방부와 방산업체가 관련 프로젝트에 회사의 인공지능 기술을 사용하는 것을 금지했다고 발표했다. 이후 회사는 회사 제품 사용을 둘러싼 양측의 의견차로 인해 상대방이 보복을 했고 블랙리스트에 올랐다며 미국 연방정부를 상대로 소송을 제기했다. 이달 8일 미국 연방법원은 국방부의 블랙리스트 등록을 일시적으로 막아 달라는 앤트로픽의 요청을 기각했다.
불과 며칠 전, Anthropic은 회사의 연간 수익(ARR)이 2025년 말까지 90억 달러에서 크게 증가한 300억 달러를 초과했다고 발표했습니다. 회사는 빠르면 올해 4분기에 IPO를 계획하고 있습니다.