Anthropic은 Trump 행정부가 모든 외국인 시민의 기술 사용을 금지하는 전례 없는 명령을 내린 후 Mythos를 포함한 자사의 가장 진보된 인공 지능 모델에 대한 액세스를 차단했습니다. 회사는 성명을 통해 미국 정부가 국가 안보 문제를 이유로 "미국 내부 또는 외부에 거주하는" 모든 외국인에 대한 Fable 5 및 Mythos 5 모델에 대한 액세스를 중단하도록 요청했다고 밝혔습니다. 미국 관리는 상무부가 서한을 보냈다고 확인했다. 이후 모델 개발자는 규정 준수를 보장하기 위해 두 시스템에 대한 모든 고객 액세스를 차단했습니다.
이전에는 미국 정부가 미국 기업이 개발한 최첨단 AI 모델에 대한 해외 접근을 제한하기 위해 이렇게 포괄적인 조치를 취한 적이 없습니다. 트럼프 행정부와 바이든 행정부 모두 반도체, 슈퍼컴퓨터 등 다른 핵심 기술의 수출을 제한했고, 일각에서는 AI 모델에 대한 접근을 차단해야 하는지 논의한 적도 있다. 그러나 소프트웨어 자체에 대한 제한으로 인해 헌법적, 상업적 차원에서 여러 우려가 제기되었습니다.
Anthropic은 정부가 최근 출시된 Mythos 파생물 Fable 5에 "탈옥"(즉, 보안 울타리 우회) 가능성이 있다는 사실을 발견했기 때문에 명령을 내렸다고 말했습니다. 회사는 이전에 Fable 5가 사이버 보안 작업을 수행하는 것을 금지했습니다.
Anthropic은 공식 웹사이트에 게시한 게시물에서 "우리는 제한된 잠재적 탈옥 위험 때문에 수억 명의 사용자를 대상으로 하는 상용 모델을 리콜하는 것이 부적절하다고 생각합니다"라고 말했습니다. "업계 전체가 이 표준을 구현한다면 모든 주요 모델 제공업체의 새로운 모델 배포는 기본적으로 중단될 것입니다."
국가 안보라는 이름으로 정부는 일련의 AI 모델에 대해 광범위한 제한을 시행했습니다. 이러한 움직임은 OpenAI, Google 모회사인 Alphabet, Meta 등 모든 주류 AI 모델 개발자에게 선례가 될 수 있습니다. 엔비디아 CEO 젠슨 황(Jensen Huang), 오픈AI CEO 샘 알트만(Sam Altman) 등 업계 리더들은 이전에 미국 정부에 대신 미국 AI 시스템의 글로벌 대중화를 촉진하고 국가의 선도적 우위를 유지할 것을 촉구한 바 있다.
앤트로픽은 금요일 뉴욕 시간 오후 5시 21분에 정부 명령을 받았다고 밝혔다. 금요일 퇴근 전에 내려진 이 명령은 트럼프 행정부가 이전에 발표한 성명과 정부가 모델 검토를 위한 라이선스 시스템을 시행하지 않을 것이라고 최근 서명한 행정 명령과도 상반된다.
금요일의 명령은 또한 Anthropic과 Trump 행정부 일부 사이의 오랜 긴장을 악화시킬 수 있습니다. AI 개발자는 올해 초 자사 기술을 군사 및 감시 목적으로 사용하는 문제를 두고 국방부와 충돌했습니다. 분쟁 이후 정부는 이 회사를 미국 공급망 위험 요소로 지정하고 연방 기관에 해당 제품을 단계적으로 중단하도록 명령했습니다.
오랫동안 스스로를 '더 책임감 있는 AI 개발자'로 자처해 온 비상장 기업 앤트로픽(Anthropic)은 올해 4월 처음으로 극소수 기업과 기관에 미토스(Mythos) 모델을 공개하면서 네트워크 보안 취약점을 발견할 수 있는 능력이 있고 대규모 배포의 위험성이 너무 높다고 경고했다.
한정판 출시로 Anthropic과 Trump 행정부의 갈등이 완화될 수 있다는 징후가 있습니다. 미국 정부가 핵심 연방 기관에서 Mythos 버전을 사용할 수 있도록 준비하고 있다는 보고가 있었습니다.
Mythos는 또한 트럼프 행정부에 AI 정책 수립을 가속화하도록 압력을 가했습니다. 최근 발표된 행정 명령에서는 자발적 모델 검토 시스템의 시행을 제안하고 해당 행정 명령이 강제 라이센스 시스템을 구성하지 않는다는 점을 분명히 했습니다.
미국의 AI 개발자들은 가장 진보된 모델을 출시하고 투자자들에게 해당 기술이 수익성이 있을 수 있음을 입증하기 위해 경쟁하고 있으며 최근 정부 제한은 이러한 추세를 방해합니다. SpaceX의 역사적인 IPO에 이어 OpenAI와 Anthropic은 모두 올해 안에 상장할 계획입니다.
최첨단 AI 모델을 출시할 기회를 잡기 위해 Anthropic은 이달 초 장문의 블로그를 게시하여 정부와 AI 개발자가 잠재적인 위험을 피하기 위해 기술 연구 및 개발을 언제 늦출지 공동으로 결정할 수 있는 메커니즘 구축을 요구했습니다.
회사는 당시 블로그 게시물에서 “위험한 AI 연구 및 개발을 시연하거나 일시적으로 중단하는 것 중 하나를 선택하는 것이 세계를 위한 최선일 것”이라고 말했습니다. AI 기술은 빠르게 발전하고 있으며, 그 효율성은 인간의 작업 효율을 수천 배로 높이거나 심지어 인간의 작업을 대체할 수 있어 일련의 새로운 위험을 야기할 수 있습니다.
유럽연합 집행위원회는 Anthropic의 성명을 평가하고 있으며 고급 AI 모델과 관련된 잠재적 위험 및 사이버 보안 문제에 대해 동맹국과 계속 소통하고 있다고 밝혔습니다. 유럽연합 집행위원회는 최근의 발전이 유럽이 기술 자율성을 촉진해야 할 필요성을 강조했다고 덧붙였습니다.