요약:
Anthropic은 인공지능(AI) 안전에 대한 회사의 노골적인 옹호로 인해 정부의 보복 대상이 될 수 있다고 투자자들에게 경고했습니다. 이 의견은 지난 1년 동안 Trump 행정부와의 반복적인 마찰 이후 Anthropic의 미래 사업에 대한 정부 관련 위험이 잠재적으로 불균형한 영향을 미칠 수 있음을 강조합니다.
Anthropic은 IPO 서류에서 AI 규제에 대한 자사의 입장과 회사 경영진이 공개적으로 표현한 견해로 인해 상당한 정부 압력을 받을 수 있다고 밝혔습니다.
Anthropic은 투자 설명서에서 다음과 같이 언급했습니다. "우리는 지금까지 더 많은 관심을 받아왔고 앞으로도 계속해서 더 엄격한 조사를 받을 수 있습니다. 유사한 상황에 처한 다른 회사가 동일한 방식으로 대우받지 않더라도 특정 정부 기관의 표적이 될 수 있습니다."
9월 Anthropic CEO Dario Amodei가 회의를 위해 백악관에 도착했습니다.
Anthropic이 트럼프 행정부와 충돌한 것은 올해 초 국방부가 회사의 기술을 사용할 때 어떤 안전 가드레일을 설치해야 하는지에 대한 논쟁에서 비롯되었습니다. Anthropic은 최근 자사의 최첨단 Mythos 모델이 충분히 안전한지 여부를 놓고 정부 관리들과 갈등을 빚어 왔습니다. CEO 다리오 아모데이(Dario Amodei)는 보안팀이 기술 발전을 따라잡을 수 있는 시간을 주기 위해 AI 개발 속도를 공동으로 늦추는 것을 지지했는데, 이는 트럼프를 화나게 한 입장이다.
이제 투자자들은 인류가 직면한 규제 위험을 저울질해야 합니다. 이 회사의 기술은 사용하기 쉽고 일상적인 소비자 제품으로 판매될 수 있지만 사이버 무기로 간주될 만큼 강력하고 생물학적 전쟁의 촉매제로 간주될 수 있으므로 더욱 철저한 조사가 필요합니다. Anthropic의 경우 트럼프 행정부와의 반복적인 갈등은 전체 AI 산업이 직면한 불확실성에 또 다른 위험을 가중시킵니다.
코넬대학교 기술정책연구소 소장인 사라 크렙스(Sarah Kreps)는 "AI의 경우 정부 권력의 경계가 여전히 점차 명확해지고 있으며, 때로는 개별 기업과의 직접적인 대결을 거치기도 한다. 투자자들이 이러한 불확실성에 가격을 매기기는 어렵다"고 말했다.
Anthropic은 투자설명서에서 정부가 가져올 수 있는 다양한 부정적 영향을 공개했으며, 모델 강제 폐쇄, 심지어 AI 기업의 국유화까지 포함하는 일련의 연방 법안 제안을 언급했습니다. 올해 초 밴스 부통령 등 일부 관계자들은 냉전 시대 국방물자생산법을 활용해 기업에 정보 공개를 강제하고 국가 안보 기관과 협력하도록 하는 방안을 내놨다. 블룸버그는 이에 대해 보도했다.
Anthropic은 또한 무역 통제로 인해 기업이 해외 고객을 잃을 가능성과 모델 위법 행위로 인해 발생할 수 있는 법적 결과를 포함하여 정부 개입이 AI 개발 노력에 미칠 수 있는 위험을 나열했습니다. Anthropic은 회사가 개발 중인 시스템에서 취하는 조치를 "완전히 이해하거나 설명"하지 못할 수 있으며 결과적으로 자체 사업을 방해할 수 있는 규제 조치를 계속 추진할 것이라고 말했습니다.
Anthropic은 다음과 같이 말했습니다. "우리가 옹호하는 규제 또는 기타 유사한 조치가 채택되면 우리도 이러한 조치의 대상이 될 것이며, 새로운 규정은 규정 준수 부담을 증가시키고 제품 개발 또는 배포의 유연성을 제한하며 새로운 모델을 개발 또는 출시하는 방법과 시기에 영향을 미치거나 성장을 둔화시킬 수 있습니다."
Anthropic은 또한 자사가 개발하고 있는 기술이 궁극적으로 인간에게 위협이 될 수 있다고 경고했습니다. 이는 재앙적인 결과에 대한 실리콘 밸리의 많은 AI 연구자들의 두려움, 즉 트럼프와 그의 동맹국들이 "사기극"으로 일축했다는 두려움을 반영합니다.
9월에는 노스캐롤라이나주 채플힐에서 G20 회의가 열렸습니다. 혁신장관회의 밖에서 AI 반대 팻말을 들고 있는 시위자.
회사는 “첨단 AI 시스템이 적절한 안전 가드레일, 감독, 안전 조치 하에서 개발, 배포, 운영되지 않으면 인류에게 재앙적이거나 심지어 실존적인 위험을 초래할 수 있다”고 밝혔습니다.
Anthropic은 최근 AI 모델과 과학 연구를 결합하려는 노력이 치명적인 생물학적 무기의 생성을 방지하기 위한 제한으로 이어질 수 있다고 말했습니다. 해당 모델이 사이버공격에 악용될 경우, Anthropic은 법적 책임을 지게 될 수 있으며, 명예가 훼손될 수 있습니다.
Trump 행정부는 Anthropic의 규제자일 뿐만 아니라 회사 제품의 중요한 고객이기도 하므로 회사가 정부 결정에 더 많이 노출됩니다. Anthropic은 정부 기관과의 계약에서 직접 발생한 수익이 IPO 신청이 포함된 모든 기간 동안 총 수익의 약 1%를 차지했으며 데이터는 2023년까지 거슬러 올라간다고 말했습니다.
전 미국 상무부 산업안보국 차관이었던 윌리엄 레인쉬(William Reinsch)는 "앤트로픽의 상황은 다소 특별하다. 트럼프 행정부 시절 많은 조치가 매우 자의적이었고, 앤트로픽은 다른 회사와 다르게 대우받았기 때문"이라고 말했다.
전 백악관 국가안보회의 국장이자 현 전략국제문제연구소 전략 기술 프로그램 책임자인 매트 펄은 "우리는 인류를 비롯한 다른 주요 AI 기업이 결국 어떤 기관이 될지 모른다"며 "이런 상황은 본 적이 없다. 대기업의 최종 형태와 정부와의 가장 근본적인 관계가 이렇게 해결되지 않은 상태"라고 말했다.
댓글