요약:
목요일 미국 연방 판사는 국방부가 인공 지능 회사인 Anthropic을 블랙리스트에 올리는 것을 차단했습니다. 이는 전장에서 인공지능의 안전성을 두고 클로드 모델 개발자와 미군 사이에 벌어진 중대한 논쟁의 최신작이다. 앤트로픽(Anthropic)은 피트 헤그세스(Pete Hegseth) 미 국방장관이 회사를 '국가 안보 공급망 위험'으로 지정해 자신의 권한을 초과했다고 주장하며 캘리포니아 연방법원에 소송을 제기했다. 관련 규정에 따라 정부는 군사 시스템을 적대 세력의 침투 또는 파괴 위험에 노출시킬 수 있는 기업에 대해 이러한 결정을 내릴 수 있습니다.
Hegseth의 이 드문 움직임으로 인해 Anthropic은 이전에 일부 군사 계약을 체결하지 못했습니다. 이번 결정은 앤트로픽(Anthropic)이 미군이 클로드(Claude) 인공지능 모델을 미국 내 감시 또는 자율 무기로 사용하는 것을 거부한 이후 나온 것이다. Anthropic 경영진은 이번 조치로 인해 회사에 수십억 달러의 사업 손실이 발생하고 평판이 손상될 수 있다고 말했습니다.
미국 조 바이든 전 민주당 대통령이 임명한 리타 린 지방판사는 59쪽 분량의 판결에서 국방부의 결정이 "불법적이고 근거가 없다"고 말했다.
그녀는 "국가 안보에 대한 무모한 호소는 정부 비판자들에 대한 처벌과 보복을 위한 무제한의 권한이 될 수 없다"고 썼습니다.
앤트로픽은 이번 판결을 환영하며 성명을 통해 “모든 미국인이 이 기술의 혜택을 누릴 수 있도록 국가 안보를 위해 인공지능을 사용하기 위해 정부와 생산적으로 협력하는 데 계속 집중하고 있다”고 밝혔다.
미 국방부는 논평 요청에 즉각 응답하지 않았습니다.
Anthropic은 인공지능 모델이 아직 자율 무기에 사용될 만큼 안전하지 않다고 믿습니다. 동시에 회사는 권리를 침해한다며 국내 감시에 반대한다. 미 국방부는 민간 기업이 군사 작전을 제한할 권한을 가져서는 안 된다고 말했습니다.
국방부의 지정은 미국 정부가 군사 시스템을 외국 방해 행위로부터 보호하기 위해 고안된 잘 알려지지 않은 정부 조달 규정에 따라 공급망 위험으로 미국 기업을 공개적으로 나열한 최초의 사례입니다.
앤트로픽은 지난 3월 9일 제기한 고소장에서 인공지능 안전에 대한 정부의 입장에 대한 보복이 미국 수정헌법 제1조에 보장된 표현의 자유를 침해했다고 주장했다. 회사는 또한 정부가 결정을 내리기 전에 헌법 수정 제5조에 의해 보장된 적법 절차 권리를 위반했다고 말했습니다.
소송에서는 이번 결정이 불법이고, 사실적 근거가 부족하며, 과거 클로드에 대한 군의 긍정적인 태도와 배치된다는 점을 지적했다.
미국 법무부는 법원 문서에서 Anthropic이 관련 제한 해제를 거부하면 국방부가 Claude의 사용 범위를 결정하는 것을 방해할 수 있으며 작전 중 군사 시스템이 실패할 수 있다고 반박했습니다.
정부는 이번 조사가 앤트로픽이 인공지능 안전성에 대한 견해가 아니라 계약 조건 수락을 거부한 데서 비롯됐다고 밝혔다.
또한 Anthropic은 현재 국방부가 내린 또 다른 공급망 위험 결정에 대해 워싱턴 D.C.에서 두 번째 소송을 제기하고 있습니다. 지정으로 인해 해당 회사는 민간 정부 계약에서 제외될 수 있습니다.
댓글