3월 9일, 미국 인공지능 기업 앤트로픽(Anthropic)이 국방부를 고소한 사건에서 새로운 전개가 나왔다. OpenAI와 Google DeepMind의 30명 이상의 직원은 미국 국방부(DOD)를 상대로 한 소송에서 Anthropic의 입장을 공개적으로 지지하는 공동 성명서를 법원에 제출했습니다.
법원 문서에 따르면 성명서는 Anthropic을 "공급망 위험"으로 분류하기로 한 정부의 결정은 부적절하고 자의적인 권력 사용이며 전체 인공 지능 산업에 심각한 결과를 초래할 수 있다고 명시했습니다. 서명자에는 Google DeepMind의 수석 과학자인 Jeff Dean과 기타 업계 주요 기술 인사가 포함됩니다.
이전에 미국 국방부는 공식적으로 인류를 "공급망 위험"으로 식별했습니다. 이 레이블은 일반적으로 "외국의 적"에게만 적용됩니다. 보고서에 따르면, 그 방아쇠는 국방부가 AI 기술을 사용하여 미국 시민에 대한 대량 감시를 수행하거나 자율 사격 무기 시스템을 수행하는 것을 Anthropic이 거부한 것입니다. 국방부는 그 사용이 '합법적'인 한 민간 계약자에 의해 제한되어서는 안 된다고 주장했습니다.
Anthropic이 국방부와 기타 연방 기관을 상대로 두 건의 소송을 제기한 후, 자신의 입장을 뒷받침하는 이 "amicus Brief"가 사건 파일에 즉시 등장했는데, 이는 군사 AI 애플리케이션의 경계를 둘러싼 업계 내 긴장을 보여줍니다. 이번 의견서를 최초로 공개한 사람은 '와이어드' 매거진인 것으로 전해졌다.
법원에 제출된 문서에서 이들 구글과 오픈AI 직원들은 미 국방부가 앤트로픽과의 기존 계약 조건에 '더 이상 만족하지 않을 경우' 공급망 위험 식별을 통한 '처벌'보다는 직접 계약을 해지하고 다른 주요 AI 기업의 구매 서비스로 전환할 수 있다는 점을 강조했다.
실제로 Anthropic이 공급망 위험으로 분류된 것과 거의 동시에 국방부는 OpenAI와 새로운 협력 계약을 체결했으며, 이는 OpenAI 내 일부 직원의 강력한 항의를 촉발하기도 했습니다. 이들 직원들은 민감한 테스트를 수행하기 위해 군이 대규모 상업용 모델을 사용하는 것이 안전 경계에 대한 업계의 합의에 영향을 미칠 것이라고 우려하고 있습니다.
의견서는 이러한 '징벌적' 조치가 계속된다면 인공지능과 더 넓은 과학 산업 분야에서 미국의 경쟁력이 필연적으로 약화될 것이라고 경고했다. 문서에는 또한 이러한 접근 방식이 업계에서 현대 AI 시스템의 위험과 이점에 대한 공개 토론을 위축시키고 기술 커뮤니티가 보안 문제에 대해 솔직하게 토론하는 것을 방해할 것이라고 명시되어 있습니다.
현재 AI 사용에 대한 서면 공개 법적 프레임워크가 부족한 상황에서 이 문서는 개발자가 계약 조건 및 기술적 수단을 통해 시스템에 부과하는 다양한 제한이 AI의 치명적인 남용을 방지하는 중요한 안전 밸브라고 믿습니다. 대규모 감시와 자율 살상 시스템 참여를 거부하는 등 앤트로픽이 군과 협력하면서 그은 '레드라인'은 합동참모부가 '국가안보에 대한 장애'라기보다는 합리적이고 필요한 보안요건으로 보고 있다.
법원 성명서에 서명한 직원 중 다수가 이전에 국방부에 Anthropic의 공급망 위험 식별을 취소할 것을 요구하는 공개 서한에 서명했으며 회사 경영진에게 Anthropic을 공개적으로 지원하고 방어되지 않은 조건에서 일방적으로 사용하기 위해 자체 AI 시스템을 군대에 제공하는 것을 거부하겠다고 약속했다는 점은 주목할 가치가 있습니다.
업계 분석가들은 이번 사건이 AI 기업이 계약 수준에서 자체 안전 이익을 준수할 수 있는지 여부뿐 아니라 미국이 국가 안보 요구와 AI 보안 거버넌스 사이에 선을 긋는 획기적인 사건이 될 것이라고 보고 있다. 소송이 진행됨에 따라 군용 AI 애플리케이션을 둘러싼 기술 기업, 직원, 정부 간의 게임은 더욱 확대될 것으로 예상됩니다.
관련 기사:
Anthropic은 국가 안보 블랙리스트에 포함되는 것을 막기 위해 미국 국방부를 고소했습니다.