미국 인공지능(AI) 기업 오픈AI(OpenAI)의 CEO 샘 알트먼(Sam Altman)은 최근 직원들에게 보낸 내부 메모에서 이 회사가 미국 국방부(국방부)와의 잠재적인 협력과 관련하여 경쟁사인 앤트로픽(Anthropic)과 동일한 "레드라인"을 고수할 것이라고 밝혔습니다. 즉, 자체 인공지능 기술이 대량 감시 또는 완전 자율 살상 무기 시스템에 사용되는 것을 거부하는 것입니다.
알트만은 메모에서 OpenAI가 대규모 감시에 대한 기술 지원을 제공하지 않을 것이며 치명적인 공격을 자율적으로 결정할 수 있는 무기 시스템 개발에 참여하지 않을 것이라고 강조했습니다. 이는 Anthropic이 이전에 국방부와의 협상에서 주장한 결론과 매우 일치합니다. 위의 두 가지 유형의 용도에 대한 양보를 거부한 Anthropic은 미국 국방부와의 세간의 이목을 끄는 고위험 게임으로 이어졌습니다.
이 성명은 군사 AI 분야에서 국방부의 배치가 새로운 불확실성에 직면하게 만듭니다. 이전에 Anthropic의 대규모 언어 모델인 Claude는 미군의 가장 민감한 비즈니스 시나리오에 처음으로 통합되었으며, 국방부가 최첨단 AI 기술의 군사적 적용을 촉진하는 중요한 단계로 간주되었습니다. 이제 OpenAI와 Anthropic이 주요 윤리적 경계에 대해 일관성을 유지하고 Google과 같은 다른 선도 기업이 유사한 입장을 따른다면 국방부는 대안을 찾을 때, 특히 매우 민감한 군사 임무에 범용 대형 모델을 배포할 때 협상과 기술 획득에 더 큰 저항에 직면하게 될 것입니다.
군사 AI를 둘러싼 기술적, 윤리적 논쟁이 미국 기술 기업과 정부 부서 사이에서 심화되고 있습니다. 한편으로 미 국방부는 일반 인공 지능을 사용하여 정보 분석, 전투 지휘 및 전장 의사 결정 능력을 향상하고 더 높은 수준의 자동화 애플리케이션을 탐색하기를 희망합니다. 반면, 많은 선도적인 AI 기업들은 비즈니스 기회와 윤리적 책임 사이의 균형을 추구하고 있으며, "제한선"을 설정하여 대량 감시 및 자율 살상 무기와 같은 민감한 분야의 기술 확산을 제한하려고 노력하고 있습니다.
Altman의 발언은 국방부와 Anthropic의 차이점이 공개된 후 군사 AI의 최종선에 대한 또 다른 핵심 플레이어의 명확한 위치로 간주됩니다. 미국의 고도로 집중된 AI 산업의 맥락에서 주류 기업이 윤리적 경계에 대한 합의에 도달하면 이는 군대의 향후 일반 AI 기능 획득 및 배포 경로와 속도에 심각한 영향을 미칠 것입니다. 또한 미국에서 군사 AI 감독 및 국제 규칙에 대한 추가 토론과 게임을 촉진할 수도 있습니다.
관련 기사:
Anthropic은 2억 달러 규모의 국방 계약을 철회할 준비를 하고 있으며 미국 국방부 장관은 기술 공유를 강요하겠다고 위협했습니다.
미국 국방부는 인류 AI 도구의 무제한 사용에 대한 공개 기한을 정했습니다.