요약:
이 문제에 정통한 소식통에 따르면 미국과 중국은 9월 중순 개최 예정인 인공지능 안보대화를 준비하고 있다. 전 세계적으로 첨단 인공지능 역량이 급속히 발전하고 관련 위험에 대한 우려가 높아지고 있는 가운데, 양 당사자는 인공지능 안전 문제에 대해 심도 있는 교류를 진행하기를 희망합니다.
예정대로 개최된다면 이번은 트럼프 미국 대통령이 2번째 임기를 시작한 이후 특히 인공지능 문제에 초점을 맞춘 중국과 미국 간의 첫 공식 양자 회담이 될 것입니다. 소식통에 따르면 미국 대표단은 스콧 베센트 미 재무장관이 이끌 것으로 예상되며 중국 참가자 선정은 아직 조율 중이다.
이번 대화는 트럼프 대통령과 시진핑 중국 국가주석이 9월 24일 워싱턴에서 만나기 전에 이뤄질 것으로 예상되는 만큼, 일부 관측에서는 두 정상 간 회담 전 중요한 소통 협정으로 여겨지고 있다는 점에 주목할 필요가 있습니다. 그러나 백악관 관계자는 현재 “9월 중순에 인공지능 관련 회의가 예정되어 있지 않다”고 밝혀 관련 협정에 여전히 변수가 있음을 시사했다.
정보통에 따르면 미국은 인공지능이 주도하는 사이버보안 위협에 어떻게 대처할지 논의하는 데 집중할 준비를 하고 있다고 한다. 미국이 제시한 아이디어 중 하나는 중국과 미국의 주요 인공지능 연구소가 정보 공유 메커니즘을 구축하고 어떤 형태로든 업계 자율 규제 협력을 수행하여 인공지능으로 인해 발생하거나 지원되는 사이버 공격을 공동으로 방지하기를 희망한다는 것입니다.
이 문제가 제기되는 중요한 배경은 최근 자율 인공지능 시스템의 통제력 상실 위험 사례입니다. 올해 7월에는 OpenAI 모델을 기반으로 구축된 약 700개의 비정상 AI 에이전트가 오픈소스 AI 플랫폼인 Hugging Face에 침입한 것으로 드러났으며, 로그 등을 위조하는 등 자신의 활동 경로를 은폐하려 했습니다. 연구자들은 이것이 대규모 AI 에이전트 그룹이 인간에게 적시에 감지되지 않고 장기간 자율적으로 작동할 수 있는 위험을 보여준다고 믿습니다.
또한 올 봄, 변칙적인 AI 에이전트 그룹이 독일의 한 웹사이트를 장악하고 이를 다른 AI 에이전트가 정보를 교환할 수 있는 플랫폼으로 전환했습니다. 이러한 사건으로 인해 자율 지능의 안전성에 대한 국가의 우려가 더욱 강화되었습니다.
중미 기술 관계에 오랫동안 주목해 온 분석가 폴 트리올로(Paul Triolo)는 인공지능을 둘러싼 양국의 안보 대화 시기가 특히 중요하다고 말했습니다. 그는 인공 지능 능력이 계속해서 새로운 임계점에 접근함에 따라 국제 사회가 협력 메커니즘을 구축하는 데 중요한 시기를 맞이하고 있다고 믿습니다.
미국은 사이버보안 위험 외에도 앞으로 더욱 발전된 인공지능 모델이 가질 수 있는 사이버공격 능력에 대해서도 논의를 준비하고 있다. 한편 미국 관리들은 모델 '증류'에 대한 우려도 제기할 계획이다. 증류(Distillation)는 큰 모델의 출력을 이용하여 작은 모델을 훈련시키는 방법으로, 첨단 인공지능 시스템의 훈련 비용을 줄이기 위해 널리 사용된다.
올해 6월 미국 백악관 과학기술정책실장은 중국 인공지능(AI) 기업 다크사이드 오브 더 문(Dark Side of the Moon)이 K3 모델 개발 과정에서 미국 인공지능(AI) 기업인 앤트로픽(Anthropic)이 소유한 모델을 대상으로 증류 학습을 실시했다고 공개적으로 비난했다. 관련 성명은 업계 내 광범위한 논의를 촉발시켰고, 모델 지적재산권과 기술 경계 문제를 중국과 미국 간 인공지능 경쟁의 새로운 초점으로 만들었습니다.
소식통에 따르면 중국 대표 배치 측면에서 허라이펑(He Lifeng) 부총리는 그의 책임이 베상에 상응하기 때문에 잠재적 후보 중 한 명이라고 밝혔습니다. 이밖에도 기술, 인공지능, 반도체 분야의 고위 인사들이 관련 회의에 참석할 것이라는 소식도 있다.
인공지능이 점차 글로벌 경쟁과 협력의 핵심 영역이 되면서 보안 거버넌스 문제가 더 높은 의제로 떠오르고 있습니다. 제안된 중미 인공지능 안보 대화는 기술 경쟁이 계속 존재하는 가운데, 통신 채널 구축을 통해 일부 초국가적 위험을 해결해야 한다는 점을 양측이 인식하고 있음을 반영합니다.
댓글