요약:
기술 언론 보도에 따르면 미국과 중국은 여러 분야에서 전략적 경쟁을 벌이고 있지만 심각한 국가 안보 위협이 될 수 있는 위험한 인공지능 사고가 발생할 경우 서로에게 조기 경고를 발령하기 위해 중국과 안보 통보 메커니즘 구축을 추진하고 있습니다.
이 아이디어는 Atlantic Council과 Security Exploration International이 공동으로 제안한 것입니다. 이 메커니즘의 핵심 목표는 특별한 조기 경보 채널을 구축해 심각한 인공지능 보안 사고가 지정학적 위기나 군사적 갈등으로 발전하기 전에 양국이 적시에 서로 접촉할 수 있도록 하는 것입니다. 보고서는 인공지능 기술의 급속한 발전으로 인해 자동화된 시스템은 인간의 직접적인 통제 없이 예상치 못한 심각한 결과를 초래할 가능성이 매우 높기 때문에 이러한 소통의 가교를 구축하는 것이 중요하다고 지적했다.
제안에 따르면 알림 메커니즘은 고위험 시나리오의 네 가지 주요 범주에 중점을 둡니다.
첫째, 자율 AI 시스템은 통제력을 상실하고 심각한 실제 피해를 초래합니다.
둘째, 핵무기, 화학무기, 생물무기 등 대량살상무기와 관련된 AI 안전사고
셋째, 고위험 AI 모델이나 관련 핵심 기술의 우발적인 유출
넷째, 대규모 AI 네트워크 공격은 중요 인프라를 표적으로 삼아 엄청난 피해를 입힙니다.
이런 메커니즘을 구축하겠다는 구상은 냉전시대 미국과 소련이 핵전쟁 발발을 막기 위해 설정한 직통전화 '레드라인'과 매우 유사하다는 게 전문가 분석이다. 중국과 미국의 기술 기업과 연구 기관은 이미 AI 보안 표준 및 위험 관리에 대한 예비 대화를 진행했지만, 이러한 협력이 공식적으로 정부 수준의 보안 메커니즘으로 격상될 수 있다면 기술 오판으로 인한 주요 국제 위기 위험을 크게 줄이고 글로벌 AI 거버넌스에 중요한 지원을 제공할 것입니다.
댓글