최근 10명의 노벨상 수상자와 2명의 전직 국가 정상은 국제적 차원에서 위험 관리와 통제를 촉진하기 위해 2026년 말까지 인공지능(AI) 개발을 위한 '제한선'을 설정해야 한다고 모든 국가에 공동으로 촉구했습니다. 이 성명서는 OpenAI, Google DeepMind 및 Anthropic의 고위 직원을 포함하여 200명 이상의 서명자가 공동으로 발표했습니다.
성명서는 AI로 인해 발생할 수 있는 공학적 전염병, 실업 위험 등의 문제가 전 세계적으로 광범위한 관심을 끌고 있음을 강조했으며, 많은 전문가들은 향후 몇 년 내에 AI 시스템에 대한 효과적인 인간 통제를 구현하는 것이 어려울 수 있다고 경고했습니다.
이번 소집은 유엔 총회 소집과 동시에 이루어지며 전 세계적 합의를 촉진하는 데 큰 의미가 있습니다. 다만 미국의 반대 등으로 단기적으로 구체적인 거버넌스 방안을 추진하기는 어려울 것으로 예상된다. 서명자로는 힌튼, 벤지오, AI 분야의 저명한 학자인 '경제학자' 스티글리츠, 산토스 전 콜롬비아 대통령, 메리 로빈슨 전 아일랜드 대통령, 레타 전 이탈리아 총리를 비롯해 다수의 전직 정부 장관, 과학자, 외교관 등이 포함됐다. 배우 스티븐 프라이(Stephen Fry)도 목록에 포함되어 있다는 점은 언급할 가치가 있습니다. OpenAI 공동 창업자인 보이치에흐 자렘바(Wojciech Zaremba), 딥마인드(DeepMind) 수석 과학자 이안 굿펠로우(Ian Goodfellow) 및 기타 기술 회사 임원들도 서명에 참여했지만 세 회사의 CEO는 합류하지 않은 것으로 보입니다.
성명서는 일부 고급 AI 시스템이 기만적이고 유해한 행동을 보였지만 이러한 시스템은 더 많은 자율성을 확보하고 현실 세계에서 조치를 취하고 결정을 내릴 수 있다고 지적했습니다. 따라서 "위험선"에 대해 명확하게 정의되고 검증 가능한 국제 협약의 수립은 허용할 수 없는 위험을 방지하는 데 필요한 조치가 되었습니다. 서명자들은 이러한 레드 라인이 2026년 말까지 시행되고 시행 메커니즘이 수반되기를 희망합니다.
성명서는 AI 거버넌스에 대한 한계선을 구체적으로 나열하지 않았지만 지난해 또 다른 문서에서는 AI의 자율 복제, 권력 추구, 자동 사이버 공격 실행 및 '샌드백 행위'를 금지할 것을 권고했습니다. 이 제안은 바이두 전 회장 장야친, 베이징인공지능학회 회장 황철쥔 등 많은 중국 과학자들의 지지를 받고 있다.
또한 유엔은 최근 국제 AI 과학 자문위원회(기후 변화에 관한 정부 간 패널 IPCC와 유사)와 글로벌 AI 거버넌스 대화 메커니즘을 설립하여 AI의 글로벌 거버넌스를 향한 중요한 발걸음을 내딛을 것이라고 발표했습니다. 그러나 미국 정부의 부정적인 태도로 인해 관련 조치의 추진은 여전히 저항에 직면해 있다. 올해 7월 트럼프 행정부가 발표한 '미국 AI 행동 계획'에 따르면, 미국은 AI 개발을 위해 같은 생각을 가진 국가와의 협력을 지지한다는 입장을 표명하면서도 '과도한 규제', 문화적 의제에 기반한 모호한 행동 규칙, 중국 기업이 참여하는 거버넌스 계획에는 분명히 반대한다. 이달 초 미국 상원의원 테드 크루즈는 의회가 AI 규제를 제정하는 '기둥' 중 하나가 '과도한 외국 규제에 맞서 싸우는 것'이라고 말했다.
그럼에도 불구하고, 성명서는 AI의 잠재력과 위험에 대한 전 세계적인 우려가 계속 커지고 있음을 보여줍니다. 코로시 전 유엔총회 의장은 논평에서 “인류는 역사상 자신보다 더 높은 지능을 만난 적이 없으며 앞으로 몇 년 안에 인류는 그러한 도전에 직면하게 될 것”이라고 지적했다.