요약:
구테흐스 유엔 사무총장은 현지 시간으로 수요일(현지시간) 각국 지도자들에게 급속히 발전하는 인공지능(AI)이 무시할 수 없는 위험을 가져오고 있으며, 세계는 AI 안보 분야에서 바닥까지 경쟁하는 위험을 감당할 수 없다고 경고했다. 이 발언은 앞서 기존 규제 조치로 충분하다고 밝힌 트럼프 미국 대통령과 배치된다.
다음 주 뉴욕에서 열리는 유엔 총회를 앞두고 구테레스는 AI 규제 강화가 세계 지도자들과의 회담에서 논의되는 핵심 쟁점 중 하나가 될 것이라고 말했습니다.
기자회견에서 구테레스는 "전 세계적으로 우리가 직면한 위협을 살펴보면서 AI의 급속한 발전으로 인해 점점 커지고 있는 우려에 대해 몇 가지 추가 의견을 제시하고 싶습니다"라고 말했습니다.
그는 다음과 같이 덧붙였습니다. "AI는 지속 가능한 개발을 향한 진전을 가속화하고, 학습을 개선하고, 의료 시스템을 강화하고, 기후 변화에 대한 회복력을 높이는 등 많은 일을 할 수 있는 엄청난 잠재력을 가지고 있습니다."
그러나 그는 또한 다음과 같이 지적했습니다. "AI 개발에 참여하는 사람들이 점점 더 많은 사람들이 경고를 보내고 있습니다. 그들은 AI의 개발 속도가 우리가 이해하는 잠재적 위험을 초과하고 있다고 우려하고 있습니다."
"특히 AI 개발의 최전선에 있는 사람들이 제기하는 우려를 무시할 수 없습니다. 모든 정부의 첫 번째 책임은 시민을 보호하는 것이며 여기에는 AI로 인한 위협으로부터 시민을 보호하는 것도 포함됩니다."
AI의 잠재적 위험에 대한 대중의 우려가 계속 높아지면서 관련 경고도 점점 더 많아지고 있습니다. 인류학 연구자인 제이콥 콕슨(Jacob Coxon)은 지난 주 "AI 개발에 실제로 참여하는 사람들은 이 기술이 2010년이 끝나기 전에 우리 모두를 죽일 수 있다고 진지하게 믿고 있기 때문에 부분적으로 사임했다"고 말했습니다. 동시에 세계 최대 AI 기업의 경영진도 기술 개발 속도를 늦춰야 한다고 요구했습니다.
트럼프 대통령은 월요일 미국이 AI 기업을 감독하고 책임을 묻기 위한 관련 '가드레일' 조치를 확립했다고 말했습니다. 그는 또한 이전에 업계 임원들이 표현한 우려를 경시했습니다.
구테레스는 오랫동안 글로벌 인공지능 거버넌스 메커니즘 구축을 추진해 왔습니다. 2023년 유엔은 미국, 러시아, 일본 등 국가의 기술기업 임원, 정부 관계자, 학자 등 39명으로 구성된 고위급 인공지능 자문기구를 설립했다.
여러 외교관들은 다음 주 유엔 연례 회의를 위해 세계 지도자들이 뉴욕에 모일 때 유엔 안보리가 AI 문제에 관한 회의를 열 수도 있다고 말했습니다. 유엔 안전보장이사회는 2023년 AI 문제에 관한 첫 번째 회의를 개최했습니다.
구테레스는 AI 프론티어에서 가장 강력한 기술 역량을 보유한 국가는 "최하위 경쟁에 빠지지 않도록(즉 참가자가 지속적으로 기준을 낮춤으로써 경쟁 우위를 확보하기 위해) 의사소통 및 정보 교환 메커니즘을 확립하고 몇 가지 공통 안전 가드레일을 개발해야 하며, 그렇지 않으면 이 경쟁이 언젠가 전 세계적으로 거대한 재앙으로 이어질 수 있다"고 말했습니다.
구테레스는 다음과 같이 주장했습니다. “AI의 안전하고 책임감 있는 개발을 보장하는 동시에 AI 시스템의 기능이 계속 향상됨에 따라 잠재적인 위험을 해결하기 위해 더 강력한 안전 가드레일이 필요할 수 있거나 추가 조치가 필요할 수 있는 시기도 명확히 해야 한다는 공통된 이해를 구축해야 합니다.”
관련 기사:
UN 사무총장은 다음과 같이 경고합니다. 인공 지능의 개발 속도는 규제 규칙 업데이트 속도를 훨씬 초과했습니다.
댓글