유엔이 설립한 최초의 독립적인 인공지능 과학 전문가 패널은 인공지능(AI)의 급속한 발전이 전 세계 국가와 사람들에게 막대한 잠재적 이익을 가져왔지만 큰 위험도 따른다는 예비 평가 보고서를 발표했습니다. 이 보고서는 7월 6일부터 7일까지 제네바에서 열리는 제1차 유엔 글로벌 인공지능 거버넌스 대화에서 각국 정부에 제출될 예정입니다. 이는 전 세계적으로 인공지능에 대한 최초의 독립적인 과학적 평가입니다. 완전하고 포괄적인 버전이 내년에 출시될 것으로 예상됩니다.
이 보고서는 정부, 기관 또는 회사에 직접적으로 구속되지 않고 3년 임기 동안 개인 자격으로 참여했으며 의사 결정자에게 독립적인 과학적 증거를 제공하는 것을 목표로 하는 전 세계 모든 지역의 40명의 주요 과학자 및 전문가가 공동으로 작성했습니다. 보고서는 인공 지능 기능이 급속히 발전하는 상황에서 정책 입안자들이 규제 프레임워크를 공식화하기 위해 신뢰할 수 있는 과학적 근거가 시급히 필요하다고 지적합니다. 그러나 현재 일부 고도로 자율적인 시스템에 대한 과학계의 이해는 여전히 뒤처져 있으며 사회와 정부의 적응력도 확실히 부족합니다. 이러한 유형의 고도로 자율적인 인공 지능을 억제하는 효과적인 도구는 여전히 제한적입니다.
전문가 패널 공동 의장인 요슈아 벤지오(Yoshua Bengio)는 보고서에서 인공 지능의 "기만적인 행동"에 대한 과학적 증거가 늘어나고 있다고 강조했습니다. 그는 시스템 성능이 더욱 향상됨에 따라 인공 지능이 치명적인 피해를 가져오지 않을 것이라고 과학적 연구를 통해 보장할 수 없다고 지적했습니다. 이러한 피해는 시스템 자체의 동작이나 악의적인 동기를 가진 사용자로부터 발생할 수 있습니다. 보고서는 “인공지능의 잠재적인 이점은 엄청나다”고 결론을 내렸지만, 대규모의 신속한 배포 시 적절한 제약과 신중한 계획이 부족하다면 기술의 부정적인 영향을 무시할 수 없다고 경고합니다.
보고서는 인공지능의 급속한 발전이 사회, 경제, 환경 시스템을 근본적으로 변화시키고 있으며 사용자의 정신 건강에도 도전을 제기하고 있다고 지적합니다. 긍정적인 측면에서는 인공지능 애플리케이션이 교육, 의료, 과학 연구, 산업 생산 등 다양한 분야에서 효율성을 향상하고 새로운 가치를 창출하는 능력을 입증했습니다. 그러나 부정적인 측면에서는 AI가 파괴적인 도구로 사용될 수 있거나 정보와 감정을 조작해 대중의 신뢰, 사회적 결속, 민주적 심의(심의 토론)를 훼손할 수 있다고 경고했다.
이번 예비 평가에 따르면, 전 세계적으로 10억 명이 넘는 사람들이 매주 대화형 AI를 사용하고 있지만, 적용 수준은 국가 및 산업별로 매우 고르지 않으며, 개발도상국은 일반적으로 접근 및 사용 측면에서 뒤쳐져 있습니다. 보고서에 인용된 데이터에 따르면 컴퓨팅 파워 집중도 측면에서 전 세계 인공지능 슈퍼컴퓨터 상위 500대 중 미국이 컴퓨팅 파워의 약 75%, 중국이 약 15%를 차지하고 있어 현재 인공지능 인프라가 일부 국가에 고도로 집중되어 있음을 부각시킨다.
보고서는 언어 수준의 심각한 불균형에도 주목했다. 전 세계에는 7,000개 이상의 언어가 있지만 현재 주류 인공지능 모델은 그 중 아주 적은 수의 언어만을 훈련에 포함하고 있습니다. 많은 언어에서 기계 번역 품질 문제가 두드러지며 오류는 일상적인 의사 소통에 영향을 미칠 뿐만 아니라 의료 진단 및 치료 의사 결정과 같이 개인 안전에 매우 민감한 시나리오에서 심각한 결과를 초래할 수도 있습니다.
전문가 패널은 인공지능 확산으로 인한 위험성이 여러 분야에서 뚜렷이 드러나기 시작했다고 지적했다. 여기에는 인공지능에 의해 생성된 아동 성적 학대 콘텐츠와 인터넷에서 딥페이크 기술을 사용하여 구현된 성폭력 콘텐츠의 빈도 증가 등 인권, 사회 시스템 및 자연 환경에 대한 잠재적인 부정적인 영향이 포함됩니다. 보고서는 관련 현상으로 인해 콘텐츠 감독, 형사사법, 초국가적 협력 측면에서 명백한 약점이 드러났다고 보고 있으며, 기술적, 제도적 차원에서 동시에 대응 강화가 시급하다고 보고 있다.
정보환경 측면에서 보고서는 인공지능이 '설득력 있는 콘텐츠'의 대규모 생산과 정확한 타겟 전파의 문턱을 크게 낮췄다고 경고했다. 이러한 추세는 정보 무결성의 점진적인 침식으로 이어질 수 있으며, 이로 인해 미디어와 기관에 대한 대중의 신뢰가 침식되고, 사회적 결속이 훼손되며, 사실과 합리적인 토론에 의존하는 민주적 절차의 심의 메커니즘을 방해할 수 있습니다. 전문가들은 이러한 변화에 직면하여 전통적인 정보 보안 및 미디어 규제 프레임워크가 부족해졌으며 거버넌스 아이디어를 업데이트하고 국제 조정을 강화해야 한다고 믿습니다.
보고서는 또한 일부 선진국을 포함한 대부분의 국가가 가장 강력한 최신 인공지능 모델에 대한 기술적 평가를 수행할 능력이 부족하며, 이러한 시스템의 글로벌 거버넌스에 영향을 미칠 수 있는 실질적인 기술적 참여를 갖기가 어렵다고 지적했습니다. 이러한 기술적 역량과 자원의 격차는 인공지능 안전 표준 수립과 위험 예방 및 통제에 있어 국제적 불평등을 더욱 악화시켰습니다. 전문가 그룹은 다자간 협력 메커니즘과 역량 구축 프로젝트를 통해 더 넓은 범위의 국가가 평가 및 규제 역량을 향상할 수 있도록 지원함으로써 글로벌 거버넌스에서 보다 대표적인 목소리를 형성할 것을 촉구했습니다.
이 예비 보고서는 유엔 글로벌 인공지능 거버넌스 대화에서 정부 및 관련 국제기구가 미래 규제 프레임워크와 협력 경로를 논의하는 핵심 참고 문서 역할을 할 것입니다. 전문가 그룹은 내년에도 최신 과학 연구 결과와 실제 적용 사례를 지속적으로 수집하고 평가하여 제안된 종합 보고서에 대한 보다 상세하고 체계적인 증거 기반을 제공함으로써 모든 당사자가 위험 예방 및 통제와 기술 혁신 간의 보다 안정적인 균형을 모색할 수 있도록 지원할 계획이라고 밝혔습니다.