강력한 기관들이 인공 지능의 잠재력과 함정을 깨닫고 있습니다. 가장 큰 문제는 실수가 한 번 발생하면 앞으로 나아갈 때 얼마나 많은 영향을 미칠 것인가입니다. 어제 유엔은 "인공지능의 국제 거버넌스에 대한 분석 및 권고사항 작성"을 목표로 정부, 학계, 업계 관계자 38명으로 구성된 새로운 인공지능 자문위원회를 설립한다고 발표했습니다.
유엔은 자문위원회가 국제기구의 인공지능과 관련된 다른 모든 이니셔티브를 포괄하는 가교 그룹 역할을 할 것이라고 말했습니다. 실제로 UN은 AI 전략과 접근 방식을 개발하는 과정에서 업계 리더 및 기타 이해관계자들과 한 달간 논의를 진행해 왔습니다. 유엔이 '퓨처 서밋' 행사를 개최하는 2024년 여름까지 인공지능에 대한 권고안을 제시한다는 계획이다. 새 자문위원회는 오늘 첫 회의를 가질 예정이다.
자문위원회는 기관의 임무가 "위험과 과제에 대한 글로벌 과학적 합의를 구축하고, AI를 활용하여 지속 가능한 개발 목표를 달성하도록 돕고, AI 거버넌스에 대한 국제 협력을 강화하는 것"이라고 말했습니다.
위원회가 처음 설립되었을 때 위원회에서 가장 주목할만한 점은 일반적으로 긍정적인 입장이었습니다. 현재 국가 안보 위협, 데이터 보호, 잘못된 정보 등 AI의 위험에 대해 많은 이야기가 있습니다. 다음 주에는 이 분야의 세계 지도자들과 전문가들이 영국에 모여 AI 보안 서밋에서 이러한 문제 중 일부를 다루려고 할 것입니다. 국내 및 국제 수준에서 형성된 이러한 계획과 기타 이니셔티브가 어떻게 협력하거나 관할권 밖의 조치를 실행할지는 불분명합니다.
유엔의 정신에 맞춰 알파벳/구글 및 마이크로소프트의 임원, 최소 한 명의 "디지털 인류학자", 다수의 교수 및 정부 관료를 포함하는 38명으로 구성된 이 그룹은 긍정적이고 건설적인 입장을 취하며 국제 발전에 초점을 맞추는 고위급 그룹입니다.
안토니오 구테흐스 UN 사무총장은 이 그룹의 목표에 대해 "AI는 놀라운 인류 발전을 이끌 수 있습니다. 위기 예측 및 대응부터 공중 보건 프로그램 및 교육 서비스 출시에 이르기까지 AI는 정부, 시민 사회 및 UN의 업무를 전반적으로 확대하고 향상시킬 수 있습니다"라고 말했습니다. "개발도상국의 경우 AI는 오래된 기술을 뛰어넘어 가장 필요한 사람들에게 직접 서비스를 제공할 수 있는 가능성을 제공합니다. AI의 혁신적인 잠재력은 파악하기조차 어렵습니다."
유엔은 "선을 위한 인공지능"을 넘어 더 중요한 탐사에 포함될 수 있는 그룹의 "가교" 역할을 언급했습니다. Gary Marcus는 9월 Disrupt 컨퍼런스에서 인공지능의 위험성에 대해 이야기하기 위해 노변담화에 참여했습니다. 생성 인공 지능과 같은 분야의 새로운 혁신은 의심할 여지 없이 이 기술을 대중 시장의 중심으로 밀어붙였지만 Marcus의 과제에 대한 설명은 다음과 같은 몇 가지 더 우려되는 측면도 강조합니다.
"AI에 대한 나의 가장 큰 단기적 우려는 대량 생산된 잘못된 정보, 고의적인 잘못된 정보가 민주주의를 훼손하고 일어나는 모든 종류의 일을 훼손한다는 것입니다. 나의 가장 큰 장기적 우려는 우리가 현재 구축되고 있는 AI를 어떻게 제어할지 모르고, 미래에 구축되고 있는 AI를 어떻게 제어할지 모른다는 것입니다. 그래서 우리는 기계가 우리가 의도하지 않은 모든 종류의 일을 하게 만들 위험이 있습니다."