비즈니스, 정치 및 기타 분야의 세계 주요 인사 100명 이상이 글로벌 지도자들에게 인공 지능, 기후 변화, 전염병 및 핵전쟁을 포함한 현재와 미래의 실존적 위협에 대처할 것을 촉구하는 공개 서한에 서명했습니다. 목요일에 발표된 서한은 넬슨 만델라 전 남아프리카 대통령이 설립한 NGO인 The Elders와 삶에 유익을 주고 대규모 위험을 피할 수 있는 혁신적인 기술을 안내하는 것을 목표로 하는 비영리 조직인 Future of Life Institute에서 나왔습니다.
서한에 서명한 사람으로는 억만장자 버진그룹 창립자인 리처드 브랜슨, 반기문 전 유엔 사무총장, 찰스 오펜하이머(로버트 오펜하이머의 손자) 등이 있다. 이 서한에는 전직 대통령과 총리, 활동가, CEO, 창립자, 교수들도 서명했습니다.
편지는 "우리 세계는 심각한 위험에 처해 있다"고 시작한다. "우리는 인류 전체를 위험에 빠뜨리는 일련의 위협에 직면해 있습니다. 우리 지도자들은 필요한 지혜와 긴급함으로 대응하지 못하고 있습니다."
편지에는 기후 변화, 전염병, 핵무기를 사용한 전쟁 등 현재 위협이 되고 있는 사례가 언급되어 있습니다. 편지에는 특히 관리되지 않는 AI와 관련된 새로운 위협의 범위를 아직 알지 못하기 때문에 최악의 시나리오가 발생할 수 있다고 명시되어 있습니다.
"장기적으로 리더십을 발휘한다는 것은 어려운 문제를 단지 관리하는 것이 아니라 해결하겠다는 의지를 보여주고, 과학적 증거와 이성을 바탕으로 결정을 내리는 지혜를 보여주고, 영향을 받는 모든 사람들의 목소리를 듣는 겸손함을 보여주는 것을 의미합니다."
서한은 정부가 화석 연료에서 청정 에너지로의 전환에 자금을 조달하는 방법에 대한 합의, 핵전쟁 위험을 줄이기 위한 군비 통제 협상 재개, 공정한 전염병 조약 작성과 같은 특정 항목에 동의할 것을 촉구합니다. 인공 지능과 관련하여 우리는 이 기술을 통제할 수 없는 위험이 아닌 선의의 힘으로 만들기 위해 필요한 거버넌스 메커니즘을 확립하라는 조언을 드립니다.
Skype 공동 창립자인 Jaan Tallinn과 함께 Future of Life Institute를 공동 설립한 MIT 우주학자 Max Tegmark는 CNBC와의 인터뷰에서 장로교와 그 조직은 인공 지능을 '악'으로 보지 않지만, 잘못된 손에서 빠르게 발전하면 파괴적인 도구로 사용될 수 있다고 우려하고 있다고 말했습니다.
미래생명연구소(Future of Life Institute)는 지난해 첨단 인공지능 개발에 대한 6개월 유예를 요구하는 공개 서한을 발표하기도 했다. 이 편지에는 애플 공동 창업자인 스티브 워즈니악, 일론 머스크, 핀터레스트 공동 창업자 에반 샤프 등 1100명이 서명했다. 편지는 원하는 효과를 얻지 못했습니다. AI 기업은 개발 속도를 늦추지 않았을 뿐만 아니라 실제로 많은 기업이 고급 AI 개발 속도를 가속화했습니다.
인공지능을 핵전쟁과 비교하는 것은 새로운 것이 아니다. 지난 5월 전문가와 CEO들은 이 기술로 인한 멸종 위험에 대해 경고했습니다. ChatGPT를 만든 OpenAI도 인간보다 똑똑한 인공지능이 인류를 멸종시킬 수 있다고 말합니다.