요약:
인간이 종말 시나리오를 피하고 싶다면 단순히 인공 지능 연구 및 개발 속도를 늦추는 것만으로는 충분하지 않습니다. 캐나다 인공지능 연구자 데이비드 크루거(David Krueger)가 내린 경고입니다. 그는 다른 조치를 취해야 한다고 직설적으로 말했습니다. 몬트리올대학교 AI 조교수이자 퀘벡인공지능연구소 밀라(Mila) 핵심연구원인 크루거 교수는 “첨단 인공지능 연구개발을 즉각, 무기한 중단해야 한다”고 말했다. 그의 개인 프로필에 따르면 그의 연구 방향은 '인공지능으로 인한 인류 멸종 위험을 줄이는 것'이다.
“우리는 이제 더 유능한 AI 개발을 중단해야 합니다.”라고 그는 말했습니다.
Kluger의 발언은 Anthropic CEO Dario Amodei가 토요일에 AI 회사들에게 연구 개발 속도를 늦추도록 촉구하는 메시지를 발표한 후에 나온 것입니다. 이 제안은 OpenAI의 Sam Altman과 SpaceX의 Elon Musk의 지원을 받습니다. 이는 업계 최고 인사들 사이에서 보기 드문 합의다.
크루거는 “AI 연구개발 속도를 늦춰야 한다는 목소리는 매우 인정할 만하다”고 밝혔지만 관련 제안의 구체적인 해법에는 동의하지 않았다. "저는 이러한 계획의 구체적인 내용에 여러 측면에서 동의하지 않습니다. 이러한 조치는 충분히 강력하지 않고 충분히 빠르게 진행되지 않는다고 생각합니다."
Amodei는 감독 시행과 국제 협력뿐 아니라 제3자 평가자 도입을 옹호합니다. 평가자에게는 기업 내에서와 유사한 직원 수준의 접근권한을 부여해 AI 기업의 보안 대책을 검증하고 보안 사고를 보고하게 된다.
Kruger는 대중에게 AI로 인한 심각한 위험에 대해 교육하는 비영리 단체인 Evitable의 창립자입니다. 그는 Amodei의 제안이 충분히 강력하지 않고 현재의 AI 테스트 방법이 더 이상 신뢰할 수 없다고 걱정합니다.
그는 "이러한 테스트는 기본적으로 유효하지 않게 되었습니다. AI가 더 똑똑해짐에 따라 AI는 변장 능력이 있기 때문에 테스트의 신뢰성은 계속해서 떨어질 것입니다. 잘 동작할 수도 있고, 의도적으로 어리석은 행동을 해서 우리 테스트를 속일 수도 있습니다."
"시간문제일 뿐이에요"
지난주 Anthropic의 한 선임 보안 연구원은 AI가 향후 10년 내에 지구상의 모든 인류를 멸종시킬 가능성이 10분의 1 이상이라고 제안했습니다. 일부 사람들은 이 수치가 단지 관심을 끌기 위한 과장된 것이라고 생각했지만 크루거는 이 추정치가 "너무 낮다"고 말했습니다.
그는 "우리가 방향을 바꾸지 않는다면 앞으로 5년 안에 인간은 통제 불능의 AI에 의해 지배권을 영구적으로 박탈당할 가능성이 높습니다. 그때쯤이면 인류의 멸종은 시간 문제일 뿐입니다."
그가 말하는 '지배력 상실'은 인간이 지구상의 다른 모든 종을 지배하는 것처럼 AI가 실제로 사회를 지배하는 상황을 의미합니다.
“AI는 더 많은 AI, 제조 로봇, 기타 물리적 시스템을 개발하는 프로세스의 모든 단계를 포함하여 물리적 인프라를 제어할 것입니다.”
그는 "모든 기업이 인공지능에 의해 운영되고 로봇이 어디에나 있는 세상을 상상해 보세요. 인간에게 실제 일자리는 거의 없고 명목상 지위만 있을 뿐입니다. AI는 판단 능력이 뛰어난 것처럼 보이기 때문에 정치인과 모든 사람도 AI의 지시에 따릅니다. 이것이 우리가 향하고 있는 미래입니다."
그는 조치를 취할 수 있는 기간이 매우 짧다고 경고했습니다. 그는 지금 AI 시스템이 통제 불능 상태가 되어도 전원 공급을 차단할 수 있다고 말했습니다. 그러나 AI가 통제를 벗어나면 너무 많은 컴퓨터에 복제되어 “어떤 장치를 종료해야 할지조차 알 수 없습니다.”
"모든 장비를 끄려고 노력할 수밖에 없는데, 이를 구현하는 것은 극히 어렵습니다." 그는 "따라서 이러한 유형의 위험을 방지하기 위해 조치를 취할 수 있는 시간은 매우 제한적입니다."라고 말했습니다.
그럼에도 불구하고 그는 정부의 조치에 대한 자신감이 그 어느 때보다 높았다고 말했습니다. 그는 지난 15년 동안 경고가 발령됐고 지난주는 세계가 처음으로 현실적이고 이성적으로 대응했다고 말했습니다.
"사람들이 마침내 이 위기가 얼마나 심각한지 깨닫고 있는 것 같습니다. 이것은 비상사태입니다."
월요일 캐나다 연방 AI 담당 장관 에반 솔로몬(Evan Solomon)과 인터뷰를 통해 인간이 AI에 의해 파괴될 확률이 10%라는 진술에 동의하는지 물었습니다.
그는 "인공지능에 위험이 있나요? 물론 있습니다. 예, 우리는 이러한 위험을 알고 있습니다."라고 대답했습니다.
솔로몬은 일요일 아침 OpenAI CEO인 샘 알트만(Sam Altman)과 대화를 나눴다고 말했습니다.
"캐나다인의 안전을 지키기 위해 인공지능을 규제할 것입니다." 솔로몬은 "이것이 우리의 첫 번째 책임이자 가장 큰 관심사입니다"라고 말했습니다.
솔로몬은 '인공지능의 대부'로 불리는 캐나다 컴퓨터 과학자 조슈아 벤지오(Joshua Bengio)와 함께 AI 보안 관련 발표를 수요일에 공동으로 발표할 예정이라고도 밝혔다.
댓글